IA Informer.

Una Intel Arc Pro B70 de 32 GB se queda a mitad de rendimiento de una RTX 5090 en Qwen 3.8-27B, pero por una quinta parte del precio

Una prueba compartida por un usuario de la comunidad de modelos locales sugiere que una Intel Arc Pro B70 de 32 GB puede acercarse a la mitad del rendimiento de una NVIDIA RTX 5090 en Qwen 3.8-27B, tras ajustar la pila de software. El interés de la comparación está tanto en la velocidad como en el precio: la tarjeta de Intel se compró por 1.299 dólares, mientras que la 5090 se sitúa en la publicación en torno a 6.550 dólares o más.

Ilustración editorial sobre Una Intel Arc Pro B70 de 32 GB se queda a mitad de rendimiento de una RTX 5090 en Qwen 3.8-27B, pero por una quinta parte del precio
Imagen editorial generada para IA Informer.

La comparación no es una prueba independiente de laboratorio, sino una experiencia de usuario con su propio equipo y con cifras de la RTX 5090 tomadas de otras publicaciones. Aun así, deja una idea bastante clara: en inferencia local, el coste por gigabyte de VRAM y el soporte de software pueden pesar casi tanto como el rendimiento bruto.

Qué ha medido exactamente

La prueba se hizo con Qwen3.8-27B en cuantización Q6, un prompt de unas 3.000 fichas y MTP activado. Según los datos publicados, la Arc Pro B70 alcanzó unas 960 fichas por segundo en procesamiento de prompt y unas 52 fichas por segundo en generación, mientras que la RTX 5090 llegó a unas 2.830 y 98 fichas por segundo, respectivamente. En esa configuración, la tarjeta de Intel se queda en torno a la mitad de la velocidad de generación y en torno a un tercio del *prefill* de la 5090, por aproximadamente una quinta parte del precio citado.

El autor precisa además que los números de la 5090 no proceden de su máquina, sino de publicaciones ajenas encontradas en discusiones de Hugging Face. Eso vuelve útil la comparación como referencia orientativa, pero no como una validación controlada entre ambas plataformas bajo las mismas condiciones.

La mejora depende mucho de la pila de software

La parte más relevante de la publicación no es la cifra inicial, sino cuánto mejora la Arc Pro B70 cuando se ajusta el entorno. El autor dice que, con la configuración base en Ollama y Mesa 25.2, obtenía 137 fichas por segundo en *prompt* y 6,8 en generación a 16K de contexto. Tras subir a Mesa 26.2, cambiar el tipo de KV cache y finalmente pasar a `llama.cpp` con SYCL, los números mejoraron con fuerza: hasta 908/49 en 16K y 913/40 en 64K con KV en f16, y 1.032/56,5 en 16K cuando combina SYCL, KV q8_0 y MTP a 4.

Ese salto apunta a una conclusión práctica: el hardware por sí solo no explica el resultado. En este tipo de equipos, el controlador gráfico, la versión de Mesa, la ruta de cómputo y el tipo de caché influyen de forma directa en el rendimiento final. La publicación insiste en que, en Vulkan, los KV cuantizados penalizan mucho la generación y castigan especialmente los contextos largos; en cambio, con SYCL esa penalización desaparece y la VRAM disponible se aprovecha mejor.

El cuello de botella de los contextos largos

Uno de los datos más llamativos es el tiempo hasta el primer token con contextos largos. El autor afirma que un prompt de 215.000 tokens tardó 1,9 horas en producir el primer token con Ollama y Vulkan, frente a 8,6 minutos con SYCL. También explica que, al pasar a SYCL, pudo usar KV q8_0 sin el castigo de velocidad que veía en Vulkan, además de activar MTP con `--spec-type draft-mtp --spec-draft-n-max 4`.

Para quien trabaje con modelos grandes en local, este matiz importa mucho: una tarjeta puede parecer válida en generación corta y volverse poco práctica en sesiones largas si la pila no está afinada. En la misma publicación se indica que, con Vulkan, la tarjeta no aprovechaba toda la VRAM visible por defecto, mientras que con SYCL sí la utilizaba mejor; después, el propio autor aclara que en Vulkan también podía forzarse con `--fit off` y un contexto suficiente.

Qué puede sacar de esto un comprador

La conclusión que propone el usuario es bastante simple: NVIDIA sigue siendo la referencia si lo que se busca es el máximo rendimiento, el ecosistema más maduro y menos fricción de software; pero en precio por capacidad de memoria, una Arc Pro B70 de 32 GB puede ser una alternativa muy seria si se acepta ajustar drivers, kernel y backend.

Ese argumento cobra más peso porque la publicación también recuerda que la B70 sirve para otras cargas creativas, como render y simulación, no solo para modelos de lenguaje. Además, el propio autor señala que el precio del modelo Intel subió con rapidez: dice que lo vio en Amazon a 1.800 dólares poco después de comprarlo por 1.300, lo que reduce parte del atractivo de la relación coste-rendimiento.

Hay otra advertencia implícita: la comparación se hizo en una máquina antigua, con un Threadripper 1950X, 128 GB de DDR4 y una placa base PCIe 3.0. No es un escenario de referencia universal, pero sí un recordatorio de que la inferencia local depende tanto de la GPU como del resto del sistema y de la paciencia para ajustar detalles que no siempre aparecen en una ficha de producto.

La duda que queda abierta es cuánto de esta mejora depende del avance real del software de Intel y cuánto de una configuración especialmente afinada. La publicación promete más tablas y comandos, así que el siguiente paso útil es ver si esas cifras se sostienen en otras máquinas y con otras cargas de trabajo.