Qué se ha medido
La publicación describe pruebas con una cuantización ISTA IQ3_S y tres contextos: 60K, 120K y 198K tokens. En ese escenario, Speedy registra tiempos totales de intercambio de 23,9, 37,0 y 56,1 segundos, frente a 32,1, 52,0 y 81,5 segundos de Avalon. En lectura, también marca ventaja: 4.389, 4.622 y 4.494 tokens por segundo, frente a 2.678, 2.849 y 2.779 en Avalon. En escritura, los valores están más cerca, pero Speedy vuelve a adelantar en las tres pruebas: 110,0, 105,8 y 104,3 tokens por segundo, frente a 102,5, 101,6 y 103,0.
Lo más llamativo no es solo la diferencia de velocidad, sino el tamaño del salto en el tiempo total. Según los datos compartidos, Speedy reduce la duración de la sesión entre un 26% y un 31% respecto a Avalon y, frente a Strata, llega a acortar el intercambio en un 64% a un 72%. En lectura, además, la ventaja relativa sobre Strata es todavía mayor.
Qué significa realmente la comparación
La lectura importante aquí es más limitada de lo que sugiere el titular. El resultado no dice que Speedy sea mejor en términos absolutos, ni que sea la mejor opción para cualquier hardware o cualquier modelo. Solo indica que, en esta máquina concreta y con esta cuantización, ese usuario ha obtenido mejores tiempos con Speedy que con Avalon y Strata. La propia conversación en el hilo recuerda que algunos motores de inferencia aplican optimizaciones agresivas para ganar velocidad, y que eso puede implicar cambios de precisión o recortes internos difíciles de detectar a simple vista.
Esa advertencia importa porque el contexto de uso es muy específico: una RTX 4090, 128 GB de RAM DDR5 y un Ryzen 9 7950X. No hay indicios en la publicación de que el comportamiento vaya a replicarse igual en otras GPU, en otros sistemas operativos o con otras cuantizaciones. Tampoco hay, en el material compartido, un contraste con una referencia de calidad más allá de la velocidad.
Por qué interesa a quien trabaja con modelos locales
Para quien monta inferencia local, este tipo de comparativas sí tiene valor práctico. En modelos grandes y contextos largos, el cuello de botella no siempre está en generar tokens nuevos: muchas veces aparece antes, al procesar el prompt largo y preparar la caché de contexto. En las cifras publicadas, Speedy destaca precisamente en ese tramo de lectura, que es donde más se nota la diferencia entre un sistema que responde aceptablemente y otro que convierte una sesión larga en una espera mucho más pesada.
Aun así, la utilidad de estos datos depende de dos comprobaciones que no aparecen resueltas en la publicación. La primera es si la mejora mantiene una calidad equivalente de respuesta; la segunda, si el motor conserva ese rendimiento con otras cargas o en modelos distintos. Un comentario del hilo recomienda incluso revisar la divergencia con logits de referencia para detectar si un motor está acelerando a costa de alterar el comportamiento del modelo. Esa observación no invalida la prueba, pero sí obliga a leerla como lo que es: una pista interesante, no una prueba definitiva.
Lo que sigue sin saberse
Faltan varios datos para poner esta comparación en contexto con rigor. No se especifica, por ejemplo, si los resultados se repitieron varias veces, cuál fue la variabilidad entre ejecuciones, qué versión exacta de cada motor se usó o qué ajustes de precisión y optimización estaban activos en cada caso. Tampoco hay una verificación externa que permita saber si la diferencia responde a una mejora de Speedy, a una configuración especialmente favorable o a una combinación de ambas.
Por ahora, lo único confirmado es que un usuario ha publicado una tabla en la que Speedy supera a Avalon en lectura, escritura y tiempo total al trabajar con Qwen3.8 FN en una máquina doméstica de gama alta. Lo que falta es una réplica independiente que permita saber si esa ventaja se mantiene fuera de este único montaje.
