Qué ha construido exactamente
La pieza central del experimento es QwenPU, una versión modificada de Qwen3.5-4B que añade un “ordenador” compilado dentro del propio modelo. La ficha del proyecto lo describe como un sistema con una CPU RISC-V de 32 bits, una unidad vectorial y pesos compilados, con etiquetas que apuntan a `risc-v`, `rv32im`, `vector-unit`, `npu`, `compiled-weights` y `gated-deltanet`.
El repositorio enlazado desde el anuncio presenta QwenPU como una ejecución de `stories260k`, el modelo de Andrej Karpathy, dentro de Qwen 3.5-4B. En el texto del anuncio, el autor explica que compiló una NPU dentro de los pesos de Qwen para ejecutar operaciones como multiplicaciones de matrices, *softmax* y atención, y que todo ocurre sin herramientas externas.
El LLM que corre dentro del LLM
La novedad más llamativa es que `stories260k` no se invoca como una herramienta externa ni vive fuera del modelo: se compila dentro de la unidad vectorial de QwenPU. El autor afirma que el programa se ejecuta “dentro de Qwen” y que los pesos del LLM están en la memoria del propio modelo, sin apoyarse en Python ni en utilidades externas para la demo.
La página del modelo también lo presenta como un trabajo emparentado con Qwenputer, otro experimento previo del mismo autor. En esta ocasión, el enfoque añade una NPU con su propia unidad vectorial, de modo que el modelo huésped y el programa invitado comparten el mismo checkpoint y el mismo espacio de pesos.
Qué se puede comprobar y qué queda como afirmación del autor
Lo que sí está documentado es que el modelo y el repositorio están publicados, con licencia Apache 2.0, y que la página del modelo ofrece instrucciones de uso con Transformers, vLLM, SGLang y Docker. También queda claro que se trata de una obra en curso: el autor dice que el write-up completo sigue pendiente y que todavía trabaja en optimizaciones y reducción de tamaño.
La propia presentación deja ver que no es una herramienta cerrada ni un producto de uso general. El autor describe QwenPU como un experimento “aún no pequeño” y avisa de que el modelo completo sigue siendo grande. En la documentación pública no aparece una verificación independiente de sus resultados; por tanto, las descripciones de exactitud y rendimiento deben leerse como afirmaciones del proyecto, no como conclusiones externas.
Por qué importa este experimento
La utilidad práctica inmediata es limitada. No estamos ante un modelo para producción, ni ante una nueva forma de servir LLMs más eficiente para usuarios finales. Lo relevante está en otro sitio: el experimento muestra que un modelo de lenguaje puede usarse como contenedor de lógica computacional mucho más complejo de lo habitual, hasta el punto de alojar otro programa completo en sus pesos.
Eso interesa a quien sigue la investigación en arquitectura de modelos y en la idea de “compilar” comportamiento dentro de los pesos. En este caso, además, la demo intenta mantener el cálculo dentro del propio checkpoint y reducir al mínimo la dependencia de componentes externos. Es una demostración llamativa de ingeniería de modelos, pero todavía lejos de una herramienta generalizable.
Lo que falta por aclarar
La principal pieza pendiente es una descripción técnica más detallada del compilador, de la asignación de memoria y de cómo se traduce exactamente `stories260k` a instrucciones de la unidad vectorial. El autor promete ampliar esa explicación más adelante, junto con más optimizaciones y reducción del tamaño del sistema. Hasta entonces, QwenPU queda como una prueba de concepto útil para medir límites, pero no como una base lista para adopción general.
