Etiqueta

#llama.cpp

Noticias relacionadas con llama.cpp.

Modelos

NVIDIA Dory 4B puede ejecutarse con llama.cpp, pero el soporte sigue ligado a una rama concreta

NVIDIA Dory 1.0 4B ya puede probarse con `llama.cpp` siguiendo una guía técnica que fija el commit, el archivo GGUF y los pasos de evaluación. La novedad no es el modelo en sí, sino la forma de reproducirlo y medir cuánt

Leer noticia →

Agentes

Qué modelos y ajustes están usando algunos usuarios para sacar partido a 16 GB de VRAM en IA local

Una conversación en la comunidad de modelos locales recoge varias configuraciones reales para intentar hacer útiles agentes, asistentes personales y herramientas de programación con 16 GB de VRAM. El interés no es teóric

Leer noticia →