IA Informer.

Cómo acercar la búsqueda con modelos locales a la experiencia de ChatGPT y Codex

La discusión parte de una queja muy concreta: con Crawl4AI y SearXNG, la búsqueda para modelos locales devuelve resultados más pobres, más viejos o menos relevantes que los de ChatGPT o Codex. La conclusión que más se repite es que la diferencia no suele estar en “un mejor prompt”, sino en toda la tubería de búsqueda, lectura, filtrado y reranking que va antes de la respuesta final.

Ilustración editorial sobre Cómo acercar la búsqueda con modelos locales a la experiencia de ChatGPT y Codex
Imagen editorial generada para IA Informer.

Qué está fallando en muchas pilas locales

El caso descrito arranca con una arquitectura bastante habitual en entornos autohospedados: un buscador federado, un rastreador web y un modelo local que redacta la respuesta. Varios participantes apuntan a que esa combinación se queda demasiado a menudo en la capa superficial: devuelve fragmentos breves, llega a sitios bloqueados o mal servidos y no hace suficiente trabajo intermedio antes de pasar la información al modelo. El resultado es que la pila mezcla datos viejos con otros recientes y pierde señales que sí están en las páginas completas.

Una idea recurrente es que SearXNG no es el único problema, pero sí un cuello de botella frecuente cuando los motores upstream detectan tráfico automatizado, limitan peticiones o devuelven resultados degradados. En la conversación se sugiere incluso que, en algunos casos, el fallo no está en el modelo sino en la calidad del material que recibe desde el buscador. Eso encaja con la diferencia que muchos hacen entre una simple búsqueda y un flujo más trabajado de recuperación de información.

El patrón que más se repite: varias búsquedas, lectura completa y reranking

Lo más útil del hilo es que apunta a una receta bastante consistente. Primero, no hacer una sola consulta, sino generar varias. Después, recuperar páginas completas en lugar de depender solo de fragmentos o snippets. Y, por último, meter una fase de reranking para ordenar los resultados antes de que el modelo redacte la respuesta.

Varios comentarios van en esa dirección: dividir la tarea en 3 a 5 búsquedas, ampliar a unas 20 o más resultados por proveedor y después quedarse con unos pocos fragmentos de mayor calidad. También aparece la idea de que el sistema deba iterar: si algo falta, volver a buscar en vez de asumir que la primera pasada ya es suficiente.

El acceso a la web importa tanto como el modelo

Otra conclusión clara es que el modelo local, por capaz que sea, no corrige por sí solo una recuperación pobre. Si la búsqueda llega sesgada por captcha, bloqueo o motores poco completos, el sistema acaba trabajando con una base incompleta. Por eso varias respuestas recomiendan combinar SearXNG con alternativas de pago o con métodos que permitan acceder a las páginas con menos fricción, como proxies residenciales, navegadores automatizados o servicios de búsqueda externos.

También se señala que, en entornos más cercanos a los de los asistentes comerciales, la búsqueda no funciona como un único componente aislado, sino como parte de una infraestructura más amplia, con varias etapas y permisos mejor integrados. En esa comparación, la diferencia práctica es que el usuario no ve solo una búsqueda, sino un flujo completo de recuperación, lectura y decisión.

Qué ajustes prácticos se sugieren

En el hilo aparecen varias recomendaciones operativas que tienen sentido como punto de partida. La primera es añadir un reranker entre la búsqueda y el modelo, porque de lo contrario el sistema se queda con demasiado ruido. La segunda es forzar filtros de fecha para reducir la probabilidad de que el agente arrastre resultados antiguos. La tercera es hacer que el sistema lea las páginas completas y no solo los resúmenes del buscador. También se sugiere pedirle al modelo que genere varias consultas distintas antes de empezar a razonar.

Hay además una observación importante: cuanto menor es el modelo, más daño hace el ruido. Una pila local con contexto mal curado puede degradarse más rápido que una solución cerrada porque el modelo dedica capacidad a procesar material mediocre en vez de concentrarse en señales útiles. Por eso algunos participantes recomiendan limitar el número de fragmentos que entran en contexto y priorizar calidad frente a cantidad.

Lo que sigue sin resolverse

La conversación no ofrece una receta universal ni una configuración cerrada de Crawl4AI y SearXNG que lo arregle todo. Lo que sí deja bastante claro es que el salto hacia una experiencia parecida a la de ChatGPT o Codex depende menos de cambiar de modelo local y más de construir una tubería más ambiciosa: búsquedas múltiples, acceso robusto a la web, lectura completa, reranking y control de fecha. Sin esa capa, el agente seguirá viendo la red con demasiado poco contexto.