Cómo diseñamos asistentes RAG para administraciones locales en 2026: ingestión con LlamaIndex, orquestación con LangGraph, evaluación, costes reales y límites del modelo.
Un chatbot municipal no es un proyecto de IA, es un proyecto de gestión documental con una capa conversacional encima. En Clotitec, partner de nuestro partner de IA, llevamos varios despliegues de asistentes basados en Retrieval-Augmented Generation (RAG) para entornos B2G y la lección recurrente es la misma: el 80% del esfuerzo está en los datos, no en el modelo.
Este artículo describe la arquitectura RAG que usamos en 2026 para asistentes territoriales (ayuntamientos, mancomunidades, oficinas de turismo, consorcios), por qué la elegimos y dónde reconocemos sus límites.
Una administración media gestiona ordenanzas, bandos, pliegos, actas de pleno, BOPs, fichas de procedimiento, formularios y notas de prensa. Esa información vive en PDFs escaneados, gestores documentales heredados, sedes electrónicas y portales de transparencia con esquemas distintos. Un LLM sin acceso a ese corpus alucina; con acceso mal preparado, responde con datos contradictorios o derogados.
RAG resuelve parte del problema: en lugar de fine-tunear un modelo, recuperamos fragmentos relevantes en tiempo de consulta y los pasamos como contexto. Pero RAG no es magia: si el corpus tiene tres versiones de la misma ordenanza, el asistente citará la incorrecta con total seguridad.
Tras evaluar las alternativas dominantes, nuestra pila de referencia combina dos frameworks. Los benchmarks publicados en 2026 sitúan la precisión de recuperación de LlamaIndex alrededor del 92% frente al ~85% de LangChain en pipelines puros, mientras que LangGraph ofrece mejor orquestación de flujos multi-paso. La práctica habitual en producción es usar LlamaIndex para ingestión e indexado y LangGraph para la lógica del agente.
No desplegamos un asistente sin un set de evaluación de al menos 200 preguntas reales extraídas del registro de entrada o de tickets del 010. Sobre ese set medimos:
Si la faithfulness baja del 0,9 en evaluación, no salimos a producción. No publicamos un asistente que invente artículos.
Para un municipio de 30.000 habitantes con ~15.000 consultas mensuales, el coste de inferencia LLM ronda 80-150 € al mes. El almacenamiento vectorial y el OCR previo son inferiores a 30 €. La mayor partida es la curación documental inicial: identificar qué normativa está vigente, depurar versiones obsoletas y mapear procedimientos. Esto es trabajo humano y representa entre el 60% y el 75% del coste del primer año.
Los precios de inferencia cayeron aproximadamente un 80% entre principios de 2025 y principios de 2026. Esto cambia el cálculo: hoy es más barato consultar un LLM que mantener un árbol de decisiones manual, pero el coste de mantener el corpus actualizado no baja.
A partir del 2 de agosto de 2026 se aplican la mayoría de obligaciones del Reglamento (UE) 2024/1689 a sistemas de alto riesgo, y desde 2025 ya rigen las obligaciones de transparencia para chatbots: el ciudadano debe saber que está interactuando con una IA. Para asistentes municipales esto implica:
RAG no convierte un modelo en infalible. Sigue habiendo casos de respuestas confiadas pero incorrectas, especialmente en preguntas que mezclan ordenanzas de distintas épocas o que requieren interpretación jurídica. Por eso nuestras implantaciones siempre incluyen un umbral de confianza por debajo del cual el asistente deriva al funcionario competente, y un panel de revisión semanal de conversaciones para mejorar el corpus.
Si está evaluando un asistente conversacional para su administración, en Clotitec Lab tenemos un piloto reproducible sobre datos públicos. Para ver el resto de nuestras capacidades de IA, visite Plataforma IA o agende una sesión técnica.
Si quiere aplicar esto a su municipio o empresa, hablemos.
