Qué resuelve RAG y qué no
RAG (Retrieval-Augmented Generation) conecta un modelo de lenguaje con tu propia base de conocimiento: en vez de responder de memoria, el modelo recupera fragmentos relevantes de tus documentos y responde con base en ellos. Resuelve el problema de las respuestas genéricas o inventadas, pero no es magia: la calidad depende por completo de la recuperación.
La arquitectura mínima
Un RAG serio tiene varias piezas: ingesta y troceado de documentos, generación de embeddings, un almacén vectorial, un recuperador que selecciona los fragmentos más relevantes y el modelo que redacta la respuesta citando fuentes. El error más común es invertir todo en el modelo y descuidar la recuperación, que es donde se gana o se pierde la precisión.
Seguridad: el dato no puede salir sin control
En un contexto empresarial, la seguridad no es opcional. Hay que decidir qué documentos entran, aplicar control de acceso por usuario (que alguien no recupere lo que no debería ver) y, según la sensibilidad, evaluar un LLM privado o local para que el dato no salga de tu infraestructura.
Evaluación: sin métricas, es fe
Un RAG sin evaluación es una caja negra que da respuestas plausibles. Hay que medir: ¿recupera los fragmentos correctos? ¿la respuesta se apoya en las fuentes o alucina? ¿cita bien? Un conjunto de preguntas de prueba con respuestas esperadas convierte "parece que funciona" en algo verificable.
Supervisión humana donde importa
Para decisiones sensibles, el patrón correcto no es automatizar del todo, sino dejar al humano en el circuito: el sistema propone y cita, la persona valida. La IA quita el trabajo mecánico de buscar; el criterio sigue siendo humano.