¿Qué es RAG y para qué se conecta el modelo con una base de conocimiento?

RAG (retrieval-augmented generation, generación aumentada por recuperación) significa que el modelo busca primero los pasajes relevantes en tus propios documentos y solo después redacta la respuesta usando esos pasajes como fuente. En lugar de depender solo de lo que memorizó durante el entrenamiento, recibe en el prompt material concreto y actualizado.

Un montaje típico tiene tres pasos:

• los documentos se dividen en fragmentos y se indexan, normalmente como vectores (embeddings);
• para cada pregunta, un buscador interno recupera los pocos fragmentos que mejor encajan;
• el modelo responde a partir de esos fragmentos y puede citarlos.

¿Por qué conectar un modelo a una base de conocimiento? Los datos de entrenamiento tienen una fecha de corte y no incluyen tus archivos internos, tarifas ni manuales. Con RAG se actualiza la base, no el modelo, y cada respuesta puede remitir a su fuente, lo que facilita detectar errores. El método lo describieron en 2020 Patrick Lewis y sus colegas (Facebook AI Research, UCL, NYU). RAG reduce el riesgo de respuestas inventadas, pero no lo elimina: si la búsqueda trae el pasaje equivocado, la respuesta también lo será.