¿Qué es una alucinación de un modelo de IA y cómo limitarla?

Una alucinación es una respuesta que suena segura y verosímil pero es falsa o no se apoya en ninguna fuente: una cita inventada, un estudio que no existe, una fecha o un precio erróneos. El modelo no miente a propósito. Genera la continuación más probable del texto y, cuando no sabe algo, a menudo adivina.

En un artículo publicado en septiembre de 2025, investigadores de OpenAI sostienen que el entrenamiento y la evaluación premian adivinar por encima de reconocer la incertidumbre, como un examen que no da puntos por «no lo sé».

Qué reduce las alucinaciones en la práctica:

• permitir de forma explícita que el modelo diga que no lo sabe;
• darle el texto de partida y pedirle que responda solo a partir de él;
• con documentos largos, pedir primero citas literales y después el análisis;
• exigir una fuente para cada afirmación y descartar las que no la tengan;
• comprobar tú mismo nombres, cifras y fechas antes de publicar.

La búsqueda web y RAG ayudan, pero trasladan el problema a la calidad de las fuentes en lugar de resolverlo.