Halucynacja
Situación en la que el modelo afirma con convicción algo falso: una fecha inventada, una cita, una fuente. Por eso, verifica los hechos.
La alucinación es una situación en la que el modelo afirma con total convicción algo falso: una fecha inventada, un libro inexistente, una cita fabricada o una norma legal. No es una "mentira" - el modelo no conoce el concepto de verdad, genera texto estadísticamente probable, y lo probable a veces es falso. Las alucinaciones son la principal debilidad de los modelos lingüísticos en aplicaciones factográficas. Las limitan el grounding y RAG, los modos con búsqueda y pedir fuentes - pero ninguna técnica las elimina por completo. Regla práctica: cuanto más importante la decisión, más rigurosamente verifica la respuesta.