Alucinaciones: por qué ocurren y qué ayuda de verdad
El origen del problema
El modelo produce la continuación más plausible, no la verdad. Cuando no tiene base, la salida sigue pareciendo segura, y eso es exactamente el peligro: el error no parece un error.
Cuatro cosas que ayudan
Adjunta una fuente relevante a la indicación en vez de depender de la memoria del modelo.
Exige una cita de la fuente para cada afirmación, y verifica en el código que la fuente existe en el material proporcionado.
Da una forma explícita de decir 'no hay respuesta en el material', y recompénsala con ejemplos.
Verifica los hechos discretos —números, fechas, identificadores— contra una fuente de verdad estructurada, no contra texto.
Qué no ayuda
Escribir 'no inventes' en la indicación. Eso es una petición, no un mecanismo. Las declaraciones de confianza del modelo tampoco son una medida fiable: son parte de la salida, no una medición de ella.
En profundidad
Construye una categoría de prueba dedicada de preguntas sin respuesta en el material, y mide con qué frecuencia el sistema dijo que no la había. Es la métrica que casi siempre se olvida, y la que decide si puedes confiar en el sistema en el uso real.