Porque razones alucinan los LLMs?
Los LLMs “alucinan” por al menos cuatro razones, de lo técnico a lo filosófico:
1. Razón estadística: no distinguen lo verdadero de lo verosímil. Para Kalai et al. (OpenAI, 2025), la alucinación no es un misterio: es un error de clasificación binaria; si los enunciados falsos no pueden distinguirse de los hechos, la alucinación surge por presiones estadísticas naturales. Por eso el modelo es fiable en regularidades bien representadas (gramática, estilo), pero tiende a inventar detalles en hechos raros o arbitrarios, incluso con datos perfectamente limpios. Ejemplo cuantitativo: si el 20% de las fechas de cumpleaños aparece una sola vez en los datos, cabe esperar que el modelo base alucine en al menos el 20% de ellas.
2. Razón normativa: se le premia por adivinar. El entrenamiento y la evaluación recompensan adivinar en lugar de reconocer incertidumbre, como un estudiante en un examen tipo test: la mayoría de métricas penalizan expresar duda, así que optimizar benchmarks fomenta el farol.
3. Razón de principio: un límite computacional. Xu, Jain y Kankanhalli (2024) definen la alucinación como inconsistencia entre un LLM computable y una función de verdad computable, y muestran que ningún LLM puede aprender todas las funciones computables, por lo que siempre alucinará (argumento diagonal, al estilo Cantor/Turing). Matiz: hay réplicas que sostienen que esa inevitabilidad vale en un conjunto infinito de entradas, pero podría hacerse estadísticamente despreciable en la práctica.
4. Razón ontológica: no hay intención de verdad. Hicks, Humphries y Slater (2024) proponen que esto se entiende mejor como bullshit en sentido de Frankfurt: los modelos son, de un modo importante, indiferentes a la verdad de lo que producen. Mentir exige conocer la verdad; el LLM ni la oculta ni la busca. De ahí su crítica a “alucinación” como término antropomorfizante: presupone una percepción correcta que falla, cuando el sistema solo modela probabilidades del lenguaje.
Síntesis: la alucinación no es un fallo accidental sino la sombra estructural de un sistema cuyo criterio es la plausibilidad, no la verdad. Se puede reducir (premiando la abstención calibrada, usando recuperación de fuentes), pero no eliminar por completo.
Sources: - Kalai et al., Why Language Models Hallucinate (arXiv 2509.04664) - Xu, Jain, Kankanhalli, Hallucination is Inevitable (arXiv 2401.11817) - Suzuki et al., Hallucinations are inevitable but can be made statistically negligible (arXiv 2502.12187) - Hicks, Humphries, Slater, ChatGPT is bullshit, Ethics and Information Technology 26 (2024)
Estrategias para evitarla
No se puede eliminar, pero se puede reducir atacando cada una de las causas:
1. Anclar en fuentes (contra la causa estadística). Si el modelo no “sabe” un hecho raro, dárselo en el contexto. Con generación aumentada por recuperación (RAG), respaldar la respuesta en conocimiento recuperado reduce las respuestas alucinadas en más de un 60% respecto a modelos sin recuperación, según evaluación humana (Shuster et al., 2021). El fallo pasa entonces a depender de la calidad de la fuente.
2. Premiar la abstención (contra la causa normativa). Kalai et al. proponen revisar los benchmarks para recompensar la abstención calibrada, y decir explícitamente en el prompt o la evaluación cuánto se penaliza un error confiado. Es una solución institucional: cambiar el examen, no al alumno.
3. Autoverificación (deliberación). Chain-of-Verification: el modelo redacta, planifica preguntas de comprobación, las responde por separado para no sesgarse y genera una versión verificada. Ejemplo: tras incluir a Hillary Clinton entre los políticos nacidos en Nueva York, el modelo se pregunta dónde nació, responde “Chicago” y la elimina.
4. Medir la incertidumbre (detección). La entropía semántica (Farquhar et al., Nature, 2024) mide la incertidumbre sobre el significado de las respuestas, no sobre las palabras. Si varias respuestas a la misma pregunta dicen cosas distintas, el modelo está confabulando; si coinciden en sentido, probablemente no.
Como usuario, en la práctica: - Pide fuentes y verifícalas (activar búsqueda web ayuda). - Autoriza explícitamente el “no lo sé”. - Repite la pregunta: la inconsistencia es una señal. - Desconfía más de datos raros: fechas, citas, referencias bibliográficas, nombres poco conocidos.
Matiz filosófico: todas estas estrategias añaden desde fuera lo que el modelo no tiene por dentro: una relación con la verdad. RAG aporta el mundo, la verificación aporta la duda y la abstención aporta los límites. Es corrección epistémica externa, no conversión del bullshitter en testigo.
Sources: - Shuster et al., Retrieval Augmentation Reduces Hallucination in Conversation (EMNLP Findings 2021) - Dhuliawala et al., Chain-of-Verification Reduces Hallucination in LLMs (ACL Findings 2024) - Farquhar et al., Detecting hallucinations in LLMs using semantic entropy, Nature 630 (2024) - Kalai et al., Why Language Models Hallucinate (2025)