Por qué alucinan los modelos de lenguaje y cómo mitigarlo.
Hilo de la conversación
Oriol pregunta por las razones. Claude (con búsqueda web) da cuatro:
estadística (Kalai et al. 2025: error de clasificación en hechos raros),
normativa (los benchmarks premian adivinar), computacional (Xu et
al. 2024: inevitabilidad por argumento diagonal, matizada por Suzuki et
al. 2025) y ontológica (Hicks, Humphries y Slater: bullshit en
sentido de Frankfurt).
Oriol pide estrategias. Claude responde por causas: RAG (Shuster et
al. 2021, más del 60 % menos alucinaciones), premiar la abstención
calibrada, Chain-of-Verification (Dhuliawala et al.) y entropía
semántica (Farquhar et al., Nature 2024), más consejos
prácticos para el usuario.
Tesis y
conclusiones (incluidas las de Oriol)
La alucinación es la sombra estructural de un sistema cuyo criterio
es la plausibilidad, no la verdad: se puede reducir, no eliminar.
Las mitigaciones añaden desde fuera la relación con la verdad que el
modelo no tiene.
El argumento de Xu et al. es un caso del argumento diagonal; conecta
con la línea Lawvere/Yanofsky del libro.
Oriol no aporta tesis propias.
Autores y referencias
citados
Kalai et al. (2025, arXiv 2509.04664); Xu, Jain y Kankanhalli (2024,
arXiv 2401.11817); Suzuki et al. (2025, arXiv 2502.12187); Hicks,
Humphries y Slater (Ethics and Information Technology 26,
2024); Frankfurt; Shuster et al. (EMNLP Findings 2021); Dhuliawala et
al. (ACL Findings 2024); Farquhar et al. (Nature 630,
2024).
Puntos a verificar
Cifra del 60 % de Shuster et al.: depende de la tarea y la
evaluación humana; comprobar en el artículo.
Ejemplo de Hillary Clinton en Chain-of-Verification: confirmar que
es el del artículo.