Confabulation
kon-fab-yoo-LAY-shun
Also known as: hallucination
Définition
La confabulation est le terme préféré de Geoffrey Hinton pour les “hallucinations” d’IA - le phénomène où les modèles génèrent des informations plausibles mais incorrectes. Hinton soutient que le terme reflète mieux le fait que les humains font la même chose.
Pourquoi confabulation et non hallucination ?
“Hallucination” implique de voir des choses qui n’existent pas - une condition pathologique. “Confabulation” est un terme psychologique pour la construction de souvenirs, qui est un comportement humain normal.
“Hallucinations should be called confabulations - we do them too.” — Geoffrey Hinton
“Les hallucinations devraient être appelées confabulations - nous en faisons aussi.”
L’exemple de John Dean
Hinton utilise le témoignage du Watergate comme preuve que les humains confabulent :
John Dean a témoigné sous serment sur des réunions avec Nixon. Il essayait de dire la vérité, mais s’est “trompé sur un grand nombre de détails” - des réunions qui n’ont jamais eu lieu, des citations mal attribuées. Pourtant “l’essentiel de ce qu’il a dit était exactement juste.”
Comment fonctionne réellement la mémoire
Ni les humains ni les LLM ne stockent l’information comme des fichiers :
“We don’t store files and retrieve them; we construct memories when we need them, influenced by everything we’ve learned since.”
“Nous ne stockons pas de fichiers et ne les récupérons pas ; nous construisons des souvenirs quand nous en avons besoin, influencés par tout ce que nous avons appris depuis.”
Ce processus de construction peut introduire des erreurs - le même mécanisme derrière à la fois les faux souvenirs humains et les confabulations d’IA.
Implications
- La confabulation est normale - ce n’est pas un bug propre à l’IA
- La vérification compte - pour les productions humaines et d’IA
- Calibration de la confiance - le vrai problème est de ne pas savoir quand on confabule
Termes connexes
- Hallucination - Le terme commun (mais sans doute trompeur)
- Grounding - Connecter les résultats à des sources vérifiées
Mentioned In
Geoffrey Hinton
Les hallucinations devraient être appelées confabulations - nous en faisons aussi. Nous ne stockons pas de fichiers et ne les récupérons pas ; nous construisons des souvenirs quand nous en avons besoin.