虚构记忆

定义

虚构记忆（Confabulation） 是 Geoffrey Hinton 对 AI “幻觉”的首选术语——指模型生成听起来合理但实际上不正确的信息的现象。Hinton 认为这个术语更好地反映了人类也会做同样的事情。

为什么是虚构记忆，而不是幻觉？

“幻觉（Hallucination）“意味着看到不存在的东西——一种病理状态。“虚构记忆（Confabulation）“是一个心理学术语，指记忆构建，这是正常的人类行为。

“Hallucinations should be called confabulations - we do them too.” “幻觉应该被称为虚构记忆——我们也会这样做。” — Geoffrey Hinton

John Dean 的例子

Hinton 使用水门事件的证词作为人类虚构记忆的证明：

John Dean 在宣誓后就与尼克松的会面作证。他试图说真话，但在”大量细节上是错误的”——从未发生的会议、错误归因的引语。然而”他所说的要点是完全正确的。“

记忆实际上是如何工作的

无论是人类还是大语言模型都不会像文件一样存储信息：

“We don’t store files and retrieve them; we construct memories when we need them, influenced by everything we’ve learned since.” “我们不会存储文件然后检索它们；我们在需要时构建记忆，受到我们之后学到的一切的影响。”

这个构建过程可能会引入错误——这是人类虚假记忆和 AI 虚构记忆背后的相同机制。

启示

1. 虚构记忆是正常的 - 不是 AI 独有的缺陷
2. 验证很重要 - 对于人类和 AI 的输出都是如此
3. 置信度校准 - 真正的问题是不知道自己何时在虚构记忆

相关术语

• 幻觉 - 常见的（但可以说是误导性的）术语
• 接地 - 将输出连接到经过验证的来源