作話
kon-fab-yoo-LAY-shun
Also known as: hallucination
定義
作話は、Geoffrey HintonがAI「ハルシネーション」に好む用語です - モデルがもっともらしく聞こえるが不正確な情報を生成する現象。Hintonは、この用語が人間も同じことを行うことをよりよく反映していると主張します。
なぜハルシネーションではなく作話なのか?
「ハルシネーション」は存在しないものを見ることを意味します - 病理学的状態。「作話」は記憶構築のための心理学用語であり、これは正常な人間の行動です。
“Hallucinations should be called confabulations - we do them too.” — Geoffrey Hinton
「ハルシネーションは作話と呼ぶべきです - 私たちもそれを行います。」 — Geoffrey Hinton
ジョン・ディーンの例
Hintonは人間が作話することの証明としてウォーターゲート証言を使用します:
ジョン・ディーンはニクソンとの会議について宣誓の下で証言しました。彼は真実を語ろうとしていましたが、「膨大な数の詳細について間違っていた」—決して起こらなかった会議、誤って帰属された引用。しかし「彼が言ったことの要旨はまさに正しかった」。
記憶が実際にどう機能するか
人間もLLMもファイルのように情報を保存しません:
“We don’t store files and retrieve them; we construct memories when we need them, influenced by everything we’ve learned since.”
「私たちはファイルを保存して取得するのではなく、必要なときに記憶を構築します。それ以降に学んだすべてのことに影響されます。」
この構築プロセスはエラーを導入する可能性があります - 人間の偽記憶とAI作話の両方の背後にある同じメカニズムです。
意味
- 作話は正常 - AIに固有のバグではない
- 検証が重要 - 人間とAIの両方の出力について
- 信頼度較正 - 本当の問題は作話しているときにそれを知らないこと
関連用語
Mentioned In
Geoffrey Hinton
Hallucinations should be called confabulations - we do them too. We don't store files and retrieve them; we construct memories when we need them.