Yejin Choi

Yejin Choiについて

Yejin ChoiはStanford大学の教授でMacArthur Fellowshipの受賞者です。彼女の研究は自然言語処理、コモンセンス推論、現在のAIアプローチの根本的な限界に焦点を当てています。彼女はAI誇大広告の挑発的で厳密な批評で知られています。

研究焦点

Choiの現在の仕事は以下を調べます:

• AIにおける推論 - モデルが実際に何について推論できるか、できないか
• 強化学習 - 多くが主張する魔法の弾丸ではない理由
• コモンセンスAI - 機械に人間のようなコモンセンスを教える
• AIの限界 - 現在のアプローチが根本的にできないことを理解する

注目すべき見解

強化学習について

Choiは、推論のためのRLの興奮にもかかわらず、最終的にはデータに帰着すると主張します:

“This sounds more magical but under the hood this all boils down to synthesizing even more data because that much data is still not good enough and we somehow need to now ask AI to generate more data.”

「これはより魔法のように聞こえますが、フードの下ではこれはすべてさらに多くのデータを合成することに帰着します。それだけのデータではまだ十分ではなく、何らかの形で今AIにより多くのデータを生成するよう求める必要があるからです。」

彼女は、十分な努力で教師あり微調整(OpenThoughtのような)がRLアプローチを打ち負かすことができることを指摘し、RLが根本的に優れていないことを示唆しています。

アブダクティブ推論について

Choiは、AI推論能力の重要なギャップを強調します。モデルは帰納的および演繹的推論を行いますが、アブダクティブ推論 - 部分的な観察から仮説を形成すること - で苦労します:

“Most reasoning - induction and deduction - is regurgitation of the same information that you already had. Whereas abduction is this mental act of coming up with the best possible explanation of your partial observation.”

「ほとんどの推論 - 帰納と演繹 - は、すでに持っていた同じ情報の反芻です。一方、アブダクションは部分的な観察の最良の説明を考え出すこの心的行為です。」

彼女は有名に、Sherlock Holmesの「推論」が実際にはアブダクション - 最良の説明への創造的な飛躍 - であることを指摘します。

AIの根本的な限界について

Choiの最も深い批評は、現在のAIが「インターネットデータの近傍」に限定されているということです:

“Human knowledge is not equivalent to the universe of actual knowledge out there. There are truths about how to cure cancer that are not on the internet. The current way of doing curation of data isn’t going to really teach the model how to come up with personalized drugs that could prevent or cure cancer.”

「人間の知識は、そこにある実際の知識の宇宙と同等ではありません。癌を治す方法についての真実はインターネット上にありません。現在のデータキュレーションの方法は、癌を予防または治療できるパーソナライズされた薬を考え出す方法をモデルに本当に教えることはありません。」

主な引用

• “すべてデータに戻ります。”
• “アブダクションは部分的な観察の最良の説明を考え出すこの心的行為です。”
• “帰納と演繹は、すでに持っていた同じ情報の反芻です。“

関連記事

• Abductive Reasoning - Choiが支持する推論タイプ
• Reinforcement Learning - Choiが批評するアプローチ