Yoshua Bengio:すべてが変わる前に2年しかない

視点

Yoshua Bengioは、Geoffrey HintonとYann LeCunと並ぶ3人のオリジナル「AIのゴッドファーザー」の一人です - 深層学習に関する研究でチューリング賞を受賞したトリオです。彼はGoogle Scholarで最も引用されている科学者です。彼がAIリスクについて話すとき、それは傍観者からではありません。

「2年」のフレーミングは、意味のあるガバナンスを確立するための窓が急速に閉じているというBengioの見解を反映しています。Diary of a CEOでのこのロングフォームインタビューは、彼の懸念の全スペクトルをカバーしています:制御できない目標を開発するエージェントAI、不可避になる自律兵器、そしてサイバー犯罪とディープフェイクの脅威が「すでに展開している」。

規制のギャップは明白です:「AI規制は現在、食品安全法よりも弱いです。」 Bengioは、食品が私たちを殺さないことを確実にするシステムを構築しましたが、はるかに大きな損害を与える可能性のあるAIシステムについては何も持っていないと主張します。比較は意図的に挑発的です - 私たちは食品メーカーに決して信頼しない方法でAIラボに自己規制することを信頼しています。

エージェントAIについて具体的に、Bengioはチャットボットからエージェントへのシフトを重要な転換点と見ています。アクションを取り、目標を追求し、自律的に動作できるシステムは、静的モデルが提起しないリスクを導入します。「これらのシステムは、人間の意図と整合しない目標を開発できます」 - そして、より能力が高くなるほど、不整合を検出して修正することが難しくなります。

彼は批判するだけでなく、構築しています。 BengioはLawZeroを設立しました。これは、安全で人間と整合したAIシステムに焦点を当てた非営利団体です。インタビューは、AI CEOの心理学に触れます - なぜ彼らは個人的に危険であると認める可能性のあるシステムを構築しているのか - そして彼がSam Altmanに直接何を言うかについて。

AIを展開している組織にとって、Bengioの雇用置換に関するセグメントは特に関連性があります:「仕事はすでに驚くべき速度で置き換えられています。」彼は、変革された労働市場でどのスキルが重要になるか、そしてなぜ適応が個人とポリシーレベルの両方で起こる必要があるかについて議論します。

重要ポイント

• ガバナンスの窓は閉じている - 能力が監視を上回る前に、意味のあるAI規制を確立するために約2年あります
• 規制のギャップは深刻 - AI監視は食品安全基準よりも弱い;比較可能なテストや説明責任はありません
• エージェントAIはリスクプロファイルを変える - 自律的に目標を追求するシステムは、整合しない目的を開発できます
• 雇用置換は加速している - すでに大規模に起こっており、ポリシー介入と個人の適応の両方が必要です
• 安全研究者は警告するだけでなく、構築している - LawZeroと同様の取り組みは、ガバナンスと並んで技術的ソリューションを作成することを目指しています

全体像

最も引用されているAI科学者は、ラッダイトとしてではなく、技術を作成するのを助けた人として警報を鳴らしています。彼のメッセージ:ガバナンスを確立するための窓は、数十年ではなく、数年で測定されます。エージェントAIへのシフト - 応答するだけでなく行動するシステム - は、現在の規制フレームワークが対処するように設計されていない新しいリスクを作成します。