ギザギザした知性

定義

ギザギザした知性は、現在のAIシステムの不一致な能力プロファイルを説明します - モデルが一部のタスクで博士レベルで実行できる一方で、他のドメインでは高校レベルの課題に失敗します。

なぜ重要なのか

Demis Hassabisによって広められたこの用語は、AGIへの中核的障壁を捉えています:一貫性の欠如。AGIシステムはすべてのドメインで信頼できるべきですが、現在のモデルは劇的な能力ギャップを示します。

例

• GPT-4は国際数学オリンピックで金メダルを獲得できるが、単純な論理パズルに失敗する
• モデルは複雑な哲学を分析できるが、一貫したチェスプレイに苦戦する
• Claudeは洗練されたコードを書けるが、明白なバグを見逃す可能性がある

主要な洞察

“You would expect from an AGI system that it would be consistent across the board.” — Demis Hassabis

「AGIシステムから期待されるのは、全面的に一貫していることです。」 — Demis Hassabis

ギザギザしたプロファイルは、現在のアーキテクチャに根本的な制限があることを示唆します - それらは一様に知的ではなく、むしろ能力のピークと谷を持っています。

意味

研究者にとって:一つのドメインをテストするベンチマークは、他のドメインでのパフォーマンスを予測しない ユーザーにとって:一つの領域での能力が別の領域に転移すると仮定しない AGIにとって:ギザギザした知性を解決するには、単なるスケーリングではなく、アーキテクチャの変更が必要かもしれない

関連用語

• 世界モデル - より均一な能力のための提案されたソリューションの一つ
• 汎化 - 根本的な問題