Marc Andreessen:知性は成功と0.4しか相関しない
Marc AndreessenがAIは世界を支配しないと考える理由
Marc AndreessenとBen Horowitzが一緒に公開の会話をすることは稀であり、このAI Engineerのファイヤーサイドチャットは特に価値があります。彼らはAIに関する最大の哲学的質問 - 創造性、知性、バブル論 - に特徴的な逆張りと驚くべき楽観主義で取り組んでいます。
AIがバーをクリアすることについて: “If these things clear the bar of 99.99% of humanity, that’s pretty interesting in and of itself… how many actual real conceptual breakthroughs have there ever been actually ever in human history as compared to sort of remixing ideas?”(もしこれらが人類の99.99%のバーをクリアするなら、それ自体かなり興味深いです…アイデアをリミックスすることと比較して、人類の歴史で実際に本当の概念的ブレークスルーがどれだけあったでしょうか?)議論:Beethovenでさえ MozartとHaydnをリミックスしていました。AIが一握りの世代的天才以外の全員と同等なら、それはすでに変革的です。
知性が十分でないことについて: “Intelligence is 0.4 correlated to basically everything—educational outcomes, professional outcomes, income, life satisfaction, non-violence. But that still leaves 0.6 unexplained.”(知性は基本的にすべてに0.4相関しています - 教育成果、専門的成果、収入、人生満足度、非暴力。しかしまだ0.6が説明されていません。)生のIQでさえ結果の40%しか説明しないという社会科学の発見は、「超知性が支配する」論点を弱体化させます。
心の理論の限界について: “If the leader is more than one standard deviation of IQ away from the followers, it’s a real problem. And that’s true in both directions.”(リーダーがフォロワーからIQで1標準偏差以上離れていると、それは本当の問題です。そしてそれは両方向に当てはまります。)米軍の発見:部下の思考をモデル化するには賢すぎることは、十分に賢くないことと同じくらい無力化します。1000 IQのAIは、効果的にリードできないほど異質かもしれません。
バブルの質問について: “The fact that it’s a question means we’re not in a bubble. In order to get to a bubble, everybody has to believe it’s not a bubble.”(それが質問であるという事実は、私たちがバブルの中にいないことを意味します。バブルに到達するには、全員がそれはバブルではないと信じなければなりません。)バブルの心理的ダイナミクスは降伏を必要とします - 広範な懐疑主義自体がバブル形成に対する証拠です。
LLMの心の理論について: “It turns out that language models now are good enough—they can correctly and accurately reproduce a focus group of real people inside the model.”(言語モデルは今や十分に良いことがわかりました - モデル内で実際の人々のフォーカスグループを正確に再現できます。)政治的フォーカスグループは今やLLM内で正確なペルソナモデリングで実行でき、有権者調査のための何週間もの物流を排除します。
a16zからのAI、創造性、知性の5つの洞察
- AIはすでに人間の創造性の99.99%と同等 - Beethovenのバーは極めて高い; 世代的天才以下の全員と同等になることはすでに変革的
- 知性は必要だが0.4しか相関しない - 生のIQは成功結果の半分未満を説明; 勇気、心の理論、状況判断も同様に重要
- 賢すぎるリーダーは心の理論で失敗する - 軍事研究は、フォロワーより1 SD以上上のリーダーは彼らの思考をモデル化するのに苦労することを示し、超知性AIには調整の限界があるかもしれない
- 懐疑主義はバブルを否定する - バブルの心理学的メカニズムは普遍的な降伏を必要とする; 広範な質問はまだそこにいないことを意味する
- LLMは正確なフォーカスグループをシミュレートできる - 政治調査は今や完全にモデル内でペルソナベースの有権者グループを実行でき、実際のフォーカスグループの精度と一致
a16zのAI論点がビルダーにとって意味すること
AndreessenとHorowitzは、「超知性が支配する」論点に依存しないAI楽観主義への直感に反するケースを提示しています。彼らの議論:知性はリーダーシップや成功に十分ではなく、人間の創造性のほとんどはとにかくリミックスであり、実際に重要なもの - 心の理論、状況判断、物理的な具現化 - はすでに達成可能か、AIを支配者ではなくツールに留める限界を表しています。バブルの懐疑主義も同様に根拠があります:誰もがそれを疑問視しているなら、バブル形成の心理的前提条件は満たされていません。