Marc Andreessen:智能与成功只有0.4的相关性

AI Engineer
interviewfuture-of-worksafetyenterprise

为什么Marc Andreessen认为AI不会统治世界

Marc Andreessen和Ben Horowitz很少一起公开对话,这使得这次AI Engineer炉边谈话特别有价值。他们用特有的逆向思维和令人惊讶的乐观主义解决了围绕AI的最大哲学问题——创造力、智能、泡沫论点。

关于AI达到门槛: “If these things clear the bar of 99.99% of humanity, that’s pretty interesting in and of itself… how many actual real conceptual breakthroughs have there ever been actually ever in human history as compared to sort of remixing ideas?”(如果这些东西达到了99.99%人类的门槛,这本身就非常有趣…与某种程度上重新混合想法相比,人类历史上实际上有过多少真正的概念突破?)论点:即使是贝多芬也在重新混合莫扎特和海顿。如果AI可以匹配除了少数几个代际天才之外的所有人,那已经是变革性的了。

关于智能不够充分: “Intelligence is 0.4 correlated to basically everything—educational outcomes, professional outcomes, income, life satisfaction, non-violence. But that still leaves 0.6 unexplained.”(智能与基本上所有东西的相关性为0.4——教育成果、职业成果、收入、生活满意度、非暴力。但这仍然留下0.6未解释。)即使原始智商也只解释40%结果的社会科学发现削弱了”超级智能将统治”的论点。

关于心智理论的限制: “If the leader is more than one standard deviation of IQ away from the followers, it’s a real problem. And that’s true in both directions.”(如果领导者与追随者的智商差距超过一个标准差,这是一个真正的问题。这在两个方向上都是如此。)美国军方的发现:太聪明以至于无法建模下属的思维和不够聪明一样是致命的。1000智商的AI可能太异质以至于无法有效领导。

关于泡沫问题: “The fact that it’s a question means we’re not in a bubble. In order to get to a bubble, everybody has to believe it’s not a bubble.”(它是一个问题这一事实意味着我们不在泡沫中。为了达到泡沫,每个人都必须相信它不是泡沫。)泡沫的心理动态需要投降——广泛的怀疑本身就是反对泡沫形成的证据。

关于LLM的心智理论: “It turns out that language models now are good enough—they can correctly and accurately reproduce a focus group of real people inside the model.”(事实证明,语言模型现在已经足够好了——它们可以在模型内正确和准确地再现真实人的焦点小组。)政治焦点小组现在可以在具有准确人物建模的LLM内部运行,消除了数周的选民研究后勤。

a16z关于AI、创造力和智能的5个洞见

  • AI已经匹配99.99%的人类创造力 - 贝多芬的门槛非常高;匹配代际天才以下的所有人已经是变革性的
  • 智能是必要的,但只有0.4相关 - 原始智商解释不到一半的成功结果;勇气、心智理论和情境判断同样重要
  • 太聪明的领导者在心智理论上失败 - 军事研究表明,比追随者高出超过1个标准差的领导者难以建模他们的思维,暗示超级智能AI可能有协调限制
  • 怀疑否证泡沫 - 泡沫的心理机制需要普遍投降;广泛的质疑意味着我们不在那里
  • LLM可以模拟准确的焦点小组 - 政治研究现在可以完全在模型内运行基于人物的选民小组,匹配真实焦点小组的准确性

a16z的AI论点对建设者意味着什么

Andreessen和Horowitz提供了一个不依赖于”超级智能接管”论点的逆向AI乐观主义案例。他们的论点是:智能对于领导或成功是不够的,大多数人类创造力无论如何都是重新混合,真正重要的事情——心智理论、情境判断、物理体现——要么已经可以实现,要么代表让AI成为工具而不是统治者的限制。泡沫怀疑同样有根据:如果每个人都在质疑它,泡沫形成的心理前提条件就没有满足。