Marc Andreessen: Inteligencia koreluje s úspechom len na 0,4

Perspektíva

Marc Andreessen a Ben Horowitz zriedka robia verejné konverzácie spolu, čo robí tento fireside chat na AI Engineer obzvlášť cenným. Riešia najväčšie filozofické otázky okolo AI - kreativitu, inteligenciu, tézu o bubline - s charakteristickým kontrarianizmom a prekvapivým optimizmom.

O prekonaní latky AI: “If these things clear the bar of 99.99% of humanity, that’s pretty interesting in and of itself… how many actual real conceptual breakthroughs have there ever been actually ever in human history as compared to sort of remixing ideas?” Argument: aj Beethoven remixoval Mozarta a Haydna. Ak AI dokáže zodpovedať všetkým okrem hŕstky generačných géniov, to je už transformatívne.

O tom, že inteligencia nie je dostatočná: “Intelligence is 0.4 correlated to basically everything—educational outcomes, professional outcomes, income, life satisfaction, non-violence. But that still leaves 0.6 unexplained.” Zistenie zo sociálnych vied, že aj surové IQ vysvetľuje len 40% výsledkov, podkopáva tézu “superinteligencia bude vládnuť”.

O limitoch teórie mysle: “If the leader is more than one standard deviation of IQ away from the followers, it’s a real problem. And that’s true in both directions.” Zistenie americkej armády: byť príliš inteligentný na modelovanie myslenia podriadených je rovnako hendikepujúce ako nebyť dostatočne inteligentný. AI s 1000 IQ by mohla byť tak cudzia, že by nedokázala efektívne viesť.

O otázke bubliny: “The fact that it’s a question means we’re not in a bubble. In order to get to a bubble, everybody has to believe it’s not a bubble.” Psychologická dynamika bublín vyžaduje kapituláciu - rozšírený skepticizmus je sám osebe dôkazom proti formovaniu bubliny.

O teórii mysle LLM: “It turns out that language models now are good enough—they can correctly and accurately reproduce a focus group of real people inside the model.” Politické fokusové skupiny sa teraz môžu spúšťať vo vnútri LLM s presným modelovaním persón, čím sa eliminujú týždne logistiky pre výskum voličov.

Kľúčové poznatky

• AI už zodpovedá 99,99% ľudskej kreativity - Beethovenova latka je mimoriadne vysoká; zodpovedať všetkým pod generačným géniom je už transformatívne
• Inteligencia je nutná, ale koreluje len na 0,4 - Surové IQ vysvetľuje menej ako polovicu úspešných výsledkov; odvaha, teória mysle a situačný úsudok záležia rovnako
• Príliš inteligentní lídri zlyhávajú v teórii mysle - Vojenský výskum ukazuje, že lídri viac ako 1 SD nad nasledovníkmi majú problém modelovať ich myslenie, čo naznačuje, že superinteligentná AI môže mať koordinačné limity
• Skepticizmus vyvracia bublinu - Psychologická mechanika bublín vyžaduje univerzálnu kapituláciu; rozšírené spochybňovanie znamená, že tam nie sme
• LLM dokážu simulovať presné fokusové skupiny - Politický výskum môže teraz spúšťať skupiny voličov založené na personách úplne vo vnútri modelov, zodpovedajúce presnosti skutočných fokusových skupín

Veľký obraz

Andreessen a Horowitz ponúkajú protiintuitívny argument pre AI optimizmus, ktorý nezávisí od tézy “superinteligencia prevezme”. Ich argument: inteligencia nie je dostatočná pre vedenie alebo úspech, väčšina ľudskej kreativity je aj tak remixovanie a veci, na ktorých skutočne záleží - teória mysle, situačný úsudok, fyzické stelesnenie - sú buď už dosiahnuteľné, alebo predstavujú obmedzenia, ktoré udržiavajú AI ako nástroj, nie vládcu. Skepticizmus voči bubline je podobne založený: ak sa všetci pýtajú, psychologické predpoklady pre formovanie bubliny neboli splnené.