Marc Andreessen: Inteligence koreluje s úspěchem jen na 0,4

Proč Marc Andreessen si myslí, že AI nebude vládnout světu

Marc Andreessen a Ben Horowitz zřídka dělají veřejné konverzace společně, což dělá tento fireside chat na AI Engineer obzvláště hodnotným. Řeší největší filozofické otázky kolem AI - kreativitu, inteligenci, tezi bubliny - s charakteristickým kontrariánstvím a překvapivým optimismem.

O AI překračující laťku: “If these things clear the bar of 99.99% of humanity, that’s pretty interesting in and of itself… how many actual real conceptual breakthroughs have there ever been actually ever in human history as compared to sort of remixing ideas?” (Pokud tyto věci překročí laťku 99,99% lidstva, to je samo o sobě docela zajímavé… kolik skutečných reálných konceptuálních průlomů kdy bylo v lidské historii ve srovnání s jakýmsi remixováním nápadů?) Argument: i Beethoven remixoval Mozarta a Haydna. Pokud AI může odpovídat všem kromě hrstky generačních géniů, to už je transformativní.

O tom, že inteligence není dostačující: “Intelligence is 0.4 correlated to basically everything—educational outcomes, professional outcomes, income, life satisfaction, non-violence. But that still leaves 0.6 unexplained.” (Inteligence koreluje 0,4 v podstatě se vším - vzdělávacími výsledky, profesními výsledky, příjmem, životní spokojeností, nenásilím. Ale to stále nechává 0,6 nevysvětleno.) Zjištění sociální vědy, že i raw IQ vysvětluje jen 40% výsledků, podkopává tezi “superinteligence bude vládnout”.

O limitech teorie mysli: “If the leader is more than one standard deviation of IQ away from the followers, it’s a real problem. And that’s true in both directions.” (Pokud je lídr o více než jednu standardní odchylku IQ od následovníků, je to skutečný problém. A to platí oběma směry.) Zjištění americké armády: být příliš chytrý na modelování myšlení podřízených je stejně zneschopňující jako nebýt dost chytrý. 1000-IQ AI by mohla být tak cizí, že by nemohla efektivně vést.

O otázce bubliny: “The fact that it’s a question means we’re not in a bubble. In order to get to a bubble, everybody has to believe it’s not a bubble.” (Fakt, že je to otázka, znamená, že nejsme v bublině. Aby se dostalo k bublině, všichni musí věřit, že to není bublina.) Psychologická dynamika bublin vyžaduje kapitulaci - rozšířená skepse je sama o sobě důkazem proti formování bubliny.

O teorii mysli LLM: “It turns out that language models now are good enough—they can correctly and accurately reproduce a focus group of real people inside the model.” (Ukazuje se, že jazykové modely jsou nyní dost dobré - mohou správně a přesně reprodukovat focus group skutečných lidí uvnitř modelu.) Politické focus groups nyní mohou běžet uvnitř LLM s přesným modelováním person, eliminujíc týdny logistiky pro voličský výzkum.

5 postřehů od a16z o AI, kreativitě a inteligenci

• AI už odpovídá 99,99% lidské kreativity - Beethovenova laťka je mimořádně vysoká; odpovídat všem pod generačními génii je už transformativní
• Inteligence je nezbytná, ale koreluje jen 0,4 - Raw IQ vysvětluje méně než polovinu úspěšných výsledků; odvaha, teorie mysli a situační úsudek záleží stejně
• Příliš chytří lídři selhávají v teorii mysli - Vojenský výzkum ukazuje, že lídři o více než 1 SD nad následovníky bojují s modelováním jejich myšlení, naznačující, že superinteligentní AI může mít koordinační limity
• Skepse vyvrací bublinu - Psychologická mechanika bublin vyžaduje univerzální kapitulaci; rozšířené dotazování znamená, že tam nejsme
• LLM mohou simulovat přesné focus groups - Politický výzkum nyní může běžet persona-based voličské skupiny zcela uvnitř modelů, odpovídající přesnosti skutečných focus groups

Co teze a16z o AI znamená pro buildery

Andreessen a Horowitz nabízejí kontraintuitivní případ pro AI optimismus, který nezávisí na tezi “superinteligence převezme”. Jejich argument: inteligence není dostačující pro vedení nebo úspěch, většina lidské kreativity je remixování tak jako tak, a věci, které skutečně záleží - teorie mysli, situační úsudek, fyzické ztělesnění - jsou buď již dosažitelné nebo představují limity, které drží AI jako nástroj spíše než vládce. Skepse k bublině je podobně uzemněná: pokud všichni zpochybňují, psychologické předpoklady pro formování bubliny nebyly splněny.