Marc Andreessen : L'intelligence n'est correlee qu'a 0,4 avec le succes

Pourquoi Marc Andreessen pense que l’IA ne dominera pas le monde

Marc Andreessen et Ben Horowitz font rarement des conversations publiques ensemble, rendant ce fireside chat AI Engineer particulierement precieux. Ils abordent les plus grandes questions philosophiques autour de l’IA - creativite, intelligence, la these de la bulle - avec un contrarianisme caracteristique et un optimisme surprenant.

Sur l’IA franchissant la barre : “If these things clear the bar of 99.99% of humanity, that’s pretty interesting in and of itself… how many actual real conceptual breakthroughs have there ever been actually ever in human history as compared to sort of remixing ideas?” (Si ces choses franchissent la barre de 99,99% de l’humanite, c’est deja assez interessant en soi… combien de vraies percees conceptuelles y a-t-il jamais eu dans toute l’histoire humaine comparee a une sorte de remixage d’idees ?) L’argument : meme Beethoven remixait Mozart et Haydn. Si l’IA peut egaler tout le monde sauf la poignee de genies generationnels, c’est deja transformateur.

Sur l’intelligence n’etant pas suffisante : “Intelligence is 0.4 correlated to basically everything—educational outcomes, professional outcomes, income, life satisfaction, non-violence. But that still leaves 0.6 unexplained.” (L’intelligence est correlee a 0,4 avec essentiellement tout - resultats educatifs, resultats professionnels, revenus, satisfaction de vie, non-violence. Mais ca laisse encore 0,6 inexplique.) La conclusion des sciences sociales que meme le QI brut n’explique que 40% des resultats mine la these “la superintelligence dominera”.

Sur les limites de la theorie de l’esprit : “If the leader is more than one standard deviation of IQ away from the followers, it’s a real problem. And that’s true in both directions.” (Si le leader est a plus d’un ecart-type de QI des suiveurs, c’est un vrai probleme. Et c’est vrai dans les deux sens.) La conclusion militaire americaine : etre trop intelligent pour modeliser la pensee des subordonnes est aussi handicapant que ne pas etre assez intelligent. Une IA a 1000 de QI pourrait etre si etrangere qu’elle ne pourrait pas diriger efficacement.

Sur la question de la bulle : “The fact that it’s a question means we’re not in a bubble. In order to get to a bubble, everybody has to believe it’s not a bubble.” (Le fait que ce soit une question signifie que nous ne sommes pas dans une bulle. Pour arriver a une bulle, tout le monde doit croire que ce n’est pas une bulle.) La dynamique psychologique des bulles necessite la capitulation - le scepticisme generalise est lui-meme une preuve contre la formation de bulle.

Sur la theorie de l’esprit des LLM : “It turns out that language models now are good enough—they can correctly and accurately reproduce a focus group of real people inside the model.” (Il s’avere que les modeles de langage sont maintenant assez bons - ils peuvent correctement et precisement reproduire un focus group de vraies personnes a l’interieur du modele.) Les focus groups politiques peuvent maintenant tourner a l’interieur des LLM avec une modelisation de persona precise, eliminant des semaines de logistique pour la recherche electorale.

5 enseignements d’a16z sur l’IA, la creativite et l’intelligence

• L’IA egale deja 99,99% de la creativite humaine - La barre Beethoven est extraordinairement haute ; egaler tout le monde en dessous du genie generationnel est deja transformateur
• L’intelligence est necessaire mais seulement correlee a 0,4 - Le QI brut explique moins de la moitie des resultats de succes ; le courage, la theorie de l’esprit et le jugement situationnel comptent autant
• Les leaders trop intelligents echouent en theorie de l’esprit - La recherche militaire montre que les leaders a plus d’1 SD au-dessus des suiveurs ont du mal a modeliser leur pensee, suggerant que l’IA superintelligente pourrait avoir des limites de coordination
• Le scepticisme refute la bulle - Les mecaniques psychologiques des bulles necessitent la capitulation universelle ; le questionnement generalise signifie qu’on n’y est pas
• Les LLM peuvent simuler des focus groups precis - La recherche politique peut maintenant faire tourner des groupes de votants bases sur les personas entierement a l’interieur des modeles, egalant la precision des vrais focus groups

Ce que la these IA d’a16z signifie pour les constructeurs

Andreessen et Horowitz offrent un argument contre-intuitif pour l’optimisme IA qui ne depend pas de la these “la superintelligence prend le controle”. Leur argument : l’intelligence n’est pas suffisante pour le leadership ou le succes, la plupart de la creativite humaine est du remixage de toute facon, et les choses qui comptent vraiment - theorie de l’esprit, jugement situationnel, incarnation physique - sont soit deja realisables soit representent des limitations qui gardent l’IA comme outil plutot que dirigeant. Le scepticisme sur la bulle est similairement fonde : si tout le monde questionne, les preconditions psychologiques pour la formation de bulle n’ont pas ete remplies.