Google DeepMind Demis Hassabis s Axisom Mike Allenom

Perspektíva

Toto je Demis Hassabis v jeho najúprimnejšej forme - 400 dní po Nobelovej cene, reflektuje nad tým, čo mu táto platforma umožňuje a kam sa AI naozaj ubiera. Bez ohaľovania, len klinická analýza od niekoho, kto na AGI pracuje desaťročia.

Vedecká metóda ako konkurenčná výhoda je motívom, ktorý sa preťahuje cez všetko. Hassabis rozlišuje DeepMind nie počtom zdrojov (hoci Google ich má), ale prísnosťou: “Zlučujeme svetovotriedny výskum so svetovotriednym inžinieringom a svetovotriednou infraštruktúrou. Potrebuješ všetky tri, aby si bol na hranici.”

Toto nie je prázdne pozičné vyhlásenie. Keď sa pýtajú na pivot k LLM v roku 2017-2018, je osviežujúco úprimný: k prístupu bol neprideľujúci. Mali Chinchillu, Sparrow, AlphaZero-štýlové RL systémy a neurovedu-inšpirované architektúry všetky bežiace paralelne. Keď scaling začal ukazovať výsledky, pragmaticky posunuli zdroje. “Ak si pravý vedec, nemôžeš byť príliš dogmatický voči nejakej svojej idei.”

Časová linia AGI je špecifická: 5-10 rokov, ale s vysokou laťou. Jeho definícia vyžaduje “všetky kognitívne schopnosti, ktoré máme” vrátane vynálezu a tvorivosti. Súčasné modely sú “nerovnomerné inteligencie” - PhD-úrovne v niektorých oblastiach, chybné v iných. Pravá AGI znamená konzistentnosť v celom rozsahu plus schopnosti, ktoré ešte neexistujú: kontinuálne učenie, online učenie, dlhodobé plánovanie.

Odhaduje, že “jeden alebo dva ďalšie transformer-úrovňové prielomu” sú stále potrebné nad rámec scalingu. Nie inkrementálne inovácie - základné pokroky.

Multimodálny vhľad je podceňovaný. Hassabis hovorí, že najpohľadovejšia vec, ktorá dostáva príliš málo pozornosti, je pochopenie videa. Testoval Gemini na Fight Club, pýtal sa na významnosť znaku, ktorý si pred bojom vyzul prsteň - a dostal “veľmi zaujímavý filozofický bod” o symbolicky opúšťaní každodenného života. To je koncepčné pochopenie vizuálneho vyrozprávame, nie rozpoznávanie vzorov.

O katastrofálnom riziku je vyrovnaný: P(doom) je “nenulová”, ale presné percentá odmietá ako “nezmysly, pretože nikto nevie.” Na čom sa skutočne zaviazal: ak je to nenulová, “musíš na to venovať významné zdroje a pozornosť.”

Kapitalistický uhol je zaujímavý - tvrdí, že firemní zákazníci požadujúci záruky prirodzene odmenia zodpovedných poskytovateľov. Model, ktorý zlyháva, stráca podnikanie. Či táto štruktúra podnetov vydrží pre AGI-úrovňové systémy, je otázka, ktorú plne nerieši.

O čínskej šprinterskej sánke: vedenie je “mesiace, nie roky.” Čínske laboratóriá nepreukázali algoritmickú inováciu za hranicou, ale sú vynikajúce v rýchlom sledovaní. Rozdiely sa zužujú.

Kľúčové poznatky

• AGI: 5-10 rokov - Vyžaduje všetky ľudské kognitívne schopnosti vrátane vynálezu; súčasné modely sú “nerovnomerné inteligencie”
• Potrebný 1-2 prielomu - Samotný scaling pravdepodobne nestačí; očakáva sa transformer-úrovňové pokroky
• Multimodálny prístup je podceňovaný - Pochopenie videa demonštruje koncepčné pochopenie vyrozprávame, nie len rozpoznávanie vzorov
• Vedecká metóda je výhoda - Pragmatický prístup umožnil DeepMind zmenu, keď scaling ukázal výsledky
• P(doom) je nenulová - Odmietne kvantifikáciu, ale venuje významné zdroje bezpečnosti
• Čínske vedenie: mesiace, nie roky - Dobre rýchlo sledujú, ale nepreukázali frontierové algoritmické inovácie
• Nobelova platforma má hodnotu - Otvára dvere pre presadzovanie zodpovedného vývoja AI
• Agenti sa blížia, ale nespoľahlivých - Do roka blízko delegovania plných úloh; vízenie univerzálneho pomocníka

Veľký obrázok

Nositeľ Nobelovej ceny odhaduje AGI za 5-10 rokov, ale hovorí, že 1-2 transformer-úrovňové prielomu sú stále potrebné. Súčasné modely sú “nerovnomerné inteligencie” - PhD-úrovne v niektorých oblastiach, chybné v iných. Cesta vyžaduje konzistentnosť v rámci domén plus schopnosti, ktoré ešte neexistujú: kontinuálne učenie, online učenie, dlhodobé plánovanie.