Stuart Russell: AI CEO hrajú ruskú ruletu s ľudstvom

Perspektíva

Toto je pozoruhodný rozhovor, ktorý ide ďaleko za typický AI doomer diskurz. Stuart Russell - ktorý doslova napísal učebnicu, ktorá vyškolila väčšinu súčasných AI CEO - prináša najodsudzujúcejší insiderský opis situácie AI safety, s akým som sa stretol. Jeho kredibilita je jedinečná: 40 rokov ako profesor v Berkeley, OBE od kráľovnej Alžbety, najvplyvnejší hlas v AI podľa Time magazine a osobné vzťahy s lídrami ženúcimi AI preteky.

Najprekvapivejšie odhalenie je jeho konverzácia s nemenovaným vedúcim AI CEO, ktorý vidí “katastrofu v Černobyľskej mierke” ako najlepší prípadový scenár - pretože len vtedy by vlády regulovali. Alternatíva? Úplná strata kontroly. Russell hlási, že CEO sú “vedomí rizík”, ale cítia, že “nemôžu uniknúť z týchto pretekov” - ak ustúpia, investori by ich okamžite nahradili. Komerčný imperatív prevažuje osobné presvedčenie.

Russell formuluje situáciu s brutálnou jasnosťou cez svoj “problém gorily”: pred pár miliónmi rokov sa ľudia odvetvili od goríl. Teraz gorily nemajú žiadny hlas vo svojej pokračujúcej existencii, pretože sme inteligentnejší. Inteligencia je “jediný najdôležitejší faktor na kontrolu planéty Zem.” Budujeme niečo inteligentnejšie ako my. Logický záver sa píše sám.

Čísla, ktoré Russell cituje, sú ohromujúce. AGI rozpočty budúci rok dosiahnu 1 bilión dolárov - 50x Manhattan Project. Dario Amodei odhaduje 25% riziko vyhynutia. Elon Musk hovorí 30%. Sam Altman povedal, že AGI je “najväčšie riziko pre ľudskú existenciu.” Napriek tomu tí istí ľudia pokračujú v budovaní. Russellovo hodnotenie: “Hrajú ruskú ruletu s každou ľudskou bytosťou na Zemi, bez nášho povolenia.”

Jeho jediná nádej: budovanie AI systémov, ktorých jediným účelom je ďalej ľudské záujmy, s matematickými dôkazmi bezpečnosti. Na tomto pracuje od “epifánie” v Paríži v 2013. Ale súčasná paradigma - systémy, ktorým nerozumieme, trénované úpravou bilióna parametrov cez kvintilióny náhodných úprav - neponúka žiadne takéto záruky.

Kľúčové poznatky

• Vedúci AI CEO povedal Russellovi, že AI katastrofa v Černobyľskej mierke je “najlepší prípadový scenár”, pretože by to konečne prinútilo vládnu reguláciu - alternatíva je úplná strata kontroly
• Russellov “problém gorily”: gorily sa evolučne odvetvili od ľudí a teraz nemajú žiadny hlas vo svojej existencii; vytvárame niečo, čo nás stavia do pozície gorily
• Súčasné AI systémy sú fundamentálne nepriehľadné - Russellova metafora: plot z reťazových článkov pokrývajúci celý Londýn so zhasnutými svetlami, kde upravujeme bilión spojení cez kvintilióny náhodných zmien, kým výstupy nevyzerajú správne
• Sam Altman nedávno povedal “možno sme už za horizontom udalostí” pre AI takeoff - Russell to interpretuje ako byť uväznení v gravitačnom ťahu smerom k AGI so silou zosilňujúcou sa, ako sa približujeme