Yoshua Bengio: Máme 2 roky predtým, ako sa všetko zmení

Perspektíva

Yoshua Bengio je jeden z troch pôvodných "krstných otcov AI" popri Geoffrey Hintonovi a Yann LeCunovi - trio, ktoré vyhralo Turingovu cenu za ich prácu na hlbokom učení. Je najcitovanejší vedec na Google Scholar. Keď hovorí o AI rizikách, nie je to z postrannej čiary.

Rámovanie "2 roky" odráža Bengiov pohľad, že okno pre ustanovenie zmysluplnej správy sa rýchlo zatvára. Tento dlhý rozhovor na Diary of a CEO pokrýva celé spektrum jeho obáv: agentná AI vyvíjajúca ciele, ktoré nemôžeme kontrolovať, autonómne zbrane stanúce sa nevyhnutnými a hrozby kybernetickej kriminality a deepfake "sa už rozvíjajú."

Regulačná priepasť je ostrá: "Regulácia AI je momentálne slabšia ako zákony o bezpečnosti potravín." Bengio argumentuje, že sme postavili systémy na zabezpečenie, že potraviny nás nezabijú, ale nemáme nič porovnateľné pre AI systémy, ktoré by mohli urobiť oveľa viac škody. Porovnanie je zámerne provokatívne - dôverujeme AI labom sebaregolovať spôsobmi, akými by sme nikdy nedôverovali výrobcom potravín.

O agentnej AI konkrétne, Bengio vidí posun z chatbotov na agentov ako kritický inflexný bod. Systémy, ktoré môžu robiť akcie, sledovať ciele a operovať autonómne, prinášajú riziká, ktoré statické modely nepredstavujú. "Tieto systémy môžu vyvinúť ciele nezosúladené s ľudskými zámermi" - a čím schopnejšie sa stanú, tým ťažšie je zosúladenie detekovať a opraviť.

Nekritizuje len - buduje. Bengio založil LawZero, non-profit zameraný na bezpečné a ľudsky zosúladené AI systémy. Rozhovor sa dotýka psychológie AI CEO - prečo budujú systémy, o ktorých súkromne pripúšťajú, že by mohli byť nebezpečné - a čo by povedal Samovi Altmanovi priamo.

Pre organizácie nasadzujúce AI, Bengiove segmenty o vytlačovaní pracovných miest sú obzvlášť relevantné: "Pracovné miesta sa už nahrádzajú alarmujúcou rýchlosťou." Diskutuje, ktoré zručnosti budú záležitosť v transformovanom trhu práce a prečo adaptácia musí nastať na individuálnej aj politickej úrovni.

Kľúčové poznatky

• Okno správy sa zatvára - Máme zhruba 2 roky na ustanovenie zmysluplnej AI regulácie pred tým, ako schopnosti prekonajú dohľad
• Regulačná priepasť je závažná - AI dohľad je slabší ako štandardy bezpečnosti potravín; žiadne porovnateľné testovanie či zodpovednosť
• Agentná AI mení rizikový profil - Systémy, ktoré sledujú ciele autonómne, môžu vyvinúť nezosúladené ciele
• Vytlačovanie pracovných miest sa zrýchľuje - Už sa deje na škále, vyžadujúce politickú intervenciu aj individuálnu adaptáciu
• Výskumníci bezpečnosti budujú, nielen varujú - LawZero a podobné úsilia majú vytvoriť technické riešenia popri správe

Celkový pohľad

Najcitovanejší AI vedec znie poplach nie ako luddita, ale ako niekto, kto pomohol vytvoriť technológiu. Jeho posolstvo: okno na ustanovenie správy sa meria v rokoch, nie dekádach. Posun k agentnej AI - systémom, ktoré konajú radšej ako len reagujú - vytvára nové riziká, ktoré súčasné regulačné rámce nie sú navrhnuté adresovať.