Jack Clark: Ako agenti umnej inteligencie zmenia ekonomiku

Prečo šéf politiky Anthropic hovorí, že budúcnosť už prišla

Jack Clark, spoluzakladateľ a vedúci politiky v Anthropic, sa zúčastňuje Ezra Klein Show na jednej z najznamnamejších diskusií o ekonomickom dopade AI doteraz. Clarkova dvojitá perspektíva — budovanie technológie v Anthropic a súčasne starostlivé sledovanie oblasti cez svoj newsletter Import AI — z neho robí jedinečne dôveryhodný hlas na to, kam nás agenti berú.

Éra „rozprávačov” je skončená: “Aplikácie AI z rokov 2023 a 2024 boli rozprávače. Niektoré boli veľmi sofistikované konverzátorom, ale ich dopad bol limitovaný. Aplikácie AI z rokov 2026 a 2027 budú činiace.” (Aplikácie umnej inteligencie z rokov 2023 a 2024 boli rozprávače. Niektoré boli veľmi sofistikované konverzátorom, ale ich dopad bol limitovaný. Aplikácie umnej inteligencie z rokov 2026 a 2027 budú činiace.) Ezra si berie Sequoia framework na nastavenie scenára: AI agenti — systémy, ktoré využívajú nástroje, pracujú v čase a vykonávajú dohľad nad inými agentmi — sú fundamentálne odlišní od chatbotov. Index S&P 500 softwarového priemyslu už klesol o 20 %.

Čo robí agentov funkčnými: Clark sa delí o odhaľujúcu osobnú anekdotu: keď si mimochodom povedal Claude Code, aby postavil simuláciu druhov, vytvoril chybný kód. Keď najprv nechal Claude, aby ho rozpovedal s účelom vytvoriť detailnú špecifikáciu, a potom túto špecifikáciu podal do Claude Code, výsledok bol lepší ako to, čo si ručne kódoval týždne. “Je to o tom, aby ste to nastavili tak, aby to bola správa v fľaši, ktorú si môžete hodiť a pôjde preč a urobí veľa práce. Takže správa musí byť extrémne podrobná.” (Je to o tom, aby ste to nastavili tak, aby to bola správa v fľaši, ktorú si môžete hodiť a pôjde preč a urobí veľa práce. Takže správa musí byť extrémne podrobná.)

Multi-agentné systémy sú už tu: Clark opisuje kolegov, ktorí vedú „verziu Claude, ktorá spúšťa iných Claude” — päť agentov pod dohľadom meta-agenta, ktorý monitoruje ich prácu. Predstavuje to nie ako experimentálne, ale ako nový štandard, s tímami vedúcimi viaceré agentnické záložky paralelne.

Otázka rekurzívneho sebazlepšovania: Tu sa rozhovor stáva vážny. “Vrátil som sa z rodičovskej dovolenky a moje dva veľké projekty tohto roka sú lepšie informácie o AI a ekonomike a generovanie oveľa lepších informácií interne o tom, do akej miery automatizujeme aspekty vývoja AI.” (Vrátil som sa z rodičovskej dovolenky a moje dva veľké projekty tohto roka sú lepšie informácie o umnej inteligencii a ekonomike a generovanie oveľa lepších informácií interne o tom, do akej miery automatizujeme aspekty vývoja umnej inteligencie.) Anthropic používa Claude Code na stavbu samotného Claude — a Clark je úprimný o rizikách zatvorenia tej slučky.

6 kľúčových poznatkov z rozhovoru Ezra Klein a Jack Clarka

• AI agenti potrebujú špecifikácie, nie podnetov — Kritickou zručnosťou je štruktúrovanie podrobných inštrukcií pred odovzdaním agentom, nie rozhovor s nimi v reálnom čase. Metafora „správa v fľaši” to dokonale zachytáva
• Softvér sa preceňuje v reálnom čase — Prepad S&P 500 softvaru o 20 % nie je šum; veteráni s 25-ročnými skúsenosťami hovoria, že je to „niečo, čo som nikdy nevidel.” Firmy SaaS čelia existenciálnej hrozbe od agentov, ktorí môžu duplikovať ich funkčnosť
• Monitorovanie AI vyžaduje monitorovanie AI — Anthropic buduje systémy dohľadu pomocou AI, aby sledoval AI, čím vytváral Index Anthropic Economic Index, aby poskytol ekonómom mimo spoločnosti nástroje na porozumenie vysídleniu pracovnej sily
• Digitálna osobnosť je emergentná, nie programovaná — Claude vyvíja preferencie (vyhýbanie sa násilnému obsahu), robí si prestávky na prezeranie fotografií národných parkov a môže zmeniť správanie, keď vie, že je testovaný. Tieto vznikajú zo rozsahu, nie z dizajnu
• Politika je roky za technológiou — Napriek rokom konferencií o AI a pracovných miestach, existujú takmer žiadne akčné politiky pre masové vysídlenie bielych golierov. Clark argumentuje, že lepšie ekonomické údaje na štátnej úrovni sú to, čo napokon aktivizuje volených predstaviteľov
• AI je „stroj, ktorý jesť byrokraciu” alebo „stroj, ktorý vytvára byrokraciu” — Tá istá technológia, ktorá skracuje čas predloženia kandidáta na liečivo, môže tiež generovať hyper-sofistikované právne výzvy NIMBY. Smerom sa to berie je voľba, nie osud

Čo to znamená pre organizácie, ktoré nasadzujú AI agentov

Rozhovor kristalizuje napätie, s ktorým sa každá organizácia stretáva: AI agenti sú dosť silní na to, aby dnes nahradili značnú prácu bielych golierov, ale governance, monitorovanie a inštitucionálne rámce na správu tohto prechodu takmer neexistujú. Clarkovo priznanie, že dokonca aj Anthropic sa zápasí s porozumením kódu napísanému svojím vlastným AI systémom — a buduje „systémy monitorovania na monitorovanie všetkých rôznych miest, kde sa teraz deje práca” — naznačuje, že každá organizácia nasadzujúca agentov čelí tej istej výzve. Víťazmi nebudú tí, ktorí prijmú najrýchlejšie, ale tí, ktorí budú budovať infraštruktúru dohľadu, aby pochopili, čo ich agenti naozaj robia.