Vnútro Gemini 3: Ako 200 výskumníkov buduje frontier AI

Perspektíva

Sebastian Bourjou vedie pre-training na Gemini 3 v Google DeepMind - jeho prvý podcast vôbec. S pozadím zahŕňajúcim Gopher, Chinchilla a Retro ponúka vzácnu viditeľnosť do toho, ako je frontier AI výskum skutočne organizovaný. Rozhovor s Mattom Turkom pokrýva všetko od architektonických rozhodnutí po to, čo “výskumný vkus” v praxi znamená.

O budovaní systémov, nie modelov: “We’re not really building a model anymore. I think we’re really building a system at this point. People have sometimes this view that we’re just training a neural network architecture and that’s it. But it’s really the entire system around the network.” Toto preformuluje, čo “tréning” znamená - je to infraštruktúra, koordinácia, hodnotenie a integrácia, nielen neurónová sieť.

O výskumnom vkuse: “Being allergic to complexity… we have a certain budget of complexity we can use and a certain amount of research risk we can accumulate before things go bad. Often times we don’t necessarily want to use the best performance version of a research idea, but we’d rather trade off some performance for a slightly lower complexity version.” Protiintuitívny pohľad: jednoduchšie víťazí nad optimálnym, pretože to umožňuje viac budúceho pokroku.

O najlepšom teste modelu: “The amount of time people spend using the model to make themselves more productive internally is increasing over time. Every new generation of models, it’s pretty clear the model can do new things and help us in our research.” Interné používanie - výskumníci používajúci vlastné modely na výskum - je skutočné hodnotenie za benchmarkmi.

O mierke tímu: “It’s a fairly large team at this point. Maybe 150-200 people work on a day-to-day on the pre-training side between data, model, infrastructure, evals.” Toto je mierka potrebná na pokrok na frontier modeloch - a koordinovať toľko ľudí je “skutočne dosť komplikované.”

O AI pre AI výskum: “Especially in the next year with more agentic workflows being enabled… that should be able to really accelerate our work. A lot of the day-to-day work is running experiments, babysitting experiments, analyzing data, collecting results. The interesting part is forming hypotheses and designing new experiments.” Meta-loop: používanie AI na akceleráciu AI výskumu automatizáciou mechanických častí.

Kľúčové poznatky

• Systémy namiesto modelov - Gemini 3 nie je len neurónová sieť; je to infraštruktúra, dátové pipelines, hodnotenie a integračná práca, ktorá je kolektívne dôležitejšia ako architektúra
• 150-200 ľudí koordinuje na pre-trainingu - Mierka vývoja frontier modelov vyžaduje masívnu koordináciu a získanie pokroku od všetkých záleží viac ako pár pretekajúcich sa dopredu
• Výskumný vkus = vyhýbanie sa komplexite - Najlepší výskumníci nesledujú optimálne riešenia; sledujú riešenia dostatočne jednoduché na umožnenie budúceho pokroku
• Interné používanie je skutočný eval - Za benchmarkmi je skutočný test, či sú výskumníci sami produktívnejší s každou novou generáciou modelu
• Agentic workflows akcelerujú výskum - DeepMind očakáva, že AI automatizuje beh experimentov a analýzu, oslobodzujúc výskumníkov pre formovanie hypotéz

Veľký obraz

Bourjouova perspektíva preformuluje, čo budovanie AI na frontier skutočne znamená: je to problém systémovej integrácie vyžadujúci 150+ ľudí, kde výskumný vkus znamená aktívne vyhýbanie sa komplexite a kde modely samotné čoraz viac akcelerujú vlastný vývoj. Pre organizácie premýšľajúce o AI schopnostiach je implikácia jasná - aj najsofistikovanejšie AI laby vnímajú toto ako infraštruktúrnu a koordinačnú prácu, nie magický tréning modelov.