Otevřený hraniční výzkum
critical Confidence: high Since 2024-01

Otevřený hraniční výzkum

Hnutí za udržení AI výzkumu otevřeného a kolaborativního

researchopen-sourcepolicyacademic

Krize

Otevřený hraniční AI výzkum v západních demokraciích čelí existenční hrozbě. Propast mezi zdroji dostupnými pro akademické výzkumníky a uzavřené korporátní laboratoře vzrostla z 2× (před dekádou) na 10-1000× dnes. Velké AI laboratoře, které kdysi publikovaly otevřeně - Google, OpenAI, DeepMind - postupně zavřely své dveře.

Mezitím se Čína objevila jako lídr v otevřených AI příspěvcích, se společnostmi jako DeepSeek a Alibaba publikujícími detailní technické články a uvolňujícími konkurenceschopné modely s otevřenými váhami.

Proč otevřený výzkum záleží

Historický precedent

Jak poznamenává Jeff Dean, samotný Google byl postaven na otevřeném akademickém výzkumu:

  • TCP/IP z akademické práce
  • PageRank z financování Stanford Digital Library Project
  • Hluboké učení z výzkumu neuronových sítí před 30-40 lety

Každý velký technologický paradigma byl urychlen otevřenou spoluprací.

Model Manhattan Project vs. Internet

Yan Stoica porovnává dva historické modely vývoje důležité technologie:

  1. Manhattan Project: Uzavřený, znárodněný, kontrolovaný
  2. Internet: Otevřený, kolaborativní, sdílené artefakty

Oba dosáhly svých cílů, ale model internetu vytvořil více distribuované inovace a prospěl více lidem.

Demokracie a moc

Yoshua Bengio rámcuje otevřenou AI jako esenciální pro demokracii:

“The power of intelligence is going to give power to whoever controls it, including potentially AIs that could be smarter than us, including dictators. This is a threat to our democracies because democracy is about sharing power.”

“Moc inteligence dá moc tomu, kdo ji ovládá, včetně potenciálně AI, které by mohly být chytřejší než my, včetně diktátorů. To je hrozba pro naše demokracie, protože demokracie je o sdílení moci.”

Efektivita vzorků a reprezentace

Yejin Choi zdůrazňuje, že AI by měla být:

  • Lidská - Odrážející lidské hodnoty
  • Lidmi - Vytvořená různými společnostmi, ne jen několika firmami
  • Pro lidi - Prospívající všem, ne jen těm u moci

Současný stav

Uzavřené laboratoře

Velké americké laboratoře postupně omezily publikace:

  • OpenAI: Kdysi publikoval vše, nyní publikuje selektivně
  • Google/DeepMind: Snížil otevřené publikování, konkurenční tlak
  • Anthropic: Omezené veřejné sdílení výzkumu

Otevřené alternativy

Otevřený ekosystém pokračuje prostřednictvím:

  • Meta AI: Llama modely, kultura otevřeného výzkumu
  • Čínské laboratoře: DeepSeek, Qwen, detailní publikace
  • Akademické spolupráce: LAUD Institute, Berkeley AI Research
  • Startupy: Některé (jako Mistral) se zavazují k otevřenosti

Co je potřeba

Zdroje

Akademičtí výzkumníci potřebují:

  • Přístup k výpočetnímu výkonu: Srovnatelný s uzavřenými laboratořemi
  • Konkurenceschopné odměňování: 2× rozdíl, ne 10-1000×
  • Dlouhodobé financování: 3-5leté výzkumné horizonty

Infrastruktura pro spolupráci

  • Sdílené artefakty: Kód, modely, datasety
  • Otevřené benchmarky: Transparentní evaluace
  • Publikační kultura: Odměňování otevřenosti

Politická podpora

  • Vládní financování: NSF, DARPA investice do otevřené AI
  • Mezinárodní spolupráce: Ne jen USA, globální spolupráce
  • Regulační rámce: Které neznevýhodňují otevřený výzkum

Klíčové hlasy

Yan Stoica (Berkeley):

“In order for the best minds to collaborate, they need to be able to share the information and work on shared artifacts.”

“Aby mohly nejlepší mozky spolupracovat, musí být schopny sdílet informace a pracovat na sdílených artefaktech.”

Yoshua Bengio (Law Zero):

“We need a global agreement on what to do and not do, where countries agree not to use AI to dominate others.”

“Potřebujeme globální dohodu o tom, co dělat a nedělat, kde se země dohodnou nepoužívat AI k dominanci nad ostatními.”

Yejin Choi (Stanford):

“We need to democratize generative AI. Different countries and different social sectors should be able to create that AI.”

“Musíme demokratizovat generativní AI. Různé země a různé společenské sektory by měly být schopny vytvářet tuto AI.”

Související čtení

  • Yoshua Bengio - Zakladatel Law Zero, obhájce bezpečnosti a otevřenosti AI
  • Yejin Choi - Profesorka Stanford obhajující demokratickou AI
  • Jeff Dean - Hlavní vědecký pracovník Google, obhájce akademického financování

Expert Mentions

Video thumbnail

Yan Stoica

In order for them to collaborate, they need to be able to share the information and work on shared artifacts. When it comes to shared artifacts, you're talking about code.

Video thumbnail

Yoshua Bengio

AI is going to change the world. The power of intelligence is going to give power to whoever controls it. This is a threat to our democracies.

Video thumbnail

Yejin Choi

AI should really be of humans, by humans, and for humans. Different countries and different social sectors should be able to create that AI, not just a few companies in two or three countries.