Yejin Choi
Professor of Computer Science at Stanford University
Příjemce MacArthur 'Genius Grant'. Známá pro rigorózní AI kritiky a výzkum zdravého rozumu a AI limitací.
O Yejin Choi
Yejin Choi je profesorka na Stanford University a příjemkyně MacArthur Fellowship. Její výzkum se zaměřuje na zpracování přirozeného jazyka, reasoning zdravého rozumu a fundamentální limity současných AI přístupů. Je známá pro své provokativní a rigorózní kritiky AI hype.
Výzkumný fokus
Současná práce Choi zkoumá:
- Reasoning v AI - Co modely skutečně mohou a nemohou reasonovat
- Reinforcement Learning - Proč RL není kouzelný proutek, jak mnozí tvrdí
- Commonsense AI - Učení strojů lidskému zdravému rozumu
- AI limity - Pochopení toho, co současné přístupy fundamentálně nemohou
Významné postoje
K Reinforcement Learningu
Choi argumentuje, že navzdory nadšení kolem RL pro reasoning, nakonec se to redukuje na data:
“This sounds more magical but under the hood this all boils down to synthesizing even more data because that much data is still not good enough and we somehow need to now ask AI to generate more data.”
Překlad: “Zní to kouzelněji, ale pod kapotou se všechno vrací k syntéze ještě více dat, protože tolik dat stále není dost dobré a nějak musíme nyní požádat AI, aby vygenerovala více dat.”
K abduktivnímu reasoningu
Choi zdůrazňuje klíčovou mezeru v AI reasoning schopnostech. Zatímco modely dělají indukční a deduktivní reasoning, bojují s abduktivním reasoningem - tvorbou hypotéz z částečných observací:
“Most reasoning - induction and deduction - is regurgitation of the same information that you already had. Whereas abduction is this mental act of coming up with the best possible explanation of your partial observation.”
Překlad: “Většina reasoningu - indukce a dedukce - je regurgitace stejné informace, kterou jste už měli. Zatímco abdukce je tento mentální akt vymýšlení nejlepšího možného vysvětlení vaší částečné observace.”
K fundamentálním limitům AI
Nejpodstatnější Choi kritika je, že současná AI je limitována na “okolí internetových dat”:
“Human knowledge is not equivalent to the universe of actual knowledge out there. There are truths about how to cure cancer that are not on the internet. The current way of doing curation of data isn’t going to really teach the model how to come up with personalized drugs that could prevent or cure cancer.”
Překlad: “Lidské znalosti nejsou ekvivalentní vesmíru skutečných znalostí tam venku. Existují pravdy o tom, jak vyléčit rakovinu, které nejsou na internetu. Současný způsob kurátorství dat skutečně neučí model, jak vymyslet personalizované léky, které by mohly předcházet nebo léčit rakovinu.”
Klíčové citáty
- “Všechno se vrací k datům.”
- “Abdukce je mentální akt vymýšlení nejlepšího možného vysvětlení.”
- “Indukce a dedukce je regurgitace stejné informace.”
Související články
- Abductive Reasoning - Typ reasoningu, který Choi prosazuje
- Reinforcement Learning - Přístup, který Choi kritizuje
Video Mentions
Současný výzkumný fokus
V těchto dnech mě nadch vzbudí reasoning, reinforcement learning a jak věci nefungují tak, jak jsme očekávali.
Kritika RL hype
I s reinforcement learningem můžete dojít k závěru, že to nefunguje moc dobře, pokud neděláte všechny věci opravdu usilovně a správně.
RL jako syntéza dat
Všechno se vrací k syntéze ještě více dat, protože tolik dat stále není dost dobré. Zní to kouzelněji, ale pod kapotou se všechno vrací k syntéze ještě více dat.
Abduktivní reasoning
Abdukce je mentální akt vymýšlení nejlepšího možného vysvětlení vaší částečné observace.