Yejin Choi
Professor of Computer Science at Stanford University
Príjemkyňa MacArthur 'Genius Grant'. Známa rigoróznou kritikou AI a výskumom zdravého rozumu a limitov AI.
O Yejin Choi
Yejin Choi je profesorkou na Stanfordskej univerzite a príjemkyňou MacArthur Fellowship. Jej výskum sa zameriava na spracovanie prirodzeného jazyka, uvažovanie založené na zdravom rozume a fundamentálne limity súčasných AI prístupov. Je známa svojimi provokatívnymi a rigoróznych kritikám AI hype.
Výskumný fokus
Súčasná práca Choi skúma:
- Uvažovanie v AI - Čo modely skutočne dokážu a nedokážu uvažovať
- Posilňovacie učenie - Prečo RL nie je magická guľa, ako mnohí tvrdia
- AI zdravého rozumu - Učiť stroje ľudskému zdravému rozumu
- Limity AI - Pochopenie toho, co súčasné prístupy fundamentálne nedokážu
Významné postoje
O posilňovacom učení
Choi argumentuje, že napriek vzrušeniu okolo RL pre uvažovanie, sa to nakoniec redukuje na dáta:
“This sounds more magical but under the hood this all boils down to synthesizing even more data because that much data is still not good enough and we somehow need to now ask AI to generate more data.”
“Toto znie viac magicky, ale pod kapotou sa všetko zváža na syntézu ešte viac dát, pretože toľko dát stále nie je dosť dobré a my nejako musíme teraz požiadať AI, aby generovala viac dát.”
Poznamenáva, že s dostatočným úsilím môže supervised fine-tuning (ako OpenThought) poraziť RL prístupy, čo naznačuje, že RL nie je fundamentálne lepšie.
O abduktívnom uvažovaní
Choi upozorňuje na kľúčovú medzeru v schopnostiach uvažovania AI. Zatiaľ čo modely robia induktívne a deduktívne uvažovanie, majú problém s abduktívnym uvažovaním - tvorbou hypotéz z čiastočných pozorovaní:
“Most reasoning - induction and deduction - is regurgitation of the same information that you already had. Whereas abduction is this mental act of coming up with the best possible explanation of your partial observation.”
“Väčšina uvažovania - indukcia a dedukcia - je regurgitácia tej istej informácie, ktorú ste už mali. Zatiaľ čo abdukcia je tento mentálny akt prísť s najlepším možným vysvetlením vašej čiastočnej observácie.”
Slávne poukazuje, že Sherlock Holmesove “dedukcie” sú v skutočnosti abdukcie - kreatívne skoky k najlepšiemu vysvetleniu.
O fundamentálnych limitoch AI
Najhlbšia kritika Choi je, že súčasná AI je obmedzená na “susedstvo internetových dát”:
“Human knowledge is not equivalent to the universe of actual knowledge out there. There are truths about how to cure cancer that are not on the internet. The current way of doing curation of data isn’t going to really teach the model how to come up with personalized drugs that could prevent or cure cancer.”
“Ľudské poznanie sa nerovná vesmíru skutočného poznania tam vonku. Existujú pravdy o tom, ako vyliečiť rakovinu, ktoré nie sú na internete. Súčasný sposôb kurácie dát skutočne nenaučí model, ako prísť s personalizovanými liekmi, ktoré by mohli predchádzať alebo liečiť rakovinu.”
Kľúčové citáty
- “Všetko sa vracia k dátam.”
- “Abdukcia je tento mentálny akt prísť s najlepším možným vysvetlením vašej čiastočnej observácie.”
- “Indukcia a dedukcia je regurgitácia tej istej informácie, ktorú ste už mali.”
Súvisiace čítanie
- Abductive Reasoning - Typ uvažovania, ktorý Choi zastáva
- Reinforcement Learning - Prístup, ktorý Choi kritizuje
Video Mentions
Aktuálny výskumný fokus
V týchto dňoch ma vzrušuje uvažovanie, posilňovacie učenie a to, ako veci nefungujú spôsobom, akým sme očakávali.
Kritika hype okolo RL
Aj s posilňovacím učením môžete dospieť k záveru, že to nefunguje veľmi dobre, pokiaľ nerobíte všetky veci naozaj usilovne a správne.
RL ako syntéza dát
Všetko sa zváža na syntézu ešte viac dát, pretože toľko dát stále nie je dosť dobré. Toto znie viac magicky, ale pod kapotou sa všetko zváža na syntézu ešte viac dát.
Abduktívne uvažovanie
Abdukcia je tento mentálny akt prísť s najlepším možným vysvetlením vašej čiastočnej observácie.