Yejin Choi

Über Yejin Choi

Yejin Choi ist Professorin an der Stanford University und MacArthur Fellowship Empfängerin. Ihre Forschung konzentriert sich auf natürliche Sprachverarbeitung, Common Sense Reasoning und die grundlegenden Einschränkungen aktueller KI-Ansätze. Sie ist bekannt für ihre provokativen und rigorosen Kritiken am KI-Hype.

Forschungsfokus

Chois aktuelle Arbeit untersucht:

• Reasoning in KI - Was Modelle tatsächlich durchdenken können und was nicht
• Reinforcement Learning - Warum RL nicht die magische Lösung ist, die viele behaupten
• Common Sense KI - Maschinen menschlichen Common Sense beibringen
• KI-Einschränkungen - Verstehen, was aktuelle Ansätze grundsätzlich nicht können

Bemerkenswerte Positionen

Über Reinforcement Learning

Choi argumentiert, dass sich trotz der Aufregung um RL für Reasoning letztendlich alles auf Daten reduziert:

“This sounds more magical but under the hood this all boils down to synthesizing even more data because that much data is still not good enough and we somehow need to now ask AI to generate more data.”

Deutsche Übersetzung: “Das klingt magischer, aber unter der Haube läuft alles darauf hinaus, noch mehr Daten zu synthetisieren, weil so viele Daten immer noch nicht gut genug sind und wir irgendwie jetzt KI bitten müssen, mehr Daten zu generieren.”

Sie merkt an, dass mit genügend Aufwand supervised Fine-Tuning (wie OpenThought) RL-Ansätze schlagen kann, was darauf hindeutet, dass RL nicht grundsätzlich überlegen ist.

Über abduktives Denken

Choi hebt eine entscheidende Lücke in KI-Reasoning-Fähigkeiten hervor. Während Modelle induktives und deduktives Denken beherrschen, haben sie Schwierigkeiten mit abduktivem Denken - Hypothesen aus partiellen Beobachtungen zu bilden:

“Most reasoning - induction and deduction - is regurgitation of the same information that you already had. Whereas abduction is this mental act of coming up with the best possible explanation of your partial observation.”

Deutsche Übersetzung: “Die meisten Reasoning-Arten - Induktion und Deduktion - sind Wiederkäuen derselben Information, die man bereits hatte. Während Abduktion dieser mentale Akt ist, die bestmögliche Erklärung für deine partielle Beobachtung zu finden.”

Sie weist berühmt darauf hin, dass Sherlock Holmes’ “Deduktionen” tatsächlich Abduktionen sind - kreative Sprünge zur besten Erklärung.

Über KIs grundlegende Einschränkungen

Chois tiefste Kritik ist, dass aktuelle KI auf “die Nachbarschaft der Internetdaten” beschränkt ist:

“Human knowledge is not equivalent to the universe of actual knowledge out there. There are truths about how to cure cancer that are not on the internet. The current way of doing curation of data isn’t going to really teach the model how to come up with personalized drugs that could prevent or cure cancer.”

Deutsche Übersetzung: “Menschliches Wissen ist nicht gleichbedeutend mit dem Universum des tatsächlichen Wissens da draußen. Es gibt Wahrheiten darüber, wie man Krebs heilen kann, die nicht im Internet sind. Die aktuelle Art der Datenkuratierung wird dem Modell nicht wirklich beibringen, wie es personalisierte Medikamente entwickelt, die Krebs verhindern oder heilen könnten.”

Wichtige Zitate

• “Es läuft alles auf Daten zurück.”
• “Abduktion ist dieser mentale Akt, die bestmögliche Erklärung für deine partielle Beobachtung zu finden.”
• “Induktion und Deduktion ist Wiederkäuen derselben Information, die man bereits hatte.”

Weiterführende Literatur

• Abductive Reasoning - Die Reasoning-Art, für die Choi plädiert
• Reinforcement Learning - Ein Ansatz, den Choi kritisiert