Yejin Choi
Professor of Computer Science at Stanford University
Recipiente del 'Genius Grant' de MacArthur. Conocida por críticas rigurosas de IA e investigación sobre razonamiento de sentido común y limitaciones de IA.
Acerca de Yejin Choi
Yejin Choi es profesora en Stanford University y recipiente de una Beca MacArthur. Su investigación se enfoca en procesamiento de lenguaje natural, razonamiento de sentido común, y las limitaciones fundamentales de los enfoques actuales de IA. Es conocida por sus críticas provocativas y rigurosas del hype de IA.
Enfoque de Investigación
El trabajo actual de Choi examina:
- Razonamiento en IA - Qué pueden y no pueden razonar realmente los modelos
- Aprendizaje por Refuerzo - Por qué RL no es la bala mágica que muchos afirman
- IA de Sentido Común - Enseñando a las máquinas sentido común similar al humano
- Limitaciones de IA - Entendiendo qué no pueden hacer fundamentalmente los enfoques actuales
Posiciones Notables
Sobre Aprendizaje por Refuerzo
Choi argumenta que a pesar del entusiasmo sobre RL para razonamiento, finalmente se reduce a datos:
“This sounds more magical but under the hood this all boils down to synthesizing even more data because that much data is still not good enough and we somehow need to now ask AI to generate more data.”
“Esto suena más mágico pero bajo el capó todo se reduce a sintetizar aún más datos porque esa cantidad de datos aún no es suficientemente buena y de alguna manera ahora necesitamos pedir a la IA que genere más datos.”
Nota que con suficiente esfuerzo, el fine-tuning supervisado (como OpenThought) puede superar a los enfoques de RL, sugiriendo que RL no es fundamentalmente superior.
Sobre Razonamiento Abductivo
Choi destaca una brecha crucial en las capacidades de razonamiento de IA. Mientras los modelos hacen razonamiento inductivo y deductivo, luchan con el razonamiento abductivo - formar hipótesis a partir de observaciones parciales:
“Most reasoning - induction and deduction - is regurgitation of the same information that you already had. Whereas abduction is this mental act of coming up with the best possible explanation of your partial observation.”
“La mayoría del razonamiento - inducción y deducción - es regurgitación de la misma información que ya tenías. Mientras que la abducción es este acto mental de proponer la mejor explicación posible de tu observación parcial.”
Famosamente señala que las “deducciones” de Sherlock Holmes son en realidad abducciones - saltos creativos a la mejor explicación.
Sobre las Limitaciones Fundamentales de IA
La crítica más profunda de Choi es que la IA actual está limitada a “el vecindario de datos de internet”:
“Human knowledge is not equivalent to the universe of actual knowledge out there. There are truths about how to cure cancer that are not on the internet. The current way of doing curation of data isn’t going to really teach the model how to come up with personalized drugs that could prevent or cure cancer.”
“El conocimiento humano no es equivalente al universo de conocimiento real allá afuera. Hay verdades sobre cómo curar el cáncer que no están en internet. La forma actual de hacer curación de datos no va realmente a enseñar al modelo cómo proponer medicamentos personalizados que podrían prevenir o curar el cáncer.”
Citas Clave
- “Todo vuelve a los datos.”
- “La abducción es este acto mental de proponer la mejor explicación posible de tu observación parcial.”
- “Inducción y deducción es regurgitación de la misma información que ya tenías.”
Lectura Relacionada
- Abductive Reasoning - El tipo de razonamiento que Choi defiende
- Reinforcement Learning - Un enfoque que Choi critica
Video Mentions
Enfoque de investigación actual
Estos días estoy emocionada sobre razonamiento, aprendizaje por refuerzo, y cómo las cosas no funcionan de la manera que esperábamos que fueran.
Crítica del hype de RL
Incluso con aprendizaje por refuerzo, puedes llegar a la conclusión de que no funciona muy bien a menos que hagas todas las cosas realmente con esfuerzo y realmente bien.
RL como síntesis de datos
Todo se reduce a sintetizar aún más datos porque esa cantidad de datos aún no es suficientemente buena. Esto suena más mágico pero bajo el capó todo se reduce a sintetizar aún más datos.
Razonamiento abductivo
La abducción es este acto mental de proponer la mejor explicación posible de tu observación parcial.