Yejin Choi

À propos de Yejin Choi

Yejin Choi est professeure à l’Université de Stanford et récipiendaire d’une bourse MacArthur. Ses recherches se concentrent sur le traitement du langage naturel, le raisonnement de bon sens et les limitations fondamentales des approches IA actuelles. Elle est connue pour ses critiques provocatrices et rigoureuses du hype de l’IA.

Focus de recherche

Le travail actuel de Choi examine :

• Raisonnement en IA - Ce que les modèles peuvent et ne peuvent pas réellement raisonner
• Apprentissage par renforcement - Pourquoi le RL n’est pas la solution miracle que beaucoup prétendent
• IA de bon sens - Enseigner aux machines le bon sens humain
• Limitations de l’IA - Comprendre ce que les approches actuelles ne peuvent fondamentalement pas faire

Positions notables

Sur l’apprentissage par renforcement

Choi argumente que malgré l’enthousiasme autour du RL pour le raisonnement, il se réduit finalement aux données :

“This sounds more magical but under the hood this all boils down to synthesizing even more data because that much data is still not good enough and we somehow need to now ask AI to generate more data.”

“Cela semble plus magique mais sous le capot tout se résume à synthétiser encore plus de données parce que cette quantité de données n’est toujours pas assez bonne et nous devons maintenant demander à l’IA de générer plus de données.”

Elle note qu’avec assez d’effort, le fine-tuning supervisé (comme OpenThought) peut battre les approches RL, suggérant que le RL n’est pas fondamentalement supérieur.

Sur le raisonnement abductif

Choi met en évidence un écart crucial dans les capacités de raisonnement de l’IA. Alors que les modèles font du raisonnement inductif et déductif, ils ont du mal avec le raisonnement abductif - former des hypothèses à partir d’observations partielles :

“Most reasoning - induction and deduction - is regurgitation of the same information that you already had. Whereas abduction is this mental act of coming up with the best possible explanation of your partial observation.”

“La plupart du raisonnement - induction et déduction - est la régurgitation de la même information que vous aviez déjà. Alors que l’abduction est cet acte mental de trouver la meilleure explication possible de votre observation partielle.”

Elle souligne avec humour que les “déductions” de Sherlock Holmes sont en fait des abductions - des sauts créatifs vers la meilleure explication.

Sur les limitations fondamentales de l’IA

La critique la plus profonde de Choi est que l’IA actuelle est limitée au “voisinage des données internet” :

“Human knowledge is not equivalent to the universe of actual knowledge out there. There are truths about how to cure cancer that are not on the internet. The current way of doing curation of data isn’t going to really teach the model how to come up with personalized drugs that could prevent or cure cancer.”

“La connaissance humaine n’est pas équivalente à l’univers de la connaissance réelle là-bas. Il y a des vérités sur comment guérir le cancer qui ne sont pas sur internet. La façon actuelle de faire la curation de données ne va pas vraiment enseigner au modèle comment trouver des médicaments personnalisés qui pourraient prévenir ou guérir le cancer.”

Citations clés

• “Tout revient aux données.”
• “L’abduction est cet acte mental de trouver la meilleure explication possible de votre observation partielle.”
• “L’induction et la déduction sont la régurgitation de la même information que vous aviez déjà.”

Lectures associées

• Raisonnement abductif - Le type de raisonnement que Choi défend
• Apprentissage par renforcement - Une approche que Choi critique