Ilya Sutskever
Co-founder at Safe Superintelligence Inc.
Safe Superintelligence Inc. 联合创始人。前 OpenAI 首席科学家和 AlexNet 共同发明者。深度学习的创始人物之一。
关于 Ilya Sutskever
Ilya Sutskever 是 Safe Superintelligence Inc.(SSI)的联合创始人,专注于构建安全的超级智能 AI。他之前是 OpenAI 的联合创始人和首席科学家,在那里他从 2015 年到 2024 年领导研究。他是 AlexNet 的共同发明者之一,这一突破启动了深度学习革命。
职业亮点
- Safe Superintelligence Inc.(2024 年至今):联合创始人
- OpenAI(2015-2024):联合创始人兼首席科学家
- Google Brain(2013-2015):研究科学家
- AlexNet(2012):与 Geoffrey Hinton 和 Alex Krizhevsky 共同发明
- 师从 Geoffrey Hinton 的博士:多伦多大学
重要观点
关于扩展时代的终结
Sutskever 认为纯扩展已经走到尽头:
“Is the belief really that if you just 100x the scale everything would be transformed? I don’t think that’s true.”
“真的相信如果你只是将规模扩大 100 倍,一切都会改变吗?我不认为那是真的。“
关于评估性能与现实
“Models are much more like the first student - technically brilliant but lacking the ‘it factor’ that makes for actual capability.”
“模型更像第一个学生——技术上很出色,但缺乏真正能力的’那种感觉’。“
关于研究周期
他将 AI 历史框定为振荡时代:
“2012-2020 was research, 2020-2025 was scaling, and now we’re returning to research.”
“2012-2020 是研究,2020-2025 是扩展,现在我们回到研究。“
关键语录
- “真正的奖励黑客是过于专注于评估的人类研究人员。”
- “模型的泛化比人差得多——这是超级明显的。”
- “价值函数可能会短路等待完成的问题。“
相关阅读
Video Mentions
评估与真实能力差距
模型就像超专业化的竞赛学生——'他们为竞争性编程练习了 10000 小时,但缺乏真正能力的那种感觉。'
扩展时代的终结
真的相信如果你只是将规模扩大 100 倍,一切都会改变吗?我不认为那是真的。我们回到了研究时代。
RL 训练限制
真正的奖励黑客是过于专注于评估的人类研究人员。