参差智能
JAG-id in-TEL-ih-jence
limitations intermediate
定义
参差智能描述了当前 AI 系统不一致的能力配置——模型可以在某些任务上达到博士级别，而在其他领域的高中级别挑战上失败。
为什么重要
这个术语由 Demis Hassabis 推广，抓住了 AGI 的核心障碍：缺乏一致性。AGI 系统应该在所有领域都可靠，但当前模型显示出戏剧性的能力差距。
示例
- GPT-4 可以在国际数学奥林匹克获得金牌，但在简单的逻辑难题上失败
- 模型可以分析复杂的哲学，但在一致的国际象棋游戏中挣扎
- Claude 可以编写复杂的代码，但可能会错过明显的错误
关键洞察
“You would expect from an AGI system that it would be consistent across the board.” “您期望 AGI 系统在各个方面都是一致的。” — Demis Hassabis
参差配置表明当前架构有根本性的局限性——它们不是统一智能，而是有能力的峰值和谷值。
启示
对于研究人员：测试一个领域的基准不能预测其他领域的性能 对于用户：不要假设一个领域的能力会转移到另一个领域 对于 AGI：解决参差智能可能需要架构变化，而不仅仅是缩放
相关术语
Mentioned In
Demis Hassabis
Current AI has jagged intelligence - it can win gold medals at Math Olympiad while failing basic logic puzzles.
Yoshua Bengio
We have machines now that understand language and they lag in other ways like planning. So they're not for now a real threat.