Zubatá inteligence
JAG-id in-TEL-ih-jence
Definice
Zubatá inteligence popisuje nekonzistentní profil schopností současných AI systémů - kde modely mohou fungovat na úrovni PhD u některých úkolů, zatímco selhávají u výzev na úrovni střední školy v jiných doménách.
Proč to záleží
Tento termín, zpopularizovaný Demisem Hassabisem, zachycuje jádrovou bariéru k AGI: nedostatek konzistence. AGI systém by měl být spolehlivý napříč všemi doménami, ale současné modely ukazují dramatické mezery ve schopnostech.
Příklady
- GPT-4 může vyhrát zlato na Mezinárodní matematické olympiádě, ale selže u jednoduchých logických hádanek
- Modely mohou analyzovat komplexní filosofii, ale bojují s konzistentní hrou v šachy
- Claude může psát sofistikovaný kód, ale může přehlédnout zjevné chyby
Klíčový poznatek
“You would expect from an AGI system that it would be consistent across the board.”
“Od AGI systému byste očekávali, že bude konzistentní napříč všemi oblastmi.” — Demis Hassabis
Zubatý profil naznačuje, že současné architektury mají fundamentální omezení - nejsou uniformně inteligentní, ale mají spíše vrcholy a údolí schopností.
Důsledky
Pro výzkumníky: Benchmarky testující jednu doménu nepředpovídají výkon v jiných Pro uživatele: Nepředpokládejte, že schopnost v jedné oblasti se převádí do jiné Pro AGI: Řešení zubatéinteligence může vyžadovat architektonické změny, ne jen škálování
Související termíny
- World Models - Jedno navrhované řešení pro uniformnější schopnost
- Generalization - Základní problém
Mentioned In
Demis Hassabis
Current AI has jagged intelligence - it can win gold medals at Math Olympiad while failing basic logic puzzles.
Yoshua Bengio
We have machines now that understand language and they lag in other ways like planning. So they're not for now a real threat.