Geoffrey Hinton
Professor Emeritus at University of Toronto
'Kmotr AI'. Nositel Turingovy ceny a Nobelovy ceny. Vynalezl backpropagation, spoluvytvořil AlexNet. Nyní varuje před AI riziky.
O Geoffrey Hinton
Geoffrey Hinton je všeobecně známý jako “Kmotr AI” pro své zakladatelské příspěvky k deep learningu. Obdržel Nobelovu cenu za fyziku 2024 a Turingovu cenu 2018. V roce 2023 opustil Google, aby mohl svobodně mluvit o AI rizicích.
Kariérní milníky
- University of Toronto (1987-současnost): Professor Emeritus Computer Science
- Google (2013-2023): VP a Engineering Fellow, opustil, aby varoval před AI riziky
- Nobelova cena za fyziku (2024): Za zakladatelské objevy v strojovém učení
- Turingova cena (2018): S Yann LeCunem a Yoshua Bengiem
- Backpropagation: Spoluvyvinul algoritmus, který umožňuje deep learning
- AlexNet (2012): Spoluvytvořil s Ilya Sutskeverem a Alex Krizhevskyem
Významné postoje
K porozumění
Hintonova Lego analogie vysvětluje, jak LLMy rozumí:
“Think of words as thousand-dimensional Lego blocks. Understanding is deforming these blocks so their hands can connect - that structure IS understanding.”
Překlad: “Představte si slova jako tisícirozměrné Lego kostky. Porozumění je deformováním těchto kostek, aby jejich ruce mohly spojit - ta struktura JE porozumění.”
K digitální inteligenci
“If energy is cheap, digital computation is just better because it can share knowledge efficiently. GPT-4 knows thousands of times more than any person.”
Překlad: “Pokud je energie levná, digitální výpočty jsou prostě lepší, protože mohou sdílet znalosti efektivně. GPT-4 ví tisíckrát víc než jakákoliv osoba.”
Klíčové citáty
- “Ta struktura JE porozumění.”
- “GPT-4 ví tisíckrát víc než jakákoliv osoba.”
- “LLMy rozumí stejným způsobem jako my.”
Související články
- Confabulation - Hintonovo přerámování halucinací
- Deep Learning - Obor, který byl průkopníkem
Video Mentions
Původ příběhu AlexNet
AlexNet byl trénován na dvou GPU v Alexově ložnici v domě jeho rodičů. Zaplatili jsme za GPU, jeho rodiče zaplatili za elektřinu.
Porozumění jako formace struktury
Představte si slova jako tisícirozměrné Lego kostky. Porozumění je deformováním těchto kostek, aby jejich ruce mohly spojit - ta struktura JE porozumění.