Jeff Dean

Jeff Dean

Chief Scientist & SVP of Google Research at Google

「コンピュータサイエンスのChuck Norris」。MapReduce、BigTable、TensorFlowを構築。現在はGoogleのTPU開発とGeminiをリード。

googleinfrastructureresearchtpu

Jeff Deanについて

Jeff DeanはGoogle DeepMindとGoogle Researchの主任科学者で、システムとAIへの伝説的な貢献から「コンピュータサイエンスのChuck Norris」とよく呼ばれます。Googleの多くの基礎的システムの設計に貢献し、Geminiプロジェクトの共同リーダーです。

キャリアハイライト

  • Google (1999年-現在): MapReduce、BigTable、Spanner、TensorFlowを含む基礎的システムを構築
  • TPU開発: GoogleのTensor Processing Unitsの開発をリード
  • Gemini: Googleの主力AIモデルの共同リード
  • 学術貢献: 分散システムと機械学習に関する影響力のある論文を共著

技術的貢献

TPU開発

Deanは現在第7世代(「Ironwood」)のGoogleのTPU開発を監督しています:

“Every generation of TPU we really try to take advantage of the co-design opportunities we have with having a lot of researchers thinking about where ML computations we’re going to want to run 2.5 to 6 years from now.”

「TPUの各世代で、2.5〜6年後に実行したいML計算について考えている多くの研究者がいることで得られる共設計の機会を本当に活用しようとしています。」

これには魅力的な予測演習が含まれます - 数年先のハードウェアを設計するためにMLの未来を予測します。

業界を形成したシステム

GoogleでのDeanのシステム作業は、業界全体のテンプレートを作成しました:

  • MapReduce - HadoopとモダンなデータProcessingにインスパイア
  • BigTable - NoSQLデータベースのテンプレート
  • Spanner - グローバル分散データベース
  • TensorFlow - オープンソースMLフレームワーク

注目すべき見解

学術研究資金について

Deanは公的資金による学術研究の強力な支持者です:

“I feel like it’s really important to have a vibrant academic research ecosystem in the US and also in the world because those early stage creative ideas are often the things that lead to major breakthroughs and innovations.”

「米国と世界で活気のある学術研究エコシステムを持つことは本当に重要だと感じます。なぜなら、それらの初期段階の創造的なアイデアは、主要な画期的進歩と革新につながるものであることが多いからです。」

彼は、ディープラーニング革命が30〜40年前の学術研究に基づいて構築され、Google自体がTCP/IPやPageRankに資金を提供したStanford Digital Library Projectを含む学術作業に基づいて構築されたことを指摘します。

主な引用

  • “非常に速く動く分野を予測しようとすることは非常に簡単なことではありません。”
  • “社会への利益はかなり大きい”(学術研究資金について)
  • “3〜5年は考慮すべき素晴らしい時間範囲です”(研究計画について)

関連記事

  • TPU - Deanが開発を支援したカスタムAIチップ
  • AI Infrastructure - Deanが形成したシステムレイヤー

Video Mentions

Video thumbnail

初期のスケーリング作業

1990年の学部論文にデータ並列化とモデル並列化を組み込みました。大きな間違いを犯しました - プロセッサを追加してもモデルサイズを増やしませんでした。

Video thumbnail

非公式なスケーリング法則

Google Brainでは素晴らしい言葉がありました: より大きなモデル、より多くのデータ、より多くの計算。スケーリング法則として形式化しませんでしたが、知っていました。

Video thumbnail

Google TPU Ironwood発表

これはIronwood、第7世代のTPUです。多くの新しい能力があり、ポッドと呼ばれる非常に大きな構成に接続されています - ポッドあたり9216チップ。

Video thumbnail

ハードウェア-ソフトウェア共設計

TPUの各世代で、共設計の機会を本当に活用しようとしています...2.5〜6年後に実行したいML計算について考えている多くの研究者がいます。

Related People