ロードマップでわかる！当世プロセッサー事情 第709回

電気自動車のTeslaが手掛ける自動運転用システムDojo　AIプロセッサーの昨今

ExaPodが今年第1四半期に稼働予定

　ここからは昨年9月末に開催されたTesla AI Dayのスライドからご紹介したい。ちなみに全体では3時間半にもおよんでおり、1時間57分からDojo Introduction、2時間23分あたりからDojo Hardwareの説明が行なわれている。

　まずトレーニングタイルだが、システムにはこれが6つ相互接続する形で1つのトレイに収まる。これがシステムトレイである。

これ1つだけで重さ135Kg、消費電力は52Vで2000Aという、これだけでもう壮絶な数字である

　一方DIPは、そのトレイの下に並ぶ。その20枚のDIPカードがちょうどささるように、ホストCPUのシャーシが用意される。こちらは構成は明らかになっていないが、PCIeスロットの数とかコアの数を考えると、Milanベースの1ソケットEPYCサーバーが4台入っているように思える。

このスライドを見てやっと気が付いたのだが、2つのDIPチップの上にあるコネクターが、トレーニングタイルとの接続用のI/Fになるものと思われる

左右(この図で言えば手前と一番奥)のタイルの真下に、タイルあたり5枚づつDIPカードが並ぶ格好。なるほどZ軸方向での接続になるからZ-Planeなわけだ

“Hardware Video Decoder Support”というあたりは、実はこれ以外にハードウェア・デコーダーのカードも入っている可能性がある

　技術的に言えば、同じくMilanベースの2ソケットEPYCサーバー(これだと最大でPCIe Gen4レーンを162本出せる)を2台という可能性もあるが、そこで2ソケットにする意味があまり見当たらない。

　トータルメモリーは8TBというあたり、EPYCサーバーあたり2TBという計算だ。このDojo Host Interfaceを2つ積み重ねたのがDojo Cabinetであり、そのDojo Cabinetを複数並べたのがExaPODである。

Dojo Cabinetは、中央にDojo Host Interfaceが2つ縦積みされ、さらにその上下に電源ユニットが並ぶ

ExaPodは10キャビネットが標準構成になる模様。ちなみにまだフル構成のExaPodは存在しない

　Dojoの、AI Dayにおける説明では以下の数字が示されている。

• 24 GPU(A100) vs 25 D1では、バッチ処理のレイテンシーが150μs vs 5μsで30倍高速

• 自動ラベリングやOccupancy network(境界面を使ったネットワーク分類)などの処理でA100と比較して最大3.2～4.4倍高速

• 1つのコンピュートタイルでGPU BOXが6つ分以上の性能。そしてコンピュートタイルの価格は1つのGPU BOX未満

• 4つのDojoキャビネットで、既存の72ラックのGPUサーバーを代替できる。といった数字が示されている。

　最初のExaPodは今年第1四半期(つまり今月だ)中に稼働予定であり、Teslaは将来的にパロアルト(Tesla本社所在地)に7つのExaPodを稼働予定としている。

　なんというか、数は力とでもいうべきソリューションである。とはいえ自動運転のアルゴリズムを改良していくのには、このくらいのパワーが必要なのかもしれない。