このページの本文へ

ロードマップでわかる!当世プロセッサー事情 第902回

なぜGPUとTPUを混載するのか? あえてCPUを外しFP8も捨てたWaymo独自プロセッサーの徹底した割り切り

2026年11月16日 12時00分更新

文● 大原雄介(http://www.yusuke-ohara.com/) 編集●北村/ASCII

  • この記事をはてなブックマークに追加
  • 本文印刷

レイテンシー13倍改善を実現したcarTPUの分割動作と同期メカニズム

 SFPの胆はcarTPUになるわけだが、そのcarTPUはWaymoのAIモデルに最適化する形で構築された。

WaymoのAIの変遷。最初から完璧なモデルが構築できるわけもないわけで、2013年からスタートして13年ほどさまざまなモデルを構築し、それを改善してきた。2024年のFoundation Modelはもう全部入りという感じになっている

 スペックを並べたのが下の画像である。FP8やFP4のサポートはなく、むしろINT16やFP32のサポートが残っているあたりは、おそらく同社の自動運転のアルゴリズムではまだFP4/FP8のような、精度の低い数値型を使っての動作が想定されていないのだろう(あるいは、そもそも精度が足りなくて十分な能力が発揮できないのか。そのあたりは明かされなかった)。

SFPのスペック。そしてこの写真の最下段は、64MBとは別に2MBの制御用SRAMと、あとはRISC-Vコアが配されている

 レイアウトを見ると2つ並んだ塊の中央の赤い部分が合計64MBのSRAMに見える。興味深いのは、このcarTPUの外部メモリーへの帯域は160GB/秒ということで、LPDDR5xの帯域をフルに使い切っているわけではないことだ。おそらく帯域の残りはGPUやISPに分配されるのだろう。

 TPUの内部構造が下の画像だ。大きく2ブロック(Waymoはこれをコアと称している)に分かれるが、おのおのは16個のPEから構成され、全体はリングバス構成となっている。それぞれのPEにローカルで2MBのSRAMが割り当てられ、それがリングバスで共有されるという、ちょうどインテルのPコアとLLCのような構造になっている。

リングバスは64Bytes幅だが、横方向の接続(Mesh)は32Byte幅と半減しているのが興味深い。PE1個あたりで5 TOPSというのは結構な性能ではある

 一番下にRegister FileとDMA Engine、およびこれを制御するためのRISC-V CPUが搭載されている。ただこのCPU、Vector Extension付きとは言え、積極的に演算に使うというよりは、TPUのPEで処理できないような例外的な処理を行なう以外はDMAの制御など向けという感じで、全体のオーケストレーションの処理というよりは、その処理の下請け業務向けである。おそらくオーケストレーション用のCPUは、SFPの外にあるものと思われる。

 このcarTPUだが、2つに分割して独立動作することも、まとめて動作することも可能となっている。性能が必要な場面ではまとめて1つ、同時に複数処理をさせたいケースでは2つに分割して独立に動かすという仕組みだ。

2つに分けたのはLockstep動作ではなさそう。システム構成を見るとcarTPU単体でASIL-Dを実現するのは放棄して、必要ならSFPを2つ並べてLockstep的な動作をさせるつもりかもしれない

 さて先程も少し出てきたが、そのcarTPUの設計の基となる、Waymoが想定するデータフローをまとめたのが下の画像である。carTPUはSensor Fusion、つまり複数のセンサーデータを基にWorld Decoderへの入力値を生成するのが目的となる。

個々のスレッド動作は「有限状態機械」と呼ばれるモデルに従うが、同期はSPMC(Single-Producer Multi-Consumer 1:Nの同期)や逆にMPSC(Multi-Producer Single-Consumer N:1の同期)などが入り乱れたものになりがちとなる

 第一段階はセンサーからのデータをメモリーに格納する処理で、これはcarTPUの処理外というか、DMAエンジンとCPUの仕事である。もちろん点群データの場合は、それを意味ある形にするためにGPUがフルに稼働することになるのだろうが。

 その結果は一旦メモリーに入り、そこからcarTPUが稼働してそのデータを基にWorld Decoder向けのデータを生成していくわけだが、この処理は猛烈に並列度が高いもの(O(1000)とあるので、数千スレッドが動作すると思われる)であり、しかもおのおのの処理のスレッド同士での同期が必要になることもある。

 この結果は再びメモリーに戻され、最終的にWorld Decoderに送り出されるわけだが、おそらくは同じタイミングで取得したデータをそろえて送りだすような格好になるだろう。というのはWorld Decoderの側も、例えばカメラは0.1秒前のデータ、LiDARは0.2秒前のデータ、Radarは0.3秒前のデータを送り付けられたとしても、それを活用するのは難しいからだ。0.1秒前なら0.1秒前でそろっていないといけない。最後のSemaphoreはこの同期をとるために必要となる。

 こうしたデータフローを処理するために、PEの内部は4つのスライスに分割され、それぞれが独立してGEMV(General Matrix-Vector Multiplication:一般行列ベクトル積)を実行できる構成になっている。

PEの概要。ついでにこのスライドでリングとメッシュの使い分けも明確にされた。リングはいわばWeightのブロードキャスト用と、演算開始前/終了後の入力データや出力の移動用(この場合のあて先はコントロール部のDMAエンジンとなるのだろう)で、メッシュはPE同士の連携用である

 SIMDというよりもMatrixエンジンが4組入っている、という構造に見える。ただ一般的なMatrixエンジンと違って次数が低い(M=1)から、それほど大規模な構成にはならないだろう。実際にこのMatrixエンジンの動き方をまとめたのが下の画像だ。

Matrixエンジンの動き方。この図の例で言えば、すべての計算を行なうのにEl-wiseは8サイクル、それ以外は4サイクル必要である。仮に1サイクルで計算を終わらせたとしても、その結果を書き出す帯域が足りないし、そもそもこのMatrixエンジンが多数あるからトータルのスループットは十分あるので、別に1サイクルで丸ごと計算を終える必要はない

 いわゆるGEMV(これはLLMのデコードで多用される)以外にGEMM(General Matrix Multiply:一般行列乗算、いろいろな行列演算で多用される)、EL-Wise(Element-Wise:要素別の処理。ここではSoftmax関数やPoolingなど)などを実行できるとしている。

 実際にこのcarTPUの性能がどの程度かを評価したのが下の画像である。Baselineというのは外部のアクセラレーターを利用したもので、おそらくこれはソフトウェア開発用にSFPが完成前から利用していたAIプロセッサーと思われるが、これと比較して性能で最大2.8倍、レイテンシーで13倍以上を実現できたとしている。

 もちろんアプリケーションによって向上率はだいぶ違っており、映像処理(Vision ConvNet)やセンサー情報の統合(Sensor Backbone)、ThinkFast VLMでは性能改善が著しい一方で、必ずしも性能がBaselineからそれほど上がらないものもある。

 ちなみに質疑応答では、「ミリ秒オーダーのレイテンシーを強調していたが、VLMモデルの場合にWaymoが求めるTTFT(Time To First Token)とTPOT(Time Per Output Token)の目標値は?」という質問に対し、「ミリ秒オーダーのレイテンシーはThinking Fast Pathに属する。VLMモデルはThinking Slowエンコーダーに属しており、処理にもっと時間が掛かる」という返答だった。SFPはあくまでもセンサー情報およびThinkFast VLMの処理に特化している、と考えるのが正しいのだろう。

ThinkSlow VLMなどはSFPの外部で処理されると思われる。あくまでも「仮にcarTPUを使ったらどうなるか」を検証しただけであって、この結果であれば外部のアクセラレーターを使っても性能が下がらないからだ

カテゴリートップへ

本記事はアフィリエイトプログラムによる収益を得ている場合があります

この連載の記事

ASCII倶楽部

注目ニュース

  • 角川アスキー総合研究所

プレミアム実機レビュー

ピックアップ
1
KIOXIA(キオクシア) 旧東芝メモリ microSD 128GB UHS-I Class10 (最大読出速度100MB/s) Nintendo Switch動作確認済 国内サポート正規品 メーカー保証5年 KLMEA128G
KIOXIA(キオクシア) 旧東芝メモリ microSD 128GB UHS-I Class10 (最大読出速度100MB/s) Nintendo Switch動作確認済 国内サポート正規品 メーカー保証5年 KLMEA128G
¥2,413
2
【Amazon.co.jp限定】 ロジクール 静音 ワイヤレス トラックボール マウス M575SPd Bluetooth Logibolt 無線 windows mac iPad OS Chrome トラックボールマウス ブラック M575 M575SP 国内正規品 ※Amazon.co.jp限定 壁紙ダウンロード付き
【Amazon.co.jp限定】 ロジクール 静音 ワイヤレス トラックボール マウス M575SPd Bluetooth Logibolt 無線 windows mac iPad OS Chrome トラックボールマウス ブラック M575 M575SP 国内正規品 ※Amazon.co.jp限定 壁紙ダウンロード付き
¥7,313
3
エレコム 電源タップ 6個口 3m 雷ガード 個別スイッチ ほこりシャッター付 耐熱 PSE技術基準適合 ブラック T-K6A-2630BK
エレコム 電源タップ 6個口 3m 雷ガード 個別スイッチ ほこりシャッター付 耐熱 PSE技術基準適合 ブラック T-K6A-2630BK
¥1,899
4
CIO フラットスパイラルケーブル CtoC (Type-C/USB-C) PD 急速充電 平型 磁石 マグネット吸着 まとまる 充電ケーブル PD 240W データ転送 480Mbps 形状記憶 iPhone 17 / 16 / 15 Macbook Pro/Air/iPad用/ノートパソコン Galaxy Google Pixel Android (ライトブラック, 1.5m)
CIO フラットスパイラルケーブル CtoC (Type-C/USB-C) PD 急速充電 平型 磁石 マグネット吸着 まとまる 充電ケーブル PD 240W データ転送 480Mbps 形状記憶 iPhone 17 / 16 / 15 Macbook Pro/Air/iPad用/ノートパソコン Galaxy Google Pixel Android (ライトブラック, 1.5m)
¥2,290
5
Anker USB Type C ケーブル PowerLine USB-C & USB-A 3.0 ケーブル iPhone 17 / 16 / 15 /Xperia/Galaxy/LG/iPad Pro/MacBook その他 Android 等 USB-C機器対応 テレワーク リモート 在宅勤務 0.9m ホワイト
Anker USB Type C ケーブル PowerLine USB-C & USB-A 3.0 ケーブル iPhone 17 / 16 / 15 /Xperia/Galaxy/LG/iPad Pro/MacBook その他 Android 等 USB-C機器対応 テレワーク リモート 在宅勤務 0.9m ホワイト
¥740
6
Anker Zolo USB-C & USB-C ケーブル (240W, 高耐久ナイロン) 1.8m ブラック iPhone 17 / 16 / 15 Galaxy iPad Pro MacBook Pro/Air 各種対応
Anker Zolo USB-C & USB-C ケーブル (240W, 高耐久ナイロン) 1.8m ブラック iPhone 17 / 16 / 15 Galaxy iPad Pro MacBook Pro/Air 各種対応
¥1,590
7
Anker Nano Charging Station (7-in-1, 100W, 巻取り式 USB-C ケーブル) (USBタップ 電源タップ) 【PSE技術基準適合】MacBook iPad iPhone Galaxy Android ブラック
Anker Nano Charging Station (7-in-1, 100W, 巻取り式 USB-C ケーブル) (USBタップ 電源タップ) 【PSE技術基準適合】MacBook iPad iPhone Galaxy Android ブラック
¥9,990
8
Anker iPhone充電ケーブル PowerLine II ライトニングケーブル MFi認証 超高耐久 iPhone 14 / 14 Pro Max / 14 Plus / 13 / 13 Pro / 12 / 11 / X/XS/XR / 8 Plus 各種対応 (0.9m ホワイト)
Anker iPhone充電ケーブル PowerLine II ライトニングケーブル MFi認証 超高耐久 iPhone 14 / 14 Pro Max / 14 Plus / 13 / 13 Pro / 12 / 11 / X/XS/XR / 8 Plus 各種対応 (0.9m ホワイト)
¥990
9
Verbatim バーベイタム 1回録画用 ブルーレイディスク BD-R 25GB 50枚+3枚増量パック インクジェットプリンタ対応 ホワイト 片面1層 1-6倍速
Verbatim バーベイタム 1回録画用 ブルーレイディスク BD-R 25GB 50枚+3枚増量パック インクジェットプリンタ対応 ホワイト 片面1層 1-6倍速
¥2,480
10
ソニー ゲーミングイヤホン INZONE Buds:WF-G700N Fnatic監修/ワイヤレス / 低遅延2.4GHzワイヤレス接続 USBType-Cトランシーバー同梱/LE Audio対応/アクティブノイズキャンセリング/立体音響 / 最大約24時間バッテリー / 急速充電/マイク付き / PS5 スマホ PC Switch グラスパープル
ソニー ゲーミングイヤホン INZONE Buds:WF-G700N Fnatic監修/ワイヤレス / 低遅延2.4GHzワイヤレス接続 USBType-Cトランシーバー同梱/LE Audio対応/アクティブノイズキャンセリング/立体音響 / 最大約24時間バッテリー / 急速充電/マイク付き / PS5 スマホ PC Switch グラスパープル
¥20,800

Amazonのアソシエイトとして、ASCII.jpは適格販売により収入を得ています。

デジタル用語辞典

ASCII.jpメール デジタルMac/iPodマガジン