プロトタイプはTSMCの28nm HPC+プロセス
実際のGSPの内部構造が下の画像である。2017年の発表時点では、個々のプロセッサーの詳細は説明されていない。
全体としてみると、4つのプロセッサーコアを搭載するQuadという処理単位が複数個並び、その外側に2次/3次キャッシュが付く構造になっている。特徴的なのは以下のとおりで、トポロジー(構造)に特に制約は設けられていない。
- 全体のスレッドスケジューリングは、Quadの手前のThread Schedulerで処理される。
- Thread Schedulerはデータ依存性を理解し、実行リソースが利用可能で入力データが用意されているスレッドを選んで、個々のQuad内のプロセッサーに割り当てる
- リダクション命令が用意される。要するに複数要素を一つにまとめて結果を出すというもので、Convolutionにおける総和がまさしくこの例となる。これが並列に実行できるので、総和の計算(1回のConvolutionに必ず1回発生する)を大幅に高速化できる
- システム全体では、平均100あまりのスレッドがIn-Flight(稼働可能)状態に保たれ、そこから数十(これはQuadの数次第)のスレッドが並列実行される
- 原理的にGSPというか個々のプロセッサーでは、扱うデータタイプや精度、グラフのトポロ・Streamデータではなく、長期間滞在するデータ(例えばConvolutionの計算の際の総和)に対し、2次元配列としてアクセスする機能を持つ。これはメモリーアライメントと無関係にアクセス可能
- メモリーに対して2次元アクセスが可能
2017年の発表時にはTSMCの28nm HPC+プロセスを使って試作されており、スタンドアロンのPCIeアクセラレーターとSoC内部の組み込みの両方が可能ながら、SoCモードでは2.5Wで動作するという見積もりがなされていた。
ただこの時点では性能そのものは公開されておらず、2.5WはともかくとしてどこまでAIのアクセラレーターで使い物になるのかは未知数という評価だったと記憶している。
DFPのWave Computingと同じ
Tailwood CapitalがThinCIに出資
ここで冒頭の話に戻る。デンソーは2016年にまずThinCIに出資しているが、2018年には追加出資している。またNSI-TEXEの設立は2017年9月であり、そこからDFPの開発をスタートしているわけで、中核にはこのGSPのグラフ制御の技術があったものと推察される。
実際GSPのストリームプロセッサーという構成そのものは、限りなくData Flow Processorに要求される方式そのものである。余談であるが、Data Flow ProcessorといえばAIの世界ではWave ComputingのDFPがいろいろな意味で有名であるという話を連載568回でした。
Wave ComputingはTailwood Capitalが出資者であり、それもあってTailwood CapitalのマネージングパートナーであるDado Banatao氏がWave Computingの会長を務めているわけだが、実はThinCIにもTailwood Capitalは出資しており、それもあって同社の取締役にもBanatao氏が名前を連ねているあたりがなんとも、という感じである。
ついでに言えばBanatao氏の名前が最初に出てきたのは連載20回。実はS3の創業者であり、また連載381回では触れていないが、C&Tの創業パートナーでもある。根っからの起業家体質の方で、その意味ではWaveは失敗だったのだろうが、立ち上げた会社が全部成功するわけでもないだろうから、そのあたりは割り切っているのかもしれない。
この連載の記事
-
第803回
PC
トランジスタの当面の目標は電圧を0.3V未満に抑えつつ動作効率を5倍以上に引き上げること IEDM 2024レポート -
第802回
PC
16年間に渡り不可欠な存在であったISA Bus 消え去ったI/F史 -
第801回
PC
光インターコネクトで信号伝送の高速化を狙うインテル Hot Chips 2024で注目を浴びたオモシロCPU -
第800回
PC
プロセッサーから直接イーサネット信号を出せるBroadcomのCPO Hot Chips 2024で注目を浴びたオモシロCPU -
第799回
PC
世界最速に躍り出たスパコンEl Capitanはどうやって性能を改善したのか? 周波数は変えずにあるものを落とす -
第798回
PC
日本が開発したAIプロセッサーMN-Core 2 Hot Chips 2024で注目を浴びたオモシロCPU -
第797回
PC
わずか2年で完成させた韓国FuriosaAIのAIアクセラレーターRNGD Hot Chips 2024で注目を浴びたオモシロCPU -
第796回
PC
Metaが自社開発したAI推論用アクセラレーターMTIA v2 Hot Chips 2024で注目を浴びたオモシロCPU -
第795回
デジタル
AI性能を引き上げるInstinct MI325XとPensando Salina 400/Pollara 400がサーバーにインパクトをもたらす AMD CPUロードマップ -
第794回
デジタル
第5世代EPYCはMRDIMMをサポートしている? AMD CPUロードマップ -
第793回
PC
5nmの限界に早くもたどり着いてしまったWSE-3 Hot Chips 2024で注目を浴びたオモシロCPU - この連載の一覧へ