絶対性能はDGX A100の方がやや高速だが
DGX A100の価格はIPU-POD16の2倍
IPU-M2000の内部構成が下の画像だ。IPU同士は相互接続されるが、それとは別にIPU-Gatewayという名称の管理用のSoC(4コアの64bit Armコアだそうだ)とこれの起動用SSDと、それとは別に新たにDDR4 DIMMが搭載可能になっている。これは言わばIPU-M2000ごとに搭載されるローカルキャッシュであり、GraphCoreはストリーミングメモリーと称している。このストリーミングメモリーはIPU-Gatewayに接続される格好だ。
IPU-M2000は単体でも動作するが、セット商品として4台(+x86サーバ)を組み合わせたIPU-POD16、16台組み合わせたIPU-POD64、さらにこれをクラウドサービスとして使えるGRAPHCLOUDの提供も始めている。
ところでこのMK2の性能、当初説明があったのは「8台のIPU-M2000と16セットのNVIDIA DGX A100が同等(EfficientNet-B4のトレーニングでの数字)」という話であるが、これも漠然としている。ただこれについては、6月30日にMLPerf 1.0に準拠する数字を発表したということで、これに準じた数字がいくつか出てきたので説明しよう。
下の画像が、BERTとResNet-50のトレーニング時間である。全体のテスト結果はウェブサイトで公開されているが、ここからGraphcoreの製品の結果だけのダイジェストである。
![](/img/2021/07/04/3224687/l/5a86b33c59eea9b9.jpg)
Open(Open Division Time)の方はほとんど結果がない(GraphCoreのものを含めて全部で5つしか結果が掲載されていない)ので、当面はClosed(Closed Division Time)の方だけを比較すればいいだろう
これだと比較にならない、ということでResNet-50とBERTの2つについて、NVIDIA DGX A100 640GBの結果と比較したのが下の画像だ。
ちなみに「購入金額はともかく、実際には電気代の方が問題じゃないのか?」という指摘に対し、「MLPerfのテスト項目に消費電力が入ってないので正確な比較はできない」としたうえで、DGX A100の消費電力が6500W(なにせNVIDIA A100の消費電力が400Wで、これが8枚入る上にEPYC 7742×2とConnectX-6 VPIが複数枚装着されているから、GPUの分だけで考えてもフル稼働すると3000Wは固い)なのに対し、IPU-M2000は1100Wであり、4枚+Dellのサーバーの分を考えても5000W以下と考えられるので、運用コストでも有利、と説明があった。
絶対性能で言えばDGX A100の方がやや高速ではあるのだが、DGX A100の価格がIPU-POD16の2倍であることを考えると、IPU-POD16の方が1.3~1.6倍コストパフォーマンスが高いというのがGraphcoreの説明である。
MLPerfに入っていないテスト結果の一例がEfficentNet-B4のケースだが、こちらでは絶対性能で2倍、価格性能比で言えば3.8倍に達するという話であった。
Graphcoreが今後もAIプロセッサーの市場で戦っていくには、「次の製品」を確実に仕込んでいかねばならない。現状はA100と良い勝負ができているが、相手は湯水のように資金を投入して新製品を作ってくる。
とりあえず次は5nm世代に移行するのはかなり固いところで、これに今のMk2で競合するのは難しいだろう。NVIDIAに負けないペースで、Mk3を出せるかどうかが見ものである。
![](/img/blank.gif)
この連載の記事
-
第775回
PC
安定した転送速度を確保できたSCSI 消え去ったI/F史 -
第774回
PC
日本の半導体メーカーが開発協力に名乗りを上げた次世代Esperanto ET-SoC AIプロセッサーの昨今 -
第773回
PC
Sound Blasterが普及に大きく貢献したGame Port 消え去ったI/F史 -
第772回
PC
スーパーコンピューターの系譜 本格稼働で大きく性能を伸ばしたAuroraだが世界一には届かなかった -
第771回
PC
277もの特許を使用して標準化した高速シリアルバスIEEE 1394 消え去ったI/F史 -
第770回
PC
キーボードとマウスをつなぐDINおよびPS/2コネクター 消え去ったI/F史 -
第769回
PC
HDDのコントローラーとI/Fを一体化して爆発的に普及したIDE 消え去ったI/F史 -
第768回
PC
AIアクセラレーター「Gaudi 3」の性能は前世代の2~4倍 インテル CPUロードマップ -
第767回
PC
Lunar LakeはWindows 12の要件である40TOPSを超えるNPU性能 インテル CPUロードマップ -
第766回
デジタル
Instinct MI300のI/OダイはXCDとCCDのどちらにも搭載できる驚きの構造 AMD GPUロードマップ -
第765回
PC
GB200 Grace Blackwell SuperchipのTDPは1200W NVIDIA GPUロードマップ - この連載の一覧へ