新しい外部I/Fで帯域を確保する
NVIDIA
NVIDIAはHPCに関してインテルを捨て、IBMと組むという戦略に出た。もともと同社はARMからアーキテクチャーライセンスを取得し、Project Denverと呼ばれる64bit ARMベースの独自CPUを開発しており、一時期はこれがHPC向けに使われるという噂もあったが、結局Project DenverのコアはTegra K1などのモバイル向けに利用されることになった。
となると、少なくともKnights Landingのようなな解決法を行なうためには手頃なCPUコアがない。またそもそも同社のCUDAがホストベースの構成を前提としたものだったため、いきなり超並列のような構成を取ることはできない。
かといってインテルベースのプラットフォームを使う限り、PCI Expressベースになるから性能がここで頭打ちになる。技術的にはインテルがQPIのI/Fをライセンスしてくれれば、もっと高速で、しかもキャッシュコヒーレンシが利用できることになるが、インテルがこれを公開しない以上どうしようもない。
その一方、IBMは2014年4月にPower8というハイエンドプロセッサーを発表したが、このPower8は外部通信I/Fとしてこれまで利用してきたPCI Expressに代えて独自のCAPI(Coherence Attach Processor Interface)と呼ばれるポートを装備した。
これにあわせてNVIDIAはNVLINKと呼ばれる新しい外部I/Fを発表、Pascalの世代から搭載することを明らかにした。このNVLINKはGPUとホスト、あるいはGPU同士を接続するために利用可能とされ、帯域は80~200GB/秒になるとしている。
これだけ帯域が大きければ、ホストとの同期がボトルネックになる可能性はだいぶ下がることになる。
HSAをHPC市場に持ち込むつもりの
AMD
さて、ではAMDは?という話である。AMDの場合は、APUの実装を優先した関係で、GPGPUカードとホストの連携はあくまでも通常のPCI Express経由という扱いだったが、Kaveri世代で一応HSAの実装がフルに完了したこともあり、再びHPC市場に目を向けつつある。
IEEEの学会誌の1つであるIEEE MicroのVol 35 Issue 04(2015年7-8月号)は、“Heterogeneous Computing”という特集であるが、ここにAMDは10人もの筆者を集めて“Achieving Exascale Capabilities through Heterogeneous Computing”という記事を掲載している(関連リンク)。
下の画像はその概念図を示したものだが、同社のAPUコア(論文の説明ではARMもしくはx86ベースだそうだ)とGPU、そしてDRAMを全部シリコンインターポーザーに搭載するという形を想定している。要するにRadeon R9 Furyのもっと大規模、そしてCPUコアも載っている版である。
もともとAMDがHSAの実装でGPGPUカードのサポートを抜いたのは、PCI Express経由だと遅すぎる上にキャッシュコヒーレンシ性がないからだ。
ところが上の画像のようにシリコンインターポーザー経由にすればもっと高速に接続できるし、キャッシュコヒーレンシの実現も不可能ではない。つまり、現在のAPUをもっと大規模構成にできるというものだ。
発想はインテルのMICアーキテクチャーの方向性に近いが、GPUコアはあくまでもGPUコアでx86が走ったりはせず、ところがHSAの恩恵をフルに生かすことでより高い効率を得られる、と主張しているわけだ。
確かに実装密度で言えば、このほうがMICアーキテクチャーよりも高くなるし、HSAに向けての布石をここ数年努力してきたからソフトウェアの面では移行は難しくない。そんなわけで、AMDはHSAをHPCの市場に持ち込む方向性をとろうとしていることが、ここから見て取れる。
というわけで、簡単に今後のHPC向けのGPGPUの方向性について説明した。とりあえず汎用のGPUカードに似たGPGPUカードが装着される、という光景はここ数年で切り替わりそう、という感じである。
この連載の記事
-
第798回
PC
日本が開発したAIプロセッサーMN-Core 2 Hot Chips 2024で注目を浴びたオモシロCPU -
第797回
PC
わずか2年で完成させた韓国FuriosaAIのAIアクセラレーターRNGD Hot Chips 2024で注目を浴びたオモシロCPU -
第796回
PC
Metaが自社開発したAI推論用アクセラレーターMTIA v2 Hot Chips 2024で注目を浴びたオモシロCPU -
第795回
デジタル
AI性能を引き上げるInstinct MI325XとPensando Salina 400/Pollara 400がサーバーにインパクトをもたらす AMD CPUロードマップ -
第794回
デジタル
第5世代EPYCはMRDIMMをサポートしている? AMD CPUロードマップ -
第793回
PC
5nmの限界に早くもたどり着いてしまったWSE-3 Hot Chips 2024で注目を浴びたオモシロCPU -
第792回
PC
大型言語モデルに全振りしたSambaNovaのAIプロセッサーSC40L Hot Chips 2024で注目を浴びたオモシロCPU -
第791回
PC
妙に性能のバランスが悪いマイクロソフトのAI特化型チップMaia 100 Hot Chips 2024で注目を浴びたオモシロCPU -
第790回
PC
AI推論用アクセラレーターを搭載するIBMのTelum II Hot Chips 2024で注目を浴びたオモシロCPU -
第789回
PC
切り捨てられた部門が再始動して作り上げたAmpereOne Hot Chips 2024で注目を浴びたオモシロCPU -
第788回
PC
Meteor Lakeを凌駕する性能のQualcomm「Oryon」 Hot Chips 2024で注目を浴びたオモシロCPU - この連載の一覧へ