アクセラレーターが3次キャッシュや
メモリーに直接読み書きできる
次の話がAiA(Accelerator interfacing Architecture)である。要するに、より効率的にアクセラレーターを利用できるようにするというもので、具体的にはアクセラレーターに対してキャッシュコヒーレンシなメモリーアクセスが可能というものだ。
つまりアクセラレーターが3次キャッシュやメモリーに直接読み書きを可能にできるというものだ。おそらくはCXL経由でのアクセラレーターも、このAiAに対応したものであればやはりキャッシュコヒーレンシを保つ形でアクセス可能になっているものと思われる。
このAiAの上に載る形で、先に書いたAMXのほかにDSA(Data Streaming Acceleration)EngineやIntel QAT(Quick Assist Technology)などが搭載されるが、今回初搭載のDSAはともかく、QATそのものは以前から提供されていた技術である。ただこちらもAiAを利用することで大幅に効率が上がったようで、実にCPU処理の98%をオフロードできるとしている。
多数の仮想マシンからデバイスを利用できる
次が、これはHotChipsで発表された話だが、SVM(Shared Virtual Memory)とS-IOV(Scalable IO Virtualization)の実装である。SVMそのものは以前からあり、OpenCLなどですでに対応している
おそらく今回はCXL 1.1の搭載に合わせ、CXLベースのアクセラレーターもSVMを利用できるようになった、という話だろう。一方のS-IOVは、SR-IOV(Single Root I/O Virtualization)をハードウェア的にアシストすることで、多数のVM(仮想マシン)からデバイスを利用できるようにするというものだ。
大規模なデータセンターサーバーでは、多数のVMがハードウェアを共有して使うケースは珍しくなく、ところがPCI Expressで定められたSR-IOVの機能はそれほど多くのVMからアクセスされることを想定しておらず、これがボトルネックになることがしばしばあった。これを解決するためのものがS-IOVである。
この連載の記事
-
第769回
PC
HDDのコントローラーとI/Fを一体化して爆発的に普及したIDE 消え去ったI/F史 -
第768回
PC
AIアクセラレーター「Gaudi 3」の性能は前世代の2~4倍 インテル CPUロードマップ -
第767回
PC
Lunar LakeはWindows 12の要件である40TOPSを超えるNPU性能 インテル CPUロードマップ -
第766回
デジタル
Instinct MI300のI/OダイはXCDとCCDのどちらにも搭載できる驚きの構造 AMD GPUロードマップ -
第765回
PC
GB200 Grace Blackwell SuperchipのTDPは1200W NVIDIA GPUロードマップ -
第764回
PC
B100は1ダイあたりの性能がH100を下回るがAI性能はH100の5倍 NVIDIA GPUロードマップ -
第763回
PC
FDD/HDDをつなぐため急速に普及したSASI 消え去ったI/F史 -
第762回
PC
測定器やFDDなどどんな機器も接続できたGPIB 消え去ったI/F史 -
第761回
PC
Intel 14Aの量産は2年遅れの2028年? 半導体生産2位を目指すインテル インテル CPUロードマップ -
第760回
PC
14nmを再構築したIntel 12が2027年に登場すればおもしろいことになりそう インテル CPUロードマップ -
第759回
PC
プリンター接続で業界標準になったセントロニクスI/F 消え去ったI/F史 - この連載の一覧へ