アクセラレーターが3次キャッシュや
メモリーに直接読み書きできる
次の話がAiA(Accelerator interfacing Architecture)である。要するに、より効率的にアクセラレーターを利用できるようにするというもので、具体的にはアクセラレーターに対してキャッシュコヒーレンシなメモリーアクセスが可能というものだ。
つまりアクセラレーターが3次キャッシュやメモリーに直接読み書きを可能にできるというものだ。おそらくはCXL経由でのアクセラレーターも、このAiAに対応したものであればやはりキャッシュコヒーレンシを保つ形でアクセス可能になっているものと思われる。
このAiAの上に載る形で、先に書いたAMXのほかにDSA(Data Streaming Acceleration)EngineやIntel QAT(Quick Assist Technology)などが搭載されるが、今回初搭載のDSAはともかく、QATそのものは以前から提供されていた技術である。ただこちらもAiAを利用することで大幅に効率が上がったようで、実にCPU処理の98%をオフロードできるとしている。
Intel DSAはインテルのウェブサイトに仕様が公開されているが、PCI Expressデバイスの転送処理をCPUに代わって実施できるアクセラレーターである
Intel QATそのものはそれこそ2013年のRangeleyにも搭載されている、古くからあるアクセラレーターだが、ここまで性能が上がったのはやはりAiA対応ではないかと思われる
多数の仮想マシンからデバイスを利用できる
次が、これはHotChipsで発表された話だが、SVM(Shared Virtual Memory)とS-IOV(Scalable IO Virtualization)の実装である。SVMそのものは以前からあり、OpenCLなどですでに対応している
S-IOVの仕様そのものは2018年に発表されており、最新版は2020年9月のRevision 1.1となっている
おそらく今回はCXL 1.1の搭載に合わせ、CXLベースのアクセラレーターもSVMを利用できるようになった、という話だろう。一方のS-IOVは、SR-IOV(Single Root I/O Virtualization)をハードウェア的にアシストすることで、多数のVM(仮想マシン)からデバイスを利用できるようにするというものだ。
大規模なデータセンターサーバーでは、多数のVMがハードウェアを共有して使うケースは珍しくなく、ところがPCI Expressで定められたSR-IOVの機能はそれほど多くのVMからアクセスされることを想定しておらず、これがボトルネックになることがしばしばあった。これを解決するためのものがS-IOVである。
本記事はアフィリエイトプログラムによる収益を得ている場合があります

この連載の記事
-
第889回
PC
なぜ巨大チップは歪んで壊れるのか? SK HynixのHBM4「MR-MUF」とTSMCのCoWoS-Lを襲う熱膨張の罠 -
第888回
PC
NVIDIA Rubin Ultra開発中止の真相! 180層CoWoS-Lの歪曲トラブルと、急造ラックNVL576に透ける苦肉の策 -
第887回
PC
AIなしではもはや限界 TSMCが明かすメモリー開発にAIが不可欠となった現実 -
第886回
PC
CFETの足を引っ張るPMOSを救え! imecが提案する新絶縁層と、あえて精度を緩める「Notch Alignment」の妙手 -
第885回
PC
TSMCも次世代「CFET」の全貌を披露! Forksheetスキップの背景と、世界最小6T SRAM実証で見えた2030年への布石 -
第884回
PC
Samsungが次世代CFETの試作に成功! IBMの10万ドル方式に対抗する、量産重視な「一括形成プロセス」のリアリティ -
第883回
PC
TSMCのA16プロセスの詳細が判明! 性能向上の主因はトランジスタではなく裏面電源供給(SPR)にあり? -
第882回
PC
IBMが0.7nmチップの製造に成功! 変態的CFET構造NanoStackの凄みと、あまりに高すぎる製造コストの壁 -
第881回
PC
同一周波数で消費電力18%削減! 進化した「Intel 18A-P」はどこが変わったのか? -
第880回
PC
次世代NVLinkの布石か? TSMCの光電融合技術「COUPE」がもたらすAIサーバーの光接続 -
第879回
PC
なぜAIには「光」が必要なのか? NVIDIAが解説するスケールアップネットワークの低遅延・省電力化戦略 - この連載の一覧へ












