推論の性能は35倍アップ!
Instinct MI325X/350/400
こちらもKTU氏の記事にないので簡単に補足。AMDは2026年までのInstinctシリーズのロードマップを公開した。今年登場するのはInstinct MI325Xで、2025年にMI350、2026年にMI400がそれぞれ投入される。
まず今年中に投入されるInstinct MI325Xであるが、こちらはGCDそのものは既存のMI300Xのものと同じで、ただしHBM3eメモリーをMI300Xの24GB/スタックから36GB/スタックとしたことで、総メモリー量を288GBまで増やした。
転送速度もMI300Xは5.2TB/秒だったのがMI325Xでは6TB/秒に強化されており、信号速度で言えばMI300Xが5.2Gbps/pinだったのがMI325Xでは5.8Gbps/pinに向上している。これによって、NVIDIAのH100のメモリーを増強したH200と比べても十分競争力がある、としている。
続くMI350Xはまだプレビューであるが、GCDを3nmに微細化、またFP4/FP6のデータタイプのサポートも追加される。このMI350Xの仮想敵はNVIDIAのB200であり、メモリー容量でB200比の1.5倍、AI compute性能で1.2倍と説明されている。

MI350Xの概要。逆にメモリーがMI325Xと同じ容量なのがちょっと気になるところ。あるいは現在は8スタックの構成を12スタックなどにして、スタックあたり24GBのまま、速度をもっと引き上げる方向に振っているのかもしれない
ただNVIDIAは2025年にBlackwell Ultraを投入するとしており、これと戦うためにはもう少し性能の上乗せが必要かもしれない。ちなみにこのMI350Xの推論における性能はMI300比で35倍になる、というすさまじい数字も示された。
2026年はMI400が投入されるが、こちらに関しては一切情報がない。ただこの時期NVIDIAは新アーキテクチャーであるRubinを投入することが基調講演で示されており、このRubinと一騎打ちになると思われる。
ということで簡単だがAMDの補足情報を説明した。製品が出てくるのは7月であり、その直前にはまたもやKTU氏の死のベンチマークロードが始まるものと予想される。

この連載の記事
-
第811回
PC
Panther Lakeを2025年後半、Nova Lakeを2026年に投入 インテル CPUロードマップ -
第810回
PC
2nmプロセスのN2がTSMCで今年量産開始 IEDM 2024レポート -
第809回
PC
銅配線をルテニウム配線に変えると抵抗を25%削減できる IEDM 2024レポート -
第808回
PC
酸化ハフニウム(HfO2)でフィンをカバーすると性能が改善、TMD半導体の実現に近づく IEDM 2024レポート -
第807回
PC
Core Ultra 200H/U/Sをあえて組み込み向けに投入するのはあの強敵に対抗するため インテル CPUロードマップ -
第806回
PC
トランジスタ最先端! RibbonFETに最適なゲート長とフィン厚が判明 IEDM 2024レポート -
第805回
PC
1万5000以上のチップレットを数分で構築する新技法SLTは従来比で100倍以上早い! IEDM 2024レポート -
第804回
PC
AI向けシステムの課題は電力とメモリーの膨大な消費量 IEDM 2024レポート -
第803回
PC
トランジスタの当面の目標は電圧を0.3V未満に抑えつつ動作効率を5倍以上に引き上げること IEDM 2024レポート -
第802回
PC
16年間に渡り不可欠な存在であったISA Bus 消え去ったI/F史 -
第801回
PC
光インターコネクトで信号伝送の高速化を狙うインテル Hot Chips 2024で注目を浴びたオモシロCPU - この連載の一覧へ