推論の性能は35倍アップ!
Instinct MI325X/350/400
こちらもKTU氏の記事にないので簡単に補足。AMDは2026年までのInstinctシリーズのロードマップを公開した。今年登場するのはInstinct MI325Xで、2025年にMI350、2026年にMI400がそれぞれ投入される。
まず今年中に投入されるInstinct MI325Xであるが、こちらはGCDそのものは既存のMI300Xのものと同じで、ただしHBM3eメモリーをMI300Xの24GB/スタックから36GB/スタックとしたことで、総メモリー量を288GBまで増やした。
転送速度もMI300Xは5.2TB/秒だったのがMI325Xでは6TB/秒に強化されており、信号速度で言えばMI300Xが5.2Gbps/pinだったのがMI325Xでは5.8Gbps/pinに向上している。これによって、NVIDIAのH100のメモリーを増強したH200と比べても十分競争力がある、としている。
続くMI350Xはまだプレビューであるが、GCDを3nmに微細化、またFP4/FP6のデータタイプのサポートも追加される。このMI350Xの仮想敵はNVIDIAのB200であり、メモリー容量でB200比の1.5倍、AI compute性能で1.2倍と説明されている。
ただNVIDIAは2025年にBlackwell Ultraを投入するとしており、これと戦うためにはもう少し性能の上乗せが必要かもしれない。ちなみにこのMI350Xの推論における性能はMI300比で35倍になる、というすさまじい数字も示された。
2026年はMI400が投入されるが、こちらに関しては一切情報がない。ただこの時期NVIDIAは新アーキテクチャーであるRubinを投入することが基調講演で示されており、このRubinと一騎打ちになると思われる。
ということで簡単だがAMDの補足情報を説明した。製品が出てくるのは7月であり、その直前にはまたもやKTU氏の死のベンチマークロードが始まるものと予想される。
この連載の記事
-
第798回
PC
日本が開発したAIプロセッサーMN-Core 2 Hot Chips 2024で注目を浴びたオモシロCPU -
第797回
PC
わずか2年で完成させた韓国FuriosaAIのAIアクセラレーターRNGD Hot Chips 2024で注目を浴びたオモシロCPU -
第796回
PC
Metaが自社開発したAI推論用アクセラレーターMTIA v2 Hot Chips 2024で注目を浴びたオモシロCPU -
第795回
デジタル
AI性能を引き上げるInstinct MI325XとPensando Salina 400/Pollara 400がサーバーにインパクトをもたらす AMD CPUロードマップ -
第794回
デジタル
第5世代EPYCはMRDIMMをサポートしている? AMD CPUロードマップ -
第793回
PC
5nmの限界に早くもたどり着いてしまったWSE-3 Hot Chips 2024で注目を浴びたオモシロCPU -
第792回
PC
大型言語モデルに全振りしたSambaNovaのAIプロセッサーSC40L Hot Chips 2024で注目を浴びたオモシロCPU -
第791回
PC
妙に性能のバランスが悪いマイクロソフトのAI特化型チップMaia 100 Hot Chips 2024で注目を浴びたオモシロCPU -
第790回
PC
AI推論用アクセラレーターを搭載するIBMのTelum II Hot Chips 2024で注目を浴びたオモシロCPU -
第789回
PC
切り捨てられた部門が再始動して作り上げたAmpereOne Hot Chips 2024で注目を浴びたオモシロCPU -
第788回
PC
Meteor Lakeを凌駕する性能のQualcomm「Oryon」 Hot Chips 2024で注目を浴びたオモシロCPU - この連載の一覧へ