驚異的な性能を発揮するMI300X GPU

AMD、MI300X GPUによる初のMLPerf結果を発表 ─ Llama 2 70Bモデルで優れたAIパフォーマンスを確立

　AMDは8月30日、同社の最新GPU「AMD Instinct MI300X」を用いた初のMLPerf結果をMLCommonsサイトで発表されたことを公表した。同サイトには、MLPerf Inference: DatacenterやMLPerf Trainingなど、複数のパフォーマンス指標が掲載されている。

　AMDのMLPerf Inference v4.1では、「Llama 2 70B」に焦点を当てた以下の3つの重要なポイントが強調されている。

　まず、MI300X GPUは市場で入手可能な最高のAMD製CPUと組み合わせて使用することで、最適なAIタスクのパフォーマンス実現可能としている。次に、MI300Xの192GBの大容量メモリにより、単一のGPUでLlama 2 70Bモデル全体を実行可能である点が際立っている。多くの競合他社のGPUは、このモデルを複数のアクセラレータに分割しなければならないという制限があるとしている。

　さらに、AMDの次世代CPUがAIタスクのパフォーマンス向上に寄与していることも重要なポイントである。これにより、MI300Xと次世代CPUの組み合わせが、AI処理をさらに強力に後押しすることが期待される。

　MLPerf 4.1 Inferenceで示されたAMDの結果は、MI300XとROCmがLlama 2 70Bのような大規模言語モデルに対して、他の業界リーダーと比較しても優れた推論性能を発揮することを証明している。特に、NvidiaのH100と比較しても劣らないパフォーマンスを発揮しており、AI市場におけるAMDの存在感が高まっていることがわかる。

■関連サイト

• MLCommons サイト