インテルが「Xeon 6」と「Gaudi 3」の詳細を発表、ラックマウントの高密度化に貢献
2024年06月04日 12時00分更新
AIアクセラレーター「Gaudi 3」は
NVIDIA H100/H200よりも安価で高性能
AIアクセラレーターの最新モデル「Gaudi 3」は、64個のTensor Processor Core（第5世代）を搭載し、AI演算を実行するための8つの行列演算エンジンを搭載している。メモリーは128GBの広帯域メモリーと、12.8TB／sと高速のSRAMを96MB搭載。また24の200GbE対応ネットワークインターフェースポートとPCIe 5にも対応。これにより、全モデルの「Gaudi 2」と比較して、AI処理能力ではFP8で2倍、BF16では4倍となっている。
AIアクセラレーターの最新モデル「Gaudi 3」が登場
Gaudi 3
Gaudi 3のポイント
またNVIDIAのH100と比較してもLLM処理では2倍、同じくH200との比較ではLLM処理で約1.5倍の性能差があるとしている。
LLM処理ではNVIDIのH100と比較して2倍の性能
同じくH200との比較では1.5倍の性能差となっている
搭載コストとしては、8個のGaudi 3アクセラレーターを搭載したキットが、12万5000ドル。またGaudi 2アクセラレーターを8個搭載したモデルも用意されており、こちらは6万5000ドルという設定。
Gaudi 3の価格設定
こちらもNVIDIAのH100との比較が費用ベースで提示されており、推論スループットでは、2.3倍、トレーニングスループットでは1.9倍のアドバンテージがあるという。
金額ベースでの比較でも、NVIDIAのH100を上回っている
この連載の記事
-
第79回
スマホ
台湾で注目を集めたコーヒーかすスマホや日本で出そうなZenfoneの新型 -
第78回
ゲーム・ホビー
電車もバスも自転車もこれ1枚で！ 台湾渡航の際にSIMより最優先でゲットすべき交通系ICカード -
第77回
sponsored
ほかにない特徴や魅力が多数！ COMPUTEXのSilverStoneブースをチェック -
第76回
PC
QNAPがNAS製品でAI機能を強化、画像認識や検索を高速化 -
第75回
PCパーツ
COMPUTEXでも多数登場、LCD付きCPUクーラー時代到来の予感！ -
第74回
ゲーム・ホビー
【親日の国】台湾の空港でやっておくべき3つのこと -
第73回
PCパーツ
台湾ではPCの横にあるスナック菓子「乖乖」を食べてはいけない！ -
第72回
ゲーム・ホビー
日本フードチェーン店の海外限定メニューを台湾で探してみた -
第71回
PCパーツ
ADATAがポータブルゲーミングPCをCOMPUTEXで公開、SSDを交換可能 -
第70回
グルメ
知らずに買うと甘い「台湾のお茶」を買うときの注意点 -
第69回
ゲーム・ホビー
“日本が好き”が伝わってくる、これが台湾のメイドカフェだ！ - この連載の一覧へ
