ロードマップでわかる！当世プロセッサー事情 第791回

妙に性能のバランスが悪いマイクロソフトのAI特化型チップMaia 100　Hot Chips 2024で注目を浴びたオモシロCPU

　Hot Chips第4弾は、マイクロソフトのMaia 100である。Maia 100はマイクロソフト初の自社製AIチップということで、昨年11月に開催されたMicrosoft Ignite 2023で発表された。

　ちなみにこの時にはMaia 100に加え、Armベースの汎用プロセッサーであるCobalt 100も発表、AmpereのArm CPU(おそらくAmpere Alter/Alter MAXだろう)より40%高速といった数字は示されていたが、これはそもそもの世代の違い(Alter/Alter MAXはNeoverse N1ベースである)を考えれば妥当な数字である。

基調講演でMaia 100を示すSatya Nadella CEO

同じくCobalt 100。こちらはArmのNeoverse N2ベースとされる

マイクロソフト独自設計のAI特化型チップMaia 100

　Maia 100はマイクロソフトの独自設計となっている。構成的にはコンピュート・チップレットに4つのHBM2Eを集積した構成である。

これはマイクロソフト提供の写真だが、CGでのレンダリング画像のような気もする。ただマイクロソフトのブログエントリーでは、これを手で持っている写真も公開されているあたり、実写なのだろうか？

　発表された内容は以下のとおりで、設計はOpenAIと共有しており、OpenAIによる改良もあったとする。

• AIの訓練と推論の両方に対応
• 5nmプロセスで製造、トランジスタ数1050億個
• チップの冷却には液冷を利用。これに対応してMaia 100専用のラックを製造。冷却ユニットを裏側から見ると巨大なラジエーターが斜めに鎮座している

液冷ヘッドがかなり薄いのが特徴的。ひょっとすると冷却液をそのままチップに当てているのだろうか？

Maia 100専用のラック。こちらもマイクロソフト提供の写真だが、冷却ユニットは左側にある

こちらは基調講演で示された実物。なぜか左右が逆

カメラがアップなので全体像がわかりにくいが、ほぼラックの高さに等しい巨大でかつ厚みのあるラジエーターが斜めに鎮座している。構成的にはCLLC(Closed-Loop Liquid Cooling)のように思われる。最初これは熱交換器でDTC(Direct to Chip Liquid Cooling)方式かと思った。DTCの場合、チップを冷やす一次冷却水を熱交換器で冷却するが、その一次冷却水を冷やすための二次冷却水はサーバールームの外部にクーリングタワーを置き、ここで冷却する方式である

　Maia 100は、今年からAzureへの展開を予定するという話であった。ちなみに同じ基調講演で、そのAzureにはNVIDIAのH100/H200とAMDのInstinct MI300Xのインスタンスも用意されることが明らかにされており、要するにマイクロソフトはAI向けインスタンスはMaia 100のみとするわけではなく、顧客ニーズに応じてNVIDIAとAMDのソリューションも同時に提供していくとした。クラウドプロバイダーとしては当然のスタンスだろう。

　Ignite 2023で説明されたのはこの程度で、これ以上の詳細は未公表のままだったのだが、それが今回Hot Chipsで公開された。これにあわせてマイクロソフトのブログでも、ほぼ同じ内容を記したエントリーが公開されたので、両方の情報をまとめて説明していこう。