ロードマップでわかる！当世プロセッサー事情 第583回

激戦のAI推論市場で生き残りを賭けるプロセッサー　AIプロセッサーの昨今

Groqが前回取り上げたTSPを搭載した
Groq Cardを発表

　今回は、AIプロセッサーをいくつか軽く紹介しよう。まずその前に前回の補足をしたい。

　Groqであるが、AI Hardware Summitにあわせて同社はTSP(Tensor Streaming Processor)とTSPを搭載したカード(Groq Card)、およびそのカードを複数搭載するGroq Nodeを出荷するとともに、ソフトウェア開発環境であるGroq wareの提供を開始したことを発表した。

Groq Cardの様子。2スロット厚で、全長はそう長くない(少なくともGeForce RTX 3080よりは短い感じ)。アクティブファンは持たない構成のようだ

　ちなみにGroqはAI Hardware Summitのスポンサーでもあり、それもあって同社CEOであるJonathan Ross氏による15分の基調講演があった(この内容はYouTubeに公開されている)が、残念ながらここで具体的なGroq Card/Groq Nodeの構成や価格、あるいは最終的に出荷される製品の性能などは明らかにされなかった。

後端がせりあがるやや不思議なシャーシ。前面を4Uサイズに絞る理由がよくわからない

　現時点で判明しているのは下記のとおりだ。

• Groq Nodeの性能は最大で6PetaOps/秒、消費電力は3.3KW。Groq Nodeそのものは5Uのラックサイズで提供される。

• Groq CardはPCI Expressカードとして提供される。前回の最後で触れたように、製品版は1.25GHz駆動で1Peta Ops/秒の性能とされるので、おそらくはGroq Nodeの中にGroq Cardが6枚装着されていると思われる。

• Groq CardはTSP以外に「標準的なサーバーで利用される管理機能が提供される」とあるので、Groq Nodeはおそらくは2ソケットのXeon、もしくは1ソケットのEPYCをベースとしたサーバーで、ここにPCI Express x16が6本以上付き、Groq Cardが差さっているものと思われる。「6本」ではなく「6本以上」というのは、“Multiple Groq nodes can be connected in a wide variety of network topologies, enabling computation at a new scale.”(複数のGroq Nodeはさまざまなネットワーク構成で接続可能であり、これにより新たなスケーラビリティーを提供する)とあり、それこそ400Gイーサネットやインフィニバンドなど、さまざまなネットワークカードに対応可能(Groq自身はそこには手を出さない)という意味で、こうしたネットワークカードを装着するためのPCI Expressスロットが別途用意されるものと考えられる。

• TSPそのものはGlobalfoundriesの(おそらく)14LPPでの製造であるが、物理設計を担ったのはMarvellのASIC部門であった。つまりGroqは論理設計のみを担当し、これの実装はMarvellにお願いした形だ(上のプレスリリースにも、MarvellのASIC Business Unit CTOのIgor Arsovski氏がメッセージを寄せており、ここからも確認できる)。

　まだ製品の出荷を開始しただけで、ビジネスとして成功するかどうかはまだ未知数であるが、製品化手前でコケるベンチャーも少なくないだけに、少なくとも製品出荷を開始したことは評価すべきだろう。