ロードマップでわかる！当世プロセッサー事情 第849回

d-MatrixのAIプロセッサーCorsairはNVIDIA GB200に匹敵する性能を600Wの消費電力で実現

CorsairはNVIDIAのGB200に匹敵する性能

　そんなCorsairであるが、600Wの消費電力に対して38TOPS/Wの効率であり、性能はFP4の場合で2400～9600TOPS、別の言い方をすれば2.4～9.6PFLOPSという性能だと同社は主張する。

38TOPS/Wに600Wをかけると22800TOPS/Wとなる計算だが、この38TOPS/Wはあくまでも条件が一番良い時の数字であって、フル駆動ではもっと効率は落ちる。詳細は後述する

　余談ながらBlackwellの性能はFP4の場合、GB200が10PFLOPS、GB300で15PFLOPSとされており、つまりGB200に匹敵できる性能を持つことになる。もっともスケールアウトの性能で言えばNVLinkを持つGB200の方が圧倒的に優位ではあるのだが、Corsairは推論向けのプロセッサーであり、またモデルを小規模なものに抑えつつ精度を引き上げるという工夫をしているので、複数枚のGPUを使わずに済む。つまり1枚で完結させる性能が重要、ということもできるのかもしれない。

　チップレットの中身をもう少し見てみよう。下の画像がその構造であるが、それぞれのスライスはGM(Global Memory)とDRE(Data Reshape Engine)、それと2つのStash Engineから構成される。

スライスにあるGlobal Bufferは、2つのStash Engineに対してデータを配分するために設けられているものと思われる

　そのStash Engine(これはApollo Coreという名前だそうだ)の中身は、8つのDIMCコアと1つのVector SIMDから構成されている。そのDIMCとVector SIMDの詳細は次の画像で示される通りだ。

GMから渡されるのは重みデータで、これはすべてのDIMCにマルチキャストされる。一方で演算対象となるデータはStashから渡される形になる

　DIMCの手前には64KBのInput Bufferが置かれ、そこから8つのDIMCにデータが配分される。DIMCはすべて64×64のMatMulの演算を実行でき、その結果をOutput Buffer(128KB)に書き込む。その結果に対して、必要ならVector SIMD演算が行えるという仕組みだ。