Haswellと同等のIPCを持つCHA
ベースになるCHAは下の画像のような構成である。今回x86コアに関しての説明は、ほぼこのスライドで終了であるが、Haswellと同等のIPCを持ち、2.5GHz駆動の8コア+16MB L2が、ちょうどインテルのCore同様にDual Ring Busでつながっている構成である。
異なるのは、PCI Expressが44レーンあることと、DDR4が4ch構成になっていること、それとマルチソケット対応(要するに2ソケット対応)が可能なことだ。
前モデルと思われるZhaoxinのKX-6000に比べると、同じ16nmプロセスを使いながら動作周波数が2.5GHzとやや控えめになっているが、これは続くNcoreを搭載する関係もあると思われる。NcoreはこのRing Busにぶら下がる形で実装される。
下の画像がダイレイアウトである。CHAの元になったKX-6000では、そもそもL3がないし、DDR4も2ch、PCI Expressも16レーンのみということで、ダイサイズもかなり小さく抑えること(ラフに言えば半分強)が可能だった。
しかし、CHAではまずDDR4を倍増、PCI Expressも44レーンまで増やしたことで、これらのピンを出すために必要なダイサイズが大幅に増えることになった。
おそらくはDDR4を4chにした時点で、下辺のサイズが倍増。これにあわせて上辺のPCI Expressも増やしたら44レーン分取れることになった、ということだろう。この結果としてL3を16MB分確保してもまだダイサイズにゆとりができたので、そこにNcoreを統合した格好だ。
NcoreはCPUから見ると、PCI Expressの先につながるアクセラレーターとして見える形をとる。
データ転送はNcoreに対しての読み書きを可能にする独自命令を追加するほか、AVX512のMov命令を利用することも可能、という格好である。
ここでいにしえのWeitekや、昨今のARMのDynamiQでサポートされるACPのようなレジスター経由アクセスを使わなかったのは、Inferenceの処理でもデータ量が多いので、レジスターへのPIOを多用するとむしろオーバーヘッドが大きくなることを懸念したものと思われる。
Ncoreそのものの構造は、主にDSPなどをベースにしたAI向けアクセラレーターでよく利用される、MACユニットを集約して高速でぶん回す方式はむしろ不効率と判断した。
そこでSIMDエンジンをベースとした構成になるわけだが、それがなんとAVX-32768相当、という化け物に仕上がっている。
全体が16個のスライスに分かれており、それぞれのスライスが256Bytes(2048bit)幅のSIMD演算が可能である。結果、1サイクルで4096Bytes分のSIMD処理が可能という、ARMのSVEもびっくりの実装となった。
この連載の記事
-
第800回
PC
プロセッサーから直接イーサネット信号を出せるBroadcomのCPO Hot Chips 2024で注目を浴びたオモシロCPU -
第799回
PC
世界最速に躍り出たスパコンEl Capitanはどうやって性能を改善したのか? 周波数は変えずにあるものを落とす -
第798回
PC
日本が開発したAIプロセッサーMN-Core 2 Hot Chips 2024で注目を浴びたオモシロCPU -
第797回
PC
わずか2年で完成させた韓国FuriosaAIのAIアクセラレーターRNGD Hot Chips 2024で注目を浴びたオモシロCPU -
第796回
PC
Metaが自社開発したAI推論用アクセラレーターMTIA v2 Hot Chips 2024で注目を浴びたオモシロCPU -
第795回
デジタル
AI性能を引き上げるInstinct MI325XとPensando Salina 400/Pollara 400がサーバーにインパクトをもたらす AMD CPUロードマップ -
第794回
デジタル
第5世代EPYCはMRDIMMをサポートしている? AMD CPUロードマップ -
第793回
PC
5nmの限界に早くもたどり着いてしまったWSE-3 Hot Chips 2024で注目を浴びたオモシロCPU -
第792回
PC
大型言語モデルに全振りしたSambaNovaのAIプロセッサーSC40L Hot Chips 2024で注目を浴びたオモシロCPU -
第791回
PC
妙に性能のバランスが悪いマイクロソフトのAI特化型チップMaia 100 Hot Chips 2024で注目を浴びたオモシロCPU -
第790回
PC
AI推論用アクセラレーターを搭載するIBMのTelum II Hot Chips 2024で注目を浴びたオモシロCPU - この連載の一覧へ