今回取り上げるのは、8月のHotChips 34で詳細が公開された中国Biren Technology(壁仞科技)のBR100(とBR104)である。
このBR100、GPGPU枠で紹介すべきか、AIプロセッサー枠で紹介すべきか悩んだのだが、一応AIプロセッサー枠とした。そもそもGPUから描画ユニットを取り去ったような格好をしているNVIDIAのA100とH100、AMDのInstinct MI100/200/300はともかくとして、そもそも描画ユニットを搭載したファミリーがいっさいないBR100の場合、中の作りは確かにGPUっぽいものの、これをGPGPUと評していいのか疑問な部分ではある。
上海の新興スタートアップ企業が作る
1000平方mm超えの巨大ダイ
さて、Biren Technologyは上海に拠点を置く新興のスタートアップ企業である。創業時期は不明だが、それこそHot Chipsまでほぼステルスモードで推移していた。ただ2020年6月にシリーズAの投資(11億元)、ついで同年8月には1億3000万ドルのシリーズBの投資、2021年3月にもやはりシリーズBの投資を受けており、投資総額は公開されているだけで2億8520万ドルに達している。
さてそんなBirenのBR100のスペックが下の画像だ。
動作周波数は明示されていないが、INT8で2048TOPSと言うのは、決してハイエンドの性能ではない(例えばNVIDIAのH100は、SXMの方ではTensor CoreでINT 8の性能は4000TOPS)であるが、7nm(おそらくTSMC N7だろう)ということを考えればかなり健闘している部類に入ると思う。実際、A100と比較した際のAIワークロードの性能は平均2.6倍とされる。

A100の公称スペックは、INT 8だと624TFlops(SPARSモデルでは1248TOPSになっているが、これはまた別の話)だから、純粋にピーク性能で言えば3倍くらい違うわけで、思ったほどには伸びないという印象でもある
ところで冒頭の1000mm2超えのダイをどうやって実現したか? と思ったら、素直に2ダイのMCM構成だった。
つまりダイ1個あたりで言えば537mm2で、これを2つ搭載しているから、1074mm2という計算になる。要するにAMDのInstinct MI250/250Xと同じ構造なわけだ。性能がInstinct MI250ほど高くないから、HBM2eの積層も半分になっているが、このあたりはバランスの話であって、そう悪い構成とは思えない。
ちなみに記事冒頭の画像にもあるが、独自のBLinkと呼ばれる外部接続用のインターコネクトが8本用意されており、このうち7本を相互接続に、残る1本をホスト接続にすることで高性能なクラスターを構築できる、というあたりもInstinct MI250/250Xに近い。

Instinct MI250/250Xに近い構造。ということはBLinkはPCIe互換モードも持っている(BLinkとPCIeを切り替えて使える)ように思えるが、そのあたりの詳細は今回発表されていない
ちなみにBR100は消費電力が550Wということもあって、OAM(OCP Accelerator Module)のみでの提供だが、ダイを半分にしたBR104の場合は計算上275Wになるということもあって、PCIeカードでの提供も行われることになっている。

このBR104のPCIeカードの方も3ポートのBLink I/Fが搭載されているそうだ(https://www.birentech.com/product_details/1005557844745474048.html)

この連載の記事
-
第810回
PC
2nmプロセスのN2がTSMCで今年量産開始 IEDM 2024レポート -
第809回
PC
銅配線をルテニウム配線に変えると抵抗を25%削減できる IEDM 2024レポート -
第808回
PC
酸化ハフニウム(HfO2)でフィンをカバーすると性能が改善、TMD半導体の実現に近づく IEDM 2024レポート -
第807回
PC
Core Ultra 200H/U/Sをあえて組み込み向けに投入するのはあの強敵に対抗するため インテル CPUロードマップ -
第806回
PC
トランジスタ最先端! RibbonFETに最適なゲート長とフィン厚が判明 IEDM 2024レポート -
第805回
PC
1万5000以上のチップレットを数分で構築する新技法SLTは従来比で100倍以上早い! IEDM 2024レポート -
第804回
PC
AI向けシステムの課題は電力とメモリーの膨大な消費量 IEDM 2024レポート -
第803回
PC
トランジスタの当面の目標は電圧を0.3V未満に抑えつつ動作効率を5倍以上に引き上げること IEDM 2024レポート -
第802回
PC
16年間に渡り不可欠な存在であったISA Bus 消え去ったI/F史 -
第801回
PC
光インターコネクトで信号伝送の高速化を狙うインテル Hot Chips 2024で注目を浴びたオモシロCPU -
第800回
PC
プロセッサーから直接イーサネット信号を出せるBroadcomのCPO Hot Chips 2024で注目を浴びたオモシロCPU - この連載の一覧へ