商用向けは成功例がほとんどない
ということで理屈では優れているはずのReconfigurable Processorであるが、商用向けはいばらの道が延々と続いた。筆者が知る範囲で言えば、米Stretchは2004年頃からReconfigurable ProcessorとしてS5000シリーズを提供開始、2006年には第2世代のS6000シリーズを発表したものの、その後業績不振もあって経営陣が交代した。
DVR(Digital Video Recoder)向けに活路を見出し、2010年にはS7000シリーズをリリースするものの、2014年にExarに買収されて消えている。
同じ時期に日本でReconfiguration ProcessorをリリースしたのがIPFlexで、DAPDNAと呼ばれるReconfiguration Processorを発表。複写機向けなどに採用されたものの同社は2009年7月に破産。
同社が保有していた関連特許を始めとする知的財産は丸ごと、富士ゼロックスが買収した。これはDAPDNAをベースに製品を開発しており、そうした開発に支障がないように、ということであった。
もう少し後には、2010年にTabluraという企業がReconfigurable FPGAをリリースしている。これはどういう話かというと、通常FPGAは数百MHzで動作するが、Tabulaの製品は1.6GHzで動作し、ただしユーザーから見ると1つのFPGAのセルが200MHzで動作する8つのセルに見える、という仕組みである。
これにより、実際のFPGAセル数の8倍(このあたりはもっと速度を上げればもっと増える)の容量のFPGAを安価に提供できるというものだった。こちらは2014年に最新製品を発表するものの、2015年に会社が破綻している。
もちろん成功した例がないわけではない。例えば英XMOSはxCOREと呼ばれる独特なMCUを提供している。これは高速動作するMCUを時分割で利用することで、見かけ上マルチコアMCUとして動作するというもので、広義にはReconfigura Processorに含まれる。
狭義で言えば、ユーザーが自分で好きなようにカスタマイズできるわけではないので、その意味では単なる時分割プロセッサーと言えなくもないが、利用されている技術要素はReconfigurable Processorと共通である。
あるいはルネサスエレクトロニクスは長らくDRP(Dynamically Reconfigurable Processor)を開発してきており、これを搭載したRZ/A2MというCortex-A9ベースのアプリケーションプロセッサー(DRPはアクセラレーターとして搭載)を出荷している。したがって、全滅したわけではないが、広範に使われているとはさすがに言いにくい。
すさまじい数字を叩きだして有名になった
SambaNovahaのCardinal SN10
前置きだけでだいぶ長くなってしまったが、いよいよ本題に入る。SambaNovahaは2017年、パロアルトで創業された比較的若い会社である。創業後3年ほどはステルスモードで推移したが、すでにベンチャーキャピタルから合計で4億5600万ドルを集めており、企業評価価値は25億ドルに達するとされている、典型的なユニコーン企業(*1)である。
(*1) ユニコーン企業の大まかな定義は 1:創業後それほど時間が経っていない(おおむね10年未満) 2:企業価値評価価値が10億ドル以上 3:未上場企業 の3つを満たす企業のこと。
そのSambaNova、12月9日にプレスリリースを発表し、同社のCardinal SN10を利用したシステムですさまじい数字を叩きだしたことで一躍有名になった。
この数字の話はあとで紹介するとして、まずはRDUの話をしよう。今年2月に開催されたScaled ML 2020において同社はRDU内部の説明をしたので、まずはこの資料をベースに紹介したい。
説明したのは、同社の創業者の一人で、Chief Techologistのポジションであり、かつスタンフォード大教授(Electrical Engineering and Computer Science)のKunle Olukotun博士である。
Olukotun博士の講演は、まず現状NL(Non-local neural networks)やNN(neural networks)の計算量が急激に増大しており、特に最近の自然言語処理においては、ネットワークのサイズが3ヵ月ごとに倍増するという恐ろしい伸びを示していることを問題として取り上げている。
こうした巨大モデルの場合、今はGPUを使って動作させていることが多いが、その効率が非常に悪いのも問題となっている。こうした問題の解決案としてSoftware 2.0をもっと推進していこう、というのが基本的なコンセプトである。
この連載の記事
-
第798回
PC
日本が開発したAIプロセッサーMN-Core 2 Hot Chips 2024で注目を浴びたオモシロCPU -
第797回
PC
わずか2年で完成させた韓国FuriosaAIのAIアクセラレーターRNGD Hot Chips 2024で注目を浴びたオモシロCPU -
第796回
PC
Metaが自社開発したAI推論用アクセラレーターMTIA v2 Hot Chips 2024で注目を浴びたオモシロCPU -
第795回
デジタル
AI性能を引き上げるInstinct MI325XとPensando Salina 400/Pollara 400がサーバーにインパクトをもたらす AMD CPUロードマップ -
第794回
デジタル
第5世代EPYCはMRDIMMをサポートしている? AMD CPUロードマップ -
第793回
PC
5nmの限界に早くもたどり着いてしまったWSE-3 Hot Chips 2024で注目を浴びたオモシロCPU -
第792回
PC
大型言語モデルに全振りしたSambaNovaのAIプロセッサーSC40L Hot Chips 2024で注目を浴びたオモシロCPU -
第791回
PC
妙に性能のバランスが悪いマイクロソフトのAI特化型チップMaia 100 Hot Chips 2024で注目を浴びたオモシロCPU -
第790回
PC
AI推論用アクセラレーターを搭載するIBMのTelum II Hot Chips 2024で注目を浴びたオモシロCPU -
第789回
PC
切り捨てられた部門が再始動して作り上げたAmpereOne Hot Chips 2024で注目を浴びたオモシロCPU -
第788回
PC
Meteor Lakeを凌駕する性能のQualcomm「Oryon」 Hot Chips 2024で注目を浴びたオモシロCPU - この連載の一覧へ