ロードマップでわかる！当世プロセッサー事情 第713回

Tenstorrentが日本支社を設立、自動運転の市場開拓が狙い　AIプロセッサーの昨今

SRAMベースのチップは
今後容量の点で厳しくなる

　さてAIプロセッサーに関しての情報をもういくつか紹介しよう。Tenstorrentによる昨今のトレンドが下の画像だ。

組み込み向けでは、エッジで学習もしたいというトレンドを重視するのは、Keller氏のTeslaにおける経験が多分に関係しているのではないか？　という気がする

　もちろん演算性能は重要だが、それを活かすには十分なメモリー帯域とメモリー容量が必要であるとし、SRAMベースのチップは今後メモリー容量の点で厳しくなるとしている。また今後はネットワークを動かすためには十分な規模が必要とある。

　要するにCelebrasのようなプロセッサーはいずれ行き詰まるし、NVIDIAのソリューションもスケーラビリティに欠けるとするわけだ。このあたり、2016～2018年にTeslaに在籍したということは、Keller氏はFSDの開発だけでなく、NVIDIAのA100ベースのスーパーコンピューターの構築にも関わっていたわけで、その経験から出てきたメッセージな気はする。

　このうちメモリー容量に関するTenstorrentの説明が下の画像だ。同じモデルならNVIDIAの4分の1、さらにBFP8を併用すると8分の1までメモリー必要量を減らせるとしている。メモリー帯域はともかく、メモリー容量の問題に関してはこれでNVIDIAに比べるとだいぶ問題が緩和される、という説明であった。

メモリー容量に関する説明。Conditional ExecutionとGraph Executionを組み合わせることで、うまくSparse性を扱える(要素が0の場合にパラメーターの保持を抑制できる)ということに見える

　ところでもう少し足元の話をすると、Wormholeを32個集積したNebulaという4Uサーバーが発表されていたが、今回この詳細が公開された。もっともこれはデータセンター向けではなく組み込み向けの一例であって、要はエッジで学習をしたいというニーズ向けと思われる。

PoC(Proof of Concept)向けとあるように、これで量産というわけではなく、組み込み向けにエッジで学習できるシステムが作れないか？　というニーズに対して試作してみたという感じで、それもあってE300(Grayskullを2つ搭載したPCIeカード)とNebulaのどちらも使えるようになっているようだ

日本支社設立の目的は
米国以外の新規市場開拓

　さてここからはRISC-Vプロセッサー絡みの話である。まず日本支社設立の目的が下の画像だ。海外のRISC-Vプロセッサー企業の上陸は、筆者が知る限りCodasip、SiFiveに続きこれで3社目である。

Tenstorrentにとっては日本支社が最初の海外オフィスとのこと

　加えて言えば、すでに国内にもRISC-VプロセッサーIPを手掛けている会社(NSITEXE、ArchiTekなど)もあるため、日本の状況を考えるとそろそろ多くなりすぎた感もある。ただそうした状況はTenstorrentもよく理解しているようで、いわゆるMCU向けのコアは「すでに競争相手が多いので」ということで手を出さず、代わりにAIプロセッサーと高性能のRISC-V IPを提供するというアプローチをとる。

　日本法人のマネジメントチームは下の画像の3人である。といっても、Jim Keller氏は本社のCEOであり、David Bennett氏もCCO(Chief Customer Officer)ということで別に日本にかかりきりというわけでもなさそうで、実質的には中野守氏がトップということになる。

もちろんこれはマネジメントチームであって、他に社員の方もいるとは思うが、まだ小規模と思われる

　中野氏の前職はGraphcoreの日本のカントリーマネージャーで、昨年12月にTenstorrentに入社とのこと。ちなみにその前はクレイ・ジャパンの社長であった。Bennette氏は、今後増えるであろう海外支社を統括する立場になるのではないかと思われる。

　会社設立のリリースは3月13日に出されているが、実はこの数日前にそのBennette氏が都内にいることをAMDの元兄貴がつぶやいていた。

近所散歩してたら、David に似た声だなと思ったら、本人だった(^^)
日本に居たのも知らなかったよ!@DavidBennett__pic.twitter.com/sE5d1QrpPK

— 土居憲太郎 (@Ken_Doi) March 5, 2023

　てっきり会社設立にともなう作業のために来日したかと思ったのだが、説明会によれば会社そのものの設立は今年1月で、いろいろあって発表が2ヵ月遅れたとのことだったので、どこまで今回の説明会と関係あるのかは不明である。