ロードマップでわかる！当世プロセッサー事情 第646回

AI推論向けのIPを販売するEdgeCortixは日本に本社がある　AIプロセッサーの昨今

　今回紹介するのはEdgeCortix（エッジコーティックス）という会社だ。2019年に創業という、まだ歴史の浅いAI業界の中でも若い部類に入る。創業者はSakyasingha Dasgupta博士なのだが、実は本社は日本にある。

EdgeCortixのDNA IP（画像はEdgeCortixのウェブサイトより抜粋）

　Dasgupta博士の経歴は少しおもしろく、2015年にドイツのゲッティンゲン大学で物理学の博士号を取った後でなぜか理研に籍を置きながら日本のIBMで研究スタッフとして勤務後に、やはり日本のLeap MindでPrincipal Scientist（主席科学者）のポジションに就いている。

　その後、これまた東京のAscent RoboticsでChief Scientific Officer（最高科学責任者）となった後に、なぜかシンガポールのNeuri Pte Ltdという会社のCTO兼CEO代理を務め、2019年7月にEdgeCortixという会社を創業している。

　ちなみにEdgeCortixは当初シンガポールと東京の両方に拠点を置いていたようであるが、現在は東京とアメリカ(サンフランシスコ)に拠点を置いている。もっとも同社のウェブサイトを見ると一切日本語がないあたり、本社は東京ではあるものの、あまり日本の会社という感じがしない。

MERAコンパイラとDNAアーキテクチャー
2つのエッジAI推論向けIPを販売

　そのEdgeCortixであるが、同社は原則としてチップではなくエッジAI推論向けのプロセッサーIPを販売する会社である。なのでこれを受け取った顧客がASICを作るなりFPGAに入れ込むなりして使う格好になっている。

　EdgeCortixが提供するのは、MERA(Multi-module Efficient Reconfigurable Accelerator)コンパイラという、AIのネットワークを同社のハードウェアに落とし込むための専用ソフトウェア、それとDNA(Dynamic Neural Accelerator)アーキテクチャーというハードウェアIPの2つである。

　順序は違うが、まずはこのDNA IPについて説明したい。下の画像がその概要である。プロセッサーエレメントの最小単位はそのDNAであり、Convolution EngineとVector Engineの2つの演算要素に対して、これをどう接続するかを動的に変更できるReconfigurable InterconnectとReconfigurable Memory、あとはLocal MemoryとInstruction-DMA Engineが組み合わされたものである。

DNA IPの概要。これを見て、演算素子そのものがReconfigurable（再構成可能）でないことに少し安心したのは筆者だけではないと思う

　このDNAのエレメントを集積したのがSakura AI co-processorと呼ばるもので、52TOPSの演算性能を持つ。TSMCの12nmプロセスで10～15WのTDPに収まるそうだ。

　そのAI co-processorにLPDDR4メモリーを組み合わせたものがデュアルM.2スロットのPCIeカードとして提供されることになる。もっともこれは評価用ボードという位置づけのようで、製品として提供されるわけではなさそうだ。

　ちなみにこのSakuraにあたるDNAコアは単体で使うこともできるし、PCIe I/Fやメモリーというコントローラーを抜いてSoCのアクセラレーターとして使うこともできる。

　また複数のDNAコアをマルチコア構成にしての動作も可能という話であるが、Arm SoCはともかく^(*1)、マルチコアの場合にPCIe I/Fはどうなるのか？　単にArbitorだけで協調動作に足りるのか？　などいくつか疑問は残る。

^{(*1) 上の画像を見るとHostとはAXIでの接続になるようだが、SoC側のMemory I/FとAXIだけで帯域が足りるのかどうかはやや疑問ではある。}

　通常マルチコア構成では、例えばWeightデータの使いまわしなどのためにメモリーをある程度共有したり、データの内容をブロードキャストするといったシステムを組み込むことが多いが、そうしたモノなしにマルチコアで十分スケールする性能が出るのか少し疑問ではある。

このマルチコアの場合、PCIeをどう接続するつもりかも気になるところ。外部にPCIe Switchを置くのだろうか？