ロードマップでわかる！当世プロセッサー事情 第620回

イスラエル軍のハイテクを応用したHailo-8　AIプロセッサーの昨今

評価するための情報が足りなすぎるが
すでに量産チップがあるのが強み

　さて、どうやってこれを実現しているのかという話にやっとたどり着くわけだが、実は現時点でも詳細は未公開なままである。特徴として紹介されたのは以下の2つなのだが、後者はともかく前者は説明でもさらっと流されてしまって、いまだにイメージが湧かない。

• Structure-driven Data Flow Architecture
• ソフトウェアは常に進化中

Structure-driven Data Flow Architectureの説明。タイルは緑が制御、オレンジがメモリー、水色がコンピュートになっており、これを適時組み合わせてネットワークレイヤーをそれぞれ構成するという話は分かるが、それがStructure-drivenというのはどういう意味なのか？

　全体では8つのクラスターと呼ばれる塊があり、上の画像にある8×13個のタイル(この数も適当なもので、実際の製品とは異なる気がする)全体が1つのクラスター(あるいはクラスターの一部)というあたりなのだろうが、その辺の詳細はさっぱりわからない。

　26TOPSというからには、かなりの数のコンピュートタイルが含まれている(あるいは、1つのコンピュートタイルが鬼のような演算性能を持っているか)になるのだろう。

　Structure-drivenというのは、ひょっとするとソフトウェア側でタイルの割り振り方をネットワークのビルド時に決定するので、上の画像で言うところのLayer 1～8がどのタイルに割り当てられるかなど、それぞれのレイヤーの中でタイルがどう接続されるかが静的に決定されるが、実際に各タイルがどう動くかはデータフローなので、データが来たときだけ稼働することになるので省電力、というあたりなのかもしれない。

　特徴としてもう1つ示されたのは、制御とメモリーにスケーラビリティーがあるという話だが、これも雲をつかむような話である。

そもそもオンチップSRAMがどれだけ載っているのかすら、いまだに公開されていない状態でスケーラビリティーと言われても困る

　例えばメモリー・スケーラビリティーもどのくらいの規模のパラメーターならオンチップで収まるが、それを超えた時にどのくらいのスループットでホスト側からフェッチできるのか、その際のレイテンシーはどう遮蔽するのか(Swiftly fetchedと言われても解釈が難しい)などは一切不明なままである。

　このHailo-8、仮にこのプレゼンテーションだけをベンチャーキャピタルに持って行ったら「評価するための情報が足りなすぎる」で終わるし、それは潜在顧客の所に持って行っても同じだろう。

　ここでHailo Techが強いのは、すでに量産チップがあることだ。「まずは試してみてくれ。その後で必要なら情報を(秘密保持契約の締結後に)開示する」みたいなことが可能になるし、おそらくはそういう形でビジネスしているのだろう。

すでに量産チップはある。外付けメモリーを積んだ評価ボードがないあたり、結構な量のオンチップSRAMを積んでいそうではある

　今年8月のHotChipsにはHailo Techも参加するそうで、ここではもう少しチップ内部の説明がなされることを期待したいところだ。