ロードマップでわかる！当世プロセッサー事情 第620回

イスラエル軍のハイテクを応用したHailo-8　AIプロセッサーの昨今

高性能なだけ、あるいは低消費電力なだけではダメ
AIプロセッサーは性能と消費電力のバランスが重要

　ただここまでやっても中身がどうなってるのかに関する説明がなかったのだが、今年3月のLiney Spring Processor Conferenceでやっと中身に関して若干であるが解説があった。もっとも最初のページからして下の画像の通り。ざっくりとしすぎである。

チップを量産できている、という時点で確かにアドバンテージがあるのは間違いない

　ResNet-50をフルにぶん回すと1223fps/3Wだから、407.7fps/Wということになる。連載614回のexpedraが主張する2000fps/Wにはおよばないが、この数字は決して低くはない。

Resnet-50は昨年の段階で5年、Yolo-v3ですら3年遅れのネットワークであり、実際の現場ではもっと新しいネットワークが使われることを考えると、Resnet-50の性能だけで議論しても仕方がないという話である

　そもそも、精度とパフォーマンス、消費電力はトレードオフの関係にある、というのがHailo Techの主張である。

6つのカメラストリームを30fpsで処理できるのはいいが、解像度は640×640ピクセルで、正直製品として使うのには厳しい気がする。ちなみにmAPは精度(mean Average Precision)のことだ

　例えば監視用カメラの場合、精度とスループットは重視されるが、(外部の電源が期待できるから)消費電力に関しての要求は低い。これがビデオを利用した人物確認(人間の数を数えるだけ)などで良ければ、解像度は落とせる(＝精度を下げられる)ので、より高い性能をより少ない消費電力で実現できるとする。

独立した16個のビデオ入力をそれぞれ30fpsで処理できる

　ところが移動式ロボットなどになると精度も重要だし、電池式の稼働になるから消費電力は落としたい。しかし、処理性能を高めにしないとロボットの稼働速度が遅くなるのでバランスが重要になる。

ある意味、ロボットがものすごくゆっくりにしか動かないのなら、処理性能が遅くてもつじつまは合わせられるが、普通そういうケースはない(最低でも人間なみのスピードが求められる)ので、それに見合う処理性能も必須となる

　この場合、カメラの解像度は720P以上が必要だが、カメラそのものは1台で済ます(逆に複数台カメラが必要なら、それだけHailo-8の数を増やす)というバーターでこれを実現するとしている。