ロードマップでわかる!当世プロセッサー事情 第674回
Zen 5に搭載するAIエンジンのベースとなったXilinxの「Everest」 AIプロセッサーの昨今
2022年07月04日 12時00分更新
今回取り上げるのは、旧Xilinxが2018年に発表した、Versal ACAPに搭載されているAI Engineである。連載671回で説明したように、Xilinxを買収したAMDは、このAI EngineをXDNAというブランドでZen 5世代のCPUにも搭載すると発表したことで、このAI Engine(とその発展型)がAMDにおけるAIプロセッサーの基本となることが決まった格好だ。
汎用プロセッサーと専用アクセラレーターの良いとこ取りをした
XilinxのVersal ACAP
AI Engineの説明に入る前にまずVersal ACAPについて話したい。Versalは製品のブランド名、一方ACAPとはXilinxの造語でAdaptive Compute Acceleration Platformの略である。いわゆるFPGAとなにが違うのか? というと、ものすごく雑な言い方をすれば「FPGA+汎用プロセッサー+特定分野向けアクセラレーター=ACAP」ということになる。FPGAについては、ごく簡単に連載349回で触れたが、端的に言えば以下のような特徴がある。
- 自由にプログラミングできるハードウェアだが、そのプログラミングの敷居は超高い。
- 自由にプログラミングできる代償として、トランジスタ効率が猛烈に悪い(が、汎用プロセッサーよりはずっとマシ)
うまく使えば自身のアルゴリズムを実装して高速で動かすことが非常に簡単にできる。ただ、ある意味定型となった処理に関しては、専用アクセラレーターと比較して効率が悪い(その処理を実装するのに必要なトランジスタの数が1~2桁増えるし、またアクセラレーターよりも性能/消費電力比が悪い)という構成上やむを得ない特徴がある。ちなみに汎用プロセッサーだと以下のようになる。
- 自由にプログラミング可能で、FPGAに比べればプログラミングの敷居は超低い。
- 性能/トランジスタ比とか性能/消費電力比は非常に悪い。なので、性能が必要な用途には向かない一方、非常に複雑なロジックとか込み入った処理には向いている。
専用アクセラレーターなら以下のようになる。
- 特定の処理だけは超高速にできるが、それ以外のことはできない。
- 性能/トランジスタ比や性能/消費電力比は最高。
したがってACAPでは「これを全部入れてしまえ一番柔軟にできるのでは?」という、ある意味力づくのアプローチである。
さてそのACAPのアクセラレーター用に開発されたものがAI Engineである。もっとも2018年にVersalがEverestというコード名で初めて発表されたときは、まだAI Engineという名前ではなく、Software Programmable Engine(SW PE)という名称であった。
で、これを使うとなにができるのか? という話であるが、畳み込みニューラルネットワークの推論を実行する場合の例が下の画像である。
良くあるパターンで言えば、例えばカメラから画像を取り込んで、それに対して推論処理をかける形になるが、そうした場合の画像処理やストレージの管理、場合によってはネットワークの処理(監視カメラの場合、ネットワーク接続というのは珍しくない)などはFPGAで行なう。
一方で、さまざまなFeature Mapなどは外部メモリーに格納するが、これもFPGA経由で行なう(FPGA側にはDDRやHBMのI/Fが搭載されているため)。その一方で全結合や畳み込み、プーリングといった処理は、SW PEで行なうという形を想定している。畳み込みにしても全結合にしても、処理自体は非常にシンプルで単に乗加算だから、これをFPGAのLUTを費やして処理させるのは効率が悪すぎる。SW PEはこうした処理を効果的に行なうように設計されているわけだ。
この連載の記事
-
第800回
PC
プロセッサーから直接イーサネット信号を出せるBroadcomのCPO Hot Chips 2024で注目を浴びたオモシロCPU -
第799回
PC
世界最速に躍り出たスパコンEl Capitanはどうやって性能を改善したのか? 周波数は変えずにあるものを落とす -
第798回
PC
日本が開発したAIプロセッサーMN-Core 2 Hot Chips 2024で注目を浴びたオモシロCPU -
第797回
PC
わずか2年で完成させた韓国FuriosaAIのAIアクセラレーターRNGD Hot Chips 2024で注目を浴びたオモシロCPU -
第796回
PC
Metaが自社開発したAI推論用アクセラレーターMTIA v2 Hot Chips 2024で注目を浴びたオモシロCPU -
第795回
デジタル
AI性能を引き上げるInstinct MI325XとPensando Salina 400/Pollara 400がサーバーにインパクトをもたらす AMD CPUロードマップ -
第794回
デジタル
第5世代EPYCはMRDIMMをサポートしている? AMD CPUロードマップ -
第793回
PC
5nmの限界に早くもたどり着いてしまったWSE-3 Hot Chips 2024で注目を浴びたオモシロCPU -
第792回
PC
大型言語モデルに全振りしたSambaNovaのAIプロセッサーSC40L Hot Chips 2024で注目を浴びたオモシロCPU -
第791回
PC
妙に性能のバランスが悪いマイクロソフトのAI特化型チップMaia 100 Hot Chips 2024で注目を浴びたオモシロCPU -
第790回
PC
AI推論用アクセラレーターを搭載するIBMのTelum II Hot Chips 2024で注目を浴びたオモシロCPU - この連載の一覧へ