ロードマップでわかる！当世プロセッサー事情 第668回

メモリーに演算ユニットを実装するSK HynixのGDDR6-AiM　AIプロセッサーの昨今

ヒートスプレッダのような金属板を被せた
チップの見た目はCPUそのもの

　SK Hynixでは実際にチップを試作しており、SK HYnixの1ynmプロセスでは1.25Vで16Gbpsの転送速度で正常動作したことが確認できたとしている。

PUあたり0.19mm²、16個で3.04mm²ほどになる。これとは別にグローバル・バッファ用の2KB SRAMも実装されるから、トータルで4～5mm²の増加というあたりだろうか。Reservoir CapacitorはPU駆動用のものと思われる

横軸は転送速度、縦軸が動作電圧である。グリーンが正常動作、レッドが動作異常となる。GDDR6だから本来は1.35V動作だが、SK Hynixは1.25Vをターゲットとし、正常動作したとのこと

　試作用のパッケージは、おそらく多少消費電力が増えることを念頭に、より効率よく放熱できるように金属表面の構成としたそうだ。

通常のGDDRはプラスチックモールドに埋め込みだが、AiMはモールド表面を削って、そこにTIM(熱伝導物質)経由で金属のカバーをかぶせた。これによって放熱特性が大幅に向上した(4.6℃/W→0.5℃/W)としている

　これは量産向けの通常のGDDR6チップでは高コストになるから好まれない(というか嫌がられる)構成であるが、仮にこの構成のままAiMが量産に入ったとしても当然特定用途向けチップという扱いになるから価格は当然上がるわけで、ヒートシンクを利用することでの価格上昇は問題にならず、むしろ安定動作のマージン増強の策として歓迎されるだろう。

　下の画像が実際に比較を行った結果である。通常のGDDR6チップとI/Fこそ一緒ながら、プロトコルを拡張してしまっているので、一般的なGDDR6のI/Fでは利用できない。そこでFPGAを利用してAiMに対応したI/Fを構築し、これをPCIe経由でx86ホストから利用するという形でテストを行ったようだ。

　RNNで10倍、LSTM(Long Short Term Memory:RNNの一種)で8倍、MNIST(Modified National Institute of Standards and Technology:手書き文字の機会認識用データベース)で9倍の高速化が可能になったとしている。

比較対象がHBM2ベースのGPU(おそらくNVIDIAのA100かなにかだと思うが、そのあたりは明確ではない)と言うのは、果たしてこれがどこまで高速なのかにわかに判じにくいものがある

　今回はまだ論文レベルの発表であって、HBM-PIMのように製品化に向けてどこまで注力していくのかは未知数である。SK Hynixのプレスリリースによれば、同社のAhn Hyun博士(Head of Solution Development)が「SK Hynixはこの演算機能を持つGDDR6-AiMを用いて、新しいメモリーソリューションエコシステムを構築する」としている。

　このリリースには、SK Telecomから独立したAIチップメーカーであるSAPEON Inc.と共同で開発する予定とも記されており、あるいは将来SAPEON Inc.からAiMベースの製品が出てくるかもしれない。

　もちろん量産に持ち込むまでには、AiM対応のGDDR6 I/Fの確立(現状はまだ試作レベルなので、量産クオリティにするのは時間がかかる)や、さまざまなAIフレームワークに対してのAPIの提供などやるべきことはたくさんある。

　AIベンチャーに比べれば資金的には潤沢かもしれないが、こうした作業にどこまでSK Hynixの中で資金をかけられるかは未知数である。HBM-PIMの時同様、あまり期待しないで見守っているのが正しい姿勢かもしれない。