分岐予測、事前読込などを盛り込んだ
AMD SenseMI Technology
さて、こうした性能とは別に内部についても若干の追加説明があった。今回、“AMD SenseMI Technology”として紹介されたものは5つの特徴が含まれている。こちらについては補足資料があるので、もう少し細かく紹介したい。
まずNeural Net Predictionだ。「人工知能による分岐予測」というのは少し大げさで、実際はパーセプトロンを利用した分岐予測であることがすでに明らかにされている。
原理は最近流行しているディープラーニングと同じで、3層以上のネットワークを構築することで効果的に動作する。これは、特に履歴を増やす場合に有効で、通常の分岐予測テーブルに比べて少ないリソースで実現できる利点がある。
欠点は予測に要するレイテンシーが増えることだ。精度を上げるにはネットワークの層数を増やすのが効果的だが、層数を増やすと処理が重くなり、レイテンシーや消費電力が増える。
そこで、通常は解くべき問題、今回の場合で言えば分岐予測の精度とのバランスを取ることで層数を決めるのだが、このあたり、どの程度の規模のネットワークなのかは興味がある。
次がSmart Prefetch。これに関してはあまり詳細な話はないのだが、HotChipsにおけるスライドでも多少言及がある。
ここで"Better L1 and L2 data prefetcher"とあるあたりが若干のヒントになる程度か。もともとプリフェッチ自身は、K6以降のAMDのプロセッサーではごく当たり前のように搭載されている。特に初代APUであるLlanoでは、確か全部で10個ほどのプリフェッチユニットが搭載されていたと記憶する。
この世代は、CPU+GPUで猛烈なメモリー帯域を必要とし、その一方でメモリー自身が遅くてボトルネックになっていたため、プリフェッチを多用して限界までメモリーアクセスの効率を上げようとしていた。
しかしこの当時も、この後のKaveriの世代でもプリフェッチそのもののアーキテクチャーはパターン予測、つまりメモリーアクセスが行なわれる順を見て、次にアクセスされるであろうアドレスを予測する方式で実装されていた。
もう少し賢いコンテキスト予測(*)については「研究中だがまだ実装していない」という返事をもらった覚えがある。
したがって、断言はできないのだが“Better”というあたりは、複雑なパターンでも解釈できるようにしたか、もしくは部分的にコンテキスト予測を実装したということはありえそうだ。
(*) データの性質や分岐予測の結果などから、次にアクセスされるであろうアドレスを予測する方式。
本記事はアフィリエイトプログラムによる収益を得ている場合があります

この連載の記事
-
第876回
PC
このままではメモリーが燃える! HBM4/5世代に向けた電力供給の限界と、Samsungが示すパッケージ協調設計の解 -
第875回
PC
1000A超のAIプロセッサーをどう動かすか? Googleが実践する垂直給電(VPD)の最前線 -
第874回
PC
AIの未来は「電力」で決まる? 巨大GPUを支える裏面給電とパッケージ革命 -
第873回
PC
「銅配線はまだ重要か? 答えはYesだ」 NVIDIA CEOジェンスンが語った2028年ロードマップとNVLink 8の衝撃 -
第872回
PC
NVIDIAのRubin UltraとKyber Rackの深層 プロトタイプから露見した設計刷新とNVLinkの物理的限界 -
第871回
PC
GTC 2026激震! 突如現れたGroq 3と消えたRubin CPX。NVIDIAの推論戦略を激変させたTSMCの逼迫とメモリー高騰 -
第870回
PC
スマホCPUの王者が挑む「脱・裏方」宣言。Arm初の自社販売チップAGI CPUは世界をどう変えるか? -
第869回
PC
半導体プロセスの新たな覇権! インテルのDNNプロセッサーはAMDやMetaを凌駕する配線密度と演算密度 -
第868回
PC
物理IPには真似できない4%の差はどこから生まれるか? RTL実装が解き放つDimensity 9500の真価 -
第867回
PC
計算が速いだけじゃない! 自分で電圧を操って実力を出し切る賢すぎるAIチップ「Spyre」がAI処理を25%も速くする -
第866回
PC
NVIDIAを射程に捉えた韓国の雄rebellionsの怪物AIチップ「REBEL-Quad」 - この連載の一覧へ











