分岐予測、事前読込などを盛り込んだ
AMD SenseMI Technology
さて、こうした性能とは別に内部についても若干の追加説明があった。今回、“AMD SenseMI Technology”として紹介されたものは5つの特徴が含まれている。こちらについては補足資料があるので、もう少し細かく紹介したい。
まずNeural Net Predictionだ。「人工知能による分岐予測」というのは少し大げさで、実際はパーセプトロンを利用した分岐予測であることがすでに明らかにされている。
原理は最近流行しているディープラーニングと同じで、3層以上のネットワークを構築することで効果的に動作する。これは、特に履歴を増やす場合に有効で、通常の分岐予測テーブルに比べて少ないリソースで実現できる利点がある。
欠点は予測に要するレイテンシーが増えることだ。精度を上げるにはネットワークの層数を増やすのが効果的だが、層数を増やすと処理が重くなり、レイテンシーや消費電力が増える。
そこで、通常は解くべき問題、今回の場合で言えば分岐予測の精度とのバランスを取ることで層数を決めるのだが、このあたり、どの程度の規模のネットワークなのかは興味がある。
次がSmart Prefetch。これに関してはあまり詳細な話はないのだが、HotChipsにおけるスライドでも多少言及がある。
ここで"Better L1 and L2 data prefetcher"とあるあたりが若干のヒントになる程度か。もともとプリフェッチ自身は、K6以降のAMDのプロセッサーではごく当たり前のように搭載されている。特に初代APUであるLlanoでは、確か全部で10個ほどのプリフェッチユニットが搭載されていたと記憶する。
この世代は、CPU+GPUで猛烈なメモリー帯域を必要とし、その一方でメモリー自身が遅くてボトルネックになっていたため、プリフェッチを多用して限界までメモリーアクセスの効率を上げようとしていた。
しかしこの当時も、この後のKaveriの世代でもプリフェッチそのもののアーキテクチャーはパターン予測、つまりメモリーアクセスが行なわれる順を見て、次にアクセスされるであろうアドレスを予測する方式で実装されていた。
もう少し賢いコンテキスト予測(*)については「研究中だがまだ実装していない」という返事をもらった覚えがある。
したがって、断言はできないのだが“Better”というあたりは、複雑なパターンでも解釈できるようにしたか、もしくは部分的にコンテキスト予測を実装したということはありえそうだ。
(*) データの性質や分岐予測の結果などから、次にアクセスされるであろうアドレスを予測する方式。
本記事はアフィリエイトプログラムによる収益を得ている場合があります

この連載の記事
-
第870回
PC
スマホCPUの王者が挑む「脱・裏方」宣言。Arm初の自社販売チップAGI CPUは世界をどう変えるか? -
第869回
PC
半導体プロセスの新たな覇権! インテルのDNNプロセッサーはAMDやMetaを凌駕する配線密度と演算密度 -
第868回
PC
物理IPには真似できない4%の差はどこから生まれるか? RTL実装が解き放つDimensity 9500の真価 -
第867回
PC
計算が速いだけじゃない! 自分で電圧を操って実力を出し切る賢すぎるAIチップ「Spyre」がAI処理を25%も速くする -
第866回
PC
NVIDIAを射程に捉えた韓国の雄rebellionsの怪物AIチップ「REBEL-Quad」 -
第865回
PC
1400WのモンスターGPU「Instinct MI350」の正体、AMDが選んだ効率を捨ててでも1.9倍の性能向上を獲る戦略 -
第864回
PC
なぜAMDはチップレットで勝利したのか? 2万ドルのウェハーから逆算する経済的合理性 -
第863回
PC
銅配線はなぜ限界なのか? ルテニウムへの移行で変わる半導体製造の常識と課題 -
第862回
PC
「ビル100階建て相当」の超難工事! DRAM微細化が限界を超え前人未到の垂直化へ突入 -
第861回
PC
INT4量子化+高度な電圧管理で消費電力60%削減かつ90%性能アップ! Snapdragon X2 Eliteの最先端技術を解説 -
第860回
PC
NVIDIAのVeraとRubinはPCIe Gen6対応、176スレッドの新アーキテクチャー搭載! 最高クラスの性能でAI開発を革新 - この連載の一覧へ











