ロードマップでわかる！当世プロセッサー事情 第706回

なぜかRISC-Vに傾倒するTenstorrent　AIプロセッサーの昨今

Tensixコア数を減らしても性能が向上したWormhole

　WormholeはTensixコアそのものにも手が入り、よりスループットが向上した。この結果、Tensixコアの数は減ったにも関わらず性能そのものはむしろ向上している。そして上下には100GbEのMAC×16が搭載されている。

性能/消費電力比も同時に向上しているので、別に動作周波数を上げてこれを実現したわけではないことがわかる

上下には100GbEのMAC×16が搭載されている。さすがにPHYは搭載されていない模様。チップ間接続であればPHYなくても十分というのは間違いない

　この16ポートのイーサネットは、もちろん外部に接続することも可能だが、基本はWormhole同士の接続に利用する。先にも書いたが、Wormholeはチップ1つでAI学習を実施するのではなく、大量のWormholeチップで協調動作を行なってAI学習を行なう方向性であり、その際のチップ間インターコネクトに100Gイーサネットを使うわけだ。

　これに加えて、DRAMも上で書いたようにGDDR6 16Gbps 16Gbit品を使うことを前提に構成されており、1つのWormholeあたり384GB/秒の帯域と12GBの容量を利用可能となっている。

チップ間インターコネクトは上下方向、メモリーは左右方向に位置するというのはわかりやすい

　また外部I/FとしてPCIe Gen 4 x16を持つほか、4コアプロセッサーが制御用に搭載されている。

ここにもあるようにPCIe I/Fは拡張カードに実装する場合にのみ利用され、普段は未使用になる模様

以前の話ではARCベースのアウト・オブ・オーダーコアでLinuxが動くという話であり、そうしてみるとARC HS46あたりではないかと思われる

　この制御プロセッサーはなにをしているのか？　という話だが、ここにもあるように個々のTensixコアの動作制御やDVFS(Dynamic Voltage Frequency Scaling:要するにインテルのSpeedStepと同じ技術だ)などを行なう。

　Wormholeの場合、ダイに6ヵ所の温度センサーと19ヵ所のプロセスセンサーが配されており、これでダイの温度や電流/動作周波数などを常に監視しており、これとワークロードをベースにDVFSを制御する。

Pmonがプロセスモニター、Tmonが温度モニターの略である

　このDVFSの制御も機械学習になっているそうで、この制御はARCベースのクワッドコアCPU+専用回路で実装されている。こうなると、ARCコアでLinuxが動く必要があるのかやや疑問であり、ひょっとすると当初はLinuxベースを想定していたはずだが、実装は異なるかもしれない。