「Stable Diffusion」では前世代比5倍の高速化
第四世代Xeonスケーラブルプロセッサーの性能向上は学習だけでなく、推論も同様に上昇している。会場のスクリーンには、前世代との性能比を表したグラフが映し出され、最大10倍の結果が示されていた。また、GPU「Nvidia A10」と比較しても、平均1.8倍の性能があるそうだ。矢内氏は「CPUなのに、NVIDIA A10より高性能なA30ともいい勝負をする」とコメントした。
壇上で矢内氏は、「Stable Diffusion」を使ったデモンストレーションを行なった。第三世代Xeonだと50秒かかる画像生成が、第四世代Xeonだとたった4秒で終わった。今回のデモはモデルの最適化が公平ではなかったため10倍の差が開いたが、最適化を除いたら前世代比で5倍程度の高速化が見込めるとのこと。
セミナーの最後に矢内氏は、「生成AIはGPUがないとできないと思っている人は多いと思う。しかし最新の第四世代Xeonを使えばCPUだけでも推論できる」と締めくくった。
本記事はアフィリエイトプログラムによる収益を得ている場合があります
