「Stable Diffusion」では前世代比5倍の高速化
第四世代Xeonスケーラブルプロセッサーの性能向上は学習だけでなく、推論も同様に上昇している。会場のスクリーンには、前世代との性能比を表したグラフが映し出され、最大10倍の結果が示されていた。また、GPU「Nvidia A10」と比較しても、平均1.8倍の性能があるそうだ。矢内氏は「CPUなのに、NVIDIA A10より高性能なA30ともいい勝負をする」とコメントした。
壇上で矢内氏は、「Stable Diffusion」を使ったデモンストレーションを行なった。第三世代Xeonだと50秒かかる画像生成が、第四世代Xeonだとたった4秒で終わった。今回のデモはモデルの最適化が公平ではなかったため10倍の差が開いたが、最適化を除いたら前世代比で5倍程度の高速化が見込めるとのこと。
セミナーの最後に矢内氏は、「生成AIはGPUがないとできないと思っている人は多いと思う。しかし最新の第四世代Xeonを使えばCPUだけでも推論できる」と締めくくった。
