GeForce RTX 50シリーズまとめ 第31回

RTX 2060、RTX 3060、RTX 4060、RTX 5060 Ti 8GB&16GBと比較

GeForce RTX 5060、旧世代に動画エンコードやAIの強さを見せつける

AIパフォーマンスでも存在感を示す

「UL Procyon」（LLM）

　ここから先はAI系の検証となる。まずはUL Procyonに収録されている「AI Text Generation Benchmark」だ。4種類のLLMに対し、7つのテキスト生成課題を出し、出力されるトークン生成スピードおよび最初のトークンまでの待ち時間からスコアーを算出するというものだ。

UL Procyon：AI Text Generation Benchmarkのスコアー。学習モデルはPhi-3.5-mini-instructからLLama-2-13Bまで。バーが短いものほど重い

UL Procyon：AI Text Generation Benchmarkにおける最初のトークンまでの時間。バーが短いほど思考時間が短縮され、応答性が良好になる

UL Procyon：AI Text Generation Benchmarkにおけるトークン生成スピード。バーが長いほど文章をすばやくアウトプットしていることを示す

　まず、学習モデルが大きいLLama-2-13Bを実行できたGPUはRTX 5060 Ti 16GBとRTX 3060 12GBの2GPUのみ。RTX 5060 Ti 8GBやRTX 5060に関してはVRAM不足からLLama-2-13Bは完走できなかったのだ。また、RTX 2060は全学習モデルにおいて完走できず敗退となった。

　総合スコアーだけを見ると、RTX 3060 12GBはまだまだ使えるGPUのように見えるが、RTX 5060が実行できる学習モデルでは大敗している。また、RTX 4060は応答速度に関して言えば、RTX 5060と僅差（0.5秒未満）だが、トークン生成スピードにおいては大差で負けている。

「MLPerf Client」

　お次は「MLPerf Client」によるLLMパフォーマンスの検証だ。4つの課題（Content Generation、Creative Writing、Summarization, Light、Summarization, Moderate）を出し、その際のトークン生成スピードや最初のトークンまでの時間を計測するものである。

　最初のトークンまでの時間およびトークン生成スピードについて、全4課題すべての平均値のほかに、最も軽い課題と重い課題のデータも見てみよう。

MLPerf Client：最初のトークンまでの時間（全テスト平均）

MLPerf Client：トークン生成スピード（全テスト平均）

MLPerf Client：4つのお題のうち最も軽いContent Generationにおける最初のトークンまでの時間

MLPerf Client：Content Generationにおけるトークン生成スピード

MLPerf：4つのお題のうち最も重いSummrization, Moderateにおける最初のトークンまでの時間

MLPerf：Sumamrization, Moderateにおけるトークン生成スピード

　先のUL ProcyonではRTX 2060が脱落してしまったが、このMLPerf Clientではすべて完走した。ただし、RTX 5060と比較するとかなり見劣りする。

　ここでもRTX 3060 12GBとRTX 4060は僅差になったが、RTX 5060に対してはトークン生成スピードにおいて25％程度遅い（Summarization, Moderate基準）という結果となった。

「UL Procyon」（Stable Diffusion 1.5）

　最後に、画像生成に関しても軽く検証しておこう。ここではUL Procyonに収録されている「AI Image Generation Benchmark」を使用した。

　このテストでは3種類のテストを選択できるが、VRAM 8GB環境でも実行でき、かおかつ現実的な時間内で終了する「Stable Diffusion 1.5 (FP16)」を選択した。テスト内容は512×512ドットの画像を4枚ずつ、合計16枚生成するというものである。

UL Procyon：AI Image Generation Benchmarkのスコアー

UL Procyon：AI Image Generation Benchmarkにおける1枚あたりの生成時間

　RTX 5060 Ti 8GBとRTX 5060の差よりも、RTX 5060とRTX 4060の差にほうが大きくなった。生成スピードにおいて1.36倍も長い。RTX 5060 Tiに関しては、VRAM搭載量の差が生成時間に影響していないが、これはテストの条件がVRAM 8GBにターゲットを合わせているためである。

　RTX 5060 Ti 16GBを輝かせたいならば、Stable Diffusion XLを利用したテストのほうが好適だが、そうなるとVRAM 8GB仕様のGPUでは処理時間が苦痛になるほど長くなるため断念している。

　RTX 5060のVRAMは8GBのため、画像生成においても比較的ライトな処理に限定されるが、それでも前世代の同格モデルよりしっかりと高速化されているようだ。

気になるゲームのパフォーマンスは後編で

　RTX 5060のレビュー前編はここで終了である。RTX 5060は明らかにゲーマー向けの製品なのに、ここまでクリエイティブ系やAI系アプリで検証する必要があるのか？　と自問自答しながら執筆していたが、RTX 5060というGPUの全貌を知るには必要なことだ。

　後編はRTX 5060 Ti 8GBレビューの時と同様、VRAM 8GB仕様に厳しい攻めた画質設定と、優しいマイルドな画質設定の2パターンでテストしてゆく。お楽しみに。

■関連サイト

• GeForce RTX 50シリーズ製品情報
• NVIDIA