NVIDIA DGX Sparkは、“どのくらい”すごいマシンなのか？
こんな箱に入ってるのか！
ここからは、「導入したら何ができるのか？」という本題に踏み込んでいく。
若手編集者イチは、まだいまいちその性能の高さが掴みきれていない様子だ。
イチ「大塚さん、NVIDIA DGX Sparkがすごいマシンであることはわかりましたけど、僕が普段ゲームや映像編集に使っているマシンと比べて、どのくらいすごいんでしょうか？」
大塚「そうだな……コンシューマー向けの製品と単純に比較するのは難しいけど、たとえば、ハンバーガーを例にして考えてみるとしよう」
イチ「はい。ハンバーガー、好きです」
30万円クラスのデスクトップPCが、このくらいの性能だとすると
大塚「扱えるデータ量をバーガーのサイズ、AIの処理性能をバンズの数、メモリーの容量、つまり並列処理の性能をパティーの数でたとえた場合に、30万円クラスのデスクトップPCが、このバーガーくらいのボリュームになると考えてみよう」
イチ「ふむふむ。扱えるデータ量がサイズ、AIの処理性能がバンズの数、メモリーの容量、つまり並列処理がパティーの数ですね」
大塚「そうすると、NVIDIA DGX Sparkはこんなバーガーになる」
NVIDIA DGX Sparkの性能はざっくり2倍の直径で、パティーの段数（データを並列処理できる量）は8倍〜程度になる
イチ「うわ、すごい。モンスター級バーガーですね」
大塚「もちろん、性能を測る指標も違ったりするから、先ほど言ったようにコンシューマー向け製品との単純な比較は難しい。でも、モンスター級の性能であることは確かだよ。単純なAI処理の性能、つまりバンズの数は同等だとしても、同時に処理できる量や、それを加味したマシンパワーという意味だと、サイズも、パティの枚数も大きく違ってくる」
イチ「AI演算力そのものは高性能なPCでもそこそこ戦えるけど、一度に扱えるデータ量や並列処理能力の差を比べると、普通のバーガーとモンスター級のバーガーのような差が出てくる……こういうことですね」
大塚「そういうこと。で、さらに面白いのが、背面右側の端子。これはNVIDIA® ConnectX®-7っていう高速接続端子で、NVIDIA DGX Spark同士を直接つないで、マシン全体を“合体”させられるんだ」
左端の細長いボタンが電源。その隣にUSB Type-C端子が4系統。HDMI 2.1a端子は8K／120Hzまでの出力をサポートする。有線LAN端子は10Gbps仕様。そして、右の端子は2台のNVIDIA DGX Spark同士を接続して、最大で405Bパラメータのクラスターを構築できるNVIDIA ConnectX-7端子だ
イチ「合体って、そんなことできるんですか？」
大塚「できる。これを使うと2台のNVIDIA DGX Sparkをクラスター化（※）して、最大で4050億パラメータ級のモデルが動く環境になる。パラメータは、AIが学習で覚える“知識の粒”と考えるとわかりやすい。数が多いほど、複雑なことができるんだ」
イチ「4050億……そんなに？」
大塚「1台でも数百億パラメータ級をローカルで扱える。普通のPCでは、メモリーや並列処理の能力が追いつかないから、数億や、数十億が限界になることが多いね」
イチ「なるほど……単純にAI演算に強いうというより、扱える“粒の数”そのものもまったく違うわけですね」
実は“お得”とも言える、NVIDIA DGX Spark
成人男性の手と比較したサイズ感はこのくらい。正方形で塊感が強い筐体は、実際に目にすると実寸よりも、もっと小さい印象を受ける
価格面にも触れたい。NVIDIA DGX Sparkの国内での販売金額は取扱代理店によっても変わるものの、おおよそ90万円程度で購入できる。
この価格が高いか、安いかというのは意見は分かれるところかもしれないが、費用対効果で考えると「数十万円！ 高い！」とも言い切れない。というのも、AI処理をクラウドベースで日常的に実行しようと思えば、月額で数万円、年額で数十万円の費用がかかることは一般的だからだ。
「ある程度の初期投資は必要なものの、以降のランニングコストは実質、電気料金のみになる」という見方をすると、安いと言えないまでも、「長期的に見てお得」になる可能性は十分にあるだろう。ちょうど、業務に用いるソフトウェアをサブスクリプションで契約するか、それともはじめに買い切ってしまった方がお得なのかという話に似ている。
いずれにしても、「企業にとっては捻出が不可能ではなく、また企業の規模によっては部署単位で使える金額で、社内にpetaFLOP級のAIパフォーマンスを物理的に設置できるマシン」というのが、NVIDIA DGX Sparkの最も本質的な投資対象としての価値だ。
