Z by HP Data Science Ambassadors×日本HP×NVIDIA、ローカル生成AI特別対談

生成AIの次なるステージ：ローカル環境がビジネスの新しい扉を開く理由

時に大規模なサーバーが持つパワーに勝るメリットを発揮することがある

──ローカル生成AIの価値が最大化するのはどのような場面でしょうか？

日本HP 勝谷「ユーザーさまからよく聞く話として、社内の情報をクローズドな環境にとどめておきたいシーンでの生成AIの活用はあります。生成AI系のサービスは、『アップロードした情報はクローズドな状態が維持され、セキュリティーは担保できる』とうたわれていることが多いですが、それでも社内規定などで情報をインターネットにアップロードすることそのものが禁じられているケースも多いですから」

日本HP　勝谷 裕史氏

──インターネットの上に出てはいけない情報も、社内でローカルな環境で扱えるから、セキュリティー的な安心感が高くなる。

日本HP 勝谷「秘匿性の高いデータを生成AIで扱いたいけれども、クラウドには自社のデータをあげたくないと考えている領域の担当者さんって、本当に多いんですよ。具体的には、自治体ですとか、教育の現場ですとか。医療機関なども代表的です」

アンバサダー 井ノ上「セキュリティー上のメリットは非常に大きいですよね」

日本HP 勝谷「それ以外にも、検証したい内容に合わせて、複数のモデルをマージするような使い方は、まさにローカル生成AIの得意とするところです。クラウド型のサービスを使おうと思えば、それぞれの月額使用量をずっと従量課金で支払い続ける必要がありますが、自分でマージしたモデルがローカルで動けば、電気代だけ気にすればいいわけですから」

アンバサダー 井ノ上「そうですね。ローカル生成AIを搭載したワークステーションは、時に大規模なサーバーが持つパワーに勝るメリットを発揮することがあります。推論モデルの調整や、新たなモデルのテスト時には、実験と修正を何度も繰り返しますから、すぐに起動して、すぐ実験に入れるワークステーションだと、サイクルが高速に回せるんですよね。こうした用途においては、HP Z6 G5 Aの活用の余地は無限ですよ」

──ローカル生成AIの可能性はとても大きいということですね。課題や壁のようなものはないのでしょうか？

日本HP 勝谷「ひとつは、組み込むためのデータがまったくない企業さんだと、すぐには社内SLMを立ち上げられないということですね」

アンバサダー 井ノ上 雄一氏

アンバサダー 井ノ上「あとは、データをどう取得して、どう使っていくのかを、ユーザー側もある程度は理解していないといけないという点も挙げられます。これは、SLMやLLM（大規模言語モデル）が脚光を浴びる前段階、画像認識のディープラーニングがAIのトレンドだった時期からずっとある課題ではありますが。それ以外には、ローカル生成AIは使っていく中で限界も見えてきます。限られたマシンのリソースを、どのように割り当てれば最も業務の効率化につながるのかについては、ユーザー側も成長して探していく部分だと思います」

　ローカル生成AIの価値が最大化する点について、秘匿情報をインターネット上にアップロードせずに利用できる点が、やはり根強いメリットとしてあげられた。しかし、アンバサダー 井ノ上氏、日本HP 勝谷氏とも、手元においたローカル生成AIの価値が最大化するポイントを明確に述べられた。

　両氏とも実際にワークステーションを使い込まれており、とくに井ノ上氏は、ここで紹介しきれなかったさまざまな活用方法もされているとのこと。一番のポイントは、手元のマシンで素早く実験を繰り返せる点のようだ。ローカル生成AIは、その企業が構築するクラウドやクライアントなどすべてを含んだ中のひとつだが、選択肢としての価値は多面的なようだ。