モデルの入出力にガードレールを提供するFortiAIGate

プライベートLLMに迫る危機　AIによる情報漏えいや不正学習を防ぐ必要性

2026年08月05日 11時00分更新

文●大谷イビサ　編集●ASCII　写真●曽根田元

提供: フォーティネットジャパン

　AIが業務で当たり前に利用されるようになり、利便性を感じるユーザーも多いはずだが、セキュリティのリスクも高い。今後、自社構築が増えるであろうプライベートLLM（大規模言語モデル）に対する攻撃は、新しいリスクとして認識されつつある。フォーティネットジャパンのシニアコンサルティングSEである熊村剛規氏に、LLMに対する危機と対策について聞いた。

需要の高まるプライベートLLMに対する攻撃の危険性

　AI利活用のセキュリティリスクはいくつかに大別される。AIが攻撃に悪用されるリスクや組織内でのAIの不正利用、いわゆる「シャドーAI」は認知されるようになっているが、LLMに対する攻撃はまだあまり脅威として認識されていない。

　ChatGPTやClaude、GeminiなどのパブリックAIが業界を席巻する中、既存のSaaSベンダーは、アプリケーションへのLLMの組み込みを進めている。また、LLMを前提としたSaaSやサービスも増えており、「AI SaaS」として注目を集めている。データベースやミドルウェアと同じように、今やLLMがアプリケーションのエンジンとして当たり前のように利用される時代になったのだ。

AIアプリケーションのアーキテクチャ

　そして、今後増えると予想されるのは、パブリックAIに学習されない自前のLLMでシステムを構築するプライベートAIだ。「自社・顧客データをフロンティアAIの学習データに利用されてしまう」という課題は、AIの法人利用の障壁の1つになっており、パブリックAI側も学習しない選択肢を提供している。

　しかし、米国・中国に偏重しているAIベンダーへの不信感から、自国のデータセンターにデータを保持しつつ、用途に特化した国産のLLMを利用したいという企業は増えている。こうしたプライベートAIを前提としたサービスは国内でもスタートしており、需要はますます増えていくはずだ。

情報詐取や不正な学習が危ない　LLMとのやりとりをコントロールせよ

　だが、こうしたAIアプリケーションもインターネットに公開されている限りは、当然ながら攻撃にさらされる。フォーティネットの熊村剛規氏は「AIアプリケーションは、Webのフロントエンドを介して、API経由でリクエストを受け取ることになります。しかし、LLMとのやりとりを適切にコントロールしなければ、さまざまなリスクにさらされます」と指摘する。

フォーティネットジャパンシニアコンサルティングSE 熊村剛規氏

　LLMに対して、どのような攻撃が行なわれるのだろうか？　一番わかりやすいのは、攻撃者による顧客情報の奪取だ。不正なプロンプトを送信することで、LLMから顧客や機密情報を引き出すといった事例が想定される。攻撃手法としては「プロンプトインジェクション」と言われる。

　WebのフロントエンドからSQLを送信し、バックエンドのデータベースから顧客の個人情報やクレジットカードの情報を引き出すSQLインジェクションのLLM版と言える。今でこそWAFをいうWeb専用のファイアウォールで防げるものの、それ以前はアプリケーション側で対策を施すしかなかった。

　情報を引き出すのではなく、不正な情報を書き込む「LLMポイズニング」という攻撃もある。これは攻撃者が不正なデータを送りつけ、本来と異なる方向にLLMを学習させてしまうという手法だ。また、大量にリクエストを送りつけるシンプルなDDoS攻撃もLLMにとって脅威だ。

プロンプトレベルでデータの入出力をチェックする「FortiAIGate」

　こうした攻撃に対して、フロンティアAIはさまざまなセキュリティ対策や情報漏洩や不正な操作を未然に防ぐ仕組みであるガードレールを設置し、LLMの不正利用を防いでいる。一方、OSSをベースとしたセルフホスティングされたプライベートLLMは「丸裸」とも言える状態で、インターネットに公開した段階で蜂の巣にされてしまうはずだ。

　こうしたLLMを保護するLLMプロテクションを提供するのが、フォーティネットの「FortiAIGate」になる。FortiAIGateは、kubernetesクラスター上で動作するイメージとして提供される。LLMの手前でプロンプトの入出力をチェックするガードレールとして機能し、フィルタリングを提供する。「たとえば『爆弾の作り方を教えて』といった不穏なプロンプトを遮断したり、出力された個人情報をブロックすることが可能になります」（熊村氏）。

FortiAIGateの動作

　また、LLMの利用状況をロギングし、可視化する機能もある。「パブリックAIと自前のLLMを各ユーザーがどの程度利用しているのか把握できます。最近ではLLMのコストが問題になっていますが、使用量も見ることができます」と熊村氏は語る。LLMの利用コストが大きな課題となっている昨今、こうした利用状況のロギングや可視化は改めて重要になってくるはずだ。

LLMもアプリケーションの1つ　基本となるセキュリティ対策が改めて重要

　UTMのコンセプトを初期から実装してきたフォーティネットにとって見ると、LLMはアプリケーションの1つという位置づけだ。

　実際、シャドーAIを制御するためのFortiOSでのアプリケーションコントロールの設定を見てみると、LLMもアプリケーション単位でカテゴリ化されており、「Sanction／UnSanction」を設定したり、使用率を見ることができる。「従来のアプリケーションと同じように、LLMアプリケーションを適切に識別し、利用の可否を設定できます」（熊村氏）とのことで、ユーザーの使い勝手も変わらない。

　また、LLMの保護に特化したのみならず、実績の高い同社のテクノロジーを総動員できる点も特徴だ。熊村氏は、「FortiAIGateのようなLLMプロテクションにフォーカスが当たりがちですが、LLMアプリケーションも既存のプロトコルを用います。そのためWAFやDLP、ID管理など基本となるセキュリティ対策が改めて重要になっています」と語る。