プロンプトインジェクションやデータ流出に対応、AI運用を守る「FortiAIGate」
提供: フォーティネットジャパン
本記事はフォーティネットジャパンが提供する「FORTINETブログ」に掲載された「FortiAIGate: AIワークロードの最適化と保護」を再編集したものです。
AI導入がセキュリティを上回るペースで進行
コーディングやリサーチからワークフローの自動化やお客様とのやり取りまで、AIはあらゆるレベルでビジネスオペレーションを再構築しています。あらゆる場所の企業が、イノベーションと生産性を推進するために、プライベートAIと大規模言語モデル(LLM)を急速にデプロイメントしています。しかし、導入が加速する一方で、ほとんどの組織は依然として標準化された規制と効果的なガバナンス管理を欠いており、セキュリティチームはビジネスオペレーションを継続しながら、拡大するAI関連のエクスポージャーを管理することを余儀なくされています。
多くの組織は慎重に始め、AIをコアワークフローに統合する前にパイロットプログラムを実行しますが、デプロイメントが拡大するにつれて、課題は実験から保護へと移行します。この段階では、組織はAIオペレーションを効果的に管理するためにセキュリティポリシーとガバナンス管理を実装する必要があります。これには、プロンプトインジェクション、データ漏洩、モデル操作などの脅威から防御するためのランタイムセキュリティの追加が必要であり、これらの課題は、ファイアウォールやWebアプリケーションファイアウォールなどの従来のツールでは対処できるように設計されていませんでした。
複雑性が死角を生み出す
AIは、ハードウェア、ファームウェア、ソフトウェアの新しいレイヤーを導入することで、アプリケーションアーキテクチャを変革しています。データがLLMに出入りするにつれて、複雑性が増し、可視性が低下し、攻撃者が悪用できる死角が生まれます。
静的なアプリケーションやネットワークトラフィック向けに構築された従来のセキュリティ制御では、LLMを特徴づける動的で自然言語的なインタラクションを解釈することができません。専用のランタイム保護がなければ、AIワークロードとそのユーザーは、従来の防御機能の能力をすぐに上回ってしまいます。
FortiAIGateのご紹介
組織がAIの実験から本番デプロイメントに移行するにつれて、ランタイム環境を保護するための専用LLMゲートウェイまたはファイアウォールのデプロイが不可欠になります。この新しい保護レイヤーは、AIロジックとビジネスコンテキストの両方を理解する必要があります。
アプリケーションとモデルの間で動作するFortiAIGateは、すべての入力と出力をリアルタイムで監視し、トラフィックを分析し、ポリシーを適用し、ガードレールを適用することで、プロンプトインジェクション、データ流出の試み、過剰な消費、モデルの盗難を、パフォーマンスに影響を与えたり機密情報を侵害したりする前に検出する、安全でコンプライアンスに準拠したAI運用を保証します。その結果、モデルが進化しワークロードが拡大するにつれて適応する、継続的なランタイム保護が実現されます。
フォーティネット Secure AI Data Center ソリューションの一部として、FortiAIGateは、次世代ファイアウォール(NGFW)、Webアプリケーションおよび API保護、アクセス管理、アプリケーションデリバリコントローラなどの既存の防御機能を補完し、AIのライフサイクル全体を保護する統合された高性能アーキテクチャを形成します。
学習モデルに対する一般的な脅威
企業がLLMをコアワークフローに統合するにつれて、攻撃対象領域は新しく予期しない方法で拡大します。
FortiAIGateは、以下の脅威に対する防御を目的として設計されています。
・プロンプトインジェクション：コード、リモートコマンド、または命令を挿入する悪意のある、または操作的な入力で、モデルに意図しないアクションを強制的に実行させる
・ジェイルブレイク：モデルに組み込まれた安全メカニズムを無効化しようとする試みで、禁止されたコンテンツを生成させたり、安全でないタスクを実行させたりする
・モデルポイズニング：トレーニングデータやアルゴリズムを改ざんして、パフォーマンスを低下させたり、隠れたバイアスを挿入したりする
・データ流出：会話のコンテキストやモデルの記憶を悪用して、独自コード、PII、または知的財産などの機密情報を抽出する
・過剰消費：無駄な、または複雑なクエリを通じてコンピューティングワークロードを増大させ、GPU使用率と運用コストを膨張させる攻撃
これらの攻撃は、コード実行ではなく、従来のソリューションでは解釈できない自然言語のやり取りを通じて発生するため、従来のツールでは検出が困難です。FortiAIGateは、AI対応インスペクション、コンテキスト検証、およびリアルタイム実行を適用して、これらの脅威が発生した際に検出して阻止し、パフォーマンスとガバナンスの整合性の両方を維持します。
ビジネスの成果
FortiAIGateは、CISOやCIO、セキュリティチームに対して、イノベーションと説明責任を整合させるために必要な可視性と制御を提供し、アプリケーション開発、データサイエンス、サイバーセキュリティを、AI専用に構築されたランタイムセキュリティで橋渡しします。
・AIリスクエクスポージャーのガバナンスと低減：ポリシーベースの強制制御により、モデルがデータやユーザーとどのように相互作用するかを制御し、不正アクセス、データ漏洩、またはAI生成出力の悪用を防止します。
・AI導入の加速と運用効率の向上：デプロイメントとランタイム保護を簡素化することで、FortiAIGateはチームがセキュリティのオーバーヘッドを追加することなく、より迅速かつ高い信頼性でAI機能を統合できるようにします。
・AIコストとコンピュート管理の最適化：FortiAIGateは、リソース集約的なアクティビティを監視および制限し、不要なコンピュート消費を削減し、悪用や標的型攻撃から予算を保護します。
これらの成果により、組織は制御やセキュリティを損なうことなく、イノベーションと運用効率を推進しながら、責任を持ってAIを拡張できます。
お客様がFortiAIGateを選ぶ理由
組織は、AI環境の保護が実用的かつスケーラブルでなければならないことを理解しています。詳細な可視化と包括的な保護、柔軟な統合を組み合わせることで、FortiAIGateはチームがワークフローやイノベーションの速度を妨げることなく、AIデプロイメントを保護できるようにします。
・スケーラブルなデプロイメント：最新のアーキテクチャ向けに設計されたFortiAIGateは、複数のコンテナ化されたマイクロサービスを管理するKubernetesクラスター上で動作します。
・簡素化された管理：セキュリティチームは、直感的なGUIを通じてAIランタイム保護を設定および監視できます。手動でのYAMLファイルやPythonスクリプトは不要です。
・完全な可視性：OWASP Top 10 LLMリスクの完全なカバレッジと明確なマッピングを提供し、プロンプトアクティビティ、クエリ量、モデル応答パターンのダッシュボードを備えています。
・包括的な保護：FortiAIGateは安全なプロキシとして機能し、APIゲートウェイ機能、レート制限、DDoS減災を組み合わせて、AIワークロードの脅威エクスポージャーを最小限に抑えます。
・高パフォーマンス：マルチGPUおよびSmartNICアクセラレーションを活用し、ほぼゼロ遅延でプロキシおよびインスペクションワークロードをオフロードします。これは、AI応答時間がユーザーエクスペリエンスに影響を与える場合に重要です。
深いAIコンテキスト認識とフォーティネットの高性能ハードウェアおよび統合されたセキュリティ ファブリックを組み合わせることで、FortiAIGateは安全で効率的かつスケーラブルなAI運用のための新しい基盤を確立します。
フォーティネット セキュア AIデータセンター ソリューションの一部
FortiAIGateは、フォーティネットのより広範なセキュア AIデータセンター アーキテクチャを補完します。境界では、フォーティネットの400 Gbps NGFWと専用設計のASICが、比類のないスループットと効率性を提供します。内部では、FortiAIGateがセキュリティ ファブリックと統合され、アイデンティティ / アクセス管理、Webアプリケーションセキュリティ、およびFortiSIEMを通じたテレメトリレポートを接続します。
セキュリティチームは、FortiAI-Assistを使用してイベントのトリアージ、ポリシー更新の自動化、修復の迅速化を行うことで、運用をさらに強化できます。
AI革新の未来を保護
AIは、ほとんどの組織が適応できるよりも速く進化し続け、LLMを取り巻くリスクはますます高度化していきます。攻撃者はすでに、機密システムを侵害するためにプロンプトインジェクション、モデル操作、データ抽出、推論ハイジャックを試みています。AIの動作を理解するランタイム保護がなければ、セキュリティチームは常に一歩遅れることになります。
FortiAIGateはそのギャップを埋め、すべてのリクエストを管理し、すべてのレスポンスを保護することで、データと知的財産を支える信頼を維持します。フォーティネットのSecure AIデータセンターアーキテクチャと組み合わせることで、パフォーマンスと保護が共にスケールすることを保証します。
FortiAIGateにより、フォーティネットは高性能セキュリティにおける数十年のリーダーシップを急速に進化するAIの世界に拡張し、組織がモデル、データ、投資を保護し、自信を持ってイノベーションを推進できるよう支援します。
FortiAIGateが組織のAIワークロードを大規模に保護する方法をご覧ください。