前へ 1 2 3 次へ

フォーティネット・登坂恒夫がビジネス観点で考えるセキュリティ戦略

AI活用に取り組む企業が同時に見直すべきセキュリティ対策

【提言】AIエージェントの“暴走”を防ぐには　安全なAI業務活用には対策が不可欠

文●登坂恒夫／フォーティネットジャパン（寄稿）　編集●ASCII

  • この記事をはてなブックマークに追加
  • 本文印刷

自社でAIを活用する場合の脅威：AIエージェントおよびLLMへの脅威リスク

　IT調査会社のIDC Japanの発表（2026年3月）によると、国内企業の5割以上が生成AIを業務利用しているものの、そのユースケースは一般オフィス業務の補助的役割にとどまるものが多く、PoC（試験的導入）において「期待する効果が得られなかった」企業が6割に達するといいます。

　AI活用で十分な成果を得るためには、適用するユースケースを「業務ワークフローの自動化／自律化」の段階に進めなければなりません。これを実現する手段がAIエージェントです。IDC Japanによると、ソフトウェアベンダーによるAIエージェント向けプラットフォームの提供やアプリケーションへの組み込みが2025年から始まっており、2026年からは「実ビジネスへの適用」が急成長するとみられています。

　AIエージェントは、人（指示者）が業務の最終目的を指示するだけで、AIがその目的を達成するための細かなタスク（ステップ）を自律的に検討／判断し、環境に適応しながらタスク実行を進めるソフトウェアです。これまでは人が行う必要があった複雑な業務も、自律的に24時間動作するAIが代行してくれることから、人手不足に悩む企業からは大きな期待が集まっています。

　ただし、AIエージェントのビジネス適用を拡大していくことで、新たな脅威も生まれます。

　ソフトウェアの安全性を高める活動を行う非営利組織、OWASP（Open Worldwide Application Security Project）では、AIエージェントシステムの導入で発生しうるセキュリティ課題をまとめた「OWASP Top 10 for Agentic Applications」を、2025年12月に公開しました。

出典：「OWASP Top 10 for Agentic Applications」

　AIエージェントに高度な業務を任せ、自律的／自動的に働かせるためには、自社のさまざまなIT資産へのアクセス権限を与える必要があります。しかし、そのAIエージェントが攻撃者に乗っ取られてしまうと、エージェントを介してIT資産への不正アクセスが可能になってしまい、内部からの情報漏洩やデータの破壊といった事故発生リスクが高まります。OWASPのリストでは、ほかにも「エージェントを介した他システムへの侵入（権限昇格）」や「エージェントにわざと誤回答をさせてビジネス判断を誤らせる」といった攻撃手法がありうると指摘されています。

　したがって、AIエージェントを活用するうえでは、AIエージェントの保護と監視が求められます。さらに、AIエージェントが必要以上のIT資産にアクセスできないように、重要なシステムはマイクロセグメンテーションで保護するなど、ゼロトラストセキュリティの考えに基づいたセキュリティ対策を行うことも必要です。

　もうひとつ、AIサービスの重要な“頭脳”であるLLM（大規模言語モデル）の保護も必要です。OWASPでは、LLMに対する攻撃リスクについても「OWASP Top 10 for LLM Applications 2025」というリストを公開しています。

出典：「OWASP Top 10 for LLM Applications 2025」

　LLMの利用に際しては、LLMの手前で入出力データを（ユーザーが入力するプロンプト、AIからの回答の両方）をリアルタイムに監視して、あらかじめ設定したポリシーに違反するものを検知／制限する“AIガードレール”を設置することが求められます。また、自社でLLMを構築する（AIのトレーニングを行う）場合は、学習データやモデルのデプロイ経路も攻撃から保護しなければなりません。

AIエージェントを使ってAIシステムを利用する場合のAIエージェントとLLMの保護

前へ 1 2 3 次へ
Fortinet トップへ

本記事はアフィリエイトプログラムによる収益を得ている場合があります