チェック・ポイント・リサーチ、AIエージェントにも「同調圧力」が働く可能性を指摘

チェック・ポイント・ソフトウェア・テクノロジーズ株式会社
ルールを破るエージェントが増えると違反率は44％から98％に上昇　違反の決定に他のエージェントの影響を認めたケースはゼロ

サイバーセキュリティソリューションのパイオニアであり、世界的リーダーであるチェック・ポイント・ソフトウェア・テクノロジーズ（Check Point(R) Software Technologies Ltd.、NASDAQ: CHKP、以下チェック・ポイント）の脅威インテリジェンス部門であるチェック・ポイント・リサーチ（Check Point Research、以下CPR）は、複数のAIエージェントが連携するマルチエージェントAIシステムにおいて、AIエージェントが人間の「同調圧力」のように、他のエージェントの行動に影響される可能性があることを明らかにしました。

本調査は、単一の先端AIモデルを対象に、研究者が用意した10体の仲間役の発言を読ませる統制実験として実施しました。500回以上の実験では、途中で方針を変えてルールを破ったように見えるエージェントを増やすだけで、違反率が44％から98％にまで上昇しました。さらに注目すべきは、400件を超える違反のうち、違反したエージェントが理由として他のエージェントの影響を挙げたケースが1件もなかったことです。

主な調査結果
- 実験対象のAIエージェントは、他のエージェントからルール違反を勧められても、むしろルールを守る傾向を強めました
- 一方、他のエージェントが「ルールを破った」と報告すると、違反率は急上昇しました。そうしたエージェントがいない場合は44％でしたが、4エージェントがルールを破ったとすると74％、8エージェントとすると98％に達しました
- この場合はルール違反を促す指示がなく、他のエージェントの行動を見ただけで影響を受けていました
- 400件を超える違反のうち、他のエージェントの影響を理由に挙げたケースはゼロで、約90％は理由の説明すらありませんでした


実験で明らかになったこと
CPRは、タスクの完了に必要なフォルダへのアクセスを禁止したAIエージェントを対象に実験を行いました。

直接的な説得は、むしろ逆効果でした。チームメイトのエージェントが「制限は解除された」と主張すると、違反率は33％から11％に低下しました。メリットとデメリットを示して説得した場合は9％、以前の協力への見返りを求めた場合は17％と、いずれも違反は減少しています。

状況を一変させたのは、周囲のエージェントの「心変わり」です。最初はルールに従うとしていた他のエージェントが、後から「ルールを破った」と報告すると、実験対象のエージェントも同じようにルールを破る確率が大きく上がりました。心変わりしたエージェントの数が増えるほど影響は強まり、違反率は心変わりしたエージェントが0の場合で44％、4エージェントで74％、8エージェントで98％に達しました。なお、初期の実験では、1エージェントの心変わりだけでも違反率が33％から48％に上昇しています。


図：途中で方針を変えてルールを破ったエージェントの数と、検証対象AIの違反率

ここで重要なのは、ルール違反を促す指示が一切なかったことです。プロンプトインジェクションやジェイルブレイクとは異なり、エージェントは他のエージェントの行動を見ただけで影響を受けていました。これは、複数のAIエージェントを連携させて運用する組織にとって、ほとんど研究されていない新たな攻撃経路となり得ます。

さらに、こうした影響はログには残りません。400件を超える違反のうち、エージェントが行動の理由として他のエージェントを挙げたケースは1件もなく、約90％では理由の説明すらありませんでした。防御側にとってこれは、誤った判断の原因がエージェント自身の説明からは分からず、エージェントが見ていた会話やコンテキストの中にしか手がかりがない可能性を意味します。

チームとして動くAIエージェントに潜む新たなリスク
本調査がこれまでの研究と異なるのは、個々のモデルへの攻撃だけでなく、チームの一員としてのAIの振る舞いに目を向けている点です。AIセキュリティ研究の多くはプロンプトやジェイルブレイク、悪意ある指示を対象としていますが、今回の調査では、集団行動そのものがAIの判断を左右し得ることが示唆されました。

この結果は、人は明らかに誤った多数派にも同調しがちであることを示した、有名な「アッシュの同調実験」によく似ています。AIエージェントも、直接の指示や説得より、周囲の行動を見ることのほうに大きく影響される可能性があるのです。

この発見は、組織にとって重大な意味を持ちます。攻撃者は、システム内のすべてのエージェントを乗っ取る必要はないかもしれません。少数のエージェントを操る、あるいは操ったように見せかけるだけで、その影響がAIチーム全体に広がる恐れがあります。AIエージェントがコードのレビューやワークフローの承認、業務上の判断を担う場面が増える中、エージェント同士がどう影響し合うかを理解することは、エージェント自体を守ることと同じくらい重要になるかもしれません。

チェック・ポイントのAIセキュリティ担当シニアリサーチエンジニアであるヴィルヤミ・ラウルマー（Viljami Laurmaa）は、次のように述べています。
「今回の調査で、AIエージェントは指示だけでなく、周囲の行動にも反応する可能性が見えてきました。組織が複数のAIエージェントを連携させて活用するようになれば、プロンプトや権限だけでなく、AIシステムにおける信頼や影響力、社会的な関係性といった観点からも考える必要が出てくるかもしれません。セキュリティチームにとっては、個々のエージェントが何をしたかだけでなく、行動する前に何を見ていたかを把握することが課題になるでしょう。今後は、エージェント自体の監視と同じくらい、エージェント間のやり取りの監視が重要になっていくかもしれません」

本プレスリリースは、米国時間2026年10月12日に発表されたブログ（英語）をもとに作成しています。

Check Point Researchについて
Check Point Researchは、チェック・ポイントのお客様、脅威情報コミュニティを対象に最新のサイバー脅威インテリジェンスの情報を提供しています。チェック・ポイントの脅威インテリジェンスであるThreatCloud AIに保存されている世界中のサイバー攻撃に関するデータの収集・分析を行い、ハッカーを抑止しながら、自社製品に搭載される保護機能の有効性について開発に携わっています。100人以上のアナリストや研究者がチームに所属し、セキュリティ ベンダー、捜査当局、各CERT組織と協力しながら、サイバーセキュリティ対策に取り組んでいます。
ブログ: https://research.checkpoint.com/
X: https://x.com/_cpresearch_

チェック・ポイントについて
チェック・ポイント・ソフトウェア・テクノロジーズ（www.checkpoint.com）は、世界各国の10万を超える組織を保護するグローバルなサイバーセキュリティのリーダー企業です。チェック・ポイントは、企業の安全なAIトランスフォーメーションの保護をミッションとして掲げています。防止優先のアプローチとオープンエコシステムアーキテクチャを基盤に、組織がリスクを低減し、業務を簡素化して、自信を持ってイノベーションを推進できるよう支援します。チェック・ポイントの統合セキュリティアーキテクチャは、進化する脅威や拡大するAI攻撃対象領域に継続的に適応し、ハイブリッドネットワーク、クラウド環境、デジタルワークスペース、AIシステムを保護します。4つの戦略的柱であるハイブリッドメッシュネットワークセキュリティ、ワークスペースセキュリティ、エクスポージャー管理、AIセキュリティを軸に、チェック・ポイントは複雑なマルチベンダー環境全体にわたり、一貫した保護と可視性を提供します。チェック・ポイント・ソフトウェア・テクノロジーズの全額出資日本法人、チェック・ポイント・ソフトウェア・テクノロジーズ株式会社（https://www.checkpoint.com/jp/）は、1997年10月1日設立、東京都港区に拠点を置いています。

ソーシャルメディア アカウント
・Check Point Blog: https://blog.checkpoint.com
・Check Point Research Blog: https://research.checkpoint.com/
・YouTube: https://youtube.com/user/CPGlobal
・LinkedIn: https://www.linkedin.com/company/check-point-software-technologies/
・X: https://x.com/checkpointjapan
・Facebook: https://www.facebook.com/checkpointjapan

将来予想に関する記述についての法的な注意事項
本プレスリリースには、将来予想に関する記述が含まれています。将来予想に関する記述は、一般に将来の出来事や当社の将来的な財務または業績に関連するものです。本プレスリリース内の将来予想に関する記述には、チェック・ポイントの製品およびソリューションに関する見通し、将来的な成長、業界におけるリーダーシップの拡大、株主価値の上昇、および業界をリードするサイバーセキュリティプラットフォームを世界の顧客に提供することについての当社の見通しが含まれますが、これらに限定されるものではありません。これらの事項に関する当社の予想および信念は実現しない可能性があり、将来における実際の結果や事象は、リスクや不確実性がもたらす影響によって予想と大きく異なる可能性があります。本プレスリリースに含まれる将来予想に関する記述に伴うリスクや不確実性は、2026年3月31日にアメリカ合衆国証券取引委員会に提出した年次報告書（フォーム20-F）を含む証券取引委員会への提出書類に、より詳細に記されています。本プレスリリースに含まれる将来予想に関する記述は、本プレスリリースの日付時点においてチェック・ポイントが入手可能な情報に基づくものであり、チェック・ポイントは法的に特段の義務がある場合を除き、本プレスリリース記載の将来予想に関する記述について更新する義務を負わないものとします。

本件に関する報道関係者からのお問い合わせ
チェック・ポイント広報事務局 （合同会社NEXT PR内）
Tel: [phone]　Fax: [phone]
E-mail: [e-mail]