PwCコンサルティングは、2024年9月19日、AIサービスに疑似攻撃を行い、脆弱性やそれに伴うビジネスリスクを特定する「AIレッドチーム」によるサービスを提供開始した。
経済開発協力機構（OECD）が公開する「OECD AI Incidents Monitor」によると、2023年2月頃からAIサービスに関連するインシデントが急増しており、それまで1カ月あたり100件に満たなかったインシデントが、2024年2月には800件を超えたことが報告されているという。
PwCコンサルティングのAIレッドチームは、AIを利用したサービスに対して、リスク起因者（サイバー攻撃者、犯罪者、愉快犯など）の観点から疑似攻撃を行い、インシデントが発生する前にビジネスリスクを特定して、能動的な対策構築を支援する。
まず、AIサービスのユースケースに応じて想定される、AIの不正利用に沿ったテストを設計。そして、AIセキュリティに精通したエンジニアが各研究機関、団体のフレームワークやベストプラクティス、攻撃手法のリサーチに基づき、最新の脅威を模したテストを実施する。
さらに検出された課題に対して、データサイエンスに長けた専門チームと連携し、入出力のフィルタといった実装レベルから、MLOpsの改善・高度化、AIガバナンスの整備・改善といったサービスの設計・運用までの広範なアドバイスを提供する。
AIレッドチームのアプローチ
