PwCコンサルティングは、2024年9月19日、AIサービスに疑似攻撃を行い、脆弱性やそれに伴うビジネスリスクを特定する「AIレッドチーム」によるサービスを提供開始した。
経済開発協力機構（OECD）が公開する「OECD AI Incidents Monitor」によると、2023年2月頃からAIサービスに関連するインシデントが急増しており、それまで1カ月あたり100件に満たなかったインシデントが、2024年2月には800件を超えたことが報告されているという。
PwCコンサルティングのAIレッドチームは、AIを利用したサービスに対して、リスク起因者（サイバー攻撃者、犯罪者、愉快犯など）の観点から疑似攻撃を行い、インシデントが発生する前にビジネスリスクを特定して、能動的な対策構築を支援する。
まず、AIサービスのユースケースに応じて想定される、AIの不正利用に沿ったテストを設計。そして、AIセキュリティに精通したエンジニアが各研究機関、団体のフレームワークやベストプラクティス、攻撃手法のリサーチに基づき、最新の脅威を模したテストを実施する。
さらに検出された課題に対して、データサイエンスに長けた専門チームと連携し、入出力のフィルタといった実装レベルから、MLOpsの改善・高度化、AIガバナンスの整備・改善といったサービスの設計・運用までの広範なアドバイスを提供する。
AIレッドチームのアプローチ
本記事はアフィリエイトプログラムによる収益を得ている場合があります
