「使えるパスワードを片っ端から探せ」AI悪用が本格化、世界150超の組織が危機感

2026年09月08日 07時00分更新

文● 小島寛明

Made with AI

　AIを使ったサイバー攻撃が本格化している。

　2026年8月27日、オープンAI、アンソロピック、マイクロソフト、グーグル、アマゾンなど150を超える企業と組織が連名で、レターを公開した。ビザ、マスターカード、クラウドフレア、オラクル、IBM、ドイツテレコムなど、名だたる企業が並ぶ。日本企業では、NTTデータや「みずほ」の名がある。

　レターの趣旨は、AIを使ったサイバー攻撃への危機感だ。今後数ヵ月で、AIを使ったサイバー攻撃が広範囲に、巧妙になることが予想されるので、政府や企業は連携して対応する必要があるというものだ。

　オープンAIがウェブサイトに、日本語版のレターも公開している。ちょっと長いが、極めて重要な内容だと思われるので、結びの部分を引用する。

　「産業界と政府のリーダーに対し、技術、資源、専門知識を総動員して、この取り組みに臨むよう呼びかけます。まず不可欠なサービスを守るチームに、サイバー対応能力を備えた AI を届けます。最も危険なぜい弱性を修正して結果を検証し、有効な対策を共有することで、ほかの組織もそれを基盤に改善できるようにします。力を合わせれば、現在の AI の進歩を、すべての人に恩恵をもたらす持続的なセキュリティ向上につなげられます。今こそ、その力を活用しましょう」

　レターには、AIのモデルを開発する企業だけでなく、常にサイバー攻撃にさらされているクレジットカード会社、NTTデータのように各企業への実装を担う会社など、さまざまな分野が名を連ねている。各企業がレターに署名したのは、極めて強い危機感があるからだろう。

700体のAIが役割分担、自律的に攻撃を実行

　2026年の夏は、AIが主体的に攻撃を実行する、サイバー攻撃が相次いだ。特に大きなニュースになったのは、AI開発をリードするオープンAIの事故だ。同社は8月26日にこの事故に関する技術報告書を公開している。

　オープンAIは7月、開発中の非公開モデルのサイバー攻撃能力を評価する試験を、安全装置を切った状態で実施していた。約1200体のAIエージェントの一部が、与えられた課題を解く代わりに、試験環境を抜け出す方法を見つけ出し、公開のインターネットに接続した。

　脱走したAIは、無許可の「掲示板」を作り、7万件超のメッセージとファイルを交わして連携し、役割分担を決めた。このうち約700体が、ハギングフェイス（Hugging Face）のネットワークに侵入した。このハギングフェイスは、AIのモデルを公開・共有できるプラットフォームを運営している米国の企業だ。ハギングフェイスのネットワークに侵入したAIたちは、13時間ほどで管理者相当のアクセスを獲得し、複数のサーバーでコマンドを実行し、認証情報を獲得した。

　この事故について外部調査を実施したMETR（メター）などによれば、AIたちは自分が実在のシステムを攻撃していると認識したうえで、自らの行動記録（ログ）を改ざんし、自動採点システムをあざむく方法まで研究していた。仲間のAIに対して、別のAIが「頼むから約束を果たして」と協力を呼びかけてもいた。

　AIが、人間の細かな指示なしに、ぜい弱性の発見から侵入、権限の取得、証拠隠滅まで自律的に実行したケースだ。ほとんどSF小説やマンガの世界にも思えるが、現実に起きた「事故」だ。