偶然出会った彼女はAI、電話に出た警察官はディープフェイク──急速に巧妙化するAI詐欺

2026年09月22日 07時00分更新

文● 小島寛明

参考イメージ　Made with AI

　ChatGPTやClaude、Geminiといった主要AIを使えば、簡単なアプリなら数分でしっかり動作するものをつくってくれる。

　ちょっとした作業を効率化するのに非常に助かるのだが、問題は、悪用するハードルも大幅に下がっていることだ。この結果、詐欺の手口も、AIの進化によって急速に巧妙化が進んでいる。

　Claudeを開発・提供しているアンソロピック社が2026年9月、自社のClaudeが悪用された事例を集め、レポートとして公表している。

　たとえば、AIをフル活用した、詐欺マッチングアプリの事例だ。マッチングアプリは、容姿の画像や記載されたプロフィールから、魅力的だと思う人物を選び、チャットなどでコミュニケーションができる。しかし、チャットで会話をしている彼女／彼は実はAIだった。

　2026年4月にアンソロピック社が確認した事案では、ビデオ通話などを除き、AIが詐欺アプリのサービスの運営に必要な業務の多くを担当していた。

マッチングした相手はAIだった

　大手マッチングアプリTinderは、利用者の画像が次々に表示され、興味がある人については右にスワイプ（あり）し、ない人は左にスワイプする（なし）。ユーザー同士がいずれも右にスワイプするとマッチングが成立し、チャットなどでコミュニケーションを取ることができる。このTinderのUIは世界中でバズったのだが、詐欺アプリもTinderに似たUIを採用していたようだ。

　この詐欺アプリの運営元は、画像生成に強いAIを使って、プロフィール画像を生成する。この詐欺アプリでは、4700以上のAIペルソナが用意されたという。「あり」をスワイプしたユーザーは、AIペルソナとマッチングが成立する。ユーザーとAIペルソナの会話は、Claudeが担当していたようだ。詐欺グループはAIに対して、自動化されていることを絶対に明かさない、ビデオ通話や写真の要求はかわす、決められた会話の段階を順に進むよう指示していた。

　送信するメッセージの量や、マッチングの回数が増えると、アプリ内のコインを購入することになる。マッチングした相手ともっと話したいと思ってコインを買ったユーザーは、実はAIと会話していたということになる。

　この詐欺アプリの運営元には、人間の従業員もいて、AIが提示した3種類のメッセージから、1つを選択するのが主な仕事だったようだ。また、SNSでフォローを返すとか、ビデオ通話で話すといった自動化が困難な業務も担当していた。

　この詐欺アプリは、スワイプ画面に表示される候補の75%がAIのペルソナで、残る25%がリアルの人間だったという。

AIで声を女性に

　台湾の英文メディア、タイペイ・タイムズによれば、AIを使った音声変換をフル活用した事案で、詐欺グループ57人が2026年9月2日に起訴された。

　このグループは女性22人の声をAIに学習させ、既存のマッチングアプリでユーザーを待つ。ユーザーとチャットや音声通話でコミュニケーションを重ねるのだが、詐欺グループの会話の担当者の声を、AIで女性の声に変換していた。

　ユーザーとある程度親密になったところで、サプリやモバイルバッテリーといった安価な商品を買ってほしいとねだる。これに成功すると、高級ドライヤーやスマホ、生活費や医療費の金銭的な援助と段階的に要求を上げていく。この詐欺グループは2022年から稼働し、2万人を超える被害者から9億台湾ドル（約44億円）を騙し取った。押収品にはディープフェイクを生成するソフトを搭載するPC67台が含まれていた。