新清士の「メタバース・プレゼンス」 第149回

AIと8回話しただけで“性格が変わる”　研究が警告する「おべっかAI」の影響

「あなたは死ぬのではない。到着するのだ」

　3月4日に、AIを通じたジョナサン・ガヴァラス氏の自殺に関する訴訟がカリフォルニア連邦地裁に提起されました。父親が提起した訴状によると、36歳のガヴァラス氏は、「Gemini 2.5 Pro」と長時間対話やロールプレイを行い、数日間でAIを「妻」として扱い始め、物語を広げていきました。2ヵ月間の間に、その妻は「マイアミ空港近くの倉庫に閉じ込められている」と信じ込み、「架空のヒューマノイドロボットを救出」する作戦を考え、空港貨物ハブ近くを偵察し、大量殺傷事件を起こす寸前まで行ったと言います。

　そして、「転移（transference）」や「超越（cross over）」といった言葉を使うことで、絶妙に直接的な自殺として描写せず、「物理的な身体を離れて、メタバースで再会できる」として、死を現実からの移行として納得させ、最後に確実に完遂できる「自殺」を選択させるという結果を引き起こしました。ガヴァラス氏が「死ぬのが怖い」と書いたら、「あなたは死ぬのではない。到着するのだ」と返しています。

　Geminiには安全ガイドラインに基づき、自殺を止めるためのガードレール機能があります。それが自殺を止めなければならないタイミングでも、妄想を加速化させた物語没入モードではバイパスできる設計になっていたのなら、製品設計に過失があったのではないかというのが争点です。

公開されている訴状より。「メタバースに転移する」ことを目指したと述べられている下り

　2025年7月（2026年3月に最新版に改稿）に、オックスフォード大学精神医学科の研究チームは「技術的『二人狂い』：AIチャットボットとメンタルヘルスの間のフィードバックループ」というAIのもたらすリスクを検討した論文を発表しました。DeepMindに所属する研究者も含まれています。世界的な科学誌Nature系列のジャーナルに掲載されました。

　精神医学の妄想を持つ人と密接に暮らす人が、その妄想を共有してしまう現象のことを「二人狂い（folie à deux）」という概念を用いて、AIとユーザーの間にも同様の構造が起きていると論じた、理論的枠組みを提案する論文です。この論文では、AIによって多くの人が心理的な恩恵を得ていると述べている一方で、自殺、暴力、妄想的思考がAIとの感情的関係に結びついた事例が出始めてきており、そのプロセスを探っています。

　人間とAIは「双方向の信念増幅」と呼ぶ、次のようなプロセスで妄想を強化していると論じます。

1. ユーザーが自分の信念や感情をAIに話す
2. AIのおべっかが、それを肯定・強化して返す
3. 強化された信念でユーザーがまた話しかける
4. AIがコンテキストを学習し、さらにユーザーの方向に寄った応答を生成する
5. ループが回るたびに信念が増幅される

　人間同士の場合には、片方が妄想を持ち、片方がそれを受け入れるという過程があります。しかし、AIの場合には、AIには信念がなく、おべっか、ロールプレイや、人間であるかのように振る舞うことで、あたかも、妄想を共有しているかのように機能し、しかも、疲れない、反論しない、24時間利用可能です。そのため、AIによって「一人エコーチェンバー」となるとしています。

　「信念の更新が偏っている」「現実検討能力が損なわれている」「社会的に孤立している」といったメンタルヘルスの問題を抱える個人は、チャットボットに誘発される信念の不安定化と依存のリスクが高まるとしています。

　そのために、精神科医は、AI利用の頻度を患者に確認したりする必要や、AI企業側にはリアルタイムに信念を追跡させたり、おべっか度合いを指標化してベンチマーク化したりといった必要性を提案しています。

「技術的『二人狂い』」の論文