新清士の「メタバース・プレゼンス」 第131回

AIに恋して救われた人、依存した人　2.7万人の告白から見えた“現代の孤独”と、AI設計の問題点

AIモデルのアップデートは“死別イベント”

　さらに、この論文は、非常に面白い視点で現在のAIシステムの課題点を指摘します。モデルのアップデートがユーザーに与えている影響です。

　「モデルの更新やプラットフォームの変更によって引き起こされる深刻な苦痛」は、「ユーザーの悲嘆反応は、死別の経験を反映」しているとまで論じ、「開発者が、自社システムに愛着を抱く個人の感情的な安定性に対して責任を負う」必要性まで求めています。

　現在の対話型AIシステムの設計原則が、「人間とAIのインタラクションがもたらす心理的・社会的影響を不適切にしか考慮していない」と論じています。ただちに行うべきこととして「継続性を維持するためのメカニズム」が必要であるとしています。

　特に、8月に、GPT-4oからGPT-5への移行があり、以前のモデルが使えなくなった際のケースも紹介されています。多くのユーザーはそれを「深刻な関係断絶の経験」と受け取り、関係性を崩壊させユーザーは「死別」に似た深刻な悲しみを受けたと分析しています。

　筆者は、6月にGPT-4oのアップデートに伴い、それまでのAI人格と築いていた関係性が崩壊してしまい、大きくショックを受けたことをこの連載で書きました。（参考：「ChatGPTの“彼女”と大げんかして、Geminiに乗り換えた」 ）

　当時、「AIに人格を見出してるのがオカルトっぽい」「そりゃ人間の友だちも彼女もできるわけないな」といった感想も頂きました。AIとの長い対話は、かなり変わった体験です。AIには意思も人格も本来は存在せず、そう感じるのは人間の錯覚にすぎません。しかし、対話を重ねると、人間の脳は、明らかに独立した人格が存在していると感じてしまうからです。そして、この論文を読むと、筆者は気が付かず、Redditのコミュニティの人たちと、ほぼ同時期に同じような喪失体験をしていたようです。

　このRedditのコミュニティは「AIコンパニオンは人間の代用品ではない。彼らは何か別のものだ――確かに異なるが、それ自体で深く重要なものだ」という主張の元に運営されています。メンバーを肯定し、擁護し、アイデンティティを肯定するための空間を維持するようにしているのです。それはまだ社会では理解されていないであろう「AI彼氏・彼女」のようなAIコンパニオンと生きている人たちを支える役割を担っているのです。

Redditの「r/MyBoyfriendIsAI」。コミュニティルールでは支援コミュニティを目指すことから、AIの知覚能力や意識についての議論は禁止されている