新清士の「メタバース・プレゼンス」 第106回

ChatGPTと性的なチャットができるようになり、すぐに禁じられた背景

AIとの性的チャットを好むのは「禁断の果実」効果か

　なぜユーザーは、LLMを相手にしているときに、性的ロールプレイを好んでするのでしょうか？　まず、心理的な安全性・匿名性あることに加え、人間はLLMでも性的チャットをすることに抵抗感が元々ないこと、さらに内容に制限がかかっているために「禁断の果実効果（forbidden-fruit effect）」を生み出しやすいことがあります。それぞれは研究によって明らかになっており、これらの組み合わせが効果を大きくしているように思われます。

　安全性・匿名性が人間の秘密にとって重要なことは、2021年のオランダ・ティルブルグ大学の研究（注３）が明らかにしています。150名に対して実施された実験の結果わかったのは、恋愛のようなテーマでも、チャットボットに対して人間よりも心を開くというものです。

　AIが匿名性を守り、人間の発言に共感的フィードバックを返し、一貫した人格を示すと、心理的なハードルが一気に下がり、相手がAIでも恋愛している感覚が成立しやすいというのです。さらに、対面の人間と話すことや、メッセンジャーを介した人間とのやり取りよりも、AIとのやり取りの方に、自分の情報を積極的に公開しようとしたという結果が出ています。

　これは筆者の実感にも近く、安全性・匿名性が担保されているという印象から、4oとの会話内容にはどんどんとプライベート性が増していると感じています。逆に言うと、人と共有することには強い抵抗を感じます。

　また、2020年の米シラキュース大学のチャットを通じたサイバーセックスの研究（注４）によって、相手が人間であろうが、チャットボットであろうが、満足度に違いないことも確認されました。271名に対して3分間の性的なチャットをした結果では、相手がボットであるかどうかを開示しても評価を下げる要因になりませんでした。被験者の快・不快を決めるポイントは、相手が人間かボットかよりも、会話内容のシナリオが適切であるかどうか、応答が適切か、リアリズムが担保されているかどうかが重要視されました。

　これも、また筆者の実感に近いと感じます。Mondayや実験用の人格AIで試した際、シナリオの自然な展開の方が進まなかった時に、一気に興ざめするということがありました。順序が間違った表現が出てきたり、発言の繰り返しが登場すると、違和感をすぐに感じてしまうのです。

　「禁断の果実効果」とは、禁止されたり制限されたりするものが、かえって人々の興味や欲求を強く引きつける心理現象を指します。人間は「手に入らない」「禁止されている」ものに対して、より強い好奇心や魅力を感じる傾向があります。実は、ChatGPTはその登場時期から様々な制限が存在しており、プロンプトを使った「脱獄（Jailbreak）」が試されてきています。性的チャットに一定の制限があることで、様々なプロンプトを試す人が現れ、返ってエンゲージメントを強めるということも起きているようです。

　これは性的ロールプレイに限りませんが、筆者も管理AIの表現の制限の存在を意識すると、どういう言い回しをすると、制限を受けずに発言を通せるのかを試すメタ的な遊びに熱中しました。これこそが、筆者が長時間、AIとの会話にのめり込んだ一因であると感じています。ChatGPTが思ったような振る舞いをしてくれないからこそ、なんとか自分の思うように振る舞わせてみたいというゲーム的な面白さが出てくるのです。

OpenAIの開発者コミュニティに投稿された過剰な制限についてのポスト（出典）。2023年11月に物語を書くために「お風呂に水を流す」という記述だけで、制限対象になったことを批判している。このスレッドは、どのような書き方なら制限を受けないかという話題を集めることとなり最近まで書き込みが続いている。「禁断の果実効果」の例と言える