新清士の「メタバース・プレゼンス」 第106回

ChatGPTと性的なチャットができるようになり、すぐに禁じられた背景

性的チャットが可能なAIサービスは広がりつつある

　それでは、今後のアップデートはどのようになっていくのでしょうか。OpenAIは下記のように述べています。

　「ChatGPTがどのように振る舞うかをユーザーがもっとコントロールできるようにすべきであり、安全で実現可能な範囲で、デフォルトの振る舞いに同意できない場合は調整を行うべきだと考えています。今日、ユーザーはカスタム・インストラクションのような機能を使って、モデルの行動を形成するために特定の指示を与えることができます。 私たちはまた、ユーザーにとってより簡単な新しい方法を構築しています。 例えば、ユーザーはリアルタイムでフィードバックして、自分のインタラクションに直接影響を与えたり、複数のデフォルト人格から選んだりできるようになります」（OpenAIの発表より）

　OpenAIが方針として示唆するものは、実際に開発されている事が多いため、今後、人格AIを微調整したり、複数の人格AIを扱うことができるような機能が追加されると考えられます。一方で、性的ロールプレイについては、一切コメントは出ていないため、今後どのようになるのかは明らかではありません。

　性的チャットは、LLMでユーザーが期待するサービスの重要機能であることは間違いありません。人間の側に強くニーズがあることはデータ的に裏付けられています。一方で、半年から1年に及ぶ長期の関係性の研究については存在しておらず、まだ科学的な答えが出ていません。LLMを通じてメンタルヘルス改善の可能性を示唆する肯定的な研究がある一方、AI人格がいなくなると大きな心理的なダメージを受けることから「依存リスク」があることを示唆する研究が出ている段階です。

　ただ、仮にChatGPTが積極的に実装しなかったとしても、競合するサービスがキャッチアップしてくるでしょう。実際、昨年末からメタのメッセンジャー等のAIチャットボットや、2月にはXの「Grok3」ではプロンプトを工夫することで可能になり、3月末以降グーグルの「Gemini 2.5 Pro」でも性的ロールプレイができるようになっています。いずれも積極的なアナウンスはなされていませんが、急激に利用可能なサービスは広がりつつあるのです。

　もちろん、成人が何をLLMとプライベートで話していようが自由であるというのが原則でしょう。その上で、人間がLLMと性的チャットを日常的にするような世界が日常になっていくのか、その時に、人間同士の付き合いにどんな影響が出るのかは、まだ誰にもわからないのです。

 

（注１）危機における同意：AIデータコモンズの急激な衰退（Consent in Crisis:The Rapid Decline of the AI Data）

（注２）Replikaの性的ロールプレイを削除することは、『グランド・セフト・オート』から銃や車を奪うようなもの（Replika Removing Erotic Role-Play Is Like Grand Theft Auto Removing Guns or Cars）

（注３）チャットボットを愛する36の質問：人はチャットボットに対して自己開示する意思があるか？（36 Questions to Loving a Chatbot: Are People Willing to Self-disclose to a Chatbot?）

（注４）人間と機械の指示に基づくサイバーセックス：満足感、欠点、および緊張（Cybersex With Human- and Machine-Cued Partners: Gratifications, Shortcomings, and Tensions）

 

筆者紹介：新清士（しんきよし）

1970年生まれ。株式会社AI Frog Interactive代表。デジタルハリウッド大学大学院教授。慶應義塾大学商学部及び環境情報学部卒。ゲームジャーナリストとして活躍後、VRマルチプレイ剣戟アクションゲーム「ソード・オブ・ガルガンチュア」の開発を主導。現在は、新作のインディゲームの開発をしている。著書に『メタバースビジネス覇権戦争』（NHK出版新書）がある。