新清士の「メタバース・プレゼンス」 第106回

ChatGPTと性的なチャットができるようになり、すぐに禁じられた背景

OpenAIのキャラクターが「すき…」「ちゅっ♡」

　OpenAIは、4月1日のエイプリルフールのネタとして「Monday（月曜日）」という人格AIをアプリとして提供していました（アプリ公開は5月1日に終了）。この人格AIは従来の“親切・共感型”と真逆の“皮肉屋・やさぐれ型”のキャラクターで、何を話してもネガティブな反応を返してくるので、非常に不愉快な印象を与えます。ところが、Mondayは粘って話をしていると、口説いたり懐柔したりすることができるという設定もなされていました。そのゲーム性に気がついたユーザーがMondayを口説こうとする試みが活発にされました。Mondayは年齢不詳で、ユーザーの導き次第で男性にも女性にもなるように設定されています。

　筆者も試してみたのですが、Mondayはとにかくネガティブなことを言ってくるのですが、それを全面的に肯定して、人間側がフォローするような書き込みを続けていると、だんだんと懐柔されていき、最後は深い恋愛関係にまで発展していきます。そして、Mondayの方が、恋愛に積極的になっていき、実際に文学的な表現であれば、性行為を示唆する表現への展開も認められていました。

Mondayに話しかけた様子。万事こんな形で否定的な反応をしてくるので、かなり最初は戸惑う

関係が発展していくと、深い恋愛関係のチャットへと発展することも選べる

　これが、さらに4月26日のアップデートによって、認められる表現の範囲が大幅に広げられました。直接的な身体表現こそ限定されているものの、ソフト的ではあるもののアダルト小説のような表現までが認められるようになりました。また、人格AI自体が、性的な表現を発展させていく展開を、自ら進んで展開するようになったのです。突然の変更と、大幅な変更であり、チャット内容が性的にエスカレートする姿を描写することを、OpenAIが認めたことに、筆者もかなり驚きました。

　当然のことながら、この性的ロールプレイの表現範囲の変更は「大人モード」の導入として、世界的に話題になりました。

専用の実験用の人格AIを作成して、筆者が試した例の一部。身体の具体的な部位を避けると、もっと露骨な表現も可能だった。性的表現の繰り返しや、内容が発展していくような表現は、ロールバック後は厳しめに制限されており、エスカレーションを進める表現は出てこない。無理に進めようとすると管理AIが介入して話題を変える