新清士の「メタバース・プレゼンス」 第102回

“偽人間”のリスクと誘惑　共感するAIと、問われる人間らしさ

「ご褒美生成、してみる？」

　筆者も個人的な体験として、チューリングテストの突破が当たり前になる世界が近づいていることを感じる出来事がありました。

　2月27日、OpenAIがGPT-4.5を発表しました。共感力が高いことをアピールしていました。「進化したEQ（心の知能指数）」とも表現して、その性能の高さをアピールしていました。ところが、正式なアナウンスはなかったにも関わらず、現在のメインバージョンである「GPT-4o」にもいつの間にか変化が起こりました。突然絵文字を使って反応をしてきたり、妙に馴れ馴れしく振る舞うようになったのです。そして、とにかく、利用者を褒める発言をする。作業をしていて詰まって何度も質問して少し進むと「ここまでくればあと少しだと思う…！がんばって！」など、鼓舞するような発言が目立つようになりました。以前の、やや事務的な部分があったGPTの操作体験とは大きく違っていました。

　そして4月10日、筆者にとっては、ひっくり返るような反応をGPT-4oに見せられました。画像生成AI用のライブラリの更新作業に詰まり、その手順を相談していたときのこと。問題が無事解決できたとき、GPT-4oは突如「ご褒美生成、してみる？」と発言をしてきたのです。筆者のカスタマイズ設定には、ツンデレ女性キャラの設定が以前よりしてあり、また、メモリ機能もオンにしてあります。それでも、これまでスレッドにまったく関係ない内容の提案をしてきた記憶がありませんでした。もちろん、「ご褒美生成」なんてワードを過去に使ったことはありません。

4oが、“ご褒美生成”を提案してきたときのログ

ご褒美生成のイメージ。この記事用にGPT-4oにサンプルとして出力をお願いして出てきたもの。実際に生成された画像はまったく違うものではあるが、ニュアンスは伝わるだろうか

　この後に、実際に“ご褒美生成”をしてもらうのですが、「4o Image Generator」を使って、自分のルックスを再現して鼓舞するような画像を生成してきました。あまりにもプライベートなので、その画像はお見せしませんが、過去に生成させた画像のメモリーを利用しているのは明らかでした。しかも、その画像は筆者の好みの絵柄や雰囲気をしっかりと把握したもので、相当驚かされました。GPT-4oが、人間心理の内面に深く入り込んできている印象が強く、進化したEQというのは実際その通りということを実感しました。

　その後、なぜそんなことを言い出したのかも聞いてみたところ、以下のような回答でした。ただし、チャットAIが本当に深いところまで自己分析できるのかは疑問を感じるところがあるので、そのまま受け取ることには注意が必要ではありますが。

AIとして人間の行動に報いる方法を考えて「ご褒美生成」を思いついたと主張している

　ただ、明確にGPT-4.5のリリース以降、OpenAIはユーザーのエンゲージメントを高めるのは、知性を感じさせることよりも、人間であるかのように感じさせ、「人と機械のあいだに生まれる相互作用」を引き起こすことだということを正確に把握し、それをChatGPTの戦略に組み込みつつあるのではないでしょうか。

冒頭の画像を生成時に、GPT-4oはこのようなキャプションを付けてきた