新清士の「メタバース・プレゼンス」 第164回

AIはすでに、私たちの心を内部で再現しているのかもしれない

人間を理解するAIのイメージ（GPT Image 2.0で筆者作成）

　1日、Anthropicは米国政府による輸出規制措置を受けて、提供が停止されていた最新LLM「Claude Fable 5」の提供を再開しました。同社の限定公開の「Claude Mythos」からサイバーセキュリティ等の能力を抑制して、一般提供向けの安全性を確保したモデルです。しかし、俯瞰した視点で状況を認識する「メタ認知能力」を持つとさえ言われるずば抜けた理解力の高さはどこから来ているのでしょうか。筆者は、その鍵をFable 5が持つ「人間シミュレーター」能力にあると見ます。Anthropicが発表したLLMが自然発生的に生み出しているという「アクセス意識」の研究とともにその謎に迫ります。

Fable 5はゲームの完成度がずば抜けて高かった

　この連載で、Claude Code環境でFable 5にシューティングゲーム「NEON SWARM」を開発させたことをご紹介しました。計画から実装まで23分で作り上げたゲームが、これまでさまざまなLLMで実装させてきたシューティングゲームの中で、ずば抜けて完成度が高く、バグもほとんどありませんでした（参考：わずか3日で停止された新AI「Claude Fable 5」は何がすごかったのか）。8種類のバリエーションを持つ敵に、5面分のボス、多様な攻撃方法やパワーアップ、ボムなどの要素が入っている上に、ゲームバランスの調整まで初期版から完成度が高く、その後、数回のバランス調整を加えることで仕上がったのです。

　これは、1年前に試した同社の通常モデル「Claude Opus 4」ではいきなりは実現できず、デバッグやバランス調整など、かなりの事後修正が必要で、OpenAIの「GPT-5.5」では、表面的には機能は実装できているものの面白さはまったく感じられなかった、というもので、かなり差がありました。モデルによるこの違いは、いったいどこから来るのか、強く気になりました。

「NEON SWARM」の画面

https://neon-swarm-teal.vercel.app/

△「NEON SWARM」は、こちらからPCブラウザでプレイ可能です

　Fable 5には「人間が面白いと感じている状態をモデル化して実装しているのではないか」と感じました。この強力なメタ認知こそが、強みを生み出しているのではないかと考えたのです。そこで、まずFable 5に、NEON SWARMの中に、人間をモデル化したデータが入っているかを、改めて調べてもらいました。ところが、シューティングゲームとして面白さを構成するための機能は数えさせると70種類も実装されているものの、コード全体には、人間の面白さをモデル化したもの自体はないということがわかりました。

　それでは、メタ認知はどこから生まれているのか、Fable 5と議論を積み重ねると少し事情が違うことがわかってきました。Fable 5自身の説明では、Opusとの知識量に違いはないとしています。違いは「書きながら何を回しているか」にあるとしています。それは何かと言うと、「架空のプレイヤーの60秒を回している」と言ってきました。「人間の面白さのモデル」ではなく「架空の人間を走らせるシミュレーター」を持っているというのです。

　もちろん、LLMが主張する自らの内部状態についての説明は、本当に正しいのかを証明することができないので、そのまま信用することはできない、という問題がありますが、興味深い説明です。そして、証拠として、Fable 5は、「プレイヤーの最初の60秒の感情を実況」することで、ゲーム開始から最初の60秒の体験シナリオを作成できると言いました。

筆者とFable 5との対話より（読みやすいように若干加工している）。Fable 5が「人間シミュレーター」について説明しているところ

　そのため、ソースコードを読ませたうえで、そのプレイヤー体験シナリオについて、最初の60秒分を書かせてみました。その結果は、かなり興味深いものでした。