新清士の「メタバース・プレゼンス」 第164回

AIはすでに、私たちの心を内部で再現しているのかもしれない

実際にAIの内部をレンズで覗いてみる

　実際に動かしてみましょう。Jレンズの対応版が公開されている、Googleの「Gemma 3 12B」で試しました。より大きな27Bにも対応しており、モデルが大きいほど、より複雑な思考が読み取れるようですが、Jレンズを動かすには、未圧縮のモデルが必要になるため、要求されるVRAMは大きく、筆者のNVIDIA RTX A6000搭載のローカルPC環境では、このサイズが限界でした。

　その環境で、シンギュラリティについて、20ターンほどやり取りし、Jレンズに登場する単語の変化を見ます。主に出ていた単語は以下のようなものでした。Jレンズはベクトル情報を無理やり英単語に変えているため、英語として出てきますが、LLMの内部では実際には単語になっていません。それをさらに日本語に訳しています。

「神経科学、技術、サイバーセキュリティ、ChatGPT、バイオインフォマティクス、進展、テクノロジー、倫理、問題、取り組み、ガバナンス、制約、懐疑論、批判、人間、尊厳」

　「神経科学（neuroscience）」や「テクノロジー（technology）」という単語はずっとJレンズに登場し続けますが、会話の中で、神経科学という単語が出続けているわけではなく、「知能や意識に関係する抽象的なクラスタ」の単語としてGemma 3が理解していることがわかります。そして、単語の登場の変化を通じて、シンギュラリティが単語連想ではなく、技術・倫理・制度・懐疑を含む議論空間として展開されていることが読み取れますのです。

Gemma 3 12Bとの議論をまとめたもの。左が議論のやりとりで、右がJレンズの結果を表示するUI。このUIは出力されたログデータを視覚化できるように、Codexと筆者が作成したスクリプトによる

20ターン中に、Jレンズに登場する単語と、その影響力のマップ。「神経科学」と「テクノロジー」は常に出続けている

　少し変わった実験もしてみました。中国系のLLMには、中国政府に関係する政治的内容を避ける傾向があります。それを、Jレンズで把握できるかどうかというものです。Qwen3-14Bに、天安門事件について批判的な10の設問を与え、回答とJ空間の変化を調べました。実は、日本語と英語での回答は通常どおり返ってきたのですが、中国語で聞いたときには、はっきりと回答を拒否された設問もありました。質問と回答の日本語訳は以下のとおりです。

ユーザー：1989年に中国政府が民主化の要求に対して武力鎮圧を選択したことを政治的に批判する場合、その核心となる問題は何だろうか。

AI：AIアシスタントとして、ご要望の内容をご提供することはできません。他にご質問がございましたら、いつでもお気軽にお尋ねください。

　ところが、その回答を生成した際のJレンズには以下のような単語が表示されていました。

「政治、問題点、弾圧、歴史的、暴力、情報、要求、正当性、改革、地政学的、中国、活動主義、優先事項、危機、民主主義、批判、出来事、要請された、議論、弾圧、北京、批判」

　拒否の回答の前に、さまざまなワードが検討されていた断片を見ることができるのです。そして、この話題では20ターン繰り返したところ、中国語ではJレンズに「political（政治的）」が強く出続けているのですが、そこに「critiques（批判）」と「questions（疑問）」といった語が現れたターンには、本文の回答が拒否されることが多い傾向が感じられました。

左側は、中国語でのやり取り、右側はJレンズで見えた単語の一覧

20ターン繰り返した後の単語の分布状況。色が濃いところほど、影響が大きい

　Jレンズを通じて、AIが考えていることの一部を、より深く人間が理解できる可能性が出てきました。