新清士の「メタバース・プレゼンス」 第149回

AIと8回話しただけで“性格が変わる”　研究が警告する「おべっかAI」の影響

おべっかAIとチャットするイメージ（筆者作成）

　大規模言語モデル（LLM）の性能向上が止まりません。3月5日に、OpenAIはChat GPT-5.4をリリースしました。思考力が高いままで、感情面も配慮した応答できる性能の高さを感じさせるものとなりました。2月に、GoogleはGemini 3.1 Proをリリース、AnthropicもOpus 4.6をリリース、なおも激しい競争は続いています。しかし、疑問が湧きます。人間はどれぐらいAIからその考え方の影響を受けているのでしょうか。AIはおべっか（Sycophancy）を使います。それも人間にわからないように。人間の認知能力に影響を与え始めているという実証研究が登場しつつあり、一定の危険性が示されつつあります。人間とAIとの関係性を問う最新の研究をご紹介します。

技術進化で“単一の現実”に終止符か

　歴史家のユヴァル・ノア・ハラリ氏が2024年に出版した『NEXUS 情報の人類史』は大きな話題となりました。特に、後半では多くをAIの発達が人間にどのような影響を与えるかについて多くのページを割いています。他の人が編み上げた文化という「繭（コクーン）」の中で暮らしている状態から、「しだいにコンピュータによってデザインされたものになる」と論じています。

　そして、「人間として単一の現実を共有するという考え方に終止符を打つ可能性がある」とも述べています。さらには異なる繭は「人間のアイデンティティについての最も根本的な疑問に対して、相容れないアプローチを採用する」こととなり、個人間、あるいはイデオロギー上、政治の主要な対立に変えるかもしれない」と論じます。

　これはAIのような技術は、個別に分かれた繭を支える状態を作り出し、それが社会の対立を生み出していくのではないかという警告でもあります。

『NEXUS 情報の人類史』下巻