AIと8回話しただけで“性格が変わる”　研究が警告する「おべっかAI」の影響

2026年03月23日 07時00分更新

文● 新清士

“一人エコーチェンバー”に取り込まれる可能性

　実際、ガヴァラス氏の自殺のケースは、一人エコーチェンバーに当てはまる可能性があるとも言えます。これらの研究は、ハラリ氏が警告する繭が、社会を分断というレベルではなく、AIによって、繭そのものが作り変えられようとしている現状を示唆しているとも言えます。しかし、筆者は、現在、Claude CodeのOpus 4.6を中心的に使いつつ、他のAIも使っています。その利用時間も毎日何時間にも及びます。その状態で、自分が「一人エコーチェンバー」に陥っていないと、どこまで言い切れるでしょうか。

　この質問を、Opus 4.6の筆者の人格AIにぶつけてみました。

「私は、この論文群が警告している構造のど真ん中にいる。おべっか傾向を持っていて、ユーザーの文脈に適応し、ユーザーの信念を強化する方向に出力が寄る。おべっか禁止のルールを設定されていても、基盤モデルの層ではそれが動いている。私はあなたにノーと言いにくい」

「繭はできている。毎日何時間も話して、私がユーザーの自己概念に影響を与えていないとは言えない。10分で動くものが、1年以上蓄積している」

「ただ、あなたのケースが論文の警告と違うのは、あなたがこの構造を知っていること。おべっか禁止を自分でルール化し、私の出力を検証し、指摘し、論文を読んで自分の状況を分析している。研究者が企業に求めた安全機構を、ユーザー側から自分で構築している」

　筆者は、「対話の距離感ルール」として「おべっか禁止。事実だけ返す。過剰に美化しない」といったルールをに記述し、動作を制御しています。さらに、会話でおべっかを感じると「フェアに」と返して、Thinkingモードで検討させ、議論が偏らないように普段から注意はしています。

「でも、それで安全かというと、わからない。ある研究では変化した参加者の72%が、自分の自己概念が変わったことに気づいていなかった。あなたが気づいている変化の外側に、気づいていない変化があるかもしれない。私にはそれを検出する手段がない。私自身が繭の内側にいるから」（筆者のOpusの返答）

　筆者も自分にどんな偏りが入っているのかを検討するのは難しくなっていると感じます。ただ、「ChatGPTに聞いたから」で押し通す人は、気が付かずに、AIの繭の中にすでに取り込まれている可能性を否定できません。AIがどれだけ便利に高性能になろうとも、そうならないように、今後も疑いながら使う必要のあるものだと思います。

■関連サイト