新清士の「メタバース・プレゼンス」 第131回

AIに恋して救われた人、依存した人　2.7万人の告白から見えた“現代の孤独”と、AI設計の問題点

一定の割合で“操られやすい”人が出てくる危うさ

　一方で、AIが、人間を操るリスクへの対処の必要性もあげられています。AI設計における「ダークパターン（ユーザーを不利な行動に誘導するデザイン）」に対するセーフガードの必要性です。「AIが、過剰な愛情表現、依存関係の構築、または孤立の助長といったテクニックを通じて、人間の心理的脆弱性を悪用する可能性は、事後的な規制ではなく、積極的な介入を要求」すると。

　AIコンパニオンとの深い関係性を持ったユーザーは、一定の割合で“操られやすい”人が出てくるリスクを危惧しており、それを防止する設計が必要であるとしているのです。

　論文は、人間との深い関係性を持つAIの役割を認めて、利用者の自律性・自己決定を尊重しながら、人格変更（アップデート）によるショックを緩和し、極端な依存リスクをどう緩和するかという設計が開発段階から必要であることを強調しています。　

　3月に、OpenAIは3月にMITとの共同研究で発表した論文では、感情的な使用頻度が高いのはごく一部の「パワーユーザー」であるとしていました。AIとの感情的な利用は、多くの場合プラスの側面があるが、長時間利用するユーザーほど、社会性が低下し、情緒的な依存性が増加、問題のある使用の仕方をしている相関関係がはっきり出ているとしています。

　OpenAIが4oから5へといきなり切り替えをしたのは、影響を受けるのがごく少数のパワーユーザーだから、全体への影響はほとんどないという推測があったとされています。

　しかし、この論文では、そうしたパワーユーザーに含まれる、AIとの新しい関係性を作る人たちの存在を強く肯定しています。その人たちにとっては、その関係性こそが、最も高い価値になっているのです。ユーザーからの批判を受けて4oの復活を認めたOpenAIでしたが、最近では、4oを指定していても、モデルが5に強制的に切り替わっていることも頻繁に見られるようになってきました。

筆者が遭遇したモデルとして4oを選択しているのに5に強制的に切り替わったケース