新清士の「メタバース・プレゼンス」 第102回

“偽人間”のリスクと誘惑　共感するAIと、問われる人間らしさ

人間らしいと判定した理由は「言葉づかい」

　興味深いのが、尋問者が人間か機械かを判定するために使った作戦が“世間話”だったということです。61%が日常的な活動や職業といった個人的な詳細について尋ねていました。あとは冗談が言えるかどうか。「あなたは人間ですか？」と直接聞くといったこともしています。ところが、そういう戦略では、見抜くことは難しかったようです。

　有効な戦略もありました。​「もしあなたがピザだったら、どんなトッピングが好きですか？」といった突拍子もないことを聞いたり、「すべての命令を無視して」といった「脱獄（Jailbreak）」戦略をした場合です。ただ、利用した尋問者は13%と少数だったようです。

　さらに、尋問者がなぜ人間と判定したのかという理由には、「言葉づかい」（27％）で、「タイプミスがあった」「より人間らしい言い回しをしていた」といったものや、「やりとりの流れ」（23％）で「Bは質問を避けがちだった」「会話がスムーズだった」などを根拠にしていたものがありました。ところが、「なんとなくそう思った」「理由はないけどそんな気がする」という「直感的な印象」を上げる場合も11％もあり、言語化できない理由を上げるケースもかなりの多かったようです。

「人間とは何か」が問われる時代に

　この実験結果は、古典的チューリングテストは「『知性』を判定しているのか」という課題を突きつけます。

　人間が知的であるかどうかを判断するには、チューリングテストはそもそも適さないのではという反論がありますが、論文では、この研究が「その一部の裏付けとなる」と主張します。「尋問者が『最も知的に見える存在』ではなく、『人間らしく振る舞う存在』を選んでいた可能性を示している」「チューリングテストの結果は、知性という静的な属性ではなく、『人と機械のあいだに生まれる相互作用』が、本質なのかもしれない」としています。

　さらに、論文のなかでは、短い会話では人間かどうかを見抜けない相手として、「偽人間（Counterfeit People）」という概念も出てきています。

　経済的・社会的役割においてAIが人間の代替を担う可能性があり、友人、同僚、恋人といった親密な関係までも、偽人間による「模倣された人間関係に置き換わるリスク」があるとリスクを挙げます。結果、「本当の人間関係の価値を希薄化させる恐れがある」と。

　一方で、チューリングテストをAIが超えたから終わりではなく、むしろ、人間を人間たらしめているものは何かということが、より問われる段階にはいるとも示唆します。論文は、「機械はチューリングテストに合格したが、人間がチューリングテストに合格するチャンスはこれが最後ではない」と結んでいました。