CEDEC 2015：第1回人狼知能大会レポート

嘘を見抜ける人工知能が衝撃的すぎる

人工知能同士の戦いを見守る開発者たち

人狼は人工知能のレベルを高める

　いままで人工知能が勝負をしてきた将棋や囲碁などのゲームは「完全情報ゲーム」、与えられた情報の中から答を見つけるシンプルなもの。対戦相手と1:1のコミュニケーションで、盤上の推理と行動もきわめて厳密に規定されている。

　一方、人狼は「不完全情報ゲーム」。情報に限りがあり、プレイヤー同士で情報量に偏りがある中で真実を見抜く必要がある。さらに「人狼」側になったときは、事実にもとづいた推理で誤った結論に相手を導かなければならない。

　他者を理解し、不完全な情報をもとに正しく推理する。あえて味方を「追放」したり、自分たちを最終的に有利な方向に導くため、あらゆる行動を考える。

　ここで研究者たちが倫理的な課題として抱えているのは「人工知能に嘘をつかせてもいいのだろうか」という戸惑いだ。

　SF作家アイザック・アシモフが提唱したロボット工学三原則には『人間を傷つけてはいけない』という項がある。たとえば、事実を誤解させて人間を説得し、自分を信用させる人工知能があってもいいのだろうか。

　松原会長は、知的生物にとって嘘は必要な知能だと考えている。

「知能というのはうまく嘘をつくことをかなり含んでいます。人間だけでなく類人猿も、自分だけバナナを与えられ、仲間が来たとき知らないふりをする。つまり嘘をつくことがあるんですね。嘘は生きていくための高度な知能なんです」

　人間のコミュニケーションはささいな嘘の積み重ねでもある。

　料理を「おいしい？」と聞かれてうなずく。場を盛り上げる芸がありがちであっても「すごいね」と喜んでみせる。そこで正直に「平均以下です」「つまらないです」などと返したら、それが事実でもコミュニケーションは崩壊する。嘘とは小さな思いやりで、幸せになるために嘘が必要という考えもありうる。

　一方、同じ嘘が悪用されると、おそろしい悪夢が待っている。