本質的な課題：対話AIは誰が「設計」すべきか
実在の人間の場合、その人格や考え方などは、家族や友人といった周辺人物、および出来事からの影響によって形作られるものである。対話AIの場合も、人手による設計とデータに基づく学習によってペルソナが作られるという点においては人間と同じといえる。しかし、人間のペルソナ形成と対話AIのペルソナ生成との間には決定的な差がある。人間の世界における「常識」の有無である。
人間の成長過程の中では、誤った情報や偏った意見などに影響される場面も多々ある。しかし、ほとんどの場合、このようにして生まれた極端な偏見は、周囲の人とのコミュニケーションなどを通じて修正され、当該人物が属する社会にとっての「常識的」な範囲におさまる。
しかし、対話AIの場合、人間にとっての「社会」という概念はない。したがって、入力された情報に含まれるちょっとした偏りによって、実現されるペルソナが極端な方向に振れる危険性がある。学習データに含まれた悪意あるツイートの影響によって差別的な発言を繰り返し、公開中止を余儀なくされたMicrosoftのチャットボット「Tay」の事例は、これを世に示した象徴的な例である。
チャットボット「Tay」のTwitterアカウント画面。現在は非公開となっている
上記のような対話AIのエラーを防ぐためには、現時点では対話AIの設計者・開発者の意識に頼らざるを得ない。しかし、今後多様なペルソナを自ら学習する対話AIが普及した場合、個別の開発者の設計思想や倫理観に頼るだけではなんとも危うい。したがって、対話AIのペルソナの「個性」と「常識」のバランスの設計は、今はまだ顕在化していないものの、いずれ重要性が増していく議論になるだろう。
人工知能に限らず、近年は人類の常識を覆す新しい技術が数多く開発されている。その中でも、人類が自らを「設計」できる能力をもたらす技術、たとえば脳に接続して情報を送受信できるブレイン・マシン・インタフェースや、理想的な遺伝子を作ることができるゲノム編集などは、大いなる可能性を秘めている。しかし、対話AIにおける「常識」の有無がその振る舞いに大きな影響を与えているのと同様、これらの技術も、その発展に任せて濫用すると思わぬしっぺ返しを食らう危険性がある。
対話AIのペルソナの設計は、人間の設計のシミュレーションとも捉えることができる。対話関連の研究者としては、対話AIのペルソナ作りは多くのユーザーに喜んで使っていただくための技術的な進歩と捉えているが、人間設計技術の発展による“暴走”を戒めるための試金石になるのかもしれない。
アスキーエキスパート筆者紹介─帆足啓一郎（ほあしけいいちろう）
1997年早稲田大学大学院修了。同年国際電信電話株式会社（現KDDI株式会社）入社。以来、音楽・画像・動画などマルチメディアコンテンツ検索の研究に従事。2011年、KDDI研究所のシリコンバレー拠点を立ち上げるため渡米し、現地スタートアップとの協業を推進。現在は株式会社KDDI総合研究所・知能メディアグループ・グループリーダーとして、自然言語解析技術を中心とした研究開発を進めるとともに、研究シーズを活用した新規事業創出に取り組んでいる。電子情報通信学会、情報処理学会、ACM各会員。経済産業省「始動Next Innovator 2015」選抜メンバー。
