AIと「Ethics」～「正しい」AIの作り方とは？～
昨年から今年にかけ、EUでのGDPRの施行や、FacebookのCambridge Analyticsスキャンダルなど、巨大化しすぎたIT企業への社会的反発が発生している。今回のSXSWでEthicsがバズワードになっていたのは、巨大IT企業が急速に発展させているテクノロジーをどのように制御していくべきかという議論の必要性が一気に高まったからである。
“Dear Gov’t Regulate Us! Sincerely, AI Industry”
カナダ・モントリオールのAI関連スタートアップ、Element AI社の創業者 Jean-Francois Gagne氏による講演。AIの開発と実用化について、政府レベルでの規制の必要性を訴えるという、AIを中心としたビジネスを展開するスタートアップによる講演としては意外に思えるテーマである。
図2：AIの規制の必要性について語るElement AIのJean-Francois Gagne氏
AIの研究開発に関連する倫理や法整備を含むガイドラインは、以前、本連載の記事（参照：「AI暴走ニュースの先にある人工知能社会のあるべき姿」）で紹介した通り、各国の政府、学会、およびAI関連企業の有志連合などによって策定・公開されている。
本講演では、これらの取り組みに対し「実効性のないもの」と断定。その理由として、AIを構成する個別の要素（例：データ、アルゴリズム、設計、アプリ）をそれぞれ規制するだけでは実用の場面に対応できないことと、現状公開されている「ガイドライン」には法的拘束力がなく、責任の所在が不明確であるなどといった課題をあげた。
その上で、AIを世の中に安全な形で普及させるためには、政府による認証制などの規制が必要との主張を展開。新薬を市場に出すまでの審査や、運転免許を発行する際のライセンス手続きなど、既存のシステムをアナロジーとして示した。
たとえば、AIの有望な活用事例として期待されている自動運転については、AIに求められる基準（100％事故を起こさないという暗黙の期待）が、人間に対する運転免許発行のプロセスと比較してあまりにも不利であると指摘。人間でいうところの路上試験に相当するようなシステムを作り、管轄する役所が認可するような仕組みの導入が、AIの普及につながるという主張を行なった。AI活用の最前線にいる立場からの説明は説得力が高く、多くの聴衆もうなずきながら耳を傾けていた。
“How AI Will Design the Human Future”
こちらは大学の教授、スタートアップ創業者、そしてWall Street Journalのジャーナリストという、バラエティに富んだパネリストによるディスカッション。テーマは、AIを前提とした人類・社会の設計。AIがもたらす大変革に対し、社会がどのように対応すべきか？ という、重い議論が交わされた。
図3：“How AI Will Design the Human Future” セッションの様子
特に筆者が印象に残ったのは、AIを導入する際に技術者が意識すべき心がけに関するものだった。導入時には、利点を示すだけではスムーズに受け入れられることは少なく、並行してAIに対する信頼感や受容性をも同時に高めておく必要がある……という趣旨の議論である。
筆者のような研究者・技術者は、技術を高めることが正しいという発想で実用化を進めがちである。しかし、特にAIのようなとらえどころがない（と思われがちな）テクノロジーについては、導入するための土壌を作ることが、技術の完成度を高めることと同じくらい重要であるという意見にはハッとさせられた。AI関連プロジェクトを進めるために、社内の調整がハードルになっているという話は頻繁に聞くが、導入される現場での抵抗は技術的な問題ではなく、たとえば導入後の仕事に対する不安などの別要素に起因しているのかもしれないのである。
また、AIが本格的に社会に浸透するまでに発生する課題に対し、社会システムの再設計が必要という議論にも深く同意した。AIによって、短期的に仕事を奪われる人間を「弱者」として切り捨てるのではなく、救済するための支援策（ユニバーサル・ベーシックインカムなど富の再分配制度、教育システムの改革など）を整備しないと、AIによる改革が遅れてしまうという課題提起はごもっともである。
