AI暴走ニュースの先にある人工知能社会のあるべき姿

　近年の急速な人工知能関連技術の発展、および多様なビジネス領域への活用の進展にともない、人工知能が社会や人類に与える影響に対する懸念が強まっている。こうした背景から、昨年から今年にかけて人工知能と社会との関連性や倫理に関する報告書が複数公開されており、国内外でにわかに議論が活発になっている。そこで、今回の記事ではこれらの動向を紹介するとともに、人工知能を健全に発展させるために我々が持つべき意識についての考えを示す。

人工知能の脅威が現実に？

　フェイスブックが開発を進めている人工知能関連技術について、以下のような話題が少し前（2017年8月）にウェブメディアをにぎわした：

「終わりの始まり…？ 独自言語で話しはじめた人工知能、Facebookが強制終了させる」（GIZMODO）
「独自の言語使用法に行き着いたAI」は人類を危機にさらすものなのか？」（Gigazine）
「フェイスブックの人工知能「暴走」　人間に理解不能な言語で勝手に会話」（J-CAST）

など、この話題について（あえて）上記の記事の見出しを前提として要約すると：

• Facebookで独自に開発した2つのチャットボット（「ボブ」と「アリス」）を会話させる実験を行なった
• その実験が進むにつれ、「ボブ」と「アリス」が独自の言語を生み出し、人間には理解不能な言葉で会話をし始めた
• この予想外の挙動を恐れたFacebookの研究者チームは、暴走を防ぐためにチャットボットを強制終了させた

……といった内容である。実際、この話題は欧米のウェブメディアのみならず、タブロイド紙も含めてセンセーショナルに報道されるなど、人工知能の脅威論を強く押し出す内容で、国内外で大きく取り上げられた。

　ところが、本件の実態はこれらの報道から受ける印象とは大きく異なる。

　後日、フェイスブックの人工知能研究所（Facebook Artificial Intelligence Research, FAIR）のブログで公開された解説の通り、ここで行なわれた実験はチャットボットが対話によって「交渉」ができるかという、基礎的な研究に関するものである。

　この研究では、囲碁ソフトのAlphaGoでも使われた「強化学習」というアルゴリズムを応用し、交渉の成立を報酬として定義したモデルを元に繰り返し交渉のシミュレーションを行なうことにより、自律的な会話によって交渉ができるチャットボットを実現している。

　前述した報道は、この研究を進める過程で行なわれた実験の途中経過を取り上げたものである。具体的には、強化学習を構築するために設計した報酬モデルに「人間にとってのわかりやすさ」という要素が組み込まれていなかったことが原因で、チャットボット同士が意味不明な言葉をしゃべり合うことになったという実験結果が出たという事実にすぎない。Facebookの研究チームは、おそらくこの現象から「人間にとってのわかりやすさ」の要素が重要であることを認識し、この実験における学習処理を停止させただけと思われる。（参考記事：“No, Facebook Did Not Panic and Shut Down an AI Program That Was Getting Dangerously Smart”）

　このように、研究の過程では当たり前に行なわれる試行錯誤の結果がことさらに大きな反響を生んだのは、人工知能が人間の想像を越える挙動を示したこと対する驚きを、各メディアが面白おかしく取り上げたことが要因である。ちなみに、前述のFAIRのブログの記事では、その後の実験にて、「人間にとってのわかりやすさ」をモデルに取り込むことにより、最終的には人間にも理解できる言葉で交渉するチャットボットが実現できたという成果が報告されているが、この成果の認知度はかなり低いと思われる。

人工知能×社会・倫理・法の議論の盛り上がり

　上記のような虚偽に近い報道が拡散される背景のひとつは、人工知能関連技術の急速な発展が人類や社会にもたらす影響の大きさに対する漠然とした不安である。これらの不安は、技術的な観点から見ると（現時点では）非現実的なものが多い。その一方、人工知能の能力が人間を越える「シンギュラリティ」の到来は否定しきれず、イーロン・マスクやスティーヴン・ホーキングなどの有識者が人工知能の過度な研究開発に警鐘を鳴らしているのは周知の通りである。

　こうした背景から、人工知能関連技術が社会にもたらす影響、および人工知能の研究開発に関連する倫理や法整備に関する議論が活発になってきている。下記の表1に示す通り、昨年の後半以降、学術界のみならず、米国ホワイトハウスや欧州議会など政府レベルの機関から人工知能の発展に関連する報告書が立て続けに発行されている。

表1．国内外の機関から発行されている人工知能関連の報告書一覧（情報提供：東京大学・特任講師・江間有沙氏）

　上記の報告書の多くは、国際的なコミュニティーでの議論を通して作られており、今後の人工知能関連技術の研究開発に大きな影響をもたらす可能性がある。現時点まで、これらの議論の多くは有識者・研究者を中心としたコミュニティーの中で行なわれているが、”AI Initiative” など、報告書の公開をきっかけとしたオープンな議論の場も生まれてきている。（参考情報：人工知能学会倫理委員会ウェブサイト「”AI Initiative”でのオンライン市民対話について」）

　ただし、日本国内に目を向けると、これらの議論への参加は限定的である。

　たとえば、表1の「Asilomar AI Principles」は2017年1月に米国で開催された会議での議論の内容が取りまとめられた報告書だが、この会議に招かれた日本人は1名（東京大学・松尾豊 准教授）のみである。また、公開された報告書に名前を連ねている日本人も数名しかいない。総務省の報告書など、国内の有識者による議論をまとめた報告書はいくつか公開されており、実は国際的な議論の場でも頻繁に提言を行なっているが、グローバルに発信されているほかの報告書と比較すると認知度は低い。

市民レベルの人工知能議論の始まり？

　こうした背景の中、人工知能が社会に与える影響に対する関心を高め、多様な議論を始めようという趣旨のワークショップが、9月16日に日本科学未来館にて開催された。

「人工知能社会のあるべき姿を求めて」
－人工知能・ロボットについて語る参加型対話イベント－

　本ワークショップは、人工知能に関する事前知識は必須要件とせず、人工知能についての意見などを共有したいあらゆる人に参加の門戸が開かれていた。人工知能学会、日本ロボット学会、応用哲学会など複数の学会が共催しており、話題提供者として、人工知能関連技術を中心とした情報系の研究者は無論のこと、法律や哲学の専門家から、医師・弁護士・囲碁棋士など、幅広い経歴の方々が参加。新しい試みとして大変興味深かったため、筆者も一般参加者の1人として参加した。

　当日の議論は、話題提供者1名、ファシリテーター1名を含む5～6名から構成されるグループ内の討議形式で行なわれた。各セッションでは、まず冒頭に話題提供者から各グループのテーマに関する数分間の説明が行なわれる。その後、参加者がそのテーマについて感じたことを、顔表情のイラストとともに紙に書き出す「エモーションマップ」を作成（写真1参照）。このエモーションマップをグループ内で共有しながら意見を交わす形で議論を行った。1セッションあたりの時間は40分程度で、毎回テーマとメンバーを変えながら合計3回実施された。

写真1

　写真1：筆者が実際に作成したエモーションマップ。議論のテーマ（中央の「人工知能とドローン」）に対する率直な感想を顔表情のイラストともに書き出した後、グループ討論が行なわれた。なお、エモーションマップを作るために必要な顔表情の描き方については、グループ討議が始まる前にファシリテーターから簡単なレクチャーがあった。

　筆者が参加したセッションの議論のテーマは「人工知能とドローン」「人工知能と軍事」「人工知能と医療」の3つ。

　これらのテーマのうち、筆者にとっては「人工知能と軍事」のセッションが最も印象深かった。このセッションでは、話題提供者から軍事目的の研究について、日本における軍事的な研究の現状や、軍事目的で作られる人工知能が近未来の戦争に対して与える影響に関する議題が提起された。

　一般の参加者からは軍事目的の研究（たとえば人工知能が制御する兵器作り）に対する懸念が強く示された。また、自動制御の兵器が誤って一般市民を殺害してしまった場合にその責任は問えるのか、軍の命令指揮官など特定の人間が責任を取れるような形で人工知能を設計・実装することができるのかなど、多岐にわたる意見が交わされた。このように、（筆者にとっては）身近な「人工知能」と、日々の生活の中で考えることがほぼない「軍事」などの話題をかけ合わせた議論は、短時間でありながら多くの気づきが得られるものだった。

　本ワークショップのラップアップとして、当日の議論であがった意見や話題などについて、参加者間で振り返る総括的な議論が行なわれた。この議論の様子はグラフィックレコーディングによる即興のイラストでまとめられた（下記写真2参照）。

写真2

　写真2：グラフィックレコーディングによる議論のまとめの例。ここでは、人工知能に対し自身のデータを預けることへの懸念、人類と人工知能の共存のあるべき姿などに関する議論が描かれている。

　この総括によって、人工知能に関して多くの人が感じている課題や考えなど、難しくなりがちな議論の要旨がわかりやすい形で参加者全員に共有された。ワークショップ後の懇親会でも、イラストの前で参加者による議論が交わされるなど、筆者をはじめとして多くの参加者にさまざまなことを考えさせるきっかけになったと思えるイベントだった。なお、本イベントで行なわれた議論については現在報告書を作成中であり、まとまり次第、学会誌「科学技術社会論研究」に掲載予定とのことである。

異分野ディスカッションの必要性

　個別の議論の内容に言及するといくら紙面があっても足りないので、ここでは本イベントへの参加を通じた所感をいくつか共有する。

　筆者がまず感じたのは、人工知能を社会として受け入れるための具体的な議論が想像以上に進んでいるという点である。

　IEEEが公開した報告書などは筆者も目を通しており、提起されている課題については大まかには理解していた。しかし、人工知能が社会に浸透していくことを想定した法整備（たとえば、ロボットを対象とした課税、刑罰など）や、人工知能に与えられるべき権利や義務について、法律家や哲学者などが具体的な議論を通じた提言を示していたことはまったく把握していなかった。こうした動向を知ることができただけでも十分に参加の意義はあった。人工知能のような、あらゆる領域に影響を与えうる技術を健全に発展させるためには、筆者自身も日頃の専門領域を飛び越える必要があることを改めて実感した。

　また、一般参加者の方々との議論を通じて、人工知能に関する興味・関心が急速に高まっているということも強く感じた。筆者の周囲は研究者が多く、議論の内容も必然的に最新技術動向などに偏りがちである。これに対し、本イベントでは人工知能全般の動向をわかりやすく世間に伝える役割の記者や、自分の将来の仕事が人工知能に奪われることを真剣に危惧している学生など、興味・関心がバラバラの人が参加しており、それぞれの立場からの人工知能のイメージが異なることを確認できた。技術的な観点からは誤解も含む意見もあったため、筆者から補足説明する場面も少なからずあったが、人工知能に対する正しい理解を浸透させるためには、異分野の人が集まって対話する場は意義深く、同様の機会があれば引き続き参加したいと感じた。

多様性の高い人工知能を実現するためには何が必要か？

　今急速に開発が進められているデータドリブンな人工知能においては、データをより多く集めた「強者」が主導権を握っている。そして、今まさに活性化している人工知能が社会に与える影響についての議論も、現状ではこの領域における「強者」が主導している。「強者」による人工知能の最適化が進むほど、その「強者」が作り出す人工知能が全世界のデファクトスタンダードとなりえる。

　本記事の冒頭に、日本での人工知能に関する議論がまだ発展途上であり、一般的な認知度が低いという現状を紹介した。また、技術的にも米国などの後塵を拝していることは周知の通りである。こうした現状は、人工知能の技術開発における主導権が米国・中国などに取られてしまうという点において憂慮すべき事態と捉えられがちである。しかし、技術的な主導権を取ることよりも本質的な課題は、強者たり得ない国家・社会・人種・組織にもメリットをもたらす人工知能の実現ではないだろうか。

　多種多様な人間・社会の価値を尊重し、有用性の高い人工知能を実現することは、全世界共通の重要な課題である。その実現をより確実なものにするためには、将来あるべき人工知能の姿を人間自身が設計することが必要であり、そのためには多様な意見のインプットが不可欠である。今回参加したワークショップのような議論の場は今後も増えていくと思われる。専門家・非専門家であるかによらず、多くの人が人工知能に関する議論を自分ごととして捉え、こうした議論の場に飛び込んでみるべきであると考える。

　なお、本記事の表1で紹介した議論を進めている機関の中心メンバーも参加する大規模な人工知能関連のシンポジウム「AI and Society」が、10月に虎ノ門ヒルズで開催される。日本国内でこのようなイベントが大々的に開催されるのは、国際コミュニティーが日本からの議論への参加を強く求めている証左である。人工知能の最新技術動向に加え、人工知能と社会との関係などについての議論に参加する良い機会である。少しでも興味のある方は参加してはいかがだろう。

アスキーエキスパート筆者紹介─帆足啓一郎（ほあしけいいちろう）

1997年早稲田大学大学院修了。同年国際電信電話株式会社（現KDDI株式会社）入社。以来、音楽・画像・動画などマルチメディアコンテンツ検索の研究に従事。2011年、KDDI研究所のシリコンバレー拠点を立ち上げるため渡米し、現地スタートアップとの協業を推進。現在は株式会社KDDI総合研究所・知能メディアグループ・グループリーダーとして、自然言語解析技術を中心とした研究開発を進めるとともに、研究シーズを活用した新規事業創出に取り組んでいる。電子情報通信学会、情報処理学会、ACM各会員。経済産業省「始動Next Innovator 2015」選抜メンバー。