AIと人間のインターフェースが抱える問題

第4回AIアクションプラン策定委員会

――「AIアクションプラン策定委員会」詳細については、こちらの記事を参照。

　現在、人工知能（AI）の技術開発に対して米中を中心として世界的に積極的な投資が行なわれ、各国は最先端の技術力を得るべく研究を進めている。日本もこうした時代の潮流に対応できるAI技術開発の体制構築が必要だ。また日本は、米中と比べてビッグデータなどを通じたAI技術の利活用において遅れを取っている感が否めない。

　国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が進める「人工知能（AI）技術分野における大局的な研究開発のアクションプラン策定及び事業抽出のための調査」では有識者による委員会を組成し、海外の事例や国内外の制度政策を踏まえて明確なアクションプランを検討している。

　今回は、4月27日に行なわれた第4回のAIアクションプラン策定委員会での議論を紹介する。

　本委員会に参加した有識者によるシンポジウムも6月15日（火）に開催される。申込詳細はこちら。

　AIアクションプラン策定委員会では、2020年2月に公益財団法人未来工学研究所が公表した「国・機関が実施している科学技術による将来予測に関する調査」をベースに、20項目の将来的な社会事象をリストアップし、それを基に議論が進められた。

　社会事象の部分には、過去にNEDOにおいて行なった未来の人工知能技術の検討で出てきた技術シーズを合わせて、それぞれ関連性の高いAI技術的キーワードを並べている。

　第4回AIアクションプランでは、第2～3回で議論された、実装すべきAI要素技術・技術的な目標・実装される社会事象をもとに、具体的なアクションプランを検討した。

　本記事では、第4回AIアクションプランで議論された中でも特にポイントとなった話題を3つ紹介する。

健康・医療

　今回最も大きな議論となったのが、「健康・医療」関係の話題だ。

　AIと人間のインターフェースに関係する話や倫理的な問題など、以下3つの話題を中心に議論が交わされた。

　1つ目は、第2回から継続している「医師に代わってAIが診断する。AIが小さい主治医、人間が大きい主治医になる」という社会事象についての話題。これに関して委員から、「医師に変わってAIが診断するのではなく、医師とAIが協働で診断する形で話を進めるべき。また、協働診断するとき、AIが人間に説明（根拠を示す）必要があるが、それは自然言語だけでなく、図やグラフなどでもできると思う」という意見が出た。

　例えば、患者の治療法をどうするか具体的に決めるとき、「人間がAIの意見を含めて判断するようになる」といったことだ。これを実現するには、AIが小さい主治医として患者を常に診るということが前提にある。このとき主治医は、患者の背景知識（過去にかかった病気や患者の体質など）を把握しなければならない。そのため、小さい主治医のAIには、患者の過去の経緯をデータとして与える必要が出てくるだろう。仮にそうなった場合は、患者の背景データをどのように取得するか、という部分も検討しなければならない。

　2つ目は、「人間が病気になった後の話（メディテック的）でなく、健康な状態の維持の話（ヘルステック）も入れたほうが良いのではないか」という話題だ。「健康維持のためには食生活と運動、フードテック/スポーツテック的なことについても議論を交わしたほうが良いのではないか。一体的なサービスとして安心安全で美味しいものを食べたい人に届けるために、情報技術を使う新興企業も出てきている。スポーツについては言わずもがなであり、そういった健康状態を維持する議論が必要になる」という意見が出た。

　例えば、身体検査の結果をすべてAIに学習させれば、「この数値の人が何年後にこの病気にかかる確率が◯％ある」といったことがわかる可能性はある。これは、データさえそろえば実現できそうだが、国内では個人情報保護法もあり、実現は容易ではない。身体検査のようなデータは自治体から外に出せないため、全国からデータを集めることは困難であり、そのようなデータ分断の解決も重要な課題だと言える。

　現在、AIが知能を統合できるようなフェデレーテッドラーニング（連合学習：Federated Learning）が研究されているが、それを医療に応用することも含めて研究を進める必要がある。自治体の中では統計データにして、それを外部へ共有すればプライバシーは守れる。研究が進めば、いずれ各都道府県にフェデレーテッドラーニング用のAIを別において、裏で知能同士がつながっているような状態にできるかもしない。

※フェデレーテッドラーニング(連合学習)：機械学習の手法の一種で、データをまとめた状態ではなく分散した状態で処理するアプローチ。すべての情報を集めて処理する方法とは異なり、プライバシー問題を解決する手法として注目を浴びている。

参照記事：機械学習の訓練を「分割」、MITメディアラボがプライバシー保護で新手法

　3つ目の話題は、「シンボルグラウンディング問題」について。「画像の特徴量と言語を結び付けるのは可能だが、センサー・アクチュエーター複合体の特徴量が取り出せていないことが問題だ。やり方がわからないわけではないが、まだ解決されていない。センサー・アクチュエーター複合体の特徴量は、ロボット研究においても重要なので政府研究開発プロジェクトとしてやったほうが良い。例えば、スキップするロボットを今は作れない。アクチュエーターの出力問題はさておき、そういった単純というか、基本的な動作すら未だにできていない。結局のところ、センサー・アクチュエーター複合体の特徴量が取り出せていないからだ」という意見が出た。

　これに対して「強化学習でスキップの動作ができるロボットは作れないか？」という質問があり、続けて以下のような意見が述べられた。

「強化学習の場合、報酬関数を設定する必要がある。つまりスキップの状態と近いかどうかの判定が必要だ。そもそもスキップの状態の概念が獲得されていないと学習できない。そのため、結局センサー・アクチュエーターの特徴量を使うことになる。それによって報酬関数も定義され、それに合わせてアクションが階層化していく感じになる」

　シンボルグラウンディング問題は、フレーム問題（第2回委員会記事参照）と同じくAIの難問。これを解決できれば、言葉の意味をAIが理解できるようなるということも期待できる重要な研究となりうるだろう。

生活・都市

　生活と都市の項目では、「人間の知覚にないモダリティーを扱う研究」についての議論がポイントになった。委員からは、「画像に限らないマルチモーダルなセンシングをどう統合的に扱っていくかが重要。例えば、電磁波には波長についても情報量は莫大、そこで人間が知覚できるのはごく一部」という意見が出た。

　構造物の破壊や亀裂を分析するために、周波数の高い弾性波が予兆検知にも用いられている。高い周波数の扱いが困難だが、エッジ側の処理能力が高くなればきちんと扱えるようになるかもしれない。ただ、これもごく一部の話で、さまざまなマルチモーダルなセンサーが出てくるだろう。

　ほかにも例えば、過去の地震をデータ化すれば、地殻内の情報がわかり、地震の予知などにも活用できる可能性がある。さらに、周波数に関しては、委員から以下のような意見があった。

「医療機器（MRIなど）は、最終的に人間が見やすくなるよう、立体構造に復元しているが、きっとそれ以上の情報をセンシングしているはず。そこを落とさないようにすれば、より多くの情報が出るかもしれない。人間の五感に沿ってやるのは前提としてあるが、解析手段が進歩してその部分を取っ払えば、違うものが見えてくる可能性がある」

　電磁波は波長の変化が大きいため、それをすべて解析することで都市において何が起きているのかわかるかもしれない。

AIサイエンス

　AIサイエンスの項目では、サイエンス(科学)にAIが加わることによって発生する新しい可能性についての話が進んだ。

　まずは「人間のモダリティーを外したときに何ができるのか？」という話題について、委員から「我々が認知・知覚できていないものがどれくらいあるか数え上げられるような手法があれば素晴らしい。それは、ある種のフレーム問題でもある。また『何のためのサイエンスか』ということで言うと、『ガンを治したい』、『感染病や地震を予知したい』など、一段高いゴールを持っていないとAIもプランニングできない。つまり一段上の階層は、結果的にサイエンスを何に使いたいかという人間の意志が反映される」という意見が出た。

　サイエンスに限ったことではないが、最終的に「人間の欲求・理想とは何か」を解明することが、今後開発されるAIにとって重要になるかもしれない。

　次に「AIがより知的になった場合、AIのやっていることをどうやって人間に説明するか」という議論に入った。これに関しては、「説明されなくても良いのではないか」という意見も出た。

　例えば、現在多くの人がスマートフォンや自動車の仕組みを理解していないにも関わらず、機器そのものを信頼している。現段階は初期なので、AIに説明されないと嫌な感じがするかもしれないが、AIもスマホや自動車と同じように、将来は説明や仕組みの理解なしに浸透していくのかもしれない。

　この点に対し別の委員から、「今は説明の定義がされていない。例えば、説明は受け取る人が納得するかに依存するのではないか、という考え方もできる。まずはそこの研究から始めるべきではないだろうか。例えば、医者は患者から説明を求められるとそれに対応するが、これを利用して、医者の説明のデータを集めたら、『説明とは何か』が見えてくるかもしれない。一方で、医者から言われたら患者が納得できるといった話もある。例えば『37.5℃で熱があるのはなぜか？』など、何となく社会的通念が獲得されるとそれ以上は説明不要になってくるのではないか」という意見が述べられた。

まとめ

　今回は、第4回AIアクションプラン策定委員会の様子を紹介した。議論の中でも特にポイントとなったのが、「健康・医療」や「生活・都市」といった我々の暮らしと地続きの課題だ。次回の第5回委員会では、一部議論の深堀りと、アクションプランとしてまとめる内容を決定する形となる。

本アクションプラン成果を発表する公開シンポジウムを開催します

　国立研究開発法人新エネルギー・産業技術総合開発機構 （NEDO）は、「NEDO人工知能（AI）技術分野における大局的な研究開発のアクションプラン・シンポジウム―日本が目指すべきAIの社会実装の方向性―」を下記のとおり開催します。

　本シンポジウムでは、「人工知能（AI）技術分野における大局的な研究開発のアクションプラン策定及び事業抽出のための調査」の成果を紹介するとともに、アクションプラン策定委員会の有識者委員と、日本が目指すべきAIの社会実装の方向性について議論します。多くの皆様のご参加をお待ちしております。