1回

ヘルスケア／人間機能の拡張／XR……AI技術開発が変える将来像を識者が議論

第2回策定委員会レポート

特集

NEDO AIアクションプラン

2021.05.13 08:00

文● AINOW 編集●ASCII STARTUP

AIアクションプラン策定委員会とは？

　現在、人工知能（AI）の技術開発に対して米中を中心として世界的に積極的な投資が行なわれ、各国は最先端の技術力を得るべく研究を進めている。日本もこうした時代の潮流に対応できるAI技術開発の体制構築が必要だ。また日本は、米中と比べてビッグデータなどを通じたAI技術の利活用において遅れを取っている感が否めない。

　そこで、2021年1月より国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）は、「人工知能（AI）技術分野における大局的な研究開発のアクションプラン策定及び事業抽出のための調査」を開始。同プロジェクトは2021年6月まで実施され、成果をアクションプランとして発表する予定だ。そして、本調査を推進するAIアクションプラン策定委員会が、2月から開催されている。

　AIアクションプラン策定委員会では、有識者による委員会を組成し、海外の事例や国内外の制度政策を踏まえて明確なアクションプランを検討する。

　委員会は2021年2月～2021年6月の間で全6回、以下のような流れで行なわれる。

第1回	所信挨拶、2016年の「次世代人工知能技術社会実装ビジョン」を振り返りながら自由討議
第2回～第3回	具体的にどのような技術課題、社会課題について議論するべきかを決定
第4回～第5回	第2～3回でまとめた議論すべき点（開発の方向性や社会課題など）について具体的なアクションプランを検討
第6回	第4～5回で策定したアクションプランを承認

　なお委員会は、以下の委員で構成されている。

〇中島秀之氏（札幌市立大学学長）　※委員長
〇稲見昌彦氏（東京大学先端科学技術研究センター教授）
〇牛久祥孝氏（株式会社Ridge-i 取締役 Chief Research Officer／オムロンサイニックエックス株式会社 Principal Investigator）
〇川上登福氏（株式会社経営共創基盤共同経営者マネージングディレクター）
〇松尾豊氏（東京大学教授）
〇丸山宏氏（花王株式会社エグゼクティブフェロー／東京大学人工物工学研究センター特任教授／株式会社Preferred Networks PFNフェロー）
〇村川正宏氏（産業技術総合研究所情報・人間工学領域人工知能研究センター　副研究センター長（兼務）人工知能研究戦略部　研究企画室長）

　ASCII.jpとAINOWでは、国内のAIの利活用強化に向け、AIアクションプラン策定委員会のメディアパートナーとして情報発信を行なっていく。

　以下では、2月26日に行なわれた第2回のAIアクションプラン策定委員会（人工知能技術分野における大局的な研究開発のアクションプラン策定及び事業抽出のための調査）での議論を紹介する。

第2回AIアクションプラン策定委員会の概要

　第2回AIアクションプラン策定委員会では、2020年2月に公益財団法人未来工学研究所が公表した「国・機関が実施している科学技術による将来予測に関する調査」をベースに、20項目の将来的な社会事象をリストアップし、それをもとに議論を進めた。

　社会事象の部分には、過去にNEDOにおいて行った未来の人工知能技術の検討で出てきた技術シーズを合わせて、それぞれ関連性の高いAI技術的キーワードを並べている。第1回では委員会の基本方針が議論・承認されており、第2回では並べられたキーワードについて「新たなキーワードの抽出」「将来に向けての実現性」をテーマに意見が交わされた。

　今回は、20ある社会事象の中でも特に議論のポイントとなった4項目を紹介する。

ヘルスケアによる健康期間の延長

　ヘルスケア領域では、「AIが完全に判断して人間がそれを受容するモデルで良いのか」という話題が議論の焦点となった。例えば、今後AIが画像認識で患者の異常を発見した場合、「それが何の異常なのか」「どのように治療するべきか」などの判断をすべてAIに任せるかどうかの懸念点についてだ。

　これに関して、委員から「小さい主治医（AI）が常に患者をチェックして、何か異常が起きたら大きい主治医（人間）にエスカレーションする形が良いのではないか」という意見が出た。この意見は、小さい主治医にかかるコストや時間、患者が長い時間モニタリングされることの苦痛などの問題が出るため対策が必要になる。

　また、最終的に難しいところは「どこまで独自にAIが判断するのか」ということ。例えば、患者に何かしらの異常が出たとき（アラートが出たとき）、人間に持っていくのか、システムとしてそのまま治療を行なっていくのかについては、議論すべき重要なポイントになる。

　現在、AIは省電力化や軽量化が進み、クラウドではなくエッジで処理する技術革新が進んでいるが、かかりつけの医師と専門医はエッジAIとして今後はより実装されていくことが予想される。その際、エッジ側で取得できる情報の進化とAIの技術力、一般生活の中に入り込む技術の進化が求められるだろう。

　さらに、別の委員から「エスカレーションしていった際には、カンファレンスのような形で、人間とAI（かかりつけ医）が合議制で決める形が良いのではないか」という意見が出た。「AIが患者の異常を教え、それを踏まえて患者の処置方法を医師が判断する」という発想だ。この場合、AIは医師に患者の状態を言語化して説明するのが望ましい。つまり人間と話せる技術・意見の根拠を説明する技術（自然言語理解の技術開発）が必要になるということだ。

　また、AIにこちらの要求を伝えるときに必ず出てくる「フレーム問題（※1）」も解決しなければならないが、そのためには「世界のデータをどれだけ取れているか」が鍵になる。世界モデル（※2）に関して、委員からは「世界モデルを適切にモデル化できると、言葉の意味をAIがある程度把握できるかもしれない」「人間の欲求を理解するために、世界モデルの中に人間も入れなければならない」という意見が出た。

　ヘルスケア領域では、「エスカレーションのタイミング」「自然言語処理の精度」「フレーム問題の解決（世界モデルの研究）」など、解決しなければならない問題は山積みだ。

※1 フレーム問題：AI（ロボット）に課題を実行させる際は、関係のあることだけを選び出して（フレームを設定して）取り組まなければならない。しかし人間が意識せずに当たり前のように行なっている課題でも、AI（ロボット）に対しては現実に起こりうるすべてのフレームを提示しなくてはならず、有限の能力のAI（ロボット）では対処できない。例えば自動運転でも、障害物は避ける、赤信号は止まるといったものから、ハリケーンに襲われそうになったら前進せずに対処するといった、人間が意識しないフレームまであらかじめ用意しておかなくてはならない。AIにおける重要な難問の1つ。

※2 世界モデル：環境からの限られた情報を基に、そのモデルを学習によって構築する枠組み。例えば、人間はワイングラスを床に落としたら割れるという経験からガラスのコップを落としても同様のことが発生するという学習ができ、経験を積み重ねていける。そうした積み重ねのモデルをAIが構築できれば、直接には観測できない、過去／未来・反実・観測不能な状態の挙動を把握できるようになり、目的に応じた行動選択の性能を高められる。

人間機能の拡張

　人間機能の拡張では、「AIも人間と同じように思考できるかどうか」のテーマが、議論の焦点になった。原理的な話をすると、ニューラルネットワークは人間の脳がモデル。仮に脳がモジュールから構成されるとしたら、「さまざまなモジュールを作って接続すれば、AIも人間のように思考できる」という仮説が生まれる。

　ここでは、二階建て脳や記号推論などと合わせて、議論が進んだ。二階建て脳に関して委員からは、「身体性のところはセンサー入力とデータの出力をつないで、世界モデルで予測しながらという感じだが、言語のところは任意のアルゴリズムが入り、学習べースでインストールされるため、基本的にさまざまな能力を持ちうるような感じになっている。つまり、身体性と言語の両者で話がだいぶ違うことが、混乱の原因だとわかってきた。GPTといった自己教師あり（学習）で大規模なニューラルネットワークで学習すると、さまざまなアルゴリズムが内包されているようで、これは言語の二階建て脳の部分に近づいている印象を受ける」という意見が出た。

　AIの思考を実現するには、二階建て脳の研究を進めていくことが重要になりそうだ。

　記号推論（処理）に関しては、「システム1（※3）は直感的な判断であるため、基本的に言語や記号処理はあまり関与しないが、システム2（※4）は、統計学や確率論がわかっているということを含めて、記号的な推論という風になっている。そうだとすると、システム2は記号処理、あるいは推論的なことをやっていかなければならない」という意見が出た。

※3 システム1：直感的で速い思考モードのこと。自分の意識でコントロールしている感覚は一切なく、印象をすぐに感じたり、発想や連想することが得意。一貫性や辻褄が合うことを好む。

※4 システム2：論理的で遅い思考モードのこと。普段は労力をほとんど使わない状態で待機している。論理的、統計的な思考はシステム2でないとできない。注意力を必要とし、気が散っているとうまく考えられない。

　行動経済学でよく聞く「システム1」と「システム2」だが、その2つをどのようにしてつなぐかが、今後の重要な技術課題になりそうだ。

バーチャル空間

　バーチャル空間（仮想世界）の議論について、委員は「バーチャル空間の実現は多くのニーズがある」という意見で一致した。

　例えば、

・五感のいずれかに障害がある
・人と直接会うには支障がある
・究極の引きこもり状態になりたい
・理想の自分を作りたい

　など、多くの人にとってバーチャル空間はポジティブな影響をもたらす。

　バーチャル空間の実現につながる取り組みとして、「個人の思考が含まれたようなチャットボットの開発」が挙げられた。これは実際に開発が進んでおり、将来精度が上がっていけば「バーチャル空間で勝手に誰かの思考を持つAI同士がつながって、気が合えば実際に人同士がつながる」ということが可能になるかもしれない。また、バーチャル上に鮮明な人のデータ（振る舞いなど）を残せると、バーチャル空間の幅が広がる。例えば、亡くなった人や芸能人など、現実では会えない人との触れ合いをリアルに体感できるようになるかもしれない。さらに、エネルギーがなくなった未来や、感染症が今後も続いていった場合、バーチャル空間の需要はさらに増すことが考えられる。そうなった場合、仮想空間上でさまざまなことができる技術が必要になる。

　例えば、クリエイティブな活動を仮想空間でできるようにサポートするAI技術や、人間の創造的欲求をサポートするような技術が必要になるだろう。ほかにも、「今の生活や自分をバーチャルに持っていくだけでなく、自分が望む理想の自分をバーチャル空間に作るということも需要はある」という意見があった。例えば、見た目や声などの身体的な部分や、「足が速い」「絵が描ける」などのスキル、生活空間なども自由に作ることができれば、バーチャル空間の需要はさらに増加するだろう。

社会の質・価値観の変化（コロナ前後で必要とされる技術・イノベーション）

　コロナ前後の変化に関して、まず委員から出たのは、「技術的にテレワークやオンライン〇〇などは昔からできたものだ。つまり、コロナ前後で技術が変わったのではなく、社会の価値観やニーズが変化しただけ」という意見。

　新型コロナウイルスの感染拡大により、社会変化は加速している。そこで重要になる技術として、社会の価値観の変化を定量化して可視化できる「価値観ネットワーク」が挙げられた。もし「社会の価値観ニューラルネット」があれば、そこに自分の価値観を照らし合わせるだけで、自分の価値観が社会と合っているかわかるようになる。

　現在は、投票などやマーケットリサーチなどの間接的な方法でしか価値観（社会の意見）を知る術がない。しかもこの方法は、急な変化やリアルタイムへの対応は困難。例えば、「ここだけは譲れない」という価値観ネットワークを作れば、認証なども作りやすくなるだろう。また、AIがエッジ側に入っていけば、AI間のコミュニケーションが行なわれるようになるという意見も出た。