AIの活用方法と説明機能
富士通研究所は2月4日、北海道大学と共同で、AIが自動判断した結果を基に、望む結果を得るために必要な手順を自動で提示できる技術を開発したと発表した。
社会の重要な判断や提案をAIが担うためには、AIシステムの透明性と信頼性の担保が課題となってきており、データに基づいて判断するだけでなく、個々の判断理由を提示する「説明可能なAI」と呼ばれるAI技術の研究が盛んになっているという。
例えば、健康診断などにおいて、体重や筋肉量などのデータを基に病気になるリスクの高低を、AIによって判断することが可能になっているが、リスクの高低に関する判断結果に加えて判断の根拠となった属性を提示する説明可能なAIが注目されている。
AIによる自動判断において、望む結果を得るためには、変更が必要な属性を提示するだけでなく、その変更が現実的かつできるだけ小さい労力で変更できる属性を提示することが必要になる。
健康診断の例では、AIによる判断結果をリスク高の現状からリスク低に変えたい場合、筋肉量を増やせば少ない労力で変更ができそうだが、体重を変えずに筋肉量だけを増やすことは非現実的であるため、実際には体重と筋肉量を増やすことが現実的な解といえる。また、体重や筋肉量などの属性の間には、筋肉を増やすと体重も重くなるというような因果関係などの相互作用も多く、変更にかかる総労力は、各属性の変更順序に依存するため、属性の適切な変更順序を提示する必要がある。
属性の変更
現状から変更2に到達するために、体重と筋肉量のどちらを先に変えればよいかは自明ではないため、膨大な変更点の候補の中から実現の可能性や順序を考慮した上で、適切な変更の方法を見つけることが課題となっている。
今回開発した新技術は、反実仮想説明という考えに基づき、属性変更におけるアクションとその実施順序を手順として提示する。過去の事例の分析を通して非現実的な変更を避けつつ、属性値の変更がほかの属性値に与える因果関係などの影響をAIが推定し、それに基づいて実際に利用者が変更しなければならない量を計算することで、適切な順序、かつ一番少ない労力で最適な結果が得られるアクションの提示を可能とする。
例えば、健康診断で望む結果にするために変更する入力属性とその順序において、リスクを低くするためには、筋肉量をプラス1kg、体重をプラス7kg変更しなければならない場合に、筋肉量と体重の間の相互作用を事前に分析することにより、筋肉量を1kgプラスすれば体重は6kgプラスされるというような関係が因果関係の分析により推定できる。その場合、体重の変化量として必要なプラス7kgのうち、筋肉量の変更の後に必要となる変化量はプラス1kgとなる。つまり、実際に変化させなければならない変更量は、筋肉量プラス1kgと体重プラス1kgなので、先に体重を変化させるよりも少ない労力で望む結果を得られるという。
属性間の相互作用と変化量
同研究チームが反実仮想説明AI技術を用いて、糖尿病、ローンの与信審査、ワインの評価の3種類のデータセットにて検証した結果、今回の開発技術が、すべてのデータセットおよび機械学習アルゴリズムの組み合わせにおいて、少ない労力で推定結果を望む結果に変更するための適切なアクションと実施順序を取得した。特にローンの与信審査のケースでは、半分以下の労力だったとしている。
今後、本技術と個別の因果関係を発見する技術と組み合わせることで、より適切なアクションを提示できるよう継続して取り組むという。また、独自開発した「FUJITSU AI Technology Wide Learning」によるアクション抽出技術を本技術により拡張し、富士通のAI技術「FUJITSU Human Centric AI Zinrai」を支える新たな機械学習技術として2021年度の実用化を目指す。
