このページの本文へ

自動運転車は誰を犠牲にすべき?究極の思考実験「トロッコ問題」とは

2019年11月13日 06時00分更新

文● ダイヤモンド編集部,土本匡孝(ダイヤモンド・オンライン

  • この記事をはてなブックマークに追加
  • 本文印刷
自動運転
Photo:PIXTA

本格的な自動運転時代が2020年にも始まるが、ルール作りや社会的コンセンサスが追い付いていない部分が少なくない。特集「トヨタ、ホンダ、日産 自動車の最終決断」(全9回)の番外編として自動運転時代の課題や考え方について、明治大学自動運転社会総合研究所やモビリティ企業への取材を基にレポートする。(ダイヤモンド編集部 土本匡孝)

緊急時のハンドル操作を
予めプログラムできるのか

 政府のロードマップ上では、2020年にも本格的な自動運転(レベル3〈条件付運転自動化〉以上)時代に突入することになっている。

 交通業界にとって天変地異なのは、操縦の主体がドライバー(人)からシステムに置き換わることだ。人は運転から解放されて車内で自由な時間を持てる。安全性も人の運転より高まるとされている。一方で法律面、倫理面の課題も見えてきた。

 学者らの間で話題沸騰中なのが、倫理上の思考実験「トロッコ(トロリー)問題」だ。究極的な人命選択の運転場面を想定し、「あらかじめシステムに対してどのような選択基準をプログラムすればよいのか」、という問題だ。

 上の概念図で説明すると、ブレーキが壊れた(あるいはブレーキをかけても間に合わない)トロッコがある。そのままAの方向に進めば3人と衝突する。一方、分岐点でBの方向に進行を切り替えれば、衝突するのは1人。さあどちらの選択が正しいのか、という思考実験だ。概念図は線路なので走行ルートは限られているが、実際の道路上では例えば急ハンドルを切って壁に激突して自損事故(被害者は運転手、乗員のみ)という選択肢もある。

 操縦主体がドライバーならば、どの判断をするにせよ、責任者は人間。一方、システムが操縦主体の自動運転下では、システムが責任者となる。システムの選択基準をあらかじめ設定することになるのは、自動車メーカーになろう。ケースごとに「社会的合意を得られる判断をあらかじめ考えておくことが必要になるのでは」、ということで自動車業界や保険業界などを中心に関心が高まっている。

 米マサチューセッツ工科大学は、「モラル・マシーン」という名のウェブサービスで、世界規模の調査を実施している。トロッコ問題に関わるさまざまな運転場面を想定し、イラストを交えて質問。例えば「直進すれば壁に激突して複数の乗員に死傷者が出るが、ハンドルを切れば乳児を含む複数の男女をはねる(ただし男女が歩いている横断歩道の信号機は赤色)」といった具合だ。回答傾向を分析したところ、社会的合意を得られる判断が国によって大きく違うことが浮き彫りになった。日本は世界平均と比べ、歩行者、法令順守、不作為(ハンドルを切ることで被害者を選ばない)を優先する傾向が強い。中南米では、社会的地位の高さ、子ども、女性の優先度が高い。欧米は不作為の傾向が強かった。

 学者らの間でトロッコ問題の議論が過熱する一方、「ただの思考実験なので勝手にやってくれ。自動運転社会ではそもそもトロッコ問題は起きない」と断言するモビリティ企業幹部もいる。高度に進化した自動運転車両では、センサーが肉眼以上に余裕を持ってブレーキの間に合う距離で対象物を把握するし、ブレーキの異常を感知した時点で補助ブレーキが作動してトロッコ問題が起きる前に停車する。つまり、「トロッコ問題は手動運転時代の遺産に過ぎない」というのだ。

 最終的にはそうなるのかもしれないが、自動運転車両はまさに進化の過程にある。さまざまなリスクに対して議論をしておくことは大切だ。

 以下ではトロッコ問題を含め自動運転を巡るさまざまな課題を、18年に設立された明治大学自動運転社会総合研究所の識者2人へのインタビューで掘り下げてみた。

自分が死ぬ車を
誰が買うのでしょうね

【中山幸二所長(法律分野)】

――政府の自動運転ロードマップでは「2020年までに移動サービスでレベル4(高度自動運転)」が始まることになっています。日本のレギュレーションが追い付いていない部分を整理して教えてください。

中山幸二所長(法律分野)
中山幸二所長(法律分野)

 道路運送車両法はレベル4まで想定しています。でも、道路交通法はレベル3(条件付自動運転)までしか想定していない。道路交通法を所管する警察庁はドライバーがいなければいけないという考えが根強いからです。「いざとなれば、すぐにシステムからドライバーに切り替わる」までのレベルは認めるというのが今の彼らのスタンスです。

 車両の認証(保安)基準もレベル3以上は世界で基準ができていません。独アウディの新車もレベル3の機能は備えていますが、封印していますよね。国際的な基準を今作ろうとしている。システムをどうやって測るか。今までは機械的に検査していました。これからは設計段階から設計思想を見ないといけません。

――自動運転を巡っては、トロッコ問題が話題です。

 ドイツでは17年、国の倫理委員会がガイドラインを公表しています。要するに無作為が正解。プログラムは被害者を選択してはいけない、と。ドイツの自動車メーカーはそれに則ってプログラミングするのでしょうね。

 一方、運転手、乗員が第一だという考え方を唱える人もいます。運転手・乗員優先の方がメーカーは安心して造れます。自分が死ぬかもしれない車を誰が買うのでしょうということになりますから。世界的には、運転手・乗員優先のクルマが売れていくのでしょう。

――日本の議論の状況をどう見ていますか。

 日本の自動車メーカーはまだ態度を表明していません。

 日本ではトロッコ問題になるといつも議論がストップする。外国の議論を紹介してそれで終わっちゃうのです。トロッコ問題は避けて通れないが、「そういう場面を作ってはいけないんだ」というのが今の状況だと思います。

自動運転社会への過渡期で
損保会社は倫理観を問われる

【中林真理子主席所員(保険分野)】

――自動運転ではトロッコ問題が話題です。

中林真理子主席所員(保険分野)
中林真理子主席所員(保険分野)

 私は日本経営倫理学会に入っているのですが、自動運転をめぐる問題として出て来ていますね。さまざまな場所でここ2、3年、特に話題に上ってきた印象です。トロッコ問題という哲学の命題自体は以前からありました。でもこれまでは現実味がありませんでした。AIの開発進化に伴い、自動運転という身近な話題が出てきました。米ウーバー・テクノロジーズが自動運転車両で死亡事故を起こしたりと。そこで改めてどう考えればいいのかという議論が起きています。

――結論は出るのでしょうか。

 日本ではまだ、国もメーカーも誰も結論を出していません。たぶん結論は出ないです。哲学は「これが正解」という世界ではありません。「議論する」ということ自体が恐らく正解なのではないでしょうか。

 超一流の学者たちの団体、日本学術会議でも取り上げられています。9月に傍聴しましたが、まだ、「新しいトロッコ問題が出てきた」「どう議論したらいいのか」という取っ掛かりの段階です。何かしらの方向性が出れば、国の決定にも影響する可能性があります。

――損保会社の自動車保険は自動運転時代の到来でどうなるのでしょうか。

 自動運転社会では事故は減ると言われています。それでもたぶん事故自体はなくならない。リスクがある限りなんらかの保険は必要です。

 損保各社は倫理観が問われています。誰も想定していないような事故が起きた時、「約款にないから」と断ち切っていいのか。例えば大地震の際には人道上、お見舞金などの形で例外的に支払う対応をしています。自動運転の過渡期はそんなことが多いのではないでしょうか。

明治大学自動運転社会総合研究所監修「自動運転と社会変革――法と保険」の表紙
明治大学自動運転社会総合研究所監修「自動運転と社会変革――法と保険」の表紙

 損保会社の自動車メーカーなどへの求償権もクローズアップされそうです。これまでは製造物責任の立証困難などから損保会社がかぶるケースが多く、でも再保険が掛かっているので大きな問題にはなりませんでした。自動運転時代ではシステムの欠陥が明確な場合、損保会社が求償権行使する可能性があります。そうすると行使先は自動車メーカーなのかセンサーメーカーなのかと、わけが分からなくなります。この辺りはまだ議論が始まったばかりです。

 一つの解決案として、明治大学自動運転社会総合研究所監修『自動運転と社会変革――法と保険』で紹介している模擬裁判では、利害関係者による仲裁コンソーシアムの設立を提案しています。まだ業界でその方向に進んでいるわけではありません。責任割合とか出資割合とか議論は大変だろうと思います。


※本記事はダイヤモンド・オンラインからの転載です。転載元はこちら

カテゴリートップへ

最新記事
最新記事

アスキー・ビジネスセレクション

ASCII.jp ビジネスヘッドライン

ピックアップ