第７８７号コラム：石井 徹哉 理事（独立行政法人大学改革支援・学位授与機構 研究開発部教授）
題：「トロッコ問題の現実解」
市立パラの丸高校というショートアニメがあります (https://twitter.com/parako_official) 。そのうちの一つのアニメ「トロッコ問題解決するギャル【アニメコント】」(https://youtu.be/eRUfbuvhxco?si=nxGVte2SMvMweUYK) が少し話題になっていました。この動画は、トロッコ問題の観念的なものと現実的なものとを明らかにしているように思われます。
トロッコ問題は、「ある人を助けるために他の人を犠牲にするのは許されるのか」という功利主義と義務論の対立を扱う倫理学上の問題として提起されました。一般に知られているのは、「トロッコの制御が不能になり、暴走し、このままでは前方で作業中の5人がトロッコを避ける間もなく轢かれてしまうが、転轍機のそばにいる人が線路を切り替えれば、5人は確実に助かるものの、その線路上の一人が今度は轢かれてしまう。」という例です。元々は、路面電車 (runway tram)の運転手がどちらを選択するのかという形で提起されています。
いずれにしても、人を他の目的のために利用すべきでなく、何もすべきではないという義務論と1対5を天秤にかけて5人を救うべきとする功利主義の純化した対立状況をあぶりだすための問題です。そのため、背景事情を捨象し、純化した事案に構成されており、人の行動に対する倫理的、価値的判断を問うものとなっています。
周知の通り、自動運転自動車の実装にあたっても、再びトロッコ問題が取り上げられ、自動運転システムがどちらを選択するように実装すべきかということが盛んに議論されています。しかし、このような議論は、自動運転自動車の社会実装にあたっては、それほど有益なものとはいえないように思われます。
一つは、自動運転自動車のトロッコ問題を倫理学的に論じても、あくまで観念的な議論にすぎず、多様な価値観が存在する現実社会にそのまま妥当するわけではないからです。また、多様な価値観が存在するがゆえに、現実社会に対する「倫理」的な指針を提供できないものです。「正しさ」は、人それぞれ異なることに留意すべきなのに、倫理的な議論は、それを敢えて無視しています。
二つ目は、倫理学的に議論できるように、背景事情を完全に捨象し、実際に起こりうるか疑わしい二者択一の状況を設定していることにあります。もし実際に自動運転自動車によりトロッコ問題と同様の状況が生じるのであれば、そのような状況に至るまでの具体的な経緯があるのであり、その経緯において自動運転システムは、どのように判断し、自動車を操縦してきたのかも問題にし、その経緯において具体的に自動運転システムがどのように判断し、自動車を操縦すべきであったかを検討しなければならないはずです。最後の最後だけを殊更取り上げて問題にするというのは、適切な判断方法とはいえないでしょう。
刑法における過失犯の成否の検討に際しても、結果から遡って直近の行為者の行為だけを捉え、その過失の有無を検討するわけではなく、結果にいたる一連の事象を具体的に精査し、そのなかで結果を生じさせた具体的な結果を特定しますし、一連の事象の中に複数の行為者の行為が段階的に関係していれば、それぞれの行為者の行為と結果との関係で過失の有無を判断します。こうした考え方をトロッコ問題について妥当させるならば、おそらく転轍機のそばにいる人には具体的な結果を回避できる方策はまったくない（いずれにしても人が死ぬ）ことから、そもそも責任を問うことはできないことになります。
そのため、そもそもそのような状況に至った原因等を究明していき、その要因となった行為を特定することになり、その行為を行った者に責任を問うことになります。自動運転システムも同様であり、最後の極限的な二者択一状況においてどのように判断すべきかが問題ではなく、そのような極限的状況に至らないようにシステムが作動しているかが重要になってきます。
私自身は、こうしたことも含めて、自動運転システムが人が運転するよりも事故の発生が少ないのであれば、十分にリスクを低下させているものとして社会実装されたとしても、システムの開発者、自動車製造者、販売者、運行供用者に刑事責任を問うことはできないものと考えております。
※ このことについての詳細は、石井徹哉編著『AI・ロボットと刑法』（成文堂・2022年）をご覧ください。また、トロッコ問題の倫理的問題と刑法的な解決については、同書に所収されているヒルゲンドルフ論文が参考になります。
【著作権は、石井氏に属します】
