« 司法試験統一試験制度廃止の予兆 | トップページ | ドローン産業化と物流について »

2016年6月13日 (月)

ロボット法学がトロッコ問題を論じるとき気をつけるべきことについて

A.I.(人工知能)や自動運転自動車を論じるとき、法律家が好んで取り上げる題材に、トロッコ問題がある。521日に慶応大学で開催された情報ネットワーク法学会特別講演会「ロボット法研究会」設立記念シンポジウムにおいても、平野晋中央大学教授がトロッコ問題を取り上げたところ、パネルに同席したドイツ人法学者を含む内外の法律家が議論の応酬をはじめ、盛り上がっていた。

トロッコ問題とは、本来、倫理学上の思考実験である。ごく簡単に言うと、線路を走っていたトロッコが制動不能になったとき、そのまま進めば5人の線路作業員を轢き殺すが、分岐器を操作して別路線に誘導すれば一人の線路作業員を轢き殺す場合、分岐器を操作することが許される可否か、といった問題だ。

トロッコを自動運転自動車に置き換えたときどう考えるべきかが、法律家が好んで取り上げるトロッコ問題である。「5人と一人」ではなく「少年と老人」だったらどうか、「犯罪者と善人」だったらどうか、という問題に派生することもある。

トロッコ問題は、自動運転自動車に限らず、人工知能全般に及ぼすことができるかもしれない。たとえば、妊婦が母子ともに危険な状態になったとき、診断を委ねられた人工知能は、いかなる治療方針を選択すべきか、といった問題である。

私も、講演ブログでトロッコ問題を取り上げることがある。だが、人工知能がいかなる選択をするべきか、という点については、故意に曖昧に論じることにしている。その理由は、「ロボット法学は、トロッコ問題を論じるべきだが、軽々に論じるべきではない」という、ある意味ややこしい信念を持っているからだ。軽々しく論じることは、研究者や技術者との間に、誤解の溝を生む危険があるというのが、私の考えである。

繰り返しになるが、トロッコ問題は、倫理学上の『思考実験』である。そこでは、「一方に進めばこうなる、他方に進めばこうなる」という結論が、動かしがたい前提として与えられている。しかし、『現実世界』を走行する自動運転自動車にとって、このような結論は、動かしがたい前提ではない。そもそも、「右に行けば5人を轢き、左に行けば一人を轢く」と言われても、右に5人いるのか、左に一人しかいないのかを、自動運転自動車が確信をもって判別することはできない。しかも線路ではなく道路である以上、速度とハンドルとブレーキと路面状況等の組合せによって、少しずつ違う方向に進むから、「右に行けば5人を轢き、左に行けば一人を轢く」とは限らないし、仮に轢いたとしても、殺してしまう轢き方になるとは限らない。まして、「少年と老人」を確実に見分けることは非常に難しいし、「犯罪者と善人」を見分けるに至っては不可能である。先のシンポジウムでは、ドイツ人法学者が、「人間の命の価値の優劣を人工知能に判断させること自体が間違い」と発言していた。これは、法律学の観点からは満点だが、人工知能の研究者や技術者が聞いたら不愉快に思うだろう。センサーや人工知能の実際を無視し、研究者や技術者が回答できない問題をもてあそんでいるに過ぎないからである。この部分について、法律家は、研究者や技術者の説明に耳を傾けなければならない。

他方、それではおよそトロッコ問題を論じるべきではないかと言えば、そうともいえない。トロッコ問題は、人工知能と人間社会との関係のありかたについて、有益な視座を提供してくれるからである。たとえば先の妊婦の事例において、母体と胎児に関するあらゆる情報が正確に漏れなく入力されたことを前提にした場合、過去の十分な数の同種事例を経験知としている人工知能は、「最善の」治療方針を提案することが可能になるだろう。それはあたかも、囲碁の世界チャンピオンを破ったGoogle社のalpha-Goが、数千万の選択肢の中から最善の一手を選び出すように。

だが、その「最善の」治療法を、当事者が受け入れるべきか否かは、別問題として検討しなければならない。また、その提案が、何らかの理由で結果的には「最善」でなかった場合や、「最善」ではあったけれども結果的に失敗した場合の責任の法的所在についても、検討しなければならない。何をもって「最善」というかという判断基準も議論する必要がある。さらに、そもそも、この種の「最善の治療法」を人工知能に提案させることそれ自体の是非も、問われなければならない。この種の検討は、やはり研究者や技術者を不愉快にさせる部分を含む。しかし、法的あるいは社会的・倫理的な「正しさ」と、技術的な「正しさ」はしばしば対立するし、この点についてはむしろ、法律家が技術者に向かって発言しなければならないと思う。ただ、私の経験に照らすと、「相対的正義」の概念とか、「近代人権思想の系譜」みたいな話について、研究者・技術者はわりと謙虚に聞いてくれているように感じる。むしろ、研究者・技術者の前でトロッコ問題を論じる法律家の方が傲慢に見える。

そろそろ字数も超過してきたし、そもそも二千字で論じられる問題でもないが、要は、法律家と研究者・技術者は、お互いに謙虚に相手の主張に耳を傾けなければならないし、トロッコ問題を論じることが必要だからといって、軽々に断定的な論陣を張ってはいけない、ということである。

|

« 司法試験統一試験制度廃止の予兆 | トップページ | ドローン産業化と物流について »

コメント

何よりも、まず読んですぐに思ったことは
親鸞の悪人正機説ですね。

また、よく引き合いに出るのは
溺れた人をボートに救う時に
あと一人分しかスペースが無い時に
犯罪者の手を取るか、善人?の手を取るか
宗教や哲学の世界でも古くから論じられてきたことです。

さて、相変わらず、防犯監視カメラのコーナーでは
無辜の民による、勘違い店や警備員らによる非道との
闘いが続いているようです。

私も自分の掲示板を掘り起こしてみました。
不快に感じている声をこれからも丁寧に
拾ってみたいと思います。

宜しくお願い申し上げます。

投稿: やっこさん | 2016年6月14日 (火) 15時44分

コメントを書く



(ウェブ上には掲載しません)


コメントは記事投稿者が公開するまで表示されません。



トラックバック

この記事のトラックバックURL:
http://app.cocolog-nifty.com/t/trackback/192469/63769601

この記事へのトラックバック一覧です: ロボット法学がトロッコ問題を論じるとき気をつけるべきことについて:

« 司法試験統一試験制度廃止の予兆 | トップページ | ドローン産業化と物流について »