« 人工知能が実現するのは「理想の社会主義国家」か | トップページ | 人工知能は人間の仕事を奪うのか?(『洗練された奴隷制』再論) »

2016年7月13日 (水)

社会参加型機械学習について

真っ赤っかの椅子にやたら浅く腰掛ける独特のスタイルでNHKの人気番組TEDのオープニングをつとめるMITメディアラボ所長の伊藤穰一氏が、ブログ『社会参加型(society-in-the-loop機械学習』で、興味深い見解を述べている。

日本語訳が酷くて読みづらいが、テーマは、人工知能の倫理問題だ。

伊藤氏は、ある種の政治的・行政的・司法的決定は、人工知能に決定させた方がよいと考えているようである。たとえば、「裁判官が決める保釈金の額や仮釈放の期間といったものは、人間より機械のほうがずっと正確にできる」し、「人間の専門家は適切に保釈金額を決めたり仮釈放の判断をしたりするのが苦手であって、「仮釈放判定委員会による聴聞が昼ご飯の前か後かで、結果にはかなりの影響が出てしまう」という。そこで、「保釈金額や仮釈放などを裁判官ではなく機械(人工知能)に任せてはどうか」と提案したところ、「哲学者と聖職者数名は、それが効用主義的な観点からは正しく思えても、社会にとっては裁判官が人間だというのが重要」で、「『正しい』答えが出るよりも大事」と回答したという。

そこで伊藤氏が提案するのが、「社会参加型機械学習」という概念である。

これは、人工知能の学習過程に社会が参加する中で人工知能の判断能力を向上させ、その判断が社会の支持を得られるように持っていくことなのだという。現在の機械学習は、エンジニアが人工知能を「訓練」しているが、エンジニア自身はたとえば法律の専門家ではないから、訓練を受けた人工知能が専門分野の現場で「正しい」判断をするかどうか、分からない。そこで、人工知能の訓練に専門家を参加させ、人工知能に専門家をサポートさせる「人間参加型(man-in-the-loop)機械学習」が考えられるが、これだと、「人間が機械の判断を取り消して「間違った判断を通し」たり、逆に、機械の判断を盲目的に信用してしまうという問題がある」。

そこで、人工知能の能力とふるまいを、社会全体として「訓練」するのが「社会参加型機械学習」なのだという。

「社会」がどうやって人工知能を訓練するのか、具体策は分からないが、伊藤氏によれば、「人間が、機械が自分たちの、おおむねおそらくは、多様な価値観を信頼できる形で代弁していると思うような形で訓練」することにより、その機械の「行動に対して自分が最終的に責任を負うと感じる」ようになるだろう、ということである。「たとえば、自動運転車の振る舞いに対して、社会が十分な入力とコントロールを得ていたと感じるならば、その社会は自動運転車のふるまいや潜在的な被害についても、自分やそれを代表する政府に責任があると感じ、自動運転車の開発企業すべてが直面する製造物責任問題を迂回する一助になるんじゃないだろうか」という。

伊藤氏の見解に対して、興味深い点は二点ある。

一つ目は、ある種の社会的問題については必ず「正解」があるから、正解に従った方が良い、という認識を前提とする伊藤氏の「理系くん」的思考過程だ。人工知能の判断はブレないし、間違わない(あるいは、間違う確率が人間より低い)から、社会は人工知能の判断に従った方が「よい」ので、それを妨げる要素はできるだけ排除しよう、という考え方は、政治学や法律学、哲学といった「文系くん」の立場からは、およそ受け入れがたいだろう。伊藤氏の言っていることは、人工知能の政治的決定が正しい(少なくとも、議会や首長の決定より正しいか、正しい確率が高い)場合には、人間は民主主義を放棄して人工知能に政策決定を委ねるべきだし、そうなるだろう、ということである。だが、政治の本質は、その決定が正しいか正しくないかにはない。たとえば、今般英国がEU離脱を決定するのは、その決定が「正しい」からでも、投票者の過半数の支持ゆえ「正しい確率が高い」からでもない(もちろん、間違っているからでも、間違っている確率が高いからでもない)。一定期間議論し、相対多数決で決するとの合意の上になされた国民投票の結果だからである。要は「正当性」と「正統性」は違う、ということなのだが、伊藤氏がこの点を理解しているようには思われない。このような思考過程は、伊藤氏が日本人だからでも、米国で働いているからでもなく、「理系くん」に特徴的な傾向であるように思われる。

二つ目は、伊藤氏らが、「哲学者や聖職者」と議論している点だ。これは、「倫理」の問題である以上当然なのだが、日本では考えられない。実際、多くの大学の工学部には倫理委員会があり、先端技術の実証実験などの際、その当否を審査しているが、そこに哲学者や聖職者が招聘されたという話を聞いたことがない。そもそも、日本のロボット工学や人工知能の分野では、「倫理」という言葉が誤って理解されていて、「倫理」と言いながら、議論しているのは安全性や適法性の有無でしかない。それなら「安全委員会」や「法律委員会」と呼べばよいのだが、医学部に「倫理委員会」があるものだから、意味も分からず組織名だけ移植しているのだ。しかし、新薬の臨床試験における被験者の健康は「倫理」の問題だが、自動運転自動車の走行実験における搭乗者の安全は「倫理」の問題ではない。そのくせ、ロボットや人工知能と倫理の問題を提起すると、「うちの大学には倫理委員会があるから大丈夫」などと言い出すものだから、困ったものである。

では、「社会参加型人工知能」の問題が、なぜ倫理の問題なのか。それは、現代社会制度の基礎をなす近代思想の根本に関わる問題だからであるが、その点についての議論は別の機会にしよう。

以上を要するに、伊藤穰一氏はいかにも「理系くん」的な発想で人工知能と倫理の問題を論じているが、他方、哲学者や聖職者と議論することの必要性を理解し、その機会を持っている点で、日本の同種の研究者に比べ、一日の長がある。学際的な議論は、一見何の役にも立たないように見えることがあるけれど、長い目で見ると、こうやって裾野を広げておいた方が、絶対に強くなると思う。

 

 

|

« 人工知能が実現するのは「理想の社会主義国家」か | トップページ | 人工知能は人間の仕事を奪うのか?(『洗練された奴隷制』再論) »

トラックバック

この記事のトラックバックURL:
http://app.cocolog-nifty.com/t/trackback/192469/63906573

この記事へのトラックバック一覧です: 社会参加型機械学習について:

« 人工知能が実現するのは「理想の社会主義国家」か | トップページ | 人工知能は人間の仕事を奪うのか?(『洗練された奴隷制』再論) »