人間は、人工知能の未来予測に異を唱えられなくなる。

６月２５日のＮＨＫスペシャル『人工知能　天使か悪魔か２０１７』は昨秋に引き続き、大変興味深い番組だった。

番組は、佐藤天彦名人と将棋ソフトポナンザとの電王戦を縦軸に、タクシーの配車、再犯・退職予測、株取引など、主として未来を予測する人工知能を紹介し、これらが既に社会のそこかしこに導入されつつある有様を示している。将棋の世界では、既に人間の知力を上回った人工知能だが、日常業務の中でも、その道のベテランですら一目置く存在になっていることが分かる。

人工知能は人間を超えるのか？という議論はなされて久しいが、どの分野で人間より優れた能力を備えたらいいのか？という議論はあまり聞かない。しかし、人間より速く走る機械、人間より力の強い機械はとっくの昔に実用化されているし、人間より計算の速いコンピューターや、人間より記憶力の優れたコンピューターも、普通に普及しているが、それをもって、機械やコンピューターが人間を超えたと言う人はいない。だが、コンピューターが人間より確実に未来を予測するようになれば、そのときをもって、人工知能が人間を超えた、と言ってよいのかもしれない。そのときは、分野にもよるが、２０４５年よりかなり前に訪れるだろう。

ところで、未来予測には間違いがつきものだ。人工知能がどれほど優れたものになったとしても、未来予測の間違いは起きるだろう。人工知能が未来予測を間違ったとき、誰が責任を負うのか、という問題が発生する。ＮＨＫの特集は、「人間の人生を決める人工知能が再犯率の予測を間違ったら、誰が責任を取るのか？」と疑問を呈する、模範囚でありながら人工知能に仮釈放相当との判断をしてもらえない米国人の言葉を紹介していた。

これに対する答えとして、番組は、「最後に決断するのは人間だ」という羽生善治の言葉を紹介している。

しかし、この答えは「逃げ」だと思う。人工知能が進化すれば、人間は間違いなく決定権を失うことになる。

たとえば、人工知能が進化して、統計的には、８割の的中率で未来予測ができるようになったとする。ある会社の経営会議で、ＡＢいずれの経営方針を採用するかが議題となったとき、Ａ案を支持する人工知能に対して、あなたは、Ａ案を支持するだろうか、それとも、Ｂ案を支持するだろうか。なお、あなたは心の中では、Ａ案もＢ案も的中の確率は五分五分と考えていたとする。

正解は「支持する」だ。なぜなら、統計的に見て、その人工知能の意見は的中する可能性が８割ある。もし的中しなくても、悪いのは人工知能であって、支持したあなたではないから、あなたの社内での地位は安泰だ。一方、人工知能に逆らってＢ案を支持した場合、あなたの意見が的中する可能性は統計上２割しかないうえ、会社がＢ案を採用して失敗した場合の責任はあなたが負うことになる。つまりクビになる確率は、Ｂ案を支持した方が遙かに高い。だから、社員の合理的選択は人工知能の推すＡ案支持となる。そこには、もはや人間の決定権は存在しない。

ＮＨＫの特集は、人工知能研究の第一人者ベン・ゲーツェル氏を招聘して政治的意思決定を人工知能に委ねようとしている韓国議会の取り組みを紹介していた。ベン・ゲーツェル氏は、「人工知能は意見を言うだけで、決定するのはあくまで人間だ」と述べていたが、上述したとおり、統計的に「正しい」政治判断を行う人工知能が実現したならば、人間は選択権を失うだろう。

人工知能に政治決定を委ねた世界は、統計的には、現代社会よりも平和で幸福になるかもしれない。だが、政治的選択を人工知能に委ねることは、政治的選択を神託に委ねることと、何が異なるのだろう。