【『AIの時代と法』】AI導入で考えられるジレンマとは?

【『AIの時代と法』】AI導入で考えられるジレンマとは?

2020年12月18日 0 投稿者: マツシタ
Pocket

AIに仕事が奪われるといわれているが、果たして本当にそうなるのだろうか。

仮にAIが仕事に投入されたとしよう。そこでは、今までにない様々な問題が現れてくる。

今回は、AIを導入することによって表面化すると考えられる問題を、医療分野を例にとって考える。そのことによって、果たして本当にAIを導入することでメリットがあるのか、そもそもそんなことが可能なのかについて、疑問を投げかけてみたい。

 




 

AIのミスを人間がチェックすることの問題点

AIが導入されると、その仕事が自動化されることになる。AIがすべての計算を行い、答えを導き出してくれる。こうなってくると、人間が必要なくなるというのももっともだ。

しかし、こんなことを考えたことがあるのではないだろうか。「AIの判断は本当に正しいのだろうか?」

AIはデータを読み込むことで学習していく。そのデータに間違いがあれば、当然その間違いを学習してしまう。その結果、間違った判断を下すようになる。実際、AIが現実社会の人種差別を学習してしまい、差別を行うようになったそうだ。

そのようなミスが医療分野で起こると非常に大きな問題だ。なにせ、医療現場ではひとつのミスが命取りになるからだ。このように考えていき、次のような主張がなされたとしよう。

「病気があるにもかかわらずAIが異常なしと判断し、手遅れになってしまったらどうするのか。AIの言うことをそのまま鵜呑みにせず、本当に正しいのかどうか、人間の目でチェックするべきだ。」

こうした主張はもっともだと思い込んでしまいそうになる。しかし、である。

いや待てよ。それ、AIの意味なくない?だって、AIの良さって人間よりも圧倒的に速く、圧倒的に大量のデータを処理できることじゃなかった?それをわざわざ人間がチェックし直してたら、AIの良さが丸つぶれじゃない

そうなのだ。AIの良さは画像や数値データなど、人間の目では判別できないようなデータから直接重要なものを抽出できることにある。このことにより、人間がするよりも圧倒的に速く判断を下せる。場合によっては人間には考えつかなかった画期的な治療法を提示してもらうことも考えられる。

しかし、それをわざわざ人間が読める文字というデータに変換し直し、チェックしているようではデータ分析の効率は上がらないどころか非効率になってしまっている。人間がAIの判断をチェックするのなら、最初からすべて人間がやってしまったほうが早い。

このようにみていくと、人間の判断によってAIの間違いを防ぐというアイデアは正当性を欠いているということになる。AI画像診断は本当に有用だといえるのだろうか。

 




 

医者は責任を取るべきなのか

もうひとつ考えてみよう。

AI画像診断を採用している病院がある。ここでは明らかにミスである場合を除いてAIの判断に従っているとしよう。

もしこの病院で医療ミスが発生した時、だれが責任を取るのだろうか。ふたつの主張が考えられる。

  • AIによる画像診断を行っている医師は医療の専門家ではあってもAIの専門家ではない。そのため、AIがどのようなプログラムで診断を行っているかを理解しているわけではない。一見間違いに見える治療法も、もしかしたら歴史を覆す画期的な治療法かもしれない。だから、医師がAIに従うことは責められない。このような理由からAI画像診断のミスの責任を医師に背負わせるべきではない。

 

  • 医師が医療分野の専門家であるというのは紛れもない事実である。医師には専門的な知識に基づいて医療行為を適切に選択する義務や医療行為の内容、そのメリット・デメリットについて患者に説明する義務がある。画像診断も当然医療行為に含まれるので、AI画像診断に関しても、そのリスクにどのように対処していくかを考える義務がある。よってAI画像診断の責任は担当した医師が取るべきだ

さて、どちらが正しいのだろうか。

現状、「AI利活用原則」では後者の考え方を採用しているようだ。しかしながら、本当に難しい問題である。前者の主張ももっともに見える。どのようなプロセスでAIがそう判断したのかわからないのだから、従来とられてきた治療法とは違う方法をAIが提示してきたとき、それがミスなのか「画期的な治療法」なのかはわからない

仮にAIが従来と異なる治療法をすすめてきたとしても、そこにリスクが存在することを考えて従来通りの治療法を採用することにしたとしよう。再び「それってAIの意味なくない?」である。

AIを導入するのであれば、すべてをAIに委ねなければ意味がない。しかし、それではAIのミスが防げない。これが、AIの導入により生じるジレンマである。

 




 

『AIの時代と法』

先ほどのような責任問題は、AIの時代が進んでいくとますます多くの分野で問われることになっていくだろう。

自動運転車が事故を起こした場合、責任を取るのは運転者(乗っていた人)か車のメーカーか。スマート家電が火事を起こした場合、責任を取るのは家主かメーカーか…。

このような複雑な責任問題を規定しなければならなくなっていく。つまり、新しい法制度の整備が必要だということである。

AIが普及していくにつれ、法も変えていく必要がある。責任の所在があいまいになっていくAIの時代では、ますます法は重要度を増していく

このことについて述べているのが、今回の参考図書である『AIの時代と法』(小塚荘一郎著、岩波新書)である。

本書では、法の世界にとってこれから10~20年は現代の法制度の枠組みが形成された19世紀後半に匹敵する変革期になるとしている。この大きな変化のうねりの中で発生すると考えられる様々な問題と現状の法解釈、これから求められる法改正や新しい仕組みなどについて考察している。

今回取り上げた医療に関する問題はそのほんの一部に過ぎない。生活のすみずみにテクノロジーが広がっていく今、対処すべき課題は膨大に存在するのである。

これからの社会をスムーズに回していくうえで、この問題を考えることは必要不可欠だといえるだろう。もし興味を持ったという人は、ぜひ本書を手に取って実際に読んでみてほしい。