責任が取れるなら人工知能はミスをしても良いのか?

あるレクチャーで医療と人工知能の将来について触れる機会がありました。

そこで講師の方がお話されている内容で、考えさせることがありましたので、忘備録的に書いておきたいと思います。

人工知能の発展は予想以上に早い

演題のテーマは、医療と人工知能の未来ということでした。

医療分野における人工知能ということに関しては、すでに多くのベンチャー企業が新しいサービスの開発競争を繰り広げているらしいのです。

将来的に人口機能が中小規模の病院にまで入り込み、医療従事者の頭脳労働にとって変わるのは確実ですから、そこにビジネスチャンスがあるのは間違いない、ということのようですね。

医療従事者はおそらく人工知能よりもミスをする

日々病院で行っている病院業務では、医療従事者はいくらでもミスをします。

すでに患者さんに直接的な処置を行う必要のない診断学の分野では、人間の医者の判断よりも、人工知能の判断の方が優れていると言う結果が出始めています。

医師としての人間も、患者さんの症状や検査結果などから、過去の経験や学習に基づいて最適な診断を下しているに過ぎません。

これらの学習ということに関しては、おそらく人工知能の方が格段に上回った正しい結果を出すことができるでしょう。

そのように考えてみると、将来的には人が診断を下すよりは、人工知能が病気の診断を下した方が、間違いなく正答率が高くなります。

病院全体の利益を考えた場合には、医者が診断を下すよりも、人工知能が診断を下したほうが正しい医療となり、ひいていは病院の患者さんにとってもプラスに、そして負担軽減という点でも医師にとってプラスになるでしょう。

責任が取れるのなら、医療ミスしても良いのか

興味深かったのは、人工知能が何かしら医療上のミスを犯し、患者さんに害があった場合に誰がどう責任を取るのかということでした

現実的に人工知能が謝罪したりとか、人工知能が裁判に出廷して謝罪する、賠償するということはできませんよね。人工知能の開発会社にすべての責任を負わせる、というのも難しそうです。

医療裁判の賠償金は数千万円、億単位ですから、そんなリスクのある分野には企業も手を出せないでしょう。

人工知能のミスは許されない雰囲気があるわけですが、では責任が取れる存在であれば、ミスをしても良いのかと言う問題提起です。

 

いつの日か訪れるジレンマ

人工知能は責任を取れないからミスをしてはいけない。一方でミスをしたとしても人間の場合には、責任が取れる。

であるから今後も医療現場では人間たる医療従事者が主導的な立場をとり続ける、というのはいつしか壁にぶち当たるでしょう。

ミスが少ないが責任のとれない人口知能と、ミスは多いが謝罪はできる人間の医師。どちらを選ぶのが正しいのかという議論が始まってくるかもしれません。

そのような時代になった時、「いやいやまだ人工知能は責任が取れないから、採用しないよ」と言う風潮になってしまうのでしょうか。

まとめ

一部には、人工知能が医療上のミスを犯した場合には責任を取れないから、医療分野では広まらない、といった意見もあります。

しかしその意見に対する批判として、では責任を取れるがよりミスを犯しやすい人間の判断に任せるのか、というものが挙がります。

人工知能と医療の将来、そしてミスの責任をどこか負担するか、という問題は大いに議論されなければならない問題であるかもしれません。

病院の中でインシデントがおきた場合の対応。インシデントレポート

2018.01.24



コメントを残す

メールアドレスが公開されることはありません。