様々なシチュエーションが考えられる医療で、AIによる一般化した判断は危険です（出典：写真AC）

■私のかかりつけの医師はAI？

前回は、米国のメディアCNBCがAIの未来について専門家から意見を聞いてまとめた「５つの脅威」のうち２つの脅威をご紹介しました。今回はその後半、３つの脅威について考えてみましょう。

歴史学者ユヴァル・ノア・ハラリ は「ホモデウス」という著書で「世の中データがすべて」という未来の社会を描いています。中には「世の中データがすべてで何が悪い」と考える人もいるでしょう。しかし、医療のように人の命を預かる分野ではいろいろと問題視されることが少なくないのです。

AIが医療に貢献していることは日々のニュースの話題でも事欠きません。過去のさまざまな病気の兆候や発症パターンをデータとして保持し、がんその他の病気を早期に発見する。とてもすばらしいことです。しかしその一方で、ともするとすぐにデータに頼ってしまうような医療慣行は、２つの点で危惧すべき問題を抱えているとCNBCは伝えています。

その一つは、あまりにAIに頼りすぎるとそれを一般化して幅広いケースに応用できると思い込んでしまうという問題です。「今日のAIの成功事例はきわめて限られた範囲のものだ。あるAIアプリが心臓疾患に有効だからといって、それをレアケースの心臓疾患を抱えるがん患者に応用したりすれば、深刻な結果を招きかねない」と専門家は指摘します。また、あるスーパーコンピュータががん治療に関して複数の危険かつ不正確な方法を提示したという問題についても触れています。なんでもこのソフトウェアが学習に使用した数少ない症例は実際の患者のものではなく、仮説ベースのものだったとのこと。

もう一つは、患者のプライバシーが守られるのかどうかという問題があります。多種多様な病気に対処できるようにAIの精度を向上させるには、可能な限り多くの患者の実例をデータとして蓄積しなければなりません。しかしそうなると、患者一人ひとりの（他人に知られたくない）情報が本人の知らないところで不特定多数の医師や看護師に共有されるだけでなく、いつどこでどのようにそのデータが活用されるのか、だれもあずかり知らぬことになってしまうわけです。