• 政策提言

    No.2

    技術ガバナンス研究ユニット

医療AIソフトウェアシステムの開発と実装を推進するためのタイプ分類の提案

要旨

技術ガバナンス研究ユニット AIガバナンスプロジェクトの医療×AI研究会では、2019年1月よりセミナーを開催してきました。マルチステークホルダーでの議論を主としたセミナーでは内科、消化器科、眼科、ゲノム医療など個別領域で医療AIに関する先進的な試みや研究を行っている医師ら医療関係者、研究者やベンチャー企業の方をお招きするほか、日本医師会、厚生労働省の方などのステークホルダーの方々も招いてディスカッションを重ねてきました。

本セミナーの議論の成果の一つとして、医療関係者、政策関係者、研究者が医療AIシステムの開発と導入を推進するに資する「医療AIシステムのタイプ分類」を作成しました。本論文は、2月7日～8日に米国ニューヨークで開催されたAI倫理と社会に関する米国人工知能学会とACMの国際会議（AAAI/ACM Conference on Artificial Intelligence, EThics and Society）に採択され、2月8日に同会議で発表しました。

政策提言

本論文では、医療AIシステムのタイプ分けをするだけではなく、今後の医療AIシステムの議論への政策提言も行っています。そこで、本論文の政策提言部分に焦点をあてて日本語で再構成したものを、未来ビジョン研究センターの政策提言として公開します。全文は以下よりダウンロードいただけます。

政策提言全文

論文要旨

論文著者

江間有沙(東京大学未来ビジョン研究センター/理化学研究所革新知能統合研究センター)
長倉克枝(東京大学未来ビジョン研究センター/エムスリー株式会社m3.com編集部)
藤田卓仙(慶応義塾大学医学部医療政策・管理学教室/慶応義塾大学メディカルAIセンター/世界経済フォーラム第四次産業革命日本センター)

論文概要

近年、医師を始めとする医療と医療関係者の負担軽減を目指した機械学習などの人工知能（AI）システム活用が期待されている。しかし、臨床現場への実装には課題が多い。医療関係者、技術開発者、政策関係者、利用者による医療AIソフトウェアシステムの議論を円滑に進めるため、本稿は、「AIシステムの技術要件」、「医療関係者の役割に及ぼし得る影響」と「患者/利用者へ及ぼしうる影響」の3軸をもとにした医療AIシステムタイプ分類（Medical AIタイプ：MAタイプ）を作成した。医療AIシステムの開発や実装を進める際に、医療関係者や技術開発者らの間で認識を共有するのにMAタイプを役立てることを期待する。

提言1: 目的と用途に応じた関係者間の認識共有の推進


臨床現場での目的や用途によって、医療AIシステムに求められる要件はそれぞれ異なる。例えば、画像診断の見落とし防止に使用するケースでは、AIの認識精度が高くなくても医療関係者にとって有用である。そのため、目的と用途からMAタイプを同定することで、開発するAIだけでなく適切なUI設計も含めて、関係者間で認識を共有して開発や実装を進めるべきである。

提言2：利活用可能なリアルワールドデータの構築推進


近年、臨床現場で生まれるデータである「リアルワールドデータ」の活用が言われている。そのため、電子カルテなどの情報入力支援AIなどの開発段階から、データの構造化等を考慮し、医療の質の改善や医療経営の改善などに向けたデータ二次利用の推進を進めるべきである。

提言3：患者中心医療に向けた制度改革の推進


現状の医療機関中心の医療に対して、今後は世界的にも「患者中心医療（Patient centered medicine）」が主流になっていくと考えられており、患者が自身のデータをデジタルで持つ「データポータビリティ」の導入など、患者／利用者の便益等を考慮に入れた制度改革が求められる。医療制度、医師関係者やAIシステムへの信頼や責任の観点も含め、患者中心医療に向け予防、ヘルスケア、生活等をスコープに含む制度改革を検討すべきである。

現状の医療機関中心の医療に対して、今後は世界的にも「患者中心医療（Patient centered medicine）」が主流になっていくと考えられており、患者が自身のデータをデジタルで持つ「データポータビリティ」の導入など、患者／利用者の便益等を考慮に入れた制度改革が求められる。医療制度、医師関係者やAIシステムへの信頼や責任の観点も含め、患者中心医療に向け予防、ヘルスケア、生活等をスコープに含む制度改革を検討すべきである。

MAタイプを臨床現場の目的や用途に応じて使っていくことが、議論を円滑に進めていくことに資すると考える。なお、MAタイプは現行の技術や法を踏まえているが、今後の技術や制度の改革を阻害するものではない。MAタイプを利用した関係者間の議論が、医療における技術実装や制度改革の端緒となることを期待する。

 

図：MAタイプと医師、患者/利用者と医療AIシステムの関係性

本論文は東京大学未来ビジョン研究センター技術ガバナンス研究ユニット AIガバナンスプロジェクトの医療×AI研究会の成果の一つです。

Arisa Ema, Katsue Nagakura, and Takanori Fujita. Proposal for Type Classification for Building Trust in Medical Artificial Intelligence System, Proceedings of the 3rd AAAI/ACM Conference on Artificial Intelligence, Ethics and Society (AIES), 2020, NY, USA, pp. 251-7, doi: 10.1145/3375627.3375846

  • 本論文はクリエイティブ・コモンズ・ライセンスCC-BY 4.0の下で公開されています。（著作権の帰属先を著者および著作権保有者が指定した方法で表記することにより、誰でもその論文の再利用・改変利用が可能です）
  • 本政策提言「医療AIソフトウェアシステムの開発と実装を推進するためのタイプ分類の
提案」もクリエイティブ・コモンズ・ライセンスCC-BY 4.0の下で公開されています。