医療×AIセミナーシリーズ第9回：AI時代の医療とトラスト：日仏哲学対話

東京大学未来ビジョン研究センター、慶應義塾大学AIメディカルセンター、エムスリー株式会社m3.com編集部は在日フランス大使館科学技術部と2019年9月27日に医療×AIセミナーシリーズ第9回「AI時代の医療とトラスト：日仏哲学対話」を開催した。講師にフランス国家倫理諮問委員会（CCNE）委員長のジャン＝フランソワ・デルフレシ氏、フランス国立情報学自動制御研究所（INRIA）のクロード・キシュネール氏、日本医師会常任理事で、はとりクリニック院長の羽鳥裕氏、国立病院機構東京医療センターの尾藤誠司氏をお迎えし、日仏の医療制度の現状と課題、特に医療での個人情報の活用と規制について、両国の専門家が対話した。

生命倫理法改正が議会で審議中

最初にフランス国家倫理諮問委員会（CCNE）委員長のジャン＝フランソワ・デルフレシ氏が登壇した。デルフレシ氏は医師であり、感染症と公衆衛生の分野で豊かな経験を持つ。7年ごとの生命倫理法の改正がまさにフランスの議会で審議されているタイミングであることに触れ、この法律の改正に向けて市民とともに実施してきた公開討論など、医療を含む新しい科学技術と社会の対話について、フランスの取り組みを紹介した。

フランスには生命倫理の全体の枠組みを決める2つの仕組みがあり、一つは7年ごとに改正される生命倫理法で、もう一つが独立した専門機関としてのCCNEだという。デルフレシ氏が委員長を務めるCCNEではテーマごとにワーキング・グループを設置して、科学技術の進展に伴い新たに登場する倫理問題、例えば新しいゲノムテストや、人工知能（AI）と医療の関係、科学と社会の接点などについて議論してきた。提示されたテーマに沿って議論することもあれば、専門家集団として自ら重要と考えるテーマを設定することもあり、最近は移民の健康問題や、高齢化社会と介護の課題というような社会的な関心事を取り上げることもある。

2つは当然、関連もしている。フランスの生命倫理法は2011年に施行され、7年ごとに改正される。まずは公開討論があり、次にCCNEが専門家集団として意見をまとめた報告書を出し、最後に新法案が提出されて議会の審議を経て改正されるという政治的な段階を経るという3つの独立した段階を踏む。2018～2019年はちょうど改正のタイミングで、まさに3日前に議会での審議が始まったところだという。

公開討論で保健医療のあり方を議論

最初の公開討論では、今後の保険医療のあり方を民主主義的に議論するという意味があるとデルフレシ氏は強調した。政治家、医師や科学者、そして社会の３者が向き合い、市民や社会全体がどのような医療を志向しているかを汲み取る場になるという。ウェブサイトでの情報提供に始まり、各地域での討論会の開催、学者や学会、さらには宗教団体などへの聞き取り、そして市民委員会の設置など、複数の方法でコミュニケーションが取られた。CCNEが重点的に議論したテーマは終末期医療、生殖補助医療、人工知能とロボットの普及、健康と環境、幹細胞とヒト胚の研究などの9つで、中には複雑なテーマもあるため、特に新興のテレビ放送局を意識して情報発信も行ったという。

また、フランスの社会の縮図となるように人員構成が考慮された市民委員会は匿名の市民が協議をする場で、専門家ではない人にとってどんなことが理解するのが難しいのかを知ることができたとデルフレシ氏は意義を語った。一方の各分野の専門家らとの会合は、ヒト胚の研究やゲノム医療、神経科学などの難しいテーマについて議論する場を作ることができたという。

こうした議論を通して、科学技術の変化が考え方や倫理観に影響を与えることを踏まえ、いかに市民と専門家の意見のバランスをうまくとっていけるかが引き続き課題だとデルフレシ氏は振り返った。まだ法改正の途中の段階だが、もし何か教訓が得られたとすると、公開討論や情報提供の重要性や、意見に相違点があることをあらかじめ理解しておくこと、意見は必ずしも収束する訳ではなく違う立場の相手の話を聞くということの重要性を理解すること、１つのコミュニケーションツールでは全体像は掴めないため、全てのツールから得られる情報を補完してやっと国民の意見を理解できるということを身をもって体験できたとした。

「医療システムは弱者を守るものであるべき」

フランスで社会を巻き込んで進められる議論の背景には、フランス社会の文化と併せて医療システムは弱者も守るものであるべきという考え方があるという。その中で、新しいテーマも出てきており、AIやゲノム関連の新しい技術を活用した新しい医療は単なる新技術ではなく、患者の役割とはどうあるべきかも考える必要性が生じているという。公開討論を踏まえてCCNEでは生命倫理法の今後のあるべき方向性を専門家の意見として提示した。いかに市民や社会全体を巻き込んでいくか、「保険医療の民主主義」とでもいうべきテーマは世界保健機関（WHO）や欧州評議会でも議題となっていると指摘した。

フランスの生命倫理法の改正はこれから審議され、現在の法案からさらに修正が加えられる可能性があるという。この法案は、生殖など生命の根本に関わるため、議員が所属政党にかかわらずに個人の考えで自由に判断できるという。市民を巻き込んだ公開討論の内容が反映された専門家集団CCNEの意見を踏まえて、国民の代表が法案を採択しているフランスの状況は、参加型民主主義の実現の一つの形だとデルフレシ氏は自信を込めて説明した。今回ほどの大規模な生命倫理に関する公開討論はこれまで実施されたことはなく、フランス独自の複雑なプロセスを経て実際に法改正が実施された後には真の教訓が得られるはずだと期待を込めた。

2番目に講演したのはフランス国立情報学自動制御研究所（INRIA）のクロード・キシュネール氏で、フランス国家倫理諮問委員会（CCNE）がテーマを設定して倫理的な課題を議論するワーキンググループにデジタル技術の専門家として参加した経験をもとに、特にデジタル技術と医療の関係についての自身の意見を紹介した。デジタル技術の進展と医療分野でのさらなる活用はもはや止めようがなく、その前提を踏まえた上で個人情報とも関連が強いデータの扱い方についてどう議論していくべきか、誰もが必要な医療に平等にアクセスできる環境をどう整備していくべきかなど、ワーキンググループでの議論を通じて特に重要と感じた課題を指摘した。

遠隔医療、手術室、医学教育・・・デジタル化で変化進む

デジタル技術の進展には驚くべきものがあり、世界はどんどん変化しているとキシュネール氏は切り出した。こうした変化はほんの数年前までは想像もできなかったイノベーションをもたらすが、新しい課題も生じる。そうした中で、キシュネール氏は「情報」の重要性について改めて強調した。特に、20世紀半ばまで物質や生命、エネルギーなどについての研究が進められた一方で、それらを含むあらゆるものに関わる情報そのものの研究が手薄だったと指摘した。フランスの哲学者の故・ミシェル・セールが言語や線画の登場、文字の発明、印刷技術の発展、デジタル技術がもたらす革命というような情報の形の変遷を人類の進化に関連付けたことに触れ、いかに今日のデジタル化が新たな革命につながるものであるかを提示した。

このようにデジタル化が急速に進んでいる現在の状況は今までとは異なる変化の真っ只中にあることになるが、なぜデジタル革命が大きな変化をもたらすのだろうか。キシュネール氏は、人間自体が情報処理のシステムだから、との見方を示した。DNAや細胞、臓器、身体などは情報処理システムで、こうした生物的なシステムとデジタルのシステムは互いに補完するもので、互いに影響もし合うという。そのため、急速なデジタル化で医療や生命科学のあらゆる分野で倫理的な課題に直面しており、フランスのCCNEも世論の動向を知って現状を分析し、CCNEの意見の取りまとめに向けてワーキンググループを設置し、キシュネール氏も参加した。

例えば医療の分野では機械学習や遠隔医療、手術室のデジタル化など、デジタル技術によってあらゆる領域で変化が起きている。医学教育も、さらにデジタル化が進む将来に技術を活用できる人材の育成が必要になるため変わってきているという。こうした点も把握し、ワーキンググループでは改めて医療の領域へのデジタル技術の浸透が高速で起きていること、後戻りできない事態であることを認識したとキシュネール氏は話した。デジタル技術は医療の質向上や効率改善の柱になるという可能性がある一方で、まだ可能性の実現に向けて動き始めたばかりの段階で、技術の今後の発展に関連して出てくる倫理的な問題も引き続き捉えていく必要があるとした。

希少疾患患者のデータをどうするか？データを巡り倫理的な課題も

すでに実際にデータに関連する倫理的な課題として、希少疾患の患者のデータを研究目的に活用するか、という例を挙げた。患者のデータを集めると、家族や周囲の環境など、どうしても特定の個人に関する情報が含まれるようになってしまう。また、患者からインフォームド・コンセントを得られれば十分なのかも考えなければならない。大量のデータのやり取りのためにGmailやDropboxを使う医師もいるが、個人データの秘匿性が担保されない可能性を指摘する意見もある。自動車の排ガス制御ソフトを開発しているエンジニアであれば、排ガス処理のプロセスに手を加えれば倫理的な問題が生じるが、倫理的に問題があると分かっていても会社の指示があった場合、エンジニアはどう対応すべきなのか。倫理的な問題は、様々な形で生じる。

一方で、デジタル技術を十分に活用しないことで倫理的に問題が起きることもあるという。デジタル技術によって医療へのアクセスが改善され、医療の質の格差を小さくしたり透明性を確保したり、患者の選択の自由の余地が広がる方向にデジタル技術は作用する一方で、年齢や文化的背景、健康状態の影響で患者がデジタル弱者になってしまった場合、逆に医療を受ける選択肢が狭められしまい、受けられる医療の質が下がってしまう事態も想定され、医療全体の仕組みを土台から揺るがしかねない。キシュネール氏が参加したワーキンググループでは、誰もが使える形でデジタル技術を医療の分野に浸透させることを優先事項としながらも、医療でデジタル技術を使う場合には人間の関与を保証すること、例えば人工知能などが関わってくるようになった場合にはアルゴリズムの診断よりも人間の判断を上位に置くことも必要だと強調しているという。

3人目の演者として登壇した日本医師会常任理事で、はとりクリニック院長の羽鳥裕氏は、医療でも活用されるようになっている人工知能（AI）に対してどう向き合うか、日本医師会での取り組みを中心に話した。日本医師会は「保守的」な組織と思われているかもしれないが、日本に32万人いる医師のまとめ役の一つで、保健医療にAIを活用する総務省のプロジェクトや、より人間らしいAIの研究開発プロジェクトへの参加など、新しいテーマにも挑戦しているという。

内視鏡や眼科画像で実用化進むAI

日本医師会が2016年から2018年にかけて開催した第9次学術推進会議では、AIの専門家を招いて講演を聴き、主に３つのテーマについて議論した。1つ目がディープラーニングを中心にAIの基礎、2つ目が人工知能の医療応用例、そして3つ目が医療と倫理や法、そして患者との関係についてだ。まず最初の基礎では、これまでのAIのブームを振り返り、心電計のように決まったパターンを認識して診断の支援をする装置のようにAIと言える域に達した機器類の登場を経て、3度目のAIブームが来ている状況を確認した。過去の持続しなかったブームと比べて、今回のブームではAIの研究開発も急速に進んでおり、来るべき量子コンピューターの時代には人の知能を機械が上回る「汎用人工知能（AGI）」の登場の可能性などについても議論したという（日本医師会の『第Ⅸ次学術推進会議報告書「人工知能（AI）と医療」について』を参照）。

AIの医療への応用については、東京大学医科学研究所で白血病の最も適切な治療法を選ぶのにIBM社のワトソンが、実際にAIが役立つことを示した具体例と評価し、NECが進めている顔認証の技術開発についても話を聞いた。現在では中国が積極的に顔認証技術の研究と活用を進めているが、日本の企業も得意分野だったはずなのに追い抜かれたのは残念なことだ。そしてAIを医療で活用するためには、医療と倫理や法律、そして患者との関わり方についてそれぞれきちんと理解する必要があるということを改めて最後に確認したという。

すでにAIの活用は具体的に進められており、日本消化器内視鏡学会では、内視鏡を消化管に挿入して検査している最中にAIを搭載したパソコンが0.2秒の間に病変を見つけて診断の支援をできるシステムがもう実現できる時代になった。オリンパスや富士フイルムなどの大手企業や、個人の医師で癌研有明病院のデータを使ってAI内視鏡の開発をしているただともひろ胃腸科肛門科院長の多田智裕氏らの研究成果に期待が集まっているという。

羽鳥氏は多田氏のAI内視鏡が一番早く厚労省の承認を得て実用化される可能性があるとみており、神奈川県川崎市の自身のクリニックで、川崎市医師会、 新エネルギー・産業技術総合開発機構（NEDO）、商工会議所、行政などと連携して今後３年で実証実験に取り組む予定だ。羽鳥氏が多田氏の研究について知ったのは３年前で、これほど早く実用化が具体的に進行することは予想外で、リアルタイムに診断がつくことは画期的な技術だと感じる一方で、新しい機械を使いこなせなければ今後は高い品質の医療を提供できなくなるという危機感を持っているという。

他にも日本眼科学会でもAIを活用するための技術開発は進んでおり、これまで蓄積されてきた膨大なデータベースを活かした様々な診断の補助が可能になる。米国でも様々な成果発表があり、例えば眼底の画像をコンピューターで分析して緑内障の判別が可能になってきている。最初は100枚の既存の眼底の画像をコンピューターに学習させて、新しい画像をコンピューターに判別させると正診率が70％程度だったのが、2000枚にすると85％に改善した。たかだか2000枚にするだけでこれだけの精度を実現でき、さらに10万枚や20万枚に増やしていけば機械的な医師よりも正確に病状を判別できるようになる可能性があるという。同じようなことは皮膚科や放射線科のCTの診断でも起きているが、内視鏡や眼科の領域の事例を見るだけでも医療分野へのAI活用がいかに画期的かが分かる。

医療AIについて日医で再度議論

今後、個人情報保護法を踏まえながらも医療データをしっかり活用するために、2018年に施行された次世代医療基盤法に沿って環境が整備されていくことになっている。まだ議論されているところだが、ひとまず厚生労働省が今年2月に医師が最終的な診断をしなければならないと決めたことには、羽鳥氏はひとまず安心したという。そして日本医師会では今後2年間、第10次学術推進会議でさらに医療AIの開発の課題など、AIの新しい展開について理解を深めながら議論をしていく予定だ。テーマとしてはデータ活用・収集のためのインフラの整備や、教育と育成を検討しているという。

日本医師会では6つの文章からなる「医の倫理綱領」を設定していて、特に最後の文章「医師は医療にあたって営利を目的としない」と、4つ目の「医師は互いに尊敬し、医療関係者と協力して医療に尽くす」という点を特に意識して、医療の分野にAIやコンピューターといった新しい技術を取り入れようとしているという。

4人目の国立病院機構東京医療センターの尾藤誠司氏は、「『アルゴリズム医療』が実装された診察室における患者と専門家の在り方」と題して講演した。尾藤氏が研究代表を務める科学技術振興機構（JST）のプロジェクト「『内省と対話によって変容し続ける自己』に関するヘルスケアからの提案」（プロジェクトのサイト『うまくいかないからだとこころ』を参照）の研究に基づき、内科医として診察室の現場にいる実感を踏まえて、人工知能（AI）などの新技術の浸透によって医師の役割がどう変わっていくと考えられるか、自身の考える未来について話した。

病院は「ディストピア」

病院で働いていて、尾藤氏は病院はディストピアだと感じるという（尾藤氏のコラム『“病院”は未来の“ディストピア”の予見空間かもしれない』参照）。病院にはCTやMRI、エコー、採血などいろんな検査技術があり、一歩病院に足を踏み入れた患者は様々な情報を搾取されていく。ルーティン検査と呼ばれるものによって知らないうちに健康情報が吸い出されて解析され、突然将来についての宣告を受ける。血糖値の厳格な管理のための食事管理や薬の内服を続けなければ脳梗塞で半身不随になるなど、脅しに近いようなインフォメーションが突きつけられる。自分の体内の微細な血管がいかに詰まりやすいかなど、自分でも知らなかった情報、リスキーな自分を突きつけられ、そして医師は、こうしたリスクがある人は将来的にどんな危機があるかの事実を続けて提示する（尾藤氏のコラム『研究ノート：情報化される個人の現在と未来【前編】ー不確実性とともに個人を「診断」し、個人の未来を「予言」すること』参照）。

医師や看護師は「事実」を提示しているが、尾藤氏はここに「マジック」もしくは「呪いの呪文」が隠されていると表現する。リスキーな現在と未来の可能性をつなげることで、医療の論理に沿って患者の考え方を誘導するというのだ。だが、これまでは患者と医療者の関係性の中で情報のやりとりがあったが、コンピューターの発達によって第3のインフォメーション発信の端末が出てきたことになる。こうした状況でどんなことが起きるのか、これまで研究してきた。

全ての情報は単に事実を提供しているのではなくてメッセージも含まれている。例えばテレビの天気予報で見ている人に傘を持っていくことをアドバイスすると、天気予報の正確性を信頼し、また、雨に濡れたくないという思いとのズレもないため、素直に言う通りにする人は多い。だがそれが天気予報ではなく占いに左右される人になるとどこか不安な印象になる。では、クリニカル・プラクティス・ガイドラインに沿ってリスクグループに分類され、将来の病気を避けるために現在の健康的な生活について提案があった場合、人はどうするだろうか。インフォメーションのマジックはこういうところになると尾藤氏は感じるという。さらに個人のゲノム情報や詳細な医療情報に沿って何か治療法を提示された時、どこまで自主的な決断ができるのだろうか。

内科医の仕事は「パターナリズム」

こうした関心に沿って研究を進めて、開発したのが「知恵の木の実システム」だという。アダムとイブが知恵の木の実を食べた時に何を得たのかを理論的に解析するというような意味を込めた名称のシステムになっている。情報を受け取ることや知ることは理解することでもあるが、自分の認識に価値付けをして自分の中の規範や価値観が書き換えられていくことでもあると尾藤氏は考えているという。ただ、認識が変わって価値が揺らぐ時、葛藤が生まれる。例えばがんで手術が必要だと言われると、誰しも葛藤する。この葛藤は、人生の一つのプロセスでもあり、苦しみでもあるが、人生の歩みを進めていくためのエネルギーにもなりうる。自己は書き換えられていくのはいいことでもあり、不安なことであるが、この不安とどう向き合うかをテーマにしていたという（尾藤氏のコラム『ポスト安心希求社会での個人と社会のあり方【中編】：「知る」ことと「自己変容」との関係』参照）。

価値付けが外からされている情報は、医療を含めて様々にある。こうした外側の価値に振り回されないようにしましょうとは言える。ただ、手術で治る可能性があると言われた時、この情報をどう受け止めるか、意識付けをしていくというのがこれからの人間のスキルになっていくのではないかと尾藤氏は推測した。

診察室で医者は、患者に「風邪ですね」というようなことを言う。だが、風邪と診断するのは、結核や肺炎などのような深刻な病気ではなく、3日後には回復するような何かしらの体調不良をまとめたようなものだという。こうしたまとめ方は不誠実かもしれないが、内科医の役目であると考えているという。ただ、内科医の仕事の一端にパターナリズムがあり、パターナリズムを否定すると思考停止に陥るかもしれない。また、ゴールに向かうプロセスが実はゴールだったということがあるように、医療では苦痛を和らげることと寿命を延ばすこと、あるいは苦痛とともに生きることがゴールになることがある。家族が患者のために出来る限りのことをしてあげたいと言っている時、医師や看護師、ソーシャルワーカーで文脈と意味は変わることがある。こうしたことも含めて患者は葛藤の材料にすることも必要で、一方のヘルスプロフェッショナルは文脈や感情を理解して患者の葛藤を支える役割に変わっていくのではないかと考えているという。

最後のパネルディスカッションでは、これまでに登壇した４人に、東京大学未来ビジョン研究センター特任講師の江間有沙氏と慶應義塾大学メディカルAIセンターの藤田卓仙氏の2人がディスカッサントとして加わり、６人で会場からの質問に答えたり、個人情報でもある医療情報をどうやって活用していくかについて日仏の考え方の共通点や違いなどについて話した。主な議論を以下に紹介する。

「コンセンサスを得るよりも意見の異なる相手の話を聞くことの方が重要で難しい」

フランスでの生命倫理法の改正に向けて、社会の中での合意形成で何が困難だったかを尋ねる質問が会場の聴衆からあった。それに対して、デルフレシ氏は、公開討論など一つの手法で正しい答えが分かるわけではない点を挙げた。複数の方法を駆使して社会の中にある考え方をやっと浮かび上がらせることができるという経験を踏まえた実感を語り、一方でコンセンサスを得ることよりも意見の違う相手の話を聞くことの方が重要でかつ難しいことだと指摘した。

倫理的な課題は個人の選択にも絡むが、社会全体にも影響する。そもそも生命倫理法で社会の問題をどう扱えばいいのかも議論になり、人工授精や着床前診断などの生殖補助医療では特に幅広い考え方があったという。独身女性や同性愛の女性でも法律の枠組みで人工授精を選択できるようにするのか、医療は治療だけのものなのか、それとも人の望みに応える方法であってもいいのかなど、コンセンサスは得られなかったため、最後は政治判断になるだろうとの見方を示した。

患者の医療情報を利用したAI活用の課題

また、患者個人の医療情報を利用したAIを活用する時の課題に関する質問があった。キシュネール氏は由来がわかっている品質の高いデータを集めることの重要性を指摘した。AIのアルゴリズムはそうした元のデータの質まで考慮した分析ができないため、最終的にはAIがはじき出した結果の妥当性を人間が判断する必要があるという。また、AIが導き出した結果は統計的な推測ではあっても、論理立てて説明できないこともある。人間の患者に分かる形での説明が現在はできていないことは一つの課題だとした。

こうしたフランスの状況に対して、藤田氏は２種類のトラスト（信頼）に関する課題が日本でもあるとした。１つ目はデータがどれだけ信頼できるものであるか、そのデータを使ったAIをどれくらい信頼できるかという問題だ。技術の精度だけではなく、AIの予測を患者に説明する医師をどれだけ信頼できるかなど、AIを活用する場面によって様々なトラストを考慮しなければならないとした。また、２つ目として個人情報保護の観点から、人権を侵害せずに個人の医療情報を活用できるようにするためのルール整備を挙げた。日本では来年にも個人情報保護法が改正される見通しで、フランスでもGDPR（EU一般データ保護規則）が施行されていて、データの扱い方についてはさらに議論が必要だと強調した。

デジタル技術が人々の考え方を変えていく現状

藤田氏の意見に対して羽鳥氏は、データのアノテーションとデータマイニングが今後さらに重要になるという自身の意見を付け足した。AIを組み込んだ医療機器を使うと、新しいデータがさらに追加されるが、その質に左右されて医療機器自体の精度が変わるようになる。尾藤氏も、今後10年もすれば生活環境の中に設置されたセンサーによって生活するだけで様々な個人情報が吸い上げられていくようになるため、プライバシーの保護について個人が選択できるように権利を守る必要があると指摘した。

データを個人に付随するものとして管理していくべきか、それともシェアしていく公的な資産として扱うべきか、江間氏がフランスでの議論について聞くと、キシュネール氏はデジタル技術が人々の考え方を変えていく現在の状況を指摘した。例えばインターネットで公開した画像は誰もがアクセスでき、自分の把握できないところで広まっていくこともありうる。自分自身と自分の情報という関係自体がデジタル技術の進展の影響で変化してきているという。また、デルフレシ氏はフランスで起きた薬の副作用の問題を紹介した。副作用の危険性を指摘するデータは数年前から存在したものの、データにアクセスできなかったため、専門家でも気付くのが遅くなってしまったという。個人と集団ではどっちが正しいということではないが、一方がより規制されるということになるだろうとの見方を示した。

医療機関と患者の間の情報の非対称性、今後は対等に

尾藤氏は、データを取り込んだコンピューターが何かしらの判断を出すことに感じる気持ち悪さと便利さという相反する感覚をどう受け入れていくのがいいのか、言語化していきたいとした。また、羽鳥氏も患者と医療機関が保有している医療情報が現在は非対称で、現在は医療機関側に集中しているが今後は対等な形になっていくという予想をし、それでもデータが示すことを患者に正確に理解してもらうために、まだ医師が担える役割があるはずだとした。

藤田氏は、医療データの中でも特にデリケートなゲノムデータが国際的にも共有されて研究に活用されている状況を紹介した。データの性質も大事だが、何に使うのかという目的も重要になってくると予測した。医療自体のあり方が変わる中、様々なデータが誰によってどんな医療に使われるのか、アクセスを制御する必要があるのかなど、議論はまだまだ必要だとした。