情報技術のガバナンスを考えていくにあたっては、個別ケースや事例に焦点をあてて議論をしていく必要があります。具体的には、以下のテーマに焦点をあてて研究と活動を行います。
1.AIサービスとリスクコーディネーション研究会
人工知能（AI）サービスや製品の社会実装が拡大する一方で、AIの信頼性や透明性に関する問題が課題となっており、各国・企業においてガイドライン策定やツール開発などの様々なアプローチが開発されています。しかし多くのケースにおいて、下記のような課題から各アプローチを十分に実践できていない状況があります。
- AIサービス毎に重要なリスクが異なる
- AIモデルだけではリスクを十分に対応し続けることができない可能性がある
- ユーザーを含む人間がリスク要因になる可能性がある
これらの課題を解決するためには、AIサービスや製品にとって重要なリスクは何なのか、誰がそのリスクに責任を持つのか、どのような評価指標やツールを使っていくのかを考えるためのフレームワークが必要です。
本研究会は、東京大学とデロイトトーマツリスクサービス株式会社の共同研究プロジェクトとして運営され、東京大学の研究グループが開発したリスクチェーンモデル(RCModel）などを用いて、具体的な事例の調査・研究を実施します。
また日本電気株式会社の「AIの倫理・法制度に関する研究」やＡＩビジネス推進コンソーシアムの「ＡＩ倫理ＷＧ」をはじめとする様々な組織や企業から事例提供等の協力をいただき遂行しており、AIの企画・開発・提供・利用に関するリスクを関係者間で考えるため、誰でもが使えるプラットフォームの形成を目指しております。
なお本研究会は、公益財団法人トヨタ財団D18-ST-0008「人工知能の倫理・ガバナンスに関するプラットフォーム形成」の一環として実施するものです。
2. サイバネティック・アバター社会
サイバネティック・アバター（CA）技術とは、人々が自身の能力を最大限に発揮し、多様な人々の多彩な技能や経験を共有できる技術です。サイバネティック・アバターという「新しい身体」を得ることで、身体の制約を超えて誰もが自由に活動できるようになる社会が可能になります。そのような社会はどうあるべきか、また社会実装にはどのような課題があるのかについて、技術の開発段階から法的、倫理的、社会的な観点を議論する必要があります。
そのため研究会開催等を通して、技術の開発者、人文社会科学の研究者、政策関係者や実際に技術を利用する当事者の方々などとの交流や知見の交換を進めていきます。本研究会は東京大学未来ビジョン研究センターと大阪大学社会技術共創研究センターが主催して開催します。
また、本研究会は第一歩としてムーンショット型研究開発事業ムーンショット目標１「 2050年までに、人が身体、脳、空間、時間の制約から解放された社会を実現」 の「身体的共創を生み出すサイバネティック・アバター技術と社会基盤の開発」 の研究の一環として実施します。
https://www.jst.go.jp/moonshot/program/goal1/
3. AI社会における未来ビジョン研究会
人工知能（AI）をはじめとする情報技術と社会の相互作用は、様々なリスクとベネフィットのトレードオフ問題を生みだすため、人間の本質や社会的意思決定・制度設計に関する再構築が必要です。これらの課題に対しては、国際的かつ学際的なネットワークを構築し、多様な未来社会の方向をデザインする方法論や具体的なツールが求められます。本研究会では多様なステークホルダーと協力しながら、国際的な比較を行いつつ、実装に資するビジョン、ツールやフレームワークを調査・研究します。
4. 医療×AI研究会
医療現場での課題解決に向け様々なテクノロジーが導入される中、AIやITの臨床現場での実装も進みつつあります。現場での課題を熟知する医師による開発や実装、医師と協働する開発者ら、社会実装に向けた仕組みをつくる政策関与者も増えてきました。
本研究会では、セミナー開催等を通して医師や開発者、政策関与者らが、それぞれの経験や知見を基に、開発・臨床現場で役立つ情報を共有し、関係者同士の交流をはかり、医療現場での新しいテクノロジーの実装を進めていくことを目的とします。セミナーは東京大学未来ビジョン研究センター、慶應義塾大学AIメディカルセンター、エムスリー株式会社m3.com編集部が主催して開催します。本セミナーはJSPS科研費JP17KT0157「ビッグデータに基づいた医用人工知能の実装に向けた多面的検討」、JST-RISTEX JPMJRX16H2「多様な価値への気づきを支援するシステムとその研究体制の構築」と公益財団法人トヨタ財団D18-ST-0008「人工知能の倫理・ガバナンスに関するプラットフォーム形成」の研究の一環として実施するものです。
5. 記憶と忘却のガバナンス研究会
ある人にまつわる情報をデータとして記録・活用することは、現在・将来において、個人や社会の根幹を支える知的資源になります。他方、パーソナル・データが大量に収集・蓄積・分析される現在において、社会がすべてを「記憶」することの課題も生じています。
典型例として、犯罪歴などの取扱いが挙げられます。かつては、物理的制約によって情報が「風化」され「リセット」されたため、更生の機会確保にもつながってなっていました。しかし現代では、報道のデジタル化、検索技術の普及、アーカイブの発達などによって、誰でもいつでも容易にアクセス可能となり、問題視されています（「忘れられる権利」論）。同時に、当該個人が公職等にある場合など公益との関係はどうか、削除対応により報道機関や検索サービス提供者などの表現の自由が過度に制約されるのではないか、などの疑問も示されているところです。適度な「忘却」が求められるとしても、どの情報を社会的「記憶」にするか、また、その決定を誰がどのように行うか、いまだ網羅的な指針はありません。
そこで、本研究会では、（a）指針の基盤となる概念・価値や、利益間の衡量の枠組みを明らかにし、（b）それを実現するための政策の方向性などを示します。なお、遺伝情報など他者に影響が及ぶ情報を個人の自己決定に委ねてよいか（「グループ・プライバシー」）、データ流通の基盤を支える新しいアクター（検索サービス提供者や「情報銀行」などの事業者）と公的機関（司法・行政・立法）の間の規範策定・執行に係る役割分担はどうあるべきか、データポータビリティ、社会的烙印と包摂なども検討の射程に入ります。