AIサービスのリスク低減を検討するリスクチェーンモデルの提案

要旨

近年、人工知能(AI)サービスや製品の社会実装が拡大する一方で、AIの信頼性に係る問題が発生しており、AIサービス提供者は多岐にわたるリスクへの備えが求められています。技術ガバナンス研究ユニット AIガバナンスプロジェクトでは、AIサービスのリスクコントロールを検討するためのケーススタディとモデルの研究を行ってきました。

その成果の一つとして、本政策提言では様々なAIサービス提供の形態の存在を踏まえつつ,AIサービス提供者が自らのAIサービスに係るリスクコントロール検討に資するモデル「リスクチェーンモデル(Risk Chain Model: RCModel)を提案しました。今後、他のステークホルダーとの共同研究の積み重ねを通して、フレームワークを体系化していく予定です。

政策提言

全文は以下よりダウンロードいただけます。

論文要旨

論文著者

松本敬史(有限監査責任法人トーマツ/東京大学未来ビジョン研究センター)
江間有沙(東京大学未来ビジョン研究センター/理化学研究所革新知能統合研究センター)

論文概要

近年、人工知能(AI)サービスや製品の社会実装が拡大する一方で、AIの信頼性に係る問題が発生しており、AIサービス提供者は多岐にわたるリスクへの備えが求められる。そこで、本政策提言では様々なAIサービス提供の形態の存在を踏まえつつ,AIサービス提供者が自らのAIサービスに係るリスクコントロール検討に資するモデル「リスクチェーンモデル(Risk Chain Model: RCModel)を提案した。信頼性の高いAIサービスの実現にRCModelが役立てられることを期待する。

リスクチェーンモデルの概要

1)リスク構成要素の整理と構造化
AIサービスの提供にあたりリスク要因になり得る要素(以下、構成要素)は数多くある。それらをRCModelでは、(1) AIシステムの技術的構成要素、(2) サービス提供者の行動規範(ユーザとのコミュニケーションを含む)に係る構成要素、(3) ユーザの理解・行動・利用環境に係る構成要素に構造化した。

2)リスクシナリオの識別とリスク要因となる構成要素の特定
不公平な判断、制御不能による事故等、AIサービスに係るリスクシナリオを識別した。そして優先して検討すべきリスクシナリオについて、リスク要因となる構成要素を特定した。

3)リスクチェーンの可視化とリスクコントロールの検討
リスクは構成要素単体では十分に低減することが難しいため、AIサービス提供者はリスクシナリオに関連する構成要素の関係性(リスクチェーン)を可視化することで、段階的なリスク低減の検討が可能になる。それによって、リスク要因の所在や効果的かつ効率的なコントロールを検討できる。

提言1: リスクシナリオと構成要素の理解促進


サービス提供者は、自らのAIサービスの構成要素を適切に把握する必要がある。また、AIをめぐる社会的な事例や事件にも注意を払い、重要なリスクシナリオを認識するべきである。

提言2:リスクチェーンモデルを用いた適切なリスクコントロールの推進


サービス提供者は、RCModelのリスクチェーンを可視化してリスクコントロールを検討すべきである。必ずしもすべてのリスクを低減する必要はなく、リスクの大きさや技術的難易度、費用対効果、継続性等を考慮して適切なコントロールを企業内に構築すべきである。

提言3:ステークホルダー間での対話の促進とアップデート


AIサービス提供者、AI開発者、利用者の間での対話促進にRCModelを用い、リスク許容度の明確化、リスクシナリオの作成、リスク構成要素の構造化、リスクコントロールモデルの検討、それぞれの責任範囲に関する共通理解を適宜アップデートする体制を構築するべきである。

 

図:リスクコントロールモデルの構成要素とリスクチェーン例


この政策提言は、以下の予稿論文に基づいて作成したものです。
松本敬史, 江間有沙「4N2-OS-26a-02 AIサービスのリスクコントロールを検討するためのモデル提案」, 2020年度人工知能学会全国大会, 2020年6月12日, 熊本県熊本市
https://confit.atlas.jp/guide/event/jsai2020/subject/4N2-OS-26a-02/tables?cryptoId=

  • 本政策提言は、議論の土台となるリスクアセスメントとコントロールのフレームワークを提供しています。今後、他のステークホルダーとの共同研究の積み重ねを通して、フレームワークを体系化していく予定です。
  • 本政策提言は東京大学未来ビジョン研究センター 技術ガバナンス研究ユニット AIガバナンスプロジェクトの成果の一つです。
  • 本政策提言「AIサービスのリスクコントロールを検討するためのモデル提案」はクリエイティブ・コモンズ・ライセンスCC-BY 4.0の下で公開されています。