• 2020.06.04 ｜

  政策提言

  ｜

  No.7

  技術ガバナンス研究ユニット

AIサービスのリスク低減を検討するリスクチェーンモデルの提案

近年、人工知能（AI）サービスや製品の社会実装が拡大する一方で、AIの信頼性に係る問題が発生しており、AIサービス提供者は多岐にわたるリスクへの備えが求められています。技術ガバナンス研究ユニット AIガバナンスプロジェクトでは、AIサービスのリスクコントロールを検討するためのケーススタディとモデルの研究を行ってきました。

その成果の一つとして、本政策提言では様々なAIサービス提供の形態の存在を踏まえつつ，AIサービス提供者が自らのAIサービスに係るリスクコントロール検討に資するモデル「リスクチェーンモデル（Risk Chain Model: RCModel）を提案しました。今後、他のステークホルダーとの共同研究の積み重ねを通して、フレームワークを体系化していく予定です。

政策提言

全文は以下よりダウンロードいただけます。

論文要旨

論文著者

松本敬史(有限監査責任法人トーマツ/東京大学未来ビジョン研究センター)
江間有沙(東京大学未来ビジョン研究センター/理化学研究所革新知能統合研究センター)

論文概要

近年、人工知能（AI）サービスや製品の社会実装が拡大する一方で、AIの信頼性に係る問題が発生しており、AIサービス提供者は多岐にわたるリスクへの備えが求められる。そこで、本政策提言では様々なAIサービス提供の形態の存在を踏まえつつ，AIサービス提供者が自らのAIサービスに係るリスクコントロール検討に資するモデル「リスクチェーンモデル（Risk Chain Model: RCModel）を提案した。信頼性の高いAIサービスの実現にRCModelが役立てられることを期待する。

リスクチェーンモデルの概要

1)リスク構成要素の整理と構造化
AIサービスの提供にあたりリスク要因になり得る要素（以下、構成要素）は数多くある。それらをRCModelでは、(1) AIシステムの技術的構成要素、(2) サービス提供者の行動規範（ユーザとのコミュニケーションを含む）に係る構成要素、(3) ユーザの理解・行動・利用環境に係る構成要素に構造化した。

2)リスクシナリオの識別とリスク要因となる構成要素の特定
不公平な判断、制御不能による事故等、AIサービスに係るリスクシナリオを識別した。そして優先して検討すべきリスクシナリオについて、リスク要因となる構成要素を特定した。

3)リスクチェーンの可視化とリスクコントロールの検討
リスクは構成要素単体では十分に低減することが難しいため、AIサービス提供者はリスクシナリオに関連する構成要素の関係性（リスクチェーン）を可視化することで、段階的なリスク低減の検討が可能になる。それによって、リスク要因の所在や効果的かつ効率的なコントロールを検討できる。

提言1: リスクシナリオと構成要素の理解促進

サービス提供者は、自らのAIサービスの構成要素を適切に把握する必要がある。また、AIをめぐる社会的な事例や事件にも注意を払い、重要なリスクシナリオを認識するべきである。

提言2：リスクチェーンモデルを用いた適切なリスクコントロールの推進

サービス提供者は、RCModelのリスクチェーンを可視化してリスクコントロールを検討すべきである。必ずしもすべてのリスクを低減する必要はなく、リスクの大きさや技術的難易度、費用対効果、継続性等を考慮して適切なコントロールを企業内に構築すべきである。

提言3：ステークホルダー間での対話の促進とアップデート

AIサービス提供者、AI開発者、利用者の間での対話促進にRCModelを用い、リスク許容度の明確化、リスクシナリオの作成、リスク構成要素の構造化、リスクコントロールモデルの検討、それぞれの責任範囲に関する共通理解を適宜アップデートする体制を構築するべきである。

 

図：リスクコントロールモデルの構成要素とリスクチェーン例

---