• 2023.10.24 ｜

  政策提言

  ｜

  No.24

  技術ガバナンス研究ユニット

AIガバナンスに資するAI監査の実践に向けて

人工知能(Artificial intelligence: AI)が社会の様々なサービスやシステムに組み込まれて利用されるにあたり、多くの企業や組織がAI原則やポリシー、あるいはコミットメントを提案している。一方、AIサービスやシステムを開発、提供側による自主的な原則だけではリスク対応には不十分であるとし、独立した監査の必要性も提唱されている。本稿では、AIサービスやシステムの監査に関する論点を整理して、AIガバナンスに資するAI監査を目指すための展望を示す。

AI監査をめぐる論点は多岐にわたり、また同じ単語であっても立場や前提の違いによって想定する内容が異なるため議論のすれ違いが発生しやすい。そのため、AI監査の実践に向けては、監査対象や監査のタイミングなどの論点についてそれぞれ共通理解に基づいて関係者が議論をすることが重要である。

本稿の第2章においてはAI監査を議論する上で想定される(1)監査の必要性、(2)立証命題、(3)監査対象、(4)実施タイミング、(5)実施者要件、(6)監査関係者と関係組織の6つの論点を取り上げ、それぞれについて概観を整理した。また第3章では、何故AI監査の実施が困難であるのかについて技術的、制度的、社会的等の様々な観点から検討した。これらの監査上の論点、監査を困難とする要因について、具体的なイメージが持てるよう第4章では採用AI事例を想定した検討も併せて実施した。

以上をふまえ、第5章ではAI監査を今後適切に進めて行くために以下の3点を提言した。

なお、本稿では入力データに対する認識や予測を行うAIを想定して検討を進めているが、生成AIをめぐる論点についても稿末の補章にて紹介している。

本政策提言は東京大学未来ビジョン研究センター技術ガバナンス研究ユニットの一プロジェクトであるAIガバナンスプロジェクトの研究会である「AI監査研究会」の成果報告である。AI監査研究会は2022年6月より研究活動を開始し、以下のメンバーより構成される。

• 江間 有沙 (東京大学未来ビジョン研究センター・准教授)
• 佐藤 亮 (東京大学未来ビジョン研究センター・客員研究員/有限責任監査法人トーマツ)
• 長谷 友春 (東京大学未来ビジョン研究センター・客員研究員/有限責任監査法人トーマツ)
• 中野 雅史 (東京大学未来ビジョン研究センター・客員研究員/東洋大学)
• 上村 信二 (有限責任監査法人トーマツ)
• 北村 弘 (CDLE・AIリーガル（日本電気) /IRCA(International Register of Certificated Auditors：国際審査員登録機構)「ジャパン」メンバーズサポーター)