国際シンポジウム:AIガバナンスとセキュリティ

  • 日程:
    2019年12月06日(金)
  • 時間:
    14:00-16:00
  • 会場:
    東京大学 情報学環・ダイワユビキタス学術研究館 大和ハウス石橋信夫記念ホール(3階)
    地図
  • 主催:

    東京大学未来ビジョン研究センター

  • 共催:

    東京大学科学技術イノベーション政策の科学教育・研究ユニット(STIG)
    東京大学次世代知能科学研究センター

  • 言語:

    日本語・英語(日英同時通訳あり)

  • 定員:

    100名

概要

現在、人工知能(AI)をはじめとする情報技術のネットワークが、医療、金融、戦争などのクリティカルな場面において、意思決定支援として用いられはじめています。その時、人と機械の役割や責任はどのようになっているのでしょうか、またどのようであるべきなのでしょうか。
また技術はグローバルに展開をするため、現在、OECDなどの国際的なレベルでAIをどのようにガバナンスするかの議論を開始しています。日本も内閣府が「人間中心のAI社会原則」を発表しましたが、国際的な議論において日本の政府、産業、そして大学はどのような取り組みができるでしょうか。
本イベントでは、国際政治学の立場から戦争などにおける人と機械の責任について論じられているトニ・アースキン教授(オーストラリア国立大学・ケンブリッジ大学)と、経済協力開発機構(OECD)の、AIに関する専門家会合(AIGO: AI expert Group at the OECD)の専門会員も務めるテイラー・レイノズル教授(MIT)をお招きして話題提供を行っていただいたのち、本学の教員も交えてAIガバナンスとセキュリティの課題と展望について議論します。

プログラム
  • 14:00
    開会挨拶

    城山英明教授(東京大学公共政策大学院/未来ビジョン研究センター)

  • 14:05
    講演1:トニ・アースキン教授(オーストラリア国立大学)

    「失われた責任?戦争におけるAI、制約、意思決定のアウトソーシングの結果」

  • 14:35
    講演2:テイラー・レイノルズ教授(MIT)

    「AIのセキュリティとガバナンス-あらゆる開発段階における各国の挑戦」

  • 15:05
    パネルディスカッションと質疑応答

    -パネリスト:トニ・アースキン教授、テイラー・レイノルズ教授、國吉康夫教授、城山英明教授
    -司会:江間有沙特任講師(東京大学未来ビジョン研究センター)

  • 15:50
    閉会挨拶

    國吉康夫教授(東京大学情報理工学系研究科/次世代知能科学研究センター)

講演要旨

トニ・アースキン教授


人間の介入なしに誰を標的にして殺すかを決定することができる武器―いわゆる 「自立型致死兵器」 、あるいは「殺人ロボット」 ―の可能性は、政策関係者と研究者の間で大きな注目を集めている。先進的な人工知能システムは壊滅的な被害や失敗をもたらす可能性が非常に高く、それを制御したり修正したりするには、国家や人類一般の力では不可能だとよく言われている。解決策としては、完全に自律的な兵器開発の一時停止と、その使用を先制的に禁止する国際的な取り決めがある。潜在的な将来の脅威について何をすべきかの議論は広範囲で重要である。しかし残念なことに、この 「殺人ロボット」 という単語に注目が集まってしまうことで、現在の人工知能がもたらす、より差し迫ったリスク―倫理的、政治的、さらには地政学的にも深い意味を持つリスク―を覆い隠してしまうという問題がある。
今回の話題提供の議論は、既存のAI主導の軍事的兵器(特に人間が意思決定に関与しつつもターゲットの設定支援をする自動化兵器)が、「われわれがどのように計画し、どのように行動し、自分たちを責任あるエージェントと見なすか」の認識を変えてしまうことで、現在、国際的に支持されている武力行使の際の寛容の原則を損なう恐れがあるという懸念に端を発している。戦争時に人工知能に依存することが、私たちが個人的にも集団的にも、抑制の責任をどのように理解し、実行するかにどのように影響するかを問う必要がある。この問題は、学術、軍事、公共政策、メディアの世界では議論されていないが、重要である。

テイラー・レイノルズ教授


世界の経済システムは対照的だ。我々は、貧困率の上昇、貿易摩擦、世界的な投資の減速などの数十億の人々の生活水準を脅かすような重大な経済リスクに直面している。同時に、機械学習やロボット工学のような分野における技術の飛躍的進歩は、高効率低コストに改善されたサービスを消費者に提供する。しかし、これらの技術は、破壊的な経済的・社会的変化や、新たなセキュリティやプライバシーの問題も引き起こす。こうした対抗勢力の中で、政策立案者は最終的に、より多くの人々により良い経済成長と社会的利益をもたらしたいと考えている。
このため、政策立案者は、すべての人々の経済成長を支え、社会福祉を向上させるために、コンピューティング技術の利点をどう社会として活用できるかという疑問を投げかける。先進国と開発途上国の両方の政策立案者は、新たな規制に機敏に対処するための十分な準備ができているだろうか。これらの新しいシステムを構築する際に、技術者は長期的な影響を十分に考慮できていると確信できるだろうか。これらの目標を達成するために、政府、技術者、研究者はどのように協力できるだろうか。

講演者略歴

トニ・アースキン教授


オーストラリア国立大学(ANU)国際政治学教授、コーラルベルアジア太平洋問題大学院長。またケンブリッジ大学リバーヒューム知的未来センター(Leverhulme Centre for the Future of Intelligence)アソシエート・フェロー。専門は国際関係理論、科学技術の特に戦争における責任論。さらに詳細は英語サイト を参照。

テイラー・レイノルズ教授


マサチューセッツ工科大学(MIT)コンピュータ科学と人工知能研究室(CSAIL)教授、インターネット政策研究イニシアチブの技術政策ディレクター。経済協力開発機構(OECD)の、AIに関する専門家会合(AIGO: AI expert Group at the OECD)の専門会員も務める。専門は国際AI政策やサイバーリスク。さらに詳細は英語サイトを参照。