元ユネスコ社会・人間科学担当事務局長補ガブリエラ・ラモス氏との対談「国際的なAIガバナンスと倫理」

2025年6月19日、東京大学未来ビジョン研究センター(IFI)は、元ユネスコ社会・人間科学担当事務局長補ガブリエラ・ラモス氏を迎え、「国際的なAIガバナンスと倫理」と題する包括的な対談イベントを主催しました。本イベントは東京大学公共政策大学院との共催で、在日メキシコ大使館の協力を得て実施され、著名な登壇者、学生、世界各国からの参加者が集まり、AIが社会やガバナンスにもたらす変革的な影響について深く掘り下げた議論が行われました。

イベントは、福士謙介教授(未来ビジョン研究センター センター長)による開会挨拶から始まりました。福士教授は、AIガバナンスにおいて学術機関が重要な役割を担っていることを強調し、大学は政治的、商業的な圧力を受けずに長期的な視点、多分野間の協働、倫理的な考察が可能な独立した場として機能すると主張しました。また、未来のエンジニア、科学者、政策立案者に優れた技術的能力だけでなく倫理的なリテラシーも身に付けてもらうことが重要だと述べ、先を見越してインクルーシブな社会を共同で作り上げていく上で今回の対談のようなイベントが不可欠だと指摘しました。

メルバ・プリーア駐日メキシコ大使は、AIの多面性と、現代の生活に深く根差した役割について意見を述べました。AIはすでに電気と同じように広く普及しているものの、若い世代がデジタルネイティブである一方で、高齢世代はAI技術との関わり方を意識的に選ばなければならないというように、世代間で適応度に差があるとプリーア氏は指摘しました。また、ラモス氏が国際機関で幅広い経験を積んできたことやユネスコ事務局長に立候補していることにも触れ、国や人々をさらに支援できる組織へとユネスコを変革することを目指すラモス氏のビジョンを強調して紹介しました。

ラモス氏の講演では、AIを巡る議論の見直しについて重点的に触れられ、AI技術そのものではなく、その技術を活用してどのような社会を目指すかを論点にすべきだと同氏は主張しました。さらに、急速な技術進歩には無力感を伴うことがよくあると警告し、技術開発の中で人間の主体性を維持することが極めて重要だと指摘しました。

ラモス氏は、驚異的なペースで進んでいるAI開発の現状についても説明しました。電気の普及率が米国の人口の25%に達するまでに50年を要したのに対し、iPhoneはわずか4年で同程度の普及率を達成しました。現在の生成AIシステムは、毎秒数兆個のパラメーターを処理しており、指数関数的な成長を示しています。このような技術が野放しで広がることがないように、慎重なガバナンスの枠組みが求められます。

ラモス氏は、直ちに対処すべき重要な課題をいくつか挙げました。第一に、世界には依然として大きなデジタル格差があります。世界の3分の1では安定したインターネット環境がまだ整っていない一方で、AI開発の80%が米国、中国、日本、韓国を中心とするわずか数か国に集中しています。このような集中化により、技術的な依存や文化的な均質化というリスクが生じます。

第二に、AIが雇用に及ぼす影響を巡る懸念に関して、取り組むべき点は、技術そのものに関することではなく、機関や労働者が効率的に適応するための準備だとラモス氏は強調しました。今後失われる仕事について考えるよりも、AIにできる作業や、変化を予測する方法に注目するべきです。

第三に、特に懸念すべき点として、バイアスと差別の問題が表面化しています。オランダにおいて、社会給付金の不正受給を防ぐためのアルゴリズムで、移民のルーツを持つ人々が体系的に差別され、その結果、家族が住まいを失ったり、子どもが学校に通えなくなったりする状況が起こったという事例が紹介されました。同様に、大手テクノロジー企業の人材採用アルゴリズムに女性志望者に対する体系的なバイアスが含まれることが明らかになりました。実際、AI 研究やビジネス分野には一般的に女性が少ないという問題があります。

そして最後に、言語の保護も重要な課題となっています。日本語、英語、スペイン語などの主要言語ではAI開発に多額が投じられている一方で、アイスランド語やスワヒリ語などの少数派の言語は軽視されるリスクがあります。この懸念は、単なるコミュニケーションの問題にとどまりません。言語は世界に対する文化的解釈を具現化する手段であり、主として多数派の言語で開発されたAIシステムは、意図せずに、特定の価値観や世界観を優先する可能性があります。

これらの課題に対処するには、強固な規制の枠組みが必要です。ラモス氏は、イノベーションか規制かという誤った二者択一に異議を唱え、最も規制が厳しい医薬品セクターが最も革新的だと指摘しました。枠組みの一つとして、ユネスコの「人工知能の倫理に関する勧告(Recommendation on the Ethics of Artificial Intelligence)」があります。これは、194か国の加盟国によって採択され、人権、社会正義、男女平等、法の支配などのトピックに沿った人工知能の開発を推奨するものです。この勧告でユネスコは、オフラインの世界に存在するプライバシー権などの保護をデジタルの世界にも広げるべきだと主張しています。

このユネスコの枠組みには準備評価方法(RAM: Readiness Assessment Methodology)という診断ツールが含まれ、現在、世界70か国で導入されています。RAMは、画一的な解決策を押し付けるのではなく、自国のニーズ、文化的背景、開発の経過に応じて国ごとのAI開発のビジョンを策定することを各国に求めるものです。この手法であれば、AIに関する日本のニーズがケニアやメキシコとは大きく異なることが認められます。

AI時代に必要とされるスキルは、技術的な知識だけにとどまらず、批判的思考や倫理的推論、人間と機械の生成コンテンツを見分ける能力も含まれます。教育機関は、技術的な専門知識と人文科学の視点を組み合わせた多分野にわたる指導を提供する方向に進化していく必要があります。ラモス氏は、講演の最後に、技術革新の方向性を決めるのは私たち自身だと強調し、議論の中でしっかりと意見を伝えられるように努めてほしいと全員に呼びかけました。

イベントの目玉として、東京大学の5人の学生との幅広い議論も行われ、各学生が地政学、工学、法学、公共政策、国際開発というそれぞれの専門分野の観点から独自の見解を披露しました。学生から質問として挙がったのは、ディープフェイクにより信頼感が崩壊する一方で逆説的に分析能力が高まる可能性、技術的な専門能力と倫理的推論とのギャップ、私的な事柄におけるAIの役割、AIを介した知識の民主化といった点でした。

これに対する回答の中で、ラモス氏は重要な優先課題をいくつか挙げました。まず、ディープフェイクやその他の形の誤情報を識別できるように、AI生成コンテンツに明確なラベルを付ける必要があると指摘しました。また、AIシステムが人間に似すぎることで、心理的に依存したり操作されたりするリスクが生じかねないと警告しました。現時点では国際的な規制は存在していないものの、各国政府は国民を守り、AI技術との関わり方に関する枠組みを設ける責任があるとラモス氏は主張しました。

教育に関して、ラモス氏は、技術的な教育と哲学や倫理学を組み合わせる多分野的なアプローチを提唱しました。狭い分野に特化するよりも幅広い能力を備えた「ルネサンス人」を育成することが重要だと指摘しました。また、大学が市場の変化を予測し、学生の学問分野の選択を適切に指導するための一助として、大学への政府の投資を促す新しい政策の枠組みが必要だと提案しました。

東アジア・ASEAN経済研究センター(ERIA)最高顧問の西村英俊氏は、AI時代における「意味生成(semantic generation)」について示唆に富む哲学的な意見を述べました。西村氏は、肉体労働と情報処理は自動化できるが、意味を生成し、価値の枠組みを作り出す能力は人間に特有であり、代替不可能であると主張しました。

西村氏は、AIシステムを「弟子」と捉えるのが最も適切であり、そのアウトプットは、協力する人間の奥深さや洞察力から全面的な影響を受けると指摘しました。このような「システムとしての個性(systemic personality)」は人間の知恵と人工知能との連携から生まれるため、倫理的な土台がしっかりとした思慮深い人格の形成がこれまで以上に重要になります。

質疑応答では、ラモス氏は国際的なキャリアに関する質問を受け、大切なのはあらかじめ決まった道を歩むことではなく、目的を見つけることだという個人的な見解を披露しました。ラモス氏は、国際機関で働こうと当初から計画していたわけではなく、社会正義への情熱に導かれた結果だと話しました。AIのガバナンスには、前例のない国際協力と、現地の状況や価値観を尊重する姿勢の両方が必要だとラモス氏は繰り返し主張しました。最終的に目指すのは、技術的な進歩に抗うことではなく、よりインクルーシブかつ持続可能で公正な社会に向けて、人間の主体性が技術の発展を導くような体制を確立することです。

イベントは、坂田一郎教授(東京大学 総長特別参与)による閉会挨拶で締めくくられました。坂田教授は、東京大学が国際ルールの制定に尽力すること、また、グローバルなガバナンスの枠組みに貢献できる若い世代の育成が重要であることを確認しました。

[上段]左から、福士教授、プリーア大使、ラモス氏、坂田教授
[下段]ラモス氏、西村氏（中央）と学生パネリストによる討議