オンライン開催：人とアバター/ロボットの共生・共創・共進化をめぐる課題

人とアバター/ロボットの共生・共創・共進化をめぐる課題に関するパネルディスカッション＠オンラインが開催されました。

2021年11月8日に「オンライン開催：人とアバター/ロボットの共生・共創・共進化をめぐる課題」が行われました。

AI、ロボット、アバターなどは人々が自分の能力を最大限に発揮させ、多様な人々が活躍できる社会を構築するための技術です。場合によってはその技能、知能、知覚、身体の限界を突破して、私たちの生活や人生、科学研究などの知的な営みの「当たり前」の再構築を迫る可能性があります。人と人、人と機械のコミュニケーションはどのように変化するのか、人と機械はどのように責任や役割を分担していくのか。人の判断と機械の判断が競合したときに、最終的な意思決定を誰がどのように行うように制度設計、技術設計を行うべきなのか。また私たち自身は、どのような社会を望むのか。技術の萌芽段階からその課題や影響について、研究者だけではなく広く社会一般の関心事項として議論をしていくことが重要です。
本イベントでは、JSTムーンショット研究開発事業目標1と目標3に参加する3つのプロジェクトの中で、法的・倫理的・社会的な影響(Ethical, Legal, Social Implications: ELSI)を考えている研究者が、それぞれの目標の中で扱われる課題の中から特に倫理的、哲学的、社会的な影響を紹介し、人と機械の関係性を考え直す機会になりました。

＜研究会概要＞
■2021年11月08日（月）16:00?18:00
■ 実施形態：オンライン開催
■ 話題提供：
　石黒 浩（大阪大学大学院基礎工学研究科）
　南澤　孝太（慶應義塾大学大学院メディアデザイン研究科）
　原田　香奈子（東京大学大学院医学系研究科/大学院工学系研究科）
　久木田　水生（名古屋大学大学院情報学研究科）
　江間　有沙（東京大学未来ビジョン研究センター）
　丸山　善宏（オーストラリア国立大学 計算機科学科）
■ 指定討論者：
　久木田　水生（名古屋大学大学院情報学研究科）
　江間　有沙（東京大学未来ビジョン研究センター）
　丸山　善宏（オーストラリア国立大学 計算機科学科）
■ 主催：
　東京大学未来ビジョン研究センター
JSTムーンショット研究開発事業目標1「誰もが自在に活躍できるアバター共生社会の実現」
JSTムーンショット研究開発事業目標1「身体的共創を生み出すサイバネティック・アバター技術と社会基盤の開発」
JSTムーンショット研究開発事業目標3「人とＡＩロボットの創造的共進化によるサイエンス開拓」
■ 協力：オーストラリア国立大学計算機科学科

アバター技術、ロボット、AIの活用に関してディスカッションを行った本イベントでは、上記のテクノロジーと関連するプロジェクトをJSTムーンショット研究開発事業で行う研究者をお招きして開催されました。
本イベントは、事前登録制の一般公開のイベントとして実施しました。国内の大学や企業からは約80名の参加があり、また、同時通訳を行ったことで、アメリカ、イギリス、ドイツ、フランス、韓国などから約20名の参加がありました。参加者からの日本語、英語での質問を受けながら進行されました。

最初に開会の挨拶として東京大学未来ビジョン研究センターのセンター長を務める城山 英明教授からコメントをいただきました。今回ご招待した研究者はムーンショット研究開発プロジェクトに所属していて、大きな社会課題に取り組む一方で破壊的イノベーションを目指すものです。しかし実験的なプロジェクトで注意しなくてはならない観点にELSIの問題（倫理的、法律的、あるいは社会的な課題）があります。社会に新たな技術を安全に導入していくこと、また将来の社会のデザイン・イメージ作りが重要になってくるでしょう。ＥＬＳＩの課題に取り組んでいくためには研究を行う現場から声を発していくボトムアップなアプローチと、領域横断的にマルチ・ステークホルダーな議論が重要になると指摘され、本イベントが領域横断的に、プロジェクト横断的ELSIや社会的な在り方との接点を議論する充実した機会になることへの期待を述べられました。

次に話題提供のセクションに移り、ムーンショット研究開発事業に関わる6人の研究者から話題提供が行われました。最初に大阪大学大学院基礎工学研究科の石黒 浩先生から話題提供がありました。石黒先生がプロジェクトマネージャーとして指揮を執る「誰もが自在に活躍できるアバター共生社会の実現」はムーンショット目標１の３プロジェクトの１つになっています。アバターの技術は１９９９年から石黒先生が研究していて、これまでの研究開発では人気に波があったものの、コロナ禍によって遠隔操作で機能する仕組みの需要が高まったことで開発が再度活性化されてきました。アバターの活用方法は多岐に可能で、見かけに関しても簡単に調整することができることが紹介されました。プロジェクトを通して2050年までに人が身体の空間や時間の制約から解放された仮想化実世界を実現することで、「誰もが自在に活躍できるアバター共生社会の実現」を目指す予定です。アバターを自在に操作して仕事、教育、医療、娯楽等の現場に行かなくても同等の体験を得ることが可能になることで、日常生活の時間の使い方や生活様式に変革が起き、さらには高齢者や障害者を含む誰もが自在に多様な活動に参加できる未来を描いています。石黒先生はアバターによって一新された豊かな社会の設計を皆さんと実現したいという意気込みを述べられました。

次に慶應義塾大学大学院メディアデザイン研究科の南澤 孝太先生より話題提供がありました。南澤先生はムーンショット事業の２つ目のプロジェクトである「身体的共創を生み出すサイバネティック・アバター技術と社会基盤の開発」を行っています。このプロジェクトでは個人の行動を拡張したり、より楽しくしたり、あるいは離れた人と人とを繋ぐなど、人間の能力に触覚や身体を扱う技術である身体性メディア（Embodied Media）を実装することを研究しています。特にサイバネティック・アバター技術は人々のウェルビーイングを充実させる手段として、近い将来ではサイバネティック・アバターをもう1つの身体として持つことで私たちの行動や経験、あるいは技能などをこのデジタルネットワーク越しにお互いに共有できるようになるという構想の説明がありました。アバターの活用においてもELSIの観点から考慮しなくてはならない独自の側面があると述べられました。1つ目に、Cognitive Augmentationでアバターを通して個は見た目を好きに変えることが出来るため、私たちのコミュニケーションに与える影響を考えていく必要があります。2つ目に、Parallel Agencyという一人の人物がアバターやロボットを介して複数の場所で同時に作業をできるということが可能になるが、その社会的影響を考えていくべきでしょう。3つ目に、Collective Abilityといって複数の人間が1つのアバターに入ることにより１人の能力の限界を超した超人的なアバターの出現が考えられます。EthicalでLegalなデザインのサイバネティック・ビーイングを作ることによって人々の人生経験の多様性を拡大して、これまでにない自由な生き方を実現したいと意気込みを述べられました。

引き続き東京大学大学院医学系研究科/大学院工学系研究科の原田 香奈子先生から話題提供は行われました。原田先生はムーンショット事業の目標３の「人とAIロボットの創造的共進化によるサイエンス開拓」プロジェクトと関わっています。このプロジェクトは最終的に２０５０年までに自然科学の領域において自ら思考し、行動し、自動的に科学的原理と解法の発見を目指すAIロボットシステムを開発することを目標にしています。そして２０３０年までに特定の問題に対して自動的に科学的原理と解法の発見を目指すAIロボットを開発する予定になっています。このプロジェクトを通して人とAIロボットの創造的共進化によるサイエンス開拓を可能にして、AIロボット科学者と人間の科学者が共進化していくことを目指していると説明がありました。これらのことを実現させるには各要素のAI技術を向上させて行く必要があり、AIロボティクス、自動的にサイエンスを探求するAI、数学的基盤をAIに与えるための圏論的AI等の研究課題があるとの考えを紹介されました。技術的な革新のためには大きく分けて２つの障壁があります。１つ目に科学者の身体的能力と情報処理の限界を超えることを実現させること、2つ目に現状のAI技術やロボット技術の限界を超えることを求められます。しかし、高度なAIロボットの実装においてELSIの課題があることも認知しています。その代表的な例が、一般社会が抱く高度な技術に対する恐怖心にどう対応していくかです。AIロボットが人間より優れたことが出来るようになることは問題ではなく、人々の恐怖心の原点を探っていくべきだと考えています。また、進化したAIロボットによって科学者は彼らの出来ないことに専念すべきかの議論がありますが、科学者は常にやりたいことを自ら探求していくべきだと信じています。このプロジェクトでは科学者が介入しなくてもAIロボットだけで発見することを目指してはいますが、それが本当に求められていることなのか再考しなくてはならないと述べられました。

4人目のスピーカーとして名古屋大学大学院情報学研究科の久木田 水生先生から話題提供がありました。久木田先生は石黒先生が統括する「誰もが自在に活躍できるアバター共生社会の実現」プロジェクトに関連する課題の研究を専門に行っています。アバターは1人の人間が1つの体のみを所有して、1か所のみにいなければならないというこれまでの人間の基本的な条件を覆す技術です。そのため、個人の生き方や社会、人との付き合い方に大きなインパクトを与えることを述べられました。対面でのコミュニケーションは自律時間性や相互性、それからマルチモダリティーなどに非常に優れている一方、一度に話せる相手は限られ、物理的に遠くにいる人との会話が難しくなってしまいます。アバターの優れた点は対面コミュニケーションの優れている点を再現しつつ、問題点を解消できることが強みだと説明されました。これからのアバター技術の開発においては、非言語コミュニケーションや対話中に発生する相手との同調行動を再現することを可能にしていく予定です。また、アバターの利用に際しての倫理的問題として、私たちのコントロールできない生理的な表情や身振りといった非言語的な情報のデータを取られて他人に利用される可能性があるプライバシーの問題は特に考えていくべきと指摘されました。さらに複数のアバターを分身のように利用して行動する場合の責任や権利の問題や、アバターの作成段階での意図的な操作やカスタマイゼーションから発生するデジタル・ナルシシズムやエンハンスメントがコミュニケーションに悪影響を与える可能性があると懸念を示されました。アバター技術は世界全体を豊かにする大きなポテンシャルを持っているが、予測できない子供への影響や従来の慣習との衝突や、経済や産業へのインパクトに対応できる体制を整備していかなくてはならないという意気込みを述べられました。

次に東京大学未来ビジョン研究センターの江間 有沙先生から話題提供がありました。江間先生は南澤先生が中心となって活動している「身体的共創を生み出すサイバネティック・アバター技術と社会基盤の開発」プロジェクトに関わっています。このムーンショットプロジェクトは2030年と2050年の遥か先の技術的目標の実現を目指しているが、科学に問うことはできても科学だけでは答えられない問題というトランス・サイエンスの扱いに属する規模の研究だと述べられました。そのため、倫理的社会的な課題はさまざまなステークホルダーと共に議論をしていかなければならないと指摘されました。未完成の開発中の技術を考える時に重要なことは、その新技術が実装された後の変化した社会を具体的にイメージして、共通の認識のもとにドライブやモチベーションを共有することです。理想的なビジョンを描くためには望ましい社会の創り方だけではなく、誰と創っていくかを多様な視点で思考することが大事だと意見されました。特にサイバネティック・アバターがある社会では、現実世界で排除すべき慣習やバイアスはバーチャル世界には持っていかないようにして、バーチャル世界だからこそ社会的な制約を気にしないで動ける世界にする心構えが必要だと感じています。アバター世界のプライバシーや安全性を懸念する声は比較的よく挙がるが、アバター独自の問題点として高度な技術や貴重な経験をデータに変換して売買することが可能になることでデータのオーナーシップ問題が発生する可能性があると述べられました。データを通して誰もが高度なスキルを身に付けることが可能になることで人々の努力に対する報酬やインセンティブやモチベーションに対する影響も変わってくるのでしょう。また、アバターが存在するVR空間とリアル空間を繋ぐ一大企業の出現による技術の独占や技術の軍事利用等の問題が発生する可能性があるため、国際社会で開発中の技術を確認し、社会的懸念を技術の開発段階から共有して議論していくことが大事になると述べられました。

最後に６人目の話題提供者としてオーストラリア国立大学計算機科学科の丸山 善宏先生から発表がありました。丸山先生は原田先生が指揮を執る「人とAIロボットの創造的共進化によるサイエンス開拓」プロジェクトで圏論AIの部分とELSIの部分を担当しています。一般的にロボットと人間の関係性を考えると、人間が機械的にロボットを使役する関係性を思い浮かべるかもしれないが、サイエンスAIロボティクスが進歩するに従ってAIロボットが自律して出来ることが増えるため人間との関係性は変化していくと述べられました。どのようなAIロボット科学者の進化に適応した人間とロボットの関係性を再構築が必要か検討すべきだと指摘されました。ロボットが自ら効率よく科学を探求することができると、人間の科学者は研究の目的をデザインしたり価値づけしたりすることが重要になることが考えられます。そして、AIロボット科学者の出現によって発生する問題シナリオが大きく2つあると紹介がありました。1つ目にとても悪いAI科学者が出てきて、人間を非常に超越した知覚と可動性と知能で危険な科学を実践してしまうことです。2つ目に人間は悪意の持つAI科学者が出現しても、その存在に気付くことが出来るのかという問題です。真に賢いＡＩであれば、悪そうな見かけをしないで研究目的も善意的に見せかけるようなことを実践する可能性が考えられます。悪いシナリオのリスクを抑制していくために機械学習のような統計的AIと、以前から研究されてきた記号的AIとを融合した融合AIと呼ばれる新しいAIを構築するために圏論と呼ばれる抽象的な数学の枠組みを用いる手法に挑戦していると紹介されました。

話題提供が終わった後に久木田先生、丸山先生と司会を務める江間先生の３者でのパネルディスカッションに移りました。最初に城山先生からムーンショット事業に関わる6人の研究者からの話題提供を踏まえてコメントいただきました。サイバネティック・アバターやAIロボット科学者等の新たな開発中の技術が紹介されたが、ELSIを考えていくためのキーワードとして重要になるのが共生、共創、または共進化になると述べられました。新たな技術を実装した際の人間と技術の社会的関係の構築が重要になるとの意見も示されました。

まず、ディスカッションはAI のバイアスの持つバイアスを取り除くことが出来るのかというテーマから始まりました。研究者たちが仮説を立てる際に含まれる人間の偏りやバイアスをAIは検知して指摘することができるのかという疑問が江間先生より投げかけられました。この質問に対して丸山先生は、バイアスを持つからこそ人間は効率よく思考することが出来て新たなことを発見できることを可能にしているという回答があり、一概にバイアスを排除することが正しいとは断定できないと指摘がありました。しかしながら、AIに学習させたくないバイアスや偏りというものは確かに存在していて経験的なデータを基にして学習していく機械学習の傾向からはバイアスの除去が難しいとも述べられました。人々の持つネガティブなバイアスがそのままAIに反映されることを防止するためには記号的AIを活用したトップダウンの倫理的な原則に沿った修正メカニズムを組み込んでいく必要があるとも意見されました。久木田先生はロジカルな機械的なシステムの上に機械道徳や機械倫理を圏論の使用により実現させようという取り組みが行われてきたことを紹介されました。
次にディスカッションのテーマはムーンショット研究開発事業における人とロボットやの共生、共進化のための人とロボットの理想的な関係性や環境に遷移した。江間先生から全てが機械化されてしまったら人間同士の繋がりが減ってしまうため、それが私たちの望む未来なのかという問題提起がなされました。人間の活動がロボットを通して行われてアバター中心のコミュニケーション形態で働くようになると様々な仕事をすることが出来るが、そのような忙しい生活が幸せを生み出せるのかという疑問も出ました。久木田先生はAIの活用が普及していくにつれて生活や労働のあり方や科学的な研究の方法論に変化が起きることは想定できると述べられました。そして、既存のスタイルとどのようにして融和を図り、テクノロジーが破滅的に人間の生活や幸せを壊してしまう可能性を抑制していくか考えていく必要があると意見しました。丸山先生は人間とAIの関係性において、これまで私たちは物事の予測を行うためにデータドリブンな科学やAIの活用をしてきた傾向にあり、物事の因果関係やからくりを理解する楽しさから離れてきてしまっていると指摘がありました。だからと言って機械に物事の予測を頼り、人間に背景にある構造の理解に徹するという分業体制な科学的な研究は本質に欠けてしまうため、社会として適切なAIロボットと人間の関係性の共通認識を構築していくことが大事になると述べられました。

人とロボット・アバターの関係性というのは多様であり、私たちの生活や働き方の在り方と切り離して考えることはできません。今後もムーンショットプロジェクトを進めていく中で、社会との関係性、社会の中での人とロボット・アバターの在り方という点について考えていくことの重要性を再確認し、本研究会は締めくくられました。