218 人 工 知 能 33 巻 2 号（2018 年 3 月）
1．は じ め に
AIと倫理や社会に関する議論は「人工知能学会誌」で も過去に何回か特集が組まれている [服部 14, 高橋 17 な ど]．また人工知能学会倫理委員会が公開した倫理指針 はユニークな条項として海外でも取り上げられ，IEEE の「Ethically Aligned Design（倫理的に調和したデザ イン）」報告書でも参照されている [IEEE 17]．このよ うに AI と倫理や社会に関する研究や活動のため，さま ざまなイニシアティブが立ち上がっているが，特徴的な のは人材，技術，そして資金などが行き来しながらネッ トワークが拡大されていることである．著者は 2014 年 地点で目立った組織・活動のレビューを行ったが [江間 15]，それから 3 年経った現在，アクタは増え続けている． 2017年 10 月に開催された AI and Society シンポジウ ムと Beneficial AI Tokyo イベントでは多様なアクタと議 論する場が設けられた．本稿では Beneficial AI Tokyo イ ベントに焦点を当て，その開催の背景と目的，イベント で議論されたトピックとイベント後の展開を紹介する．2．イベントの背景と目的
一連のイベントは株式会社アラヤの創業者・代表取 締役である金井良太氏がケンブリッジ大学のヒュー・プ ライス教授と出会い，日本で AI と倫理や社会について 議論する小規模なイベントを開始しようとした企画に端 を発している．実は 10 月 12 日に開催された Beneficial AI Tokyoイベントこそ，金井氏とプライス氏が当初企 画していたイメージに近いものだったそうだ．しかし， AIの発展と社会との関わりがめまぐるしく変化する中， 金井氏とプライス氏が企画で扱いたいテーマや招待した い人達は続々と増えていった．そのため，賛同者を中心 として実行委員会を立ち上げ，東京大学次世代知能科学 研究センターを主催とするイベントとして企画は進めら れた．最終的には世界各国で行われている議論や立ち上 がっているイニシアティブと日本のネットワークコミュ ニティをつなぐことを目的とした 2 日間のシンポジウム と 1 日のワークショップイベントという形式となった． 著者が金井氏から本イベントの話を伺ったときはすで に，「小さな」どころか「一大イベント」になっており，「気 付いたらここまで大きくなっていました」と金井氏が 困ったように，でも楽しげに語っていた姿が印象に残っ ている．著者も関わらせていただくことになり，実行委 員会の一員として大きく二つの活動に参加してきた．一 つは「AIと社会」に関する海外の関連団体とのネットワー キング，そしてもう一つが国内の関連団体へ海外の関連 団体を紹介することである．後者に関しては，9 月に 2 回ほど海外のイニシアティブなどを紹介する勉強会を開 催した．「AI と社会」に関する団体についてはいくつか の記事で紹介しているが（[ 江間 17a] や人工知能学会倫 理委員会の HP など），本稿ではイベントに参加された 方々も紹介しながらいくつかの関連団体を概説する． 2･1 Future of Life Institute（FLI）そもそも Beneficial AI という言葉が最初に用いられ たのは，2017 年に Future of Life Institute（以下 FLI） がアシロマで開催した会議である [FLI 17a]．FLI はア メリカで 2014 年に設立され，アドバイザリーボードに はスチュアート・ラッセル氏やイーロン・マスク氏，ス ティーヴン・ホーキング博士などの著名人が名を連ね ている．AI 技術を含む最先端技術を人類がうまくコン トロールする研究の支援を掲げ，ネットワーキングや研 究助成を行っている．Beneficial AI 2017 では「アシロ マ AI 原則」を公開し，研究課題や考えるべき倫理や価 値，長期的な課題など 23 項目を打ち出した [FLI 17b]． Beneficial AI Tokyoイベントには FLI 共同設立者 5 名 のうち Skype の共同設立者でもあるヤン・タリン氏と
Beneficial AI をめぐる現状と
今後の国際連携に向けて
Beneficial AI: Present and Future International Networking
江間 有沙
東京大学大学院総合文化研究科・教養学部，理化学研究所Arisa Ema Graduate school of Arts and Sciences, The University of Tokyo. / RIKEN. [email protected]
Keywords:
beneficial AI, network, ethics. 「AI and Society」DeepMindの研究員でもあるヴィクトリア・クラコフナ 氏が参加した．
2･2 The IEEE Global Initiative
IEEEの「自律的で知的なシステムの倫理に関するグ ローバル・イニシアティブ」は 2016 年に活動を開始した． 自律的で知的なシステムの進歩を人間社会に有益なもの にすることを目的に掲げ，そのために技術の設計と開発 に関係するすべてのステークホルダが参照できる「倫理 的に調和したデザイン」として知られる報告書の第 1 版 を 2016 年に，第 2 版を 2017 年に公開した．この報告 書の執筆には 250 人以上が関わっており，現在，執筆 メンバを中心として 11 の標準化のためのワーキンググ ループが形成されている [江間 17b]． また IEEE は，2015 年に設立されたハーバード大学 発の NPO 法人 The Future Society が運営している人工 知能に関する国際的なオンライン対話「AI Initiative」 とも連携している．FLI や IEEE の活動は 2017 年度の 人工知能学会倫理委員会年次大会でも紹介されており， 「AI Initiative」による市民対話の日本側の窓口は人工知 能学会倫理委員会が担っている [人工知能学会倫理委員 会 17]．本イベントには IEEE のエグゼクティブディレ クターであるジョン・ヘイヴンス氏が参加した． 2･3 Partnership on AI Partnership on AIは 2016 年 に Amazon，Google， Facebook，IBM と Microsoft などアメリカの IT 企業を 中心として設立され，AI 技術のベストプラクティス研 究と理解促進，影響を議論するプラットフォームをつく ることを目的としている．参加企業は売上に対して会費 を徴収するが非営利企業の参加費は無料であり，パート ナーには AAAI などの学会のほか大学や前述した FLI， ヒューマン・ライツ・ウォッチや電子フロンティア団体 （EFF）などの市民団体のほか，ユニセフなどの国際関 係機関も参加している．2017 年 10 月にエグゼクティブ ディレクターが就任し，今後は具体的な活動が展開され る予定である．本イベントにはフランチェスカ・ロッシ 氏が参加した．ロッシ氏は FLI や IEEE の活動にも関 わっている． 2･4 GoodAI GoodAIは CEO/CTO であるマレック・ローサ氏が 1,000万米ドルを個人出資して 2014 年に創業したチェ コのスタートアップ企業であり，現在 20 人程度の研究 者で汎用人工知能の開発に取り組んでいる．人類にとっ て安全で有益な汎用人工知能の研究を推進するために， 「汎用 AI チャレンジ」や「AI ロードマップ研究機関」 などを立ち上げている．本イベントにはローサ氏とオル ガ・アファナスエヴァ氏が参加した．
2･5 Centre for the Future of Intelligence（CFI）
2016年に FLI のファンディングを受けて設立された リバーヒューム・知性の未来センター（CFI）はケンブ リッジ大学に本拠地を構え，オックスフォード大学，イ ンペリアルカレッジロンドン，米国の UC バークレーと 連携した研究機関である．将来にわたって人類が人工知 能を有益に活用するために，技術者や政策立案者と連携 し，学際的なコミュニティを構築することを目的として 掲げている． ケンブリッジ大学には絶滅リスク研究センター（The Centre for the Study of Existential Risk：CSER）がす でにあり，こちらもヤン・タリン氏らの寄付を受けて設 立している [江間 15]．CFI のセンター長でもあるヒュー・ プライス氏は CSER のアカデミックディレクターでもあ り，本シンポジウム開催のきっかけをつくった人である． そのため本イベントにはショーン・オヘガティ氏をはじ め，CFI/CSER 関係者が何名か参加した．
3．イ ベ ン ト 当 日
10月 12 日の Beneficial AI Tokyo は CFI/CSER，東 京大学次世代知能科学研究センターと株式会社アラヤの 共催で開催された．会場となった日本橋ライフサイエン スハブには 90 人が集まった．日本からの参加者は 60 人 程度であり，20 人程度がアカデミア，40 人程度が企業 からの参加者であった．海外からは AI and Society シン ポジウム司会者や登壇者のほか，韓国や中国など東アジ アからも参加者があった． 3･1 活 動 紹 介 開会の挨拶を CFI センター長であるプライス氏が行 い，Beneficial AI というビジョンに対する思いを述べた． 各国のアカデミアと産業界，NPO などの関係者が各自 の活動について理解し合って協働するネットワークの構 築が重要であるとし，午前中は活動紹介，午後はグルー プに分かれてワークショップを行うことが示された． 第 1 部はアカデミアや NPO などの活動紹介であり， 著者の司会のもと，海外からは IEEE グローバル・イニ シアティブのヘイヴンス氏，FLI のクラコフナ氏，CFI/ CSERのオヘガティ氏，Berggruen Institute 中国セン ターのビン・ソン氏，ElementAI とカナダ高等研究所 （CIFER）のデニ・テリエン氏が，日本からは東京大学 次世代知能科学研究センター長の國吉康夫氏と人工知 能学会倫理委員会から武田英明氏が登壇して活動紹介を 行った． 第 2 部は企業の活動紹介として本イベントのアドバイ ザでもあるタリン氏の司会のもと，海外からは GoodAI のアファナスエヴァ氏，Google 香港のジェイク・ルッ チ氏，Partnership on AI のロッシ氏が，日本からは楽 天株式会社の森 正弥氏，日本マイクロソフト株式会社の
220 人 工 知 能 33 巻 2 号（2018 年 3 月） 榊原 彰氏，日本ディープラーニング協会から松尾 豊氏 が登壇した． AI and Societyシンポジウムから参加していた人も多 く，AI の定義や応用，考えなければならないインパク トや次世代の技術などさまざまな論点が提起され，パネ リスト同士だけではなく参加者からも活発な議論が展開 された． 3･2 ワークショップ 昼休みをはさみ，午後は以下の 13 トピックに対して グループ議論を行った． 1．Beneficial AI に対する企業の考え方 2．基礎研究と Beneficial AI 3．長期的なリスクとベネフィットのために短期的に できること 4．日本で Beneficial AI コミュニティをつくるには 5．Beneficial AI について境界を越えて取り組むには 6．技術的な AI 安全性 7．バイアスとプライバシーに対する技術的な論点 8．Beneficial AI に対する規制？ 9．AI 倫理，誰が声を上げるのか 10．AI 軍拡競争の回避 11．未来のポジティブな AI ビジョン 12．底辺の 10 億人のための AI 13．Beneficial AI のためのコミュニティづくり 各グループには日本人と海外の参加者一人ずつがファ シリテータとしてつき，参加者は気になるトピックに参 加する形式をとった．1 回席替えを行い，最後に各グルー プで話し合われた内容について共有する時間が設けられ た． 3･3 パネルディスカッションと会議宣言 最後に，Beneficial AI というテーマでどのように協働 して取り組めるか，プライス氏と金井氏の共同司会のも と，パネルディスカッションが行われた．日本からは本 イベントの共催主体であった東京大学次世代知能科学研 究センター長の國吉康夫氏，同じく東京大学の城山英明 氏と佐倉 統氏，京都大学の西田豊明氏が参加し，本イベ ントのオーガナイザ側として協力していたタリン氏と北 京大学のダニット・ガル氏と江間が参加した． パネルディスカッションでは主に本イベントの成果と して発信する会議宣言の内容を議論した．会議宣言ドラ フトに「競争ではなく協力」と書かれていることに対し， 「競争することによって得られる成果もある」とする意 見がある一方で，「軍拡競争やまだ見ぬ AI に対しては注 意深く議論していく必要がある」など，各自が何を AI と想定しているかのイメージのずれが可視化された．そ のため，その場ではドラフトの修正を行わず，コメント をオンラインフォームで受け付けることで議論を継続し ていくことがプライス氏より提案され，イベントは閉会 した． 現在，本宣言は「有益な人工知能─ Beneficial AI ─ 実現への協力」という会議宣言として Web に公開され ており，本報告を読まれた方々からの積極的なコメント もお待ちしている．本宣言への賛同署名は Web から可 能であり，署名した人のリストも一覧で表示されている [BAI 17]．会議宣言の文言は以下のとおりである． 「有益な人工知能─ Beneficial AI ─実現への協力」 人工知能（AI）は，人類史上最も革新的な技術の一つ となるでしょう．そして，世界中のどこで開発されよう とも，直ちにグローバルに影響をもたらすでしょう．そ のため，人工知能が有益（beneficial）であることを担 保することは，私達全員にとっての課題です． 私達は，人工知能の有益性を担保するための諸課題に， 競争ではなく協力の精神で対応することを強く求めま す．私達は，人工知能が世界中の人類の持続可能な繁栄 に貢献することを確実にすべく力を合わせるべきです． 人工知能は安全で，信頼性が高く，堅牢であることが実 証されなければならず，また，利活用される社会の価値 観に沿うように開発されるべきです． これらの目標を達成するには，世界のおのおのの社会 の中で，また，それらの間で，人工知能の開発と利活用 に関する幅広い協力が必要となります．このコラボレー ションには，市民社会や産学官から幅広く多様な機関や 個人が参加する必要があります． そして最も重要なのは，コラボレーションがグローバ ルでなければならないということです．人工知能はすべ ての文化と国家に大きな影響を与えます．そのため，あ らゆる文化や国家は，人工知能がどのように開発され使 用されるかについて発言すべきです．人工知能は人類が 成し遂げる最高の成果の一つになる可能性を秘めていま す．それを現実のものとするため，私達は協力して取り 組まなければなりません．
4．イベント後の展開
4･1 Beneficial AI Japan の設立 本ワークショップを受け，AI と社会に関してさまざ まな国やアクタと議論するネットワーク形成を目的とし た Beneficial AI Japan が設立された（http://bai-japan.org/）．活動概要としては以下の五つが掲げら れ，AI and Society や Beneficial AI Tokyo の参加者が パートナーに連なっている． 1．国内外の Beneficial AI 関連のイベントを共有・紹 介する 2．国内外で公開されている AI 開発のガイドラインや 論文の研究会とフィードバックを行う 3．AI 技術者およびその社会的影響の研究開発を推進 し，人材を育成する4．Beneficial AI 研究を進めるためのプラットフォー ムをつくり，シンポジウムや研究会などの場を形成 する 5．海外の主要な Beneficial AI グループと日本コミュ ニティの活動連携を促す 海外におけるこのような団体の多くがそうであるよう に，このネットワークも誰もが参加できるものとなって いる． 4･2 AI 競争回避のためのワークショップ 最後にもう一つ，10 月 13 日に開催された少人数ワー クショップを紹介したい．チェコのスタートアップ会社 である GoodAI が開催した「AI 競争回避のためのワー クショップ」である．前述したように GoodAI は安全で 有用な汎用人工知能研究を推進するための研究を行って おり，そのためのロードマップを考える機関を立ち上げ た．その第 1 回の会合が 2017 年 5 月 29 日に開催され， その報告書は Web に公開されている [Afanasjeva 17]. そこでは汎用人工知能を最初に実現した組織が，その影 響力が強大であるがゆえにその後の研究開発において優 位になってしまう可能性，また汎用人工知能の開発競争 が激化することによって安全面に対する配慮が欠落して しまうことを懸念している．そのため，安全で有益な汎 用人工知能を開発するためにはどのようなシナリオがあ り得るかを議論している． 13日のワークショップではこのような前提のもと，今 後 GoodAI が新たに展開する「汎用 AI チャレンジ」と して，どのようなテーマ設定がよいかの議論が行われた． 本ワークショップの報告書も Web 上に公開されており [Rosa 17]，2018 年の 1 月 18 日には AI の競争回避のチャ レンジ，Solving the AI Race が開始した（https:// www.general-ai-challenge.org/ai-race）．
5．お わ り に
2日間にわたる AI and Society シンポジウム，そして Benefi cial AI Tokyoイベントでの議論を経て著者が考え たことは主に三つある．AI と社会や倫理，有益な AI と いうテーマは技術者の方達が敬遠してしまいそうに思え るが，FLI や DeepMind，Partnership on AI など海外 の活動からわかるように，技術者の方達が人文・社会科 学研究者との対話に積極的に参加している．さらに，こ のような議論と連動して AI が安全かつ信頼できるため の技術的な研究が展開されている．Ethical AI（倫理的 な AI）や Explainable AI（XAI：説明可能な AI）研究 などとも呼称されるが，今後はこのような研究が日本で も増えていくことが期待される． また，Partnership on AI など海外では IT 巨大企業な ど民間のイニシアティブが「AI と社会」に関する議論 を積極的に推進している中，海外からは日本は省庁 [内 閣府 17, 総務省情報通信政策研究所 17] が議論をリード しているように見えている．しかし，本シンポジウムや イベントを経て，民間企業も技術的そして社会的な側面 からさまざまな議論をしていることが可視化されたよう に思う．また海外の参加者からは（ややオリエンタリズ ムな考え方がありつつも），日本人の考える機械との共 生概念やアニメなどのサブカルチャーから生まれるさま ざまな（彼らにとっては）奇抜な AI イメージに対する 興味関心，プライバシーや安心などに関する文化的な価 値観の差，そして隣に AI 研究が急成長している中国が 位置しているという地理的な状態から，日本の民間が「AI と社会」に関する議論のリーダーシップを取ることへの 期待がうかがえた．これは著者がブラジルでの「AI と 社会」に関する議論に参加したときにも感じたことであ る [江間 17c]． 最後に，「そもそも AI とは何か」の議論が皆好きなの
222 人 工 知 能 33 巻 2 号（2018 年 3 月） だな，と感じた．科学技術社会論という分野にいるとさ まざまな科学技術と社会の議論に関わることが多いが， 例えば「ナノテクノロジーとは」，「遺伝子とは」，「原子 力とは」などを専門家以外の人達も巻き込んで嬉き々きとし て議論されている場に遭遇することはほとんどない．こ れは AI 分野に特徴的なことであり，多様なステークホ ルダを巻き込むことを容易にしている．他の分野で類似 の議論が可能なのは宇宙くらいだろう．しかし，誰もが 議論に参加できるため，アジェンダ設定を的確にしてお かなければ議論は発散し，「いろいろな人と話ができて 楽しかったね」で終わってしまう．AI の研究や応用の 幅が広いからこそ，論点を整理して議論をファシリテー トし，海外に発信していく人材や組織が必要である．そ のための一つの拠点が Beneficial AI Japan となるべく， 関係者とともに活動を行っている（なお，その発信活 動の一例として，日本の AI と社会関連団体について記 した報告書が IEEE のレポートに公開されている [Ema 17d]）． AIと社会に関する議論は，技術だけではなく倫理，法， 社会，経済，政治，教育など多岐にわたる．また議論は 国内だけにとどまらず，いかにグローバルなパワーバラ ンスの中で競争と協調のバランスを取っていくかも考え ていかなければならない．本特集の一連の記事が AI と 社会に関わる研究動向や社会的な動きに対し，多くの皆 さんに参加していただくきっかけとなることを願ってい る． 謝 辞 本稿を執筆するにあたり，事実関係などを確認いただ いた株式会社アラヤの金井良太氏，福井綾子氏，原田浩 平氏と東京大学の國吉康夫氏に感謝申し上げる．
◇ 参 考 文 献 ◇
[Afanasjeva 17] Afanasjeva, O., Feyereisl, J., Havrda, M., Holec, M., hÉigeartaigh, S. Ó. and Poliak, M.: Avoiding the precipice, https://medium.com/ai-roadmap-institute/ avoiding-the-precipice-db720a805190（2017） [BAI 17] BAI: The Tokyo Statement: Cooperation for Beneficial
AI, http://www.ai.u-tokyo.ac.jp/tokyo-statement. html（2017） [江間 15] 江間有沙：「人工知能と未来」プロジェクトから見る現在 の課題 , 人工知能学会第 29 回全国大会予稿，pp. 2I5-OS-17b-1 （2015） [江間 17a] 江間有沙：AI の恩恵を最大化し，価値を再定義する： 世界で加速する倫理に関するガイド作り，日経ビッグデータ， 11月号，pp. 12-13（2017） [江間 17b] 江間有沙：倫理的に調和した場の設計：責任ある研究・ イノベーション実践例として，人工知能，Vol. 32, No. 5, pp. 694-700（2017） [江間 17c] 江間有沙： AI を排除や差別の増幅器にしないため に は？ ブ ラ ジ ル の AI シ ン ポ ジ ウ ム で 議 論 白 熱，ITPro， http://itpro.nikkeibp.co.jp/atcl/column/ 14/346926/122001255/?itp_leaf_index（2017） [Ema 17d] Ema, A.: EADv2 Regional Reports on A/IS Ethics:
JAPAN, in Regional Reports on A/IS Ethics, December, 12, pp. 2-10, http://standards.ieee.org/develop/indconn/ ec/eadv2_regional_report.pdf（2017）
[FLI 17a] Future of Life Institute: Beneficial AI 2017, https:// futureoflife.org/bai-2017/（2017）
[FLI 17b] Future of Life Institute: アシロマの原則 , https:// futureoflife.org/ai-principles-japanese/（2017） [服部 14] 服部宏充，江間有沙：特集「人工知能技術が浸透する社
会を考える」にあたって，人工知能 , Vol. 29, No. 5, pp. 480-481 （2014）
[IEEE 17] The IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems: Ethically aligned design: a vision for prioritizing human wellbeing with artificial intelligence and autonomous systems, https:// ethicsinaction.ieee.org/（2017） [人工知能学会倫理委員会 17] 人工知能学会倫理委員会：“AI Initiative” で の オ ン ラ イ ン 市 民 対 話 に つ い て，http:// ai-elsi.org/archives/651（2017） [内閣府 17] 内閣府：人工知能と人間社会に関する懇談会報告書， http://www8.cao.go.jp/cstp/tyousakai/ai/summary/ index.html（2017）
[Rosa 17] Rosa, M. and Afanasjeva, O.: Will Millership: Report from the AI Race Avoidance Workshop, https://medium. com/ai-roadmap-institute/report-from-the-ai-race-avoidance-workshop-bd631b2bbb2c（2017） [総務省情報通信政策研究所 17] 総務省：AI ネットワーク化検討 会議，http://www.soumu.go.jp/main_sosiki/kenkyu/ ai_ network/index.html（2017） [高橋 17] 高橋恒一，井上智洋：特集「AI 社会論」にあたって，人 工知能，Vol. 32, No. 5, pp.640-642（2017） 2018年 2 月 2 日 受理
