265 汎用人工知能輪読会の発足とその後の活動
1．は じ め に
この記事では，本特集 [山川 14] の企画・執筆・閲読 などにおいて全面的な協力をいただいた汎用人工知能輪 読会の紹介を行う．2．輪 読 会 の 発 足
2000年台の後半から欧米を中心として技術的特異 点（technological singularity）や汎用人工知能（AGI: Artificial General Intelligence）についての研究活動が 盛り上がりつつある．著者の山川が，こうした研究動 向の重要さを実感したのは，2012 年の冬に英国オック スフォード大学で開催された，関連する国際会議に研究 発表のために参加したときであった [山川 13]．その頃， もう一方の著者の市瀬は，バレンシア工科大学で人工知 能の能力の評価 [Hernandez-Orallo 10] を行う anYnt プ ロジェクト＊1の Hernandez-Orallo らと意見交換する機 会があり，それを通して汎用人工知能という研究分野を 知り興味をもった．こうした汎用人工知能の実現は人間 レベル，さらにそれ以上の知能の工学的な実現を意味し， これは人類社会に対して，莫大な富と利益をもたらすこ とが予見される． 以上のような背景から，日本国内の人工知能分野に おいて汎用人工知能という学際研究の動向を把握しなが ら，この分野の中核コミュニティを形成する必要性があ ると考えた．そこで，以前から認知アーキテクチャ研究 などを通して親交があった山川，市瀬で 2013 年の春か らこの分野における研究活動の立上げについて検討を進 めた． それを通じ，まずは AGI の世界的なリーダであるベン・ ゲーツェル氏らの著書 [Goertzel 07] を輪読書として会 を立ち上げるのがよいのではという提案が市瀬よりなさ れた．なぜならば，AI 研究者自身が，汎用人工知能の 概略についての理解を深めることが重要と考えたからで ある．そこで昨年 5 月に，本誌（Vol. 28, No. 3）の特別 企画「シンギュラリティの時代：人を越えゆく知性とと もに」の発行と軌を一にして，本学会のメーリングリス トを中心に参加メンバの募集を行ったところ，我々を含 む計 14 名の研究者が集まり，輪読会を開始した．3． 輪 読 会 の 活 動
初回（2013 年 7 月3 日）以降，ほぼ毎月 1 回の割合で 国立情報学研究所を拠点として輪読会を開催している． 2014年の 1 月末（原稿執筆時点）までに，合宿（第 5 回目） を含む 6 回の輪読会を開催し，参加メンバの精力的な活 動により，すでに輪読書全 12 章中の 8 割程度の輪読を 終えている． 初回（2013 年 7 月3 日）は，輪読会の開催趣旨確認や汎用人工知能輪読会の発足とその後の活動
Activity Report of the Artificial General Intelligence Meeting in Japan
山川 宏
株式会社富士通研究所Hiroshi Yamakawa Fujitsu Laboratories Ltd. [email protected]
市瀬 龍太郎
国立情報学研究所Ryutaro Ichise National Institute of Information. [email protected]
Keywords:
artificial general intelligence, technological singulariy cognitive architecture, Ben Goertzel. 「汎用人工知能（AGI）への招待」 ＊1 http://users.dsic.upv.es/proy/anynt/ 図 1 第 2 回 AGI 輪読会より． 後列左より，小林亮太，船越孝太郎，荒川直哉，ジェプカ・ ラファウ，ベン・ゲーツェル，栗原 聡，松島裕康，相澤彰子． 前列左より，市瀬龍太郎，ザラスストラ・ゲーツェル，山川 宏，大澤博隆266 人 工 知 能 29 巻 3 号（2014 年 5 月） 自己紹介に引き続き，オーガナイザである山川 宏と市瀬 龍太郎が序章と第 1 章の紹介を行うことで，AGI の全体 像と輪読書の内容を概観した． 第 2 回（2013 年 8 月 26 日）では，ジェプカ・ラフ ァウ氏の計らいにより，ちょうど来日していた輪読書著 者のベン・ゲーツェル氏をお招きできることになり，汎 用人工知能の研究動向全体について，1 時間ほどの講演 をしていただいた．そして引き続く懇親会などを通じ て，本特集の記事 [ゲーツェル 14] に結びつくこととなっ た．また，大澤博隆氏は進化的な観点から AI を考え る「自然から学ぶ人工知能への道」（著者は Vladimir G. Red’ko）を紹介した．また荒川直哉氏とジェプカ・ラフ ァウ氏は，2013 年 7 月 31 日から 8 月 3 日に北京大学で 開催されていた第 6 回 AGI Conference を概観した [荒川 14]． 第 3 回（2013 年 10 月 8 日）では，松島裕康氏が AGI のコンセプトを達成するための性質，重要性，最善の 方法を議論した「汎用知能の本質」（著者は Peter Voss） を紹介した．また稲邑哲也氏が，人間はいつも物理学と 時間に拘束された世界を使って思考するという考えに基 づく「三次元シミュレーション：AI のキー技術として」 （著者は Keith A. Hoyes）を紹介した． 第 4 回（2013 年 11 月 22 日）では，船越孝太郎氏が， 認知科学的アイディアに支えられた形式論理に近いNARS （Non-Axiomatic Reasoning System）アーキテクチャ
について述べた「知能の論理」（著者は Pei Wang）を 紹介した．また沼尾正行氏が，汎用人工知能を意図し た認知科学理論としての DGI（Deliberative General Intelligence）という概念設計について述べた「General Intelligenceに お け る 組 織 レ ベ ル 」（ 著 者 は Eliezer Yudkowsky＊2）の最初の 3 分の 1 を紹介した． 第 5 回は，一泊二日の合宿形式（2013 年 12 月 10 ∼ 11日）で開催した．1 日目には相澤彰子氏，小林亮太 氏が計算量の点からそのままでは実装が不可能である が，究極の汎用性をもつ強化学習ベースの知能技術であ
る「ユニバーサル AI」（著者は Marcus Hutter＊3）を紹
介した．この内容については，本特集に含まれる記事 [小林 14] を参照されたい．ナイトセッションでは，各 参加者の汎用人工知能に対する思いなどを語りながら， 今後の発展性などについて討論を行った．二日目は，ま ず寺島裕貴氏が，神経回路からアイディアを得た進化 ハードウェアである「人工脳」（著者は Hugo de Gris＊4） を紹介した．さらに篠田孝祐氏が，汎用人工知能におけ るロードマップ構築の試みの論文である「人間レベル 汎用人工知能に向けた全景を描き出す」[Adams 12] を 紹介した．この内容については，本特集に含まれる記事 ＊2 ブロガーとして有名 ＊3 数学者 ＊4 現在はシンギュラリティの評論家としても有名 表 1 AGI 輪読会の活動状況と予定 担当者 章 タイトル 著 者 ■第 1 回 : 2013 年 7 月 3 日 （国立情報学研究所）
市瀬龍太郎（NII） 1 Contemporary Approaches to Artificial General Intelligence（1/2） Cassio Pennachin, Ben Goertzel 山川 宏（富士通研） 1 Contemporary Approaches to Artificial General Intelligence（2/2） Cassio Pennachin, Ben Goertzel ■第 2 回 : 2013 年 8 月 26 日 （国立情報学研究所）
Ben Goertzel AGI Overview Ben Goertzel
大澤 博隆（筑波大） 10 The Natural Way to Artificial Intelligence Vladimir G. Red’ko
荒川，ジェプカ 国際会議（AGI 2013）報告 荒川，ジェプカ
■第 3 回 : 2013 年 10 月 8 日 （国立情報学研究所）
松島 裕康（産総研） 4 Essentials of General Intelligence:The Direct Path to Artificial General Intelligence Peter Voss
稲邑 哲也（NII） 11 3D Simulation: the Key to A.I. Keith A. Hoyes
■第 4 回 : 2013 年 11 月 22 日 （国立情報学研究所）
沼尾 正行（阪大） 12 Levels of Organization in General Intelligence（1/3） Eliezer Yudkowsky
船越孝太郎（HRCJapan） 2 The Logic of Intelligence Pei Wang
■第 5 回 : 2013 年 12 月 10 ∼ 11 日 （神奈川県秦野市）
相澤 彰子（NII） 8 Universal Algorithmic Intelligence: A Mathematical Top→ Down Approach（1/2） Marcus Hutter 小林 亮太（NII） 8 Universal Algorithmic Intelligence: A Mathematical Top→ Down Approach（2/2） Marcus Hutter
寺島 裕貴（東大） 5 Artificial Brains Hugo de Garis
篠田 孝祐（電通大） Mapping the Landscape of Human-Level Artificial General Intelligence Sam S. Adams et al. ■第 6 回 : 2014 年 1 月 24 日 （国立情報学研究所）
ジェプカ・ラファウ（北大） 12 Levels of Organization in General Intelligence（2/3） Eliezer Yudkowsky
寺尾 敦（青学大） ACT-Rについて 寺尾敦
■第 7 回 : 2014 年 3 月 26 日 （国立情報学研究所） ［予定］
栗原 聡（電通大） 12 Levels of Organization in General Intelligence（3/3） Eliezer Yudkowsky
一杉 裕志（産総研） CogPrime Overview（1/3）＋ DeSTIN 論文 Ben Goertzel
■今後の予定
松尾 豊（東大） 7 Gödel Machines: Fully Self-Referential Optimal Universal Self-improvers Jürgen Schmidhuber 市瀬龍太郎（NII） 9 Program Search as a Path to Artificial General Intelligence Lukasz Kaiser
山川 宏（富士通研） CogPrime Overview（2/3） Ben Goertzel
荒川 直哉（Lingadelion） CogPrime Overview（3/3） Ben Goertzel
267 汎用人工知能輪読会の発足とその後の活動 [篠田 14] を参照されたい． 第 6 回（2014 年 1 月 24 日）では，ジェプカ・ラファウ 氏により第 4 回に取り上げた内容の続きとなる「General Intelligenceにおける組織レベル」の中頃 3 分の 1 が紹 介された．また寺尾 敦氏が，プロダクションシステムを 基盤とした古典的な認知アーキテクチャでありながら， 人の脳活動測定との関係などの研究も進められている ACT-Rについて，関連論文 [Anderson 04] に基づいて紹 介した． 今後，輪読書 [Goertzel 07] の残りの章についても輪 読を進める予定であるが，ベン・ゲーツェル氏の研究は， 輪読書の研究を引き継いだ CogPrime アーキテクチャに 移行しているため，第 3 章の代わりにこの関連論文を紹 介する予定である． 輪読会の参加者は，途中から，松尾 豊（東大），栗原 聡（電通大），一杉裕志（産総研），高橋達二（電機大）， 篠田孝祐（電通大），寺尾 敦（青学大）らが加わり，現 在は 20 名程度で活動を行っている．
4．今後に向けて
我々が輪読会を行う目的は，我々自身による汎用人工 知能の実現に向けての先行研究の把握であったので，特 にさまざまなアプローチからの認知アーキテクチャの紹 介を進めている．今回利用した本 [Goertzel 07] の輪読 はまもなく完了するため，今後は最新の認知アーキテク チャ，認知発達ロボティクス，深層学習などに関わる研 究論文をピックアップして議論を続けていくことを考え ている． また輪読会に関わる重要な論点として，汎用性をは じめとする現状の AI の限界，フレーム問題，シンボル グラウンディング問題などの基本問題，つくりだした汎 用人工知能システムの評価方法やベンチマークなどがあ る．また，汎用人工知能については，社会への影響を考 えていく必要があると考えていたが，AI 研究者のみに よる議論には限界があった．しかし，最近になり，哲学 と経済学の観点からそれぞれ汎用人工知能が実現した際 に起こるシンギュラリティの影響などについて考察して いる東京大学の西川麻樹氏，早稲田大学の井上智洋氏ら が，ゲストとして参加するようになり，そのような議論 への展開も期待している． 関連する研究活動として，一杉氏，松尾氏，山川の三 名は，神経科学や認知科学などの知見を参考としながら， 機能的に分化した脳の各器官をできるだけ単純な機械学 習器として解釈し，それら機械学習器を統合することで， 汎用人工知能アーキテクチャを構築することを目指す， 全脳アーキテクチャ勉強会＊5 の活動も行っている． 汎用人工知能には，日本における AI 研究の黎明期 （1980 年頃）を支えた AIUEO（Artificial IntelligenceUltra Eccentric Organization）勉強会を彷彿させると のコメントが，ある参加メンバからあった．現状の技術 背景を踏まえながら，初期の AI 研究が目指していた人 のような知能の実現に向けて今後も進んでいきたい．汎 用人工知能輪読会に一度参加されたい方は，著者まで連 絡をしていただければと思う．
◇ 参 考 文 献 ◇
[Adams 12] Adams, S., Arel, I., J., Bach, Coop, R., Furlan, R., Goertzel, B., Hall, J. S., Samsonovich, A., Scheutz, M., Schlesinger, M., Shapiro S. C. and Sowa, J. F.: Mapping the landscape of human-level artificial general intelligence, AI Magazine, Vol. 33, No. 1, pp. 25-42（2012）
[Anderson 04] Anderson, J. R., Bothell, D., Byrne, M. D., Douglass, S., Lebiere, C. and Y. Qin: An integrated theory of mind, Psychological Review, Vol. 111, No. 4, pp. 1036-1060 （2004）
[荒川 14] 荒川直哉，ジェプカ ラファウ：第 6 回汎用人工知能国際 会議（2013）参加報告，人工知能，Vol. 29, No. 3, pp. 239-240 （2014）
[Goertzel 07] Goertzel, B. and Pennachin, C.: Artificial General Intelligence, Springer（2007）
[ゲーツェル 14] ゲーツェル，ベン：汎用人工知能概観，人工知能， Vol. 29, No. 3, pp. 228-233（2014）
[小林 14] 小林亮太，相澤彰子： 汎用エージェントの理論的枠組み ─ Marcus Hutter が提唱する AIXI の紹介─，人工知能，Vol. 29, No. 3, pp. 234-238（2014）
[Hernandez-Orallo 10] Hernandez-Orallo, J. and Dowe, D. L.: Measuring universal intelligence: Towards an anytime intelligence test, Artificial Intelligence, Vol. 174, Issue 18, pp. 1508-1539（2010） [篠田 14] アダムス，サム S. ほか著，篠田孝祐 監訳，市瀬龍太郎 ほか訳：人間レベルの汎用人工知能の実現に向けた展望，人工 知能，Vol. 29, No. 3, pp. 241-257（2014） [山川 14] 山川 宏，市瀬龍太郎：特集「汎用人工知能（AGI）への招待」 にあたって，人工知能，Vol. 29, No. 3, pp. 226-227（2014） [山川 13] 山川 宏 : AGI-12 & AGI Impact: 汎用人工知能に関わる
二つの国際会議， 人工知能学会誌，Vol. 28, No. 3, pp. 468-471 （2013） 2014年 3 月 3 日 受理 ＊5 https://staff.aist.go.jp/y-ichisugi/brain-archi/j-index.html 山川 宏（正会員）は，前掲（Vol. 29, No. 3, p. 257）参照． 市瀬 龍太郎（正会員）は，前掲（Vol. 29, No. 3, p. 257）参照．
