人工知能学会員 2 年生の著者の言うことなので失礼も あるかと思うが，ぜひご批判・反論を聞いて考えてみた く，ドキドキしつつ引き受けることにした．ここまでの シリーズを読んで，著者には，あっ，そうだった，と思っ たことが多々あり，まずはその辺から始めたい．つまり それが最初の質問で， Q1：なぜ人工知能が嫌いなのか？ A1： 言語的なもの・代数的なものが苦手だから．ぱっ と見ると，人工知能は，言語と代数構造をベース に構築されている．しかし言葉は，書かれたり話 されたりする内容こそが面白く，その文法やカタ チについてとやかく言っても仕方がない気がし， 代数っていうのは絵に描けないし無限小のような 考えがもち込みにくい，など無知と偏見に満ちた 意見で決め込んでいた． しかし，一人の人格の中には正反対の自分もいる．正 直，数学の本当の面白さは数論的なこと・代数的なこと にある，と思っている．言語に関しても，意味と文法は 分かちがたく，チョムスキーは文法を独立させたけれど， 多分に文法は意味の一部だろう，ということから考え始 めると文法も面白い．嫌いというのは好きの裏返しなわ けで，だから次の質問が成立する． Q2： なぜ人工知能が好きなのか？ A2： 目に見えるパターンについての研究はもう十分だ と思うから．これまでやってきた「パターンの生 成と消滅」の研究は面白いし，そもそもカオスの 研究に惹かれたのも，「パイこね」という猛獣が非 線形方程式に埋め込まれている，その様子が視覚 化されたためである．それは記号的ではなく連続 状態の，代数ではなく幾何学的なイメージとして の力学系研究の真骨頂だ．しかし，それはもう十 分ではないか．1952 年に生物のかたちづくりの論 文を発表し，みんながそのチューリングパターン をほめ称えていたときに，当の Alan Turing は， シマウマの「シマ」のほうは簡単だけど「ウマ」 のほうが問題だろ，と言ったという．もし力学系 の研究が，せいぜいシマの研究どまりで，ウマは 永久にできないのだとしたら，著者には興味ない ということだ．ここでいうシマとウマとは，それ ぞれパターンと知能に置き換えられる． Q1とQ2 は人工知能「研究」の質問だ．まずはその対 象を定義しないと怒られそう．それで次の質問． Q3： 人工知能って何ですか． A3： 自然に我々がペットや人に接触するような，情動と 冗談に満ちた相互作用を，物理法則に関係なく，あ るいは逆らって，人工的につくり出せるシステムを， 人工知能と定義する．分析的にわかりたいのではな く，会話したりつきあうことで談話的にわかりたい と思うようなシステム．それが人工知能だ． こうして Q ＆ A の形式を取っていくと，著者の立場 はだんだんと明確になるが，逆に多くの誤解も生んでい く．いつだったか，大学院に入りたての学生に，先生は 具体的には何を研究しているのか，と問われ，どう言う か迷っていると，「あーなるほど，ロボット動かして認 知はどうたら，とかそーゆー系ですか」と，ひどく偏見 に満ちた了解を相手がつくり上げてくる場面に出くわ す．そしてそれは間違っている！ 人間は実に間違った 意味で人工知能的なのだ． こういう会話などが，著者にとって実に嫌いな人工知 能である．つまりは，なんでもものごとにラベル貼りし て考える．世界はラベルされないことに満ち満ちている のだから，そうした態度は間違っているのだ．そもそも が，そうした傾性（A Damasio の disposition の意味で） を増長させる Google のつくろうとしている「ラベル貼 りの世界」が悪いのではないか． Q4： なぜ，反 Google なのか． A4： Google のもつ構造的問題が深刻だから．先の学生 「人工知能とは」〔第 9 回〕
人工知能とは（9）
What’
s AI?（9）
池上 高志
東京大学大学院総合文化研究科広域科学専攻Takashi Ikegami Graduate School of Arts & Sciences, the University of Tokyo. [email protected]
の質問が典型的であるように，ラベルによる決め つけというか，その思考ストップに腹が立ったの だ．つまり，ラベル貼りというのは思考停止を意 味する．Google のやっていることは，森羅万象あ りとあらゆるものにラベルを貼り，インターネッ トワークの中に格納するという作業にほかならな い．究極的には Google search で探しても出てこ ないのなら，それは本当に存在しないことになる． これが Google という人工的な知能の目指すべき方 向だとするのなら，著者は断固反対する．そして 人工知能も嫌いになってしまうだろう．考えてみ てほしい．例えば，身の回りのありとあらゆるも のにラベルの貼られたへんてこりんな世界を．コッ プには「コップ」と貼ってあるし，机には「つくえ」 と貼ってある．そのラベルのバカバカしさはたち どころに了解できる．なぜならば私達の見ている 世界とは，「ラベル貼りされ得なかった残響と残像」 だからである．だから，コップを見るときには「コッ プ」を見ているのではなく，コップのテクスチャ や形，あるいはそれに喚起される記憶やイメージ を見ているのだ．それが認知プロセスである．だ から Google にアンチなのだ．認知はラベル貼りで はない． なるほど，この著者は記号とか言語がきらいなのか．そ うだとしたら，現在あるような記号操作としての人工知能 ではなく，別な形の人工知能を提案したらどうなのか． そういう質問が出てくるのは当然だし，そもそも現状 では記号や言語をベースにしてしまったら，A3 の定義 を満たすような人工知能が出来上がらない．だとしたら， オルタナティブを探すべきだろう． Q5： 記号操作を使わない人工知能の可能性はあるか． A5： 力学系としての知性はオルタナティブになる．例 えば脳の神経システムを模倣したニューラルネッ トワークによる「知性」は，記号操作ではない． ニューラルネットには，神経細胞の発火とシナプ ス増強・抑制による，随時変化していくパターン があるだけで，記号もその操作も存在しない． そ のときには，分類することではなく，パターン生成 のダイナミクスそのものが知性となる．それを「力 学系の知性」と呼ぶ．この力学系の知性が実装さ れた，一連のロボット研究がある．Rodney Brooks [Brooks 91] や Rolf Pfeifer [Pfeifer 01]，Jordan Pollack [Lipson 00], 谷 淳 [Tani 14]，石黒 浩 [石黒 12]，國吉康夫 [國吉 05]，浅田 稔 [浅田 13]，ある いは Dario Floreano，Stefano Nolfi [Floreano 08] と，Inman Harvey ら [Cliff 93] の進化ロボット群， ほかにも多くが力学系としての知性を模索してき た（同じロボットとは括れないくらいこれらのア プローチは違うのだが，記号的ではないロボット を目指しているという点でまとめると）．そうした 知性は，例えば「ごみ」という内部表象をつくら なくても，ごみを片づけることができるのだ． 人工知能はもう力学系的ロボットによってできてし まったのだろうか．記号操作は意味ないだろうか． Q6： ロボットは人工知能を達成したか？ A6： ゴキブリ的な知性ならできた．身体は脳の命令を聞 く入れ物ではない．脳は身体運動の結果を後付け 的に解釈する装置だ．身体からつくり出す情動こ そが，脳科学者 Damasio の言うように人の知性を つくるという可能性がある [Damasio 95]．そうい う路線上ではかなりの成功を収めている．Brooks の Roomba はたいした発明だ．しかし，このロ ボットからゴキブリ以上の知性は出現しそうにな い．Andy Clark は「現れる存在」（2012，原書は 1997）という本 [クラーク 12] の中で，記号処理 AI との折衷案を提案している．なぜならば，複雑 な状況に関しては，表象主義と計算がつくり上げ たパラダイムが重要だ（p. 311）と考えるからだ． このシリーズ第 6 回に浅田 稔さんが書かれている もの [浅田 13] にもその主張が見て取れる．もし折 衷案をもってこないとしたならば，力学系として のロボットが「進化」していく過程で「記号」が 出てこないといけない． ところでここで注意を喚起しておかなければならない のは，力学系の知性はロボットに限定されるものではな い，ということだ．身体なき連立方程式や，セルオート マトン，あるいはインターネットも巨大な力学系である． このことには後で立ち戻る．ロボット人工知能の問題は， ゴキブリから人間への進化，を考えることなのだ．そこ で次のような質問を設定してみたい． Q7： 人工知能は進化させるものなのか． A7： 知能は進化のたまものである．進化というコンテ キストに照らし合わせることで初めて，知能とは 何かがわかると思う．人工知能の研究が，それを いきなり出現させようというのだとしたら，難し いか不可能だろう．自然においては記号操作的知 性の進化には 40 億年かかっているのだ．それは一 般的な知性などではなく，進化的に生まれてきた 「鳥の羽」のような生物の形質とみなすべきである． かく言う我々もまた進化のたまものであり，その 我々が認識できる知性を問題にしているのである から，知能とは生命の一形質である． 知能が進化のプロセスであるならば，知能をつく りにはまずは生命をつくらねば！ だから人工生
命を考えることが人工知能実現への道なのである． 少なくとも著者はそういう結論へと至った． 人工知能に比べて，人工生命の研究はあまり知られて いないし誤解も多い．例えば何もないところから知能と 生命の，どちらをつくるのが簡単か，そうした問いを立 てることも可能だ．生命は知性を進化させたが，生命な き知性というのは自律的には発生していない（e.g. 賢い 惑星とか，賢い河といったもの）．生命を生命のないと ころに発生させるプロジェクト，それが人工生命である． Q8： 人工生命とは何か [Bedau 00]． A8： 人工生命とは，自律性・自己維持・自己複製・進 化可能性，を人工的なシステムにもたせたものだ． どんな原始的な生命体も，この四つはもっている と考えられる．例えばゾウリムシは自律的に動き， 膜に囲まれた代謝反応ネットワークをもち，自己 複製を可能とし，生命進化の大きな系統の流れの 中にある．これらを，生命システム以外の材料を もとに構成されたものが「人工生命」である．具 体的には，例えば抽象的な化学反応やコンピュー タのプログラム，あるいは方程式群の中に上の四 つの条件を探索する． もし人工生命が生命の進化プロセスの再現に成功して いれば，すなわち，ロボットが出現するということであ り，その先に人工知能が進化してくることを期待できる はずなのだ． Q9： 人工知能は人工生命の中に進化するか？ A9： 今の人工生命では無理．A6 で議論したように，ゾ ウリムシやゴキブリは，自発的に将棋を指したり数 学の問題を解いたりするようにはならない．現在実 現している人工生命的なものは Roomba や Drone であり，10 年後の空には無数の Drone が飛び交っ ていることだろう．しかし Drone のネットワーク が自発的に知能をつくりだすことはない．その理 由の一つは，現実世界で人工生命が進化するという A8 の 4 番目の形質をもち合わせていないからだ． 今の人工生命は生命とはほど遠い． Brooks は，Roomba は生命にはなっていないと言 う．そのとおり．なぜなら括弧つきの自律性以外の， 上に書いた生命の条件は満たされていない．四つ の条件を満たすためには，コンピュータの速さが まだ足りないか，単にパラメータがうまく選ばれ ていないか，何か基本法則がまだ見つかっていな いか，モデルの複雑さのレベルがまだ足りていな いか．この足りない何かを「Brooks のジュース」 という [Rodney 01]．このジュースをかけると，生 命ではないものが生命になる魔法のジュース．そ れは，まだ見つかっていない． この質問はそのまま，人工知能にも当てはまり，もし， もっと複雑なシステムで速い CPU を搭載したら，パラ メータを調整したら，人工知能は A3 的知能をつくれる のだろうか．この Brooks のジュースの論文は 2001 年 の出版であり，その数年前に IBM の Deep Blue が人間 のチェスチャンピオンのカスパロフを破っている．2014 年現在では，将棋のプログラムがプロ棋士を破っている． しかし，A3 にあるような人工知能の定義とはちょっと 違う次元の問題だ．人工生命を生命にするには Brooks の四つの答え以外の答えがあるとしたらそれは何だろう か．それを今，問うべき時期にある！ Q10： 人工生命・知能の実現のための 5 番目のエレメン トは？ A10： ずばり過剰性が足りていない！ 人工生命をつく る場合，私達は生命をインストールしているので はなくて，「世界そのもの」をインストールして いるのだ．そしてインストールされる世界は，現 実に比べるとはるかに陳腐で，あるいは死ににく くできている．しかし現実世界はもっとリッチで 過酷なのだ．現実世界における過剰性との向き合 い方．それが，これまでの人工生命（そして人工 知能）の研究には欠けているように思える．操作 不可能性や想定外のインプットということに対抗 するシステムの安定性（ロバストネス）は，その 過剰性ゆえにつくり出される不安定性（フラジャ イル）を極力避けるようにしかつくられない．コー ヒーをかけられたら，そのことを情報として動き 出すロボットでなくてはならない．決まった入力 形式しか受け付けないコンピュータなんて，とて も自分では生きていけない． 文字情報だけではなくて，広く情報や物質的な過 剰なデータによって創発される構造とパターン． それはいわゆるビッグデータの科学とは異なり， 過剰なデータ自身が自己組織化して見せる「生命 性」を見ることだ．この生命性こそが，イコール 人工生命であり人工知能である．それを Massive Data Flows という＊1．
Massive Data Flowsには届かないが過剰性の第一歩 として，膨大なデータを扱える候補が提案されている．
＊1 Massive Data Flow（MDF）を提案し，過去 4 回にわたって 人工知能学会でオーガナイズさせていただいたのが，ここでこ の原稿を書いている理由でもある． 池上高志，岡 瑞起：マッシブデータフローの科学を目指して ─人と環境の間を流れる高次元のデータフローを巡る生成と 解析について─，人工知能学会誌， Vol. 27, No. 4, pp. 389-395 （2012）．また現在，本学会論文誌で MDF の論文を公募している． http://www.ai-gakkai.or.jp/pse_201505/
例えば多段階のフィードフォワード型のニューラルネッ トワーク，Deep Learning がある [Hinton 07]．これは， 膨大なデータによって駆動される分類機械である．ここ にデータの量や質があるサイズを超えた途端，生命的 なものが出現することはあるだろうか．Google Inc. は， 米国航空宇宙局 NASA と組んでカナダの会社が開発し た D-Wave チップを搭載した量子コンピュータを用い， 人工知能研究にチャレンジするという [NASA]．非局所 性をもつ量子的なもつれは，膨大なデータを高速並列計 算を用いてプロセスすることができるだろう．そこに データの生命性は見えるだろうか．それは今後の展開に かかっている．
Google Inc.は Deep Learning の研究室をまるごと買 い入れたという．このままでは Google の一人勝ちだ． 反 Google の著者としては大いに困る．何か対抗策はな いか？ 人工生命も Google につくられてしまうのか． Q11： Google への対抗策はあるのか？ A11： 過剰性を取り込む新しい Web に期待する．現状， 人がつくり得た最も複雑な人工システムはイン ターネット Web である．そこには，過剰なデー タが流れ込み，インターネットの構造は日々変化 する，ロバストだけど不安定な組織体である．だ から，Web をもとに生命を創発させ，人工知能が 生まれるのを待つ実験はどうか． こういう話をすると，Web は単に人の行動の影で あり，そこには自発的な何かは少ない．ましてや 生命性や心などはない，といわれる．さらに，身 体性も個体性もないだろう，ということになる． そもそも Web は Google の独壇場ではなかったか． 現在のコンピュータをつないだインターネットは， Social Network Service（SNS）の登場によって，サー チする疑問文的ネットワーク（e.g. 空とは何か？ など と，サーチする）から，宣言する平叙文的ネットワーク へ（e.g. 今日は眠いとつぶやく）と変化してきたといえる． Webはすでに Google のものではない． 確かに今の Web にすでに人工生命が生まれているか， と問われればそれにはノーと言わざるを得ないだろう． しかし，現在までの研究で，Web が自律的なパターンを もつこと [Oka 13] や，興奮性媒質であること [Oka 14] は示せている．つまり，それは原始地球の多様な化学スー プみたいなものといえるだろう．すると，そこに何か新 たなネットワークの使われ方のようなものが投入される ことで，生命が生まれることもあるのではないか．それ が次のネットワークの変革で，おそらく，真の意味で人 工生命のいるネットワークが見つかるような．実験が組 めるはずだ． Q12： 百歩譲ってこの議論が正しいとしても，化学実験 ですら生命を誕生させることには成功していな い．だからどんな Web になったところで，そこ に生命が生まれると思うのは早計だろう．そう考 えられる根拠は何か． A12： 化学状態から生命状態への進化を可能にしたと考 えられる根拠の一つが，自己触媒反応の進化であ る [Eigen 78, Virgo 13]．自己触媒は，例えば入 力として化学物質 A を反応ネットワークに入れ ると，A が何倍かになって出力される．それが自 己触媒ネットワークだ．こうした自律的な自己 複製反応は，人工生命の条件①である（A8）．す でに今の Web にもこうした「自己触媒性」はあ ることはわかっている．例えば twitter における follow-follower ネットワークとその上の RT 拡 散は，その簡単なメカニズムだ．②番目の条件 は，自己維持．化学的ホメオスタシスに対応する， Web 的なホメオスタシスもありそうだ [Oka 13]． ③番目の進化可能性はどうか．Web のネットワー クは質・量ともに進化している．そこに自律的な 進化可能性も見て取れるのではないか． 要するに過剰性の海につかる Web，新しいこれからの Webには十分人工生命が生まれ，そこには進化可能性も もち合わせていると期待できる．だとしたら最後に聞く べき質問は，こうだ． Q13： 人工生命や人工知能が生まれたかどうか，はわか るものか． A13： わかると思う．人工知能に関するマイルストーン 的な映画作品に「ブレードランナー（リドリー・ スコット監督，1982 年．原作としているのはフィ リップ K. ディックの「アンドロイドは電気羊の 夢を見るか」）というのがある．人工的につくら れた人間・レプリカント達は，4 年という有限の 寿命しかもてない．自分の死期を悟ったレプリカ ントのバッティは，辞世の句を残して HALT す る．知力・腕力ともに強力なレプリカントは，私 達にとって強く「実存的」である．私達にはそれ がわかる．わかるのは，何ができるかといった機 能的なものによるのではなく，そのシステムが Being There（現れる存在）をもち得ることで， わかるのだ．そうした感覚的な気付き（perceptual awareness）が，知能をわかるというときには大 事である． バッティの辞世の句は，実はアンジュール・ランボー の「酩酊船」（1871）の人工知能バージョンであること に気が付く．ランボーのそれは次のように始まる（小林 秀雄 訳）．
われ，非情の河より河を下りしが， 船曳の綱のいざなひ，いつか覚えず． 罵り騒ぐ蛮人は，船曳等を標的に引つ捕へ， 彩色とりどりに立ち並ぶ，杭に赤裸に釘付けぬ． 船員も船具も今は何かせん． ゆけ，フラマンの小麦船，イギリスの綿船よ． わが船曳等の去りてより，騒擾の声もはやあらず， 流れ流れて思ふまゝ，われは下りき． これはまさに，ただの船が自律性を獲得し，自分で大 海原に漕ぎ出すところから始まるのだ．このあとには凄 まじい冒険が待っている．情報の海に自分で漕ぎ出す新 しいシステムは，どんなものなのか，バッティはあまり にも過剰な体験を4年間の間にしている＊2．それが“Being There”をつくる．人工知能の 5th エレメントは，過剰 性でありそこの我々は生命から進化した知能を見ること になる．
◇ 参 考 文 献 ◇
[浅田 13] 浅田 稔：人工知能とは ?（6）─認知発達ロボティクス による知の設計─，人工知能学会誌，Vol. 28, No. 6, pp. 975-983 （2013）[Bedau 00] Bedau, M. A., McCaskill, J. S., Packard, N. H., Rasmussen, S., Adami, C., Green, D. G., Ikegami, T., Kaneko, K. and Ray, T. S.: Open problems in artificial life, Artificial Life, Vol. 6, pp. 363-376（2000）（人工生命についての書は自分のも のも含めて多いが，例えば 2000 年のこの論文は人工生命の 10 大問題を集めている）
[Brooks 91] Brooks, R. A.: How to build complete creatures rather than isolated cognitive simulators, Architectures for
Intelligence, pp.225-239, Erlbaum（1991）
[クラーク 12] アンディ・クラーク 著，池上高志，森本元太郎 監 訳：現れる存在─脳と身体と世界の再統合，エヌティティ出版 （2012）
[Cliff 93] Cliff, D.: Inman Harvey and phil husbands,
Explorations in Evolutionary Robotics, Adaptive Behavior,
Vol.2. No.1 pp. 73-110（1993）
[Damasio 95] Damasio, A.: Descartes’Error: Emotion, Reason,
and the Human Brain, Penguin Books（1995）
[Eigen 78] 自己触媒反応の重要性は，人工生命研究の一つの柱で， 古くは，Eigen, M. and Schuster, P.: Part A: Emergence of the Hypercycle, Naturwissenschaften, Vol. 65, pp. 7-41（1978）に 始まった．
[Floreano 08] Floreano, D., Husbands, P. and Nolfi, S.:
Evolutionary Robotics, Siciliano, B. and Khatib, O.（Eds.）， Springer Handbook of Robotics, Chapter 61, Springer（2008） に良いまとめがある．
[Hinton 07] Deep Learningは 2014 年の人工知能学会（松山，5 月）においても，オーガナイズドセッションが組まれた．例え ば，Hinton, G. E.: Learning multiple layers of representation,
Trends in Cognitive Sciences, Vol. 11, pp. 428-434（2007）を参 照． [石黒 12] 石黒 浩：持続発展可能なロボット開発におけるマッシ ブデータフロー , 人工知能学会誌，Vol. 27, No. 4, pp. 396-400 （2012）．＊1 に掲載した解説の p.396 は，このエッセイの後半 の話ともつながっていく． [國吉 05] 國吉康夫，大村吉幸，寺田耕志，長久保晶彦：等身大ヒュー マノイドロボットによるダイナミック起上がり行動の実現 , 日 本ロボット学会誌，Vol. 23, No. 6, pp. 706-717（2005） [Lipson 00] Lipson, H. and Pollack J. B.: Automatic design and
manufacture of artificial lifeforms, Nature, Vol. 406, pp. 974-978（2000）
[NASA] NASAの量子人工知能研所（QuAIL）：http：//www. nas.nasa.gov/quantum/
[Oka 13] Oka, M. and Ikegami, T.: Exploring default mode and Information Flow on the Web, PLoS ONE, Vol. 8, No. 4, e60398 （2013）
[Oka 14] Oka, M., Hashimoto, Y. and Ikegami, T.: Fluctuation and burst response in social media, 2nd Int. Web Observatory
Workshop WOW2014 at WWW 2014, Korea （April 2014）
[Pfeifer 01] Pfeifer, R. and Scheier, C.著，石黒章夫，細田 耕，小林 宏 翻訳：知の創成─身体性認知科学への招待，共立出版（2001） [Rodney 01] Rodney, B.: The Relation between matter and life,
Nature, Vol. 409, pp.409-411（2001）
[Tani 14] Tani, J.: Self-organization and compositionality in cognitive brains: A neuro-robotics study, Proc. IEEE, Special
Issue on Cognitive Dynamic Systems, Vol. 102, No. 4, pp.
586-605（2014）
[Virgo 13] 最近では例えば，Virgo, N. and Ikegami, T: Autocatalysis before enzymes: The emergence of prebiotic chain reactions, Lio, P. et al.（eds.），Advances in Artificial Life, ECAL 2013,
Proc. 12th European Conf. on the Synthesis and Simulation of Living Systems, pp. 240-247, MIT Press（2013）
2014年 6 月 6 日 受理 池上 高志（正会員） 1989年東京大学大学院理学系研究科博士課程物理学 専攻修了．理学博士．現在は，東京大学大学院総合 文化研究科広域科学専攻教授．複雑系と人工生命を 研究テーマとし，1998 年以降には，身体性の知覚， 進化ロボットの研究を展開．2005 年以降は，油滴の 自発運動の化学実験とともに，Filmachine，Mind Time Machineなどのアートインスタレーションも 行うようになった．その成果の一部を「動きが生命をつくる」（青土社） として出版．現在は，マッシブデータのつくり出す世界を提案し，研究 活動を行っている．
