第1部「対談」情報処理と人工知能

最近の人工知能の流行に関して

角：人工知能が流行っていますが，次 の冬の時代はいつでしょう（笑）． 栗原：今回のブームは第 3 回目といわ れていて，前回はエキスパートシス テムやプロダクションシステムで盛 り上がりました．新しい手法や技術 を生み出す側が，それを利用する産 業側よりも盛り上がった，つまりは 技術創出主導型であったのだと思い ます． 塚本：今回もそういう意味では似てい ますよね． 栗原：確かにディープラーニングとい う技術で盛り上がっているように見 えるのですが，コンボリューション とかリカレントとかって，実は部分 的に発表されたのはもう 10 年ぐらい 前です． 角：今の流行が発生したのは根本的に は 1980 年代ですかね． 栗原：技術自体はずいぶん前にそろっ ていたわけだから，本当はその頃ブー ムが来ていても良かったのでしょう けれど，そうはならなかった． 塚本：技術優先というと前回の状況と も似ているような気がしています． 技術に伴って応用が見えてきたとい う流れも実は前回と同じじゃないで すか？ 栗原：プロダクションシステムでのブー ムでは，人の知能をどんどん取り入 れることでより知的なシステムの実 現を目指しました．だけどきりがな くて，結局満足なものができなかっ た．今回はディープラーニングとい う技術があって，それに加えて実用 技術として利用できるための基盤で あるビッグデータや GPU なんかもあ る．実際，簡単にアプリケーション がつくれて，しかもしっかり動いて しまう．よって，技術を生み出す人 より使う人が盛り上がっている．技 術を利用する基盤ができているので， 前回みたいにシュリンクするのでは なく遍在化していくといった感じで す．人工知能に関する大型展示会も 毎回大混雑ですね．特にベンチャー 企業がアクティブです．商談がどん どん成立しているということは，使 えるものがあるというわけですから． 塚本：私も今回の状況で今までと違う のは環境とユーザだと思います．適 用範囲を広げていけば，使える領域 が広くなって，ビジネスに直結して いるというところが非常に大きい．

AlphaGo 対イ・セドル第 2 局

とテスラ事故

角：第 2 回目のブームは「知識は力なり」 ということがあったけれど，そもそ も知識を表現するのは難しいという のでケチがつきましたよね．今回の ディープラーニングにケチがつくと したらどこでしょうか． 栗原：足を引っ張ることになるかどう

情報処理と人工知能

Information Processing and Artificial Intelligence

日　時：2016 年 7 月 1 日（金） 場　所：日本化学会化学会館（東京・御茶ノ水） 対　談：

栗原　　聡

（（前）人工知能学会誌編集委員長／電気通信大学大学院情報理工学研究科／

　人工知能先端研究センター）

　　　　

塚本　昌彦

（情報処理学会誌編集長／神戸大学）

聞き手：

角　　康之

（公立はこだて未来大学）

聞き手・編集：

長野　　徹

（日本アイ・ビー・エム株式会社）

「人工知能学会・情報処理学会共同企画─第 1 部「対談」─」

かはわからないですが，AlphaGo 対 イ・セドル第 2 戦で，人からすると「意 味不明と思われるところ」へ手を打っ た場面がありました．皆，AlphaGo は間違えたのではないか，と説明し ていましたが，実はそれは良い手だっ たわけです．囲碁という膨大な思考 空間を AlphaGo はものすごい勢い で学習して未学習な部分を埋めてい きました．そして，人がまだ埋めて いないところを攻めたので，もはや 人にはその意味がわからなかったわ けです．人工知能が人間を超えてし まえば，とても頼りになるのだとは， 思いますが，一方，人工知能がどの ように考えているのかを，もはや推 し量ることはできず，それは不安感 につながるとも考えられます． 角：人工知能の判断を人間が受け入れ られなくなるということでしょう か？ 栗原：という懸念も指摘されています． 医療にしてもスーパー人工知能が， 「こういう診断結果です」と言っても， お医者さんが患者さんにその理由を 説明できないと困りますよね．人工 知能を安心して信頼して使うために は，我々を超えてしまっているかも しれない人工知能が考えたことを何 かしら説明できる仕組みを考える必 要があります．そこは意外と盲点に なるかもしれない．だとすると，人 を超えてしまっている人工知能のほ うが人に合わせてあげなくてはいけ なくなるのだと思います． 角：人間が判断することにこだわるこ とを諦めたほうが良いのかもしれな いですね． 栗原：一つの結論は多分それで，すで に飛行機のオートパイロットなど， もちろん膨大な試行をクリアしたか らではありますが，人間が介入しな くても信頼して利用されていますよ ね． 角：しかしすでに経験したものにしか 人工知能は適用できないはずだから， 新しいものに対しては難しいはずで すよね． 栗原：テスラの自動運転で死亡事故が 起きたというニュースがありました ね．テスラが自動運転中にトレーラ が割り込んできて，普通ブレーキを 踏むところをトレーラの下に空間が あったので，くぐれると判断したと か，トレーラの車体の色が白で誤認 識した，といった説明ですね． 角：人間でもやったかもしれないです ね． 栗原：そうかもしれません．しかし， 世論はそのようには解釈しないので すよね． 長野：人工知能がブームになっている 一方で，今までの自動制御とは異な るレベルで厳しい評価がされている 気がします．それは人工知能の成熟 度が不気味の谷にたどり着いてしま い，人と全く同じようでないと，何 か文句を言われるレベルに達してき たということなのですか？ 塚本：そういう意味では，人工知能が 不気味に感じるとすると，それは人 間に近づいてきたからかもしれませ ん．だけど，そうでもないような気 がします． 角：チェスのときも似たようなことが いわれていましたよね．対戦してい た Kasparov は，不気味さを感じた というか，何でこんな手を打ってく るのだ，みたいなことを言っていま した．「機械のはずなのに」という不 気味さを感じた，と．考え過ぎなの かもしれないですが．でも，不気味 さを感じるのは人間側なので．不気 味の谷と似たような現象だと思いま すけれどね．

人工知能とは

栗原：そもそも「知能とは何か」とい う一般的な問題ですが，私は「適応 するための仕組み」だと思っていま す．生物は自然界で生き抜かなけれ ばならず，自然界に適応するために は，それは過去に学ぶことも必要で すね．生き抜くための適応する仕組 みが知能であって，それを工学的に 具現化させる研究が人工知能研究な のだと思います． 塚本：昔，人工知能と言ったときは， 人の知能を真似してつくるようなも のというふうな言い方をしていたと 思います．最近はずいぶん賢くなっ たので，人を模した知能という定義 はだんだん薄らいでいて，「人がつ くった知能」となってきているよう に思えます．しかし，生物が生きて いくための適応，というレベルのも のではないという感じがします．人 間の知能はもっと抽象的なレベルで 変なことをやっているプロセスだと 思うのです．身体性と密接に関連す る側面もありますが，空間や環境な しの知能から数学が生まれることも ありそうです．そういうものこそ知 能ではないですか． 栗原：ロボカップを立ち上げられたソ ニー CSL の北野宏明所長が，人工知 能の新しいグランドチャレンジを提 案されています．人工知能を利用し て，ノーベル賞級の科学的発見をし よう，という内容です．論文を人と 同じように理解し，年間に発表され

る膨大な数の論文から，新しい手掛 かりやヒントを発見する，という内 容です． 角：査読は少なくともさっさと人工知 能に任せられますね． 栗原：査読でも，クイックリジェクト などはすぐにできそうですね． 長野：論文は新規なところを主張する のが目的で，新しいものには今の人 工知能では対応できないとするのが， 先のテスラの事故の例とパラレルだ とすると，査読は人がするしかない のでしょうか． 塚本：新規性がどれくらい大きいかは もしかしたら人間より正確にわかる ようになるのかもしれません．そも そも人工知能関係のプロジェクトで は応用をある程度絞ったものが多く， 初めての場面に遭遇しても何とか対 応できるようにしたいということだ と思います．本質的には人間の能力 を超えて，コンピュータが科学技術 を発展させていくという知能を考え るのだと思います．その考え方自体 が加速度的な科学技術の発展につな がっていくのだと思います． 栗原：少なくとも AlphaGo は人のレベ ルを超えたわけです．まだ人が見て いない世界を見たわけで，しかも， 人よりもはるかに高速に未開拓空間 を制覇していく．人工知能が新しい 発見をもたらすことも大いに期待で きます． 塚本：人工知能が論文を書くというの に相当するわけですよね．人間が書 く以上の生産性を期待します． 角：人工知能が書いた論文を人間が理 解できないからリジェクトされてし まい，数年後に，やはりそれは正し かったということが起きるかもしれ ません．

人工知能が職を奪う

角：東京都知事はそろそろ人工知能に したほうが良いのでは？（笑） 塚本：政治というのは人工知能にとっ てもチャレンジングな分野だけれど も，最終的なデシジョンをするのは だいぶ難しい．いろいろな情報を整 理して，現状を何か教えてくれるサ ポート的なところは割とすぐにでも 使えそうですよね． 角：でも，最初の話に戻りますが，や はり人間のほうが受け入れられない ことも起きそうですね． 栗原：普段，何かと自分の行動に理由 付けをしますよね．「何でこうした の？」と聞かれたら「〇〇だからだよ」 というように．でも，その本当の理由， すなわち脳がその行動を生成した詳 細なプロセスを説明できてはいない はずで，実は我々自身も自分の行動 をこじつけて説明しているわけです． だとしたら，人間を超えてしまって いる人工知能の判断の詳細な理由が わからなくても，我々が理解できる レベルでこじつけてくれれば多分い いのだと思います． 栗原：人工知能が職を奪う，といった 懸念をよく耳にしますよね．接客業 などが特に早いという意見が多いで すね．でも，それって本当ですかね？ 角：逆だと思う． 栗原：そう，逆ですよね．だって，人 間同士の温かみある会話は，多分， 今の人工知能ではまだ不可能です． 塚本：政治家もそうですけれども，弁 護士とか医者とか大学の先生も，膨 大な専門知識をベースにした仕事は， 容易にコンピュータに置き換わって いくということがいわれています． 想像力，クリエイティビティが必要 な分野でも，コラボという形で仕事 の質が変わると考えられています． 栗原：僕らが扱うべき情報がどんどん 多様化してきて，複雑化して，人工 知能が結構妥当なアイディアを出し てくれると，意外と僕らのような研 究職は危ない（笑）． 塚本：当面はサポートとして使われる でしょう．でも，プロの仕事のサポー トという，結構本質的なところに食 い込んでくる．それが今の人工知能 のポテンシャルだと思います．だか らこそ，私は今のブームが今までと 違うかもしれないと感じています． 栗原：もしかすると，将来，政治家は 政策立案に皆同じ人工知能オンライ ンソフトを使っていたりして． 塚本：市民もそうなのではないですか． 市民もオンラインソフトを使って， 政治批判する．良いソフトをつくっ て，サーバ側で牛耳ることができれ ば，世の中を動かすことができるよ うになるかもしれません． 栗原：まさに全体制御の話ですね． 角：そうなのですね．でも，イギリス は EU からわざわざ脱退するのです ね．みんなが同じになってしまうと， 揺り戻しは何かありますよね． 塚本：だから，今度の国民投票という のが，そもそもそういう危うさをもっ ているわけですよね． 栗原：先日，NHK スペシャルで，不寛 容社会というテーマでの放送があり ましたね．皆同じ方向を向いている と楽なので，多様性が失われてしま う．インターネット以前はつながり にくい社会でしたが，現在は，容易 に，しかもリアルタイム性も出てき ました．個人の何気ない意見が，想 定外に広まってしまう．でも，一様 性は生物の進化のうえでは危険であ 塚本昌彦 （神戸大学，情報処理学会誌編集長） 栗原 聡 （電気通信大学，（前）人工知能学会誌編集委員長）

り，いずれは相転移して多様化に反 転すると思うのです． 角：世の常として，裏切ったほうが得 なことが必ずありますからね． 塚本：インターネットで，世界がつな がって，通信，人と人とのコミュニ ケーションということがグローバル にできるようになったから，みんな 同じ方向を向きがちになるわけです よね． 栗原：同じであることのほうが安心で 楽である，という議論も理解はでき るのですが，でもいずれ反転する， という話があまり出てきませんね． 角：そうですね．そろい過ぎると危な いですからね．ちょっとした環境の 変化で全員が死んでしまうことに なってしまうから． 栗原：そう，適応性を失うことは危険 ですよね．

ディープラーニングと人工知能

長野：最近，ディープラーニングイ コール人工知能みたいなところがあ ります．工学的な観点からは，単な る表現学習をする仕組みをもった高 性能な分類器だという見方もできま す．しかし，いつの間にか分類器が 人工知能という言葉に置き換えられ てブームが巻き起こってしまってい るようにも思います．そのギャップ はどう埋めていけばよいのでしょう か．単なるパラメータのチューニン グではなくて，ある種のアルゴリズ ムなり表現を学習するというところ が，分類器を人工知能たらしめるの でしょうか． 塚本：私は今のディープラーニングで できる部分は，結構人間にとって重 要な部分で，多くの人の職業がそれ で置き換えられてしまう可能性があ るというところだと思っています． つまり，単なる分類とかいう言い方 ではなくて，人類にとって非常に本 質的な影響のある部分をガツンと攻 められた，というイメージをもって います．だから，まだギャップはあ るでしょうけれども，ちょっとずつ 技術がつながっていくと，人間の知 能を本質的に乗り越えていくという ポテンシャルがあるのかもしれませ ん．狭く言い過ぎる必要もないし， 過度に言い過ぎると誤解を生むので すけれども． 栗原：やはり AlphaGo は衝撃でした． でも，僕は AlphaGo の前の ATARI のゲームを使った Deep Q-Network のほうが衝撃的でした．人と同じよ うにゲームの画面のみからゲームの 特徴を抽出し，強化学習を使ってルー ルを学習し，いくつかのゲームで人 よりも強くなってしまいました．そ の技術が AlphaGo で使われたわけで す．人工知能がとうとう一線を超え た感じがしました． 塚本：画像認識なんかもね．ディープ ラーニングで急にスコアが良くなり ましたよね．10 年ぐらい前だと思い ますけれど．やはり急に，今まで思っ ていた人工知能のレベルと違うもの が現れてきたという感じがします． 長野：そこのステップアップは，分類 器の精度が良くなったから得られた わけですが，それはある種の何か知 能を得たから分類器の精度がステッ プアップしたというふうな理解で しょうか． 栗原：ステップアップしたのは間違い ないかと思います．これまでも技術 的なステップアップはあったわけで すが，人を超えないレベルでの変化 でした．しかし，今回のステップアッ プは人と並びかけたというところが すごい．分野によっては超えてしま うということです．確かに一部分で すが超えたのです．でも，それが過 度に一般メディアに伝わり，ディー プラーニングにより知性が加速する 人工知能が，人を超えて攻めてくる のだという展開になってしまう． 塚本：だからさっきのおっしゃり方は， 過少に言い過ぎている感じがあって， そんなことを言うと，人間の脳だっ て何かに過ぎないという言い方に なってしまいます．

学会誌のミッションと今回の企画

長野：最後にいろいろな学会誌の役割 についてお話しください． 塚本：新しい分野に火をつけていくと いうところもありだと思います．し かし一方で，ブレーキをかけること も大切かと思います． 角：専門に近い人でも，ちょっと頭を 整理できなくてブームに乗ってしま いがちなので，そこをしっかりとお 願いしたいと思います． 塚本：今回の人工知能の話に関しても， いろいろな意見があります．マジョ リティではなかったとしても，何か こう，今の人工知能はもっとすごく なるとか，これはもう絶対失敗する とか，両方の意見があるわけで，そ ういう，いろいろな意見を学会誌と いう形で載せていくことができれば よいのかなと思うのです． 栗原：先週，総務省情報通信政策研究 所からの報告で，将来，野良ロボッ トが徒党を組んで参政権を要求する 可能性がある，といった人工知能の リスクの可能性についての報告があ りました．しかし，完全自律型ロボッ トが普通に日常社会に存在する世界 はさすがにまだ先の話だと思います． 現実的なのは，振込め詐欺とかです ね．相当成功率が高くなるでしょう ね． 角：技術の可能性を正しく理解するた めに，アクセルとブレーキをうまく 調整するのが，まさに学会誌のミッ ションなのかもしれないですね． 栗原：ブレーキを踏むかどうかわから ないですが，この対談以外に今回の コラボレーション特集では，11 名の 研究者による，それぞれ 2 ページの 角 康之 （公立はこだて未来大学）

人工知能における自分の研究領域の 動向紹介があります．ちなみに，そ の 11 名は人工知能学会誌側では人の 道，「人工知能における人道」につい て書いていただいています． 角：なるほど．それでは陰と陽になっ ているわけですね． 栗原：やはり情報処理学会ではあまり 過激なことは書かないほうがよいか と思います（笑）． 塚本：人工知能学会誌は，表紙や紙面 も最近非常にチャレンジされていま すよね．あれは，情報処理学会誌側 としても意識しています．人工知能 学会誌側では情報処理学会誌を意識 していますか？ 栗原：意識というか，やはり情報処理 学会は規模が大きいですから． 塚本：人工知能学会は会員は何人です か． 栗原：4 000 人を超えたくらいです．情 報処理学会は？ 塚本：2 万人． 栗原：5 分の 1 ですね． 塚本：4 000 と 2 万でそんな変わらない ですよね．ログを取ったら同じよう なものです（笑）． 栗原：情報処理学会誌は毎月発行です ね．それがすごい．人工知能学会誌 は隔月ですが，それが限界ですね． 塚本：だけど，今，会員数は増えてい るのでしょう．今回の人工知能ブー ムで． 栗原：2 年前から急に．学会誌もこれま でと異なり，一般読者も増えていま す． 塚本：今後も会誌の内容は変わってく るのですか． 栗原：僕の前任の松尾 豊編集委員長， そして栗原が引き継ぎ，現在はドワ ンゴ人工知能研究所の山川 宏所長が 編集委員長です．ここ数年かなり自 由度高く学会誌を編集しています． この傾向は当分続きそうです（笑）．