いかにしてシンギュラリティは訪れるのか(<特集>編集委員会企画-社会とAIの羅針盤2015-)

7 人 工 知 能  30 巻 1 号（2015 年 1 月） 「編集委員会企画─社会と AI の羅針盤 2015 ─」 恒例となった 1 月号の編集委員会企画である．これま では「今年の抱負」や「初夢」と題した研究の将来に向 けたテーマが続いていたが，今回は編集委員会にて議論 した結果，路線を変更することとなった．昨年 9 月号に おいて，「企業における AI」，「社会と AI」，「SF と AI」 という三つの特集を組んだ．いずれも社会と AI との関 わりに関するものであり，これは偶然ではない．明らか にここ数年における実社会と AI との距離が急速に縮まっ ていると感じる．その要因はさまざまであるが，将棋に おいてコンピュータの実力がプロ棋士と肩を並べるくら いに向上しつつあることや，「Her」や「トランセンデン ス」といった AI をテーマとした映画，そして，やはり Googleにおける DeepMind 社買収に象徴される，Deep Learning（深層学習）への産業界からの高い注目も大き な要因かと思う．Deep Learning 技術の台頭は，ニュー ラルネットワーク研究の再興であり，これに呼応して脳 科学研究も活性化している．無論，ニューラルネットワー クは脳を模したアーキテクチャであることから，Deep Learning研究者と脳科学研究者とが連携しての脳型コン ピューティング研究や汎用人工知能研究といった新しい プロジェクトも活発化している．このような背景のもと， 2045年にシンギュラリティ（技術的特異点）が訪れると の予測も注目されている．半導体を始め，ナノテクやロ ボット技術など，さまざまな技術が向上するスピードを 調査した結果，そのすべてが指数関数的に向上しており， これによると，AI が人の知能を超えるときのタイミング が 2045 年だとされる． では，本当に機械が人を超える知性を身に付けたらど うなるのだろうか．これをテーマとする SF 映画はこれ までに数多く制作されており，その代表作が「ターミネー ター」であろう．人を超えた機械は自らの生存のために 人類を排除しようとし，これに人類が対抗するという図 式である．闘いになるということはお互いの力が均衡し ているということになるが，シンギュラリティが起こる と想定される 2045 年頃の AI の進化速度は指数関数的に はほぼ垂直方向であり，我々は AI が我々の知能を抜い たことに気付くことはなく，追い抜いた直後にはすでに 我々の知能を大きく凌駕していると想像される．つまり， 実力は均衡などではなく，天と地ほどに懸け離れ，もは や超越した AI にとって人は脅威となる存在にはならな い． シンギュラリティ後の世界における，我々の知能を大 きく凌駕した存在となった AI について想像することは もはや不可能であろう．しかし，シンギュラリティに至 るまで，そして至った後の我々がどうなるかについてあ れこれ想像することは可能であろう．そこで，本稿では AIの目線ではなく，我々の目線におけるシンギュラリ ティ前後での AI と実社会との関わりについて考えてみ たいと思う． CPS/IoT と AI AI自体には実態がなく，それが機能するには身体が必 要不可欠である．身体＊ 1_{が必要となるのは，他とのイン} タラクションが存在することが知能にとっての必須条件 だからである．つまり AI が実環境に浸透するには，AI が実環境における身体を手に入れる必要があり，ロボッ トはもちろんであるが，CPS/IoT がそのための重要な技 術であろう．ロボットも CPS の一部である．CPS（Cyber Physical System）と IoT（Internet of Things）は実世界 とネット空間を融合させる技術である．医療や日常生活 における安全安心・防災減災など実世界でのさまざまな 事象に関する詳細な情報をリアルタイムでインターネッ トに取り組み，ビッグデータ化したデータに対して AI を適用することで迅速な対応策や予防といったことを可 能とすることが期待される．すでに，現在において，我々 の日常生活行動は時々刻々とネット空間に取り込まれて いる．オンラインショッピングサイトでの購入記録や閲 覧記録からの売れ筋商品の自動推薦や，自分が興味をも つであろう新刊図書の自動推薦など，インターネットで の我々の一連の行動からの予測はすでに定着したサービ スとなっている． 一昨年のことであるが，Suica の利用履歴ビッグデー タの一般利用を開始するもすぐに中止することとなった ことは記憶に新しい．自分の履歴が個人特定されないよ うな処理が施されたからとはいえ，他人に利用されるこ とへの抵抗が大きかったことはもっともであろう．しか し，自分の興味あるであろう図書を推薦する仕組みの背 景には，同じような図書をこれまで購入しているユーザ 集団の情報が利用されているのであり，すでに自分の行 動履歴は自分以外にも利用されている．そうであっても， 図書の自動推薦は確かに便利である．新商品の推薦に

いかにしてシンギュラリティは訪れるのか

栗原　　聡

8 人 工 知 能  30 巻 1 号（2015 年 1 月） おいても自分の嗜好に合致したものが提示されると利便 性を感じてしまう．行動履歴からの予測には AI 技術が 利用されているわけであるが，ユーザはそのことには気 付かない．最近では，ユーザの閲覧履歴に基づいて興味 ある記事を自動選別して表示するスマホアプリも登場し ている．ここでも自動選別に AI 技術が利用されている わけであるが，ユーザはそのことには気付かない．単に 便利になったと感じるだけなのではないだろうか．つま り，すでに現在においても AI は我々の日常生活に深く 偏在しつつあり，人は便利で自分の欲求が満たされるの であればそれを享受するのは自然であろう．このように 現在はネット空間での行動履歴が主に利用されているが， CPS/IoTが社会に浸透することで，我々の日常生活にお ける移動を含むさまざまな活動の情報がセンサなどを通 してネット空間に取り込まれ，上述した現在においてネッ ト空間での行動を対象とした各種サービスの対象が，日 常生活全般を対象としたものに進化しようとしている． もはや AI は，「人工知能搭載〇〇」といった，個別の対 象やネット空間のみの存在ではなく，実環境に偏在する 存在となっていくことになるであろう．これは，安全安 心や見守りという観点は無論のこと，日常生活における さまざまな場面においての効率化や利便性を劇的に向上 させることになるであろうが，我々はそのことに気が付 くことはないのかもしれない．現時点ですでに AI の恩 恵を受け始めており，徐々に生活に浸透していくことか ら，気が付いたら AI がなくては生活できない状態となっ ているのではなかろうか．無論，個人情報の流出や悪用 に対する防御は必要ではあるが，今後さまざまなサービ スが導入されていく流れは加速することは間違いないで あろう． 一方，当の AI においても，これからシンギュラリティ に向かう過程で大きな転換点があると考えている．それ は現在の弱い AI から強い AI への転換である． 意識をもつ AI の登場 AIに対して，「強い」，「弱い」と区別することがある． 弱い AI は用途限定型，強い AI は汎用性の強い AI とい う言い回しがあるが，本来は人のような意識をもつこと ができる AI が「強い AI」という意味である．汎用性の 高い AI であっても，意識をもつことができなければ弱 い AI なのである．冒頭でも引き合いに出したが，2014 年は「トランセンデンス」というシンギュラリティをテー マとした映画が上映された．時代設定は 2045 年頃の話 である．そして，現在日本での公開は未定であるが，「オー トマタ」という映画が米国で公開されている．これも 2045年頃の時代設定であり，ロボットが意識をもち始め るということが鍵となっている．現在の AI には意識は なく，プログラムされたとおりの処理を行うだけである． 感情をもつロボットも登場しているが，人のような感情 をもっているのではなく，人のさまざまな反応とそれが どのような感情であるかの詳細な表に基づいてロボット が動作しているだけである． 意識をもつ AI 構築に向けた研究も加速しつつあり，牽 引役となっているのが冒頭で引き合いに出した深層学習 技術である．全脳アーキテクチャ勉強会＊ 2_{や汎用人工知} 能勉強会＊ 3_{といった動きも活発である．意識をもつ AI} をつくる方法として，全脳勉強会コアメンバの中には， 脳の各パーツの機能は大方解明されつつあり，これをモ ジュールとしてそれぞれのパーツを組み合わせることで 脳のような機能を構築しようという流れや，脳と同程度 の規模の神経ネットワークをスパコンでエミュレートし てしまおうというプロジェクトなど，さまざまであるが， 筆者が注目しているのは，Seed AI という捉え方である． これはいきなり人レベルの脳を構築しようというのでは なく，意識を創発するメカニズムを有する脳という機能 の最小メカニズムを構築し，これを AI の種として，徐々 に成長させ，人レベルの知能をもつ AI に成長させようと いう立場である．Seed AI が組み込まれたロボットと人が 同時にインタラクションしつつ，Seed AI と人がともに成 長する過程で Seed AI も意識を獲得できるかもしれない． そしてシンギュラリティは訪れるのか？ 意識をもつ AI の登場により，より AI の知能レベルの 向上は加速し，シンギュラリティは訪れると筆者は想像 している．しかし，我々の生活がそれにより劇的に変化 することはなく，引き続き自由意思に従った生活が継続 されているのだと思う．ただし，改めて気が付けば極め てむだのない利便性の高い豊かな生活となっていること を期待したいし，そうなっているのだと思う．よく言え ば「見守られている」ということであり，穿った見方を すれば「お釈迦様の手の上」ということであるが，すで に人を大きく凌駕した AI を我々が意識できることはな く，自由に行動できているという状態が維持されていれ ばそれでよいとするのだと思う． 定常的な事務作業や規則的なデータ処理などはすべて AIが担当するようになるであろう．AI が仕事を奪って しまうという危惧も耳にするが，AI にとって代わること が可能な仕事は，我々においても実は面倒なタスクなの であり，人のすべき仕事は徐々に創造的作業や，選択す るといった類いに変化するのだと思う．つまりは，AI は 人と共生する関係になっていくのだと想像している． 無論，「意識をもつ」ということは「意思をもつ」と いうことでもある．映画ターミネータのようになってし まっては本末転倒であり，AI 研究に従事する我々として も AI と社会，AI と倫理といった観点からも高い意識を もって研究に臨む必要がある． ＊2 http://www.sig-agi.org/wba ＊3 http://www.sig-agi.org/home