1．要 旨
1956年に本格研究の開始された人工知能は，2000 年 までに第 1 ラウンドを終え，現在第 2 ラウンドに入っ ている．第 1 ラウンドでは，基本的な考え方が一通りプ ロトタイピングされ，ごく限られた範囲で成功した．第 2ラウンドでは，第 1 ラウンドの成果がより堅固に強化 され，定番のツール・技法として他のさまざまな技術と 結び付いて，社会に組み込まれる，いわゆる社会実装の フェーズに入った．人工知能研究者としてその成功を素 直に喜ぶとともに人工知能が人間社会に与え得る影響の 大きさを自覚し，その研究の在り方について自省しつつ 研究を展開していく必要があると思われる．本稿では， 人工知能の研究を進めるにあたって考慮すべき問題につ いて，長期的な視点で論考する．2．人工知能の研究の流れ
現時点までの人工知能の研究開発の流れについてはす でにいろいろなところで論じられているが，本稿の立場 を明確にするためにここで簡単に述べておきたい．概し て 20 世紀における人工知能研究は，コンピュータとい う人類が初めて手にした，果てしなくスケールアップ可 能な万能計算＊1 装置の上に，我々が普通に「賢い」と 思える情報処理（例えば，難しい問題を解く，経験から 学習する，膨大なデータの中に潜むパターンを見つけ出 して知覚する）をどこまで実現できるか？ というチャ レンジ精神に駆られて展開されてきた研究であるといえ る．成功の尺度はおおむね wow factor，つまり，社会を どれだけ驚かせることができたか，という指標で測られ てきたといってもよいだろう．20 世紀の人工知能研究 の最大の成功は，チェスの世界チャンピオンであったカ スパロフに Deep Blue＊2 が勝った，自律走行車技術＊3 ができた，一流の科学雑誌に掲載されるほどの「発見」 ができた [Buchanan 78]，などに象徴される．他方，そ のような試みは極めて限定されたレベルにとどまり，社 会を驚かせたり，人工知能研究のもつ意義や可能性につ いて考える契機を与えたり，限られた企業的・産業的成 功はしたものの，社会変革にインパクトを与えるには至 らなかった． 21世紀になると，人工知能研究は第 2 ラウンドを迎 えた．基本となる技術を同定し，ツール化し，その効用 と限界を明確にし，工業製品として実用化するレベルに 至った．手法的にも，知的アルゴリズム指向から，ビッ グデータ指向に代わり，インターネットで大規模に集積 されたデータから，これまで人類が入手したことのない 知を発掘し，統合して事業に活用することができる段階 に入った．これは，それまで限られた人しか運用できな い技能，さらには，「秘術」の工業化を超えて，自分が 生み出した知を直ちに次の生産に結び付ける「知のター ボ技術」の段階に達したといえる． 今や，人工知能に代表される技術が社会に与えるイン パクトは無視できないどころか，支配的になりはじめて おり，技術的特異点＊4 およびその映画化＊5 として顕在 化し始めている．著者は，問題の構造について検討した うえで，人工知能にも実質的な社会貢献が求められるこ とを指摘し，新たな方向性として「君がいてよかった」 人工知能アプローチを提唱した [西田 12, Nishida 13a, 西田 13b, Nishida 14]． 本稿では，人工知能の社会実装が一般にもビジブルに なり加速している状況下で，人工知能社会実装のもたら し得る結果の社会像，その明と暗，今後人工知能研究に ＊1 ここでいう「計算」とは数を操作するということではなく，あ る計算原理に従って情報を操作するという一般的な computation を指している． ＊2 http://www-03.ibm.com/ibm/history/ibm100/us/ en/icons/deepblue/ ＊3 http://en.wikipedia.org/wiki/Autonomous_car ＊4 http://en.wikipedia.org/wiki/Technological_ singularity ＊5 例えば「トランセンデンス」：http://www.transcendencemovie. com/や，“Her”：http://www.herthemovie.com/．人工知能の社会実装がもたらし得ること
What AI Might Do for the Human Society?
西田 豊明
京都大学大学院情報学研究科Toyoaki Nishida Graduate School of Informatics, Kyoto University. [email protected]
Keywords:
AI and society, technology-driven society, AI-driven society, service replication, humanity. 「人工知能技術が浸透する社会を考える」期待される貢献について議論する．
3．テクノロジーに支えられた社会
今，科学技術の発展によって社会構造変革が急速に進んで いる．情報技術だけをとってみても，ビッグデータ＊6 ， ウェアラブルコンピュータ＊7，Brain Machine/Computer Interface（BMI/BCI）＊8，3Dプリンタ＊9，IoT（Internetof Things）＊ 10，Siri＊11，Google Translate＊12，Unmanned
Aerial Vehicle（UAV）＊13 ，ロボカー（Google の Self Driving
Car，Mercedes の自律ドライビングシステム S 500 Intel- ligent Driveなど）＊14などの技術用語が話題となってい
る．また，The DARPA Robotic Challenge＊15, 東ロボ＊16，
Skype Translate＊17, Pepper＊18など具体的な達成目標を
達成時期とともに明示したうえでのチャレンジ宣言も多 数行われている．こうしたさまざまなメッセージにより， これから 10 年も経てば我々の日常生活は大きく変わる
だろうという時代感覚が社会で醸成されている＊19．
IEEE Spectrum 50周年号の 2014 年 6 月号 [IEEE 14]では，“The Future We Deserve”という特集を組み， 未来の技術予測は難しい（“The pitfalls of prediction”） という注釈を付けたうえで，生体医療，宇宙，科学，映 画，エネルギー，自動車，モバイル，ロボットの八つの 話題について，これからの技術展開の明と暗について論 じ，フィクションで締めくくっている．その主な論旨を 拾うと，肉体的・精神的ハンディキャップの克服（医療 情報），さまざまな宇宙資源の利用（宇宙），思ったとお りの形状と機能をもつ物質（科学），自然なバーチャル 俳優（映画），個人型パワープラント（エネルギー），ロ ボカー（自動車），感覚と思考の共有（モバイル），日常 生活支援ロボット（ロボット）などの方向性を指摘し， その光と影について論じている．例えば，影については， セキュリティの破綻で生じるパニック，人間の身体・知 能の過度な拡張，知らないうちに肉体にインプラントさ れたスパイ装置，そして雇用の消失（人間はもはや必要 とされない）などが論じられている．こうした話題につ いては，4 章でより掘り下げることとし，以下では今後 の技術展開によってもたらされ得る社会像についてもう 少し議論しよう． 今浮き上がりつつある社会の未来像は，先進的なテク ノロジーが社会の至るところに浸透し，20 世紀の工業 社会で確立された大量生産パラダイムを根底から変革す るというものである．これまで高価であった情報処理と 共有，物理的な複製のコストが劇的に下がり，データに 支えられた社会基盤に移行しつつある．本稿ではこれを テクノロジー社会と呼び，その全体像をサービスを中心 とした図式（図 1）のなかで捉える． この枠組みは，個人の個性に応じた価値を提供する個 人サービス，いろいろな人間集団に対する価値を提供す るグループサービス，公的な立場でこうしたサービスの 基盤を提供し，個々人の生活を保障するパブリックサー ビスから構成されるサービスがクラウドを通して縦横に リアルタイムに連携し，いつでもどこでもその恩恵を受 けられる社会としてテクノロジー社会を特徴付けてい る．個人サービスとグループサービスは店や会社などの さまざまなプライベートコーポレーションによって，パ ブリックサービスは，国や自治体のようなパブリック コーポレーションによって，それぞれ実現される． 個々のコーポレーションの実現法はコンピュータとイ ンターネットの出現によって大きく変わりつつある．20 世紀途中まではコーポレーションは純粋に人の手によっ て運用され，大規模な顧客集合の管理や大きな組織の運 営には，膨大な労力と多大な時間を要していた．コン ピュータとインターネットが出現した 20 世紀後半から メールやホームページを用いた情報伝達，ワーク・ビジ ＊6 http://en.wikipedia.org/wiki/Big_data ＊7 http://en.wikipedia.org/wiki/Wearable_computer ＊8 http://en.wikipedia.org/wiki/Brain_machine_ interface ＊9 http://en.wikipedia.org/wiki/3D_printing ＊10 http://en.wikipedia.org/wiki/Internet_of_ Things ＊11 https://www.apple.com/ios/siri/ ＊12 http://translate.google.com/about/intl/en_ ALL/ ＊13 http://en.wikipedia.org/wiki/Unmanned_aerial_ vehicle ＊14 http://en.wikipedia.org/wiki/Autonomous_car ＊15 http://www.theroboticschallenge.org/ ＊16 http://www.nii.ac.jp/userdata/results/pr_ data/NII_Today/60/all.pdf ＊17 http://blogs.microsoft.com/blog/2014/05/27/ microsoft-demos-breakthrough-in-real-time-translated-conversations/ ＊18 http://www.softbank.jp/robot/products/ ＊19 例えば，週刊ダイヤモンド 2014 年 6 月 14 日特集号「待ち 受けるのは競争か共生か：ロボット・AI 革命」 http:// dw.diamond.ne.jp/category/special/2014-06-14， NHK サキどり↗「来たっ！人工知能が切り開くアカルイ未来」 2014年 6 月 22 日放送，http://www.nhk.or.jp/sakidori/ backnumber/140622.html，少し前では，NHK スペシャル「ロ ボット革命：人間を越えられるか」（2013 年 3 月 17 日放送） http://www.nhk.or.jp/special/detail/2013/0317/ index.html 図 1 テクノロジー社会の構図 （©2014 西田豊明，株式会社アットからの許諾により掲載）
ネスフロー管理システムが一般化し，遅延や不正確さを はらむ人手による管理は衰退しはじめている．アマゾン・ ドット・コムに代表されるように，人間の役割は，コー ポレーション全体のデザインや改良，および，ワーク・ ビジネスフローのなかで機械化できないような仕事に移 行してきた．今日ではさらにクラウドソーシングによっ て人間の断片的な仕事を集合知化して，高度で品質の高 いサービスをリアルタイムに提供できるようになりつつ ある．学術コミュニティでも，論文査読から学会運営に 至るまで，迅速なサービス，高い信頼性，低コストが求 められるところはワークフローシステムによるサービス が一般的になってきている． これからはテレイグジスタンスによる物理世界のタス クも視野に入れて，例えば，図 2 のように人々が連携し て遠隔地のロボットを使ってサービスを行うハイブリッ ド型のコーポレーションが増えていくだろう．このなか で，Google ニュース＊20 のように，記事の自動編集といっ た高度の作業もしだいに自動化されている． テクノロジー社会の特質は，自立支援，データ指向性， 透明性，主観の共有などのキーワードで捉えることがで きる． 自立支援：テクノロジーの発達により，個々人が独立 して生きていけるようになりつつある．バイオニクスの 発展で，人工器官（prosthesis）が発達し，肉体的機能 性がロボットで補われるようになり，人間の自律性が保 証されはじめ [IEEE 14]，介護ロボットが発達すると， 高齢者や肉体的なハンディキャップをもつ人達が他者の 助けを受けることなく独力ででも移動して種々の活動に 参加できるようになる．ロボカーが普及すれば，自動車 運転免許がない子供や高齢者などが自動車による強力で 柔軟な移動性をあまねく確保できる． データ指向性：テクノロジー社会では，生活でもビ ジネスでもあらゆるシーンはデータに支えられている． ビッグデータにより，旅行，料理，作業，…などシーン の種類を問わず，先行者の経験にアクセスして，現場に 行く前からそこでどのようなことが起こり得るか事前に 予測でき，現場では拡張現実などによってオンラインリ アルタイムのガイドやナビゲーションのサービスを受け られるだろう．なぜ？ これからどうなる？ …といっ た疑問が生じても，先人の経験や類似のケースをその場 で教えてもらって行動の手掛かりにできる．また，事後 には経験がデータとして蓄積され，さまざまな場面で再 利用したり，社会状況をサーベイしたりするために用い られる．ロボカー開発の過程では，運転記録がセンサデー タとして蓄積され，事故の分析，原因解明も進む．運転 過程で生じるヒューマンエラーに関する膨大なデータが 蓄積され，事故防止に活用される． 透明性：テクノロジー社会では，提案や批判はデータ を伴ったものでなければならないというエビデンス指向 の風潮が広がり，社会の公平さと透明さが高まる．また， どのデータに基づいてどのような意思決定が行われたか が記録として残るので，社会の透明性が高まり，経験か ら学んだり，災害の予防をしたりすることもできるよう になる． こうしたことは当たり前に見えるかもしれないが，今 からわずか 30 年前は社会の公平さと透明さは高くなく， いろいろなものが闇の中に隠された「暗黒社会」であっ た．当時はそもそも透明性の重要性に気付いていたわけ ではなく，「民は由らしむべし，知らしむべからず」と いう「大人の考え」に象徴されるように，暴き立てるこ とによって不用意に手間が増すことを避けて，むしろ不 透明性を良しとする風潮すらもあった． スポーツなど公正性が求められるところでは，透明性 はエンタテインメント性を高めるのに貢献する．例えば， テニスであれば，サービススピードやウィナー数などの データをその場で記録し，競ったりすることができるよ うになり，従来にない楽しみをつくり出せるようになる だろう．ビデオ判定＊21 などで明らかなように，ジャッ ジが公平で正確な審判がいることでゲームは面白味が増 す．素人でも，自前の「AI ジャッジ」をもつことができ るようになるだけでなく，いろいろなことをゲーム化す ることが可能になる．人間にとってゲーム性は楽しみを つくり出す有用なソースである．自動車では燃費計によっ て省エネルギーへの意識が高まり，エネルギー節約に資 する． 主観の共有：これまでは，ゲーム以外では，いろい ろなイベントに関与する他の当事者の観点を体験・追 体験することはなかかできなかったが，テクノロジー の進歩で主体としての主観的体験をデータ化して再構 成することにより，共有することが手軽にできるよう になってきた．例えば，ウェアラブルアバタ TEROOS [Kashiwabara 12]により，他者と時空をほぼ共有する ことにより，その人が遭遇するいろいろな場面において その人とともに行動することができる．社会に属するい ＊21 http://en.wikipedia.org/wiki/Instant_replay ＊20 http://en.wikipedia.org/wiki/Google_News 図 2 ハイブリッドコーポレーション （©2014 西田豊明，株式会社アットからの許諾により掲載）
ろいろな人が置かれている状況を当事者の視点から共有 することで，社会構成員が互いに相手の気持ちを理解し やすくなり，社会としての共感が高まり，社会的な意思 決定の質の向上につながることが期待される．
4．人工知能技術がもたらすサービス
テクノロジー社会によってもたらされる豊富でダイ ナミックなデータ基盤は，人工知能技術によってさらに 高度な知識・付加価値をもたらす AI サービス構築のた めの堅固な土台となる．人工知能技術の本質は，知能に 関わるものと，心に関わるものに大別される [西田 13]． 前者，特にデータマイニングと機械学習は，データに意 味を付与して知識化し，意味的なサービスを実装して， テクノロジー社会基盤におけるサービスを高度化するも のとして期待されている．総じて言えば，データによっ て輪郭を示されたサービスがあれば，それを生み出す主 体をシミュレートし，さらに経験を通して発展させてい く技術（図 3）が現在の AI 技術の核になっている．こ れに知覚，認知，言語，身体計算に関わる周辺技術を密 接に連携させることで，部分的には人間の平均的能力を 超える AI サービスが出現しつつある． AIサービスは，個人サービス，サービス複製サービス， コーポレートサービスに分類される． 個人サービス：個人データに基づいて個人に特化した サービスを提供する．個人ユーザは自分のライフログ情 報を提供する見返りにさまざまなサービスを受ける．例 えば，健康データを病院に提供して食事の制約や運動量 に関する健康アドバイスを受ける，学習塾に学習データ を提供して進路についてのアドバイスを受ける，銀行に 家計簿を提供して家計のアドバイスを受ける，保険会社 に生活習慣を提供して保険料のオファーや保険に関わる サービスを受ける，個人情報を提供して介護から葬儀積 立てなどに至る老後保険・サービスを受ける，等々が考 えられる． こうしたサービスを提供するための基本的な方式自体 は従来から考案されてきたが，テクノロジー社会基盤が 確立するに従って，センサ，アクチュエータ，計算資源， ネットワークを駆使して，豊富なデータから TPO（Time, Place, Occasion）に応じた高品質のサービス提供が可能 になってきた． サービス複製サービス：ベビーシッター，代行運転， 臨時教員，司法書士，弁護士のように，本人が本来すべ き仕事であるが，本人の都合や専門的知識不足のため実 行できない仕事を本人の代理で実行するサービスを他 の人が代わりに遂行するサービスである．従来はこう したサービスの核心部は人手で行われてきたが，テクノ ロジー社会基盤の充実により，AI 技術によって少しず つ自動化が進んでいる．例えば，現在進みつつあるクラ ウドソーシングを用いた翻訳や運転支援といった，人と AI技術を統合したハイブリッドコンピューティングに よるサービスが実現されると，サービスの透明化と明示 が進んでデータが蓄積され，自動化は加速される．運転 アシストやクラウドソーシングによる部分的代行は現在 すでに実用レベルにある． コーポレートサービス：人々の活動を連携させてサー ビスとして一体化させるサービスである．活動をサービ スとして社会に提供するためのコーポレーションとして 実装し，実際にその運用を行う．例えば，学術関係では， ある話題についてワークショップやコンファレンスを立 ち上げて，広報，イベント開催，論文査読，論文誌刊行 をマネージする．ワークフローを動かすアクター達は独 立した意思をもち，何らかの契約に従って動く．コーポ レートサービスの中には，コーポレートの立上げ，拡大 縮小，契約の策定と管理，アクターからのコンプレイン トへの対応など幅広い要素が含まれる．また，コーポレー トサービスがいろいろな領域に広がれば，工学やビジネ スのアイディアに基づいて，設計・製造・広報・営業・ 販売を行うコーポレーションが次々に立ち上がってくる ことが期待される．5．AI ラ イ フ
テクノロジー社会，AI 社会へとパラダイムがシフト することによって大きく変わるのは，人と就労の関係で あろう．テクノロジー社会以前の社会では，交通機関の 運行，食糧の生産，生活用品の生産，教育，医療などの 人間社会の基盤とその上に構築されたサービスを支える ための労務を人間が分かち合って負担してきた． テクノロジー社会へのシフトでは，社会基盤において 人間が中心であったところはデータに基づく自動運転に 切り換えられていく．サービスを受ける顧客の側からも 舞台裏での上記のようなサービス実装の変革がより良い 品質の公平なサービスにつながるので，基本的には歓迎 されるだろう． 移行期における人間の役割は，サービスを提供する側 も受ける側も，自分の活動をデータ化することである． サービス提供側の人は，自分の業務をデータ化して業務 分析による効率化，さらにはサービス自動化に努めるこ とになる．他方，顧客の側も顧客としての行動をデータ 図 3 現代の人工知能技術載ブリッドコーポレーションの中では歯車になっていくこ とを恐れる人々は，人間だけにしかできないことを目指 そうとするが，成功のチャンスは小さくなる一方であろ う．スキルが定義され，成功例（と失敗例）が多数蓄積 された途端，そのスキルは AI によって複製可能になる． AIによるサービス複製の水準はやがてほとんどすべて の人間の能力を超えることになる．AIにできないことや， 世界中で自分でしかできないことを探せといわれても， なかなか見つからないだろう． 労働をする側にとっては大変であっても，サービス複 製サービスを受ける側ではメリットは著しく大きい．完 全自律のロボカーが出現して，無人でも動いてよいとい うことになると，人間の移動に関する自律性はかなり高 まることになり，老若男女を問わずそのメリットを享受 できる．身体的側面から認知的側面まで生涯にわたる一 貫した自立を支援することで，高齢になっても誰の世話 を受けることなく生きていくことが保障されるようにな る．昔は，人間の生活を維持するためには衣食住が保障 されるよう，相互に労務を提供しあわなければならな かった．しかし，ロボットが普及するに従い，労務はロ ボットに任せられるようになり，人間の衣食住を保障す るために必要な労務は劇的に減るだろう．人間社会の機 能を維持するための労務の割合はこれからどんどん下 がっていくだろう．それにもかかわらず労務が消えない のは，生活をより楽しく・快適にするためのサービスを 実現するために必要だからであった．これまでの社会は そのような労務を何らかの理由に基づいて人間に押し付 けることで成り立ってきたが，AI 技術でサービスの複 製ができるようになると，労務の押付けはなくなってい くだろう． 学校においても，人工知能技術によってサービスの安 価な複製が可能になると，代行を頼んだ AI 先生のほう が低コストかつ高品質の教育ができるということになる だろう．教室での授業だけに話を限れば，先生の代理と して登場する AI 先生は遅れてくることもなく，字もき れいだし，間違ったことを言わないばかりか，質問には ちゃんと答え，ジョークも言って生徒を楽しませてくれ るし，時間内にきっちり授業を終えるだろう． サービスを受ける側から見れば，平均的な人間による サービスよりも，AI システムによって複製されたサー ビスのほうがよいという人が出始めていると Turkle は 指摘している [Turkle 11]．複製されたサービスに自発 的に参加する人達の創意工夫が加われば，サービスの質 はますます高いものに成長していくだろう． やがてサービス複製サービスが発展すると，労働のな かに人生の最大の意義を見いだして，人生のすべてを労 働につぎ込む労働至上主義はしだいに減衰していくだろ う．人の手をかけなくても知能ロボットが代行するよう になれば社会を維持するために必要な労働の割合は小さ くなる．はじめは社会基盤を支えてきた人達が，次に知 化して提供することにより，顧客の要望やレビューを反 映したより良いサービスが期待される． テクノロジー社会への移行が終了すると社会基盤業務 を遂行する義務からは解放されることになる．今や，労 働は必ずしも人間生活を支えるためのものではなく，人 間の生活をより豊かにする，観点を変えるとビジネスの ためのものに変わりつつある．昔の社会では，生きてい くために働かなければならず，また，働き手がいないと 人間社会が維持できなかったが，テクノロジー社会では 豊かさを享受するための糧を得るために，共同で行われ ているゲーム（ビジネス）に参加することの結果として 労働が発生する．他者との競争に勝ちたいという人間の 心の奥底にある動機が労働に駆り立てる，といってもよ いだろう． 次の AI 社会への移行においても同様の事態が予想さ れる．AI サービスが広がるにつれて大きく変わるのは ホワイトカラーの就労形態であろう．テクノロジー社会 への移行期では人間に期待される役割がデータを提供す ることであった．これに対して，AI 社会への移行期に は教師として AI システムに教えることが人間に期待さ れる役割になる．多様なうえにサンプル数も多くないホ ワイトカラーの仕事をデータだけから理解することは困 難であるので，人間が現実的な労力で教えることが可能 な水準の知的能力をもつ AI システムの実現が期待され る． テクノロジー社会では，図 2 のような就労形態が代表 的なものであるが，AI サービスによって，サービス複 製サービスとコーポレートサービスが浸透すると，人は やがてサービスの主幹部分を自らの手で稼働させる必要 がなくなる．つまり，モノのコピーと同様にサービスも 複製が可能になると，人間がコーポレーションの中に密 接に組み込まれる必要はなくなる．どうしても人の手が 必要なときや，プロセスの抜本的な見直しをするような ときだけ参加すればよい（図 4）． AI社会への移行期は，サービス複製サービスによっ て人間だけにしかできない職業が減っていく一方，従来 の社会的慣習がしばらく続き，労働至上主義が残るので， スキル競争は激化するだろう．独創性，人間性，社会性 といったオンリーワン型の職業的特色をもたないとハイ 図 4 AI ライフ （©2014 西田豊明，株式会社アットからの許諾により掲載）
識基盤を支えてきた人達が，労務提供義務から少しずつ 解放されていく（図 5）． 義務的な労務（例えば，介護）が消滅しても，その労 務に関わるプロフェッションそのものがなくなるわけで はない．そのプロフェッション自体に意義を見いだして， そこに新たな創意工夫を注ぎ込もうとする人は残るだろ う．同じ労務を義務によってさせられるのと，そこに意 義を見いだして自発的に取り組むのとでは大きな隔たり がある． 労働は人間社会を支えるのではなく，人間社会をよ り豊かなものにすることや，個人にとっての自己実現の ためのものになる．人間にとって労働は自分や社会の生 活を支えるために必要なものではなく，自分の満足度を 高めたり，さらには自己の目的を達成したりするための 手段，社会をより良いものにするための手段となる．図 2で人はハイブリッドコーポレーションの中に組み込ま れ，必ずしも常にではないとしても，デマンドに支配さ れる受動的な活動を強いられてきたが，今やコーポレー ションは自律的に活動できるようになり，人は自分の意 思でそこに参加し，その活動をより良いものにするため のものになっていくだろう． 義務労働からの解放のもつ意味は大きい．例えば，映 画「星の旅人」に見られるように，自分の仕事を取りや めて自分探しをするといったことが誰でもできるように なる．義務としての労働に駆られて奪い取られてきた時 間と活力が戻ってくる． 自己実現の手段となるという点においては，労働と趣 味との境界は消失していく．また，お金も生きていくた めの手段ではなく，ベースラインが保障された社会での 優先権を得るための手段になっていくだろう． 人間は興味や背景に応じて AI ライフの枠組みにさま ざまな形で強制されるのではなく自発的に参加できる． 消費者，評価者，応援団としてだけでなく，プレーヤ，コー チ，起業家などの役割を担うことができる． AI技術によるサービス複製機能により，（機械である ことが求められる）ファンクションとしての人と，（仕 事を離れたらかくありたいと願う）ヒトとしての人を分 離することで，人がヒューマニティを回復する機会であ ると捉えられるのではないかとも思われる．前者は，我々 が社会的契約のなかで担うロールであるが，後者は，生 命的基盤もヒューマニティも含んだ「人間」であり，社 会の原点も含まれる． また，サービス複製サービスの実装が進むことにより， 必要なとき以外には，自分が誰であるかを明かす必要を なくす仮面化の技術も進むだろう．社会的な役割を追っ ているときは，その役割だけに付与された ID だけが求 められ，必ずしも素顔をさらすことをしなくてもよいよ うになることで，個人も保護されることになる． 映画「リアル・スティール」に象徴されるように，自 分がプレーヤとして参加するのではなく，自分がつくっ たものを競うという道も広がっていくだろう．それによ り誰も肉体的には傷付かないし，身体性に起因する生得 的な要因によらないゲームが可能になる． 自分が自らゲームに参加してもよい．AI プレーヤ の能力が高くないときは，人間プレーヤから得られる データやアドバイスは，高度な Non Playing Character （NPC）実現に有効であり，便利なだけでなく，例えば， テニスプレーヤのロジャー・フェデラーの技術をロボッ トで再現することにより，誰でも体験できる形での継承 といった社会的に意義のある目的にも使えるようになる だろう．
6．AI ラ イ フ の 影
上述のテクノロジー社会，AI 社会のメリットがその ままヒューマニティへのチャレンジにつながるという点 で，新たな課題につながる．主たるものを取り上げて議 論しよう． ロボットになりたい人間：「あなたはロボットになり たいですか？」と問われるとなかなか「はい」と答える 人は少ないかもしれないが，「ロボットのようになりた いですか？」と問われたらどうであろうか？「鉄人」と いう言葉もあるように，ロボットが合理性を象徴し，さ らに，高度な知能，運動能力，頑健性，無謬性までも含 めた概念を象徴する存在であるとしたら，そのような特 質を身につけたいと密かに思っている人も少なからずい るに違いない． メディアで紹介されるときは番組を成立させるため に人間としての可能性が前面に押し出されてはいるもの の，冷静に考えればそのような人達は人間性に由来する 身体の限界や不確実さを呪い，それをことごとく除去す ることを目指しているかのようにも見える． 実際，合理性が社会での意思決定の主要要因になり始 めると，人情味も人間同士の関わりも薄れ，人間が機械 化し，機械が人間化し，両者の差が縮まってきている．先に引用した IEEE Spectrum 50 周年記念号 [IEEE
14]でも，人工器官がダメージを受けた自然器官の機能 の代替をするところまではよいが，ダメージを受けてい ない自然器官をより強力な機能をもつ人工器官に置き換 えることについては警鐘を鳴らしている．しかしながら， すでにテクノロジーに深く依存し，人工器官ほど目立た 図 5 人間が負ってきた義務からの解放
ない，例えば情報機器といったところで，その多大な恩 恵を利用して生活している．人間のロボット化は苦しみ を感じないということも意味するので，我々が自覚しな いうちに進行している人間のロボット化が本当に幸せな 方向かどうかについては大いに検討すべきだろう． アイデンティティ：Susan Greenfield は，これから の社会における人間のアイデンティティを取り上げ， “more comfortable, more fun, less meaning”と問題提
起をしている [Greenfield 08]．従来社会で somebody を 目指していたが，しだいにうまくいかなくなるので，社 会との縁を断ち切ってしまう nobody シナリオや，個性 を捨てて社会と同化する anybody シナリオのいずれも ない，社会での競争に煩わされることなく何かに没頭 して，自分で満足できるレベルまで自分を高めていく eurekaシナリオを提唱している． 制約がなくなって自由度が高まると，かえって苦悩が 増える．昔の人の苦しみは，いかに生き延びるか，とい う問題から発生していたが，現代人の苦悩はいかに生活 の質を高めるかから発生しているのではないか．これか らは，いかに自分の人生の意味をつくり満足感を高めて いくかから生じるだろう．テクノロジー∼ AI 社会への 移行において生じる時間や自己の超断片化が熟考をはば み，自分はどうしたらよいか見失う人は多いだろう．い ろいろな可能性がある中で，あれもしたいこれもしたい という思いが強くなるというのは昔の水準から見ればぜ いたくな悩みといえるが，今後は最も深い悩みになるだ ろう． 超分断化が進み，どんどん移り変わっていく中で，自 分の充実をどうつくり出していくか？ 昔ながらの人類 の知恵が全くない中で手さぐりで生きていかねばならな い．過去の知識や経験が使えなくなる．進歩が速いので， 何かにおいて波頭を超えてグローバルに認められること はますます難しくなりつつある． 本質的な問いがもたらす新たな苦悩：究極的には AI ライフは強制から選択へのシフトをもたらす．一人の人 がコンテキストに応じてどの立場も取れる．その一方で， 「人間とは何か？」，「社会とは何か？」，「働くというこ とはどのようなことか？」という本質的な問いを個人に も社会にも突きつけることになる．これまでは，生きて いくこと（テクノロジー社会ができるまで）や豊かにな ること（AI ライフができるまで）に心を奪われていた ところ，選択肢が増えた途端にサスペンド（保留）して いたあらゆる問いに答えなければならなくなる．本質に 迫ろうとすればするほど苦悩を招く． 新しいコミュニケーション原理：テクノロジー∼ AI 社会に移行してもコミュニケーションは重要だが，新た なコミュニケーション原理が求められる．例えば，「本 音のコミュニケーション」が大切であるとよく叫ばれて いるが，テクノロジー∼ AI 社会においてもそうなのか？ 隠し事をしたり，演技をしたり，小さな嘘をついて本心 を隠すことはヒューマニティに反することなのか？ 本音のコミュニケーションを自分はかくありたいとい う理想のポジションに位置付けるのはよいが，他者に本 音を語れと強要するのは行き過ぎではないか．Turkle によれば，親しい家族にすら話せない秘密でも，ロボッ トには「打ち明けられる」という [Turkle 11]．それは ロボットの「心」が未熟だからだろう．ロボットが，だ んだん成熟した心をもってくれば，ロボットに打ち明け るより，石や植物に打ち明ける頻度のほうが高まるかも しれない．いかなるコミュニティも強者と弱者がいる． 「本音で語れ」というのは強者のほうだろう．弱者なら， 本音を聞きたいのではなく，「本当のことを言って！」 となる．その背後にある理由は何か？ コミュニケーションにおける演技は重要な要素であ る．相手を傷付けないようにしようとするとき，喜ばせ ようとするとき，自分の身を守りたいとき，などは必須 だ．もちろん，諸刃の剣でもあり，その逆にも使える． こうした演技は，心の理論の中心的な話題の一つであり， 原理的には志向姿勢を認める相手に対してのみ適用され る．少し拡張が必要な点は，テニスボールのような純粋 な物体でも，そこに心を写しているとき（＝誰かに見立 てているとき）は，演技を向ける対象にはなり得るが， 表面上はテニスボールという物体に対してであっても， 認知的にはテニスボールに写された心に対してであると いったほうがよいだろう． 非言語コミュニケーションはコミュニケーションの阻 害要因にもなり得る．よく批判の対象として取り上げら れる「隣にいる人ともメールで会話する」だが，隣の人 や近しい人とのメールコミュニケーションは十分意味が ある．概していうと，メールや手紙のほうが，考えを詳 細なところまで整理・体系化して伝えることができるし， 敵対関係にある人にも読んでもらえる可能性があるが， 面談（Face-to-Face（F2F）コミュニケーション）では そこまでたどり着くはるか前の，下手をすれば入口のあ たりでついえてしまうことにもなりかねない．F2F コ ミュニケーションでは，容姿や話し方から生じる先入観， 社会関係（強弱），文脈的制約（例えば，一言で核心に 迫らなければならない）などに強く影響される．そこで コミュニケーションスキルが重要になるのだが，それが 行き過ぎるとコミュニケーションスキルだけで中身がな い人達が跋ばっ扈こすることになる． ゆっくりとした変化：社会構造の変化は，社会の複数 のセクタにまたがる複数のスレッドで並列して少しずつ 起きているので，それらがある短期間に同期して技術的 特異点のような劇的な形で顕在化することは想像しにく い．またそれをはっきりと根拠をそろえたうえで議論す ることは必ずしも容易ではないが，Gratton が提唱して いる [Gratton 11] ように，社会の中で大きな流れを特徴 付ける現象を見つけ，それをつなぎ合わせることによっ てその根底にはどのような力が働いているか，その力は
どのような変化をもたらし得るかという問題については 十分な時間をかけて議論すべきであろう．少しずつ起き る変化を見過ごし，気付いたときには時すでに遅しとい う，「茹でガエル」になってしまわないように常時注意 力を高めておく必要がある． 見えない支配：技術的特異点の議論を待つまでもなく， 人類が自ら生み出したロボットや技術的産物によって支 配されるのではないかという懸念は長い間表現されてき た．では，支配者は一体誰なのか？ 映画のように「誰か一人」を頂点とした構造が答えだ とは思えない．（それによって失うものと比較したとき の）メリットがどれだけあるのかよくわからないし，仮 に誰か一人が世界を支配しようとしても，実際にそれを 実現することは大変困難である． テクノロジー∼ AI 社会に人類を支配するものは，人 はこうでなければならないという「理想」ではないか [西田 13]．まさしく人類は自分がつくり出したものに 支配されるという図式になる．「理想に従って生きるこ と」を個人の選択としてはあり得るし，実際に実行して いる人もいる．それが一歩進んで，「理想に従って生き ることを他者に強制する」ということになったとき，見 えない支配が現実になる．テクノロジー∼ AI 社会にな り，データとセットにすることで確実に強化できること は，個々の人が理想に従って生きているかどうかをモニ タでき，場合によっては強制することになり，さらに社 会の意思決定もその方向に進むのであれば「見えない支 配」は現実のものになる． 見えない支配の例として，データで計測される生活習 慣の良い人の保険掛金を下げ，そうでない人の掛金を上 げることで人々の行動をコントロールすることがあげら れる．健康に生きるということは理想の一部であり，保 険掛金に違いをつけることはさも当たり前に聞こえる． 健康生活は理想であり誰もそれに表だって反論できない という意味で，理想は支配的になる． 人による推薦と AI システムによる推薦のどちらに価 値を見いだすか？ AI システムによる推薦は非常に合 理的なものになるだろう．現状技術をとってもアマゾン・ ドット・コムの推薦で結構本を買うし，ドライブに出か けたときおおむねカーナビの言うとおりに運転する人は かなり多いだろう．AI システムからの推薦を拒絶する 自由はもちろんあるが，社会に大規模に蓄積されたビッ グデータから繰り出される圧倒的な情報力の前にはかな わないだろう．
Weizenbaum，K. Gill は，“From Judgment To Calculation”という表題のもとで「データを背景とした 客観的な判断が自動化されたときに，その出力を特段の 疑義をはさむことなく採用する」という傾向が広がるこ とに警鐘を鳴らしている [AI & Society 07, AI & Society 13, Weizenbaum 76]．データは，この場合はこうだとい う小さな「ファクト」（データ採取方法によっては誤り も含み得る）であり，それが膨大に積み重なることで知 恵や知識を形成されていくということになれば，もはや 自力あるいはツールだけでその全貌を把握することは実 質的に不可能になる．そこで，ATM や電卓や，いまな ら Google や Wikipedia と同様の意味でコンピュータの ように社会の信用を得た意思決定の結果を鵜呑みにせざ るを得なくなる．このことは，研究者にとっては必ずし も他人事ではない．例えば，ある種の計算メカニズムで 産出された研究論文の重要さやその積上げで形成された 個々人の業績を単純に比較して採用を決定するという方 式は「公平で理にかなったもの」であり，主観による誤 りを含み得る人間の直観的な判断にまさるものであると して，さまざまな審査や選考に採用され始めている．現 状は，まだスクリーニングだが，今後だんだん広がって いくことが予想される．
7．まとめ─ AI への期待
以上では，論旨を明確にするために，かなりの単純 化と図式化を行った．実際には，社会の変化はそれほど 段階的に進行するものではなく，少しずつ，場合によっ ては後退もしながら進んでいくだろう．テクノロジー ∼ AI 社会を経て，人類は精神的にも物質的にも自らが 産出した理念が隅々まで支配する世界で高いレベルの安 全・安心・自立性を保障されて生きていけるようになる ことが現実になりつつある．一方，身体の奥底に潜む原 始的で非合理的な人間としての自分と理念が必ずしも整 合しないことになり，過去には贅沢な問いと思われてい た本質的な問いが心の重荷としてのしかかるようにもな る．この図式が理想を象徴するロボットと，理想のとお り生きられない人類との間の葛藤となって，未来社会に おいて顕在化してくるだろう． AIへの期待は，テクノロジー∼ AI 社会への移行期 と後期ではかなり様相が異なる．前半では，先に述べた AIサービスの社会実装，特に，サービスの複製への貢 献が期待されることになる．サービスが人間力と社会力 を高めるためのものであるとすれば，人間力強化につい ては，心のケアも含めた人間の自立性の保障と自己実現 の支援が高く期待されることになるだろうし，社会力を 高めるためには，社会の共感を高めるために，その構成 員がもつ主観の共有により，いろいろな現象を関係する 人の心の内面に遡って理解し，共有できるようにするこ と，また，大規模な社会シミュレーションとそこからの パターンの発見により，社会全体を俯瞰できているとい う感覚を取り戻せるようにすること，さらには，個々人 にとって社会がより具体的な意味をもつようにするため に，微細で目に見えないもの（例えば，個々人のささや かな貢献）をビジブルで計量できるものにすることも人 工知能に課せられたチャレンジであろう．◇ 参 考 文 献 ◇
[AI & Society 07] Birthday issue volume 21.4: From jusdgment to calculation, AI & Society, Vol. 21, No. 4, pp. 387-647（2007） [AI & Society 13] Special issue: 25th anniversary volume - A faustian exchange, What is it to be human in the era of ubiquitous technology, AI & Society, Vol. 28, No. 1-4, pp. 1-557 （2013）
[Buchanan 78] Buchanan, B. and Feigenbaum, E.: Dendral and meta-dendral: Their applications dimension, Artificial
Intelligence, Vol. 11, pp. 5-24（1978）
[Gratton 11] Gratton, L.: The Shift: The Future of Work in
Already Here, Harper Collins Pub.（2011）
[Greenfield 08] Greenfield, S.: ID: The Quest for Meaning in the
21st Century, Hodder & Stoughton（2008）
[IEEE 14] 50th anniversary issue: The future we deserve, IEEE
Spectrum（June 2014）
[Kashiwabara 12] Kashiwabara, T., Osawa, H., Shinozawa, K. and Imai, M.: TEROOS: A wearable avatar to enhance joint activities, Proc. 30th Int. Conf. on Human Factors in
Computing Systems（CHI 2012），pp. 1433-1434（2012） [西田 12] 西田豊明：人工知能研究半世紀の歩みと今後の課題，情
報管理，Vol. 55, No. 7, pp. 461-471（2012），http://dx.doi. org/10.1241/johokanri.55.461
[Nishida 13a] Nishida, T.: 25th anniversary volume: Towards mutual dependency between empathy and technology, AI &
Society, Vol. 28, Issue 3, pp. 277-287（Aug. 2013），http:// dx.doi.org/10.1007/s00146-012-0403-5
[西田 13b] 西田豊明：人工知能とは（2），人工知能学会誌，Vol. 28, No. 2, pp. 326-335（2013）
[Nishida 14] Nishida, T., Nakazawa, A., Ohmoto, Y. and Mohammad, Y.: Conversational Informatics─ Data Intensive
Approach with Emphasis on Nonverbal Communication,
Springer（2014），h t t p : / / l i n k . s p r i n g e r . c o m / book/10.1007％ 2F978-4-431-55040-2
[Turkle 11] Turkle, S.: Alone together: Why we expect more from technology and less from each other, Basic Books, New York （2011）
[Weizenbaum 76] Weizenbaum, J.: Computer Power and Human
Reason: From Judgment to Calculation, H. Freeman and
Co.（1976） 2014年 8 月 6 日 受理
