こ の 問 題 を︑ 私 が 提 案 し た 天 然 知 能

Ｋ

を

  わたしの振る舞いや性格をプログラム化して機械に実装 すれば︑わたしは永遠に生き続けるのでしょうか︒それは︑ しかしビデオなどの記録や︑他人の記憶の中で生き続ける という以上のものではない気がします︒では︑脳を少しず つ機械に置き換え︑機械化・人工知能化し︑保守点検し続 ければ︑わたしは永遠に生き続けるのでしょうか︒そのわ たしは主観的感覚を持つ﹁わたし﹂なのでしょうか︒

  こ の 問 題 を︑ 私 が 提 案 し た 天 然 知 能

を 手 掛 か り に 考 え て み よ う と 思 い ま す︒ 天 然 知 能とは﹁知覚されない外部を待つ態度や技術﹂を有する知 性です︒外部とは知覚も認識もされていませんから︑評価 以前のものです︒そういった外部から来るものを︑期待し 待つことができる︒それが天然知能なのです︒現在の人工 知能は︑知覚可能なもののみを評価し︑待つことができま せん︒この待つということを︑人工知能に実装できるのか︑ できるとしたら﹁わたし﹂はどうなるのか︒

頑健性と同一性

  外部を待つと言うと︑そもそも﹁わたし﹂から外部を分 離しますから︑他者や環境が視野に入ってこない偏狭な思 考様式であると︑思われるかもしれません︒しかし︑事態 は逆なのです︒外部は原理的に定義できませんから︑記号 として措定しておくことになります︒内と外の非分離を唱 える人たちは︑外部を内側へ取り込むような形で︑内と外 の関係をループにし︑内と外の循環する閉じた形式を構想 することになります︒ところが︑この循環に参与する外部 だけが﹁内・外の非分離﹂の根拠となり︑参与しない外部 は︑逆に切り離されることになってしまいます︒つまり問 題は︑内と外を区別するか︑区別しないか︑のいずれに与 するかという問題ではない︒内と外は区別されず︑循環し 死 を 排 除 す る 人 工 知 能 ・ 死 を 内 在 す る 天 然 知 能

郡司ペギオ幸夫

　 （早稲田大学教授）

特集＊人工知能と哲学・歴史・社会

と接続不可能な範囲は︑質的な差異をもつことになります︒ だから機能と構造は質的な差異を担い︑通約不可能なもの として分離されてしまう︒逆に︑機能と構造の質的な分離 は︑区別された外部を排除することになります︒つまり︑ 機能と構造が質的に分離されるなら︑外部は接続不可能︑ とも言えるわけです︒

  機能と構造に質的な差異を設けるなら︑外部は接続不可 能なものとなりますが︑ここに一つの逆説が生まれます︒ 外部の接続不可能性は︑外部の接続不可能性と機能・構造 の分離を同値であると帰結した︑理念的世界・論理の世界 と︑その外部である現実世界を︑接続不可能なものとして しまいます︒だから︑理念的世界では分離された機能と構 造が︑現実世界では明確に区別できないが故に︑結果的に 混同されるのです︒説明しましょう︒

おじいちゃんの同一性

  老化によって認知機能の衰えたおじいちゃんを考えてみ ましょう︒先日まであなたのことをよくわかっていたおじ いちゃんは︑もはやあなたに他人行儀な挨拶をする︒先日 まで好物だった鰻は嫌いだといい︑好きな演歌も全く聞か ない︒あなたは︑おじいちゃんの本質的なものが失われた︑ おじいちゃんがおじいちゃんでなくなった︑と思うでしょ う︒しかしそんなことはない︒肉体的におじいちゃんは先 日から同じ肉体であり︑何ら変わらない︒いや︑伸びた爪 た全体としての運動を開設する︑と言うときでさえ︑その 運動の外部が出現してしまうわけですから︒外部は常に隠 されているだけで︑存在しているのです︒内と外を︑その 圧倒的非対称性によって区別しながら同時に接続する︒そ れがいかにして可能なのかが︑真の問題なのです︒   開かれたシステムには︑散逸構造やオートポイエシスと いったシステムが想定可能です︒散逸構造の簡単な例であ る︑沈殿物が対流で作り出す定常波パターンで︑外部との 接続問題を考えてみます︒ちょっと冷めた味噌汁の味噌の パターンにそれは見ることができます︒定常波パターンは︑ ある場所に定在する波ですが︑対流によってその定常波の 外側の水がやってきて︑パターンに組み込まれる︒パター ン形成に組み込まれないような温度の水が︑ここでいう外 部です︒外部である冷水をいきなりこのパターン形成の場 に投与すれば︑たちどころに波は壊されてしまいます︒散 逸構造の形成に参与していない外部は︑接続された途端に 散逸構造を破壊する︒つまり散逸構造において︑徹底して 区別される外部は︑接続不可能なのです︒   外部が接続不可能という意味でシステムから分離される 時︑システムの安定性と頑健性という性格は︑機能と構造 の各々に配分されることになります︒構造的な破壊に対す る許容度が頑健性︑構造的な破損なしに︑定常的振る舞い を逸脱するか否かが安定性ということになります︒外部が 接続不可能なら︑安定・不安定を詮議する接続可能な範囲

る︒本質は消えたのではなく︑未だ潜在しているのです︒ される外部にあっても︑認識されるこちら側と接続してい 失われた本質は消えてしまったわけではない︒それは認識 が失われている︑そう考えるのは妥当でしょう︒しかし︑ 前のおじいちゃんではない︑という場合︑本質的振る舞い の振る舞いや︑属性をあげつらい︑どの一つをとっても以 いとその外部との︑接続の有無の問題なのです︒一つ一つ んは壊れた﹂の相違は︑認識されるおじいちゃんの振る舞   ﹁ お じ い ち ゃ ん は お じ い ち ゃ ん で あ る ﹂ と﹁ お じ い ち ゃ   本質的機能が外部に追いやられた場合でさえ︑なお同一 性が維持される︒このことは我々に︑同一性とは何かを教 えてくれます︒ものの同一性の根拠が︑振る舞いや機能︑ すなわち属性の集合として定義されるなら︑その集合の全 部もしくは本質的一部が失われることは同一性の喪失を意 味するでしょう︒しかしそのような静的な属性の集合は存 在しない︒ものそれ自体は常に変化し得るもので︑動的な 生成それ自体です︒だから︑ものがものとして存在すると いうことは︑少し前まで認められなかった属性がそこに現 れ︑先ほどとは属性の集合が大きく違ってしまうことさえ 含意するのです︒同一性はそこにしか認められない︒安定 ということが頑健と区別できない︒徹底した外部と接続し ているとは︑そういう状況なのです︒

  徹底した外部と接続する時︑おじいちゃんはおじいちゃ んであり続けます︒老化し︑認知機能が失われ︑はたから が切られ︑乾燥した皮膚が剝落するように︑一部の脳は変 化し︑神経回路網のパターンも変化したでしょう︒しかし それは恒常的に変化するものです︒大した問題じゃない︒ おじいちゃんは機能的に変化しただけで︑構造的にはほと んど変化していない︑と言い得るはずです︒   私たちが︑おじいちゃんの振る舞いに関する判断のみか ら︑すなわち機能のみから﹁おじいちゃんが壊れた﹂と判 断してしまうのは︑機能の中に︑おじいちゃんの同一性に とって本質的機能とそうでない機能という質的差異があり︑ おじいちゃんの場合本質的機能が失われたと判断されたこ とを意味します︒本質的機能の喪失が︑すなわち構造的破 壊を意味すると判断されているのです︒   ある程度の変化を許容する意味で構造的同一性が担保さ れるなら︑いかに振る舞いが変わったとしても﹁おじいち ゃんはおじいちゃんである﹂はずです︒一つ一つの振る舞 いや︑属性をあげつらい︑どの一つをとっても以前のおじ い ち ゃ ん で は な い︑ と し て も︑ ﹁ お じ い ち ゃ ん は お じ い ち ゃんである﹂と判断可能です︒いや︑むしろ構造と機能を 徹底した質的差異と考えるなら︑ ﹁おじいちゃんが壊れた﹂ というよりむしろ﹁おじいちゃんはおじいちゃんである﹂ はずです︒にもかかわらず︑機能の変化が即︑構造の変化 を意味してしまう︒理念的世界から接続不可能な現実だか らこそ︑機能と構造を分離する理念的世界と無関係に︑現 実世界では機能と構造が恣意的に混同されてしまうのです︒

わたしの脳に存在する意識が肉体と共に壊れる時︑わたし の 意 識 が 機 械 に 移 行 し て︑ ﹁ あ︑ 機 械 に な っ た ﹂ と 思 え る のでしょうか︒意識の機械化︑わたしの機械化について︑ その可能性を考えてみることにしましょう︒

  現代社会においては︑記憶の多くをネットに依存してい る︑と感じる読者もいるでしょう︒つまり記憶の一部が既 に外部化し︑機械化している︒同様に︑脳の他の機能も外 部装置である機械に置き換えることができそうです︒少し ずつ︑わたしが気づかないように脳の一部を機械に置き換 えていく︒最後の置き換えによってすっかり機械に置き換 えることで︑意識を機械の中に移植することが可能ではな いか︑という気もします︒

  しかし意識が移植可能という議論は︑わたしの意識を︑ 属性や振る舞いの集合すなわち機能としてのみ定義し︑そ の容れ物である肉体から分離できることを仮定しています︒ まさに構造と機能は分離されるのです︒この分離によって︑ 目に見える部分の外部は見える部分と接続不可能になりま す︒それは︑わたしが潜在性を持たないこと︑外部を待つ ことができないことを意味し︑創造性を持たない︒それは とりもなおさず天然知能ではないことを意味します︒

  これに対して︑次のように反論できるでしょう︒確かに 意識を機能として定義し︑構造と分離するのなら︑それに よって定義される﹁わたし﹂は潜在性を持たず︑創造性を 持たないかもしれない︒しかし現実に再生医療やロボット 見ればもはや別人であるように思えても︑同一性は潜在性 において担保される︒そうは言っても﹁おじいちゃん﹂は 家族や周囲の人たちによって恣意的に決められるもので︑ だからこそ﹁壊れた﹂とも言い得るのでしょうか︒いや︑ そうではない︒おじいちゃんは徹底した外部と接続してい るからこそ︑おじいちゃんとして他者に認識され︑同定さ れる︒他者による認識は実在の結果に過ぎない︒他者の勝 手な定義と無関係に︑おじいちゃんは実在するのです︒   認知機能が失われ︑老化し︑その果てに死んで行く︒そ れさえも生であり︑同一性を担保する実在なのです︒我々 の生の実在に︑死が包摂されている︒これに対して︑外部 との接続を断ち︑外部を排除するとは︑老化を排除し︑死 を排除することです︒死を排除した生という描像にこそ︑ 意識や心の機械化を可能とする思想が生まれます︒

永遠の生の実現は可能か

  機能の中に︑機能と構造の質的差異のような本質的機能 と非本質的機能を恣意的に見出す︒そして本質的機能が外 部 へ 追 い や ら れ る こ と で︑ ﹁ お じ い ち ゃ ん は 壊 れ た ﹂ と 言 わしめてしまう︒だからこそ逆に︑本質的機能を集めて機 械に実装すれば︑意識や心を機械の中に移植できる︑と考 えることができてしまう︒もちろん︑わたしと全く同じ機 能︑属性を︑機械に移植し︑他人が見てもわたしと区別で きない状況は想像可能です︒それでもわたしが死を迎え︑

させるようなダイナミズムがありません︒その意味で︑外 部に抗して安定を維持する機械は︑外部を召喚することが できず︑機械にとっては外部である脳との接続を果たせな いでしょう︒

  いわゆる機械ではなく︑タンパク質から構成される生体 物質を用いて脳を置き換える場合はどうでしょうか︒生体 物質が既存の脳との生理的接続を果たし︑脳を含む外部に よって自らを維持する関係が実現することは︑可能なので はないでしょうか︒生体物質は自らを維持するために外部 を受け入れ続けねばならず︑脳との接続は︑脳を自らの維 持のために不可避なものと受け入れたことになるのですか ら︒この時︑生体物質によって一部を置き換えられた脳は︑ 生体物質と合わせた全体としての機能を︑依然として立ち 上げ続けているでしょう︒その全体としての生体活動︑と りわけ電気信号に依拠した情報論的活動を意識というなら︑ それは意識に違いありません︒ならば﹁わたし﹂は︑生体 物質によって脳の一部もしくは全部を置き換えたシステム 工学を駆使して実現される意識の機械化における﹁機械﹂ は︑肉体と同様︑外部と完全に分離されるわけではなく︑ 外部を伴う物質でないか︒物質としての存在形態を外部と の関係において維持するのなら︑外部は潜在するものとし て接続され︑ 外部を絶えず顕在的な内部へと召喚する︑ ﹁脳 で実現される意識﹂同様︑一部もしくは全部を機械に置き 換えられた脳もまた︑外部を召喚する装置として働くこと に な り︑ ﹁ わ た し ﹂ は 実 現 す る の で は な い か︒ つ ま り 理 論 としていかに機能と構造の分離を前提しようと︑脳の機械 化 を 物 質 レ ベ ル で 実 装 す る 限 り︑ ﹁ わ た し ﹂ が 実 現 さ れ る 可能性はあるのではないか︑ということです︒   脳や肉体に置き換えられるものが︑現在機械と思われて いるような機械では︑ほぼ不可能でしょう︒脳や肉体に宿 る意識の場合︑意識の容れ物である脳もまた外部を受動的 に受け入れることで脳を形成・維持し︑同時に意識を外部 からの召喚物として形成・維持しています︒いわゆる機械 は︑外部の変化を受け入れて接続を維持し︑自分さえ変質

でも実現する︑と言えるのでしょうか︒

  さてここには一つの程度問題があり︑そこから逆に︑程 度問題では片付けられない﹁わたし﹂の存在が明らかにな ります︒それはこういうことです︒

  いわゆる機械はダイナミックでないが故に脳との接続を 果たせず︑他方ダイナミックな生体物質は接続を可能とし 意識を立ち上げる可能性があると言いました︒しかし︑ネ ットに記憶を委ねている場合ですら︑私が一方的にネット を使っているわけではなく︑ネットは膨大な電気をエネル ギー源として必要とし︑私はこれを与え続けている︒つま りネットと私の接続には互恵的な依存関係があり︑その意 味で機能的のみならず構造的にも接続しているというわけ です︒ネットワークは常に変化しているわけですから︑そ の周縁を確定できず︑外部にさえ接続しているのです︒だ から︑ネットに接続した端末を脳の一部に置き換えるだけ で︑外部との接続は果たしている︒見かけ上の動的性格は︑ まさに程度問題だというわけです︒

  だからこそ︑置き換えられたシステムの全体が立ち上げ る機能は︑拡張された意識と言えないこともない︒ただし そこでいう意識は︑まさに徹底的に︑拡張されなければな らないのです︒

  私たちは通常︑意識や﹁わたし﹂を思う時︑意識は無意 識を伴いながらも自由意志を持ち論理的︑合理的な意識を 前提し︑自明なものと考えてしまいます︒それは脳の中の ごく一部である前頭前野の働きに限定され︑その働きは意 図的意識と呼ばれます︒しかし意識を発動するシステムが 拡張され︑その全体としての活動を拡張された意識と考え る時︑意図的意識の優位性は自明なものではなくなり︑無 意識の活動こそ意識と考えざるを得ない状況も出現するで しょう︒覚醒していない︑眠った状態のような意識状態こ そ︑拡張された意識で実現される毎日かもしれない︒   拡張された意識を﹁わたし﹂と思えるかについては︑ワ ンマン創業者の社長を考えれば十分でしょう︒創業者こそ 意図的意識です︒彼は人事を刷新し︑人を入れ替えていく︒ 会社は全体として︑相変わらず経済活動を続けていますし︑ 創業者は相変わらず︑自分こそ会社のリーダーだと信じて いました︒しかし︑実は他の部署の職員が合議制で組織を 運用していて︑創業者は除外されていたとしたらどうでし ょう︒もはや創業者は︑会社全体の活動＝拡張された意識 にとって︑存在しないも同然です︒創業者が別の人に入れ 替わるまでもなく︑リーダーは存在しないのです︒   前頭前野の活動がほとんどない︑いわゆる植物人間のよ うな拡張された意識︒私たちは︑脳を生体物質や機械に置 き換えることで得られる意識に︑このような拡張を見いだ さざるを得ないでしょう︒成長・発達を通して育まれた脳︑ 脳から置き換えられていった生体物質︑同じく置き換えら れた機械は︑構造に関して質的に大きく異なり︑同様に外 部との接続様式も大きく異なることになります︒これを程

す︒わたしは︑徹底して受動的な存在であるからこそ︑外 部を受け入れる︒その受動的態度こそが︑知覚であり認識 なのです︒

  したがってわたしは︑外部を待ち受ける穴だらけの︑グ ズグズの存在なのです︒穴こそが︑外部を召喚する装置な のですが︑それは結果的に︑外部によって補完される不完 全な存在という形態を想起させることになります︒この意 味で﹁わたし﹂は︑他でもあり得る可能性を排除できるも のではないのです︒脳の機械化などを施すまでもなく︑明 確 な 意 図 的 意 識 が 失 わ れ︑ 認 知 機 能 が 失 わ れ︑ ﹁ わ た し が わたしでなくなる﹂と自ら言いたくなる状況は︑やがてや っ て く る で し ょ う︒ ﹁ わ た し ﹂ は そ の 意 味 で︑ 機 械 化 を 施 す以前から︑拡張された意識でさえ在り得る様に思います︒ ところが﹁わたし﹂はその様な比較と︑無縁なところに存 在するのです︒比較が意味を成さない︒

ることで︑死を受け入れることになるのです︒ ることで絶えず生成され︑存在足らしめられるものなので な り︑ ﹁ わ た し ﹂ が 存 在 し な い よ り 寧 ろ 存 在 す る と 主 張 す しかし︑現実のわたしは︑外部と接続し︑外部を受け入れ 程度問題を適用し死を受け入れない機械化された意識と異 部の対象を知覚し︑認識し︑操作することが可能でしょう︒ 拠 に 主 張 さ れ る の で す︒ ﹁ わ た し ﹂ は︑ だ か ら︑ 無 際 限 に して︑世界に降り︑わたし自身に影響を与えない形で︑外 その同一性は事実ではなく︑放棄できない権利として無根 なら︑わたしは︑外部に広がる世界に対する能動的主体と き な い が 故 に

︑ 的判断が可能な︑無謬で完全な存在でしょうか︒もしそう す︒ し か し︑ ﹁ わ た し ﹂ は 性 格 や 機 能 の 集 合 と し て 規 定 で の確実なものでしょうか︒わたしは︑常に︑論理的︑合理 れた機械の担う﹁拡張された意識﹂と同程度に拡張されま たし﹂は︑ 他でもあり得る可能性が一切ない︑ ﹁これで全て﹂   ﹁   わ た し ﹂ は 不 完 全 で︑ グ ズ グ ズ で︑ 脳 か ら 置 き 換 え ら と こ ろ が こ こ へ き て︑ も う 一 度 ひ ね り が 入 り ま す︒ ﹁ わ ません︒ て 解 消 し て も︑ ﹁ わ た し ﹂ が そ こ に 現 れ る こ と は 期 待 で き ん︒例え意識を拡張し︑意識状態の差異を程度の問題とし す︒だからここに︑程度の問題が関与する余地はありませ 他の可能性について考える必要のない﹁このもの﹂なので の在り様以外にあり得ない︒他でもあり得ることなどなく︑ ﹁ わ た し ﹂ は 他 で も な い︑ こ の﹁ わ た し ﹂ を 実 感 す る 意 識 る脳の活動の全体において拡張された意識を見出しても︑ 的意識です︒つまり身体のみならずその外部にまで接続す の全体として世界を直観する﹁わたし﹂は︑明らかに意図   このわたしを自分自身と感じ︑わたしの感じる感覚世界 意識状態と認めざるを得なくなるのです︒ えるわたしの存在しない意識も︑意識の程度問題として︑ 意図的意識の活動が極めて微弱で︑自由意志や能動性を唱 度の差異と言う限り︑意識の質的拡張を認めざるを得ず︑

  出典を思い出せないのだが︑こんな小話がある︒ある編 集者が︑どんなによい本をつくっても思うように売れない と悩んでいた︒そこでベストセラーを連発している先輩に アドヴァイスを求めることにした︒先輩はこう答えた︒読 者に読んでもらおうなんて大それたことを求めるから駄目 なんだ︒売れる本とは︑思わず買って帰ってしまうけれど︑ その後二度と頁を開かないような本のことだ︑と︒

  すべてのケースに当てはまるとはいえないだろうが︑真 実の一面を伝える話ではある︒たしかに多くのベストセラ ーがそのような運命をたどる︒ベストセラーは大きな話題 にはなるが︑かえってそのせいで人びとは読む必要を感じ なくなってしまうらしい︒わざわざ読まなくても大丈夫︑ もうだいたい知ってるから︑ということなのだろう︒

  歴史家ユヴァル・ノア・ハラリによる話題作﹃ホモ・デ ウス﹄

ウス﹄の言として受け取っているようなのである︒ 誰もが﹃ホモ・デウス﹄が語っていないことを﹃ホモ・デ いうイメージにもとづいて論じているものに多く出会う︒ に読むことなく︑こんなことが書いてあるにちがいないと テレビや雑誌︑ＳＮＳなどを眺めていると︑同書をまとも も︑ そのような一冊になりつつあるのかもしれない︒

  そこで本稿では︑ ﹃ホモ・デウス﹄が語らなかったこと︑ それにもかかわらず同書が語ったとされていることについ て論じてみたい︒これを認識することこそ︑同書を理解す るための︑また批判的に検討するための不可欠の前提とな るからである︒

  ま ず︑ ﹃ ホ モ・ デ ウ ス ﹄ が な に を 語 っ た と さ れ て い る か を確認しよう︒それはもちろん︑ ﹁人類の未来﹂である︒

  飢饉︑疫病︑戦争という古くからの難題を︑サイエンス 『ホモ・デウス』が語らなかったこと _吉川浩満

（文筆家）

＋山本貴光

ないことがある︒それこそ︑人類の未来にほかならない︒

  あらかじめ結論を簡単に述べておくと︑次のようになる︒ ﹃ ホ モ・ デ ウ ス ﹄ が 語 ら な か っ た こ と︑ そ れ に も か か わ ら ず同書が語ったとされていることは﹁人類の未来﹂である が︑実際に同書が語っているのは︑ ﹁現在の人類﹂であり︑ その欲望や願望にすぎないということ︑これである︒

  ちなみに︑これは﹃ホモ・デウス﹄という書物の致命的 な瑕疵とはならない︒これから述べるように︑そもそも未 来予測とはそのようなものである︒問題はむしろ読者であ るわれわれの側にある︒そこを踏まえているかどうかで同 書の理解が変わってくるし︑なによりも︑肝腎の﹁人類の 未来﹂に対するスタンスも変わってくるだろう︒

  フランスの歴史家ジョルジュ・ミノワによる﹃未来の歴 史﹄

予測や未来研究が論じられている︒ らゆる預言や予言︑ユートピア論やディストピア論︑未来 術︑ＳＦ︑二〇世紀の未来学や科学的予言まで︑ありとあ 言書からデルフィの神託︑黙示録︑占星術︑カバラ︑透視 その歴史を展望する大著である︒紀元前の古代ユダヤの預 は︑ これまで人類がいかに自らの未来を描いてきたか︑

  ミノワは︑過去の人びとによる予言や未来予測を研究す ることには︑次のような意義があるという︒まず︑予言や 予測は中立的なものでもなければ受動的なものでもない︒ それはつねになんらかの意図︑期待︑願望︑憂慮⁝⁝すな とテクノロジーによっておおよそ抑えこむことに成功した 人類は︑次なるステージに移行する︒身の安全を確保した 後に課題となるのは︑不死︑至福︑神性の実現である︒人 類が自らをアップデートし︑ それが実現した暁には︑ ホモ・ サピエンスはホモ・デウスを︑すなわち神のようなヒトを 生みだすだろう︒そう︑人類の未来は︑未来の人類を生み だすのである︒すると︑近代以降の人間の根本教義であっ たヒューマニズムはどうなるか︒森羅万象はデータの流れ であると考えるデータ至上主義がそれに取って代わること になる︒そして人間そのものもまた︑巨大なデータの奔流 のなかに溶けて消えていくことだろう︒   こうしたシナリオをめぐって︑さまざまな議論がなされ ている︒多くの人が︑これを予言のごときものとして受け 取り︑賛成したり反対したりしている︒ＳＮＳなどに流れ る個人の感想が種々雑多であるのに対し︑巨大メディアほ どこれを人類の未来の既定路線のように扱う傾向が強いと いう興味深い違いはあるにせよ︑どちらも同書が人類の未 来を語った書物であるという前提を共有している点で変わ りはない︒   だ が︑ ﹃ ホ モ・ デ ウ ス ﹄ は 人 類 の 未 来 を 語 っ た 書 物 で は ない︒これが本稿の主張である︒同書にはあらゆる種類の 興味深い事例や考察が詰まっており︑まさしくベストセラ ーにふさわしい内容を備えているが︑ひとつだけ語ってい

である︒それは現在のわれわれの︑あらゆるものがデータ に変換できるだろうという期待と︑はたしてデータに還元 できない存在意義がわれわれにあるのかという憂慮を二つ な が ら 忠 実 に 映 し た 鏡 な の で あ る︒ そ の 意 味 で︑ ﹃ ホ モ・ デウス﹄が語ったとされる人類の未来も︑古代の預言や予 言の延長線上にある︒

  こ こ で︑ ﹃ ホ モ・ デ ウ ス ﹄ を 古 代 の 預 言 や 予 言 な ど と い っしょにしてはならない︑なぜならそれは科学的なエヴィ デンスにもとづいているからだ︑そんな反論が寄せられる かもしれない︒一見するともっともに見える︒だが本当に そうだろうか︒次にこのことについて考えてみよう︒

  社 会 学 者 の 佐 藤 俊 樹 が﹃ 社 会 は 情 報 化 の 夢 を 見 る ﹄

ているのだろうか︒これが佐藤の疑問である︒ うと喧伝されてきた︒だが︑はたして社会は本当に変わっ 情報通信ネットワークの発達によって社会が激変するだろ ニクスやパーソナルコンピュータ︑マルチメディア技術︑ を批判的に分析している︒これまで︑マイクロエレクトロ 情報技術が社会を変える﹂と論じる︑いわゆる情報社会論 行 っ た 考 察 が 有 益 で あ る︒ 佐 藤 は 同 書 に お い て︑ ﹁ 新 し い で

  佐藤の答えは︑断じて否︑である︒たしかに日常的に用 いる道具は様変わりしている︒だが︑それだけのことであ る︒社会の仕組みそのものはほとんど変わっていない︒そ れではなぜ︑ われわれは何十年にもわたって︑ この手の﹁情 わち欲望に動機づけられており︑一定の文脈や精神状況を 表している︒つまり予言や予測は︑人びとの未来を照らし 出すのではなく︑人びとの﹁現在﹂を映し出すものである︒ だから予言や予測の歴史を研究することは︑社会や文明の 心性︑ その移り変わりを知るための手がかりとなるのだ︑ と︒

  重要なのは︑予言や予測が実際に当たったかどうかでは ない︒それらがその時点での人間の営為を正当化し︑ある いは変更させるための道具であったということである︒ま た︑ハラリが前作﹃サピエンス全史﹄

だということである︒ 不可能性がともなうことを考えれば︑おそらくいまもそう 歴史が﹁二次のカオス系﹂であり︑未来予測には根本的な で強調したように︑

  ミノワが紹介するかつての予言や予測は︑古代の預言か ら二〇世紀の未来研究まで︑当然のことながら︑ことごと く外れている︒もしこれらが当たっていたらたいへんであ る︒世界は何度も滅亡し︑あるいは何度も楽園にならなけ れ ば な ら な か っ た だ ろ う︒ ﹁ ど こ に も 存 在 し な い 未 来︑ そ れ が 構 築 さ れ る の は﹃ 今 ﹄ な の だ ﹂

︒

現されていないテクノロジーの意匠をほどこしたキマイラ 人類とは︑ほかならぬ現在のわれわれの欲望に︑いまだ実 ろう︒ハラリが描くところのデータ至上主義の奴隷と化す についても︑こうした観点から相対化することができるだ   ﹃ ホ モ・ デ ウ ス ﹄ が 語 っ た と さ れ て い る﹁ 人 類 の 未 来 ﹂

ロジーと同型であると前提したうえで︑そのテクノロジー の比喩によって社会を語るのだから︒百発百中のマッチポ ン プ で あ る︒ ﹁ そ の 結 果︑ 情 報 技 術 の 形 態 が 変 わ れ ば︑ そ れをそっくり写す形で社会のしくみも変わるように見えて しまう︒社会のしくみを同形のテクノロジーで置き換えて いるので︑テクノロジーの方を高度化すれば︑そっくりそ の ま ま 社 会 の し く み も 進 化 す る よ う に 見 え る わ け だ ﹂

︒ここで大事なの は︑こうした論法はそもそも前提からして怪しいと気づく ことである︒

が必要である︒ な変種にすぎないのではないか︒そのような批判的な吟味 出現してきた数々のニューメディア論︑情報社会論の新た の視線を向けなければならないだろう︒それはこれまでに   ﹃ ホ モ・ デ ウ ス ﹄ が 予 告 す る デ ー タ 至 上 主 義 に も︑ 同 様

  以 上 を ま と め る と︑ ﹃ ホ モ・ デ ウ ス ﹄ は 人 類 の 未 来 で は 報技術が社会を変える﹂という言説をありがたがってきた のだろうか︒   佐藤の仮説はこうである︒それは︑情報社会論に独特の

リ ア リ テ ィ が あ る か ら だ︒ 情 報 社 会 論 は︑ その時々にバズワードとなっている情報技術

を モ デ ル として用いる︒それによってわれわれは︑目に見えない社 会の仕組みが︑具体的なテクノロジーというかたちで可視 化されたように錯覚するのである︒   ここに落とし穴がある︒それは旬のテクノロジーをモデ ルとして社会について語っているだけで︑当の社会のメカ ニズムがどのようなものであるかを等閑視しているからで ある︒そもそも︑当のテクノロジーと社会の仕組みが似て いるかどうか︑ましてや同型であるかどうかなど︑まった く明らかではないにもかかわらず︑である︒   こうした情報社会論の仕組みを考えれば︑それが独特の リアリティをもつのも当然である︒社会の仕組みがテクノ

ルドゥングスロマン風の叙述スタイルが大きく寄与したの で は な い か と 思 わ れ る︒ 同 書 が い わ ゆ る﹁ 人 生 論 ﹂﹁ 自 己 啓 発 書 ﹂ と し て

も て は や さ れ た こ と は そ の 証 左 で あ ろう︒人類史と人生論の高度な一致というのはたしかに離 れ業だが︑それには深刻な副作用がともなうようにも思わ れる︒

  その副作用とは︑人類のなかにある﹁複数性﹂の閑却で ある︒人びとの連帯を可能にし︑また妥協不可能な対立を 生みもする人間の複数性は︑これまでの人類のあらゆる社 会 体 制 を 規 定 す る 根 本 要 因 で あ っ た︒ ﹃ ホ モ・ デ ウ ス ﹄ が この複数性を︑戦争の克服というフレーズとともにあっさ りとスルーできるのはなぜだろうか︒

  それは︑ ﹁幸福﹂というマジックワードによってである︒ 幸福という言葉はあまりにも強力で広大であるために︑そ こにありとあらゆる望ましいものを︑相互に対立するもの も含めて放り込むことができるのである︒

  なぜこれが問題なのかといえば︑その結果︑なにをもっ て幸福とするのかについての複数の価値観の対立を無視す ることになるからである︒これは︑いわゆる﹁アンナ・カ レーニナの原理﹂の濫用でもある︒トルストイの小説﹃ア ンナ・カレーニナ﹄の有名な一文に﹁幸せな家族はどれも みな同じように見えるが︑不幸な家族にはそれぞれの不幸 の形がある﹂というものがある︒これはおそらくどんな時 代においても妥当する真理であろう︒だからなんとなく素 なくわれわれの現在の姿を映しだした鏡である︑というこ とに尽きる︒だが︑これは﹃ホモ・デウス﹄という書物に 対する批判ではない︒むしろ読者であるわれわれに対する 自己批判であり︑同書をまともに読み解くための心得のよ うなものである︒著者のハラリ自身︑同書で何度もそのよ うに述べている︒

こ の 予 測 は︑ 予 言 と い う よ り も 現 在 の 選 択 肢 を 考 察 す る 方 便 と い う 色 合 い が 濃 い︒ こ の 考 察 に よ っ て 私 た ち の 選 択 が 変 わ り︑ そ の 結 果︑ 予 測 が 外 れ た な ら︑ 考 察 し た 甲 斐 が あ っ た と い う も の だ︒ 予 測 を 立 て て も︑ そ れ で 何 一 つ 変 え ら れ な い と し た ら︑ ど ん な 意 味 が あ る というのか︒

  それにもかかわらず︑もしわれわれがハラリの未来予測 を既定路線のようにしか受け止められないとしたら︑われ われは予言の自己成就を実行してしまうだろう︒それを避 けるべきものと考えていようと︑誤ったものと考えていよ うと︑既定路線としてしか受け取れないとしたら︑本当に 人類の終わりがもたらされるのかもしれないのである︒

  さて︑では﹃ホモ・デウス﹄そのものに対する批判はな いのか？   最後にこれについて述べて稿を閉じたい︒

  ﹃サピエンス全史﹄

﹃ホモ・デウス﹄の人気には︑人類全 体をひとつの個体︑ひとりの人間であるかのように扱うビ

通りしそうになるのだが︑いま問題になっているのは未来 の人類の幸福である︒つまり︑現在のわれわれにとっての 幸福と未来の人類にとっての幸福とのあいだにありうべき 差異が無視されているのである︒

  また︑幸福という概念がいかに強力で広大でも︑適用範 囲の限界というものがある︒人はパンのみにて生きるにあ らずというが︑同じことが幸福についてもいえる︒たとえ ばテクノロジーひとつをとっても︑それが人類の幸福のた めに進展するものとは限らない︒直接的なインセンティヴ はおもに資本主義経済における富と名声の獲得であろう︒ 結果的にそれが人類の幸福に資することは多々あるだろう が︑それが原理的に人類の幸福に収斂するものでないこと だけは確かである︒

  結局のところ︑人類にとって幸福とはなにか︑という人 類の︑あるいは哲学の︑古くていつまでも新しい問題を︑ 最新状態にアップデートしてみせたのが﹃ホモ・デウス﹄ であったといえる︒しかしそれは︑幸せってなんだっけ︑ という振り出しにわれわれを引き戻すような書物でもあっ たのである︒

注︵

︵ ピエンスの未来﹄上下︑柴田裕之訳︑河出書房新社︑二〇一八︒ 1︶ユヴァル・ノア・ハラリ﹃ホモ・デウス

│

︵ まで﹄菅野賢治︑平野隆文訳︑筑摩書房︑二〇〇〇︒ 2︶ジョルジュ・ミノワ﹃未来の歴史

│

︵ 類の幸福﹄上下︑柴田裕之訳︑河出書房新社︑二〇一六︒ 3︶ユヴァル・ノア・ハラリ﹃サピエンス全史

│

│

  人工知能は様々なデータを処理して私たちに情報を伝え るメディアである︒そしてマーシャル・マクルーハンが主 張したように︑メディアそれ自体が﹁メッセージ﹂である とするならば︑人工知能それ自体もまた何らかのメッセー ジであるに違いない︒では人工知能はいかなるメッセージ なのだろうか︒本稿ではそれを読み解くことを試みたい︒

現在の人工知能

る︒ 下では﹁人工知能﹂はこのようなシステムを指すものとす タに基づく機械学習システムについて論じようと思う︒以 れ︑かつ最も大きな富を生んでいるであろう︑ビッグデー 総称である︒そこで本稿では話を絞って︑現在最も活用さ   ﹁ 人 工 知 能 ﹂ と い う 言 葉 は 多 様 な テ ク ノ ロ ジ ー の 曖 昧 な

  現在の人工知能について論じる際︑それを私たちが置か れている情報環境と切り離して考えることは意味がない︒ パーソナルコンピュータ︑インターネット︑検索エンジン︑ スマートフォン︑その上で働く様々なアプリ︑動画配信︑ ソーシャルメディア︑監視カメラ︑スマートスピーカー︑ 等々︒今日︑私たちのあらゆるオンラインの行動︑そして ますます多くのオフラインの行動のデータが様々なインタ ーフェースを通じて収集・保存されている︒人工知能はこ の膨大なデータ

に基づいて︑ 人々を分類し︑ 人々の振る舞いや属性を予測︑推測する︒   データが集まれば集まるほど推測できることが増え︑ま たその精度も増していく︒ビジネスにおいては人々の行動 を正確に予測できることは大きなアドバンテージである︒ いつ︑どこで︑どんな需要が︑どれくらいの確率で発生す るかを正確に知ることができれば︑企業はその分だけ無駄 なく効果的なアクションを起こすことができる︒さらには 人工知能はメッセージである ^{久木田水生}

（名古屋大学准教授） 特集＊人工知能と哲学・歴史・社会

費する仕方は各々のメディアの持つ技術的特性によって規 定される︒例えば新聞ならば伝えられる情報は文字だけ︑ ラジオならば音声だけである︒新聞は私たちが情報を消費 する間︑そこに注意を集中することを要求するのに対して︑ ラジオは私たちが他の仕事をしながら聞き流すような消費 の仕方を可能にする︒また新聞の情報は保存がきくのに対 してラジオはそうではない︑音声は文字に比べて感情を喚 起しやすいなどの違いがある︒これが﹁メディアはメッセ ージである﹂といわれるゆえんである︒

  では人工知能はどのような形式で情報を伝え︑私たちが それをどのように消費することを促しているのだろうか︒ 新聞やラジオ︑テレビのような伝統的なメディアと人工知 能が大きく異なるのは︑前者が基本的には事実であると確 認されたことを伝える

のに対して︑ 人工知能は一般にデータに基づいた確率的な推測を伝える という点である︒もちろん伝統的なメディアも全く推測を 報じないわけではない︒新聞には毎日天気予報が掲載され 適切なタイミングで適切な情報を与えれば︑人々の行動を 誘導することもできる︒何億というユーザーを抱える企業 であれば︑予測の精度がほんのわずかでも上がれば︑それ によって得られる利益も莫大なものになる︒だからこそ巨 大ＩＴ企業は貪欲にデータを収集し︑そして人工知能の開 発に巨額の投資を行っている︒

メディアとしての人工知能

  メディアとは情報を伝える媒体であり︑私たちが直接に 経験していない現象や対象について︑何らかの認識を持つ ことを可能にする手段である︒そしてこの意味において︑ 人工知能は文字通りメディアである︒ある種の技術哲学に おいては︑テクノロジーはすべて使用者と環境の間の仲介 をするものであり︑それゆえにメディアだと考えられる︒ しかし人工知能はあらゆるテクノロジーの中でも︑もっと もメディアらしいテクノロジーの一つだと言えよう︒

  伝達される情報の形式︑あるいは私たちがその情報を消

とって潜在的な犯罪者を特定すること︑ローン会社にとっ て誰が破産しそうかを知ること︑保険会社にとって病気に 罹りそうな人間を知ることは︑極めて有益である︒

  意思決定を行う際に︑ありうる選択肢のそれぞれに伴う 潜在的な利益と損害を見積もることを︑工学や経済学の分 野では ﹁確率論的リスク分析﹂ あるいは単に ﹁リスク分析﹂ と呼ぶ︒リスク分析においては︑ある選択肢をとったとき に︑どのような事象がどれくらいの確率で生起するかを見 積もることが必要になる︒しかし従来は人間や社会のよう な複雑なシステムについては︑特定の事象の生起確率を正 確に予想することは難しかった︒それゆえに人間に関する リスク分析はしばしば多くの仮定に基づいた不正確なもの になる︒しかしビッグデータと人工知能は人間の振る舞い についての従来よりはるかに正確な確率的予測を可能にし ている︒人工知能は︑何よりもまず︑人間や社会を対象に した確率論的リスク分析のための革新的なツールなのであ る︒

  要するに人工知能は︑人間を様々なデバイスから取得さ れた機械可読なデータの集積︑そしてそこから推測される 種々の属性の束として扱い︑特定の利益関心に沿ったリス ク 分 析 を 行 っ た 結 果 と し て︑ ﹁ こ の 人 は こ れ だ け の 利 益 ／ 損害をもたらす見込みがある﹂という情報を伝えるメディ アなのである︒

  人工知能が様々な局面で応用されるにつれて︑人間をリ るし︑政治や経済の先行きについて専門家の予想が掲載さ れることもある︒しかし人工知能が伝える情報は︑すべて 推測︑しかもそれは個々の私人の行動や性格や能力や思考 についての確率的な推測なのである︒この点が人工知能と いうメディアの際立った特徴である︒ではこの特徴から私 たちはどのようなメッセージを読み取ることができるだろ うか︒

人工知能のメッセージ

  人工知能の開発者は自らの利益関心に沿って︑他者につ いて人工知能に様々な推測を行わせることができる︒典型 的な例を挙げれば︑労働者としての能力や適正︑犯罪を犯 す可能性︑ローンを返済する能力︑特定の病気に罹る

可 能 性 ︑ 交 通 事 故 を 起 こ す 可 能 性 ︑ 配 偶 者としての相性︑ある商品にどれくらいの金額を支払いそ うか︑ある政党を支持しているかどうか︑等々を確率的に 推測するために人工知能が使われている︒

  人工知能の開発者たち︑あるいは利用者たちはなぜこう いったことに関心を持つのか︒純粋な好奇心によって動機 づけられている場合もあるかもしれないが︑多くの場合︑ 理由は人工知能が与えてくれる情報が彼らの利益と損害に 直結しているからである︒ある商品の需要を知ることは生 産者・販売者にとって極めて有益である︒同様に︑雇用者 にとって有能な社員になりそうな人間を知ること︑警察に

比較したりすることは意味をなさない︒また人の性格や能 力は決して固定された︑客観的に測れるようなものではな く︑特定の人間関係の中で発達していく可能性を持ったも のである︒人工知能による人間の評価が︑あらゆる人間関 係の成立以前に介入してくることは︑このような個人的に 特別な関係が築かれる可能性︑人間同士の関係の中で性格 や能力が発達する可能性を阻害しうる︒

  まとめると︑メディアとしての人工知能が持つメッセー ジは︑次のようなものである︒第一に︑人間は様々なデバ イス︑アプリケーションを通じて取得されるデータと︑そ こから確率的に推測される属性の集まりとして理解できる︒ 第二に︑他者はあなたにとってリスクであり︑そのリスク は前もって見積り︑回避することができる︒人工知能が社 会に浸透するということは︑このようなメッセージに私た ちが知らず知らず曝され続けるということである︒そのこ とが人々の人間観や︑成立しうる人間関係に与える影響に ついて︑注意しておかなければならない︒ スクとして扱い︑利益／損害という観点から評価する慣行︑ そして不利益をもたらすと判断された個人を排除する風潮 が広がるだろう︒そのような判断は間違っていることもあ る︒それは人工知能の判断が確率的であることからの不可 避の帰結である︒しかし例えば一部の人たちを誤って切り 捨てたとしても︑全体として利益が向上するならば︑人々 は人工知能の判断を採用するだろう︒   企業がそのような判断をすることはある程度仕方がない︒ 企業とは金銭的利益の最大化を第一の目的とするものだか らである︒リスク分析は基本的に政策決定者や経営者が大 局的な観点から効率的なマネジメントを行うための道具で ある︒そこで重要なのは統計上の数字であり︑全体として 利益が上がるならば切り捨てられる個人は顧みられない︒   しかし個人間の人間関係というのはそのようなものでは ない︒数値化できて機械で測れる利益とは異なる価値があ る︒例えば私にとって家族は︑まさに彼らであるというこ とに価値があるのであり︑その価値を数値化したり他人と

した︑認知科学者と神経科学者のチームである︒ ュア・テネンバウムという高名なＭＩＴの研究者を中心と 的認知科学の立場から書かれた論文である︒著者はジョシ が深層学習技術にこそあるという風潮に対抗すべく計算論 人工知能を開発しようという気運の中で︑人工知能の未来 の成功により再び高まった︑人間並みあるいは人間以上の 一七年に出版された長い論文がある︒近年の深層学習技術   ﹁ 人 間 の よ う に 学 び 考 え る 機 械 を 作 る に は ﹂ と い う 二 〇

  テネンバウムらのこの論文は事実上︑ロンドンのグーグ ル・ディープマインド社に宛てて書かれている︒深層学習 を用いた最近の目覚ましい成果の多くがディープマインド のものである︒アタリ

という一九七〇年代の家庭 用 ゲ ー ム 機 の ゲ ー ム の 多 く で 人 間

以 上 の ス コ ア を 叩 き 出 し た﹁

D Q

に 圧 勝 し た﹁ ﹂ や︑ 囲 碁 の チ ャ ン ピ オ ン

A l p h a G o

﹂ を ご 存 知 の 方 も 多 い だ ろ う︒ デ ィ ープマインドは︑深層学習技術を﹁真の人工知能の完成に 向 け た 正 し い 梯 子 ﹂ と 目 し て お り︑ ﹁ 知 能 の 謎 を 解 き︑ そ れにより世界をより良い場所にする﹂を会社のモットーと する︒人間には解けていない︑あるいは解き得ないような︑ 環境問題や社会問題の解決を目指しており︑例えばイギリ スの国民保健サービスであるＮＨＳと提携して医療分野へ の進出も試みている︒   さて︑この論文を要約すると次のようになる︒深層学習 という技術により︑物体認識︑ビデオゲーム︑ボードゲー ムといった課題において多くの前進がなされており︑いく つかの面では︑その成績は人間を凌駕するところまできた︒ しかしそれは人間の知性とは決定的なところで異なってい る︒人間のような学習や思考を機械にさせるためには︑ ﹁何 を 学 ぶ の か ﹂︑ そ し て﹁ ど う や っ て 学 ぶ の か ﹂ と い う 両 方 の面で︑現在の工学のトレンドとは異なる要素が必要とな 神 で も な く 人 間 で も な く ── 現 在 の 人 工 知 能 に 何 が 足 り な い の か

高橋達二

タからの豊かでかつ多くの場合に適切な一般化の能力など を︑ベイズ統計学をベースとして具体的に理解し実装しよ うとするものである︒他方︑ディープマインドは︑代表者 のデミス・ハサビスが元々優れた神経科学者であったこと もあり︑人間の脳を念頭においた人工知能技術開発を行な っているのだが︑しかし︑脳を参考にするのはあくまで抽 象的なレベルにおいてである︒実際の脳に堆積する進化的 構造の不効率性は排除し︑エンジニアリングの道標として のみ用いているようである︒

  こう捉えてみれば︑彼らは対立しているとは言っても︑ 同じ一神教的な枠組みの中にあるように見える︒神の似姿 たる人間のそのまた似姿としての人工知能を作るか︑それ とも神を直接作ってしまい︑人間には解けない難しい問題 を解いてもらうか︒このような対立図式に対してまずやる べきことは︑対立する両者が共有する前提を明らかにして︑ その前提が無視しているのが何かを考えてみることだろう︒ 無視されているものとは︑社会性だと私は思う︒

  人間を作るにせよ神を作るにせよ︑一人の人間か一つの 神から始めることになるだろう︒しかし︑ユダヤ・キリス ト教における︑最初の人間であるアダムとイヴはともかく︑ 人間は生まれた時から他の人間に囲まれて育つ︒乳児は身 体制御の試行錯誤学習をほぼ独自に行うように見えるが︑ その後の学習の多くは社会的なものだ︒大人を真似︑周り の子供を真似る︒もっと成熟して︑言語を操ったり︑意思 るはずだ︒人間のように学習したり思考したりする機械は︑ 以下の三つができる必要がある︒

①世界の因果関係のモデ

ル を 構 築 す る こ と︒

念を持った人間などエージェント︶

の 直 感 的 理 論 を 持 つ こ と︒ ②物

と 心 理 学

理 学

③獲得した知識を合成でき︑また知識の獲得方法自体も獲

得できること︒この三つの達成のためには︑研究上のどう いった中間目標をクリアし︑どのようなアーキテクチャの システムを作成すれば良いのか︑が論じられている︒この ようにテネンバウムらは︑人間並みの人工知能を構築する ためには︑人間に学ぶこと︑とりわけ人間の世界の把握に とって根本的な︑因果推論︑直観物理学︑直観心理学︑メ タ学習などの機構を組み込むことが必要だと考える︒

  それに対して︑想定論敵であるディープマインドは︑深 層学習に対するこの辛辣な批判に対して余裕たっぷりのコ メンタリーを寄せた │ ﹁言っていることは分かるが︑ 我々 が目指すのは︑人間に備っているような基本知識の組み込 みを必要しない︑人間的な限界から自由な機械︑一切を環 境から自律的に学習できる機械なのである﹂と︒

  テネンバウムたちは︑人間のような知能を作ろうとして いる︒ディープマインドは︑人間を超えた知能を作ろうと している︒目的や立場のこの違いは︑学問的な背景と関心 の違いからきている︒テネンバウム自身が中心となりわず か二〇年足らずで確立したと言って良い計算論的認知科学 は︑人間の広範な認知能力や柔軟な適応能力︑少ないデー

の対抗模倣・エミュレーションという概念を一般化して︑ メタ情報を用いた学習という意味で用いたいと思っている︒

  例えば︑ 文芸批評家の柄谷行人は﹁ブタに生れかわる話﹂

と い う エ ッ セ イ の 冒 頭 で 次 の ように述べている︒

ノーバート・ウィーナーによると︑戦争中に原爆が開 発されたとき︑アメリカ政府の諜報の重点は︑原爆の 製造法を隠すことではなく︑原爆が作られたという事 実そのものを隠すことにあったという︒その事実がわ かれば︑ドイツでも日本でもすぐに原爆を作りえたか らである︒この場合︑ ﹃作り方﹄という情報よりも︑ ﹃作 れる﹄というメタ情報が決定的に重要である︒

メタ情報とは︑情報についての情報である︒今これこれの 状況が実現しているというのは情報である︒それに対して︑ どのような状況が可能であるのかというのは︑情報が取り うる範囲についての情報であり︑それゆえにメタ情報であ ると言える︒何かが達成可能であるという情報もメタ情報 に属する︒実際には︑原爆の理論的可能性は世界中の物理 学者に知られており︑日本でもその開発が進められていた︒ 原爆開発においてはウランの濃縮法が肝要であり︑またア メリカのマンハッタン計画のような超大規模プロジェクト とそれを支える国力が必要だっただろう︒しかしいずれに 決定と行動を自律的に行うようになってからも︑学習は集 団の中で︑また集団として行われる︒独りで行う自律的な 学習は︑どちらかといえば社会学習した結果の微調整のた めのものだろう︒他人に与えられた︑あるいは他人と作っ た基準を念頭に︑他人に向けて行動し︑他人からフィード バックを受けるのが主である︒   人工知能の研究開発方針の対立の話に戻ろう︒進化の過 程 で 獲 得 さ れ た 社 会 性 を 人 間 が 手 作 業 で 組 み 込 む の も

︑ 社 会 性 が 自 律 性 か ら 導 か れ る と 期 待 す る の も

︑ 社 会 性 こ そ が 知 能 に と っ て 本 質 的 であることを考慮すれば︑どちらも一般性や実効性に欠け るように見える︒   では︑両者の議論に欠けている社会的な学習とは︑具体 的にはどのようなものだろうか？   社会的な学習には︑少 な く と も 模 倣

と 対 抗 模 倣

の 二 種 類 が あ る と 言 わ れ る︒ 模 倣 は 物 事 の や り 方 自 体を真似ることだ︒人間は模倣によって多くの動作や概念 を獲得する︒むしろ余計なことまで真似する傾向すらあり︑ これは過剰模倣

と呼ばれる︒他 方の対抗模倣は︑ある動作の詳細やプロセスではなく︑そ の帰結やゴール︑つまり出力の模倣である︒計算機科学で いうエミュレーションもほぼ同義であり︑内部構造ではな く入出力を真似することでレガシーなゲーム機をＰＣ上で 動作させるプログラムはエミュレータと呼ばれる︒私はこ

と が な い に も 関 わ ら ず︑ ﹁ で き る ﹂ と 確 信 さ せ な け れ ば な らない︒もし指導者が既にやり方を知っていたら︑その課 題には十分な新奇性やチャレンジが︑つまり研究としての 価値がないということになる︒

  社会学習の形式についてもう少し言えば︑模倣学習は︑ 学習者が熟練者や専門家の観察から模倣を通じて行う学習 である︒子供は大人を︑ロボットは熟練者の作業をじかに 模倣することで︑効率的な手順の詳細を学び︑試行錯誤の 手間を削減できる︒これに対して対抗模倣学習は︑学習者 が先駆者の記録破りをトリガーとして行うような学習であ る︒これはライバル間でも師弟間でも起こる︒対抗模倣は︑ 通常の模倣のように内容や過程の真似ではなく外形や入出 力関係の真似なので一般性が高い︒したがって︑知能の社 会性を考え合わせれば︑その実装の重要性は高い︒

  私は︑一九四〇年代から五〇年代にかけて人間の知能の 限 界

の 研 究 の 中 で サ イ モ ン に よ っ て 提 案 さ れ た﹁ 満 足 化

﹂ と い う 行 動 原 理 の リバイバルが有効であると考え︑これにより対抗模倣を実 装した︒満足化は最適化や最大化行動に対比される概念と し て 提 案 さ れ て お り︑ あ る 希 求 水 準 を 超 え る

行動・選択肢が見つかるまで試行錯誤を続け︑一度見つか れ ば そ の 後 は そ の 行 動・ 選 択 肢 を 選 び 続 け る

と い う も の で あ る︒ 例 え ば 企 業 が 利 潤 を と こ と ん 最 大化しようとはせず︑前期より儲かっている限りそれ以上 しても︑理論的可能性が重要ということには変わりがない︒ ウィーナーは﹃人間機械論﹄で次のように書いている︒

暗号解読において︑私たちが有しうる最重要の情報と は︑ ﹁ 読 も う と し て い る そ の メ ッ セ ー ジ は 無 意 味 な 記 号の羅列ではない﹂という情報である︒暗号解読者へ の嫌がらせとしてよくある手法は︑解読不可能なメッ セージ │ たんに文字を寄せ集めた無意味なメッセー ジ │ を本当のメッセージのなかに混ぜ込むというも のだ︒それと似たように︑核反応とか核爆発といった 自然界の問題を考えるときも︑私たちが公開しうる情 報 の う ち の 一 事 項 と し て 最 大 の も の は︑ そ れ

が 存 在 す る と い う 情 報 で あ る︒ 科 学 者 と い うのは︑答えがあると分かったうえで問題に取り組む ことになれば︑その態度は一変する︒答えまでの道の りをすでに五〇％ほどは進んでいるのだ︒

  一般に︑先駆者の成功が知られると︑その先駆者がどう やって成功に至ったのかが不明でも︑後続者の成功が相次 ぐということがある︒誰かが一〇〇ｍ走で一〇秒︑あるい は一マイルを四分︑といった壁を超えるや否や他の選手た ちも超え始めるということがある︒難しい課題に取り組む とき︑できないと思うとまずできない︒研究指導も良い例 である︒指導者は学生に︑誰もその研究課題で成功したこ

仮説の方を調整していくのではないだろうか︒

  社会学習︑特に模倣の重要性はもちろんこれまでにも広 く認識されている︒模倣を社会活動の基礎とした社会学者 のガブリエル・タルドや︑起業家のピーター・ティールへ の影響で再注目されている文芸批評家のルネ・ジラールら は有名である︒特にジラールの欲望のコピーの理論は対抗 模倣と関係が深いと思われるし︑すでにＳＮＳなどのビジ ネスにも大いに応用されているという︒人間のこういった 性質の分析と理解は社会的にも喫緊の課題だろう︒

  歴史を振り返れば︑人間は︑身体を一種の精巧な自動人 形として考えるなど︑複雑な自然現象を各時代の最新の人 工物になぞらえることでそのより具体的な理解に近づいて きた︒しかし︑人工知能の研究が人間の知能のより深い理 解に繋がったか︑まだ大いに疑問である︒閉じた世界の中 での学習と最適化に邁進して成果も出てきているが︑個体 が 個 体 に 閉 じ な い こ と

や︑ 認 識 や 想 定 の 外 側 を 待 ち 受 け る こ と

の 工 学 的 な 実 現 は こ れ か ら で ある︒そもそも人間に何をなしうるのかが我々自身にはよ く分かっていないのだと思う︒このような状況で人間なみ の人工知能とか人間を超える超知能の話をしても︑人間の 方を固定されたデータセットやタスクに仮想的に押し込め たうえで︑つまり人工知能の土俵で︑人間の可能性を判断 することになってしまう︒人間が出来の悪い人工知能であ るかのように考える必要性はどこにもない︒そうであれば の無理はしない︑というのは一種の満足化行動である︒危 険の回避︑採餌︑そしてメーティングといった複数の目的 を同時に果たす必要のある人間や動物は︑単一の目的の達 成度合の最大化を追求して一日や一生を終えるようなこと はせず︑多くの目的については満足化で済ませる︒私の実 装 で は︑ 満 足 化 を 行 動 経 済 学 で 言 わ れ る 損 益 非 対 称 性

と 組 み 合 わ せ る こ と で モ デ ル は む し ろ 単 純 化 さ れ︑ かつ効率的な満足化が実現できた︒つまり︑ある希求水準 が実際に達成可能であれば︑その達成の仕方を速やかに発 見できる︒   ある人の満足化の希求水準として︑他人の記録が与えら れるとしよう︒一〇〇ｍを一〇秒で走った︑この定理が証 明できた︑こんなアルゴリズムが完成した︑など何でも良 い︒そうした希求水準が与えられ︑それが前提として強く 確信されれば︑あとは︑それが実現したのはこういう方法 によってだったのではないか︑というふうに︑逆算的なト ップダウンの探索が開始される︒このようにして対抗模倣 が実装される︒この探索過程は全くの暗中模索に比べて進 みが早く︑持続力も高い︒これはまた︑アブダクションの ような形式︑つまりある結果から遡って適切な仮説を生成 し仮説を検証するという形式を持っている︒実際︑私たち がある作業を試行錯誤でマスターする際は︑全くの暗中模 索をボトムアップで行うのではなく︑トップダウンに一種 の仮説を制約として課して︑仮説検証をするように進め︑

人間をむしろ極度に精妙な人工知能と考えても良さそうな ものであり︑人間を出来損ないの人工知能と考えるような 昨今の風潮はいずれにしても全く不可解である︒

  逆に︑社会性の理解が人工知能技術に貢献することも大 い に あ り う る︒

D Q

や

A l p h a G o

の 中 核 を な す 強 化 学 習 と い う技術は︑人間がコツを教えなくてもコンピュータが自動 的に強くなるということで有名になったけれども︑試行錯 誤から能動的かつ自律的に学習するため︑多数の失敗から 学ぶことがどうしても必要である︒ゲームであれば︑大き な失敗をおかす＝死ぬことを無数に繰り返すこととなる︒ 問題は︑ゲームやシミュレーションでなければ何度も何度 も死ぬことはできない︑ということである︒生物にとって 死は一度だし︑死それ自体を経験することもできない︒こ れはロボットの場合も同様であり︑実機で大きな失敗を繰 り返せば︑途端にパーツが痛み︑学習を続けるどころでは ない︒深層学習の弱点は大量のデータを必要とすることだ が︑深層強化学習の弱点はそれに加えて多数の死も必要と することである︒ここで有効なことの一つは︑やはり社会 学 習 で あ る︒ 我 々 が 持 ち 合 わ せ る︑ ﹁ あ れ を や っ た ら 本 当 に や ば い

﹂ と い っ た 知 恵 の 多 く も︑ 他 人 を観察することから得られているはずである︒   本稿では︑人間もどきや神もどきの構築を目指す人工知 能開発の二つの方向性に対し︑他人と競合や協力のできる 人間の強みを強調した人間理解と人工知能開発の可能性と いう第三の道を示唆した︒それは︑人間の限定合理性を実 装し︑その限定性がむしろ外部を誘い込むということを活 かして実現される︒手がかりなしの純粋な試行錯誤により 最適解を目指す最適化に比べ︑希求水準という手がかりを 持つ満足化は︑その水準の由来と決定法に関し理論的な弱 点を持つとされる︒この弱点は他方︑社会においては他者 の達成水準を通じて環境の情報を得るための流入孔として 働き︑むしろ通常の最適化または合理性に対する強みとな りうるのである︒