綿 貫 丈 雄
我々は人工知能を恐れるべきか
―認知科学および経験論哲学の視点から―
Ⅰ．研究背景と論点
１．人工知能研究の現在 2016年６月、大学入試センター試験を想定して実施された「進研模試・総合学力マー ク模試」において、ある受験生が偏差値57.1を記録した。MARCH や関関同立と呼ば れる難関私立大学グループにも合格可能性80％と判定される学力である。続いて開催 された東京大学２次試験対策の「東大入試プレ」模試においても、理系数学では６問 中４問を完答し、その偏差値は76.2を記録した。これは理科三類に合格するレベルで我々は人工知能を恐れるべきか
―認知科学および経験論哲学の視点から―
綿 貫 丈 雄
Ⅰ．研究背景と論点 １．人工知能研究の現在 ２．問題設定 Ⅱ．人工知能の本質的原理と思想史的意義 １．概念装置としてのコンピュータ ２．深層学習の基本原理 ３．数量化への志向と功利主義 ４．知性は深層学習で代替可能か Ⅲ．AI では代替できない知能 １．「東ロボくん」の限界点 ２．認知的個性 ３．人間＝知能＋生命 Ⅳ．シンギュラリティはいつ到来するか １．シンギュラリティ説の論拠 ２．帰納的推論の確実性 ３．経験事実から普遍的な法則へ ４．「知」の欺瞞 Ⅴ．結論あるという１。その受験生の名は「東ロボくん」──国立情報学研究所の新井紀子教授 が率いる「ロボットは東大に入れるか」プロジェクトから送り込まれた、人工知能 （AI：Artificial Intelligence）を搭載する一台のロボットである２。チェスや囲碁のよう に単純なルールの上で展開されるゲームだけでなく、もはや大学入試で問われるよう な学力においても、AIの後塵を拝する若者が相当数存在している──これが、われわ れ人類が「東ロボくん」に突きつけられた現実である。 また、その前年に放映されたNHKスペシャル「NEXT WORLD ─私たちの未来」で は、料理のレシピや犯罪予測、理想的な結婚相手の紹介に至るまで、既に多くの分野 に AI が活用されている様子が紹介された。このドキュメンタリーには AI 研究の世界 的権威とされるレイ・カーツワイルも出演し、「このまま行けば、2045年、人類すべて の知能を結集しても敵わないコンピュータが誕生し、AI が全人類の知能を追い抜く 技シ ン ギ ュ ラ リ テ ィ術的特異点（singularity）が到来する」と予言した。岡田朋敏ディレクターは、同番 組をこのカーツワイルが提唱する「シンギュラリティ仮説」を根拠として制作したと 語っている３。シンギュラリティは、「われわれの生物としての思考と存在が、みずか らの作り出したテクノロジーと融合する臨界点」であるという。シンギュラリティに 至れば、「われわれの生物としての身体と、脳が抱える限界を超えることが可能にな り、運命を超えた力を手にすることになる。死という宿命も思うままにでき、好きな だけ長く生きることができ」、人類が長年悩まされてきたあらゆる問題は解決される。 それ以降、知能は地球という起源を離れて宇宙へと向かい、物質とメカニズムは知能 体へと変容して宇宙に充満し、宇宙は覚醒する……４。 こうした〈テクノロジーによって「死」という運命すらも制御可能になる〉との予 測は、社会や文化のあり方のみならず、必然的に、伝統的な宗教の役割にも再定義を 迫る。カーツワイルは、ビル・ゲイツとの対談で「ぼくらは新しい宗教を求めている」 と語った５。実際、2015年には元 Google エンジニアのアンソニー・レバンドウスキー が、「AI に基づいた神の実現を開発・促進し、その理解と崇拝を通して社会をより良 くする」と標榜する宗教団体“Way of the Future”を創立した６。我が国でも、昨年開 催されたシンポジウム「激動する世界と宗教」において、「宗教もいわば集合知である
１ 新井紀子『AI vs. 教科書が読めないこどもたち』東洋経済新報社（2018）21∼22頁。
２ Noriko Arai, “Can a robot pass a university entrance exam?” TED, April （2017）。
３ 岡田朋敏、他「テクノロジーと表現─NHK「NEXT WORLD」の取材から見えてきた未来─（前 編）」、『電通報』2016年５月６日。 ４ レイ・カーツワイル『シンギュラリティは近い』NHK 出版（2016）15∼27頁；同『ポスト・ヒ ューマン誕生』NHK 出版（2007）20∼34頁。 ５ カーツワイル（2007）496頁。 ６ 塚本 紺「神は AI？ 元 Google エンジニアが宗教団体を創立」、ギズモード・ジャパン、2017年10
以上、AIがその働きをする可能性は考えられないか」といった議論が展開された。こ の発問に対し、宗教学者の碧海寿広は「仮に AI に人間性を宿らせることができれば、 宗教はどのように発生するのかを理解することにも資するのではないでしょうか」と 応じ、ジャーナリストの池上彰も「世界中のあらゆる情報をもとに、AIが客観的に答 えを出してくれるようなこともあり得る」と続いた７。 ２．問題設定 このまま AI 開発が急速に進展して行く先には、どのような時代が待ち受けている のか。2014年、宇宙物理学者のスティーヴン・ホーキングは、Independent紙に「AI開 発の成功は人類史における最大の出来事になりうるが、もし我々がリスクを避ける方 法を知らなければ、不幸なことに、それは終末にもなりうる」との声明を発表した８。 ホーキングは「近い将来、自動的に標的を選択し抹殺する自律兵器システムが考案さ れるだろう」と訴え、その後も「完全なる AI の開発は、人類という種の終末を意味 する」などと警鐘を鳴らし続けている９。国際人権団体 Human Rights Watch も、自律 兵器の開発を早期に禁止するよう国連に働きかけているが、いまだ意見の一致をみて いない10。 ところが、このように AI に対する期待と危機感が広がる一方で、いわゆるシンギ ュラリティ論に否定的な見解を主張する専門家も少なくない。人工知能学会の倫理委 員長である松尾 豊（東京大学准教授）は、シンギュラリティについて「人工知能が人 類を征服したり、人工知能をつくり出したりという可能性は、現時点ではない。夢物 語である。」と述べている11。それどころか、他でもない「東ロボくん」生みの親であ る新井紀子自身は、次のように断言している。 「AI が神になる？」──なりません。 「AI が人類を滅ぼす？」──滅ぼしません。 「シンギュラリティが到来する？」──到来しません12。 いったい科学者・技術者たちは、何を根拠に AI に期待を寄せ、あるいは警鐘を鳴 らし、シンギュラリティへの賛否や、互いに対立する予見を主張しているのか。 はたして、我々は AI を恐れるべきなのか。 ７ 池上 彰・佐藤 優・松岡正剛、他「宗教の影響力はいま」、『朝日新聞』、2017年８月29日、５面。
８ Stephen Hawking, et al., Independent, 1 May （2014）．
９ Rory Cellan-Jones, BBC News, 2 December （2014）．
10 Human Rights Watch, 28 November （2017）．
11 松尾 豊『人工知能は人間を超えるか』KADOKAWA（2015）203頁。
そこで本論文は、まず現在の人工知能技術の原理を概観し、その上で、カーツワイ ルら AI 専門家たちの主張の根拠となっている論理や言説を検証することにより、複 雑に絡み合った諸問題を解きほぐすことを試みる。その過程では特に、AIという対象 が、数学・物理学・情報学のみならず、脳神経科学・心理学を含む認知科学など、複 数の研究領域の知見を統合するシステムである点に注意したい。また、自然科学が根 拠とする論理や蓋然性、あるいは「そもそも人間の知能（および神の全能）とは何か」 といった問いは、伝統的に哲学──とりわけジョン・ロックの『人間知性論』に始ま る近代の経験論哲学──によって繰り返し論じられてきた主題でもある。つまり、人 文学的な問いについての科学的な方法論と、科学技術についての人文学的な価値判断 との、両面からのアプローチが求められているのである。
Ⅱ．人工知能の本質的原理と思想史的意義
人々は AI について、何を契機に、現在のような関心を持ち始めたのか。 それは2012年、コンピュータによる画像認識の精度世界一を競う協議会でのことで ある。オックスフォード大学やゼロックス、東京大学などの先端研究機関が、数年に わたって誤差20％台後半の精度でしのぎを削る時代が続いていた矢先、初参加のトロ ント大学のAlexNet がいきなり16％というスコアで圧勝したのである。世界中の研究 者が、トロント大学チームの戦略を知りたがった。その核となるテクノロジーは、デ ィープラーニング（Deep Learning）もしくは深層学習と呼ばれる手法だった。やがて 「どうやらこれまでの AI とは性質の異なるイノベーションらしい」との認識が研究者 の間で広まると、その後 AI 業界全体が急速に脚光を浴びるようになった。 この「深層学習」とは、いかなるテクノロジーなのか──その本質的理解こそが、 「人工知能時代」の実相を見極めるには不可欠であろう。以下本章では、まず AI の思 想史的な位置づけと深層学習の原理を概観した上で、経験論哲学の視座からその意義 と限界を考える。 １．概念装置としてのコンピュータ 人間の心という、目で見ることも手で触れることもできない対象を、どのようにし て理解すればよいのか。 哲学者や心理学者は、知intelligence能という人間の知的な精神活動を理解するための概念装置 を探し求めてきた。17世紀イギリスの W. ハーヴェイは、ポンプとの類比という概念 装置を用いて、心臓や弁の働きを説明した。ところが、精神活動を担うと思しき「脳」 という臓器には、心臓のような可動部分がない。人間以外には、知的な精神活動をす る存在も見当たらない。脳と似たものは、どこにも見あたらなかった。モノでなく、様々な「概念」もまた、脳の働きに類比させるべく提唱されてきた。 行動主義心理学の「刺戟─反応連合」やゲシュタルト心理学の「場」、ピアジェの「群 論」などである。ただ、それらが人間の知覚や思考に関して新たな洞察をもたらすこ とはなかった13。 1946年にペンシルベニア大学で公開された ENIAC を始めとするコンピュータの出 現は、長いあいだ脳の対応物を探しあぐねていた人類に、明確なアナロジーを提示し た。可動部分はないが、電気的に活動し、情報を処理しているという。その働きが人 間の脳とよく似ていることは誰の目にも明らかだった。このときから、「人間の知能を コンピュータの情報処理になぞらえて理解しよう」という潮流が生まれた。これに認 識論哲学や言語理論、人類学、生理学、情報工学などが合流し、認知心理学や人工知 能研究、すなわち「認知科学」と呼ばれる学際領域が新たに誕生していった。 ‘Artificial Intelligence’なる専門用語が初めて公式に登場するのは、1956年に当代一 流の研究者が結集した「ダートマス会議」に向けて、その開催を呼びかけた一通の提 案書においてである14。「ヒトの知性のもつ学習その他のあらゆる特徴を、正確に記述 することは原理的に可能であり、これをシミュレーションする機マ シ ン械をつくることも可 能である」との仮説に基づくこの提案書には、知能を人工的に再現するために解決し なければならない７つの課題が列挙されていた。 １．自動コンピュータ（Automatic Computers） ２． どうやってコンピュータに（自然）言語をプログラムするか（Use a Lan-guage） ３．神経回路網（Neuron Nets）
４．計算の規模の理論（Theory of the Size of a Calculation） ５．自律的な可塑性（Self-Improvement）
６．抽象化（Abstractions）
７．ランダムさと創造性（Randomness and Creativity）
なかでも、３番目に「脳神経回路網（Neuron Nets）」が挙げられている点は注目に値 する。この時点で既に、現在の「ニューラル・ネットワーク」に相当する発想の萌芽 がみられる。 AI技術の進展は、この会議で提案された７つの課題が、時代を経るごとに一つずつ 実現していく過程でもあった。AI研究の変遷を時系列で可視化したダイアグラムが図 １である。最先端の「ディープラーニング」＝「深層学習」が、「ニューラル・ネット 13 高野陽太郎『認知心理学』第１章、放送大学教育振興会（2013）。
ワーク」を源流とする技術であることがみてとれる。当初は抽象的な数理モデルとし てのみ研究されていた概念が、「深層学習」によって具現化したのである。次節では、 この「深層学習」の基本原理について、その数学的本質を探ることにする。 図１：人工知能研究の見取り図 「チェス」「将棋」「囲碁」、「Siri」「bot」、「ワトソン」、「検索エンジ ン」「自動運転」「ペッパー」「ビッグデータ」など、AIに関する近年話題の概念について、研 究史上の位置づけと相互関係を一目にして俯瞰できる。出典：松尾（2015）より作成15。 ２．深層学習の基本原理 本節は、大学の一般教養程度の簡単な数学についての知識を前提とする。なお、興 味のない読者は、「深層学習の根幹をなす原理がニューラル・ネットワーク（NNW） であり、結局のところ損失関数の値を最適化するという数学的な問題に帰結する」と いう本節の結論を受け入れるならば、次節に進んでもよい。 パーセプトロン 「深層学習」があまりにも劇的な威力を見せつけたので、その基本原理が「ニューラ ル・ネットワーク」という「人間の脳」を再現したモデルだと分かると、「ついにコン ピュータが脳の自律的な可塑性を手に入れる突破口が開かれた」──そう思われたと しても不思議ではない。ここで、その基本原理をみてみよう。 15 松尾（2015）63頁。
よく知られるように、ヒトの脳の構成単位であるニューロン（神経細胞）は図２⒜ のような構造をしている。一つの細胞体は、放射状に広がる樹状突起と長く伸びた軸 索とを有し、軸索の末端である軸索終末部で、別のニューロンの樹状突起に接続する。 細胞体の電位がある限界値（閾値）を超える（もしくは下回る）と電気信号が発生し （これを発火という）、軸索を経由して別のニューロンへと伝搬する。 図２：ニューロンとパーセプトロン ⒜人間の脳の神経細胞。出典：道又（2012）より転載16。⒝ パーセプトロン。⒞２個の入力ノードをもつ単層のパーセプトロン。 この仕組みを抽象的にモデル化したものが図２⒝のパーセプトロン（perceptron）で ある。すなわち円a（1） 2 が「細胞体」に、矢印w（2）12が「軸索」にそれぞれ対応し、「軸索 終末部」である矢印の先端が、別のニューロンの細胞体としての円a（2） 1 と接している。 円はノードと呼ばれ、他の複数の「ニューロン」から送られてきた信号の総和が閾しきい値ち （限界値）を超えた場合にのみ１を出力する。これが、脳のニューロンの「発火」に対 応する。ひとつの信号には、それぞれの入出力信号の重要性をコントロールする重み と呼ばれるパラメータ（係数）w（n） ij が決められている。 いま、図２⒞のような２個のニューロンx1, x2からノードy に信号が入力される場合 を考える。i 番目のノード xiからの信号に固有の重みをwi、発火の閾値をθとすると、 このパーセプトロンからの出力信号y は、 y＝ 0（w1 x1＋w2 x2 ≤θ） ⑴ 1（w1 x1＋w2 x2 >θ） と記述できる。 ここで、重みと閾値の組（w1,w2,θ）を適当に調整すると、コンピュータを構成する 基本的な論理回路である３種類のゲートを表現できる（図３）。例えば、「２つの入力 16 道又 爾、岡田 隆『認知神経科学』第１∼２章、放送大学教育振興会（2012）17頁。
が両方とも１のときだけ１を出力し、それ以外は０を出力する」ANDゲートは、（w1,w2, θ）＝（1,1,1）などと選ぶことによって表せる。同様に、NANDゲート17は（w 1,w2,θ）＝ （−1,−1,−1）など、ORゲート18は（w 1,w2,θ）＝（1,1,0）などのパラメータで表せる が、いずれの論理回路においてもパーセプトロンの構造と数学的表現は変わらない。 一般に、これらのゲートを一定のルールで組み合わせると、複雑な電子回路やコンピ ュータさえも表現できることが、理論上は証明されている。 x1 x2 w1x1＋w2 x2 <>θ y 0 0 0＋0＝0 ≤ 1 0 1 0 1＋0＝1 ≤ 1 0 0 1 0＋1＝1 ≤ 1 0 1 1 1＋1＝2 > 1 1 図３：ANDゲートの真理値表 （w1,w2,θ）＝（1,1,1）とした場合。 ニューラル・ネットワーク ここで、式⑴における入力信号の総和をa＝b＋∑wi xi；b ＝−θと表し、入力信号の 総和によってニューロンがどのように発火（活性化）するかを決める活性化関数 y＝h（a） ⑵ を導入する。これは、ニューロン（ノード）への入力信号a が関数 h（a）によって変換 されて信号y が出力されるプロセスを表現している。出力ニューロンの内部での活性 化関数の処理を明示すると、次図のように表せる。 図４：ニューロン内部での活性化のプロセスを明示したパーセプトロン a は入力信号の総和、h（a）は活性化関数。 17 ２つの入力が両方とも１のときだけ０を出力し、それ以外は１を出力するゲート。 18 ２つの入力信号のうち少なくとも１つが１であれば１を出力するゲート。
例えば、式⑴のθをb＝−θとすると、入力信号の総和a＝b＋∑wi xiが０を超えたら １を返し、そうでなければ０を返すステップ関数 h（x）＝ 0（x ≤ 0）1（ ⑶ x > 0） となっている。 もし活性化関数が線形関数cx であれば、n 層のパーセプトロンも y（a）＝h（h（h…（x） …））＝cn xとなり、どんなに層を深くしても一つの活性化関数と等価であるが、h（x）と してこのステップ関数やシグモイド関数 h（x）＝1＋exp（−x）1 ⑷ などの非線形関数を選ぶとき、より複雑な処理が可能になる。 図５：ステップ関数（左）とシグモイド関数（右）のグラフ 図６：ニューラル・ネットワークの模式図 第１層から第２層目への信号伝達を表す。齋藤（2016） より作図。
このような、ニューロンの内部で非線形な変換を行うパーセプトロンを、図６のよ うに多段に重ねたアルゴリズムは、多層パーセプトロンあるいはニューラル・ネット ワーク（NNW）と呼ばれている19。 例えば、第１層・第１番目のニューロンへの入力信号は、 a（1） 1 ＝w（1）11x1＋w（1）12x2＋b（1）1 ⑸ となる。これら第１層のノード全てについて、入力層（第０層）からの信号をX、入 力信号をA（1）、重みW（1）、バイアスB（1）、とすれば、 X＝（x1, x2）, A（1）＝（a（1）1 , a（1）2 , a（1）3 ）, W（1）＝ w （1） 11 w（1）21 w（1）31 , B（1）＝（b（1） 1 , b（1）2 , b（1）3 ） ⑹ w（1） 12 w（1）22 w（1）32 のように行列表記できる。したがって第１層からの出力信号z（1） 1 ＝h（a（1）1 ）,…は、 Z（1）＝h（A（1））, A（1）＝XW（1）＋B（1） ⑺ と表せて、第２層についても同様に、第１番目のニューロンへの入力信号が、 a（2） 1 ＝w（2）11z1＋w（2）12z2＋w（2）13z3＋b（2）1 ⑻ であることから、その出力信号は次のような活性化関数の合成関数として表せる： Z（2）＝h 2 （A（2））＝h 2 （h（1 A（1））W（2）＋B（2））＝h（h2 （1 XW（1）＋B（1））W（2）＋B（2）） ⑼ したがって、一般にn 層の NNW の最終的な出力 Y は、次のような関数として表現で きる。 Y＝h（hn n−1（…h（1 XW（1）＋B（1））…）W（n）＋B（n）） ⑽ ここで、第i 層の活性化関数を h（x）とした。これが、ダートマス会議でも提案されi ていた「脳神経回路網」の数学的表現にあたる： hn … h1：X → Y ⑾ ニューラル・ネットワークの推論と学習 入力データ X として、例えば何らかの「画像」を NNW に与えて、それが猫なのか 犬なのか何なのかを解答Yとして出力させるとする。このように、「入力データが、ど のカテゴリーに属するか？」を推論させることを分類問題という。あるいは、「この画
19 斎藤康毅『ゼロから作る Deep Learning ── Python で学ぶディープラーニングの理論と実装』オ
像の人物の体重は何kgか？」といった、予測数値を推論させることも可能である。こ れを回帰問題という。ここで認識精度や予測精度を左右するのは、重みなどのパラメー タと活性化関数の組（hn … h1；W, B）を、いかに適切に設定するかである。あらか じめ正解がわかっている入力データを、教師データ（訓練データ）という。教師デー タを入力し、NNWから出力された解答を正解と比較すれば、その誤差の小さいNNW の方がより精度が高いことになり、より最適なパラメータを設定したことになる。 NNW による推論結果である出力 Y＝［yk］と、正解である教師データT＝［tk］の誤 差は、次のように連続な関数を用いて表現することが可能である： L＝−∑ k tk log yk , 0 ≤ yk ≤ 1；tk＝1,0. ⑿ 出力yk（正解確率）と正解tk（正解ラベルのみ１）との誤差が小さければ小さいほ ど、関数L の値も小さくなる。このような関数を損失関数（loss function）という。い ま関数L は微分可能であるから、NNW の重みパラメータの全体 W を［M×N］行列 で書けば、L の勾配（gradient）は次のように定義できる。 ∂L≡ ∂L ∂L … ∂L ⒀ ∂W11 ∂W21 ∂WM 1 ∂L ∂L … ∂L ∂W12 ∂W22 ∂WM 2 ∂W ⋮ ⋮ ⋮ ⋮ ∂L ∂L … ∂L ∂W1 N ∂W2 N ∂WMN 勾配は各点において関数の値を最も減らす方向を示すので、 ⑴ パラメータWmnを、現在の場所から勾配方向に一定の変化量ηだけ更新する： Wmn→Wmn−η ∂L ⒁ ∂Wmn ⑵ 移動先でも⑴と同様に、勾配方向に変化量だけ更新する ⑶ ⑴ ⑵を繰り返し、関数 L の値を徐々に減らす という手順を自動化することにより、誤差の指標である損失関数の値を極小化できる。 つまり、NNW の最適なパラメータを、機械自身に探索させることが可能になるので ある。このような手順を、ニューラル・ネットワークの学習（learning）という。 ここでη は学習率（更新量）とよばれ、前もって何らかの最適な値に、人の手によ って決めておく必要がある。この意味で、学習率はハイパーパラメータの一つである。 NNWの学習においては、学習率の値を試行錯誤しながら、「重み」など他のパラメー タが正しく学習できているかどうか、確認作業が必要になる。
図７：関数の勾配を用いた座標の更新 （左）関数 f （x0, x1）＝x20＋x21の各座標での勾配 ∂f , ∂f ∂x0 ∂x1 と、（右）座標（x0, x1）を手順⑴∼⑶によって更新を繰り返した場合の軌跡。 深層学習 本章の冒頭でも触れたトロント大学の研究チームが開発した AlexNet は、実はこの NNWに畳み込み（convolution）と呼ばれるテクニックなどを取り入れ、ニューロン層 を深く重ねる畳み込みニューラル・ネットワーク（CNN）と呼ばれるアルゴリズムを 採用していた。それ以前にもさまざまなタイプの CNN が提案されてはいたが、近年 のグラフィックコントローラ（GPU）の飛躍的な高速化によって演算速度が向上した ことで実装が可能になったといえる。なお、最初期の CNN である LeNet は活性化関 数としてシグモイド関数を用いていたのに対し、AlexNet は ReLU 関数： h（x）＝ 0（x ≤ 0） ⒂ x（x > 0） を採用した点も新しい。 図８：ReLU 関数のグラフ このように、急速に発展している深層学習の応用分野として、コンピュータがより 良い報酬を求めて自律的に試行錯誤を繰り返す強化学習が注目されている。強化学習 では、試行錯誤と報酬の循環を最適行動価値関数と呼ばれる指標を用いて表現するが、
これを CNN で近似する Deep Q-Network という手法が提案されており、すでにテレビ ゲームの映像を入力しただけで、ヒトを超えるレベルの操作を実現しているという20。 いずれにしても、画像認識であれ強化学習であれ、最先端のAIの動作原理は本質的 に NNW であり、つまりは損失関数の値L を最小化するという、数学的な問題に帰結 するのである。 ３．数量化への志向と功利主義 このように、考察となる対象を何らかの指標を用いて数量化し、最適解を求めよう とする方法論は、実は人文学にも存在する。その筆頭がベンサムの功利主義であろう。 ジェレミー・ベンサム（1748 1832）は、人間を支配しているのは「快楽」と「苦 痛」であり、さらにそれらは客観的に数量化して計算可能であると主張した。この「快 楽計算」によれば、幸福は「快」の増大と「苦」の回避によってもたらされ、善悪の 判断すらも「最大多数の最大幸福」を基準にできることになる21。ここから導かれる 「功利の原理」によれば、例えば「同害報復の原理」で犯罪者を死刑や厳罰に処するよ り、一定の監視下で労役させて勤勉な市民に更生させるほうが、「社会全体の幸福量」 を増大させると考えられる22。 この徹底した「数量化への志向」を継承したのは、「質的功利主義」を唱えたJ.S.ミ ルよりも、むしろ経済学者たちであったといえる。ウィリアム・ジェヴォンズ（1835 1882）は、ベンサムの枠組みを逓減的な効用関数を用いて数理的に表現した。これは 後に、社会的厚生の改善という目的のために、数理的な分析を活用して累進課税を理 論化した「厚生経済学」へと発展していく。現代の社会福祉政策は、多かれ少なかれ 「功利の原理」を基盤に成立しているのである23。 こうした、功利主義の「計量化への志向」という思想の系譜を遡ると、J. ロックが 知識の根源に据えた「経験」の概念に辿り着く。 ジョン・ロック（1632 1704）は、西洋哲学史上はじめて知性（intelligence ＝知能） を主題化した『人間知性論』で知られる24、25。知性について、ロックは次のように宣言
20 V Mnih, et al., Nature 518 （2015） 529 533.
21 ジェレミー・ベンサム『道徳および立法の諸原理』（山下重一訳、『世界の名著49 ベンサム／J・ S・ミル』所収）中央公論社（1979）82頁。 22 そのような施設を「パノプティコン」と名付けた。ミシェル・フーコーにより監視社会の権化の ように批判されたが、現代の死刑廃止運動の視点からは全く異なる評価も可能になるだろう。 23 深貝保則「政治・経済思想としての功利主義」、『イギリス哲学・思想事典』（日本イギリス哲学 会編）研究社（2007）175 ６頁。 24 ジョン・ロック『人間知性論（一）』（大槻春彦訳）岩波文庫（1972）。 25 原著では、「知性」に該当する単語は「Understanding」である。ロックは、ラテン語の「intellectus （理解すること）」を英語に翻訳したらしい。「Intelligence」（知能／知性）の語源である。
する。 どこから心は理知的推理と知識のすべての材料をわがものにするか。これに対し て、私は一語で経験からと答える26。 「経験」という概念は、西洋哲学では多義的であるため注意が必要だ。カントなど、 ロックより後の世代の哲学者が往々にして「感覚」とか「知覚」という意味を指して いるのに対し、ロックの「経験的」は「努力し、試みることの中において」という、 日常語の感覚にも古代ギリシア哲学にも馴染みのある意味に用いられている27。 哲学者の一ノ瀬正樹によれば、「経験」をこのように解するとき、知識に関しても倫 理的な価値に関しても、ある「程度」を許容し、その「程度」の「測定」を本来的に 要請することになるという。努力し試行錯誤する「経験」は「数量化への志向性」、つ まり考察対象の量的な測定や「計算」を本来的に要請するのである。 ベンサムやジェヴォンズら功利主義の「数量化への志向」は、「人間の知性は、経験 と不可分な関係にある」とする知性観を胚胎しているともいえよう。 ４．知性は深層学習で代替可能か 最先端の深層学習のテクノロジーに支えられた AI が、近い将来あらゆる問題につ いて最適な解ソリューション決策を得られるようになったとしよう。その時、人類の知性はすべてAI で代替できるのか。人間の精神活動は、この種の知性にすべて還元されるのか。 一昨年に開催されたシンポジウム「激動する世界と宗教」において、司会者の松岡 正剛は「宗教もいわば〈集合知〉であるわけですが、人工知能（AI）がそのような働 きをするとは考えにくいでしょうか」と問うた。 はたして宗教が〈集合知〉であるのか否か、ここではあえて問い直さない。しかし、 あらゆる情報が蓄積され、その最適解が容易に得られるとしたら、これからの AI は 確かに集合知になるかもしれない。池上彰も「AI が自ら学んでいく深層学習ですね」 「AI が客観的に答えを出してくれるようなこともあり得る」と答えていた28。 しかし一方で、登壇者の一人である若松英輔の次の発言は興味深い。 とてもつらいことがあったとき、師匠のような神父に会いに行きました。ずっと 黙っていた。神父も黙っている。４、５分だと思います。そして「帰ります」と 26 ロック（1972）133 ４頁。「ロック哲学の、したがってイギリス古典経験論の、さらにひいては 経験論一般の基本的性格を自覚的に表現した最初の箇所である。」（大槻、同、268頁） 27 一ノ瀬正樹『英米哲学史講義』ちくま学芸文庫、筑摩書房（2016）24頁。 28 松岡（2017）。
告げました。私はそこから、もう少し生きてみようと思えた。 苦しんでいる人に、そこから脱し幸福になる「最適解」を提示することは、行政に しろ慈善活動にしろ、凡そ社会福祉の根幹である。しかし、この神父が与えたのは、 その種の「解」ではない。むしろ、情報としては何も与えなかった。「これは AI には できません」と若松は言う。 あるいはまた別の次元から見れば、絶望した青年に「生きてみよう」と思わせた神 父の「沈黙」という行為は、そのときの若松にとっての、ある種の「最適解」であっ たといえなくもない。実際、これは何もこの神父だけが特別なのではなく、例えば『ア マデウス』や『レオン』などの映画にも、とてもつらい経験をした主人公の告白を前 に、ただ沈黙するだけの聖職者が描かれている。 ならば、「つらい経験」という入力に対して、これらの新聞記事や映画から「沈黙」 という出力を、深層学習によってパターン認識した AI を想定してみよう。端末は Siri でも Alexa でも Pepper くんでもいい。「つらい経験」を感知した AI が、最適解として 「神父の沈黙」を再現するとき、癒しや救いを求める人は何を思うだろうか。もしも愚 鈍な筆者なら、こちらもしばしの沈黙をもって応じた後、決然と再起動ボタンを押す であろう。「おいおい、フリーズしちまったぜ」と舌打ちしながら。
Ⅲ．AI では代替できない知能
前章で「人間の精神活動は、最適解を求める類の知性にすべて還元されるものでは ない」ことの傍証は提示した。ではその、AIで代替できない、人間に固有の知能とは、 具体的には何だろうか？ １．「東ロボくん」の限界点 第Ⅰ章で紹介したように、2011年にスタートした「東ロボくん」は、2016年の時点 で大学入試を想定した模試において受験生全体の上位20％に入る偏差値を記録してい る。しかし、毎年受験を重ねるなかで、次第に「東ロボくん」の得意分野と不得意分 野も明瞭になってきた29。これは、「第三次 AI ブーム」とも呼ばれる現状の AI 開発一 般に共通する限界点でもある。 「東ロボくん」宛に返却されたセンター試験模試ならびに東大二次試験模試の結果 と、模試に向けて与えられていた「傾向と対策」を詳しくみてみよう。受験科目は、 29 新井紀子・東中竜一郎 編『人工知能プロジェクト「ロボットは東大に入れるか」──第三次 AI ブームの到達点と限界』東京大学出版会（2018）。マーク式のセンター模試が「英語・国語・数学・日本史・世界史・物理」、記述式の東 大模試が「数学・世界史」である。 まず、科目別の偏差値から伺えるのは、得意科目は「数学」「世界史」で、苦手科目 は「英語」「国語」「物理」であるようだ。単純に「コンピュータだから理数系が得意」 とも割り切れない点が興味深い。各科目の解答戦略は以下の二種類に大別できる30。 A 論理的手法 記号論理的・数学的推論。日本語で記述された問題文を形式表現（論理記号表現） に変換し、そこから先は演算を重ねていく。当然、古くからの計コンピュータ算機が得意としてき た分野である。 これは「数学」と「物理」に採用された。両科目の問題文は決まりきった言語表現 と数式・図形で構成されているため、形式表現への変換も、手作業で編纂された辞書 などによって、意味を正確に取得して対応づけている。 B 確率的手法 過去問と正解データからパターンを認識して、確率的に最も確からしい選択肢や数 値を予想する手法。つまりは前章で述べた最適化問題に帰着させる解法で、近年のニ ューラル・ネットワークや深層学習の発展により格段に精度が向上している分野であ る。 これは「英語」「国語」「世界史」で採用された。理由は、問題文の言語表現が豊富 すぎるため、手法Aのように意味表現を正確に取得することは諦めざるを得ないから だ。代わりに、過去問とその正答パターンを学習して、問題文の把握よりもむしろ選 択肢の正答確率を予測することに注力している。人間の受験生で例えれば「問題文の 意味は理解できないけど、なんとなく耳馴染みのある文章だから、正解はこれかな？」 と判断するときの脳内処理に対応していると考えてよいだろう。 「東ロボくん」の得意分野・苦手分野 結果として、「東ロボくん」の得意分野、すなわち現代の最先端の技術を結集した AI が人間を大きく上回る領域は、 ⒜ 膨大なデータから ⒝ 限定されたフレームの中で ⒞ 「確からしそうな順」に答えの候補を挙げたり、ある目標に向けて最適化したり 30 同、272∼３頁。
する という三つの条件を満たす知能であることが示された。前章での主張とも合致する。 ここで見逃してはならないのが、「世界史」と「物理」の得意・不得意である。 同じ理学（理系科目）に属する数学と物理学であるが、論理的手法Aを採用してい るのにもかかわらず、「東ロボくん」は「物理」を苦手とする。「数学」のように高度 に抽象化した世界を舞台に、限定的な語彙で記述される問題文であれば、AIなりの形 式表現に変換でき、その意味表現を正確に理解できる。 しかし、「物理」は実世界の現象を相手に、典型的な出題パターンからかけ離れた、 例外だらけの場面を設定してくるのが常である。文章や図形からその状況を把握し、 そこに基本法則を適用せよと要求される。こうした、これまで正解を見たことのない （と思わせる）出題傾向は、AI にとって〈意味理解〉も〈確率予想〉も困難となる。 また、我々の生きている実世界には、自然環境であれ人間社会であれ、多くの〈常 識〉が暗黙の前提として埋め込まれている。AIは一般に、明示的に入力されたことの ない〈常識〉に基づく論理的な推論や、文章の意味を理解し、抽象的な定義文の具体 例を挙げることを苦手とする。しかたなく、人文学に属する「英語」「国語」「世界史」 では問題文の意味理解を放棄し、確率的な予測を採用したのだった。「理解できないの で得点だけ取りにいく受験生」の戦略である。それでも、「世界史」はテキストの中の 用語群が限られているため、意味理解や〈常識〉に頼らずとも、マーク式では「確か らしい選択肢」を言い当て、記述式では模範解答に含まれるべき用語をできるだけ多 く盛り込んだ「それらしい」文章を生成できたのである。 この「コンピュータでありながら物理が苦手で世界史が得意な東ロボくん像」から 浮かび上がるのは、「現実世界に生きる人間が身につけている〈常識〉に基づく推論 や、意味理解のできない、例外的な状況を前にすると思考停止してしまう AI 像」で ある。新井は、この種の課題は「不連続かつ劇的なイノベーションがない限り AI で は解決が難しい」と考えている31。 したがって、以上のような AI の限界点を踏まえると、人間が AI に凌駕されず、AI と協調していくために求められる知能は、「意味や文脈や状況を理解しつつ、正確に読 む技術」が基盤的なスキルになる。この観点に立つとき、次のような現実が突きつけ られる32： デジタル化の進展に合わせて求められるスキルが急速に変わるため、労働者 31 同、276∼７頁。 32 同、256頁、強調は筆者による。
は新しい知識を吸収し続ける必要がある。しかし、伝統的な徒弟的方法で伝 達するのではスピードが追いつかないため……自学自習することを労働者に 求める。つまり、学校という場や、担当部署の中で、教師役の人から「教え てもらう」のではなく、ドキュメントから自ら学ぶことが不可避に求められ るのである。 ２．認知的個性 ただし筆者は、これら一連の結論の中に、一つだけ異論を挟みたい点がある。新井 らが「文ドキュメント書ベース」の「読リーディングスキルむ技術」を重要視しすぎているのではないか、という懸念 である。 確かに、「東ロボくん」が上位20％の成績を収めたという結果からは、「残りの80％ の人間の受験生たちが、実際にどれだけ基本的な文を正しく読むことができているの か？」という新たな疑問が提起される。そこで新井らは、「教科書や新聞、マニュアル や契約書などのドキュメントの意味および意図を、受験者がどれほど迅速かつ正確に 読み取ることができるかを測定するためのテスト」である「リーディングスキルテス ト」（RST）というプロジェクトを並行実施している。現在までの試行によれば、かな りの割合の生徒たちが、「AI 同様に、なんらかの方法でそれらを表面的に解けるふり をしていると推察せざるを得ない」状況だという。 しかしながら、認知心理学や教育心理学が明らかにするところでは、発達段階にあ る子どもの理解能力には、「文章を読む」だけでなく「話を聞く」「図や絵を見る」「手 や体を動かしてみる」などの、いくつかの〈認知的個性〉があるとされる。 そもそも、一元的な指標として有名な「知能指数」（IQ：Intelligence Quotient）も、 実際に検査する段階では、「言語理解」「知覚推理」「ワーキングメモリー」「処理速度」 という４種類の認知機能を計測している33。この検査の本来の目的は、児童精神医学や 特別支援教育の現場で、子どもの画一的でない〈認知的個性〉を把握することにある。 いわゆる「IQ」はそれらの一部をもとに算出した総合指標である。RSTや大学入試制 度における「読む技術」は、このうち「類似・単語・理解・知識・語の推理」を計測 する「言語理解」の指標に概ね該当しそうである。 また、ともすれば悪名高い IQ に代わって、人間の一般知能には７つの因子が基本 にあると主張したサーストン34など、「多重知能説」の立場をとる心理学者も多い。実 際、国際的な大学入学資格である International Baccalaureate Diploma Program（IBDP）
33 WISC-IV 知 能 検 査。原 版 は D. Wechsler, Wechsler Intelligence Scale for Children − 4th Ed., Pearson
（2010）．
のカリキュラムには、知識を保持し獲得する過程の認知機能として、「理性」「感情」 「信仰」「想像」「知覚」「直感」「言語」「記憶」の８つが規定されている35。この、IBDP の中核をなす“Theory of Knowledge”（「知識の識論」あるいは「知の理論」）と呼ばれ る科目の観点ならば、前章で言及した「沈黙の神父」のような、決して最適化問題に 還元されない宗教的指導者の精神活動も考察の対象にできる36。こうした「知識の理 論」という観点こそ、ジョン・ロックが『人間知性論』で提起した「人間の知性/知能 の本性を探求しよう」とする経験論哲学の伝統的主題を、現代に継承する営みである。 いずれにしても、AI に侵蝕されずに共存できる人間の認知機能は、「文書を読む技 術」の他にも、「何らかの題材（教材）から、いずれかの認知的個性を用いて知識を獲 得する行為」として存在する、と考えるのが妥当だろう。 ３．人間＝知能＋生命 この前提を確認した上で、「東ロボくん」プロジェクトから導かれた結論を、「読む 技術」に限定しないという条件に拡張して整理しよう。人間に求められる、AIで代替 できない知能とは、次のような領域であった。 ⑴ 〈常識〉に基づいて推論する ⑵ 意味や文脈や状況を理解する ⑶ 具体例を提示する ⑷ ⑵によって正確に〈知識を獲得〉する ⑸ 新しい知識を吸収し続ける ⑹ 「教えてもらう」のではなく〈題材〉から自学自習する このうち、⑴∼⑷までは本章第１節で詳しく見てきたとおりであるが、⑸と⑹に関 しては、ことにAI研究の帰結としては、いささか論理が飛躍していないだろうか。も しくは、現代の産業構造が変化しているという社会的文脈──〈常識〉に基づいた推 論と言い換えてもいい。もちろん、筆者もこの状況認識には完全に同意するのだが。 以下では特に⑹について確認しておきたい。 大手企業が新卒社員に手厚い新入社員教育を施していた時代は過去のものとなり、 いまや即戦力が求められ、社員教育もアウトソーシングで済ませる企業が増えた。上 に引用した提言の中でも、「担当部署の中で」「教えてもらうのではなく」には、企業
35 S. Bastian, et al., Theory of Knowledge 2nd Ed., Ch. 2, Pearson （2014）；大山智子 訳『セオリー・オブ・
ナレッジ』ピアソン・ジャパン（2016）第２章。
36 理想的な「知識を持つ人」は「ブッダ」（Ideal knower: the Buddha）なのだそうだ（Ibid., p. 63；同、
人なら誰しもが頷くところであろう。 しかし、「学校という場」で「教師から」「教えてもらうのではなく」との提言は、 学校制度の存在意義、および〈学習〉や〈教育〉という概念の根幹に関わるという点 で、決して無視できない。 まず、「学習」という用語は、日常語の用法と AI 研究や認知科学などでは、含意す るところが微妙に異なる。塾や学校の授業や宿題での「お勉強」を日常語で「学習」 というのに対し、認知科学や教育心理学では次のように明確に定義されている：〈学 習〉とは、経験による比較的永続的な行動の変容である37、38。逆に言うと、この定義に 当てはまるなら、人間だけでなく、神ニューラル・ネットワーク経 系 統 すら持たない単細胞生物など、あらゆ る動物の行動の変容をも、〈学習〉と総称するのである。 なお、教育心理学者の安藤寿康によれば、動物行動学では〈教育〉という用語も次 のように定義されている： ① ある個体 A が経験の少ない観察者 B がいるときにのみ、その行動を修正する。 ② A はコストを払う、あるいは直接の利益を被らない。 ③ A の行動の結果、そうしなかったときと比べて B は知識や技能をより早く、あ るいはより効率的に獲得する。あるいはそうしなければまったく学習が生じな い。 これら３条件を満たす「積極的教示行動」を〈教育〉と呼ぶ39。 動物界広しといえども、この定義を満たす行動は、現在のところヒト以外では、例 外的にミーアキャットやルリオーストラリアムシクイなど、わずか４種でしか確認さ れていない40。オランウータンやチンパンジーのような、比較的高度な知能をもつ霊長 類ですら、この意味での〈教育〉行動は報告されておらず、「〈教育〉こそがヒトに固 有の知能である」ともいえる。 これまで本論文では、AIという知能／知性を、人ヒ ト間のそれと対置してきた。しかし、 我々が〈常識〉レベルで知っているように、「学ぶ」という行為は〈教育〉をとおして のみ行われるものでもないし、まして学校で授けられる知識の獲得にも限られない。 あらゆる生きた経験が〈学習〉となりうる。また、「学び」の場や教材も、教科書など の机の上のドキュメントだけでなく、他者とのコミュニケーションであったり、動作 37 藤田和生『比較認知科学』放送大学教育振興会（2017）11頁。 38 安藤（2018）32頁。 39 同、第１章、72∼３、93頁など。
の見よう見まねであったり、自然現象、生き物、社会的営み、あらゆる対象が〈題材〉 となりうる。比較認知科学の成果によれば、〈学習〉のみならず、色や形の知覚や、記 憶や、コミュニケーション、帰納や演繹などの推理、概念形成、交渉、感情の認識、 共感、因果の理解、仲直り、慰め、内省といった多様な認知機能のいずれかが、霊長 類やイヌ、カラス、イルカ、その他の動物で報告されている41。〈学習〉その他の知能 は、決して人間に固有なのではなく、部分的にではあれ他の動物たちと共有している のだ。我々の知能は、生物種としてのヒトが、長い進化と淘汰の歴史という、膨大な 生と死の経験から獲得してきたともいえる。 「人間＝知能＋生命」である……生命の話を抜きにして、人工知能が勝手に意思を 持ち始めるかもと危惧するのは滑稽である42。 これが人工知能学会の倫理委員長を以てして、「人工知能が人間を征服する心配をする 必要はない」「それが私の現時点での結論である」と言わしめる根拠である。
Ⅳ．シンギュラリティはいつ到来するか
本章では、特に「近い将来、AIが全人類の知能を追い抜く」とする「シンギュラリ ティ説」に焦点を当て、その主導者であるレイ・カーツワイルの理論的根拠を検証す る。 実は、カーツワイルの主著『シンギュラリティは近い』には、AIへの言及が驚くほ ど少ない43。それもそのはず、原著が出版された2005年当時、現在のような「AI ブー ム」はまだ到来していなかった。それどころか、世の中の AI に対する関心は、図９ が示すように AlexNet の衝撃が人口に膾炙し始めた2013年まで一貫して退潮を続けて いたのだ。 41 藤田（2017）。 42 松尾（2015）196頁。43 R. Kurzweil, The Singularity Is Near: When Humans Transcend Biology, Viking （2005）．邦題は『ポス
ト・ヒューマン誕生』に改められ、2007年に翻訳・出版された。後にその「エッセンス版」が、近 年の「シンギュラリティ説」への注目を受けて『シンギュラリティは近い──人類が生命を超越す るとき』として刊行されている：同（2016）。
図９：検索語「artificialintelligence」および「人工知能」によるGoogleでの検索頻度の推移（Goo-gleTrends） 対象域は上がアメリカ合衆国、下が日本。 １．シンギュラリティ説の論拠 SF 用語としての特異点 第Ⅱ章でも言及した「ダートマス会議」で誕生した AI という概念は、1960年代に は SF 小説の題材になるなど、以降、文学や映画をはじめ多くの芸術作品に創作の動 機を提供し続けてきた。1990年頃になると、「人知を凌ぐ超越的な知性への技術的到達 点」という意味で特異点（singularity）という科学用語が濫用気味に使われ始める。 こうしたアイディアに「理論的な根拠」を与え、しかも、その到来が2045年である という具体的な期日まで予測したのが、「AI の世界的権威」と称されるカーツワイル である。 では、「AI が人類全ての知能を超える」という「シンギュラリティ説」は、いかな る論拠によるのか。カーツワイルの主著『シンギュラリティは近い』の論旨は、以下 のように要約できる44： 収穫加速の法則 たえず加速度的な進歩をとげているテクノロジーは、人類の歴史において、ある非 常に重大な特異点─シンギュラリティ─に到達しつつある。「加速度」とは、人類の進 歩は指数関数的なものであることを意味し、「特異点」とは、指数関数的に成長する進 44 カーツワイル（2016）第二章。
化が、「曲線の折れ曲がり地点（特異点）を過ぎると、爆発的に増大しグラフの形が一 変する45」ような点を意味する。 コンピュータの性能も、「ムーアの法則」と呼ばれる経験則46に従って、指数関数的 に進歩してきたことが知られているが（図10）、これは何もテクノロジー分野に限った ことではない。自然や生命、人類、文化などのあらゆる「進化」は、同じく指数関数 的な加速度で増大しているのだ。この、「進化」を決定づける、より普遍的な一般法則 を「収穫加速の法則」と命名する。これこそが、シンギュラリティ説の理論的根拠の 中核である。 図10：ムーアの法則と歴代の代表的なプロセッサに搭載されたトランジスタの数 単位面積あたりのトランジスタ個数を表す縦軸は対数目盛なので、指数関数が直線で描かれている47。 ハードウェアの性能 人間の脳のすべての機能をシミュレーションするのに必要なコンピュータの性能 は、種々の研究による評価から導き出された見積もりを総合すると、1014∼1016cps で 充分である（cps は一秒間あたりの演算回数）。また、人間の記憶の容量全体は約1TB に相当する。コンピュータの性能は指数関数的に「進化」しているので、2040年代の 中盤には、1,000ドルで買えるコンピュータでも1026cps の性能に到達する。 知能のソフトウェア 脳の内部をスキャンし、各領域の機能をシミュレーションする技術は、指数関数的 45 この加速度と特異点の意味付けは、数学的にも物理学的にも正確でない。加速度に関しては補註 参照。 46 集積経路に埋め込むことができるトランジスタの数は、約24ヶ月ごとに、単位面積あたりで２倍 になっている、とする経験則。定数の値については諸説ある。
に「進化」している。さまざまな技術革新をみれば、それらの進歩は「毎年二倍」で 「20年以内に100万倍」の加速度で進展していることがわかる。このまま行けば、人間 の知能を支える脳の働きの原理は解明され、これを再現する AI のソフトウェアが完 成する。 すなわち、 人類もコンピュータの性能も「収穫加速の法則」によって「進化」し ており、 人間の脳の性能はコンピュータの演算速度と記憶容量に換算することが可 能であり、 脳機能の動作原理を解明し再現する AI のソフトウェア技術も指数関数 的に進展している──カーツワイルはこう主張する。以上の論拠により、次のような 期日が結論される： ここまでくると、確かに抜本的な変化が起きる。こうした理由から、シンギュラ リティ──人間の能力が根底から覆り変容する──は、2045年に到来するとわた しは考えている48。 つまり、シンギュラリティの到来は、指数関数的に進化する宇宙の全ての存在の、 運命論的必然なのだ。 このように、カーツワイルの言説に通底しているのは、いくつもの個別の観察事実 を列挙して結論を導くという、帰納的推論である。しかしながら、少しばかり注意し て論理を追ってみれば明らかなように、そこにはいくつもの飛躍がある。このような 推論が正しいという確証はあるのだろうか。 ２．帰納的推論の確実性 推論には〈演繹法〉と〈帰納法〉とがある。演繹法とは、公理や基本法則を前提と して個別の命題や言明を導いたり、三段論法のように前提が含意する結論を導いたり する手続きである。前提さえ正しければ、形式的に絶対に間違うことがないが、裏を 返すと、前提が間違っていたとしたら、その帰結が真である確証はない。 これに対して、一般的に帰納法とは、「x1はXだ」「x2もXだ」などのいくつもの個 別の観察事例から「およそすべてのx（i i＝1,2,…, n）はXだ」といった普遍的な事柄を 類推する方法で、いわゆる「単純枚挙の推論」のことを指すと思われがちである。哲 学史を振り返ってみても、ルネサンス期までは、これが帰納概念の主流だった。 しかし、「帰納を信頼するだけの根拠はあるのか」と問い直し、洗練していったの が、実験による帰納を提唱したベイコンに始まり、帰納の問題を因果論から提起した ヒュームを経て、その徹底的な検証と展開を試みた J.S. ミルへと連なる、イギリス経 48 カーツワイル（2007）151頁；同（2016）107頁。
験論の哲学者たちである49。 フランシス・ベイコン（1561 1624）は、アリストテレス一辺倒の中世スコラ哲学に 批判的で、権威ある学説を無批判に前提とするような演繹を拒絶した。一方で、「単純 枚挙の推論による帰納は子どもじみた飛躍であり、その結論はあぶなっかしく、単に 慣れているものだけに注目して結論を引っ張り出しているにすぎない」と一蹴したと いう50。ベイコンの考えた帰納法は、反例などの否定的事実によって偏見を除外しなが ら、実験を駆使して法則へと至る方法論であった。 デイビッド・ヒューム（1711 1776）は、因果関係を認識する心理的プロセスを解明 しようとする過程で、「帰納を論理学的に正当化することはできない」という問題に行 き着いた。むしろ、私たちが現象の規則的な繰り返し（恒常的連接）を経験すること で〈心の習慣〉が形成され、帰納は〈信念〉という〈心の決定〉としてのみ成立する と考えた51。 ジョン・スチュアート・ミル（1806 1873）は、それまで峻別されていた演繹と帰納 を、相互補完的に働く方法論として定式化した。その大著『論理学体系』によれば、 帰納的推論が正しいためには、「同じ条件のもとでは同じ現象が起こる」という〈斉一 性の原理〉が必要条件となる。この原理は数学的帰納法のみならず、後の科学的な方 法論や、統計的な推定の方法にも前提されている52、53。 以上に見てきた経験論哲学の議論を踏まえたとき、「人類とテクノロジーの進化」と いう現象については、その推論の確実性を保証する〈斉一性の原理〉が、必ずしも成 り立たないことに気付くだろう。 にもかかわらず、「収穫加速の法則」を、これに該当しそうな事例の「単純枚挙」に よる帰納法のみを論拠に、世界の普遍的な一般法則であると結論するならば、ベイコ ンに言わせれば「子どもじみた飛躍」でしかなく、ヒュームに言わせれば「カーツワ イル自身の〈信念〉にもとづく主観的な〈心の決定〉」でしかない、ということになり はしないだろうか。 とはいえ、この種の人文学的な知見が、科学技術という実証的な方法論に支えられ た営みに適用できるのか、という反論もありうるだろう。そこで以下では、この「帰 49 もちろん、帰納の不確実性の問題は現代哲学でも絶えず問い直されており、いまだ議論は尽きな い。 50 一ノ瀬（2016）第１章。 51 同、第５章。 52 ジャン＝ガブリエル・ガナシアは〈斉一性の原理〉の観点からカーツワイルの論理矛盾を指摘し ている：『そろそろ、人工知能の真実を話そう』（伊藤直子・小林重裕 訳）早川書房（2017）42∼ 44頁。 53 一ノ瀬（2016）第７章。
納の確実性」にかかわる経験論からの問題提起を、自然科学と社会科学における具体 的な法則を実例として、その論理構造と「収穫加速の法則」の論拠とを対照してみる ことにする。 ３．経験事実から普遍的な法則へ 物理法則の斉一性 まずは自然科学の中から、最も初歩的で身近な物理法則を見てみよう。 気体の圧力と体積は反比例し、圧力P は体積 V の関数として P＝τ/ V と表現できる （τは温度に依存する定数）。この性質は、第一発見者であるロバート・ボイル（1627 1691）に因んで、「ボイルの法則」と呼ばれる。ベイコン哲学の熱心な支持者であった ボイルは、空気にまつわる当代の迷信やアリストテレス的な思弁を却け、実験と観察 による帰納的な方法論によって、この法則を導出した。科学史家のWebsterによれば、 「２つの変数の間の関数的依存性を表現した、歴史上最初の定量的法則」である54。 ただし、この等式が厳密に成り立つためには、仮想的な気体（理想気体）である場 合や、室温・大気圧に近い平衡状態で、かつ十分希薄な気体である場合など、いくつ かの条件が必要である。後に、この「ボイルの法則」に加えて〈熱〉や〈温度〉に関 する経験事実を取り入れつつ体系化されていったのが、「熱力学」の理論である。 近代以降の自然科学は、このように個別的な経験事実として観察される多様な現象 から、一般的な理論や法則という、高い普遍性をもつ論理的な構造を抽出してきた。 物理学者の田崎晴明によれば、自然科学におけるこの〈普遍的な構造〉には、次の ような性質が要請されている55： ⒜ 現実の世界のある側面を定量的に再現し、その構造による記述が限りなく精密 になっていく極限を想定できる。 ⒝ 現実の世界の中の、注目している側面以外の詳細や、観測していない未知の要 素には、依存しない。 ⒞ 数学的に完結した体系になっている。 「ボイルの法則」は、この３つの要請を満たす〈普遍的な構造〉の典型となってい る。すなわち、⒜気体の性質を、圧力と体積という物理量の定量的な関係式として再 現し、この法則が厳密に成り立つ「理想気体」という極限を想定できる。⒝実験によ る観測結果のみに注目し、古代からの迷信や思弁による偏見には依らない。⒞２つの 変数の間の関数的依存性で表現されている。
54 C. Webster, Archive for History of Exact Sciences, 2, （1965） 494.
経験論の言葉を借りれば、これら⒜∼⒞の要請が〈斉一性の原理〉を満たす必要条 件となって、「同じ条件のもとでは同じ現象が起こる」という自然法則の普遍的が担保 されている、ともいえる。 対して、カーツワイルが「収穫加速の法則」を導出した推論はどうか。演算速度や 記憶容量は、確かに指数関数的に進歩しているようにもみえる。しかし、半導体工学 に特有の現象ではなく、テクノロジー一般や人類の「進化」といった歴史現象に関し ては、要請⒜を満たすような何らの定量的な観測もなされておらず、再現可能で精密 なモデルも提示されていない。 また、「ダートマス会議の提案書」でみたように、当初から AI の実現に向けてクリ アすべき未解決問題は、ハードウェアの性能でなく、人間の脳機能を再現するプログ ラムの開発であった。このような取り組みは、その「進化」を定量的な指標で評価で きる類の活動ではない。「収穫加速の法則」は、この定量的な予測が不可能な「未知の 要素」に依拠している点で、要請⒝にも反する。 さらに、「シンギュラリティ説の論拠」の節で紹介したカーツワイルの「加速度」と「指 数関数」の意味付けには、要請⒞を満たすような数学的に完結した構造は見られない。 補註 ムーアの法則は、時刻t（年）、単位面積あたりのトランジスタ数 n（個）によ り、n（t） ∝ 2 t/2と表せる。これは時刻t の指数関数である。 しかし、加速度a は関数 x（t）の２階の時間微分であり、指数関数とは限らない。加 速度が一定ならx（t） ∝ at 2の「二次関数」になるし、指数関数になるのは、a ∝ x（t）が 成り立つ場合などに限られる：
a＝d 2x（t）＝C’ x（t）↔ x（t）＝1eCt, （C；C’：Const.）
dt 2 2 経済法則の斉一性 もっとも、カーツワイルは「収穫加速の法則は、基本的には経済理論だ」とも主張 している56。確かに、自然現象と経済現象とでは、理論構築の手順も、法則を導出する 方法論も、互いに次元が異なる。では、経済学者は、いかなる方法論で経済法則を導 出するのか。 実例として、トマ・ピケティの『21世紀の資本』57から、「〈資本収益率〉r が〈経済 成長率〉g を上回る」という不等式 r > g に着目しよう。もちろん、同書の主張や提言 の内容それ自体も興味深いところではあるが、それらの解釈や価値判断は傍らに置い 56 カーツワイル（2016）68頁；同（2007）97頁。 57 トマ・ピケティ『21世紀の資本』（山形浩生ほか訳）みすず書房（2014）。
て、以下では不等式r > g の導出に至る根拠と推論過程のみを論ずる。
ピケティの研究手法は、18世紀から現在にいたる定量的な統計値の推移を、歴史的 背景のなかに位置づける試みである。その第一の基盤となっているのは、世界の長期 的な課税記録の歴史的統計と所得や資産に関する統計とを、数十名の研究者による共 同作業で集約しているデータベース“The World Inequality Database”（WID）である（出 版時はWTID）。著者自身も認めているように、ここまで膨大な歴史データに基づく処 理が可能になったのは、ひとえにテクノロジーの進歩の賜である。 図11：世界的に見た課税後収益率と成長率58。 同書はまず、〈資本収益率〉r、〈所得中の資本シェア〉α＝（資本からの所得÷国民 所得）、および〈資本／所得比率〉β＝（資本÷所得）という純粋な会計上の定義のみ から、「資本主義の第一基本法則」としてα ＝ r × β を導く。定義により、この法則は 歴史上のあらゆる時点のあらゆる社会に当てはまる恒等式である。例えば、「資本収益 率（r）が高く、所得と比べた資本の割合（β）が高い社会ほど、国民所得に占める資 本収益の割合（α）が高い社会になる」といえる。この場合、資産運用益は多くなる が、逆に労働所得の比率は低くなるのだ。 次に、WIDによる各国の数々の歴史上のデータを観察した結果から、〈貯蓄率〉sと 〈成長率〉g の比率（s/g）と、〈資本／所得比率〉β とが、長期的には同じ水準に収斂 していくという傾向β＝s/gを見出す。これを「資本主義の第二基本法則」としている。 例えば、「貯蓄率（s）が高く、成長率（g）が低い社会」は、長期的には「所得と比べ た資本の割合（β）が高い社会」へと向かう。低成長社会では、過去に蓄積された富が 重要性を増していくのだ。 その上で、古代から将来までの人口動態と経済成長の概算値を、WIDによるデータ
