言語記号と意味−知性的行動としての人工知能につ いて
著者 重野 豊隆
雑誌名 星薬科大学一般教育論集
号 36
ページ 1‑18
発行年 2018‑12‑10
URL http://id.nii.ac.jp/1240/00000831/
言語記号と意味－－知性的行動としての 人工知能について
Language Symbol and Meaning
―About Artificial Intelligence as Intelligent Behavior
重野 豊隆
SHIGENO Toyotaka
（星薬科大学 哲学研究室）
はじめに
AI （Artificial Intelligence）と人間との今後のあるべき関係を巡って、様々な 議論が現在社会で活発に繰り広げられている。たとえば、半世紀近くコンピュー タと付き合い、AI の趨勢を見極めて来た西垣通は、AI がわれわれに理想郷を 約束する万能技術であるかのようにみえたとしても、次のような疑念を抱かざ るを得ないという。（西垣, 7-9）
そもそもAI の将来像のひとつとして、万能さを約束する「人間を超越する
知性」の実体が不明である。われわれ人類は2万年くらい前に生物進化のなか で偶然に出現した哺乳類である。身体能力も知覚能力も高くはないが大脳皮質 だけは異常に発達している。そういう制限付きの身体を備えた人類が、地球環 境のなかで生き抜くためのツールが人間の知性にすぎないにもかかわらず、「シ ンギュラリティ（Singularity /技術的特異点）」仮説のように、AI が（人間の知 性の延長上に想定されたものだとしたら、）いわば至高神のもつ「絶対知」を 実現してくれるかのようにみえる。（カーツワイル, 16-27, 西垣, 8）
さらには、AI が「絶対知」であるなら、それは有限な知性を備えた人間と は異なり、何の制限もなしに客観的に世界（宇宙）の事物にアクセスし、世界 のあり様を例外なく分析できるものでなければならない。科学技術の分野には 確かに測定データと理論モデルによってそれが可能だと信じている者もいるだ ろう。だが、現代哲学の主流の考え方の中には、「われわれ人間は、世界の事 物そのものには直接アクセスできずに、間主観的につまり主観同士の相互のす りあわせによる合意形成によって、分析や記述をおこなっている」と主張する ものもある。こうした人間の相互の合意による人間の知性の間主観的在り方に 照らして、「絶対知」の在り方に反論することもできる。（西垣, 8-9）
また、国立情報学研究所の数学者の新井紀子は、AI と人間の関係を問う前に、
そもそも日本の生徒の読解力に関して警鐘を鳴らしている。『AI VS. 教科書が 読めない子供たち』の中で、彼女は「日本の高校生の多くは、詰込み教育の成 果で英語の単語や世界史の年表、数学の計算などの表層的な知識は豊富かもし れませんが、中学校の歴史や理科の教科書程度の文章を正確に理解できないと いうことがわかったのです。これは、とても深刻な事態です。」と述べている。
さらに、AI並みの読解力しかない高校生や大学生は、AIが得意とする業務以 上の人間的能力を身に付けないと、今後の社会のなかで一定の役割をこなすこ とも困難になるだろうと悲観的に予測する。（新井, 3-5）
西垣にせよ新井にせよ共通する危惧は、恐らく人間が通常言語活動を行う際 に働かせている意味経験という「知の在り方」を、AI の持つ固有な「知の在り方」
と対照させて鋭く問おうとする態度もしくは問題意識の表明とも解せるであろ う。
本稿では、AI の「絶対知」への可能性といった大きな課題を問う前に、AI を巡って議論された論点の枠組みの中に着目すべき方法論的哲学的論点を、そ もそもの議論の発端に立ち戻って考察する。その際AI に関してよく引き合い に出される（取り上げられる）従来の古典的議論の枠組みに焦点を絞り、哲 学的観点から考察する。特に議論の出発点における「知性的行動（intelligent
behavior）」の解釈を巡って、「言葉（言語記号）は意味を持つ」という人間にとっ
て基本的な経験の捉え方に即して、次のように順次概略的に考察を進めていく。
第一に、AI（機械）と人間知性の判別に関する「チューリング・テスト」と いう思考実験を巡って交わされた古典的議論の枠組みに沿って、そこで論じら
れているAI（機械）の特徴及び特に「意識を拠り所にする反論」について考
察する。（第1章）
第二に、「チューリング・テスト」の議論で論じられているAI（機械）の特 徴を表すとみなされた特に「知性的行動」の解釈について考察する。（第2章）
第三に、「チューリング・テスト」に関連した思考実験として、「中国語の部 屋」の思考実験の狙いを考察し、そこでは十分には論じられていない「言語記 号（言葉）と意味」という哲学的論点の重要さを指摘する。（第3章）
本文中の引用の出典に関しては、出典の略記号、引用頁数の順に記し、原著 と邦訳ともに利用した場合には、（原著のペイジ数/邦訳のペイジ数）の順に 明記した。本稿の最後で「参照文献」として出典と略記号等をまとめて記した。
第 1 章 AI（機械の知能）と人間知性の判別 第 1 節 思考実験としてのチューリング・テスト
イギリスの数学者アラン・チューリング（Alan Turing）は、20世紀後半に「機 械は考えることができるか」という問題を提起し、それを「機械はある種のイ ミテ－ション・ゲーム（imitation game）をクリアーすることができるのか」と いう別の問題設定に置き換えた。我々にとって重要な哲学的観点は、この置き 換えによる議論の枠組みを巡る論点の考察にある。
チューリングは、当初の元来の問い「機械は考えることができるか」という 問題設定を考察するために、「機械」及び「考える」という言葉の意味を定義 することから始めるべきだとする立場は採らない。なぜならば、彼は、もしこ れらの言葉の意味を考察するに当たって、それらの標準的用法を世論調査のよ
うな統計的形式の方法によって探究されるべきだと結論づけられるのだとすれ ば、「この結論はばかげている」と断言するからである。だが、彼は「ばかげ ている」ことの理由に関しては、さらなる言及はしていない。とはいえ、少な くとも、彼はこうした統計的に言葉の意味を定義する方法と比較して、曖昧さ のより少ない明確な言葉で表現する新しい別の問題設定に置き換える立場を採 用する。（Turing, 53/70）
この新しい形式の問題提起は、「イミテーション・ゲーム」と呼ばれている ゲームである。チューリングが1950年に発表した論文、Computing Machinery and Intelligence（「計算機械と知能」）の中で、一般に「チューリング・テス ト（Turing-Test）」と呼ばれている思考実験が、次のような仕方で考案された。
（Turing, 53-56/70-75）
その実験は、男性（A）、女性（B）、質問者（C）の計三名で行われる簡略な ものであった。質問者は、他の二人とは別の部屋にいる。質問者の目的は、ど ちらが男性でどちらが女性かを確定することにある。質問への回答は声の調子 がヒントにならないように、文字かタイプで打たれ、部屋同士の間をテレタイ プが仲介となり、両者を取り成すという設定になっている。Aの目的はCに誤っ た判定を行わせることにある。Bの目的は質問者に正解を出させるように援助 することにある。（Turing, 53-54/70-71）
こう設定して置いて、チューリングは、「このゲームにおけるAの役割を機 械が演じるとしたら、どういうことになるだろうか」と問いかける。すなわち、
彼の問いは、機械と人間とを比較して、質問者がどのくらいの頻度で誤った判 定を下すのだろうかを評価するというものである。この誤答率がもし人間と機 械とで同程度であるならば、（彼は明確に言い切ってはいないが、）「機械は考 えることができるか」という元々の問題に対して肯定的な回答が与えられると する。（Turing, 56/71-72）
チューリングは、「この新しい形式の問題に対する結論がどうなるだろうか」
と問うだけではなく、さらに「この新しい形式の問題が研究に値するのか」と いう新たな問いかけをする。彼によれば、この新たな問題提起から生じる利点 は、「人間の身体的能力と知的能力のあいだにきわめて鮮明な境界線を引く」
ことにある。実のところ、この思考実験では、質問者が他の参加者を見たり 触れたり声を聞いたりすることができないという付与条件が元々設定されて おり、それによって、この利点はいわば始めから実現されているともいえる。
（Turing, 56-57/72-73）
第 2 節 「意識を拠り所にする反論」を巡る論点
我々にとって重要な哲学的論点は、チューリング自身が前述の論文の中で、
用意周到に反対意見をみずから想定してそれに回答（再反論）を試みているそ の論述内容のうちにある。その中で特に注目すべきことは、「意識を拠り所に する反論」である。（Turing, 59-61/80-81）
その反論の最も極端な形の表明内容として、「機械がものを考えることを確 信する唯一の方法は、みずからその機械になり、考えていると自分で感じるこ と」が挙げられる。この反論の主張に従えば、機械だけではなく同様に、「人 間がものを考えることを知る唯一の方法とは、その特定の人間になること」、
となる。だがこれは事実上、「独我論」に加担することではないかと疑念が投 げかけられる。（Turing, 60/81）
そこでチューリングは、次のような論法を用いて、再反論を試みている。そ もそも人間の場合にも、私たちは他人の内面を確かめることなど不可能なはず ではないか、それなのになぜ機械にだけ例外を認めるのか、と。ただし彼は、
独我論だとする反論（疑念）に関しては、正面から再反論することなく、「あ らゆる人がものを考えているという儀礼的な便法を採用するのが、普通である」
とだけ言及し、再反論の論拠に関しては留保し、議論をこれ以上深めてはいな い。とはいえ、チューリングは、一種の再反論とみなされる試みとしては、反 論相手に対して態度決定を迫り、「機械にも内面的経験がありうることを認め るか、さもなければ独我論の立場を取るのか」という二者択一的選択肢を提示 することを持って、応戦する。もしこの「独我論」を頑迷に主張するなら、そ こから先はどこにも行けないいわば内面的心という完結した閉鎖空間内に留ま るしかない。むしろ我々は、ある機械（システム）がその振る舞いからして何
らかの基準をそれなりに満たしているとするなら、そのシステムになんらかの 内面的経験を帰属させずにはいられないはずである、と彼は主張する。（Turing, 60/81）
これに関しては、哲学者の柴田正良が次のような解釈を展開している。すな わち、もしチューリング・テストに関して何らかの違和感を持つ者がいるとす れば、その反論の有力な根拠として、チューリング自身も想定しているように、
「意識を拠り所にする反論」が確かに挙げられよう。例えば、手紙の書き出し をどのようにしたらよいかに頭を悩ませている人の思考の在り方を、機械が本 当に持っているとはいえないであろう。なぜならば、それは、機械が何事かを 内側から主観的に体験することなどはありえないとする主張（根拠）に基づい ているからである。 （柴田, 41）
柴田は「意識を拠り所にする反論」の有力な論拠を解明するために、チュー リングと同様に考察の視点を「他人の心」との類似性に据える。すなわち、確 かに他人の本心といったものはなかなか窺い知ることはできない。しかし誰も が「他人に心がない」などとは思わないはずである。だとすれば、他人には何 の抵抗もなく認められる、ほかならぬこの特定の他人が具有しているだろう「内 面的体験」なるものを、同様に機械に認めてはなぜいけないのか、と。こうし た反問が妥当であり得るのは、機械が本当に何かを経験しているのかどうかを、
我々は外側からは決して確かめようがないからである。すなわち、他人の場合 には彼らが本当に何かを体験しているかどうかを、我々はわざわざ彼らの内側 にまで踏み込んで確かめようなどとはしない。それと同様に、機械に対しても 機械が本当に内面的体験を持つのかどうかということを、その内側に（内側な るものが仮にあるとすれば）踏み込んで確かめるにはそもそも始めから及ばな いのではないか、と反問することができるだろう。つまり、原理的に確かめる ことが不可能だという理由で、機械に内面的経験を拒むとするなら、同じ理由
（論拠）で、他人の場合にもその確証の必要性を拒めるとするのが、首尾一貫 した論理のはずである。（柴田, 41-48）
第 3 節 素朴な物理主義への批判
ここで柴田は、視点（発想）を転換して、機械の内面的意識の有無を内側か らではなく、むしろ外側から決定することはできないだろうかという新たな問 題提起を試みている。外側からの観察を徹底的に行ってきたのが、自然科学に ほかならない。物理現象について首尾よく発展してきた科学が、心理現象につ いては上手くいかないということなど果たしてありうるのだろうか。実際、痛 みという内的意識現象についての医学的、神経生理学的探究は、麻酔技術の進 歩という形で痛覚の制御を可能にしてきた。向精神薬に代表されるように、医 療に関わる自然科学は、着実に内面的経験が生ずる際の脳や神経メカニズムを 解明し、どのような状態の時にどのような経験が生じるのかを突き止めつつあ る。（柴田, 48-49）
仮に頭痛といった内面的意識現象の原因が医学的には説明できず、一種の幻 想だと診断されたとしよう。そうだとしても、当事者にとっては痛いものは痛 いのであって、そう感じているのは紛れもない事実である。仮に将来完成され た医学が到来したとしよう。その医学によって痛みが痛みとして説明されえな いとすれば、それは当時者の痛みが実は真実の痛みではなく、ただその医学が 実は依然として未完成のままであることを示唆しているに過ぎない。むしろ、
その医学の方こそが痛みを説明できるように修正・発展させられなければなら ない。このように、自然科学としての医学に期待を寄せることもできよう。（柴 田, 49-50）
とはいえ、我々の哲学的観点からして重要な点は、「脳や神経系の同じメカ ニズムには同じ痛みが宿る」、さらには「特定の物理的システムが再現された ら、特定の感覚が再現され、もしこれと同じタイプの物理的システムが再現さ れたらこれと同じタイプの感覚が再現される」などと言明する、柴田が定式化 した「素朴な物理主義」の主張の解釈にある。この主張は科学によって実証さ れているのではなく、柴田によれば、むしろ事柄の順序は逆なのである。この 主張は実証抜きで前提として採用され、科学のその知的活動はすでに開始され てしまっていた。言い換えれば、「素朴な物理主義」といったものは、実のと
ころその前提の宣言に他ならなかったといえる。確かに科学はその前提に反す る結果を産み出すことはない。しかしだからといって、その前提を証明してい るわけでもない。たとえば、「白のペ－ジにあなたもわたしも白い色を感じ取り、
それを白だといっている」といった経験上の現象は、科学が発見し確定した事 実なのではなく、むしろ科学はそれを事実とみなし、科学的探究の出発点をな しているにすぎないのである。（柴田, 49-52）
この意味で、この主張を根拠づけるための事実の確認はできず、事実をその ようだとみなせといういわば我々の精神の「健全さ」の勧め（我々の哲学的観 点からして、苦し紛れの言い方にみえるが）という面が強い。したがって、事 実がそのようだとみなされて始めて、科学の実質的探究が始まるという点で、
その事実は「見なし事実」と呼ばれる。この「見なし事実」は、科学的探究に よって決着がつくような事柄ではない。むしろ科学的探究の出発点として始め から前提されているような事柄なのである。（柴田, 52-54）
我々の哲学的観点からして、「機械は考えることができるか」という問題を 提起した「チューリング・テスト」を巡る議論の枠組に関して、人間の内面的 意識の有無については問われないのと同様に、機械の内面的意識の有無に関し ても、不問に付すという方法論的戦術が採用され、それが前提されているとい える。それゆえ、機械の知能と人間の知性との判別基準としては、不可知の内 面的意識とは切り離されて想定された観察可能な外面的事実のひとつである
「知性的行動（intelligent behavior）」（会話・言語記号のやり取り）の有無及び 人間知性との類似性こそが、判別基準として有効となりうるのである。
第 2 章 チューリング・テスト競技会 第 1 節 実際のチューリング・テストの実施
1993年12月にアメリカのサンディエゴで開催された「チューリング・テス ト競技会（Turing Test Competition）」という実験が行われた。
この競技会は、チューリングが1950年に提案した、機械の知能の有無を判 定する有名なチユ－リング・テストを実際に実行してみようとする試みであっ た。ケンブリッジ行動研究センターが「レブナー賞人工知能競技会」として毎 年場所を変えて開催されており、そのひとつが、「チューリング・テスト競技会」
である。（Churchland, 227-229/297-301）
哲学者のチャーチランド（Churchland）によれば、その競技会は、チューリ ング・テストに関するチューリングの考え方に一定の解釈を加えている。心の 存在に関して、電子機械が示さねばならない振る舞いとは、単なる動作などで はなく、典型的な知性的行動（振る舞い）である。たとえば、「電子音の単調 な音色や、ディスクドライブのブンブン、カチカチという音、装置全体の不格 好な形、近くの電線から1,500ワットの電力を引き出してくること等々はすべ て、それが意識を持つかどうかにとってなんの関係もないことである。」チュー リングの主張は、テレタイプを介した質疑応答という仕方によって「正常な人 間の判定者が機械を人間から区別できなければ、人間に対しては本物の意識や 知能を認めている以上、機械にもそれらを認めざるをえない」という論法であっ た。すなわち「或る機械がチューリング・テストに合格すれば、それは意識が ある」とみなされるのである。（Churchland, 227-228/297-299）
ここまで考察してきたチューリング及びチャーチランドによる議論の枠組み を構成する重要な概念、例えば、「考える」・「意識」・「心」・「知性」・「行動（振 る舞い）」などに関しては、哲学的観点からして、必ずしも明確に区別された 用語法で使用させているか不明確な面が多々あるが、少なくとも、実際に競技 会として実施されたこのチューリング・テストは、かつて提案されただけにす ぎなかったチューリング・テストとは次の二点で重要な相違点を持っている。
第一の相違点は、元々のチューリング・テストとは異なって、テレタイプを 通じて行われる参加機械もしくは対比役の人間と判定者の人間との間で交わさ れる会話の話題が、参加者ごとにしかもその話題は競技のずっと前に、各参加 者に知らされて限定されている点である。この限定により、自分の機械を人間 らしく見せようと努力するプログラマーたちは限定された知識を機械に組み込 むだけで、人間と同じ仕方で操作するように機械をプログラムすることができ、
はるかに競技会への参加が簡単になる。また逆に、対比役の人間の方は、自分 に割り当てられた話題に限定して会話を行わなければならず、指定された話題 から外れるような話をすることで、参加している機械との差を意図的に強調す ることは許されない。（Churchland, 228-229/299-230）
第二の相違点は、競技の勝者の決定基準が異なっている点にある。その基準 とは、「うまく判定者を騙して自分を人間と思わせた」という絶対的評価によっ てではなく、「より人間らしいと判定された」という各機械に対する相対評価 によって競われる。各判定者は、候補者のうちでコンピュータが何台で人間が 何人かはあらかじめ知らされてはいない。判定者たちは回線を通じて出会った 未知の各候補者を、「その見かけの人間度」の高い順に並べる作業を行った。
そしてこの判定者全員の評価を総合して、もっとも高い順位を得た機械が「最 善の機械」とみなされた。「注目すべきことは、機械がこの競技に勝つためには、
判定者を欺いて自分が人間であることを信じこませる必要などはないというこ とである。機械は対比役の人間を上回る必要はなく、もっぱら他の機械より優 れていればよい。」という点を満たすだけで十分なのである。（Churchland, 229- 230/300-301）
このようにあくまでも機械間の相対的順位付けがこのチユーリング競技会の 狙いである。この点では、元来のチューリング・テストの狙いである機械と人 間の判別を正面から問うという問題設定とは異なり、「人間らしさ」の程度の 判別にすぎない。とはいえ、哲学的観点から重要なのは「知性的行動（振る舞 い）」の解釈にある。すなわち、この競技会では、特定の話題に関して流暢に よどみなく会話が続けられるというのが、「知性的行動（振る舞い）」を特徴づ ける最大ポイントの一つである。柴田によれば、この競技会では、勝敗の基準 が「人間か機械」ではなく、「人間らしさ」にあるのだから、確かにこの話題 の制限は妥当なものである。実際、一つの機械は一つの話題を受け持つだけで よく、例えば、野球や、料理や、政治などといった話題に絞られ、参加者には あらかじめ自分の担当する話題が知らされており、決められた話題を逸脱する ことは許されない。（柴田, 58-62）
第 2 節 ｢ 知性的行動」という論点
我々の方法論的哲学的観点からみて、この「知性的行動（振る舞い）」につ いての柴田による解釈を巡って注目すべき論点（前提）として挙げられるのは、
要約すれば次の四点である。
第一に、会話といったある種の「知性的振る舞い（行動）」において、もし 人間と機械とが弁別しがたいものだとするならば、その機械は人間の知性を 持っているとみなされているという前提がある。（柴田, 62-69）
この点は逆に、チューリングの論文「計算機械と知能」が収められた、ホフ スタッターとデネット編『マインズ・アイ（上）』の編者短評でもすでに指摘 されていたように、知能が行動に還元され、かつ行動によって操作されている。
編者によれば、みつけることが困難ではあるが、仮に「真の操作主義者」がい るとすれば、「定義されたテストに合格した以上、操作主義の基準に照らして 真の意味で知的であることを認めざるをえなくなるであろう。」すなわち、機 械と人間との区別をいわば人為的に設定された実験という「操作的手続き」に よって確定しようとする論法が前提されているともいえる。（Turing, 93/139）
第二に、この第一の前提（論点）に関連して、「振る舞い」が似ていればそ の背後にある本質（知能の本性）も同じだとみなしている前提（論点）が潜ん でいる。（柴田, 38-39）
実は、チューリングが提案した人間知性の判定基準とは、或る存在者が人間 の知性を持つための「必要条件」として提示されているものではなく、単に「十 分条件」として提示されているにすぎない。すなわち、このテストは、「機械 が人間を騙せるほど流暢な会話ができるのならば、知性をもっていると判定す るのに十分である」と単に述べているだけであって、「知性を持っていると判 定するためには、人間を騙せるほどの能力が必ず必要である」とまでは確言し てはいないのである。例えば、小さな子どもは多分チューリング・テストに合 格できないだろう。しかしだからといって、彼らが知性を持っていないわけで はなかろう。すなわち、チューリング・テストによる判定基準が厳密に含意し ていることとは、人間を騙せるような会話ができない小さな子供には知性がな
いとまでは言い切ってはいないのである。（柴田, 38-40）
第三に指摘されるべきことは、このテストの元々の設定の狙い（利点）その ものに関連してくる。すなわち、チューリングは、人間の身体的能力と知性的 能力の間に、きわめて鮮明な境界線を引くことができると想定（前提）してい る。そのうえで、知性を持っているといえる典型例として会話ができるという 行動（振る舞い）を取り上げ、「考える（知性的能力）」ということだけを切り 離してその本質だけを我々に着目させようとしている。（柴田, 38-39）
「考えること」は確かに、歩く、微笑む、食べる、見る、聞くということと は別の事柄ではある。だとしても、そもそも「考えること」の本質とは、「考 えている」と我々が言わざるを得ないような或る「知性的行動」を行うことに ある。そして、その「知性的行動」とは、典型的には、よどみなく流暢に臨機 応変に続いていく会話という「言語的行動（振る舞い）」にほかならない。だ とすれば、チューリングは、「知性的行動」が本質であるような現象として「考 えること」というものを捉えていたことになる。（柴田, 38-39）
第四に、この第三の前提からこのテストの際立った特徴が帰結する。すなわ ち、思考の「異種的実現」とでも呼ぶべき可能性、つまり、「考えること」が 人間以外の動物だけではなく異星人や機械（コンピュータ）においてもありう るとする「多重実現」の可能性をはっきりと認めている点がある。というのは、
一定レベルの会話を人間と交わせる者がもし存在しているとするならば、それ がどのような物理的素材で出来ていようが、またどのような進化の過程を経て そうなったかにかかわらず、その者は「考えている」とみなされるからである。
（柴田, 38-40,53-54）
さて、我々の方法論的哲学的観点からして重要なことは、これら四つの論点
（前提）を考察するに先立って、そもそもチューリング・テストの会話で想定 されていた「言語記号とみなされたもの」がいかにして意味を持ちうるかの根 本的論点が次に問われねばならない。
第 3 章 言語記号と意味
哲学者のジョン・サール（John Searle）は、著書Minds,Brains and Science（『心・
脳・科学』）の中で、「中国語の部屋」という興味深い思考実験を考案し、言葉 とその意味との関係に言及している。
第 1 節 「中国語の部屋」の思考実験
サール自身が「中国語の部屋」と呼んでいる思考実験は、次のような仕方で 考案された。まず、中国語の理解をシミュレートできるコンピュータ・プログ ラムが作成されたとする。この場合、コンピュータに中国語で質問が与えられ れば、そのコンピュータ・プログラムは、その質問を記憶すなわちデータ・ベー スと照合してその質問に対する適切な回答を、しかも中国語を母語とする人の ものと区別できないほど巧みな回答を、中国語で作成することできる。ここで サールは、「この場合、以上のことを根拠として、このコンピュータが中国語 を理解しているといえるのでしょうか」と問いかける。（Searle, 31-34/34-37）
さらに彼は想像をたくましくいくつかの想定を付け加えて議論を完全にもの に仕上げていく。すなわち、我々人間はある部屋に閉じ込められているとする。
しかも、我々は中国語をまったく解さない。だが、部屋の中には、その中国 語の記号を操作するための規則を英語で記した規則集が用意されている。その 規則には、中国語の記号の操作が全く形式的に定めてある。また、中国語の記 号は、部屋の外の人によって我々が知らないうちに、「質問」と呼ばれ、我々 が部屋から外へと送り返す中国語の記号は、「質問に対する答え」と呼ばれて いる。また、卓越したプログラミングと我々の卓越した記号操作能力によって、
我々が外へと送り返した中国語の記号による回答が中国語を母語とする人の回 答と、中国語らしさに関して区別できないほど完璧なものとなっている。こう した想定を経て、サールは「あなたは、中国語の形式的な記号を操作するこ とのみによっては、中国語を学んだとはいえません」と断言する。（Searle, 31- 34/34-37）
第 2 節 言語記号理解の論点
サールによれば、コンピュータに与えられたものは、部屋の中の人間と同様 に、解釈抜きの中国語の記号を操作するための形式的なプログラムにほかなら ない。サールは、「コンピュータは、統語論は持つけれども、意味論は持たない」
と明確に断言する。すなわち、「言語を理解するということは、そしてそもそ も心的状態を持つということは、単に一群の形式的記号を操作するという以上 のものを要求する。すなわち、それは、解釈を必要とし、その技巧に付与され た意味を持つことを必要とする」。コンピュータはたとえ言葉をうまく操って いるように見えても、規則の一覧表に従った形式的な記号の操作をしているだ けであって、そこには本当の意味での言葉（言語記号）への理解は生じてはい ない。意味解釈なしの単なる形式的な操作は、チューリングがいみじくもかつ て考案したように、所詮「シミュレーション」に他ならないのであって、それ はシミュレーション以上のものを決して与えないのである。「機械は考えるこ とができるか」という問いは「言語記号が意味を持つ」という固有な経験が解 明されない限り、真に解明されえないのである。（Searle, 31-32/34-35）
また、柴田もチューリング・テストが示すとされる機械による言語記号の解 釈に関して、次のような鋭い指摘をしている。機械の用いる言葉の統語論的な 結合が、人間か機械かを判定する者の言葉の統語論的な特徴にただ単に適合す るように仕組まれている限り、機械がその言葉によって何かを意味している訳 ではない。だとすれば逆に、言葉が何かを意味（指示）しうるとするならば、
少なくとも何が確かめられねばならないのかと問題提起することもできる。そ れには、我々判定者自身が機械がその言葉によって世界の中のどの事物や事柄 を指示（意味）しているのかを少なくとも知らねばならない。すなわち、我々 が言葉と世界との結合の仕方という意味論を確定することができねばならな い。サールが的確に批判しているように、意味論なきチューリング・テストの 致命的難点とは、「会話によって知性の有無を判定しようとするときに必要と なる証拠を、このテストは判定者に拒んでいるということ」である。（柴田, 67-71）
第 3 節 言語記号と意味
では、言葉（言語記号）の意味とはそもそもどこから由来する（生じる）の か、あるいはそれはどのようにして成立するのか、そしてどんな方法によって それは解明されうるのか。この方法論的哲学的論点を考察するために、意味を 持つのは脳の機能（の領域）でもなくまた思考（の領域）でもなく、「言葉が 意味を持つ」とするこの経験そのものに立ち戻って考察することを重視するの が、現象学的哲学者のメルロー=ポンティ（Merleau-Ponty）である。『知覚の 現象学』においてメルロー=ポンティが展開した言語論がここでの我々の哲 学的観点に有効な示唆を与えてくれる。
そもそも「言葉（言語記号）は意味を持つ」という経験とは、いったいどの ような事態なのか。メルロー=ポンティによれば、言語に関する経験主義的 心理学の見解も主知主義的心理学の見解も、ともにこの経験を把握し損なって いるという。（Merleau, 203-211/289-294河野, 39-40,菅野, 13-15）
まず、言語に関する経験主義的見解は、この経験を見逃している。失語症の 生理学的研究によれば、大脳皮質の機能局在説に依拠することで、言葉も大脳 の痕跡のうちにその成立基盤を求めようとする発想が生まれる。だとすれば、
言葉も脳内痕跡と共に与えられてしまい、外からの刺激にのみよって機能する。
そうなると、神経機構の過程といったものが無意味な過程として捉えられ、ま るで電燈がスイッチをひねると白熱するかのように、自動的に脳内に出現する ということになってしまう。だが、この見解では、人は確かに語ることはあっ ても、意志を持って語る意味主体（人）は不在となる。（Merleau, 203-204/259- 290,河野, 39-40,菅野, 13-14）
他方で、主知主義的見解は、言葉が意志を伴った思考によって条件づけられ たものとみなす。失語症の研究から明らかになることは、たとえば、色名健忘 の患者の場合、彼は自分の前に示された色見本の名を言うことができない。す なわち、患者が喪失したのは感性的所与をひとつのカテゴリーのもとに包摂す る一般的能力である。色名健忘も一般的な障害の特殊な表れのひとつに過ぎな い。だとすれば、言葉が意味を持つのではなく、意味を持つのはむしろ思考の
方なのであり、言葉はそれなしでも働き得る内面的認識（思考）の単なる外皮 にすぎないことになる。すなわち、言葉はその背後にある内的思考に裏付け されて始めて意味を持つものなのである。（Merleau, 203-204/290-294,河野, 39- 40,菅野, 14-15）
従って、経験論的見解も主知主義的見解もともに、言葉はそれ自身で意味を 持つものではなくなってしまう。そうは言っても、対話の間でやり取りされる 音声及びそれを表す言語記号としての書字（文字列）そのもののうちに意味が そのまま含まれているわけではない。実際、チューリング・テストを巡る議論 を持ち出すまでもなく、理解できない外国語（言語記号らしきものの集合）は ただの意味不明の印（記号）にしかみえない。それらを理解するには言語記号 解釈能力が必要とされる。意味を持っているのは言語記号そのものなのではな く、記号解釈能力の担い手たる我々主体との関係においてこそ、意味が成立し て来るともいえる。（Merleau, 205-206/292-294, 河野, 39-40,菅野, 14-15）
他方で、言葉は思考を越え出ている面もある。例えば、我々が日常しばしば 経験しているように、ある不分明な思いや漠然とした想念は言語化することに よって始めて我々自身にとって明瞭な意味を帯びた思考へと変貌する。この点 で、意味を帯びた言葉は思考の単なる外皮などではなく、その完成者でもある ともいえる。（Merleau, 206-210/294-298, 河野, 39-40,菅野, 14-15）
結語として
最後に、以上のように、特に知性的行動としてのAI（機械・コンピュータ）
における言語記号の解釈を巡って、方法論的哲学的観点から概略的に考察して きた限りで、この考察をさらに展開するために今後の具体的課題（問い）につ いて触れることが許されるとするならば、次の点を述べておきたい。
第一に、知的行動としてのAIと人間知性の関係をより具体的に明らかにす るために、「言葉（言語記号）は意味を持つ」という我々の経験とAIとは、いっ たいどのような関係にあるのかが課題となる。メルロー=ポンティの言語論
などに依拠してさらなる展開が可能である。
第二に、我々人間は身体を備えた生き物である。言語記号としての書字や発 話という言語活動の主体として我々はAIといったいどのような関係にあるの かが課題となる。メルロー=ポンティの身体論などに沿ってさらなる展開が 可能である。
第三に、この二つの課題（問い）を考察することによって、冒頭で西垣が提 起したAIの「絶対知」を巡る問題提起を深める余地が開かれて来るであろう。
利益相反
開示すべき利益相反はない。
附記
本稿の筆者重野豊隆は、1953年4月長野県生まれ、1979年3月国際基督教 大学教養学部人文科学科（哲学専攻）卒業、1985年3月東洋大学文学研究科 後期博士課程哲学専攻単位取得満期退学、2009年4月本学哲学研究室准教授、
2015年1月同教授、2019年3月末に定年を迎える。
参照文献
本文中に引用したまたは直接参照した文献に関しては、下記の< > 内の 略記号を用いて、（原著のページ数/邦訳のページ数）の順に明記した。また、
邦訳のあるものについては、文脈ないしは文体の統一の必要性から、一部改変 させて頂いたことをお断りして置く。
・ Paul M.Churchland (1995) The Engine of Reason,the Seat of the Soul, The MIT
Press（ポール・M・チャーチランド『認知科学 脳科学から心の哲学へ』産
業図書, 1997） <Churchland>
・ Maurice Merleau-Ponty (1945) Phénoménologie de la Perception, P.U.F, 1945 （メ ルロー=ポンティ 中島盛夫訳『知覚の現象学』法政大学出版会, 1971年）
<Merleau>
・ John Searle (1984) Minds,Brains and Science, Harvard University Press （ジョン・
サール 『心・脳・科学』岩波書店, 1993年） <Searle>
・ Alan Turing (1950) Computing Machinery and Intelligence, Douglas R. Hofstadter and Daniel C.Dennett composed and arranged by, Mind’ I Fantasies and Reflections on Self and Soul Basic Books, 1981 （アラン・チューリング「計算機械と知 能」ホフスタッター&デネット編『マインズ・アイ（上）』TBSブリタニ カ ､1992） <Turing>
・ 新井紀子 (2018). AI VS. 教科書が読めない子供たち, 東洋経済新報社, < 新井 >
･ 河野哲也 (2001). メルロ=ポンティの意味論, 創文社, < 河野 >
・ レイ・カーツワイル (2007).ポスト・ヒューマン誕生 コンピュータが人類 の知性を越えるとき, NHK出版, < カーツワイル >
・ 菅野盾樹 (1981).言語と思考:メルロ=ポンティの言語論ノート,大阪大学人 間科学部紀要. 7 p.1-p.23 < 菅野 >
・ 柴田正良 (2001). ロボットの心 七つの哲学物語 講談社現代新書532, < 柴 田 >
・ 田中潤・松木健太郎 (2018). 誤解だらけの人工知能 ディープラーニングの 限界と可能性, 光文社新書932
・ 松尾豊・塩野誠 (2016). 人工知能はなぜ未来を変えるか 中経の文庫 KADOKAWA
・ 西垣通 (2018). AI原論 神の支配と人間の自由, 講談社選書メチエ672, < 西 垣 >
・ 西垣通 (2013).集合知とは何か ネット時代の「知」のゆくえ,中公新書 2203
・ 西垣通 (2016).ビックデータと人工知能 可能性と罠を見極める,中公新書 2384
