ロボットは「心」を持つことができるか?

著者 柴田 正良

著者別表示 Shibata Masayoshi

図書名 スタディサプリ進路[編] スタディサプリ 三賢人の 学問探究ノート(3) 生命を究める / 今を生きる学 問の最前線読本

開始ページ 67

終了ページ 102

出版年月日 2020‑03‑17

URL http://hdl.handle.net/2297/00061473

生命とは何か？ 1

ロボットは「心」を持つことができるか？ 3

_ボ 3

ッ ト は 「 心 」 を   つ こ と が で き る か ？

１９５３年大分県生まれ。千葉大学人文学部卒業。中部大学国際関係学部助教授、金沢大授などを経て、現在は金沢大学教育担学長を務める（２０２０年４月より、金沢大学名誉教授）専門は現代哲学。

人 間 と 共 に 生 き る ロ ボ ッ ト に は 「 心 」 が な く ち ゃ ！

　 ＳＦ映画で描かれるような、ロボットと人間が共に暮らす未来が現実になりつつあります。人間と共に生きられるロボットに求められる能力とは、どのようなものでしょうか。人間のいうことを正しく理解できるロボットでしょうか。それとも自由自在に動けるロボットでしょうか。

「人間の命令には、すべて背くことができる

―

　 そう語る柴 しば田 た正 まさ良 よし先生の専門は、ロボット工学ではなく、なんと哲学。哲学の

中でも、現代社会に生きる人間が直面する問題を、哲学の視点から解き明かす現代哲学という学問です。「ロボットやＡＩという存在が人の世界に入ってくるとき、人間は倫理的、道徳的な問題に直面するんです。そのときに、人間に危害を加えてはならない、命令に背いてはならない、なんていう自律していないロボットではダメ。それでは逆に人間社会の中で共生することはできません」

　 人間とロボットが共に生きるためには、ロボットに「個性」と「自立／自律」が必要だ

―

　 高校時代に学生運動を経験し、バリケードやストライキで社会と闘う青年だった柴 しば田 た先生。哲学者となった今、なぜロボットの心という現代ならではの問いと闘うことになったのでしょうか。

　 これは、「心」のしくみに興味を持った哲学者が、現代に渦巻く課題を極限まで

追究した結果、ロボットに心を持たせることは可能なのかを考えるに至ったお話です。

も、「まず人間の心というものがどういうものかわからないのだから、それをロボットたせることは不可能だ」と思った人がいるはずです。たしかに、「人間の心とは何だ？」めて問われると、答えに迷いますよね。私は心の正体は脳の働きだと思っていますが、

間の心がわからないからロボットにもそれを持たせることができない、というならば

正体を突き止めることさえできれば、それを人間以外のものの中につくりだすことがるはず、ということになります。だから「ロボットに心が持てるか？」という問いは、

も 正 体 を 知 ら な い 心 」 を 哲 学 で 考 え る

人 間 以 外 の も の の 中 に 心 を つ く れ る ？

抽象的でよくわからないことを、難しい顔をした哲学者たちが「ああでもない」「こう

学という言葉を辞書で調べると、「世界や人生の究極の根本原理を客観的・理性的に追る学問。」（『精選版

ませんね。例えば、「正義とは何か？」とか「愛とは何か？」とか、そういう抽象的な 日本国語大辞典』小学館）という説明が書かれています。何だかよくわ

ロ ボ ッ ト が 家 族 に な る 未 来

　 しかし、それはいつか変わっていくと私は思っています。

　 今こうしている間もロボットやＡＩについてさまざまな研究が行われ、その技術は日進月歩を続けています。私たち人間の生活の中にロボットという存在がごく普通に入り込む未来、それを想像することはそれほど難しくなくなってきました。

　 ロボットがどんどん進化して、いろいろな

役割を果たすようになったその先に、ロボットの最終形態として考えられるのは、人間の

いろいろな意味でのパートナーになっていくという状態だと思います。

　 パートナーというからには、すでに商品化されているロボット掃除機やＡＩスピーカーのような存在とは違います。家電や道具とし 「人間の心とは何か？」という問いと表裏一体であり、非常に哲学的なテーマ設定なのです。このふたつの問いが結びつくということは、人間の心が何であり、体とどう関係しているのかということを、ロボットを通して解き明かしていくこともできるはずだ、ということを意味します。哲学者である私がロボットを研究するのは、それが人間の心を解き明かすことにもつながっているから、というわけです。

お 掃 除 ロ ボ か ら 「 家 族 ロ ボ 」へ

　 今、ロボットはどんどん身近になっています。部屋を勝手に掃除してくれるロボットや、お店で簡単な接客をしてくれるロボットまで現実に登場するようになりました。

　 でも、ロボット掃除機は家族の一員でしょうか。ロボット掃除機は洗濯機や冷蔵庫の仲間であって、人間の仲間ではないという感覚を持っている人が大半だと思います。家族が病気になったり、亡くなってしまったりしたら大変な衝撃ですが、ロボット掃除機が壊れたからといって深刻な心の病になったという人の話は聞いたことがありません。今のところロボットは、人間にとって道具の延長にすぎません。

とえ同じ機械でできていても、あるものはパートナーになれるのに、あるものはなれ。生き物かそうでないのか、というシンプルなふりわけで済む話ではないのです。

宇 宙 人 と 一 緒 に 生 活 す る と し た ら ？

に生きる人間以外のもの」という意味では、別にロボットでなくたっていいのです。

とになったと想像してみてください。私たちはきっと、何とかして宇宙語を翻訳し、

に当たる部分がまったく違うもの、まったく違うしくみだったとしても、「だから宇 りになるのです。例えば、「ドラえもん」を思い出してください。彼は全身機械ででき野 の比 び家の一員です。野 の比 び家には洗濯機も冷蔵庫もあって、ドラ

宇 宙 人 に も 心 が あ る か も

です。むしろ、ロボットが心を持てない理由が見つからないくらいです。

「ロボットに心が持てるか？」という問いは「人間の心とは何か？」という問いと表裏一体だといいましたが、改めて考えると、心って一体何なのでしょうか。もちろん目に見えないし、脳の中でどんなことが起きて心を出現させているのかなんて、誰も確認していません。誰もその正体を知らないけれど、私たちは心について豊かに語ることができます。

　 自分が外の世界からどんなことを感じ取ってどんな気持ちになるかとか、それをどう言葉で表現して人とコミュニケーションをとるか、といった部分を指して、心と呼ぶことが多いと思います。でも、何もわざわざ細かな定義をしなくたって、小説や詩の中で、人間は昔から心について大いに語ってきました。

　 つまり、私たちは自分たちの心がどんなものであるかは、よく知っているのです。ただ、

その背後にあるはずの、心を発生させている物質や現象については具体的にはわからない。心というものが発生して機能するとき、そこで何が起こっているのか、体という物質的なものとどう関係しているのか、という問いを突き詰めたい

―

とができる相手であれば、それは「心を持っている」と言ってよいということなのです。

　 それが人間とはまったく違う物質でできた体で、まったく違うメカニズムを使って表に現れたものでも、心に変わりはありません。

　 つまり心という機能さえ出現させることができれば、その素材は何だってかまわない、ということに私は思い至ったわけです。そう、ロボットの機械の体だってまったく問題ないのです。

「ロボットに心が持てるか？」という私が抱いた問い、これに対する私の答えは「ＹＥＳ」

たくせずに、哲学書ばかりを読みあさっていました。ヘーゲルとかマルクスとか、学

れ、「えっ！　 俺卒業できるの

!?」と

心底びっくりしたのを覚えています。最後の停学

11月で、そこからあわてて受験勉強をし、何とか千葉大学に入ることができ

最 先 端 の 問 題 を 哲 学 で 解 く ！ マ ネ ギ の 皮 を む く よ う に 学 を し よ う

「 え っ ！ 　 俺 卒 業 で き る の

!?」

学や当時の教育のあり方に対して反発していました。私も活動に参加していました。時の私は「世界ってどうなっているのか？　 何かおかしいんじゃないか？」という、

校を卒業できないとなると、大学の受験準備をしたって無駄ですから、受験勉強など

　 私の研究分野は「現代哲学」と言うのですが、この現代哲学という分野名は、哲学史を扱うことがメインになってしまっている今の日本の哲学と、一線を画すために生まれたものです。

　 では、今この時代の科学の最先端の問題とは何でしょうか。

　 例えば、ｉＰＳ細胞（人工多能性幹細胞）であらゆる臓器が自在につくれるようになったときに、人間の体をどこまでつくりだしていいのかという倫理の問題だったり、病気に強い遺伝子を持った人間をつくるというような遺伝子操作が可能になっている今、それがどこまで道徳的に許されるのかという問題だったり、同性同士の結婚が認められるようになってきた中で、同性のカップルの遺伝子を使い本来なら生まれることのなかった子どもを出産することの倫理的意味をどう判断すべきか、といった問題などもそうです。

　 人の生命の問題に、人間がどこまで手を加えていいのか

―

―

代哲学という分野なのです。

　 現代哲学は、哲学史の研究からは一線を画し、最先端の問題に取り組んで、世の中にど

最 先 端 を 見 つ め る 「 現 代 哲 学 」

で思想を研究するのです。正直、そんなことばかり勉強しても、哲学をやっていることにはなりません。

　 哲学史を学ぶことと哲学を学ぶことはまったくの別物です。カントやデカルトが哲学史を勉強していたのかというと、そんなわけはありません。彼らは、当時の科学の最先端にあった問いを研究していました。

　 哲学とは本来、科学の最先端にいるべきも

のだと私は思っています。その時代に生きる人々が科学の最先端でぶつかる問題に取り組み、答えを示すことこそが哲学の役目なのです。哲学は、今私たちが生きるこの世界が、どんな価値観や原理によって成り立っているのか、その姿を描くことができる

―

は思っています。私は、この現実世界はすべてのことが物質的なものによって決定されていると思っています。しかし、道徳的な価値や倫理的に正しいということはどういうことなのか、それを物質的な現象として定義し解明することは不可能なんですね。

　 どういうことかというと、例えば、ここに殺人を犯してしまった人がいるとします。

　 でもそれは、ある一方から見れば、長年民衆を苦しめていた独裁者を倒した行為で、正しい行為だったと解釈されるかもしれません。けれども、また別の人から見れば、殺されたのは自分の父親であり、どんな理由があっても許すことができない行為だということになるでしょう。

　 それでは、倫理的な正しさってどこにある なっているのです。それでは、「結局、哲学って何なんだ？」と思う人もいるかもしれ

どう扱ったらいいのだろうと悩むような、よくわからないこと。他の学問では解くのできない、最後に残るよくわからないことこそが、哲学の研究の対象なのです。

のだろうと考えたときに、状況や人物を物理的に分析することで、「正しいとはこういうことでした」と物理的にきれいに説明する、なんていうことはできないですよね。この倫理的な価値の問題を解き明かすのが、哲学の重要な役目のひとつなのです。

　 他の学問で解けない価値の問題を対象とする以上、哲学の研究は最先端の科学と向き合わなくてはなりません。科学が解決できない問題に対して、あらゆる状況をイメージして、あらゆる問いを立てて、その問いと向き合い続けるのです。私にとっては、それがロボットという最先端技術であり、「ロボットに心を持たせることはできるのか？」という問いになっているのです。哲学は古い理屈を学ぶ難しくてつまらない学問と思われがちですが、本当は、他の学問ではできない方法で最先端の課題を解決できるかもしれない可能性を秘めた学問なのです。

「 知 り た い 、つ く り た い 」 は 止 め ら れ な い

　 哲学の基本的な考え方で、物理主義と呼ぶのですけれども、「世界は基本的には物質的なもの、物理的なものですべてができている、すべてが決まっている」という考え方があり

ます。私は初め、この物理主義的な考え方はいやだなあと思っていました。物質がすべてを決めるって、何だかいやだなと……。でも、「心」というものを研究して学ぶうち、私たちの世界というのは、どうやら神秘的な何かが心とか精神をつくりだしているわけではなさそうだ、と考えるようになりました。超常現象とか魂の作用だとか、そういうものでできているわけではない。やっぱり物質なのです。

　 人間には認知できないような、物質ではない何かしら神秘的な力を持ち出して心の問題を考える神秘主義が、ともすれば宗教的なものと結びつきがちなのも、「それはちょっと違う」と感じた大きな理由です。変な話、哲学と宗教が闘うと哲学がいつも負けるのです。哲学がどうやっても説明できないような問題に、宗教は「神」というものを持ち出して簡単に答えてしまう。そういうのはやっぱり違うな、と思ったわけです。

　 この世界が物理的なものですべて決まっているとすれば、心にも必ずそれを支える物理

的な現象があるはずです。それって何なのか、どういう物理現象が心をつくっているのかという問いを突き詰めると、究極の形としてロボットという物体にどうやって心という機能を出現させるか、というところにたどり着くわけです。

　 ロボットの未来の話をしていると、ＳＦ映画の世界を想像して、知能や認知機能の点で

た ち の 未 来 は 学 で 解 明 で き な い 題 で 山 積 み

心 だ っ て 物 質 的 な も の の は ず な の に ……

」という現象だって同じです。必ず物質的なものの作用があって、感情や感覚が起きると考えられます。人間の場合は心という機能を果たすための物質

―

れてくるでしょう。

学、特にテクノロジーは、際限なく自分を増殖させていくようなところがあります。の生き方に何をもたらすことになるのか。もしも限界をつくることが必要だとしたら、はどのように考えていけばいいのか

―

機 能 が 同 じ な ら 、 素 材 は 関 係 な い ! ?

その素材やしくみは何だってかまわないということになります。心の正体がマイクロチップだってまったく問題はありません。つまり、

ロボットという機械的な構造の中にだって、心という機能を出現させることは可能である、という結論につながるというわけです。

　 このように哲学という方法で考えてみると、心を持つロボットが人間社会でパートナーとして生きる未来が、ぐっと現実味を帯びてこないでしょうか。

　 さらにちょっと考えてほしいのですが、人間が、人間以外のものとパートナーとして生きるためには、それがどんな相手である必要があると思いますか？　

74ページでも例にあ

げた、イヌやネコを飼っている人は想像がし 私は思っていますが、心とはどういう物理的なしくみでできているのかということは、科学的にはまだ説明できていません。こういうテーマにこそ役立つのが哲学的なものの見方なのです。ここでひとつ例を出して、心がどういう存在であるのかという、科学ではまだ解明できていない問題について考えてみましょう。　 みなさんに、ずっと仲のいい友だちがいたとしましょう。それはもう、小学校・中学校・高校と、ずっと何年もつきあっているような、何でも話し合える深い間柄の友だちです。ある日突然、その友だちが交通事故で亡くなってしまいます。すると、亡くなった友だちの頭の中に、人間の脳ではなくてコンピュータのマイクロチップが詰まっていたことがわかったとしたら……。そのとき、みなさんはどう思うでしょうか。「ずっとだまされていた。ロボットだったんじゃないか！」と怒って友だちの死をまったく悲しまないかというと、きっとそんなことはありませんよね。　 相手が自分にとって大切なパートナーであるとき、その脳の中のしかけがマイクロチップと電線でできたものなのか、あるいはグニャグニャの脳細胞でできたものなのかは、正直どちらでもかまわない

―

べることもできません。特に私たちの生活の役に立つわけでもないし、多くの場合、

といったコミュニティーのメンバーになることができるのです。ですから、この個性うものを獲得するときが、ロボットにとって大きなターニングポイントになるはずな

す。

ロ ボ ッ ト が 自 分 で 責 任 を 取 れ る か

「コミュニティーのメンバー」という言い方をしましたが、これはつまり、今、

まりに従って生きています。犯罪行為をしないとか、むやみに人を傷つけないとか、

ボットが自律して行動できることです。自分の中からの欲求というか、自分自身の考えで行動を決定できること。これが必要不可欠なのです。

　 もしかしたらみなさんは、人間に危害を加えてはならない、命令に背いてはならない、そのふたつに背かない限り自分を守らなければならないという「ロボット三原則」を聞いたことがあるかもしれません。これは、アイザック・アシモフというアメリカのＳＦ作家が１９５０年代に考えたもので、人間と安全に共生するためにはロボットの自律を制限しなければならない、という考えにもとづいています。しかし、私はこの三原則を持つようなロボットでは、逆に人間と共生することはできないと思っています。

　 ロボット自身が完全に自立／自律している、ということが共生の必要条件なのです。人間だって、例えば幼児や、何らかの病気などで意思決定を自分ですることができない状態の人は、万が一、罪を犯してもその責任を問われることはないですよね。自分で自由に考えたり判断したりできない相手に、行動の責任を問うことはできないからです。ロボットだって同じです。自立して、あらゆる命令に対していやだといえる、背くことができるという自由を持つことが、人間と共に生きるロボットの条件になると私は考えています。

　 ですから、この個性と自立性／自律性を持ったロボットが誕生するとき、ロボットと人間が共に生きる未来が始まるのだと思っています。 　 個性を持たないロボットには、この責任を負わせるということができません。なぜなら、彼らは差し替えが利くからです。他のものと代替不可能な、唯一無二の個体ではない。そうすると、同じものがたくさんあるうちのひとつにしかすぎないそのロボットに、個別の権利や義務を課して、その行動の責任を負わせるということはできないのです。　 だって、たくさん同じものがあるなら、同じ状況に置かれたら隣の個体もまったく同じ行動をするはずです。そうなると、その行動の責任はどこにあるのでしょう。ロボットに組み込まれたプログラムにでしょうか。ロボットをつくった人にでしょうか。少なくとも、たまたまその場にいてその行動を起こしたそのロボットの個体に責任を求めることは難しいでしょう。　 個性を持ち、もうその個体でないとダメ、他の何ものもそれと置き換えられない

―

く 視 点 を え て み る こ と が 、 学 の 始 ま り

あ な た の 「 白 」 は 私 の 白 と 違 う か も

見 え て い る 景 色 を 疑 う こ と か ら 始 め よ う

　 今、あなたが読んでいるこの本の紙の色は白色ですが、あなたが見ている色は私と同じ色ではないかもしれません。「これは白ですね」「はい、白です」と確認し合ったとしても、私が白と呼んでいる色と、あなたの目と脳が認識している色が同じ色かどうかを確かめる術 すべはありません。

　 私はもしかしたら赤い色を指して「白」という言葉を使っているかもしれないですよね。あなたが「白」という言葉で呼ぶと覚えている色は、本当は他の人にとっての青色かもしれません。

　 私は赤色を見ていて、あなたは青色を見ているけれど、うわべは「白ですね」と一致して話が済んでしまっているだけなのかもしれないのです。 つ効率的に、判断して処理することができます。もちろん、日常生活はそれでまったく問題ないのですが、そこを「それって本当かな？」と問い続けるのが哲学のアプローチなわけです。「視点を変える」と言うと、少し、かしこまりすぎている感じがするかもしれません。「異なる視点から考察してみる」なんて、大上段にかまえる必要はないんです。当たり前に見えることに、「でもそれって違うんじゃない？」ともっと軽いノリで、ちょっと違う角度から眺めてみる。そういう思考の軽やかさが哲学には大切だと私は思っています。　 例えば、自分には自由意思があって、自分の意思でさまざまなことを決定していると多

くの人は思っています。でもそれって本当でしょうか。

　 そのときの体の状態や、直前の周囲の状況、想定される未来への懸念などの影響で、あなたは「こう決める」と最初から「決まっていた」のかもしれません。そんな可能性だってあるのです。あなたは今、自分の意思でこの本を読んでいると思っているけれど、それはあなたが朝起きて顔を洗ったときに、すでに「こう行動する」ということが決まっていたのかもしれません。そんなことはありえないと思いますか？　 そうならば、まだあなたは常識にとらわれてしまっているのでしょう。

うでしょうか。屁 へ理 り屈 くつで煙 けむに巻かれたみたいな気持ちですか？　 いえいえ、そんなふ

視点を軽やかに切り替えながら物事を眺めることが、哲学の始まりなのです。

が、物事を考えているときに自然と誘発されることもあります。「あれ、これってこう

強 きょう靱 じんな構成、壮大な世界観、遠い地平線……といった形で、音

ロ ボ ッ ト と の 共 生 の あ り 方 を 考 え よ う

86ページでもいった通り、ロボットの進化を止めることはおそらくでき

P O I N T

人 間 はどう生 きる べ き か 、 世 界 はどうあ る べ き か 。

過去の哲学者の考えを研究するのではなく、現代科学が 直面 する倫理的・道徳的問題に挑む現代哲学を研究している。

ロボットや AI が 人間と共に暮らすようになる未来を考える。

ロボットとの共生を考える中で、人間のアイデンティティは どこにあるのかが 見えてくる。

科学技術の発展によって、人間が 新たに直面する倫理的問題 を解き明かそうとしている。

う問題は、今のところ「人間が 444、仕事や富をどう分配するか」といった政治や経済の問題として語られています。しかし、もしロボットが 44444、自分自身のために何かを要求し始めたとしたら、一体我々はどうするのか？　 同じ共同体の一員とするのか？

　 そうした問題が出てきたときに、人間のアイデンティティって何なのか、人間は今後どういう存在として宇宙の中で生きていくのかという視野を持って、ロボットとの関係を考えてほしいのです。

　 哲学は、「世界の姿」を示すことができる学問です。私たち人間が今生きているのはどんな世界なのか、それを描くことができます。

　 この現実世界がどういう世界なのかは、科学がすでに相当な部分を解明してくれていますし、常識というものも、私たちの社会を説明してくれています。しかし、科学や常識だけでは説明できない、倫理的価値とか道徳的な視点というものも私たちは持っています。そういったものをすべてあわせ持った、私たちの生きる世界がどんな場所なのか、それをできるだけ整合的に描いてみせるというのが哲学の大事な役割なのです。

　 これから哲学を学ぶ人たちには、ＡＩやロボットが盛んになる未来に、人間はどんなアイデンティティを持って宇宙に存在し続けるのかという視点のもと、簡単には答えの出ない問いや、形のないものたちを存分に描き出していってほしいと思っています。

子どもの難問

編／野矢茂樹　中央公論新社

子どものとき一度は不思議に思ったような 素朴な疑問に、哲学者たちが 挑みます。

人間と機械のあいだ

著／池上高志　著／石黒浩　講談社

人工生命やロボットの技術が 進化した将来、

人間という存在はどうなるのか ……。

気鋭の科学者がそれぞれ の目線から 科学技術と人間のあり方を語ります。

著／柴田正良　講談社

ロボットは「心」を持つことができるのか 、 という問いに対する柴^しば田^た先生の考え方を もっと知りたい人に。

哲学を通じて、現代人が 抱える心の問題を 考えていきます。