1．は じ め に
人工知能研究において「倫理」と呼ばれる事柄が論 じられるとき，ロボットに関する倫理学とオーバラップ する論点があるように思われる．つまり，主に二つの論 点があると考えられる．一つはその技術が確立すること によって社会の価値観が変容するということに伴うもの で，ロボット・人工知能そのものというより，そのこと に伴って生じる人間社会の変化，つまり人間の関係性に 介入することやプライバシーに関する情報の収集などに ついて問うものだ [Lin 12]． もう一つは，ロボット・人工知能が活用される場面の 増大，例えば戦場における医療などを主体的に行うよう になるにつれ，倫理的判断を行わせる必要が生じる場合 の問題であって，ロボット・人工知能に倫理的な判断や 行動を取らせることができるのか，つまりロボット・人 工知能が真の道徳的行為者たり得るかという論点である． 本稿を執筆している現在，日本国内では二本の「人工 知能」に関する映画が公開されている．「her ／世界で 一つの彼女」＊1と「トランセンデンス」＊2である．前者 は妻と離婚寸前の主人公が，人工知能 OS のサマンサと 恋に落ちてしまうというもの．後者はテロリストに撃た れた瀕死の AI 研究者の意識を，研究者の妻がコンピュー タに移し替え，その意識がネットワークを介して世界中 の情報を手に入れていく……という様が描かれる．前者 が人間（？）ドラマであるのに比して，後者はサスペン スの要素が強い．しかし形こそ違え，どちらのテーマに おいても人間と人工知能（トランセンデンスは人間のコ ピーではあるが）との関わりについて示唆的に描かれて いるという点は相通ずるものがある．主人公は恋に落ち， コンピュータの中の亡夫は世界を征服しようとする．そ の振舞いや登場人物の心の動きに，私達はコンピュータ に自我を見る．さきに「真の道徳的行為者」という言葉 を用いたが，人工知能が再現する「自我」，あるいは「人 格」というものが「ほんもの」（authenticity）であれば， 我々は人工知能を道徳的に遇さなければならないだろう [Wallach 09]． だが，そこに存在する「人格的に見える振舞い」は「ほ んもの」なのであろうか．こうしたテーマはサイエンス フィクション，いわゆる「SF」においてはポピュラーと もいえる題材であり，これまでにも多くの作品が描かれ てきた．そこで本稿では，著者の専門分野である幹細胞 生物学・再生医療領域における近年の進展と「SF」を 比き較べつつ，人工知能研究の進む在り方について，「ほ んもの」という論点から論じてみたい．2． SF の中に見る「ほんもの」の姿
2･1 人体からコンピュータへ 近年世界中で人気を博するオーストラリアの作家グ レッグ・イーガンもこうした作品を多く描いている．例 えば「ディアスポラ」という作品では，人類のほとんど はコンピュータ内に構築された仮想都市の中で，データ 化された人格や記憶が「暮らして」いるという 30 世紀 の世界を描き，人工知能が「知性」をもつまでを描こう としている． だが，イーガンは単純にコンピュータに人格を移し 替えるというだけではない．例えば，「ぼくになること を」＊3という作品がある．生まれると同時に脳内に思考 バックアップ装置「宝石」を取り付けられる世界を舞台 にしており，本人が望んだときに「ほんものの脳」が取 り除かれ，老化・劣化しない「宝石」が新たな自己の座 になるのだ．それまでの「自己」の主体であった生物学 的な脳から，客体であり傍観者であった「宝石」に自己 が移行するなかで，「ほんもの」の存在が揺らぐという わけである．人工知能を「ほんもの」にするために
In Order to Put Artificial Intelligence in“Authenticity”
八代 嘉美
京都大学 iPS 細胞研究所Yoshimi Yashiro Center for iPS Cell Research and Application, Kyoto University.
[email protected], http://www.cira.kyoto-u.ac.jp/uehiro-ethics/member/yashiro/
Keywords:
regenerative medicine, iPS cells, science fiction, ethics. 「人工知能技術が浸透する社会を考える」＊1 http://her.asmik-ace.co.jp/
2･2 人体から人体へ また，「エキストラ」＊4という作品では，不老長寿と いう願望を満たすために自らのクローン（エキストラ， という）を所有する大富豪が，自分の脳を若いクローン の身体に移し替える手術を受けている．手術後に目を覚 ました大富豪の意識は古い身体に残ったままで手術が不 首尾に思われたが，その傍らで自分のクローンは医師達 からかしずかれている．その理由は人格を司ると判断さ れた脳の部位のみを部分的に移植していたため，科学で は知られていなかった「自我」に関与する領域が古い身 体の中でも活動していたのである．しかし自我があった ところで，手術によって身体を制御する能力を失った脳 は，彼から言葉を発する能力を奪っている……． 前掲のとおり，マシンによる思考のバックアップや人 格のコピー，そして不老不死というのは SF ではポピュ ラーな題材であり，リアルタイムバックアップだけでは 解消できない「もともとの脳」，「バックアップの脳」の 選択が行われて以降，分岐点が生じてしまった後の「本 当の意識が取り残されること」に対する感情，いわば「SF ならではの読後感」などがよく知られるところである． そしてまた，ここで立ち止まるのだ．「ほんもの」とはいっ たい何なのか，ということである．
3． 「ほんもの」と再生医療
3･1 「ほんもの」が論じられる背景 「ほんもの」に関しては，生命倫理の研究，とりわけ エンハンスメントと呼ばれる問題を批判的に取り上げる 際によく使われる言葉でもある．エンハンスメントとは 生命科学の技術を，「健康の回復と維持という目的を超 えて，能力や性質の「改善」を目指して人間の心身に医 学的に介入するということ」[松田 04] とされているが，エ リオットは選択的セロトニン再取込み阻害薬（SSRI）＊5 の過剰使用，つまりうつや強迫性障害の治療ではなく， 健常人がコミュニケーションに有利となる性格（親しみ やすく活発な性質）となることを目的として服用するこ とから論じている．つまり，そのような方法で社会的な 地位などを手に入れても，それは「ほんもの」の人格が なしたことではない，というわけである． また，エンハンスメントから再生医療に至るバイオテ クノロジーを連続的に批判する視座としては，例えばフ ランシス・フクヤマのように，「科学技術が人間らしさ を破壊する」という身体観に基づいて，人間に対するこ れ以上のテクノロジーの利用は行うべきではない，とい う主張もある．こうした観点から考えれば，「ほんもの」 とは「ありのままの身体」ということができる． 3･2 「自ずから然るもの」こそが「ほんもの」か 医療の研究において，それが「ほんもの」か否か，そ して「ほんもの」とは何か，という話は常に向き合わざ るを得ない．その究極的なところにあるのが，事故や 疾患などで失われてしまった細胞をつくり出し，移植に よってそれを回復する，「再生医療」であろう．これま での医療であれば，生涯にわたり，投薬によって病態の 進行を食い止めたり痛みを軽減したりすることしかでき なかった疾患に対して，細胞の移植で機能を回復するこ とができるようになる，というのは，かつては本当にフィ クションの世界の出来事であった． 1983年に，アメリカ・マサチューセッツ工科大学の ハワード・グリーンらが，重症やけど患者の皮膚を培養 し，移植を行うという治療法が行われた．これが，世界 で初めての再生医療の実施例とされる．通常，こうした 場合には死者から提供を受けた皮膚を移植することが通 常であるのだが，この場合はまぎれもなく「自己由来」 の皮膚であり，移植を受ける人間にとってはまぎれもな く「ほんもの」の皮膚であったろう．しかし，体外に取 り出し，生理的にはあり得ない条件で培養している．そ うした点では自然にはあり得ないものであって，「ほん もの」とはいえないだろう． 3･3 情動を司るものは何か ここで，再びイーガンの作品に登場を願う．「適切な 愛」＊6という作品である．主人公の夫が事故で瀕死の重 症を負い，（現在私達が知る）再生医療的な方法では命 が救えない病状となる．そこで，脳をもたないクローン を作成し，事故当時の身体レベルにまで急速に成長させ ることで身体を交換するのだが，いくら急速にといえど もある程度の時間は必要となるし，その間脳は現状のま ま維持しなければならないため，大きなコストがかかる． そこで医療保険が認める中で最もコストの安い方法であ る，夫の脳を自分の子宮の中で育てるという方法を取る ことになる．やがて夫の脳はクローンに戻され，彼女は 夫を甦らせた．だが，理性では「子供ではない」とわか りつつも，夫の脳の「偽妊娠」を維持するために投与さ れる薬剤や分泌物にさらされた彼女の脳は，従前と同じ 思いでは夫を見られない．先ほどの SSRI の例をひくま でもなく，私達の脳はいとも簡単に物質によって制御さ れ得る．彼女が決断した「適切な愛」の形，そして生還 した夫を見る想いは，確かに「ほんもの」とはいえない かもしれない．しかし，抗えない自然というものを受け 入れ続けることを不可侵な「ほんもの」とし続けなけれ ばならないのだろうか． ＊4 『プランク・ダイヴ』（ハヤカワ文庫 SF 2011 年）所収． ＊5 抗うつ薬の一種．シナプスにおけるセロトニンの再吸収に特 異的に作用し，うつ，不安を改善する． ＊6 『しあわせの理由』（ハヤカワ文庫 SF 2003 年）所収．4．iPS 細胞は「ほんもの」か
4･1 世界初の「再生医療法」と iPS 細胞 前章で少し触れたが，外傷や疾患などにより，不可逆 的な障害を負った組織を，生体から単離され培養された 細胞と，人工的に合成された高分子化合物などとの組合 せによって再構築された組織を用いる再生医療は，「ほ んもの」とは何かを問いかける例であるし，技術によっ て再構築された「人格」や「知能」をもつ人工知能研究に とって，今後対比し得る一つのモデルになるかもしれない． 2013年，再生医療に特化した法律である「再生医療 を国民が迅速かつ安全に受けられるようにするための施 策の総合的な推進に関する法律」（再生医療推進法）が 成立し，次いで「再生医療等の安全性の確保等に関する 法律案」（再生医療新法）といった法律が成立した．「再 生医療」に特化した法律が定められるのは事実上世界で 初めてであり，この分野が日本国内で大きな期待を集め ている現れといえる． このような状況をつくりだすエポックメイキングな出 来事となったのは，2007 年に山中伸弥らが報告した「ヒ ト iPS 細胞」の出現であっただろう．皮膚の細胞にたっ た四つの遺伝子を組み込むだけで，皮膚細胞が私達の身 体を構成する 250 種類もの細胞へと変貌する能力を獲得 するのである．乱暴にいえば，それは受精卵がもつ能力 を再び取り戻したということも可能であり，iPS 細胞は 細胞に刻まれた時間という片道切符を往復切符に変えて しまったともいえるだろう． 4･2 にせものの胚，ほんものの胚 この成果は非常に衝撃的なものであった．それまで， 唯一同様のことを可能とする方法は細胞の核を卵子へと 移植する，1996 年に報告されたドリーのような「クロー ン」を作成する方法であった．精子と卵子は次世代を生 み出すことができるので，生殖細胞と呼ばれる．これら の細胞も，私達の体の中にいる限りは他の細胞同様に生 殖細胞のままであるが，受精という瞬間を経ることに よって受精卵へと変貌し，個体へと分化していく．これ は受精を経ることにより，卵子がもつ「初期化能」によっ て，精子という状態から解き放たれ，次世代の個体とな る．この能力をもつことが，生殖細胞が特別な存在とみ なされてきた所以といえる． しかし，iPS 細胞はわずか四つの遺伝子という「物質」 によって「初期化」をミミックしてみせた．このことは 何を意味するのであろうか．iPS 細胞が私達の体を構成 するあらゆる細胞を生み出せるというのは前述のとおり である．「あらゆる」細胞，すなわち生殖細胞という「特 別」な細胞もその中に含まれる．iPS 細胞は，物質によっ て受精卵の性質を再現したいわば「にせものの胚」とい うことができる．しかしこの「にせもの」の出現が，生 殖細胞を特権的な地位から引きずり下ろしてしまったの だ．このことは，生命現象が物質で構成されていること の証明の，一つの究極像であるし，物質であるならば人 間自身が干渉可能であるという証明の歴史でもあった． 4･3 科学技術によって「生きる」ということ 筋萎縮性側索硬化症（ALS）という病気がある．この 病気は筋肉が萎縮し筋力低下，運動障害をきたす神経変 性疾患であるが，発症後 3 ∼ 5 年で呼吸筋麻痺をきたし， 死亡してしまう．現在のところ根治療法はなく，呼吸筋 麻痺に至った患者はありのままの身体のままでは命を永 らえることはできない．つまり人工呼吸器による補助が 不可欠となるのである．また，投薬では効果がなくなっ たパーキンソン病患者は脳深部刺激療法という，外部か ら電極を脳に刺す方法を試さなければその病態の進行は 止められない．そして，拡張型心筋症の患者は，iPS 細 胞や大腿の筋肉を利用した心筋シートに望みを託すので ある．こうした患者に曖昧な概念で「人間らしさを失わ せる技術はほんものではない」と答えることは，果たし て道徳的な答えであるのだろうか． ヒトゲノム計画をはじめ，今日私達が手にしている生 命科学上の知識は，「自然」と「文化」，「モノ」と「人」 を切り離さなければ得ることができなかった．全体とし ての人間にこだわる限り，人間の中に存在するモノを見 いだすことはできなかっただろう．同時に，「自然」と いうくびきから逃れることも不可能であったに違いな い．私達は火を得て道具を加工し，さまざまな形で自然 に挑戦してきた．そして疾患へと挑戦し，生き永らえた い，という衝動が本能から生まれるものであるとすれば， その在り方すべてが「ほんもの」といい得るのかもしれ ない [八代 13]．5．「生命」と「物質」の間
5･1 「自然」と「科学」の結節点 ヒトの生命のなかに物質が介入する，そのような姿を 肯定できるのであれば，生命現象にとって，「モノ」と 「人間」の共存は当然の姿となる．生命の神秘とされて きた発生現象でも，科学の視線は容赦なく「物質」が構 築し制御するシステムであることを暴き出す．先に記し た iPS 細胞の事例に先立つ 2004 年，東京農業大学の河 野友宏らが報告した「かぐや」というメスのマウスは， たった一つの遺伝子 H19 を破壊するだけで，哺乳動物 ではこれまで困難とみなされていた単為生殖が成し得る ことを示した． さらに京都大学の斎藤通紀らは，マウスを使って精子・ 卵子を iPS 細胞から誘導することに成功している＊7．現 ＊7 厳密には前駆細胞までの誘導であり，生殖細胞として成熟さ せるためには不妊マウスの精巣や卵巣に移植する必要がある．時点では in vitro だけで生殖細胞をつくり出すことはで きず，前駆細胞と呼ばれる未成熟な細胞をつくり出し， マウスの精巣・卵巣に移植して成熟をさせている．しか し，そうした生殖細胞由来の個体，さらにその次世代も 存在している．さらに，iPS 細胞は切断された中枢神経 と四肢を結ぶネットワークである脊髄の損傷も回復させ る研究すら見据えている．iPS 細胞は，生物の中におい て自然の象徴とされた「身体」と，科学の象徴といえる 「脳」の切断を再び結節しようとしている．「物質」と「文 化」がつくりだす iPS 細胞は，私達の姿の鏡像である [ 八代 13]． 5･2 「キメラ」という生命 さらに iPS 細胞を用いて，遺伝子改変を行った異種動 物に臓器をつくらせるという「キメラ動物」を模索する 動きもある．ライオンの頭にヤギの胴，蛇の尻尾をもつ という，神話上の生物たるキメラ．それが現実世界に顕 現するとき，それは「複数の異なった遺伝子型の細胞， あるいは異なった種の細胞からつくられた 1 個の生物個 体」（「岩波生物学用語辞典」第五版）という意味となる＊8． 中内啓光らの手によって，すでにマウスとラットとい う異種動物間でのキメラ作成は成功しており，ラット細 胞を体内にもつマウスではラットの細胞による膵臓がつ くられ＊9，この膵臓を移植することでラットの糖尿病が 治療できることが示されている．そして，中内は人への 移植を目標とした，ブタ胚へヒト iPS 細胞を移植するキ メラ胚の作出を企図し，法的な規制によって研究が行え ない日本から，アメリカへとその舞台を移そうとしている． 主に工学的研究者になじみのある人工知能の構築が， 「知能をつくってみる」という構成論的アプローチであ る一方，生物系研究者にとっては fMRI などを駆使して その機能部位や分子メカニズムを知ろうとする脳神経科 学は「分解してみた」という還元論的アプローチである といえるだろう．キメラによる臓器作成は，臓器ができ る完全な分子メカニズムの知識はなくとも，臓器が作成 できるということを示している．そういった意味で「つ くってみた」という研究である． 5･3 揺らぎ続ける「ほんもの」 一般のメディアなどにおいて人工知能研究が紹介さ れる際には「日本はロボットの国で」，「攻殻機動隊の世 界が現実に」というように，比較的好意的に受け入れら れ倫理問題が触れられることはない．しかし，脳神経科 学は，直接ヒトにアプローチすることから，脳神経科学 は世界中で「脳神経倫理学」と呼ばれるジャンルでの検 討が開始されており，疾患治療などへの応用の期待とと もに倫理的・社会的・法的懸念も広がりつつある [河野 08]．そのため，メディアでの研究紹介などでも「プラ イバシー保護などの倫理的問題が」などの文言が付され ることが多くなりつつある． おそらく人々のイメージの中では人工知能研究という 「つくってみた」研究に対しては「どうせつくれっこない」 という安心感が「ほんもの」との心理的距離を遠ざけ安 心感を与え，「分解してみる」研究はヒトにダイレクト にアクセスし情報を還元してくることから，「ほんもの」 に近すぎると考えている現れかもしれない． しかし，人間に勝つことは困難と考えられた「将棋」 においてはすでにプロの棋士に勝利しており，大学入試 に挑戦するというプロジェクトにおいては，「センター 試験」の特定科目で合格を認める私立大学も多い．「今 回の成績で私立大学 579 大学のうち，403 大学の合格可 能性が 80％以上（A 判定）だった」と報じられている＊10． さらに，本年にはその結論に異論が出てはいるという ものの，チューリングテストにパスする人工知能が現れ たという報道もある．人工知能研究者の松原 仁らは，星 新一のショートショートを蓄積・解析し，質の高いショー トショートの自動生成を行う人工知能の開発するプロ ジェクトを開始しており＊11，松原らによれは「体裁を整 える」レベルまでは到達しているという．つまり，限局 された状況においては，構成論的方法のほうが「ほんも の」に近いところに到達しているともいえる．もはや「ほ んもの」という概念の根拠は大きく揺らいでいるのだ．
6．お わ り に
ハムレットが「この天と地のあいだにはな，ホレーシ オ，哲学などの思いもよらぬことがあるのだ」＊12と語っ たように，生命科学への不信をもつ人の心には「生命と は，科学などの思いもよらぬことがあるのだ」という思 いがあるのだろう．だが，そこでとどまることは，人間 の心がもつ「好奇心」という情動に対して不誠実なので はないだろうか． 中澤栄輔らは，「ほんもの」の概念について「人格」 と「記憶の連続性」という思考実験から論じており，最 終的には倫理基準の一つの可能性として「〈ほんもの〉 とは，より卓越した人間性を目指す自己実現，あるいは 自己の能力や性格の発見である」としている [中澤 10]． そこでは，「人格の連続性」という「あるがままの同一性」 ＊8 この定義に従えば骨髄移植や臓器移植などにより，恒常的に 他者の細胞をもつことになった患者も「キメラ」である．その ため，骨髄移植後の生着度合いを知るために自己と他者が交じ り合う度合いを示す指標は「キメリズム」と呼ばれる． ＊9 臓器をつくるスイッチ役である「マスター遺伝子」がノック アウトされ，特定の臓器が形成されない状態の遺伝子改変胚に iPS細胞や ES 細胞を注入すると，注入された細胞が空隙を埋 める形で臓器を形成する，というモデルである． ＊10 http://www.nikkei.com/article/DGXNASDG2302P_ T21C13A1CR8000/ ＊11 http://www.fun.ac.jp/~kimagure_ai/ ＊12 シェークスピア 著，小田島雄志 訳：ハムレット◇ 参 考 文 献 ◇
[Elliott 98] Elliott, C.: The tyranny of happiness: Ethics and cosmetic psychopharmacology, Parens, E. （ed.），Enhancing
Human Traits., Ethical and Social Implications, pp. 177-188,
Washington, D. C.: Georgetown University Press（1998） [フクヤマ 02] フランシス・フクヤマ 著，鈴木淑美 訳：人間の終
わり バイオテクノロジーはなぜ危険か，ダイヤモンド社（2002）， Fukuyama, F.: Our Posthuman Future: Consequences of the
Biotechnology Revolution, Macmillan（2003）
[河野 08] 河野哲也：暴走する脳科学，光文社（2008）
[Kobayashi 10] Kobayashi, T., et al.: Generation of rat pancreas in mouse by interspecific blastocyst injection of pluripotent stem cells, Cell, Vol. 142, Issue 5, pp. 787-99（2010）
[Lin 12] Lin, P., Abney, K. and Bekey, G. A.: Robot Ethics: The
Ethical and Social Implications of Robotics, The MIT Press
（2012）
[松田 04] 松田 純 : Enhancement（増進的介入）と「人間の弱さ」 の価値，続・独仏生命倫理研究資料集 上巻，千葉大学（2004） [Nakaki 13] Nakaki F., et al.: Induction of mouse germ-cell fate
by transcription factors in vitro, Nature, Vol. 501, pp. 222-226 （2013）
[中澤 10] 中澤栄輔：記憶の操作と〈ほんもの〉という理想 . 脳科 学時代の倫理と社会，UTCP Booklet, Vol. 15, pp. 37-62（2010） [Takahashi 07] Takahashi, K., et al.: Induction of pluripotent stem cells from adult human fibroblasts by defined factors,
Cell, Vol. 131, Issue 5, pp. 861-872（2007）
[八代 13] 八代嘉美：2 つの世界の融け合う果て――「キメラ」た ちの「辺獄」，早稲田文学，第 10 次，第 7 号，pp. 82-90（2013） [Wallach 09] Wallach, E. and Allen, C.: Moral Machines:
Teaching Robots, Right from Wrong, Oxford University Press
（2009） 2014年 8 月 10 日 受理 ということについて，人格な質的な変化は日常茶飯事に 起こるものとして退ける．むしろ，この定義について， 質的に変わり続けるからこそ人間であって，そのための 物質的な介入についても肯定的に捉え得ると解釈するこ とも許されるだろう． 生命科学は，医学という形を通じて，絶え間なく「ほ んもの」の像を変え続けてきた．もちろんそれが常に正 解だったわけではない．さまざまな痛ましい出来事を生 じさせてきたことも認めざるを得ない事実である．しか し，明治初年に 40 代であった日本人の寿命は 80 年を超 えるようになった．生物がもつ「生き続けたい」という 欲動を，人間がもつ力によって具現化させてきた結果で ある． すでに科学の知，工学の知は既存の価値観の枠に収 まってはいない．前述のように，限局された局面ではヒ トの能力を超えたものすらつくり出されている．外部化 された記憶や演算能力を用いず，古典的な方法によって のみ人間の能力を測定したりすることはナンセンスだ， それを使いこなす能力こそが重要である，という時代が 必ずやってくるだろう． しかしそれは人工知能研究が本稿で SF や再生医療研 究から説き起こしたように，すでに社会における「ほん もの」の価値とは何かを問いかける領域に達しているこ とを示している．そして，問いかけるだけでなく，その 方向性を規定するレベルにまで到達していることを自覚 するべきだ． このような混沌とした世界の中で，もはや「自然なも の」は「ほんもの」という概念を包み込むものではなく なっている．もはや誰かが担保してくれる「ほんもの」 はない．生物学的，そして工学的な技術のアプローチと， 哲学や倫理のような人文知のアプローチが渾然と一体と なっていかなければ，新しい「ほんもの」の像が現実と なる日はこない．私達はもはや，自らの手で「ほんもの」 をつくりだす責任を負っているのである．
