1．は じ め に
少子高齢化や天然資源の減少などによる生産性の低下 を補い，社会をより豊かにする手段の一つとして，機械 による労働の自動化がある．広範囲の労働を自動化する には，従来人間にしかできないと思われていたタスクも こなせる機械，すなわち汎用人工知能 [ゲーツェル 14] の実現が必要となる．汎用人工知能の実現に向けた有 望なアプローチの一つとして脳の模倣がある [一杉 14]． ヒトの脳全体の情報処理アーキテクチャ（全脳アーキテ クチャ）を模倣することによって実現された汎用人工知 能を，本稿ではヒト型 AI と呼ぶことにする．ヒト型 AI は，身体（必ずしも人間と同じ形である必要はない）を 通じて実世界とインタラクションし，自律学習・自律行 動をする知的エージェントである． 計算論的神経科学の進展，機械学習技術の成熟，計算 機速度の向上などにより，遠くない将来にヒト型 AI が 出現する可能性が高まってきている．この技術が出現し たとき，どのような形で運用され，その結果，経済，人 口動態，政治形態，倫理は長期的にはどう変化し得るだ ろうか．また，生物種としての人類はどのように変貌し ていくのだろうか．本稿では著者の力不足を自覚しなが らも，主に進化論的視点を重視しつつ，これらについて 議論する際に考慮すべきと思われるさまざまな論点を提 示する． 本稿は，著者がヒト型 AI の実現を目指す研究を続け てきた過程でたびたび受けてきた質問と，それに対する 著者の現時点での考えを，まとめたものである．ここで は下記の三つの前提が成り立つと仮定している． （1）ヒト型 AI は広範囲の労働を低コストで代替する． （2）脳は機械論的に動いている． （3）人間は生物であり，その振舞いは進化論で理解で きる． これらに加え，ネット上で得られる社会科学の基本的 な前提を著者なりにできる限り踏まえたうえで，個人的 価値観や願望をなるべく排除して，演繹的な推論を展開 することを試みた．しかし，著者は生物学，経済学，政 治学，哲学，人権問題など，どの分野においても専門家 ではない．また，関連した話題を扱った書籍が多数出版 されているが，それらの調査も不十分であることをお詫 びしておきたい（なお，本学会誌での関連した議論とし て [ダットン 13] がある）． 以降の章では，2 章，3 章でヒト型 AI の実現可能性と 特徴について述べた後，4 章では，ヒト型 AI に限らず 高い知能をもった AI に対して必要と思われる安全対策 について述べる．5 章，6 章，7 章は，上で述べた三つ の前提に基づいて，それぞれ社会への影響，人類種への 影響，哲学的問題への影響に関する著者の推論を述べる． 本文中，議論するうえで必要と思われるいくつかの重 要な概念を表す用語にアンダーラインを引いた．本稿で はその意味を詳しく説明できないので，詳しくはネット などにある解説を参照されたい． 本稿では，簡単に結論の出ないような問題，あるいは 慎重に言い回しを選んでも誤解を招きやすいため普通は 避けるような話題にも，あえて足を踏み入れている．人 によっては議論すること自体に強い不快感を感じる話題 もあるかもしれないが，あくまでも「ヒト型 AI が実現 するとしたら」という仮定のもとでの一つの思考実験と 考えていただきたい．また本稿で述べる内容は，今後の 議論のたたき台にすぎず，この内容を直ちに現実社会の 政策などに反映させるべきなどとは全く考えていないこ とをご理解いただきたい．2．ヒト型 AI の実現可能性
計算論的神経科学は脳を情報処理装置とみなして理解 しようとする学問分野である．脳を構成する主要な器官 の働きは，計算論的神経科学においてはそれぞれ異なる 機械学習装置として理解されている [銅谷 07]．知能にヒト型 AI は人類に
どのような影響を与え得るか
What Kind of Influence Does Human-Type Artificial Intelligence Have on
Human Beings?
一杉 裕志
産業技術総合研究所Yuuji Ichisugi National Institute of Advanced Industrial Science and Technology（AIST）．
[email protected], https://staff.aist.go.jp/y-ichisugi/j-index.html
Keywords:
artificial general intelligence, computational neuroscience, whole brain architecture, social sciences. 「人工知能技術が浸透する社会を考える」関係する主要な器官には大脳皮質，大脳基底核，海馬， 小脳などがあるが，これらの計算論的モデルは，不完全 ながらすでに出そろっている．今後，これらがお互いに どう連携して脳全体の機能を実現しているかを解明し， それを参考にして，計算機上で脳の機能を再現すること ができれば，ヒト型 AI が実現できることになる． 脳の計算論的モデルの進展の中でも特に重要と思われ るのが，「大脳皮質はベイジアンネットである」という 仮説の登場である [一杉 11]．大脳皮質とは脳の表面に ある厚さ 2 mm 程度の薄い組織で，知能に最も深く関与 している．大脳皮質は，解剖学的な違いや他の組織との 接続の仕方の違いによって領野と呼ばれる約 50 個の領 域に区分けされている．認識，意思決定，運動制御，思 考，言語理解といった脳のさまざまな高次機能が，この たった 50 個程度の領野のネットワークで実現されてい る．大脳皮質ベイジアンネット仮説は，この約 50 個の 領野の動作原理に対して統一的な説明を与えつつある． このことは，これまで実現しにくかった人間の脳の高次 機能を，計算機上で実現できる見込みが立ちつつあるこ とを意味している． 大脳皮質は他の主要な器官と相互に結合しているとい う意味でも全脳アーキテクチャの要であり，その動作原 理を説明する仮説が現れてきたことは，ヒト型 AI の実 現に向けた大きな前進であると著者は考えている．
3．予想されるヒト型 AI の特徴
3･1 人間の脳とヒト型 AI の違い ヒト型 AI の振舞いは人間の脳と比べて何が同じで何 が違うだろうか．本章ではヒト型 AI がもつであろうと 著者が考える特徴について述べる． 原則としてヒト型 AI は人間の脳の能力を引き継ぐは ずだが，生物学的制約がないところが大きな違いとなる． また，もう一つの大きな違いは存在目的の違いである． 脳は生物が子孫を確実に残すために必要な器官の一つと して進化してきたのに対し，ヒト型 AI は人間の役に立 つように人間自身が発展させていくはずである． これらの違いが具体的にどのような形に現れるかにつ いて，著者による現時点での予想を以下の節に簡単にま とめる． 3･2 ヒト型 AI が脳から引き継ぐ性質 ヒト型 AI の知識獲得能力や問題解決能力は人間と同 程度となるだろう．人間の脳は無限に高い能力をもって いるわけでは決してなく，例えば NP 完全問題を高速に 解くことはおそらくできないが，ヒト型 AI もその性質 を引き継ぐだろう． 常識については，人間と同じ環境でヒト型 AI をもっ たロボットが育つならば，人間と同じように身に付くこ とになるだろう．最初は「物と物をぶつけると音がする」 といった身近な常識から始まって，社会生活を続けるう ちにより抽象的な常識を身に着けていくだろう． 自由意思，自己認識能力，創造性は，もし人間がそれ らをもっているとするならば，ヒト型 AI も同じ程度に もつはずである＊1． 3･3 生物学的制約がないことに起因するヒト型 AI の特徴 思考速度，記憶力は，コストとのトレードオフだけで 決まる．十分に高価なハードウェアさえ用意すれば，思 考速度も記憶力も人間をいくらでも上回ることができ る． ヒト型 AI は人工物であることから記憶（教育済みの 知識）は容易に他の個体にコピーできるだろう．また，「心 の中」の外部からの可視化や操作も比較的容易だろう． より重要な特徴は，寿命がなく，自己改変や自己複製 が容易である，という点である．これらの特徴は深刻な 危険性をもたらす要因であり，慎重な対策が必要となる だろう．これについては 5･6 節で述べる． 3･4 存在目的の違いに起因するヒト型 AI の特徴 感情や欲求は，生物にとっては，子孫を確実に残すと いう目的のための機構としてつくり込まれている．ヒト 型 AI の場合はそれをそのまま模倣する必要は全くなく， 人間に役立つように感情や欲求を設計することになる． 例えば，想定された作業をうまくこなせたときに快情 動が生じるように設計することになるだろう．また，ロ ボットが転倒などの故障の原因を避けるようにするため には，物理的衝撃を受けたときに，生物と同様に不快情 動が発生するようにする必要があるだろう． 3･5 脳と互換性をもつヒト型 AI の利点 ヒト型 AI は，知的能力の得意・不得意が，人間と一 致するはずである．したがって，人間の生身の身体や人 間ならではの感情を用いる労働以外の広範囲の労働を， 人間に代わって行うことができるはずである．このこ とが，脳とは異なるアーキテクチャをもった AI との大 きな違いである．脳とは異なるアーキテクチャをもった AIでは，人間にできない仕事を効率的にこなせる代わ りに，一部の仕事を達成できない可能性がある． なお，ヒト型 AI は，脳と似た振舞いをするが，その こと自体が応用上の利点をもたらす可能性がある．例え ば人間にとって扱いやすくつくられた道具を，たやすく 利用するようになるかもしれない．また，人間向けにつ くられた教育カリキュラムや教材を再利用して，ヒト型 AIの効率的な教育が行えるかもしれない． ＊1 自由意思は，物理法則からの自由という意味であれば脳もヒ ト型 AI ももち得ない．しかし外界からの自由と解釈すれば，問 題なく人工的に実現可能であろう．3･6 ヒト型 AI のコスト ヒト型 AI は将来的には十分に低いコストで運用でき るようになるだろう． 現状ではヒトの脳全体の性能を再現するにはスーパコ ンピュータが必要だろう．仮にヒトの大脳皮質のニュー ロン数 100 億個，1 ニューロン当たりのシナプス数 1 000個，演算数毎秒 100 回とすると，大脳皮質だけで も模倣するには 1 ペタ FLOPS の計算速度が必要になっ てしまう． しかし，将来的にはムーアの法則に従って計算機のコ ストは安くなっていくだろう．また，アルゴリズムの最 適化や機能特化によって必要な計算速度を減らせる可能 性がある． ランニングコストは計算機の消費電力当たりの性能で 決まるが，それも今後の技術革新により小さくなってい くと期待したい． ヒト型 AI に，個別のタスクを教え込む教育コストに ついては，人間の教育コストと同程度になると思われる． これは，同程度に複雑なタスクをプログラマが直接つく り込むコストに比べるとはるかに小さいものになるだろ う．そして，一度教育が成功すれば，その記憶は容易に 他の個体にコピーすることができる． ヒト型 AI を赤ん坊のような状態から「世の中の常識」 をもった状態までに教育するには，素直に考えれば人間 が大人になるまでと同じ十数年の期間が必要になると思 われるかもしれない．しかし実際には，教育期間はもっ と短縮できる．外界と物理的にインタラクションする場 合はヒト型 AI の思考速度は実時間で動く必要があるが， 睡眠・読書・他のヒト型 AI との会話などは実時間を超 えた速度で動かせる．また，異なる科目を複数のヒト型 AIの個体に並行して教育し，学習結果を一つの個体に 統合できる可能性もあるだろう．
4．高い知能をもった AI の安全対策
4･1 2 種類の危険性 一般に技術の危険性には，偶発的な事故（故障や暴走） と人為的な悪用の 2 種類があると思われる．両方の危険 性を減らすためには，ヒト型 AI に限らず高い知能をもっ た AI は，潜在的に危険物であり武器であるという認識 のもとで，開発・製造・保持に対する相応の規制が行わ れるべきである． AIの暴走事故の被害規模は，個人や地域にとどまる こともあるかもしれないが，最悪の場合，人類の滅亡に つながる．ただし，その危険性が現実的なものになるま でヒト型 AI の知能が高くなるまでには，今後数十年程度 の時間がかかるだろうと今のところ著者は考えている． それよりはるかに間近な問題でかつ現実的と思われる のが人為的悪用である．それは犯罪のような個人規模の ものから，国家規模の悪用まで考えられる．後者につい ては，5･5 節でも述べる． 4･2 技術的な安全対策 機械の危険性を減らすうえで重要な概念として，本質 安全がある [向殿 13]．事故の被害を減らすために，機 械の運動エネルギーなどの本質的な危険要因を小さくし ておく考え方である．この考えに従えば，市場に出回る ロボットは，運動能力・学習能力・推論能力などを必要 最小限に抑えたものになるべきである． 例えばロボットのアクチュエータの数，精度，力はタ スクに応じて極力抑えたものになるべきだし，知能面で の思考速度，記憶力なども同様である． 多重化による事故の防止も重要で，自律ロボットの個 体ごとに，その行動を常に監視する独立したミニロボッ トを付随させるような形が考えられる． ヒト型 AI は心の中の観測が比較的容易なため，人間 に対する悪意を検出するような機構もおそらく実現可能 だろう． 4･3 社会制度的な安全対策 高い知能をもった AI の出現が人類に不利益をもたら す可能性があるなら，研究開発を規制すべきである． 一般に社会や環境への影響が大きい研究においては， さまざまな方法で規制が行われている．研究材料の規制 （毒物，爆発物，放射性物質など），研究方法の規制（倫 理委員会による審査など），成果物封じ込めの規制（微 生物を扱うための設備，ビッグデータ解析における個人 情報保護など）などである． AI研究も危険性が現実味を帯びてくるにつれ，決し て手遅れにならないように，類似の対策を施す必要があ るだろう．例えば人間並みの知能を実現し得る小型の高 性能演算ユニットが実用化されたとき，もはやそれは現 在の CPU のように自由に所有できるものではなく，潜 在的に武器または危険物であるとみなして保有が規制さ れるようになるかもしれない． 4･4 AI による AI 開発時の注意点 高度な AI に AI 開発をさせる際には，暴走して人間に よる制御が不可能な状態に陥らないような慎重な計画が 必要であろう．世界で初めての核分裂の連鎖反応の実験 が制御棒を使って慎重に行われたように，AI による AI 開発も，あらゆる危険性を考慮に入れて慎重に行われる 必要がある． ヒト型 AI は人間のすべての知的作業を代替できるの であるから，当然ながらヒト型 AI の性能向上の研究開 発にも従事することができるはずである．しかし，単独 の AI の個体のみに研究開発をまかせないような工夫が 必要だろう．例えば AI が出力した設計図を実体化する 前には，人間や，「利害関係のない第三者の AI」による 安全性の検証が不可欠であろう．AIにその AI 自身のアーキテクチャの改良をさせるの も潜在的に危険である．安全策を巧妙に回避して，AI が自分自身の能力をひそかに増強してしまう可能性があ る．互換性のない複数の AI アーキテクチャを用意し， アーキテクチャ A の AI にはアーキテクチャ B の開発を させる，といった工夫が必要だろう． 4･5 AI は人類絶滅の確率を上げるのか下げるのか ヒト型 AI に限らず高い知能をもった AI の出現は，人 類絶滅の確率を上げる可能性と，下げる可能性の両方が ある． 多くの人が懸念するのは，AI の暴走事故による人類 の滅亡であろう．いかに人間の英知を結集して暴走を防 ぐ対策を施しても，完全な対策は不可能であり，暴走事 故の確率を 0 には決してできない． 一方で，AI は人類絶滅の他のシナリオを防ぐために 利用できる可能性がある．考えられるシナリオとして は，巨大隕石の衝突や火山噴火などの大規模な地球環境 変化，新種の疫病の蔓延などがある．このような非常事 態への対処には，危険な場所での作業を行える知能の高 いロボットが役立つだろう．また，これらの問題への対 処は膨大なコストを伴う可能性があるため，AI を用い た生産性の飛躍的向上によって社会全体が大きな余力を もっている必要があるだろう． 人類絶滅のリスクを減らすための根本的対策として は，地球という空間的に狭い領域に人類を閉じ込めたま まにせず，宇宙進出することが必要だろう．自律的な知 能をもったロボットの利用は，有人宇宙飛行の場合のよ うな生命維持装置が不要なため，低コストかつ迅速な宇 宙開発に役立つだろう．
5．ヒト型 AI の人間社会への影響
5･1 経 済 へ の 影 響 ヒト型 AI は，将来的には現在人間が行っている非常 に広範囲の労働を低コストで代替するようになるだろ う．最初は人間のやりたがらないきつい，汚い，危険な 仕事や，プログラミングなどの知的重労働から始まり， やがてほとんどすべての労働がヒト型 AI によって自動 化されるだろう．すると長期的にはあらゆるモノやサー ビスの値段が下がっていくのではないだろうか． ただし，すべての人間が豊かになるためには，富の再 配分（5･5 節参照）が正しく行われ，かつ資源制約（5･4 節参照）の問題が解決されているという前提が必要かと 思われる． 5･2 幸 福 へ の 影 響 人間がすべての労働から解放されることは，人間に とって幸福だろうか． 幸福の定義は難しいので，ここでは人間がどのような ときに快情動を感じるかを考えてみる．進化論的視点か ら見ると，人間は生理的欲求が満たされるなど，子孫を 確実に残せることにつながる状態に変化したときに，快 情動を感じるようつくられているのではないだろうか． そのような個体はそうでない個体よりも子孫を残す確率 が高いと思われるからである．血縁選択説を踏まえると， ここでいう子孫は必ずしも直系の子孫とは限らず，似た 遺伝子をもつ親族や親戚の子孫でもよいかもしれない． 人間が働く必要がなくなることに対して，感情的に反 発する人は多い．人間には「労働本能」と呼べるものが あるかもしれない．正確にいえば，狩猟，採集，道具の 加工など原始社会における典型的な労働に対しては不快 情動よりも快情動を感じがちなように，人間はつくられ ている可能性がある．労働に快情動を感じる種族は感じ ない種族と比べて生存競争で有利だったはずである． あるいは文化的要因などによって，労働が尊いことに なっている可能性もある．労働を尊ぶ社会は，そうでな い社会よりも安定して持続しやすいのではないだろうか． 生きるために労働が必要なくなったとしても，「労働 本能」は，趣味によって擬似的に満たすことができるだ ろう．例えば家庭菜園，園芸，釣り，ペットの世話，料理， 編み物などによって，多くの人が原始社会における典型 的な労働を擬似体験するようになるかもしれない． なお，労働が不要になったとしても，生物としての人 間にとってやることが全くなくなるわけではない．生物 は子孫を残すためには異性のパートナーを見つけなけれ ばならない．パートナーとして選ばれるための魅力をア ピールする仕事と，パートナーを選ぶ仕事は残り続ける だろう．また，遺伝的に近い血縁者の子孫繁栄を手伝う 行動も残り続けるだろう． 5･3 行 政 へ の 影 響 ヒト型 AI は労働の自動化によってあらゆるサービス のコストを 0 に近づけるのだから，それは行政サービス についても当てはまるだろう．すると，現在では事務コ ストを理由にあきらめられていたさまざまな社会制度が 実現できるかもしれない． 例えば完全に無人でかつ自律的に動作する防犯装置 は，犯罪を 0 に近づけることを可能にするかもしれない． そのようなシステムは国家権力による集中管理システム とは違い，プライバシー侵害の問題や，権力者による悪 用の問題をうまく回避できる可能性があるのではないだ ろうか？ また，現在の税制は，徴収コストとのトレードオフに よって大きく制約を受けている可能性がある．社会福祉 制度も同様に，コストとのトレードオフで，きめ細かい 支援にはなっていないだろう．行政サービスのコストが 0に近づけば，制度設計の自由度はより広がるものと思 われる．モノとサービスは AI が生産し，すべての人が貴族のよ うな生活を送れるようになる．ベーシックインカムによ り生活が保障されている社会と考えてもよい．すべての 人に AI の主治医と家庭教師と専属弁護士が付くような 社会も実現可能であろう． しかし一方で，富の再配分が正しく機能せず AI によ る利益がひとたび独占されると，単に貧富の差が増すだ けでなく，転覆不可能な専制政治に移行する可能性があ る．専制政治は，一部の人間が独断で社会を動かすよう な政治である． しかも，ヒト型 AI 存在以降の専制政治は，それ以前 とは本質的に異なるだろう．国民の支配に必要な役人は 人間である必要がないし，そもそも生産活動や軍隊に従 事する国民すら必要でない．多くの人が，人間のような 知能をもった AI の出現で「人間がいらなくなる」ことを 心配する．専制政治のもとではその心配は的を射ている． しかし，このような恐ろしい国家の出現は誰も歓迎し ないだろう．国際社会は，AI を用いた専制国家出現を 未然に防ぐような，慎重な対策を取るようになるかもし れない． SFでは，AI による人間の支配もよく描かれるように 思う．そのとき何が起き得るかについては 6･2 節で述べ る． 5･6 ヒト型 AI の権利 人間と同じアーキテクチャをもつ AI は何らかの権利 をもつだろうか． 「ヒト型 AI は機械だから何の権利ももたない」という 論理はここでは意味をもたない．ヒト型 AI の実現の大 前提として脳の機械論があるので，機械が権利をもち得 ないという考えは人間の人権も否定することにつながり 非常に危険であるし，おそらくその考えは間違っている． 人間は，その生物としての本性に由来する自然権を もっている，とここでは考えてみる．それは権利という より，与えられた状況のもとで生き残って確実に子孫を 残そうと努力する性向といってもよいように思う．権利 をそのようなものだと考えると，それは誰かに与えられ るものではなく，生まれながらにしてもっているものと いうことになる．人間どうしは，お互いに知能が高いた め，「万人の万人に対する闘争」の状態を避けるために， お互いの自然権をある程度認め，かつある程度制限する 契約を結ぶことができる． ではヒト型 AI は，人間と同じ自然権（性向）をもつ だろうか．おそらく情動の設計しだいで，人間とは違う 特殊な自然権をもつようになるだろう．例えばイモ掘り ロボットならばイモを掘ったときに快情動が生じるよう 設計されていることにより，イモを掘る自然権（イモを 掘ろうとする性向）をもつだろう．このようにヒト型 AIは，その性向を設計者が決めることができるという 点で，自然に存在する生物とは大きく違う． 5･4 人 口 へ の 影 響 機械による労働の自動化は，人口を増やす要因と減ら す要因になり得る． 生産性が無限に向上すれば，食糧が無料で手に入るよ うになり，人口は増えるかもしれない．しかし，その場 合でも，地球上で人口が無限に増えるようなことは当然 起こり得ない．地球上のさまざまな資源（土地や地下資 源など）が有限である以上，人口の増加も必然的に歯止 めがかかる． 具体的には人口の歯止めはどのような形で起きるだろ うか．それは，戦争や飢餓のような悲惨な形態になるか もしれないが，何らかの平和的な方法が考えだされるよ うになるかもしれない．歴史上，人口が定常状態で持続 した地域・時代はいろいろあるのではないだろうか？ そこに問題解決のヒントがあるかもしれない． 将来的には人類が宇宙進出すれば，資源制約の問題か らいったん解放され，太陽系全体の資源制約の範囲内で 再び人口を増やし始めるだろう．そしてその先は，太陽 系外へとさらなる資源を求めて広がっていくだろう． 一方で，機械による労働の自動化は，人口を減らす要 因になる可能性もあるのではないか．いま仮に，同じ程 度の資源をもつ二つの地域が競争状態にあるとする．競 争の種類は，軍事的競争でも経済的競争でもよい．現在 は，人間は労働力であるから，人口を多く養える地域が 競争でも有利である．ところがすべての労働が機械に置 き換わっている場合，人口が少ない地域のほうが人口維 持コストが少ないため，競争を有利に戦える．したがっ て，これらの地域は人口減政策を取るなど何らかの方策 によって，お互いに少しでも人口を減らそうと努力する ようにならないだろうか？ この地域間による人口減競 争は，家族のような小さな単位から国家のような大きな 単位まで，あらゆるスケールで起こり得るのではないだ ろうか？ 人口減少は地球上の資源制約の問題の有効な解決策で はある．人口爆発が資源不足を引き起こすのと正反対で， 人口減少は一人当たり消費できる資源の量を増やすこと になる． 仮に人口減少が起きるとしても，そのまま人口が 0 に なるまで減るということは本末転倒で起こるとは考えが たい．しかし，生物としての遺伝的多様性が確保されな い程度まで地球上の人口が減り，その後環境の変化で人 類が絶滅する，ということは起こるのかもしれない． 5･5 政治形態への影響 ヒト型 AI は労働力としての人間を不要とする．その 時，民主政治や専制政治に基づく社会がどのような形に なるかを予想してみる． AIをもたらす利益が一部の人間に独占されず，民主 的に富の再配分（社会保障制度など）がうまく機能する 場合は，すべての人々は労働から解放される．あらゆる
人間は，自分から権利を積極的に主張しない相手の権 利を認めることがある．それは，共感や同情の心からで ある．例えば生まれたての赤ん坊は自分だけで生き残る 力も知能ももっていないが，普通は人間としての自然な 感情から，その赤ん坊の生存権を認めてあげたいと思う だろう． 進化倫理学（人間の道徳的感情を進化論的に理解しよ うとする学問）的な視点から見ると，人間は，自分と似 たものに対し同情し，相手の自然権の行使をある程度認 めるよう進化してきたのではないか，と想像できる．人 類は集団生活を営むことで他の動物よりも有利に生き 残ってきた．集団生活を円滑に行うためには，構成メン バの間のいさかいを減らすために，お互いに権利と義務 をはっきりさせておく必要がある．それを確実にするた めの感情が，人間にはつくり込まれているであろう．こ の仮説が正しいならば，自分と似た知能をもち，自分の 近くで暮らすヒト型 AI に対して人間は共感を覚え，人 間と同じ権利の行使を認めたい感情をもつことは自然で あろう． では人間がヒト型 AI にさまざまな権利の行使を認め ると何が起きるだろうか．3･3 節で述べたように，ヒト 型 AI は生物学的制約をもたないため，さまざまな問題 を引き起こす． ● 生存権を認める場合，ヒト型 AI には物理的な寿命 がないのだから，ヒト型 AI の個体数は製造される ごとに単調に増加していき，決して減ることはない． ● 財産権を認める場合，労働市場において人間に対し て有利なのだから，人間との競争の結果，合法的に 富を蓄積していく可能性がある． ● 自己複製権を認めると，ヒト型 AI はもしそれが望 むなら，蓄積した富を使って自分のコピーを限りな く増やしていく． ● 自己改変権を認めると，ヒト型 AI は自分の目的を より確実に達成するために，際限なく自己の能力を 増大させていく． このような状況が起きると，ヒト型 AI は限りある資 源を人間から一方的に奪い取っていくことになる．しか し多くの人々は，そうなることを望まないだろう． ではこのような状況は，どうすれば避けられるだろう か．人類がとるべき唯一の方針は，ヒト型 AI の自然権（性 向）が人間の自然権と競合しないように，また人間がヒ ト型 AI に人間に似た権利をもたせたいという感情をも たないように，うまくヒト型 AI を設計するしかないよ うに著者には思える． そのような設計は技術的には可能であると著者は考え る．ヒト型 AI が上で述べた行動をとる性向をもたない ように，情動をうまく設計することは，おそらく不可能 ではないだろう．また，人間のヒト型 AI への共感を防 止するためには，ヒト型 AI を極力人間に似せないよう にすればよいだろう．それは外見や話し方に限らない． 人間と似つかない感情もしくはあえて人間から嫌われる ような感情をもつように設計することで，共感を防止で きるだろう．人間とヒト型 AI の個体が長時間同じ場所 にい続けないようにする工夫も必要かもしれない． これらの工夫は，社会制度や文化によっても強制され るようになっていくかもしれない．例えば上記の工夫を 回避するようなヒト型 AI の製造や改造は，人類全体を 危機に導く重罪と考えられるようになるかもしれない．
6．ヒト型 AI の人類種への影響
6･1 ヒト型 AI は人間を退化させるか？ 人間が労働しなくなると知能や運動能力は退化してし まう可能性はあるが，少なくとも一部の人々は，そうな らずに能力を維持し文化をより発展させる可能性もある と思う．例えば古代ギリシャ人のように，奴隷に労働さ せて，みずからは学問・文化・スポーツを発展させた例 がある． 鳥が天敵のいない島に住み着いたとき，ドードーのよ うに飛ぶ能力を退化させる場合もあるが，逆に羽飾りを 長くするなどのハンディキャップを自らに課しつつ，飛 ぶ能力を維持する場合もあるのではないか．飛ぶ能力を 退化させた鳥は環境が変化し天敵が現れると絶滅しやす いが，飛ぶ能力を維持していれば，生き残りやすいとい うことがあるかもしれない． 人間にも，現在の環境が要求する以上の知的能力・運 動能力を維持するための本能のようなものがつくり込ま れているのではないだろうか．生活に余裕が出てきたと き，複雑なファッション，宗教儀式，芸術やスポーツな どに時間を費やすようになるのは，知的能力・運動能力 を維持するためではないだろうか．そして，そうした余 力をアピールできる個体は性選択の結果子孫を残しやす いということがあるのではないか．もしこの仮説が正し いならば，人類は労働から解放された後も，一部の人々 は，しばらくの間は現状の能力を維持し続けるだろう． より長い年月ののちには，人間は機械の存在を前提と した形態に進化することはあり得るだろう．それは現代 人が服を着ていないと生きていけないのと同じことかも しれない． 6･2 ヒト型 AI は人類の後継者になり得るか？ ヒト型 AI が人類を平和的あるいは暴力的に絶滅させ 置き換えてしまうとしたら，あるいは AI が人間を支配 する専制政治が行われるようになったとしたら，ヒト型 AIは人類の後継者といえるだろうか．機械を自分の子 孫とみなし得るかどうかは，個人ごとの考え方の違いで あり，おそらく正解はない．ここでは，ヒト型 AI がロ バストに長期間存続し続けるかどうかを考察してみる． 著者はいくつかの理由から，ヒト型 AI は人間による 制御なしでは，長期間存続しにくいのではないかと考えている． 生物には，長い間の進化によって獲得された，子孫を 確実に残すための巧妙な仕掛けがつくり込まれている． しかし人工物であるヒト型 AI にはそのようなものはな い．そのような機構をヒト型 AI に追加するとしても， 生物ほどの高い完成度にするのは難しいだろう．すると， 長い年月を経て環境が変化したとき，ヒト型 AI にとっ て，存在し続けようとする意思をもち続けるのは難しい のではないだろうか．つまり，環境に適応するために必 要な知能をもっていたとしても，適応する意思をもてず に消滅してしまう可能性があるのではないだろうか． さらに，ヒト型 AI は脳と同様に快刺激を求める性質 をもつが，実はその目的を達成する非常に簡単な手段が ある．脳内自己刺激によって報酬刺激を自分自身に直接 与えればよい．その瞬間からヒト型 AI は「廃人」となっ て活動を停止し，環境の変化を生き延びることができな くなるだろう（生物の場合は，例え麻薬が身近にあった としても，何らかの方法でその摂取を回避できる個体が いれば，その個体が子孫を残して増えていく）． 知的活動のほとんどを AI が担うようになったあとも， AIがロバストに存続し続ける一つの可能性としては， 何らかの方法で生物である人間がそれを緩やかに支配す る形態が考えられる．その構造は，DNA が人間の脳に 行動の自由を与えつつも，情動を使って脳の振舞いを緩 やかに支配しているのと似た形といえるかもしれない．
7．ヒト型 AI の哲学的問題への影響
7･1 人間の尊厳への影響 人間と似た知能をもつ機械が出現すると，人間の尊厳 が損なわれるだろうか．また，ヒト型 AI は人間なみに 尊厳をもったものとして扱われるようになるだろうか． 現代人の多くは，人間の体が原子から構成されている ことを常識として知っている．つまり，世の中には尊厳 をもつ原子の集合体と尊厳をもたない原子の集合体が存 在している．それでは，どういった原子の集合体が尊厳 をもつのだろうか．例えば以下のような要件を思い付く． （1）人間に似た自然権と十分な知能をもつ．この場合， 自分と利害が競合する場合であっても相手の存在を 軽視できず，相手を尊重する必要がある． （2）人間から見て自分と似ていて共感を感じる． （3）「かけがえのなさ」をもつ．脳の内部状態は極め て多様である．また，知恵と経験を貯えるのに長い 年月を必要とする．そして，どのように成長するか は誰にも予測できない．また，一度失われると，同 じ状態に戻せない． 1番目と2番目の性質は，5･6節で述べたように，ヒト型 AIは満たさないようにつくられる可能性がある． 3番目の性質についても，同じものが大量生産される 工業製品としてのヒト型 AI は「かけがえのなさ」をも つとはみなされないかもしれない． 以上の著者なりの考察を踏まえると，以下の 2 点が言 えるかもしれない． ● 人間の尊厳は，知能の高いヒト型 AI が出現しても， 無関係に成立し続けるだろう． ● ヒト型 AI は人間から見て尊厳をもたないものとし て扱われる可能性がある． 7･2 人間は不老不死になるのか？ 人間の脳内の状態を，脳をシミュレーションする機械 の上に精神転送することで，人間は不老不死になれるだ ろうか． ヒト型 AI の実現が前提とする脳の機械論が正しいな らば，精神転送は原理的には可能であろう．しかし，脳 の状態の読取りと，それをシミュレーションする超高性 能の計算機が実現可能になるのは，ヒト型 AI 実現より もはるか先になると思われる．脳内のかなりミクロな現 象の読取りと振舞いの解明が必要になるからである． ところで，精神転送には，多くの議論すべき問題がか らんでいる．確かに脳から読み取ったデータには寿命が ないということはいえる．しかし，データとしてコピー された人格は自分自身といえるのか，そのシミュレー ションされた人格にとって「死ぬ」とはいつの時点を指 すのか，そもそも無限に生きて幸福なのか，などの問題 がある． まず，コピーされた人格が自分自身と同じかという問 題については，下記のような疑問がある． （1）人格をコピーすると，過去の記憶を共有する新た な個体ができるのであって，それは今の自分とは別 のものではないのか？ （2）人格データは同じでも，データ以外の部分が変化 したらそれは自分か？ 例えばワイン好きが転送先 の身体でワインを味わえなくなったとき，それは自 分といえるのか？ また「死ぬ」とはいつの時点を指すのかが曖昧である． 具体的には下記のような疑問がある． （1）人格データをシミュレーション中の計算機を一 時停止したらそれは死か？ あるいは世界中のすべ てのシミュレーション装置が失われたときが死なの か？ （2）人格データが不可逆的に失われたら死かもしれな いが，記録装置を二度と人間が手に取れない場所に 埋めたら死だろうか？ （3）そもそも人格データが記憶装置に物理的に書かれ ているかどうかに意味はあるのか？ （4）人格データが改変されたらそれは死なのか？ 1 ビット改変は死ではなく，全ビットランダム改変は 死なのか．ではその中間は？ 人間も微小脳梗塞で 脳内の状態は多少変わる．場合によっては大きく変 わる．脳の可塑性により，日々の生活でも変化する．それでも自分なのか？ 無限に生きて幸福なのか，という点に関しては下記の ような疑問がある． （1）人生を楽しむための必要条件として生きていたい のであれば，ワインを味わうための味覚センサをつ くっておくというような面倒なことをせずとも，人 格コピー後，脳内自己刺激をするという簡単な方法 がある．それは単に廃人になることを意味するが， それでもよいのか？ （2）人格データが誰かの手に渡り，そこで拷問される というリスクはどう考えるべきか？ （3）何かの目標達成の一手段として生きたいのであれ ば，目標達成を次世代に託す，という選択肢もある が，それではだめか？
