1．は じ め に
「ドラえもんに意識があるか？」と聞かれれば，ほと んどの人が自信をもって「ある」と答えるのではないの だろうか．ドラえもんとは，日本人ならほとんどの人が 知っているであろうアニメーションのキャラクタであ り，世代を超えて今もなお愛され続けている．ドラえも んは，人間のようにしゃべり，動き，笑い，ときには涙 し，姿形（ネコ型ロボット）以外は人間とほとんど区別 のつかない存在である．主人公の，のび太はドラえもん を，意識のない無機的なロボットとは考えておらず，人 間の友達と同等かそれ以上の親友であると考えていると 思われる． 今後，技術が発達して，ドラえもんのようなロボット または人工知能が出現した際に，我々はそれに意識があ るのかという問いに直面する．もちろん，ドラえもんに 近いロボットが現れるのは，まだまだ先の未来であろう が，その一部の能力，例えば会話の能力などが，人間と 区別がつかなくなるようなことは，そう先の未来ではな いかもしれない．ドラえもんのように，人間と会話がで きる人工知能と対話をしたとき，我々はそれを意識のあ るものとみなすだろうか？ 本稿では，人工知能の意識という問題を，統合情報理 論（Integrated Information Theory：IIT）の観点から 考察する．IIT とは，意識を情報の観点から数理的に記 述しようと試みる理論である [Oizumi 14, Tononi 16]． IITは「情報」と「意識」とを相同であるとみなすこと によって，人間の意識だけでなく，他の生物の意識，そ して人工知能の意識をも説明する一般性を有している． 本稿では，IIT の成り立ちを解説し，この理論に基づき 人工知能の意識を評価する方法論を解説する．2．意識という言葉の意味
「意識」という言葉は，明確な科学的定義というのが まだ存在していないため，使う人によってさまざまな意 味をもってしまう．本稿で扱う意識の意味とは，主観的 な体験のことである．そして，主観的な体験には質的な 側面と量的な側面がある．それぞれの意味を簡単に説明 する． 2･1 意識の質・クオリア 意識の質的側面とは，赤色を見たときに主観的に感 じる独特の質，「赤の赤らしさ」のことで，クオリアと 呼ばれる．「ヴァイオリンの音」，「納豆の匂い」，「味噌 汁の味」，「歯の痛み」など，さまざまなものに対してそ れぞれ独特の主観的に感じる質，クオリアがある．クオ リアの重要な特徴として，言語化不可能であり，他者と 共有できない私秘的な体験であるということがあげられ る． 例えば，あなたが感じている歯の痛みを他者に伝える ことを考えよう．「どんな感じで痛むの？」と聞かれた とき，あなたは「キリキリ痛む感じ」，「キーンと痛む感 じ」，「ドーンと痛む感じ」などの謎の擬音語を駆使して 何とか伝えようとすることであろう．しかし，そもそも この「キリキリ」，「キーン」，「ドーン」という擬音語で 自分が今感じている痛みが正しく伝えられているのか， しだいにもどかしくなってくる経験はないだろうか？ もちろん，歯の痛みをこれまで経験した人になら，多分 伝わっているのではないかという淡い期待をすることは できる．しかしながら，自分が感じているこの痛みと， 他の人が感じる痛みとが同じ体験なのかは究極のところ 確証がもてず，どう頑張っても自分の主観的な体験を伝 えることができない事実に落胆する．この伝えようとし ても，どうやっても伝えることができない自分だけの主 観的な感覚がクオリアである．統合情報理論から考える人工知能の意識
Artificial Consciousness from the Perspective of Integrated Information
Theory
大泉 匡史
株式会社アラヤMasafumi Oizumi Araya Inc. [email protected]
Keywords:
consciousness, artificial consciousness, integrated information theory. 「意識とメタ過程」2･2 意識の量・意識レベル 意識の量的側面とは，意識レベルと呼ばれ，例えば覚 醒時は意識レベルが高く，睡眠時は意識レベルが低いと いう使い方をする．意識は，しばしば意識があるかない かという all or none のものとして捉えられることもあ るが，実際は連続的に変化するものであると考えられて いる．本稿では，意識の質的側面を主に議論し，量的側 面に関しては扱わない．量的側面に関しては [大泉 12, Oizumi 14a, 大泉 17] を参照されたい．
3．人工意識を評価する二つの立場
人工知能の意識を評価するうえで，二つの異なる立 場をはっきり区別しておくことが重要である [下條 15]． 一つ目は，人工知能それ自身の一人称視点で意識，主観 的な体験が存在するかどうかを問題とする立場．もう一 つは，人工知能を使う人間から見て，二人称・三人称視 点で人工知能に意識がありそうに見えるかどうかを問題 とする立場である．前者を一人称の意識，後者を二人称・ 三人称の意識と呼ぶ． 通常のロボット・人工知能の研究の観点からは，二人 称・三人称の意識が問題となる．なぜなら，ロボット・ 人工知能は通常，人間の生活に役に立つことを目的とし て設計されるため，使う側の人間が「意識をもっている と思うかどうか」が問題であるからだ．つまり，ドラえ もんと直接に接するのび太や，他の第三者にとって，ド ラえもんが意識がある存在に見える以上，ドラえもんに 一人称の意識があるかどうかは二義的であり，実効的な 意味をもたないのである．また，そもそも一人称の意識 とは，自分だけの主観的な体験であるため，究極のとこ ろ検証するすべがない．これは，他人が意識をもってい るかを究極のところは検証するすべがないのと同じであ る．したがって，人工知能に一人称の意識があるか否か はそもそも問いとして考えることすらできないと考える のは，一見妥当に思える [下條 15]． 本稿は，この考え方とは異なり，人工知能に一人称の 意識があるか否かのみを考察する．本稿で解説する IIT が対象とするのは一人称の意識であり，二人称・三人称 の意識は対象にしない．本稿では IIT に基づき，人工知 能の一人称の意識をどのように定量的に評価するか，と いう方法論を議論する．4．統合情報理論の成り立ち
最初に断っておくと，IIT はいわゆる「意識のハード プロブレム」を解決しようと試みる理論ではない．「意 識のハードプロブレム」とは，なぜ電気的・化学的な反 応の集合体である脳活動から，主観的な体験が生まれる のかという問いであり，現代の科学の枠組みでは解け ない問題とされている．我々の脳を詳細に調べることに よって，例えば「赤色」を見たときに我々の脳内で何が 起こるかの詳細は理解することができる．「赤色」を見 たときであれば，まず網膜の神経細胞が活動し，その情 報が視床へと伝達され，さらに大脳皮質へと伝わると いった情報処理が行われることを，我々はすでに知って いる．しかしながら，なぜその情報処理過程が行われた 結果，「赤色」特有の主観的な体験が生まれるのかとい うところが，いつまで経っても説明することができない． これが意識のハードプロブレムと呼ばれる問題である． 意識のハードプロブレムとは，脳を出発点として脳を 理解することから，意識がなぜ生まれるかを解明すると いう論理の方向性である（図 1（a））．IIT とはこの方向 性とは全く逆で，意識が存在するということを前提とし て認めることを出発点とし，自分自身の意識の観察（現 象論）から，意識の本質的な性質を同定する．そして， 意識の本質的な性質は数学で表現し，検証可能な予測を 行う．IIT の予測は，人間や動物を対象とした神経科学， 心理物理学，医学的な実験によって，十分に検証を行う べきである（図 2）．もし仮に，今後の検証によって理 論の有用性が確かめられれば，理論は生き残るし，反証 が見つかれば，理論は修正されるか，もしくは全く別の 理論に取って代わられることになるだろう．この過程は 通常の科学の営みと同様である．本稿では，IIT の仮説 を正しいと仮定したときに，人工知能の意識はどう評価 することができるかを解説する． 図 1 （a）意識のハードプロブレムにおける論理の方向， （b）IIT の論理の方向 図 2 IIT の成り立ちと理論の検証，そして人工知能の 意識の評価へ5．意識の本質的な性質
IITは，自分自身の意識の観察（現象論）から意識の 本質的な性質を同定する．本質的な性質は「公理」と呼 び，公理自体は自明な前提として扱い証明しない．公理 は，以下に示す「情報」，「統合」，「構造」，そして「排他」 を入れた四つであるが，本稿ではページ数の関係上「排 他」については扱わない．排他に関しては [Oizumi 14a, 大泉 14b, 大泉 17] を参照されたい． 5･1 情 報 第一の本質的な性質は「意識は情報を含んでいる」と いうことである．例えば，「赤いリンゴ」という意識経 験は，「赤いピーマン」でもなく，「緑のリンゴ」でもなく， 「黄色いアヒル」でもない．「赤いリンゴ」特有の主観的 な経験をもとに，我々はそれが食べ物なのか，動物なの かなど，さまざまな情報を得ることができる．ある一瞬 の意識体験とは，その他あり得たさまざまな可能性を除 外して選ばれた一つであり，この意味で多くの情報を含 んでいる． 5･2 統 合 第二の本質的な性質は「意識は統合されている」とい うことである．例えば，我々が「赤いリンゴ」という意 識経験をもったとき，「赤」と「リンゴ」とかが常に統 合されており，リンゴを伴わない「赤」だけの意識経験， もしくは赤を伴わない「リンゴ」だけの意識経験をもつ ことはできない．また，我々の視覚経験においては，左 視野と右視野が常に統合されており，「左視野」だけの 意識経験，もしくは「右視野」だけの意識経験をもつこ とはできない． 5･3 構 造 第三の本質的な性質は「意識は構造化されている」と いうことである．例えば，図 1 に示されるような意識経 験の中で我々は，本，青，手，足，左・右，青い本，左 にある本などの概念をもっており，構造化された意識経 験をもっていることがわかる．6．統合情報理論の数理
意識の本質的な性質を満たすために，物理系（例えば 脳）が満たすべき必要条件は，「系の内部で情報が統合 されており，情報が構造化されていること」である．こ こで，「情報」，「情報の統合」，「情報の構造」という概念を， IITは数学的にどう表現するかを簡単に解説する．数学の詳細に関しては [Oizumi 14a, Oizumi 16] を参照され たい． 6･1 情 報 IITにおける情報とは，「システムの現在の状態が，シ ステムの過去，未来の状態に対してもつ情報」を定量化 したものである．これは，システムの現在の状態を知っ たときに，それを引き起こした原因（過去）は何であり， 結果（未来）が何であるかをどれだけ予測できるかを定 量化することにほかならない．現在と過去および未来と の因果性を定量化することと言い換えることもできる． システムが多くの状態を取り得る可能性がありかつ，現 在から過去，および未来への因果性が強ければ強いほど 内的な情報量は大きくなる． 具体的な例として，二つの素子からなるシステムを 考える（図 3）．この素子はそれぞれ 1 か 0 か（ON か OFF）かの状態を取り，自分自身およびもう片方の素 子から入力を受け取っているものとする．両方の入力 が 1 であれば，次の時刻で 8 割の確率で 1 となる．そ れ以外のときは，8 割の確率で 0 となる．この二つの素 子は自分と他方の素子のインプットの AND ゲートの機 能をもっていて，8 割の確率で正常に機能し，2 割の確 率で失敗する素子だと思ってもらえればよい．このシ ステムの状態遷移をまとめた遷移確率行列（Transition Probability Matrix：TPM）は図 3 のようになる．TPM は時刻 t でシステムがある状態にあったとき，次の時刻 t＋1 で，別の状態へ移る確率を示した行列で，システム に内在するメカニズムによって定まる行列である． IITでは，TPM に基づいて「情報」，「情報の統合」，「情 報の構造」を定量化する．IIT において情報は現在の状 態に依存して決まる量である．例として，現在のシステ ムの状態が（A, B）t＝（1, 1）であるときの情報量を計算 することを考えよう．このためには，現在の状態が得ら れたときに，過去のシステムの状態（原因）が何であっ たかの確率分布
pwholecause = p((A, B )t−1|(A, B)t= (1, 1)) （1） を 求 め る． こ の 分 布 は 原 因 の レ パ ー ト リ ー（cause repertoire）と呼ばれる．このシステムの場合，原因の レパートリーは図 4（b1）のようになる．現在の状態が（1, 1）であったとき，過去の状態は（1, 1）であった可能性 が，他の可能性に比べて高いということを示している． 一方，現在のシステムの状態が与えられていないとき 図 3 （a）二つの要素 A，B からなるシステム， （b）システムの遷移確率行列
の過去の状態の確率分布，p（（A, B）t−1），は図 4（a1） のように一様な分布となる．すなわち，どの状態も等確 率で起こり得るという分布である．システムが現在ある 特定の状態，（A, B）＝（1, 1）にいること，そしてシステ ムのメカニズムによって過去の分布が図 4（a1）の一様 分布から図 4（b1）の非一様な分布へと変化する．（a1） から（b1）へとどれだけ変化したか，（a1）と（b1）の 確率分布間の距離 D が内的な情報量の大きさである．
ci = D(p((A, B )t−1|(A, B)t= (1, 1))||p(A, B)t−1) （2） この情報量は原因の情報量（cause information）と呼ば れる．確率分布間の距離 D は例えば，Kullback-Leibler 距離を使って測ることができる．その場合，ci をすべて の可能性のある現在の状態について平均を取ると，相互 情報量と呼ばれる量になる．距離 D を Wasserstein 距 離で測る方法については [Oizumi 14a] を参照されたい． 現在から未来（結果）に対する情報も同様に求められる． すなわちまず，現在の状態が得られたときに，現在のシ ステムの状態が何かの確率分布 pwhole
effect= p((A, B )t+1|(A, B)t= (1, 1))
を求める．この確率分布は結果のレパートリー（effect repertoire）と呼ばれ，図 4 の（b2）のようになる．現 在の状態が（1, 1）であるので，未来の状態も（1, 1）に なる可能性が一番高く，（0, 0）になる可能性は一番低 くなる．現在の状態が与えられていないときの未来の状 態の確率分布，p（（A, B）t＋1），（図 4（a2））と結果のレ パートリー（図 4（b2））の距離が現在から未来に対する， 結果の情報量（effect information）となる．
ei = D(p((A, B )t+1 (A, B )t= (1, 1))||p(A, B)t+1) （3） 6･2 統 合 IITでは情報の統合の度合いを統合情報量（Integrated information）と呼び，ギリシャ文字Φ（ファイ）で表す． IITにおいて統合情報量とは，システムを分割した際に どれだけ情報処理のダイナミクスが変化するかを定量化 したものとして定義される．例として，再び図 4 のシス テムを考える．このシステムの統合情報量を測るために は，まずシステムを二つに分断する（図 4（c））．ここで の分断とは，物理的にシステムを分断するわけではなく， 確率分布上の数学的操作として，二つの要素の間の因果 性を切ることを意味する．具体的にはまず，素子 A（ま たは B）だけの現在の状態だけを使って（すなわち，も う片方の状態は全く知らない状態で），A（または B）の 過去・未来の状態が何であったかの確率分布を計算する． それぞれ独立に計算された分布を掛け合わせたものが， システムの要素間の因果性を分断した際の原因・結果の レパートリーである．
ppartcause= p(At−1|At= 1)× p(Bt−1|Bt= 1) （4） pparteffect= p(At+1|At= 1)× p(Bt+1|Bt= 1) （5） これらのシステムが分断された際の確率分布は図 4 （c1），（c2）に示す．システムが分断されたことにより， システムの情報処理のダイナミクスが変化し，元のシス テムにおける原因・結果のレパートリー図 4（b1），（b2） と異なっていることがわかる．この二つの確率分布間の 距離が，統合情報量である．
pcause= D(pwholecause||ppartcause) （6）
peffect= D(pwholeeffect||pparteffect) （7）
統合情報量はシステムの分断されにくさを表してお り，要素間の因果性の強さを測る指標である．また，要 素が組み合わさることで初めて，生まれる新たな情報量 と解釈することもできる． 6･3 構 造 情報の構造をどう定量化するかを説明するために，図 5（a）に示される 3 要素からなるシステムを考える．要 素 A は B と C の OR ゲート，B は A と C の AND ゲー ト，C は A と B の XOR ゲートである．情報の構造を定 量化するためには，システム全体 ABC で行われる情報 処理，すなわち ABC の原因・結果を考えるだけでなく， システムのそれぞれの要素が行う，部分的な情報処理を 考える必要がある．具体的には，ABC のべき集合 {A, B, C, AB, BC, AB, ABC}を考えて，それぞれの要素の組合 せにおける原因・結果のレパートリーを定量化する．こ れを示したのが，図 5（b）である．図 5（b）は，下か ら上に要素の数が増えており，原因・結果のレパート リーの分布が上にいくに従って，シャープになることが わかる． それぞれの要素の組合せによって決まる，原因・結果 図 4 システムが生み出す内的な情報量と統合情報量の測り方． （a1, a2）システムの現在の状態が定まっていないときの， 過去・未来の分布．（b1, b2）システムの現在の状態とシス テムに内在するメカニズムによって，制約を受けた過去と 未来の分布（原因・結果のレパートリー）
のレパートリーは「コンセプト」と呼ばれる．図 5（b） の下段にあるコンセプトを低次のコンセプト，上段にあ るコンセプトを高次のコンセプトと呼ぶ．コンセプトの 強さは，統合情報量の値によって決まる．統合情報量が 高いコンセプトとは，それより低次のコンセプトに分解 不可能なコンセプトである．すなわち要素を組み合わせ ることで，新たな情報が多く生み出されるコンセプトで あると考えることができる．一方，統合情報量が低いコ ンセプトとは，より低次のコンセプトに分解可能なコン セプトであり，要素の組合せによって，新たな情報が生 まれていないことを示す．IIT では，原因と結果に関し て統合情報量が両方ともにあって初めて，システムの内 部の観点から，意味がある情報とみなす．AC が定める コンセプトにバツが付いているのは，原因の分布の統合 情報量が 0 であるためで，この場合 AC のコンセプトは 存在しないと考える．AC 以外の残りはすべて，原因と 結果の双方で統合情報量が 0 より大きい． AC以外のコンセプトを擬似的な確率分布の空間上に プロットした概念図が図 5（c）である．このシステムで はすべての状態の数が 8 通りであるため，確率分布の空 間は本来は七次元の空間であるが，可視化のため三次元 の空間として描かれている．それぞれのコンセプトが星 で表示されており，星の位置が特定の確率分布に対応し， 星の大きさは統合情報量の大きさを表している．コンセ プトの集合は概念構造（conceptual structure）と呼ば れる．比喩的に星座（constellation）とも呼ばれる．こ のシステムにおける概念構造は図 5（b），（c）で表され， これが図 5（a）のシステムの情報構造を定量化したも のになっている．
7．情報の構造と意識経験との同一性
IITの最も重要な仮説は，「システムの情報の構造はシ ステムが生み出す意識の質と同一である」ということで ある．つまり，前章の例の場合，システム ABC が生み 出す意識の質，クオリアは図 5（b），（c）で示される情 報の構造と同一である．情報の構造と意識とが同一であ るという意味は，システムの素子が神経細胞であっても， 半導体であっても，システムの内部の情報の構造が同じ であれば，同一の意識が生まれるということを意味する． すなわち，意識を生み出すのは，人間や動物など生物の 特権ではなく，人工知能・ロボットなども意識を生み出 す可能性があることを予測しているのである．8．統合情報理論から考える意識
前章までに紹介した IIT の考え方を用いて，いくつか の情報処理系の意識を評価する． 8･1 デジタルカメラ まず，最も簡単な例として，単純化したデジタルカメ ラを考えてみよう．デジタルカメラは独立なフォトダイ オードの集合であり，それぞれのフォトダイオードは光 のあるなしに反応して，1（ON）か 0（OFF）の状態を 取るとしよう．フォトダイオードの数が増えれば増える ほど，デジタルカメラは多くの情報をもつように見える． 通常の情報理論の観点からは，フォトダイオードがもつ 情報量は 1 ビットであり，それが 100 万個集まれば，デ ジタルカメラ全体では 100 万ビットの情報量をもつ．そ れでは，このデジタルカメラは我々のような豊かな視覚 意識をもつことが可能であろうか？ IITの観点からは，このデジタルカメラでは個々のフォ トダイオードの情報が統合されていないため，我々のよ うな視覚意識をもつことはあり得ない．フォトダイオー ドの数が増えたときに増える情報量とは，デジタルカメ ラの中のフォトダイオードの活動すべてを観測できる， 外部の観測者にとっての情報量である．デジタルカメラ が撮った写真を見て，多くの情報を得ることができるの は，それを眺める我々人間であって，デジタルカメラそ れ自身ではない．デジタルカメラの内部では，フォトダ イオードどうしはつながりがないため，他のフォトダイ オードがもつ情報にアクセスできない．したがって，シ 図 5 （a）三つの要素からなるシステム，（b）情報の構造，（c）情報の構造の概念図ステムの内部的な観点からは，デジタルカメラの中には 多くの情報は存在していない．個々のフォトダイオード の中で生じる小さな情報がばらばらに存在しているだけ なのである． 8･2 階層的なネットワーク 独立なフォトダイオードの集合からなる，デジタルカ メラでは我々がもつような視覚意識をもつことは不可能 であることを前節では述べた．それでは，我々のような 視覚意識をもつネットワークとは例えばどのような情報 構造から生まれ得るのか？ そのトイモデルとして図 6 （a）で示されるような階層的なネットワークを考えてみ る．これはいわば脳の視覚野を模したトイモデルとなっ ており，下層から上層までを V1，V2，V3 と呼ぶこと にする．このネットワークには V1 の細胞が三つあり， それぞれの細胞は 0 か 1 かの状態を取るとする．V1 は 一次元の二値画像を入力として受け取る層と考える．V2 は V1 の細胞から入力を受け取っており，V3 は V2 の細 胞から入力を受け取る．ネットワークにこのような階層 性があることで，情報が構造化される．図 6（c）は V2 または V3 の細胞がつくるコンセプトの例を示している． 例えば，V3-B は（A, B, C）＝（1, 0, 0），（0, 1, 0），（0, 0, 1） のときに発火する細胞であり，「ドット（点）」と呼べる ようなコンセプトを形成している．同様に，V2-A は空 間的な「左」（（A, B）＝（1, 1）のときに発火），V3-A は「セ グメント」（（A, B, C）＝（1, 1, 0），（0, 1, 1）のときに発火） と呼べるようなコンセプトを形成する．また，これらの 細胞を組み合わせることで例えば，「左にあるセグメン ト」というより高次のコンセプトも形成されている． 一方，このような情報の構造がないネットワークと して，図 6（b）に示されるようなネットワークを考え る．このネットワークは 2 層（V1, V2）から成っており， V2は V1 のすべての細胞から入力を受け取って，特定の 状態のときだけ（例えば 000 など）1 となる細胞だとす る．V2 の細胞は 000 から 111 までの 8 種類あるものと する．このネットワークにおいては，情報の統合は行わ れており，V1 の入力 8 種類をすべて弁別する能力を有 している．単純に入力画像の弁別能力という意味では図 6（a）の階層ネットワークと変わらない．しかしながら， 情報の構造化がされておらず，図 6（a）でつくられる ようなコンセプトはいっさいつくられない． 情報が構造化されるということの意味とは，意識経験 に近い（似ている），遠い（似ていない）の関係性が出て くるということにある．例えば，V3-A が「ドット」と いう概念を形成することによって，V1 の 3 種類の入力 が，（A, B, C）＝（1, 0, 0），（0, 1, 0），（0, 0, 1）が，このネッ トワークの内的な観点からは近しい，似ている関係性に なったといえる．一方，図 6（b）のネットワークでは， V1からの 8 種類の入力に近い遠いの関係性が全く存在 し得ない． 図 1 に示されるような景色を見たときに，我々は，本， 青，手，足，左・右，青い本，左にある本などの概念を もつ．これらの概念があることによって，さまざまな異 なる意識経験を構造化することができる．我々の意識が このような構造をもっているということは，我々の脳の 中にこの構造と同一の情報構造があることを意味する． これが IIT の予測である． 8･3 リカレントネットワーク vs フィードフォーワード ネットワーク IITの観点から，意識が全く生まれる可能性がないネッ トワークの一つは，情報の統合が全くない，デジタルカ メラのような系である．もう一つの系は，フィードフォ ワードネットワークである．IIT において意識経験に寄 与する情報とは，原因と結果の双方が存在する場合のみ である．最も単純なフィードフォワードネットワークと して，入力層と出力層の 2 層からなるネットワークを考 える．入力層の素子の活動は，出力層に影響を与えるた め，結果の情報量はある．しかしながら，ネットワーク の内部から入力を受け取らないため，ネットワークの内 部に原因がなく，原因の情報量がない．同様に，出力層 の素子は，入力層の素子から入力を受け取るので，原因 の情報量はあるが，ネットワークの内部に出力しないの で，結果の情報量がない．以上のことより，フィードフォ ワードネットワークでは，意識に寄与する情報が全く存 在しないという結果になる． 一方，フィードフォワードネットワークと対照的な 概念としてリカレントネットワークがある．リカレント ネットワークでは，情報がネットワークの内部で再帰的 にやり取りされている構造があり，ネットワークのそれ ぞれの要素が，原因と結果の双方に情報量があるという 構造をもっている．つまり，IIT の観点からはリカレン トネットワークは，意識が生じる情報構造をもっており， 図 6 （a）階層的なネットワーク，（b）構造のないネットワーク， （c）（a）のネットワークにおけるコンセプト
フィードフォワードネットワークは意識が生じ得ない情 報構造をもっているといえる． IITの仮説に基づくと，人工知能の意識を評価するう えで重要な考え方が導かれる．それはすなわち，「外から 見た振舞い・機能が同じであっても，意識が異なる人工 知能を実装することができる」ということである．図 7 がその具体例である．外からは入力と出力のみが観測で きており，四角で囲まれているネットワークはブラッ クボックスであるとしよう．ここで示されているネット ワーク（a），（b）は入出力関係，すなわち外から見た振 舞い・機能の意味では同一で区別がつかない．しかしな がら，（a）はリカレントネットワーク，（b）はフィードフォ ワードネットワークによって実装されている．IIT の観 点からは（a）は意識があるネットワーク，（b）は意識 がないネットワークと推定される．
9．中 国 語 の 部 屋
最後に今までの議論をすべて踏まえて，「中国語の部 屋」の思考実験を考えよう．中国語の部屋とは哲学者の John Searleが提唱した思考実験であり，人工知能の意 識を考えるうえで重要な思考実験である．中国語の部屋 とは以下のような議論である． 小部屋の中に，中国語のわからない人，例えば英国人 を閉じ込められている．部屋には穴が開いており，この 穴から中国語の文章が書かれた紙が差し入れられる．小 部屋の中には魔法の辞書（実際には存在しない）が置い てあり，ありとあらゆる中国語の文章に対する，適切な 返答が書かれている．部屋の中の人がやるべきことは， 紙に書かれた中国語の文字の羅列を辞書で見つけ出し， 対応する答えを紙に書いて，その紙を穴の外に出すこと である．これを繰り返すと，部屋の外の人はあたかも部 屋の中に，中国語を理解する人が入っていて，その人と 会話をしている，と考えることであろう．しかしながら， 実際は中の人は，差し入れられる文章や自分が書いた文 章が何を意味しているかを全く理解しておらず，「機械 的に」辞書を引いて，対応する中国語の文字の羅列を書 き記しているだけである． この思考実験は，「外部の観点から振舞い・機能が同 じであっても，システムの内部の観点からの意識が全く 異なる」ことがあり得ることを示す端的な例である．こ の中国語の部屋とはいわば，人工知能による対話システ ムの比喩であり，中に入っている中国語の意味を理解 しない英国人がやっているタスクは，人工知能で代替可 能なタスクである．具体的なタスクの実装は，図 6（b） のような構造のないフィードフォワードネットワークで 可能である．このネットワークでは情報が構造化されて いないため，すべての中国語の文章は等価であり，近い・ 遠いの関係性が全くない．これが中国語の「意味」を理 解していないということに対応する． 図 7 （a）リカレントネットワーク，（b）フィードフォワードネットワークもちろん，この議論は実際には存在しない魔法の辞書 を仮定しているため，現実的にこのような対話システム をつくることはできない．ありとあらゆる中国語の文章 を考えると，組合せ爆発が起こり，図 6（b）のネットワー クの要素は天文学的な数が必要となってしまう（この組 合せ爆発を防ぐ方策が図 6（a）に示される情報の構造 化であるともいえる）．しかしながら，例えば限定され た内容に関して適切な答えを出す対話システムくらいで あれば，このようなフィードフォワードネットワークで あっても実装可能であるため，問題の本質は突いている． 対話システムが人間と同様に言語の意味を意識的に理 解できるようになるかどうかは，IIT の観点からは人間 と同様の概念構造（図 5）をもつかどうかによって決ま る．そのために重要なのは，情報の統合（8･1 節），情 報の構造化（8･2 節），原因と結果の双方に情報があるネッ トワークの構築（8･3 節）である．これらの要素をすべ て満たし，人間と同様の概念構造を獲得した人工知能が 現れたとき，我々はそれを二・三人称観点ではなく一人 称の観点から意識をもった人工知能と判定するのが妥当 だと思われる．
10．む す び
人工知能は「何ができるか」が重要であって，「どう やってできるか」はユーザにとっては重要ではない．中 国語の部屋の例でいえば，部屋の中で何が起こっている かはブラックボックスで良く，部屋の外の人の観点から 会話ができていると思えるかどうかが重要である．しか しながら，人工知能の一人称の意識を評価しようと思っ たら，部屋の中を開けて，その中で何が起こっているか を詳しく調べる必要がある．IIT は部屋の内部の観点か ら，情報処理の構造を定量化し，部屋の中で何が起こっ ているかを系統的に調べるための理論であるといえる． 人工知能の一人称の意識を考えることは，機能的な観点 からは一見無意味に思えるかもしれないが，人間のよう な機能（例えば会話する能力）を実現しようと考えたと きに，人間がもつ内的な情報の構造を評価・理解するこ とが必要になってくるかもしれない．そのような観点か ら，IIT は有用な理論であり，新たな人工知能をつくる ヒントになる可能性はあると思う． 謝 辞 本稿にコメントをいただいた金井良太氏に感謝する．◇ 参 考 文 献 ◇
[大泉 12] 大泉匡史 , 土谷尚嗣：温度計に意識はあるか？─意識レ ベルの定量化へ向けた理論と実践，LiSA, Vol. 19, 4, pp. 352-359（2012）[Oizumi 14a] Oizumi, M., Albantakis, L. and Tononi, G.: From the phenomenology to the mechanisms of consciousness: Integrated information theory 3.0., PLoS Computational
Biology, Vol. 10, No. 5, p. e1003588（2014）
[大泉 14b] 大泉匡史：意識の統合情報理論，Clinical Neuroscience, Vol. 32, No. 8, pp. 905-912（2014）
[Oizumi 16] Oizumi, M., Tsuchiya, N. and Amari, S.: Unified framework for information integration based on information geometry, Proc. National Academy of Sciences, Vol. 113, No. 51, pp. 14817-14822（2016） [大泉 17] 大泉匡史：「デジタルカメラにも意識は宿る？」─意識の 統合情報理論，編集：宮崎 真，阿部匡樹，山田祐樹，日常と非 日常からみるこころと脳の科学，26 章，pp. 151-157，コロナ社 （2017） [下條 15] 下條信輔：ロボットは意識を持ち得るか？，朝日新聞デ ジタル WEBRONZA（2015）
[Tononi 16] Tononi, G., Boly, M., Massimini, M. and Koch, C.: Integrated information theory: From consciousness to its physical substrate, Nature Reviews Neuroscience, Vol. 17, No. 7, p. 450（2016） 2018年 5 月 21 日 受理
