Alice’s Adventures in Wonderlandに見る 人工知能のフレーム問題
小池 新
概要
This study considers and discusses Chapter II of
Aliceʼs Adventures in Wonderland
. In Chapter II, Alice struggled to identify who she is. This paper points out that the situation depicted can be seen as the origin of the Frame Program, which has been discussed in the Artificial Intelligence (AI) community for a while as the one of the issues for AI to tackle with when applying it for solving actual problems in the real world.キーワード: Lewis Carroll、 人工知能、フレーム問題 (Lewis Carroll, Artificial Intelligence, Frame Problem)
1 . はじめに
本論文では、Lewis Carrollの
Aliceʼs Adventures in Wonderland
[1] （邦題は不思議の国のアリス
）の第Ⅱ章をもとに、人工知能のフレーム問題を考察する。第Ⅱ章は “The Pool of Tears” というタイトルで、第Ⅰ章の最後で Aliceが “EAT ME”と書かれたケーキを食べて巨大化してしまった場面から 始まっている。Aliceは大きくなりドアの鍵を取ることができたけれど、そ こから抜け出せず、涙により大きな池を作り出してしまった。そこへ兎が 戻ってきたが、巨大なAliceにびっくりして手袋と扇子を落として逃げ去っ てしまう。Aliceは、「今日は不思議なことが起こっていて、いつもと違う。
自分も昨日の自分から夜のうちに変わってしまったのか?」と自問し始め る。そして自分は一体誰なのかということを考え始める。
Lewis Carrollは、本名をCharles Lutwidge Dodgson (1832-1898) と言い、
本職はオックスフォード大学に勤務していた数学者・論理学者である。そ のため、一般的には子供向けのお話とされているこの物語に、従来から数 学及び論理学的な背景や意図が隠されていることが指摘されてきた。本 論文では、上述の第Ⅱ章の冒頭部分に続く場面を取り上げる。そして現代 の人工知能 (Artificial Intelligence, AI) で未解決の課題であるフレーム問題 (Frame Problem) と同様の問題を、Lewis CarrollがAliceの物語の中で指摘 していることを述べる。
Aliceʼs Adventures in Wonderland
が出版されたの は、AIにおけるフレーム問題が提唱される100年以上前である。このよう な人工知能のフレーム問題とAliceʼs Adventures in Wonderland
の関連につ いての指摘は、著者の知りうる範囲では今まで考察されていなかった。本論文は以下のように構成する。第2節では、人工知能のフレーム問 題についてD.C. Dennettの例示[2]を中心に概説する。第3節では、
Aliceʼs
Adventures in Wonderland
の第Ⅱ章を本人認証問題についての議論と捉える。そして作者がその過程を通じて、実は「フレーム問題」を述べているこ とを、指摘する。第4節では、全体のまとめとして、Lewis Carroll がAlice を通じて描いた推論による本人認証問題が、現代の人工知能を用いた顔認 識による本人認証技術をもってしても、まだ実際はフレーム問題を解決で きていないことを、述べる。
2 . 人工知能のフレーム問題
人工知能のフレーム問題は、人工知能の研究者の間では、J. McCarthyと P. J. Hayes[3]が1969年にFrame Problemという名称で、論理的推論で人工 知能が動作する際に発生する問題として最初に指摘したとされている。具 体的には、今から行おうとしていることに関係のある事柄だけを選び出す ことが、実は非常に難しいという問題である。
その後人工知能のフレーム問題は、哲学者のD. C. Dennettによりさらに 一般化された形で、「一般化フレーム問題」として提示された。「一般化フ
レーム問題」 の例としてDennettは、爆弾が仕掛けられた部屋から美術品を 取り出す話[2]を例示した。これは人工知能学会の解説[4]等、現在フレーム 問題の多くの説明で使われている例である。ここで簡単に要約すると、次 の内容である。
人工知能搭載のロボットが、爆弾が仕掛けられた部屋から貴重な美術品 を取り出してくる状況を想定する。最初の人工知能ロボット (Robot 1, R1) は美術品を取り出したが、実は爆弾が台車に仕掛けられていた。そのため、
台車を動かしたことで爆発した。これは、R1の論理では美術品を取り出す という行為に付随する影響を評価できていなかったためである。
次に作成された人工知能ロボット (Robot-Deducer, R1D1) は、美術品を 取り出したことに派生して生じる影響を評価して行動するように作成され た。しかしこの人工知能R1D1は、美術品を動かすことにより発生する周 囲のあらゆる状況（例えば、もし台車を動かしても、天井は落ちてこない
か） を検討しはじめたため、時間切れとなり爆弾が爆発してしまう。R1D1
の論理では、すべての事象の評価を行う必要があったため、森羅万象のす べてを考慮する必要が生じ、無限に時間がかかることになってしまった。
そこで3番目に作成された人工知能ロボット (Robot-Relevant-Deducer,
R2D1) では、美術品を動かすことには重要ではない （関係ない） ことは無視
するために、タグ付けをするよう設計された。しかし今度はR2D1は一歩 も動かず止まってしまう。「何かしろ」と命令したところ、R2D1は、「関 係あるかないかをタグ付けすることに忙しいです」と答え、結局また時間 切れで爆発してしまう。R2D1の論理では、美術品を動かすことの周囲へ の影響の評価自体はR1D1論理とは異なり、すべての事象について行う必 要がないように設計された。しかし、そもそも関係のありなしを決めるた めには、結局すべての事象について関係するかどうかを判断しなくてはな らず、また無限に時間が必要となってしまった。
映画Star Wars （スターウォーズ） に登場するR2D2のように、完全に自律
的に考え、スムーズに人間のように動作できる人工知能ロボットを実現す
るためには、このフレーム問題を解決しなければならない。
3 . Who in the world am I?─私は誰?
3.1 本人同一性の喪失
Alice ʼ s Adventures in Wonderland
の第Ⅱ章では、Aliceが自分自身がAlice であることを証明しようとして苦闘している姿が描かれている。実はこれ はまさに人工知能のフレーム問題に他ならないことを述べる。第Ⅱ章ではAliceの身長が大きくなってしましい、自分がいつも異なると いう結論に達した後、いつもと違うのであればでは自分は一体誰か?とい う疑問につながってゆく。
ʻ
Dear, dear! How queer everything is to-day! And yesterday things went on just as usual. I wonder if Iʼve been changed in the night? Let me think: was I the same when I got up this morning? I almost think I can remember feeling a little different. But if Iʼm not the same, the next question is, Who in the world am I? Ah, that ʼ s the great puzzle! ʼ
実はここでは、「いつもと同じ」とはどのような状態を意味しているの かがわからない中で推論をしていることが問題の原因である。Aliceが一旦
「いつもと今朝は少し違ったように感じた」と判断してしまった結果、いつ もと違うのであれば、自分はAliceではないという結論になる。そして、で は「私は誰?」という疑問になってしまっている。例えば三角形であれば、
2つの三角形を比べて両者の対応する3辺の長さが正確に等しければ両者は 同じものである（正確には合同である）と我々は通常認めている。昨日三 角形を測定した結果と今日測定した結果が同じであれば、「いつもと同じ」
なので、同じものであるとして差し支えない。逆に、もし大きさが少しで も変われば、たとえすべての辺の長さが同じ割合で変化した相似形であっ たとしても、異なるものと考える。しかし人間や動物、植物などの生物は、
時間の経過とともに成長し大きさや形が変化していく。それでも我々は、
三角形とは異なり今日と昨日とで違う人や動植物であると認識することは ない。これは長さだけではなく、様々な特徴量を元に判断しているからで あると考えられる。またその際、それらの特徴量がまったく同一である必 要はなく、それぞれある程度の範囲内での変動を許容している。そのため、
本来はAliceの大きさが “DRINK ME”や“EAT ME”を飲んだり食べたりして
昨日と変わっていても、大きさ以外の特徴量により、Aliceであると判断す ることが可能であったかもしれない。「いつもと同じ」の定義を寸分の狂い もなく同一であるとして考えてしまった結果、“
Who in the world am I?
” と なってしまった。3.2 本人同一性の証明方法
一旦本人同一性が失われてしまうと、今度はこれを回復させることは極 めて困難になる。「私はAliceである」を論理的に証明するためには、次の 2つの方法が考えられる。まず第一の方法は、Alice以外のすべての人との 比較を命題として行い、それぞれについて偽であるという結果を得ること である。「私＝Ada」という命題が偽であれば、私はAdaではないという ことが言える。しかし、それは単に少なくともAdaではないということが 言えただけで、Aliceであるというための必要条件でしかない。十分性を 実証するためには「あるX （≠自分）なる人が存在して、XはAliceである」
(“Exist a person X except me, such that X is Alice.”)という命題が常に偽で あることを示さなくてはならなくなる。そのため、実効的にはこの命題の 否定1である「すべての人X （≠自分） について、XはAliceではない」(“For any person X except me, such that X is NOT Alice.”) が真であることを示す ことになる。結局第一の方法で「私はAliceである」 ことを証明するために は、手順としてAlice以外のすべての人との比較 (“X is not Alice.”) 命題を 実行して、それらすべて真であることを確認する必要がある。
第二の方法では、Aliceを特徴づけているすべての特徴量について、「私」
との比較を行う。この場合、個々のAliceの特徴量と「私」の相当する特徴 量との比較結果が、すべてが真である必要が論理的にはある。もしなんら かの理由で1つでも反例（一致しない特徴量）がでてしまうと、それは逆
に「私≠Alice」の証明となってしまう。
3.3 第一の方法による比較
Lewis Carrollは実際に、これらの2つの証明方法を行おうとしている。
まずAliceは第一の方法を試そうとする。
And she began thinking over all the children she knew that were of the same age as herself, to see if she could have been changed for any of them.
Aliceはまず、自分が自分の知っている誰かとは異なることを証明しよ うとする。注目すべきはここで行っていることは、いわゆる閉世界仮説 (Closed-world assumption, CWA) に基づく推論である。CWAとは、例えば チェスなどのゲームに対して人工知能を適用する際に利用されているもの で、チェスに関連すること以外は一切考えないという立場をとる。CWAの 導入によりチェス等に適用されている人工知能はフレーム問題を逃れられ ることができている。Aliceが自分の知っている周囲の同い年の子だけの閉 世界での比較を試みようとしている。これは本論文の第2節で述べたR1D1 論理が陥ったフレーム問題、すべての事象を評価することを、避けること を狙っていると考えられる。そしてAdaについては髪の毛の形が違うとい
うことで“Alice=Ada”という命題が偽であることが示された。
ʻ
Iʼm sure Iʼm not Ada,ʼ she said, ʻfor her hair goes in such long ringlets,
and mine doesn ʼ t go in ringlets at all;
次にMabelとの比較を行おうとしている。
and Iʼm sure I canʼt be Mabel, for I know all sorts of things, and she, oh! she knows such a very little! Besides, sheʼs she, and Iʼm I, and — oh dear, how puzzling it all is!
ところがこれはすぐに行き詰まってしまった。何故ならば、Mabelとの 比較のために利用しようとしたものが、髪の毛の色などのように具体的な ものではなかったからである。比較をお互いの知識の量という抽象的なも ので行おうとしたが、具体的にそれを例示することができなかったのであ る。これを行うためには第二の方法と同様の手段を利用して、なんらか の反例を見つける必要がある。しかしMableの知識が少ないということを
Aliceは知っていても、何を知らないかを知らなかったため、具体的に「私
＝Mable」を否定する反例を見出だせなかった。
Lewis CarrollはCWAに限定することでしか、第一の方法ではフレーム問 題を逃れて、自分がAliceであることを示せないことを述べていると、言 える。もしCWAとは逆の開世界仮説 (Open-world Assumption, OWA)2 を取
ると、 何人かと比較して全員Aliceとは異なるということがわかっても、 簡
単には自分がAliceであることを同定できないからである。OWAのもとで、
この手法によりAliceであることを証明するためには、地球上に存在するす べての他人と比較を行う必要がある。そしてそれらの人とは異なるという ことが言えて初めて、では残ったものはAliceでしかありえない、という論 理構成で証明しなくてはならない。もちろんこれらの手順は有限回の処理 で終わる。しかしそのためには、地球上に存在する人間について、それぞ れの人を特徴づけている特徴量を、 そしてそれはAliceを特徴づけている特 徴量とは異なる必要があるが、データベースとして保持し検索と比較をし なくてはならない。このための処理には膨大な処理時間を必要とするため、
たとえ全人類の数という有限回の処理で終わるとしても、 Aliceが実行する
ことは不可能となる。まさにロボットR1D1の例の、 すべての場合を検索し ようとしている場合に相当する。このように、何かと何かが同一であるこ とを、他のものと異なるという手法により論理的に証明するためには、比 較対象の数がごく限られたものでない限り、現実的な回数において実行す ることができないことをLewis Carrollは示している。
3.4 第二の方法による比較
次にAliceは、Aliceが知っていたことを色々と述べて、確かにこれらを
知っているのはAliceであるという形で、自分自身を特定しようとしてい る。前述の第二の方法である。まず掛け算についての知識を披露している。
Iʼll try if I know all the things I used to know. Let me see: four times five is twelve, and four times six is thirteen, and four times seven is — oh dear! I shall never get to twenty at that rate! However, the Multiplication Table doesnʼt signify:
表1. Aliceの掛け算表 4 × 3 = 10 12進数 4 × 4 = 11 15進数 4 × 5 = 12 18進数 4 × 6 = 13 21進数 4 × 7 = 14 24進数 4 × 8 = 15 27進数 4 × 9 = 16 30進数 4 × 10 = 17 33進数 4 × 11 = 18 36進数 4 × 12 = 19 39進数 4 × 13 = 110 42進数
この掛け算の結果は、例えば4×5＝12となっていて、不思議である。
そのため、その次の地理の知識の箇所や詩の暗誦のところでの誤りと同様、
Aliceがおかしなことを言っている例として捉えられている解釈が邦訳を含
め多数ある。しかし、この掛け算に関してはA. L. Taylor[5]やM. Gardner[6]
が指摘しているように、実際は正しい計算をある条件のもとで行っている。
おそらくこんな興味深いニッチな知識を持っている少女はAliceくらいであ ろうという、自分がAliceであることを示す強い特徴量として、ここに記述 したものであると思われる。この計算の概要を簡単に以下に示すと次のよ
うになる[5,6,7]。本文中最初の計算は4×5＝12となっているが、この左辺
の計算が12になるためには、4と5を18進数で表された数と考えると成立 する。2桁目が1で、1桁目が
k
の2桁のn
進数を我々に馴染みのある10進 数に直すためには、(1×n
)＋k
を計算すればよい。すると18進数の12は、10進数に直すと、確かに20となり、10進数で計算した4×5の値に一致す る。次の4×6＝13は、4と6を21進数とすればよい。さらに4×7＝14 が成立するためには4と7を24進数と考えればよい。このようにすると、
進数を3ずつ増やすことで、19まではこのAliceの言っている計算ルール が成り立つことがわかる。ところが､ このルールが成り立つのは4×
12
＝ 19までで、どうしても20にはならないということをAliceは言っているの である3。実際42進数で4×13
を計算すると、2桁目は1で、1桁目に相当 するとこが42進数の1桁の数字ʻ10
ʼとなってしまい、20とはならず、法則 性が破綻してしまう （表1）。こんな大事なことなのに掛け算の表4では重要って書いていないわと自 分の知っていることを述べて、確かにAliceであることを示す重要な特徴量 の1つを述べている。よって、ここまでは特徴量抽出による自分とAliceと の比較はうまくいっていた。
次に地理についての知識を述べている。
letʼs try Geography. London is the capital of Paris, and Paris is the
capital of Rome, and Rome — no, thatʼs all wrong, Iʼm certain! I must have been changed for Mabel!
しかしながら、この地理の知識については、Aliceのもともとの知識も正 確ではなかった。本来そうしたものは特徴量としては重要ではない （無関
係な） 知識として、R2D1が行ったようにタグ付けして検討対象から外すべ
き問題である。Aliceも実際に比較対象から外している。次にAliceは、今 度は詩の暗誦の知識をもって示そうとする。だが、これも暗誦が怪しく正 確には詩の言葉をいうことができなかった。しかし今度はAliceを特徴づけ る対象からタグ付けして外すということをせずに、Aliceを特徴づける対象 として考慮してしまったようである。その結果、「この知識を知っているの
はAliceである」という命題は偽であることになってしまった。つまり1つ
の反例を見出だしてしまったため、結果として自分がAliceではないという 証明をしてしまった。そして、自分は実はMabelにちがいないという別の 仮説をたててしまう。
ʻ
Iʼm sure those are not the right words,ʼ said poor Alice, and her eyes filled with tears again as she went on, ʻ I must be Mabel after all, and I shall have to go and live in that poky little house, and have next to no toys to play with, and oh! ever so many lessons to learn! No, Iʼve made up my mind about it; if Iʼm Mabel, Iʼll stay down here! Itʼll be no use their putting their heads down and saying “Come up again, dear!” I shall only look up and say “ Who am I then? Tell me that first, and then, if I like being that person, Iʼll come up: if not, Iʼll stay down here till Iʼm somebody else ”
しかし、やはり特徴量で「私＝Mabel」を否定できる反例を見つけ、“Who am I then?”となる。結局、特徴量が一致する誰かにならない限りここに座っ
ていなければならないという、R2D1が陥った状況と同じく、フレーム問 題の結果動けなくなってしまう状況に陥っている。
4 . まとめ
Lewis Carrollが生きていた時代にはコンピュータもなく、また当然ながら 人工知能という概念も存在していなかった。しかしLewis Carrollは、Alice が 「自分自身がAliceであること」 の証明を試みる過程を記述することによ り、論理に基づく機械的な推論で演繹的に判断をすることの限界を示した。
本論文では、このことは現代の人工知能が抱えているフレーム問題そのも のであることを明らかにした。そしてこれは、人工知能を考える上で、未 だに解決できていない課題でもある。
現代の我々でも、自分が誰であるかの証明は難しい。通常は写真付きの 身分証明書を提示することで本人確認を行う。しかしその際は、その証明 書や証明書の発行機関 （政府や大学） が信用できるのか、写真が本当に本人 かどうかなどを、どのようにすべて検証するかなど、様々な角度から考え なくてはならない。こういった意味でまた新たなフレーム問題が作り出さ れてしまう。これらは論理による推論だけで進めようとする際に陥る問題 である。最近あちこちで活用されている顔認識技術でも、特徴量を捉える ことでかなりの精度で認証を行っているが、これも100%正しいという形で はなく、あくまでも「特徴量と一致する」という命題の真偽を論理として 組み立てていくプロセスに他ならない。そのため、必要条件をひたすら求 めているに過ぎない。
またインターネット上などでの本人確認は、Diffie-Hellman-Merkle [8]の公 開鍵暗号のアイディアにより実現された電子証明書により行っている。こ ういった技術により一見Lewis Carrollが第Ⅱ章の中で指摘した本人確認に 関する「フレーム問題」は解決したかのように見える。しかし、それらは 同一性の根拠を計算の複雑さ （計算量の多さ） など、数の多さや、一致する 確率の小ささといった打ち切りを人為的に導入することで、解決している
に過ぎない。つまり、ここまで考えておけばよいという範囲を自ら定義す ることにより、CWAを作り出すことでフレーム問題を回避しているに過ぎ ない。どこまで複雑にしておけばよいか、どこまで一致していればよいか を自動的に推論する方法はまだ見出だされておらず、人間がなんらかの形
でinputとして与える必要がある。
一方DNA鑑定などの科学的な手法での本人確認については、様相が異な ることを指摘したい。人類の全DNA情報がすでに解読されているため、一 挙に十分条件を示すことで本人確認を行うことができる。もし自分のDNA 情報が完全に記録されていて、それと新たに取得したDNAとを完全に照合 できれば、それで本人確認が実現できるのである。こちらは断片の積み上 げをもとにした推論により必要条件を多数積み上げる必要がなくなる。言 い換えれば人工知能が推論により本人証明を行うのではなく、実際に2つ のものを直接比較して同一性を示す手法である。ただしもし100%のDNA についての照合ではなくサンプル同士の特徴量を比べるのであれば、それ はやはりフレーム問題は避けられないということも指摘したい。
注
1. 命題とは、真偽が必ず決まる文のことである。例えば、もしアリサの身
長が160cmであれば、「アリサの身長は150cmより大きい」という命題
は真 (true) となる。この命題の否定は、「アリサの身長は150cmより大
きいということはない」つまり「アリサの身長は150cm以下である」と なるが、この命題は明らかに偽 (false) である。つまり、ある命題
A
が真 であることと、その否定の命題¬A
が偽であることは同値である。2. CWAは、知っていることがすべてという考え方である。そのため知ら
ないことは内容にかかわらず偽となる。一方OWAは、知らないことも あるという考え方である。例えば、アヤカが英語コミュニケーション学
科の学生であるという情報のみ知っている状況を考える。ここで、「ア ヤカは英語コミュニケーション学科の学生でない」という命題は、CWA の立場でもOWAの立場でも、真偽が判断でき、正しいと知っている情 報に反する内容である。そのため、この命題は両者とも偽になる。次に
「アカネは英語コミュニケーション学科の学生である」という文を考え てみる。アカネのことについては何も情報がないので、CWAではこの文 は命題としては偽となる。同時に、その否定の「アカネは英語コミュニ ケーション学科の学生でない」という命題が真になる。一方OWAでは、
「アカネは英語コミュニケーション学科の学生である」という文は真偽 不明、つまり命題として成立していないという判断になる。そのため、
完全なOWAの元では、知っていること（自分のデータベースに含まれ ている情報）に関すること以外は真偽を永久に決められない。
3. 4×
12
や4×13
にでてくる12
や13
は、10進数2桁の数である12や13 ではなく、それぞれ39進数、42進数で一桁の数12
、13
であることに注 意。あるいは掛け算の左辺は10進数で表現され、右辺の記数法と異なっ ていると考えてもよい。4. multiplication tableは通常「九九の表」と訳すが、ここでは十進法では ないため「掛け算の表」とした。
参考文献
[1] Lewis Carroll, “Alice’s Adventures in Wonderland,” Macmillan and Co., 1865.
[2] Daniel C. Dennett, “COGNITIVE WHEELS: THE FRAME PROBLEM OF AI,” in C. Hookway, ed.,
Minds, Machines and Evolution
, Cambridge University Press, pp. 129-151, 1984.[3] J. McCarthy and P. J. Hayes, “Some Philosophical Problems from the Standpoint of AI,”
Machine Intelligence
, vol. 4, pp. 463-502, 1969.[4] 人工知能学会, http://www.ai-gakkai.or.jp/jsai/whatsai/AItopics1.html.
[5] Alexander L. Taylor, “The white knight: a study of C. L. Dodgson (Lewis Carroll),” p. 47, Oliver & Boyd, 1952.
[6] Lewis Carroll, Martin Gardner (ed.), “The Annotated Alice: The Definitive Edition,” W. W. Norton & Company, 1999.
[7] Francine Abeles, “Multiplication in changing bases: A note on Lewis Carroll,”
Historia Mathematica
, Volume 3, Issue 2, pp. 183-184, May 1976.[8] W. Diffie, and M. Hellman, “New directions in cryptography,”
