ロボットの心と知性

ロボットの心と知性

Mind and Intelligence of Robots

寺田 和憲

∗

Kazunori Terada

岐阜大学

Gifu University

映画「2001 年宇宙の旅」に登場する HAL のように， 人は知的エージェントに対して意図を感じることがあ る．人はどのような対象に対して意図を帰属するので あろうか．マキャベリ的知性によると，人間の持つ高 度な知的能力は，複雑な社会的環境への適応として進 化したとされている [2]．特に協力によってより高い利 益が得られる状況（非ゼロ和ゲーム的状況）において 他者を搾取する必要性と協力を装った搾取者を見破る 必要性の対立する二つの必要性が知能の進化的圧力と なったと考えられている．本稿では知性と心（意図帰 属）の関係を振舞いの多様性と振舞いの抽象化という 観点から形式化することを試みる．またロボットの社 会的位置づけについて議論する． 知性の属性の一つは，目的を達成するために，合理 性基準に基づき無限に代替能力を生成可能，すなわち 探索能力を有することである [1]．この能力によって環 境適合的な新規手段を発見することができる [12, 16]． 個体内において行動多様性と合目的性評価機構を備え た生物は，世代間においてのみ多様化し合理性を外部 評価に委ねるエージェントよりも有利である．協力／競 合の両方において，そのような知的エージェントと共存 するための方法は相手の振舞いのモデル化において振 舞いの起源として抽象的な心的状態を帰属することで ある (mind-reading)．行動抽象化の利点は抽象化の一 般的な利点である細部の無視による複雑さの軽減だけ でなく，将来の振舞を予測することにある [8, 5, 3, 6]． 意図帰属による振舞い予測のメカニズムは次の通りで ある [6]．まず，エージェントは与えられた目的を達成 するための手段を合理性基準に従って探索するという ことを仮定する．この前提を受け入れると，環境の制 約，行為者の振舞い，行為終端状態を観察することで， 意図を推測することができる．なお，この制約，行為， 意図の関係についての「常識」は進化的に形成され，世 代間で伝達されている [4] ため，エージェント間で共有 されていると考える．一旦意図を理解することができ れば，新規環境に関する相手の信念を理解することで， ∗_{連絡先：岐阜大学工学部電気電子・情報工学科}       〒 501-1193 岐阜県岐阜市柳戸 1-1        E-mail: [email protected] 相手が取るであろう行動を推測することができる． 心的状態の帰属による振舞い理解方法は表面的な振 舞い（入出力関係）を法則や統計的性質によって理解す る戦略 (behavior-reading) と比較される [5, 21, 13, 3]． 前者は進化的にも発達的にも後者よりも後に発現する ためにより高度な認知能力と考えられている．機械に 対して心を感じてしまうという研究が多数あるが，法 則性による振舞い理解戦略は機械に対する振舞い理解 戦略として最も適している [5]．しかしながら，法則性 による振舞い理解戦略を協力／競合環境（社会的相互 作用）に適用することは困難を引き起こす．協調作業 においては，共有する目的を達成するための代替手段 の生成によって相手を補助できなければ，目的が達成 できない．また，表面的には異なる発話に対して単一 の意図を割り当てなければならない語用論的理解も困 難になる [17]．さらに，悪意を持った他者を識別でき なければ容易に搾取されてしまう． 協力者と搾取者が混在している社会においては，例 え騙しが意図的に行われていないとしても [18]，観察 者にとっては詐欺師というラベル付けが可能であるこ と，すなわち騙す意図の帰属が可能であることは重要 である [20, 7]．競合状態において，一旦相手が敵対的 だと分かるとそれに対抗した戦略をとることができる． 混合戦略である [19, 11, 9]．無限に代替手段を生成可 能な合理的搾取者に対抗する最善の戦略は混合戦略で ある．それ以外のいかなる純粋戦略も洗練された行動 モデル化能力のある他者に対しては無意味である．行 動モデル化戦略者同士の軍拡競争は結局混合戦略に落 ち着く． 上述の論理に基づき我々は「心」を観察者が知的な相 手の振舞いを理解するために獲得した行動モデル化戦 略だと考える．特に競合状態においては自分の知的レ ベル（行動理解能力）を上回る相手に対して意図を帰 属することは重要である．そのような観点から，我々は 「人は競合状態において，例え相手エージェントが騙し （に見える）行動を生成したとしても，相手が知的でな いエージェントの場合には人は騙しの意図を帰属しな い」という仮説を我々の開発した競合ゲーム，ボーナ ス付きマッチングペニーゲームを用いて検証した [23]． 人工知能学会研究会資料 SIG-SLUD-B501-03 − 13 −

この実験において我々は明らかに知的に見えないエー ジェントとしてクマのぬいぐるみロボットを用いた．ク マロボットはあからさまに，誤信念とそれに基づく不 利益行動（クマロボットに対して利する行動）を誘導 するための振舞い（騙し行動）を行った．この実験で は behavior-reading による相手戦略への適応が高得点 に結びつく設定であったのにもかかわらず，同様の振 舞いを人の対戦相手が行った場合には実験参加者は混 合戦略を採用すなわち mind-reading を行ったのに対し て，クマロボットに対しては behavior-reading を行っ た．この実験結果によって，競合状態においては相手 が自分の能力を上回る知的な存在だと思うかどうかが 心を感じるための要因の一つになると言える． では，協力／競合の混在する状況ではどうであろう か．我々は，囚人のジレンマと同様の非ゼロ和ゲーム で，協力／裏切りの宣言がインプリシットな 1, 2, 5 じゃ んけんゲームを用いて検証した [22]．このゲームでは 実験参加者が相手に対して搾取的態度を取るのか協力 的態度を取るのかの判別ができる．対戦相手として人， コンピュータプログラム，アンドロイドロボットを用 いて実験を行った．実験の結果，人はコンピュータプ ログラムとアンドロイドロボットに対してはともに搾 取的な態度を取ることがわかった．搾取的な態度を取 るということは，behavior-reading を行うということ である．さらに，社会的順位として下位にみなした行 動だと考えることができる．この結果は協働環境にお いては労働者がロボットを心を持った社会的存在とし て捉えるという結果 [15] と照らし合わせると興味深い． 本稿では，進化心理学の観点から知性と心の関係に ついて形式化を行い，それにもとづき，ロボットが社 会的にどう位置づけられるかについて議論した．この 議論は将来ロボットが真に人を凌駕する知性を獲得し た場合に人がロボットに対してどのような態度を取り， 社会的にどう位置づけるかについて考えるための一つ の材料になると考える．

謝辞

本研究は JSPS 科研費 25119502，26118005，15H02735 の助成を受けた．

参考文献

[1] Richard W. Byrne. The Thinking Ape:

Evolution-ary Origins of Intelligence. Oxford University Press,

1995.

[2] Richard W. Byrne and Andrew Whiten, editors.

Machiavellian Intelligence: Social Expertise and the Evolution of Intellect in Monkeys, Apes, and Hu-mans. Oxford Science Publications, 1988.

[3] Josep Call and Michael Tomasello. Does the chim-panzee have a theory of mind? 30 years later. Trends

in Cognitive Sciences, 12(5):187–192, May 2008.

[4] Gergely Csibra and Gy¨orgy Gergely. Natural ped-agogy as evolutionary adaptation. Philosophical Transactions of the Royal Society of London B: Bio-logical Sciences, 366(1567):1149–1157, 2011.

[5] Daniel C. Dennett. The Intentional Stance. Cam-bridge, Mass, Bradford Books/MIT Press, 1987. [6] Gy¨orgy Gergely and Gergely Csibra. Teleological

rea-soning in infancy: the na¨ıve theory of rational action.

Trends in Cognitive Sciences, 7(7):287–292, Jul 2003.

[7] Kurt Gray, Liane Young, and Adam Waytz. Mind perception is the essence of morality. Psychological

Inquiry, 23(2), 2012.

[8] Fritz Heider. The Psychology of Interpersonal

Rela-tions. Lawrence Erlbaum Associates, 1958.

[9] D.A. Humphries and P.M. Driver. Protean defence by prey animals. Oecologia, 5(4):285–302, 1970. [10] John F. Nash. Equilibrium points in n-person games.

Proceedings of the National Academy of Sciences,

36(1):48–49, 1950.

[11] Allen Newell, J. C. Shaw, and Herbert A. Simon. Re-port on a general problem-solving program. In

Pro-ceedings of the International Conference on Informa-tion Processing, pages 256–264, 1959.

[12] Daniel J. Povinelli and Jennifer Vonk. Chimpanzee minds: suspiciously human? Trends in Cognitive Sciences, 7(4):157–160, 2003.

[13] Allison Saupp´e and Bilge Mutlu. The social impact of a robot co-worker in industrial settings. In

Proceed-ings of the 33rd Annual ACM Conference on Human Factors in Computing Systems, CHI ’15, pages 3613–

3622, New York, NY, USA, 2015. ACM.

[14] Richard S. Sutton and Andrew G. Barto.

Reinforce-ment Learning: An Introduction. MIT Press, 1998.

[15] H. Tager-Flusberg. Language and understanding minds: connections in autism. In S. Baron-Cohen, H. Tager-Flusberg, and D. J. Cohen, editors,

Un-derstanding other minds: Perspectives from autism and developmental cognitive neuroscience, pages 1–

45. Oxford University Press, 2000.

[16] Robert Trivers. The Folly of Fools: The Logic of

De-ceit and Self-Deception in Human Life. Basic Books,

2014.

[17] John von Neumann and Oskar Morgen. Theory of

Games and Economic Behavior. Princeton University

Press, 1944.

[18] Adam Waytz, Kurt Gray, Nicholas Epley, and Daniel M. Wegner. Causes and consequences of mind perception. Trends in Cognitive Sciences, 14(8):383– 388, 2010.

[19] Andrew Whiten. When does smart behaviour-reading become mind-behaviour-reading? In Peter Carruthers and Peter K. Smith, editors, Theories of theories of

mind. Cambridge University Press, 1996.

[20] 三宅 雄大,寺田 和憲,吉川 雅博,松本 吉央,高橋 英之, and 伊藤 昭. 繰り返し非ゼロ和ゲームを用いたアンド ロイドの人らしさ評価. In電子情報通信学会技術研究報 告. HCS,ヒューマンコミュニケーション基礎, volume 113, pages 73–78, 11 2013. [21] 寺田 和憲,山田 誠二, and伊藤 昭.ボーナス付きマッチ ングペニーゲームにおける人間からエージェントへの適 応プロセスの解明. 人工知能学会論文誌, 27(2):73–81, 2 2012. − 14 −