18 人 工 知 能 30 巻 1 号（2015 年 1 月） 「編集委員会企画─社会と AI の羅針盤 2015 ─」
昨年はさまざまな場所で HAI がキーワードとして登場 してきた．連続開催された人工知能の国際会議 AAAI と 認知科学の国際会議 CogSci が Human-Agent Interaction をキーワードの一つに含み，エージェントに関する会議 AAMASでは HAI のワークショップが開かれ，そして HAIを専門に扱う国際会議 HAI がスタートした．人工知 能研究，マルチエージェント研究，HCI 研究といった別々 の分野で行われていた研究が，プラットフォームの違い を飛び越え，HAI というキーワードをもとに知見を交換 できるようになったこと，その開催にわずかながらも貢 献できたことは，2014 年の大きな喜びであった． HAI 2014の会議発表でも述べたが，筆者はこのキー ワードを単なるバズワードだと思っていない．HAI とい うのは，人間が道具として認識される機械ではなく，他 者と付き合うためのチャネルを通して効用を成すインタ フェースであり，それを取り囲む技術である．人間の文 明が，人間のもつ社会的能力，他者に対応するための能 力をインタフェースとして利用するに足る技術を生み出 す段階に至った，ということであろう（計算機技術の寄 与が大きいことは間違いない）．人間の社会的な反応を 分析することの効用，感情労働のような社会的労働を代 替する効用，など種々の要因から，筆者はこの流れがゆ るやかであっても止まることはないだろうと考える＊1． もう一つ，2014 年に大きな課題として自分のなかで 浮かび上がったのが，社会と知能の関わりだった．特 に，リニューアルした人工知能の表紙を巡るいくつかの 議論では，新しい視点を得ることが多かった．SF，表象， 科学技術社会論の研究者に議論にお招きいただけたこと も，大きな経験となった． Brooksの指摘のとおり「象はチェスをしない」．知能 の賢さは環境中での振舞いで決定される．そして，社会 もその環境の一つである．人は生存のため他者とコミュ ニケーションし，社会をつくる動物である．社会脳仮説 ではこうした意図の読み合いを脳の進化の主要因として いる．ハチやハダカデバネズミなどの真社会性をもつ動 物と異なり，人の社会では，集団構成員の利害関係は極 めて動的に変わり得る．よって，集団内のコミュニケー ションの意味付けは生得的な埋込みではなく，後天的に 獲得され，そうした社会的知能の集団が社会をつくる． 知能が社会を育み，そしてその社会が知能を育む，とい う循環が存在する． こうしたコミュニケーションの原初の機能は，実際の 研究の現場では気付きづらい問題かもしれない．客観的 な知識体系をつくることを目的とする理学や工学の分野 では，コミュニケーションにおける文脈依存性は極力排 除されてきた（文脈依存な論文は悪文である）．特に情 報科学の分野においては，文脈によらない形で情報が定 義されたこと，情報の「意味」を考えなかったことが学 問の発展を促してきたように思われる．計算機技術・情 報技術が発達し，インターネットという形で人間の社会 的な活動が直接計測できるようになり，かつ統計的な手 法が発達した昨今において，文脈は工学的な課題として 提示され始めている． しかし，学問の世界の一歩外に踏み出せば＊2，メッセー ジが文脈込みで判断されるというコミュニケーションの 原初の機能は当然生きづいている．いうまでもなくエー ジェントの利害関係が共通でない場合，メッセージの解 釈の前提となる文脈を共有する必要は必ずしもないし， それを求めてはいけない．言語は比喩の次元ではなく， 人間のもつ武器の一つである．社会という人の相互作用 空間の中で資源獲得のために用いられる道具の一つであ り，必ずしも協力的な道具として使われるだけではない だろう．そしてこれは言語に限らず，人間の表す，コミュ ニケーションとして受け取られる表現に関してすべて適 用可能であると思われる． 人工知能学会のリニューアルに伴って発生した「表紙 問題」は，この観点からも興味深い問題だと思った．例 えば，これが論文上の不備であれば，正しい情報を付与 していく，という作業が最適である．しかし，双方が共 有された解釈をもたない表現において，誤読であるとい う主張・エクスキューズはあまり意味をもたない．情報 の意味付けは基本的に発信側ではなく，受信側が決定す る．あるいは，双方の情報のやり取りにおいて，意味が 決定されていくと考えられる．これは論理的に考えても そうなるし，責任を誰がもつべきか，という倫理的な面 から考えても，そうでなければならないように思われる． ここからは夢想になる． 我々は人工知能学会であり，知能の仕組みと設計に関 するスペシャリストの集団であるはずだ．であれば，外 部の指摘に対し，ただうなずくだけではなく（上記の理
知能が育む社会・社会が育む知能
大澤 博隆
筑波大学 ＊1 人類が絶滅しない限りは． ＊2 学問の場であってすら，それを構成するコミュニティの段階では．19 人 工 知 能 30 巻 1 号（2015 年 1 月） 解が重要であることは前提として），もう少し世の中の 設計に関わる役割に，積極的に関わっていってもよいの ではないかと思う．共有されない価値観から発生するコ ミュニケーションの問題に対し，分析を超え，解決まで 担うことはできないだろうか？（これは HAI という分 野の重要な応用でもある．） もちろん，複数のエージェントが利害関係を求めて争 う場で，文脈を認識し，自らの表象の影響を見積もり， 動的に対応していくという課題は極めて難しい．この 1年間で筆者が学んだのは，これがある程度知性をもっ た人間にすら難しい課題である，ということだった．し かし仮に，こうした社会における意図の読み合いが我々 の脳を育ててきたなら，同じように切磋琢磨できる環境 を，そろそろ人工知能に「与えてあげても」よいのでは ないか？ とも思う（個人的に一番「クリティカル」だっ たのは「人工知能学会なのに人工知能が表紙をつくって いないのはおかしい」という指摘である！ この疑問は 全く正当であろう．我々のつくる知能は社会において主 体的な解決案を提示できるほどには賢くないわけで，こ れはただただ反省するしかない）． 社会的な評価の場に積極的に関わることは，自らの研 究成果を際限のない文脈ゲームに引きずり込んでしまう リスクを内包している．しかしながら，インタフェース の社会的な効用を価値とするとき（つまり，広く HAI に関わる研究をするとき），我々は自分達のつくりだす ものが，万人にとって同意できるものではなく，特定の 人々にとって心地良いものである，という社会的価値に 踏み込まざるを得ない段階にきている．社会的な価値と 研究価値が不可分な場面では，技術の中立性というエク スキューズが非常に弱くなり，政治的な意味をもちやす い（あるいは，そう受け取られやすい）状況が発生し得る． 今回の表紙問題で一つ共有された研究的視点は，インタ フェースにジェンダーを与える，という無自覚にやりが ちな行動が，社会的な偏見を助長する可能性がある，と いう点だと思う．特に社会を舞台にした SF において以 前から指摘されてきた問題点（学会誌のショートショー トにもいくつか見られる）が，HAI 技術の向上によって 現実のものとなりつつあるように感じられる．少なくと も，こうした社会的知能の仕組みは知っていて損はない． 「社会的な要請そのものに疑問をもつのは工学内部で は難しく，人文学的なアプローチが有効である．しがたっ て，こうした問題はその道の専門家に任せるべきだ」と 以前の筆者は考えていた．しかし，今回の表紙問題の件 で，それでも問題解決に責任をもてるのはエンジニアし かおらず，こうした問題の処方箋を社会に提供するのは エンジニアか，エンジニアリングを志向する人文学者し かいないのではないか，と思い直している．問題の分析 に比べ，問題の解決がはるかに難しいことを，最も体感 しているのはエンジニアであり，世の中を変える技術を もつのも，その動機を前線で感じるのも，おおよそエン ジニアである．以上のことから，人工知能学会が倫理に 関する委員会を内部にもち，人文学の協力を得られる体 制になったことは，今後の人工知能研究において重要な ステップになると考える． 最後に，人狼というゲームのプロジェクトに関わるこ とになったこと，この研究に意味を感じていることをこ こに記しておきたい． 人狼は多数のプレーヤ同士で行うコミュニケーション ゲームであり，社会的知能を大きく扱うゲームである． 村人達は正体のわからない中で，相手とコミュニケー ションを重ね，相手を見抜き，そして周りを説得しなが ら，人に化けた人狼を処刑する．人狼達は村人達に見つ からないよう，嘘を重ね，相手を騙し，村人達を襲撃する． このゲームは，文脈に大きく依存したコミュニケーショ ンが求められる課題であり，しかも勝敗が明確なゲーム である．社会的な知能を評価するのに最も良い題材の一 つであると考える． そして筆者，私達は，このゲームから得られる知見が， 社会的な問題に広く応用できる課題であると考えている． 例えば表紙問題が発生したとき，筆者はこれを漠然と，人 狼ゲームに類似した構造として捉えていた．人狼において は発言がすべてであり，事実の真偽それ自体には価値がな い．例えば，信じられず吊られた占い師が，ゲーム終了後 に自分が本物であったことを告げ，相手を責める行為には 意味がない．「相手を説得できなかった」という落ち度は 原則的に情報の発信側にある．あるいはまた，二つの矛盾 した意見を主張する集団があって，まとめ役と呼ばれる調 停者がその中で意見を採用していく，というプロセスがあ る．こうしたある種の政治的志向の中で適切さを選択する 行為（政治的正しさ＝ political correctness）を，人工知能 はどのような手段で解決するのか，非常に興味深い．こう した課題への取組みは，我々を取り巻く問題の解決に広く 貢献するものである，という予感がある． また，副次的な効用として，こうしたプロセスの解明 が，我々研究者自身の「賢さ」にも，大いに貢献する点 も無視できない．突然身近な話になるが，学生と人狼を やると，人狼に強い学生が博士課程に行く傾向が高い， という印象がある（念のためだが，人狼が弱い・嫌い ことが研究に向いていない，という意味では全くない）． これは研究発表や査読のような，コミュニケーションの 場での言語の相対性（武器の効用と限界）を理解でき， 耐性が付くからではないかと密かに仮説を立てている． プロジェクトメンバの片上大輔先生によれば，学生の就 職活動において，人狼は教育ツールとして有効であるら しい．人狼は人工知能だけでなく，我々自身の賢さも育 てているようにも思える． いずれにしても，社会的な知能の観点から人工知能の 分野に対して貢献が生めるように，頑張りたいというの が本年の抱負になる．
