1．は
じ め に
人工知能技術（AI）の急速な発展に伴い，モラルをど のように AI に実装するのか，人と AI の共存をいかに実 現するかという問いは安定的な社会システムの設計に不 可避の課題となっている．特に善悪を含む道徳的な判断 や，どのような規範を望ましいものとして採用するかと いった道徳判断に関する課題は重要かつ発展途上の課題 である．AI と道徳に関する研究は一部では進展してお り，例えば Awad ら [Awad 18] は自動運転技術導入に伴 い，歩行者と乗客の安全でトレードオフの環境に置かれ たときにどのような道徳判断基準を AI に実装するかに ついて大規模な国際意識調査を行っている．その結果， 人々がもつ判断基準は地域によって異なり，世界におい てさまざまな異なる規範が採用されていることが明らか になっている． また，近年の情報技術の発展により人々の過去の行動 履歴や人間関係は広範に観測可能となり，それらのデー タは利用可能な形で日々蓄積されている．さらにはイン ターネットが社会のあらゆる場面に浸透することで，多 様な価値観や規範が混在・共存する環境が出現している． 従来はそれぞれの集団や社会で共有されていた規範がオ ンライン・オフラインを問わず混在することで，一方か ら見た向社会的行動が他方からは反社会的行動と判断さ れ相互が激しく対立するなど，規範の対立は致命的な社 会問題を引き起こし得る．このように多様な規範が混在 し，時には対立する環境でいかにして協力的な社会を構 築するかという課題は現代社会において喫緊の課題であ る． 特に個人間ないし個人と集団間で利害が対立する場面 において，いかにして協力的な関係を構築し維持してい くかは古典的でありながら [Hardin 68]，なお新たな課 題が出現し続ける今日的な課題であり続けている．こう した社会的ジレンマ状況において相互協力的な関係が進 化するメカニズムの解明は，今日においても人類が解く べき重要な課題として残されている [Kennedy 05]．利 他行動の進化メカニズムについては自身との遺伝的距 離の近いものを助ける血縁選択 [Hamilton 64] や，関係 が継続される中で生じる直接互恵 [Axelrod 81, Trivers 71]などが代表的である [Nowak 06]．さらには協力に 対する報酬や非協力に対する懲罰など，ジレンマ状況 に追加的な制度を導入することの効果も多く探求され ている [Fehr 02, Okada 15, Sefton 07, Yamamoto 16, Yamamoto 18]．しかし関係の流動性が非常に高い今日 の社会においては，1 回限りの相互作用であっても協力 を維持するメカニズムの重要性が増している． 直接的な見返りが期待できない見知らぬ人間どうし でも，安定して協力行動を維持する仕組みは現代社会に おいて極めて重要になりつつある．このためには「情け は人のためならず」といった が示すような，協力した 個人へと利益が還元される仕組みが存在しなければなら ない．人間が善悪を判別する機能（規範）は，そのよう な仕組みの一つとして働いていると考えられ，どのよ うな規範が進化し定着するのかについてゲーム理論を 用いた研究がなされてきた [Alexander 87, Kandori 92, Panchanathan 04, Sugden 86, Wedekind 00]．本稿ではただ乗りが可能な社会的ジレンマ状況におい て，人が他者の行動を観察しそれを評価するメカニズム を導入することで協力的社会を実現する間接互恵性に着 目する．ここでは他者の行動の善悪を判断する基準を規 範と呼ぶ．例えば，他者を搾取し続けるなど行動プロファ イルが悪い個人（Alice）が困窮しているときに Alice に 協力的に振る舞った人（Bob）がいた場合，Bob は善い・ 悪いのいずれと判断されるべきであろうか．どのような 規範が協力的な社会をもたらすのか，また規範が混在す
規範エコシステムアプローチによる
規範と協力の共進化メカニズム
An Ecosystem Approach to a Mechanism of Co-evolution of Norms and
Cooperation
山本 仁志
立正大学Hitoshi Yamamoto Rissho University.
[email protected], http://hitoshi.isslab.org/
Keywords:
social norm, evolution of cooperation, social dilemma, agent-based modeling. 「道徳判断の自動化をめぐる問題：規範の選択と協力の進化」る際に何が生じ得るのかを理解することは道徳判断の自 動化を考えるうえで重要な課題である．
2．
間接互恵規範の概要
規範を用いて他者の善し悪しを判断するには，次の二 つの情報が必要である．つまり（1）どういう選択を（2） 誰に対してしたかである．ここで「どういう選択」とは 協力（C）か非協力（D）か，「誰に対して」とは善いプレー ヤ（G）か悪いプレーヤ（B）かである．（1）の情報を 一次情報と呼び，（2）の情報を二次情報と呼ぶ．この状 況をモデル化する基本的な枠組みにギビングゲームがあ る．ここでは他者に協力か非協力かの行動をする個人を ドナーとし（前述の例では Bob に該当），その行動を受 ける個人をレシピエントとする（前述の例では Alice に 該当）．社会の人々はこの行動を観察し，ドナーの評価（G か B）をアップデートする．人々がドナーとして振る舞 う際には善い人（G）には協力し悪い人（B）には非協 力するという選択をする．この枠組みを図示したものが 図 1 である． これまでの間接互恵性の理論では，「協力行動は良く 非協力行動は悪い [Nowak 98a, Nowak 98b]」（Image Scoring,“IS”），「悪いヒトに協力することは悪く，悪 いヒトに非協力することは良い [Kandori 92, Pacheco 06]」（Stern Judging,“SJ”），「悪いヒトに対してであっ ても協力は良いことで，悪いヒトに非協力することも良 い [Leimar 01, Panchanathan 03, Sugden 86]」（SimpleStanding, “ST”）といったいくつかの規範が協力行動を 安定させることが知られている． これらの研究はどのような規範が進化的に安定かを明 らかにしようと試みている．ここで「安定」とは対象と する規範が純粋な裏切りと純粋な協力者に侵入されない ということを示す．一方でさらに重要となる課題は，進 化はどのような規範を好むのか，つまり進化の過程にお いてどのような規範が選ばれ最終的に生き残るのかとい う問いである．これまでの研究は少数の規範だけが存在 するという仮定のもとで分析されており，現実の多様な 規範が作用し合う複雑な状況に対応できていなかった． 代表的には，Ohtsuki & Iwasa は [Ohtsuki 04, Ohtsuki
06]は 4 096 種類の規範のうち八つのみが協力を安定さ せることができることを示した．多くの理論的研究もま た特定の規範が完全非協力と完全協力の二つの行動ルー ルに侵入されないかどうかに着目している [Brandt 04, Ohtsuki 06, Ohtsuki 07]．しかし，このアプローチは複 数種類の規範間の競争を扱うことができない．規範と協 力がともに進化する過程でどのようなダイナミクスが生 じるのか，またその過程でさまざまな規範がそれぞれど のような役割をもつのかを分析する必要がある． 本稿では，多数の規範の共存と進化を扱った研究を紹 介することで本特集号の目的である「複数の価値基準が 混在した系における道徳判断の自動化」に向けた基礎的 な知見を提供したいと考える． 3章では規範と協力の共進化を分析した先駆的な取組 みを紹介する．著者ら [Yamamoto 17] は複数規範の共 存と競争を扱う規範エコシステムの導入し，規範エコシ ステムにおいて存在が必須となる「必須規範」の解明の ために「規範ノックアウト手法」を開発した． 4章では規範エコシステムの性質を詳細かつ厳密に分 析するために開発された数理モデルを紹介する．Uchida ら [Uchida 18] は規範エコシステムを社会シミュレー ションに頼らずに純粋に数理解析的に扱う方法を開発 し，規範がその下部概念である個々の行為に対する評価 ルールに分解可能かどうかで進化ダイナミクスが異なる ことを明らかにした． 5章では現実の人間がどのような規範をもつのか，ま た他者の行動をどのように観察するのかを実験的に明 らかにした論文を紹介する．Okada ら [Okada 18b] は， 人間が他者の行動を観察し評価する際に用いる情報を分 図 1 ギビングゲームを用いた間接互恵規範のフレームワーク （[Yamamoto 17] より抜粋）． パネル A（1）：ドナーは自身から見た評価が Good である レシピエントにはコスト c を払い協力（C）し，レシピエン トに b の利得を与える（b ＞ c ＞ 0）．Bad であるなら非協 力（D）を選択し，その際にはドナー，レシピエント共に利 得の変化は生じない．パネル A（2）：観察者はドナーの行 動（C/D）と観察者がもつレシピエントへの評価（G/B）を 用いてドナーに対する評価を更新する． パネル B：それぞれのエージェントはプライベートに Good/ Badの組合せをもつ．この Good/Bad の組合せが個人がも つ規範であり，24＝16 通りの規範が存在する． パネル C：代表的な規範はこのテーブルのように表現でき る．例えば Image Scoring は前回のドナーの行動が C であ れば常に Good と評価する．代表的な規範は次のとおりに 表現できる．Shunning（SH）＝GBBB，Stern Judging（SJ）＝ GBBG，Image Scoring（IS）＝ GGBB，Simple Standing（ST）＝ GGBG
析する実験システムを構築し人々がもつ規範の分布を明 らかにした．
3．
規範ノックアウト手法を用いた必須規範の解明
これまで複数規範間の競争に着目した研究はごく少 数の規範間の競争を扱ったものに限られてきた [Uchida 10a, Uchida 10b]．規範エコシステムにおいて協力が進 化し安定する過程を分析するためには，規範の混在状態 もしくは非協力が支配的な状態から協力的な行動が進化 するダイナミクスを分析し個々の規範が果たす役割を明 らかにするとともに，協力の進化に必須となる規範が存 在するのか，またその規範は協力社会が実現した後も重 要な役割を果たしているのかなどを分析する必要があ る． 3･1 規範と協力の共進化ダイナミクス 著者ら [Yamamoto 17] はエージェントベースシミュ レーションを用いて，二次情報まで用いるすべての規範 が混在した環境で規範と協力が共進化するメカニズムを 分析した．図 2 のパネル A は各規範の人口比率と協力 率の時系列グラフを示している．その結果最も多数派と なる規範は，SH → SJ → ST という厳格な規範から寛容 な規範への推移が観察された．パネル B は最も人口比率 が大きい規範の移り変わりを示したものである．多くの ケースで厳格な SH が多数派な状態から SJ へと多数派 が遷移し，その後より寛容な ST や ALLC へと多数派規 範が交代していくことがわかる． 非協力行動が支配的な環境では ALLB（BBBB）と SH（GBBB）がマジョリティとして共存するが，マイ ノリティとして BGBB と IS（GGBB）も少数存在し続 ける．これらのグループの特徴は（**BB）という評価ルー ルをもつことである．評価ルール（**BB）は，レシピ エントの評価にかかわらず，D 行動をとったドナーを B とみなす規範であり，非協力行動が多数を占める環境で は多くの相手を B とみなすことで，結果的にほとんどの 相手に対して協力行動を起こさない．その結果，自身の コストを下げないので生き残る．一方，協力が達成され た後は，ALLG（GGGG），ST（GGBG），IS（GGBB）， GGGBが共存する．これらのグループの特徴は（GG**） という評価ルールをもつことであり，互恵的に協力する 規範が生き残る．協力率が上昇するときに一時的に多数 派となる SJ（GBBG）はこれらのどちらのグループに も属さないため，安定的に存在することはできない．ま た SJ はエラーがある環境では一時的な多数派を占める ことすらまれである．一方で，IS は両方のグループに属 するので，常に存在することが可能である． SJは特徴的な役割を果たしており，協力率が増加し 協力的な社会が実現するときには最大の人口比率を占め ることができるが，いわば三日天下のようにその期間は 短く，協力社会が実現した後には存在していない．また， SHは非協力が支配的な社会では ALLB と共存し協力率 が増加する直前には最大の比率を占めるが，やはり協力 社会が実現した後には生き残ることができていない． 3･2 規範ノックアウト手法の開発 SHや SJ が規範と協力の共進化において特徴的な振 舞いをすることがわかったが，規範エコシステムに存在 する種々の規範の中に協力の進化に必須なものは存在す るのであろうか．例えば 1 種類の規範が欠けただけで規 範エコシステムにおいて協力の進化が不可能になるので あれば，その規範は協力の進化において必須のものとい える．これは例えばある生態系を考えたときにその生態 系を維持するために必須となる種の存在を分析すること に対応する．生態系にはパイオニア種と呼ばれる，荒廃 した環境に最初に根付きその後の生態系の発展に貢献す る生物種が存在する [Swaine 88]．例えば，火山による 溶岩流に覆われた土地に最初に侵入する植物などが典型 的なパイオニア種である．これらの生物種が存在しなけ れば，森林などの生態系が成長することは困難である． 著者ら [Yamamoto 17] は，最終的な協力状態に至る ために必須となる規範が存在するのかどうか，存在する 図 2 規範と協力の共進化ダイナミクス（[Yamamoto 17] より抜 粋）． パネル A は各規範の人口比率と社会全体の協力率の平均値． 横軸は世代を表している．黒の点線は協力率である．SH と ALLBが共存する間は協力は生じない．ALLB が SH によっ て駆逐されたときに SJ が侵入し協力率が上昇する．同時に SHは SJ によって駆逐される．協力が完全に達成された後， SJは ST の侵入を許し，また他の寛容な規範（ALLG など） と共存する．最終的には，規範を表現する前半 2-bits が G である規範，つまりレシピエントが過去に協力を選択して いれば常に協力を選択する規範が共存状態となる． パネル B は 50 回のレプリケーションを行い，非協力社会 から協力社会へと変化する前後に最も人口が多い規範がど のように移り変わったかを視覚化したものである．赤で あらわされる SH から SJ に最大規範が推移し ST を経て ALLG へと推移することがわかるのであればそれらはどのような特徴を有するかを調べる ために，遺伝工学で用いられる Gene Knockout [Strepp
98]の技法を応用した規範ノックアウト手法を提案した． Gene Knockoutはある生物に機能欠損型の遺伝子を導 入するという遺伝子工学の技法であり，配列は既知であ るが機能がよくわかっていない遺伝子を研究するときに 用いられる．進化シミュレーションにおいて，特定の規 範を表現する遺伝子配列だけ集団から排除する方法を採 用して，その規範が協力の進化において重要な役割を果 たす必須規範であるかどうかを明らかにした．著者らは ノックアウトすることで社会における協力が進化できな くなる規範を必須規範と定義している． 図 3 は規範ノックアウト手法を用いたシミュレーショ ン結果を示している．パネル A に示されるように SH と ISがノックアウトされた環境では協力したときの利得 にかかわらず協力は全く進化していない．つまり SH と ISは必須規範であるといえる．パネル B，C はそれぞれ SH，IS をノックアウトしたときの人口比率の時系列ダ イナミクスである．SH が ALLB に対抗することで協力 の進化の基盤をつくり IS が SH の ALLB に対する対抗 をサポートする関係にあることがわかる．さらに興味深 いことに，SH も IS も協力が達成された後は生き残れな かったり，少数派としてしか存在できなかったりする． つまり非協力が支配的な環境から協力が進化するときに は重要な役割を果たすが，安定した社会では彼らに光が 当たることはない．これは規範エコシステムにおいて生 態系のパイオニア種と同様の役割を果たしているという ことができる．
4．
規範エコシステムの数理的解析
3章で紹介したように，著者ら [Yamamoto 17] は規範 エコシステムをエージェントベースシミュレーションを 用いて分析することで必須規範の発見に成功している． しかし，規範エコシステムを厳密に数理解析する方法は これまで存在せず，詳細な解析法の開発が期待されてい た．Uchida ら [Uchida 18] は規範エコシステムを純粋 に数理解析的に扱う方法を開発し，本来 6 万本以上の絡 み合った方程式を解かなければならないところを，512 本の方程式に縮減することに成功した． 4･1 個人主義的アプローチと分人主義的アプローチ 二次情報まで考える間接互恵規範は次の四つの場面に 対する評価ルールで構成される．これらの評価ルールの 組合せによって規範は構成される． （1）善いプレーヤに協力した（向社会的行動に対する 評価） （2）悪いプレーヤに協力した（寛容な行動に対する評 価） （3）善いプレーヤに非協力した（反社会的行動に対す る評価） （4）悪いプレーヤに非協力した（懲罰的行動に対する 評価） ここで，プレーヤが自身の規範を適応的に学習する際 の適応アーキテクチャは二つに大別することができる． 一方が個人主義的アプローチで，それぞれの規範を最小 単位として分割できないものとして捉えるものである． このアプローチではプレーヤが自身の規範と他者の規範 とを比較してより適応的な規範へと学習するときに，四 つのルールの組合せで表現された一つの規範を最小の塊 としていわばセットで学習する．すなわち他者の規範を まるごと模倣することとなる．これは数理的にはレプリ ケータダイナミクスで表現することができる． 他方のアプローチが分人主義的アプローチである．こ れは規範を学習する際に，規範をさらに四つの評価ルー 図 3 規範ノックアウト手法による必須規範の分析（[Yamamoto 17]より抜粋）． パネル A は代表的な規範をノックアウトした際の協力率を 示している．横軸が b であり 3 b 6 の範囲で協力の利得 を変化させている．縦軸が協力率の平均である． パネル B は SH をノックアウトしたときの各規範の人口 比率である．ALLD を排除できる規範が存在しないため， ALLD 支配を抜け出すことができずに非協力が支配的な状 態が安定となる． パネル C は IS をノックアウトしたときの各規範の人口比率 である．SH がわずかな人口しか存在できず ALLD に対し て優位とならない．IS の支えによって SH が ALLB に対抗 できていたことがわかるルに分割して学習可能であると捉えるものである．つま り，ある他者の規範をまるごと模倣するのではなく，一 つ目の評価ルールである向社会的行動に対する評価ルー ルはある個人から，二つ目の寛容な行動に対する評価 ルールは別の個人から学習するという学習方法である． これは数理的には遺伝的アルゴリズム（GA）で表現す ることができる．具体的にはそれぞれ四つの評価ルール を遺伝子座として表現した遺伝子を規範として捉え，ク ロスオーバによって個々の評価ルールを適応させてい くことになる．なお，3 章のシミュレーションモデルは GAを用いた進化が採用されているため分人主義的アプ ローチということができる． 4･2 数理解析による規範と協力の共進化 それぞれの適応アーキテクチャを用いて解析した結果 が図 4 である．規範のモデル研究で安定的とされてきた 「悪に協力することは悪である」という SJ 規範は，社会 のメンバが他者を部分に分解しない「個人主義」の発想 に基づいて規範を構築している限りは安定的に存続でき るが，他者を部分に分解する「分人主義」の発想に基づ いて規範が構築されるような社会では，最終的に絶滅し てしまうことがわかった．
5．
間接互恵における人々の評判情報の参照戦略
これまで紹介してきた理論的なアプローチでは，人々 の規範は一次情報と二次情報の組合せで決まるという前 提を採用していた．ここで一つの疑問が生じる．それは 人々は本当にこれら 2 種類の情報を完全に利用している のであろうかというものである．人々は他者を評価する ときに複雑な情報処理を避けるので二次情報はほとんど 使われず一次情報のみを利用するとする研究 [Milinski 01, Wedekind 00, Yoeli 13]がある一方で，ゲーム相手が ランダムに決まる際には一次情報だけが使われるが相手 を選べる場合には二次情報が用いられるという実験も存 在する [真島 15]．また Swakman ら [Swakman 16] は 実験参加者が一次情報と二次情報の参照を自由にできる という枠組みの実験を行い，二次情報参照にコストがか かる場合でも二次情報が参照されることがあることを示 している． しかしこれらの研究はいずれも一次情報（ドナーが協 力したかどうか）が先行して提示され，追加的に二次情 報（レシピエントは善い人かどうか）が提示されるとい う前提に立った議論を展開している．また，その他の実 験的研究でも二次情報が必ず利用されるという条件のも とで，それがどのように利用されているかを分析してい る [真島 05, 鈴木 14]．Okada ら [Okada 18b] はこの前 提が正しいのかを検証し，さらに人々が一次情報・二次 情報をどのように参照する戦略をもっているのかを明ら かにするための実験を行った．この研究はこれまでの理 論的研究・実験的研究が暗黙に設定していた，一次情報 と二次情報の組合せで間接互恵規範が定義されるという 設定に見直しを迫るものである． 実験は Web ベースのシステム上で行われ，実験参加 者はランダムにマッチングされた受益者に対し，受益者 の過去の行動（一次情報）と受益者の相手が善い人かど うか（二次情報）を自由に参照し行動を決定した（図 5）． 実験結果からわかることは，第一に多くの情報参照パ ターンは一次情報が先行することである（図 6）．しか 図 5 実験における参照情報の概要（[Okada 18b] より抜粋）． 実験参加者（Subject）はレシピエント X に対してコストを 払って協力するかどうかを選択する．その際に X の過去 5 ラウンドの行動（What data）と X が過去にドナーとなっ たときのレシピエントの評価（Whom data）を自身の選択 によって開示する．実験ではこの開示パターンと協力行動 の関係を分析している 図 4 二つの適応アーキテクチャよる進化ダイナミクスの違い （[Uchida 18] より抜粋）． パネル A はレプリケータダイナミクスによる規範と協力の 共進化ダイナミクスである．SJ が最終的に最大の人口比率 で安定している． パネル B は GA よる規範と協力の共進化ダイナミクスであ る．3 章の結果と同様に SJ は一時的に最大の人口比率を占 めるが最終的には絶滅し，GG** で表現される寛容な規範 の混在状態で安定するし，一次情報のみを参照するケースと，一次情報に加え て二次情報を参照するケースは同数存在している．これ は情報参照行動と協力行動の関係（図 7）に示すように， 一次情報の内容によってその後の行動が異なることによ るものと考えられる．第二にこれまでは一次情報が先行 することが暗黙の前提とされていたにもかかわらず，二 次情報を先行する情報参照行動も見られている．図 7 の 分析からわかるように，二次情報が先行されるときには それが Good であれば一次情報に って行動が参照され るが，Bad のときにはその情報が無視されることが示さ れている．このような選択的無視という情報参照パター ンが存在することは新たな発見であるといえる．理論 的には二次情報が Bad のときには評価を下さないとい う新しい規範も提案されており [Okada 17, Okada 18a, Sasaki 17a]，人々の規範を分析するうえで今後考慮す べき人間の行動特性であろう．
6．ま
と め
本稿では特集号のテーマである「規範の選択と協力の 進化」に関して規範と協力の共進化に焦点を当てた論文 を紹介した．ここではそれぞれの論文の含意について議 論する． 3章で示した規範ノックアウト手法を用いたシミュ レーションが示すことは，ダイナミクスを分析すること の重要性である．これまで多くの研究が示してきたある 特定の規範が進化的に安定かどうかというアプローチは 二つの面で問題があるといえる．一つは，ある特定の規 範がフリーライダの侵入に対して頑健であることを示す ことができたとしても，果たして進化の過程でその規範 は選択されるのかという疑問に答えられないことであ る．他方は，協力が進化する過程で重要な役割を果たす ものの，単独では安定的に存在できない規範を発見する ことができないことである．実際に SH や IS は単独で は ALLC と ALLD の侵入に対して安定的に存在できな いことが明らかになっている [Sasaki 17b]．しかし，こ れらの規範が存在しない環境では，規範の混在環境から 協力的な社会が実現することはないのである．こうした いわゆる Unsung Hero ともいうべき存在の重要性は， 単に互恵的協力の文脈だけでなく多くの社会的文脈で着 目すべきであろう． 4章で示した数理的解析の結果は，適応アーキテクチャ に着目することの重要性である．数理的解析によって， 適応アーキテクチャの違いが異なる進化のパスを生み出 すことが明らかになったが，今後は我々人間が社会にお いて適応的に振る舞う際にどのような学習過程を採用し ているのかにまで着目しその過程を分析することが必要 となることを示唆している． 5章は実際の人間がどのような評価ルールを採用する かについてさらなる詳細な検討が必要となることを示し ている．これまでの間接互恵規範の研究においては，利 用可能な情報はすべて利用されるという前提がおかれて いた．しかし，人間の実際の意思決定においては選択的 無視というこれまで理論的にはあまり着目されてこな かった行動も見られている． これら 3 本の論文は，抽象モデルを扱ったり実験室環 境における行動の観察であるため直ちに道徳判断の自動 化に応用できるものでないことは当然である．しかしな がら，規範が進化するダイナミクスや人々の実際の意思 決定基準に関する知見なしに道徳判断の自動化を設計す ることは困難であり，かつ非常に危険なものとなろう． 今後は人間と AI が混在する環境における道徳判断基 準の議論も必要となると考えられる．例えば「善きサマ リア人の法」は道徳判断基準の自動化によってどのよう にアップデートされるべきかという問題がある．「善き サマリア人の法」とは善意により誠実に行動した結果の 図 6 開示情報の割合（[Okada 18b] より抜粋）． 実験参加者が開示した情報の順序と割合を分析すると，一 次情報のみを開示する行動が 25％，一次情報を開示の後に 二次情報を開示する行動が 25％存在する．これは図 7 に示 すように一次情報の内容によって二次情報の参照行動が変 化することを示している．一方で二次情報を先行する情報 参照行動も 15％見られており，二次情報先行型の情報参照 戦略にも着目する必要があることがわかる 図 7 情報参照行動が協力行動に与える影響（[Okada 18b] より 抜粋）． 一次情報が先に開示された場合，その情報が協力であった ときには二次情報によらず協力が選択されている．一方で 非協力であったときには，二次情報が参照されその結果に よって行動が選択される．二次情報が先に開示された場合， その情報が Good であったときには一次情報が参照されそ の結果によって行動が選択される．一方で Bad であったと きにはこの情報は行動に影響を与えない失敗・損失は責任を問われないという考えである．これ は人間の限定合理性や情報処理能力などの制約を前提と している．では，大量な情報に対して高い処理能力が実 装された AI が存在する今後の情報化社会においてどの ような「新たな善きサマリア人の法」が求められるので あろうか．こうした新たな道徳的課題に対して，本稿で 紹介した研究群や本特集号が何らかの貢献をもたらすこ とができれば望外の喜びである． 最後に，著者らの取組みを紹介して本稿を閉じたい と思う．協力の進化に関しては現在も多彩な分野から先 進的な研究が発表され続けている．しかしながら，理論 的解析・実験室実験・実システム上の検証といった方法 論ベースでの研究の統合はまだ不十分であり，協力の進 化メカニズムに関する統一的な理論枠組みの構築も未解 決の課題である．著者らはこれらの課題に挑戦するた めのオープンプロジェクト“Evolving Cooperation and Social Simulation（ECOSOS）＊1”を立ち上げている． 関心をもたれた諸賢からのコメントやご批判をいただけ ればこれに勝る喜びはない． 謝 辞 本稿の作成にあたり本特集にお誘いいただいた岡田 勇先生（創価大学）ならびに共同研究者の内田智士氏 （倫理研究所），佐々木達矢氏（F-Power Inc.）に深く感 謝する．本稿の一部は科研費 15KT0133，16H03120， 17H02044，18H03498 の支援を受けている．
◇ 参 考 文 献 ◇
[Alexander 87] Alexander, R.: The Biology of Moral Systems, Aldine de Gruyter, New York（1987）
[Awad 18] Awad, E., Dsouza, S., Kim, R., Schulz, J., Henrich, J., Shariff, A., Bonnefon, J.-F. and Rahwan, I.: The moral machine experiment, Nature, Vol. 563, No. 7729, pp. 59-64（2018） [Axelrod 81] Axelrod, R. and Hamilton, W. D.: The evolution of
cooperation, Science, Vol. 211, pp. 1390-1396（1981）
[Brandt 04] Brandt, H. and Sigmund, K.: The logic of reprobation: Assessment and action rules for indirect reciprocation, J. Theor. Biol., Vol. 231, No. 4, pp. 475-486（2004） [Fehr 02] Fehr, E. and Gächter, S.: Altruistic punishment in
humans, Nature, Vol. 415, No. 6868, pp. 137-140（2002） [Hamilton 64] Hamilton, W. D.: The genetical evolution of social
behaviour. II, J. Theor. Bio., Vol. 7, No. 1, pp. 17-52（1964） [Hardin 68] Hardin, G.: The tragedy of the commons, Science, Vol.
162, No. 3859, pp. 1243-1248（1968）
[Kandori 92] Kandori, M.: Social norms and community enforcement, Rev. Econ. Stud., Vol. 59, No. 1, pp. 63-80（1992） [Kennedy 05] Kennedy, D. and Norman, C.: What don’t we
know?, Science, Vol. 309, No. 5731, p. 75（2005）
[Leimar 01] Leimar, O. and Hammerstein, P.: Evolution of cooperation through indirect reciprocity, Proc. R. Soc. Lond. B., Vol. 268, No.1468, pp. 745-753（2001） [真島 05] 真島理恵，高橋伸幸：敵の味方は敵？間接互恵性におけ る二次情報の効果に対する理論的・実証的検討，理論と方法， Vol. 20, No. 2, pp. 177-195（2005） [真島 15] 真島理恵：間接互恵性状況での人間行動，亀田達也（編）， 「社会の決まり」はどのように決まるのか，第 4 章，pp. 117-147，勁草書房（2015）
[Milinski 01] Milinski, M., Semmann, D., Bakker, T. C. M. and Krambeck, H.-J.: Cooperation through indirect reciprocity: Image scoring or standing strategy?, Proc. R. Soc. B: Biol. Sci., Vol. 268, No. 1484, pp. 2495-2501（2001）
[Nowak 98a] Nowak, M. A. and Sigmund, K.: Evolution of indirect reciprocity by image scoring, Nature, Vol. 393, No. 6685, pp. 573- 577（1998）
[Nowak 98b] Nowak, M. A. and Sigmund, K.: The dynamics of indirect reciprocity, J. Theor. Biol., Vol. 194, No. 4, pp. 561-574 （1998）
[Nowak 06] Nowak, M. A.: Five rules for the evolution of cooperation, Science, Vol. 314, No. 5805, pp. 1560-1563（2006） [Ohtsuki 04] Ohtsuki, H. and Iwasa, Y.: How should we define goodness? -Reputation dynamics in indirect reciprocity, J.
Theor. Biol., Vol. 231, No. 1, pp. 107-120（2004）
[Ohtsuki 06] Ohtsuki, H. and Iwasa, Y.: The leading eight: Social norms that can maintain cooperation by indirect reciprocity, J.
Theor. Biol., Vol. 239, No. 4, pp. 435-444（2006）
[Ohtsuki 07] Ohtsuki, H. and Iwasa, Y.: Global analyses of evolutionary dynamics and exhaustive search for social norms that maintain cooperation by reputation, J. Theor. Biol., Vol. 244, No. 3, pp. 518 - 531（2007）
[Okada 15] Okada, I., Yamamoto, H., Toriumi, F. and Sasaki, T.: The effect of incentives and meta-incentives on the evolution of cooperation, PLoS Comput. Biol., Vol. 11, No. 5, p. e1004232 （2015）
[Okada 17] Okada, I., Sasaki, T. and Nakai, Y.: Tolerant indirect reciprocity can boost social welfare through solidarity with unconditional cooperators in private monitoring, Sci. Rep., Vol. 7, No. 1, p. 9737（2017）
[Okada 18a] Okada, I., Sasaki, T. and Nakai, Y.: A solution for private assessment in indirect reciprocity using solitary observation, J. Theor. Biol., Vol. 455, pp. 7-15（2018）
[Okada 18b] Okada, I., Yamamoto, H., Sato, Y., Uchida, S. and Sasaki, T.: Experimental evidence of selective inattention in reputation-based cooperation, Sci. Rep., Vol. 8, No. 1, p. 14813 （2018）
[Pacheco 06] Pacheco, J. M., Santos, F. C. and Chalub, F. A. C.: Stern-judging: A simple, successful norm which promotes cooperation under indirect reciprocity, PLoS Comput. Biol., Vol. 2, No. 12, p. e178（2006）
[Panchanathan 03] Panchanathan, K.: A tale of two defectors: the importance of standing for evolution of indirect reciprocity, J.
Theor. Biol., Vol. 224, No. 1, pp. 115-126（2003）
[Panchanathan 04] Panchanathan, K. and Boyd, R.: Indirect reciprocity can stabilize cooperation without the secondorder free rider problem, Nature, Vol. 432, No. 7016,pp. 499-502 （2004）
[Sasaki 17a] Sasaki, T., Okada, I. and Nakai, Y.: The evolution of conditional moral assessment in indirect reciprocity, Sci. Rep., Vol. 7, p. 41870（2017）
[Sasaki 17b] Sasaki, T., Yamamoto, H., Okada, I. and Uchida, S.: The evolution of reputation-based cooperation in regular networks, Games, Vol. 8, No. 1, p. 8（2017）
[Sefton 07] Sefton, M., Shupp, R., andWalker, J. M.: The effect of rewards and sanctions in provision of public goods, Econ. Inq., Vol. 45, No. 4, pp. 671-690（2007）
[Strepp 98] Strepp, R., Scholz, S., Kruse, S., Speth, V. and Reski, R.: Plant nuclear gene knockout reveals a role in plastid division for the homolog of the bacterial cell division protein FtsZ, an ancestral tubulin, Proc. Natl. Acad. Sci. USA, Vol. 95, No. 8, pp. 4368-4373（1998）
[Sugden 86] Sugden, R.: The Economics of Rights, Cooperation
and Welfare, Oxford: Basil Blackwell（1986）
[鈴木 14] 鈴木貴久，小林哲郎：評判生成規範の類型がパーソナル・ ネットワークのサイズに及ぼす効果，社会心理学研究，Vol. 30, No. 2, pp. 99-107（2014）
[Swaine 88] Swaine, M. D. and Whitmore, T. C.: On the definition of ecological species groups in tropical rain forests, Vegetatio, Vol. 75, No. 1, pp. 81-86（1988）
[Swakman 16] Swakman, V., Molleman, L., Ule, A. and Egas, M.: Reputation-based cooperation: Empirical evidence for behavioral strategies, Evol. Hum. Behav., Vol. 37, No. 3, pp. 230-235（2016）
[Trivers 71] Trivers, R. L.: The evolution of reciprocal altruism,
Q. Rev. Biol., pp. 35-57（1971）
[Uchida 10a] Uchida, S.: Effect of private information on indirect reciprocity, Phys. Rev. E, Vol. 82, No. 3, p. 036111（2010） [Uchida 10b] Uchida, S. and Sigmund, K.: The competition of
assessment rules for indirect reciprocity, J. Theor. Biol., Vol. 263, No. 1, pp. 13-19（2010）
[Uchida 18] Uchida, S., Yamamoto, H., Okada, I. and Sasaki, T.: A theoretical approach to norm ecosystems : Two adaptive architectures of indirect reciprocity show different paths to the evolution of cooperation, Front. Phys., Vol. 6, No. February, p. 14（2018）
[Wedekind 00] Wedekind, C. and Milinski, M.: Cooperation through image scoring in humans, Science, Vol. 288, No. 5467, pp. 850-852（2000）
[Yamamoto 16] Yamamoto, H. and Okada, I.: How to keep punishment to maintain cooperation: Introducing social vaccine, Physica A, Vol. 443, pp. 526-536（2016）
[Yamamoto 17] Yamamoto, H., Okada, I., Uchida, S. and Sasaki, T.: A norm knockout method on indirect reciprocity to reveal indispensable norms, Sci. Rep., Vol. 7, No. 1, p. 44146（2017）
[Yamamoto 18] Yamamoto, H. and Suzuki, T.: Effects of beliefs about sanctions on promoting cooperation in a public goods game, Palgrave Commun., Vol. 4, No. 1, p. 148（2018） [Yoeli 13] Yoeli, E., Hoffman, M., Rand, D. G. and Nowak, M.
A.: Powering up with indirect reciprocity in a large-scale field experiment, Proc. Natl. Acad. Sci. USA, Vol. 110, No. Supplement 2, pp. 10424-10429（2013） 2019年 1 月 15 日 受理
