1．は
じ め に
サンデルによる哲学講義が日本国内でもブームとなっ てから，トロッコ問題に象徴される道徳的ジレンマがあ ちこちで議論されるようになった．自動運転車などの自 律システムによる選択との関連でさらに議論が盛り上が り，哲学的分析への関心が高まっているのはある意味喜 ぶべきだ．一方で，何度哲学的議論を繰り返しても煮え 切らない状況への不満と苛立ちが，ポスト真実や反理性 主義の底流とも結び付いて，人文社会科学一般が時間を 消費するばかりで無益・無力であるという批判に結実し てきたようにすら思われる． もっとも，自律システムが実用化されるまでには，こ のようなジレンマ問題だけが問題になっているわけでは ない．ほかのさまざまな場面で理論・実践の両方にお いて倫理・法・社会的帰結（Ethical, Legal and Social Implications：ELSI）を考慮した人文社会科学の知見が 必須となる．例えば倫理的行為者と倫理的配慮の対象の 範囲をどの程度に設定するべきか，といった一見抽象的 な倫理学上の議論や，人格の同一性の根拠といった形而 上学的な問題設定は，自動運転車のレベルと電子的法人 格にかかる法的・経済的問題解決の基盤となる．それに もかかわらず，日本では法曹や保険制度の実務レベルで はともかく，基礎理論については人文社会科学系の研究 者がこのような議論になかなか加わらない，ないし加わ れない状況が続いている． 本論では人工知能・自律システムをめぐる道徳的ジレ ンマを中心に，この分野の倫理・規範にかかる最近の議 論のまとめと，それらの問題点を論じていく．2．トロッコ
問題
道徳的ジレンマ問題の典型であるトロッコ問題は当初 フィリッパ・フットが道徳的ジレンマに関する二重帰結 という考え方を論じるために提示した例であり，妊娠中 絶を考える際の思考実験となっている．その後，道徳的 ジレンマについてはさまざまなアプローチが提案されて おり，近年では認知心理学による実験的研究も進んでい る [相馬 13]． 実験においては，二つの並立しない選択肢のうち，あ る価値観から見ればより良い選択肢が別の価値観から見 ればそうではないという具体例を用いることになる． 2･1 Moral Machine MITでは自動運転車によるトロッコ問題について， さまざまなパラメータを変化させてどのように意思決 定が変化するか，2015 年にオンラインアンケート調査 Moral Machineを行った．初期の分析では，自動運転車 の乗員の人数を上回る通行人の生命を救う場合には自動 運転車の乗員の生命を犠牲にすべきであるという意見に 同意する回答者が多いことが報告された． さらに MIT では分析を行い，国別の回答の距離を設 定することにより，キリスト教圏を中心とする西，儒教 やイスラム教の影響が強い東，旧植民地を中心とする南 とクラスタを三つに分けて，これらの間で回答パターン に違いがあるとした．もちろん同じクラスタに含まれる 国の間でもパターンにはかなりの差がある．例えば，若 年者を高齢者よりも優先して助ける傾向は南，西，日本 を含む東の順で大きい．西では，何もしないという傾向 が強い．また高位者を優先する傾向は，南，西，東の順 で大きいのは，国別にジニ係数との相関が見られるため であるとされた．南では，女性を男性よりも，また非人 間を人間に優先して助ける傾向が突出している．東では， 乗客よりも遵法的歩行者を助ける傾向が強い． 2･2 MIT の実験そのものに含まれる問題点 一般的な事実ではあるが，オンラインアンケートの 回答者母集団は社会全体とは異なる傾向を示す．この実 験の分析においては適当な補正を行っていないように思 われる．またこれも一般的なことではあるが，道徳的ジ レンマの考察に含まれる属性の選択によって，同じ文化人工知能の倫理と社会
Social Concerns on AI Ethics
村上 祐子
立教大学Yuko Murakami Rikkyo University.
[email protected], https://researchmap.jp/read0140800
Keywords:
moral dilemmas, codes of ethics, RRI, aspirational ethics. 「道徳判断の自動化をめぐる問題：規範の選択と協力の進化」に属していたとしても回答者が依拠する論点が大きく異 なってくる [村上 17]．例えばトロッコ問題や妊娠中絶 問題のように生死を分ける決定の場合と，社会的な評価 を分ける決定ではあるが，直接生死には影響がない場合 では決定に至る道筋も緊急性も異なる．トロッコ問題と 妊娠中絶問題の間では，結論に至るまでに許される考慮 時間も論点のスコープも異なる．また自分の身に直接損 害が及ぶ決定と，決断の結果が重大であったとしても自 分の身には直接の影響がない決定でも意見が異なってく る． そしてこれらをすべて包括するような決定的な理論的 分析はなく，したがって解決策もない．だからこそ，こ のような実験を行うことで経験的に問題解決の糸口をつ かもうとしたのであろう． だが，まさにこのような実験設計そのものに，属性の 選択そのものの政治性が無視されているという問題が潜 む．問題解決のためには常にスコープの妥当性が課題と なる．標準策定の際の項目選択が高度な政治性を伴うこ とは技術者は身に染みているはずだ．同じ課題がこのよ うな調査に関しても存在している． さて，これらの問題を解決したとして，自動運転車が 地域的に異なる判断をすべきであるかどうか，という問 いに対してはどのように答えるべきなのだろうか．その 地域社会における受容を優先し，各地域の調査で多数派 を占めた回答に従うべきであるという主張は短絡的であ るように思われる．なぜなら，ある社会一つをとったと してもその社会における多数派が是とする価値観は，必 ずしもその社会における最善のものとは保証されないか らだ．さらに，その多数派の価値観がその時点での社会 で最善のものであったとしても，将来にわたって最善で あり続ける保証はない．多数派の価値観，あるいはこれ までの事例に基づいて形成される価値観のみを根拠とし て，システムに善悪の判断を行わせることは，社会基盤 にシステムが組み込まれて変更・更新が困難であればま すます，「人工因習」ともいうべきシステムの構築に直 結する． 2･3 社会制度による対策 外見で判断されるのであれば，自動運転車に対する偽 装という発想も生まれる．4S ボストン（2017）におけ る学生プロジェクト [Navarro 17] では，空の乳母車を 押すことにより自動運転車にはねられることを回避する という提案がなされた． ドイツ運輸省では，性別などの外見により自動運転 車の挙動を変えることを禁止するよう提案した [BMVI 17]．これは自動運転車の道徳的判断にかかるガイドラ インとして世界初のものである．また，同じ提案の中に， 動物など人間でない生物と比較した場合には，人間の生 命を最優先することが含まれている．このような提案は， GDPR（General Data Protection Regulation）に見ら
れるプライバシー保護や，社会監視に対する警戒という ヨーロッパで重視される観点との整合性が強い． 一方で中国政府が 2014 年から 2018 年の第十二次五 年計画のもとに推進している社会信用体系の構築は，社 会主義の理念の実現手法として位置付けられ，第十三次 五年計画にも引き継がれる見込みである．社会信用スコ アが低い場合には社会活動が制約されるが，国家の利益 を最重要視する中国ではこの手法が是とされる． また映画「マイノリティ・レポート」をさらに深刻化 するようなケースについて，予防措置を講じる必要があ るだろう．[Tunick 17] で検討された例は電子情報とプ ライバシーの問題に関するものである．アメリカの警察 官である夫がインターネットに費やす時間が激増してい るのに気付いた妻が，怪しげな画像が共有のノートパソ コンに保存されているのを見て，スパイウェアを仕込ん で観察したところ，女性を対象とする拷問や人肉食にふ ける Web サイトへの頻繁な訪問と，妻を殺す内容のオ ンラインチャットを発見した．妻は FBI に通報したが， 陰謀ではなく欲望を語っているだけだという調査結果が いったん出された．しかしその後，チャットの内容が日 時・場所・殺害方法を含む具体的なものであり，この警 察官自身が誘拐に関心があると女性の知人に語っていた ことも判明したため，彼は誘拐未遂の罪で逮捕され起訴 されたが，裁判の末に容疑不十分で無罪になった． さて，このケースにはネット情報という外的証拠が あったが，脳情報を読み取る技術が発達した際に類似の 事例が発生するとどうなるのか．脳情報から反社会的計 画が読み取られた場合，プライバシーを守って妄想とし て見過ごすべきなのか，反社会的であるとして未然に逮 捕などの手段を用いて予防すべきなのか？ いずれの選択肢を取るにしても，法制度として社会に 固定されてしまえば，容易に変更ができなくなることは 明白だ．一律に運用すればかなり不適切なケースも発生 するだろうし，どうしてそのように解釈されるデータが 機械から提示されたのか，説明がつかない場合には逆に 恣意的に運用される可能性もある．したがって立法に際 しては，既存法との整合性以外にも今後先鋭化する可能 性がある問題に関しても慎重に検討すべきである．技術 の社会導入ありきの方針は法制度・技術がいずれも社会 基盤として機能している現在，それが技術的であれ，倫 理的であれ，根本設計に不適切な部分があれば，ゲノム 編集を行った人間の誕生よりもさらに深刻な仕方で，社 会に対して不可逆の影響を及ぼすからだ． 生命倫理・情報倫理で論じられてきた倫理的課題のか なりの部分は人工知能研究にそのまま引き継がれる．遺 伝子改変などにより特定の挙動を示す生体を設計する 合成生物学・分子ロボティクスについても，慎重な研究 開発を行うよう専門家による自主規制が検討されている が，脳情報を含む人工知能研究開発に関しても法制化以 前に，専門家が従うべき具体的な手順を含む自主規制を
策定することが，自律的な研究開発活動を継続するため には不可欠である． 2･4 日本政府の対応 総務省「AI ネットワーク社会推進会議」では 2017 年 の報告書 [総務省 17] で AI の開発にかかるガイドライン， 2018年の報告書 [総務省 18] で AI の利活用にかかるガ イドラインをまとめた．特に以下の項目の原則をまとめ た後者では「自動運転」，「医療」，「人事評価・採用」，「金融」 および 「製造過程・バックオフィス業務の自動化」の 5 分野についてヒアリングを行い，同時に個人情報保護法 や著作権法などの改正を進めることで整合性を担保して いる． 1．適正利用の原則 2．適正学習の原則 3．連携の原則 4．安全の原則 5．セキュリティの原則 6．プライバシーの原則 7．尊厳・自律の原則 8．公平性の原則 9．透明性の原則 10．アカウンタビリティの原則 さらに 2018 年 12 月には「人間中心の AI 社会原則検 討会議」がまとめた以下の基本 7 原則案が報道された． 1．AI は人間の基本的人権を侵さない 2．AI 教育の充実 3．個人情報の慎重な管理 4．AI のセキュリティ確保 5．公正な競争環境の維持 6．企業に決定過程の説明責任 7．国境を越えたデータ利用の環境整備 このあと各国との協議のうえで最終版が公表されるこ とになる． 海外からは，日本の特区という手法に対して，問題が 提起されている．パガロ [Pagallo 17] は法体系・法的手 続の安定や実験についてのメタ規則を考慮に入れるべき であるという考え方からすれば，日本における特区とい う思考自体が驚くべきものであるとしている．特区とい う考え方自体がゼロリスク傾向に由来する過度の規制の 裏返しとして，局所的とはいえ極端に無秩序な状況を許 すことになっている．一方でガラパゴス同様地理的に隔 離された環境であるからこそ壮大な社会実験ともいえる 特区設置が国際的に容認されていると考えることもでき よう． 2･5 価値観の衝突としての道徳的ジレンマ 道徳的ジレンマはいわば価値観の衝突であり，その解 決には，価値観の優先順位にかかるメタ的な決定を行う ことになるのだが，人間が実際に道徳的ジレンマに出会 うときには個別の文脈によって異なるメタ決定を行って いるし，メタ決定のレベルでも道徳的ジレンマが発生し 得る．特区の設定のような場面でも，法秩序の安定と技 術の社会実装という目に見える国益の促進が天びんにか けられていると考えられる．このような決定に際し，社 会的責任を担うことができるのは（少なくとも当面の間 は）人間だけであると考えられるが，その実装手段につ いては，人間だけではなく，人間以外のエージェントの 在り方についても社会的に真っ当であることが求められ る．
3．
基本的な考え方
科学技術の研究開発に関しては一般に，技術的・経済 的利得を追求するのではなく，社会的に正義となってい るものであり，公正を実現するためのものでなければな らないという考え方を基礎に置くべきである．「生まれ つき恵まれた立場におかれた人々は誰であれ，運悪く力 負けした人々の状況を改善するという条件に基づいての み，自分達の幸運から利得を得ることが許される」（ロー ルズ『正義論』第 17 節）という主張を基盤に据えれば， 許される技術開発の限界が浮き上がってくる． トロッコ問題が頻出している状況についても，この正 義・公正の重視が基礎にあるからこそ，道徳的決定にか かる功利主義の限界を指摘する例として議論に現れてい ると考えるべきであり，けっして自動運転車にトロッコ 問題を解決させることが求められているわけではないこ とに留意すべきである．4．
国際学会の動向
各国の政策協議と連動して，国際学会においても自律 機械を念頭に置きつつも，実効性を担保した倫理規定の 在り方の議論が進行している．本論では，IEEE と並ぶ 国際学会である ACM の動向についてまとめる． なお IEEE の「倫理的に配慮されたデザイン（Ethically Aligned Design：IEEE-EAD）」[IEEE 16] およびその 後の議論については [IEEE 17] を参照のこと． 4･1 ACMACM（Association for Computing Machinery；計算 機械学会）では，2018 年 6 月に倫理規定を改正施行した． この改定は以下のような考え方に基づく．1992 年に旧 倫理規定が設けられてから我々のライフスタイルは大き く変わっており，生活のあらゆる活動の背後に計算シス テムが動くようになった．ここでその基礎に据えられた のが公正性である．この分野の研究開発に関与する者は すべて，すべての人々に配慮して行動しなければならな い．したがって，学会の倫理規定改正案では，規定を守 るべき主体を（学会員に限らず）計算にかかる専門家す
べてに拡張した． 倫理規定は責任ある研究開発（Responsible Research and Innovation：RRI）という考え方のもとに実装され ることになる．このとき，責任をもつのは直接研究開発 に携わる科学技術者のみではない．経営管理者にも責任 があり，経営管理者の責任は個々の部署に適切な責任を 設計・配分することに存する．すると，研究開発者では ないさまざまな他分野の専門家であっても，さらにはそ の成果を享受する非専門家であったとしても，間接的に は責任ある研究開発に関わることになる．したがって単 に学会がその会員である研究開発者の倫理規範の指針 を与えるだけではもはや不十分であると考えるべきであ る． このような倫理規定は専門家倫理の実現手法の一環 であることは不変であるが，何をせよ，あるいは何を するな，という命令的な規則ではなく，より良き世界 の共有財をつくり出し維持していくという積極的な志 （aspiration）を前面に打ち出すこととなった．このよ うな志を基盤とする技術者倫理については，[Harris 08] を参照のこと．志を実現するには近視眼的ではなく広い 視点からの熟慮を要するので，単にチェックリストを与 えるようなものでは不十分である．つまり，倫理規定は 志の実現のために包括的にポリシーの基盤を述べるもの であり，倫理規定にかかる問題が発生した場合，「規定 条項に触れた（violation）」と考えるのではなくて，「公 正性が損傷された・軽視された」とみなすべきであると いうことになる． 実際に ACM では，改正前の倫理規定でも罰則規定は 盛り込まれていたにもかかわらず，一度も適用されたこ とがなく，倫理規定の実効性そのものが問題があると考 えられていた．この志の基盤としての倫理規定の中で， 罰則規定の代替案として改正案に盛り込まれたのは，問 題を解決するために守秘義務を伴う修復的手続を定める という方法である．修復的司法は日本でも少年法や企業 犯罪の文脈で取り入れられているが，ACM の場合には この方法はコード開発過程方法論としてのアジャイル開 発手法を参考に，現場のエンジニアになじみ深い方法で 提示された．ただし注意書きとして，倫理規定開発と コード開発との共通点はチーム作業であること，定期的 なアップデートが必要であることであるが，異なる点と して倫理規定はソフトウェアと異なり決定的ではないこ と，また受容テストが困難であることがあげられている． 4･2 PRISMA プロジェクト ACMでは，RRI，とりわけ学会員以外の利害関係者 に対する ACM 倫理規定の実効性検証のため，EU およ びミラノ工科大学と共同して，一般企業対象にパイロッ ト事業 PRISMA [EU 16] の公募を行った．パイロット 事業の内容としては，倫理規定の内容の検証，受容のた めのモデルづくり，経緯の共有が求められた． 特にこの受容モデルとして，この社会的な責任を経 営的責任に落とし込む過程で，内部コミュニケーション ツールとして重要評価項目（Key Performance Index： KPI）であり，少なくとも関係者の行為への要請という 面では，看取りやすい判断基準となる．この方向性の課 題としてあげられたのが，（1）この KPI への落とし込 みの妥当性の検証，（2）評価基準を硬直化させないよう 周辺環境に適したアップデートの仕組みであり，公募の 際にはこれらがパイロット事業の内容とされた． この公募に応じたのが，イタリア・ミラノのサプリメ ント・ホメオパシー剤製造会社である GUNA 社である． GUNA社は 1983 年の設立当初から倫理原則を前面に押 し出した運営を旨としており，2008 年時点で社員だけ ではなくすべての利害関係者を対象とする倫理規定を制 定済であった． GUNAでは社長，CIO，CSR，人事，IT チームおよ び現場のサービスマネジャーからなるチームを組んでこ の実装を行い，ACM 倫理規定のイタリア語翻訳，原則 の一覧化，KPI への落とし込みという順番でプロジェク トのタスクを進めていった．特に，KPI が倫理規定の内 部・外部への広報手段と位置付けられたため，人事担当 者の関与が不可欠であったが，このことにより，倫理規 定が単なるお題目ではなく，測定可能なものとなった． また，IT 実装はコストがかかるため，社長レベルの意 思決定が必要だった． このパイロット事業の成果として，IT を極力単純に すること，内部向けと外部向けの実装は異なるものとす べきであること，サービスレベルについてはあらかじめ 合意を求めておくことが必要であると GUNA 社はこの 経験を総括した． 4･3 PRISMA プロジェクトの光と影 これまでの報告を見る限りでは，このパイロットプロ ジェクトは有意義であるように思われる．だが，企業の 各部局における具体的な KPI に倫理規定を落とし込む 際に，その企業でいわれている倫理とは何か，さらには 倫理的企業とは何か，という点に関しては，倫理的投資 とは何か，という問題と同様に，社会的コンセンサスが 取れているとは言いがたい．倫理的であると企業やファ ンドが何らかの規定などを根拠に主張すれば，経営不正 や差別を避けたり，環境規制違反の罰金を科されないよ うにする企業を支持することはリスク管理の点から望ま しいとの考えから，社会，とりわけ投資家から支持され ることになる [Sindreu-Kent 18]．このように倫理性を イメージとして用いた企業が公正であるのかどうかは， 公正性とは何か，問い直す必要がある．さらに，科学的 には効果がない補完療法であると考えられている [厚生 労働省 17] ホメオパシーの推進を旨とする企業が倫理的 であるかどうかがそもそも議論の対象となり得る． 実は EU と ACM の公募説明会には多くの企業が出席
したにもかかわらず，この分野に応募したのは GUNA 社のみであったため，パイロット事業遂行のためには採 択せざるを得なかったという事情があった．それでもリ スク管理の手法としては知見が得られたことになるの で，パイロット事業としては意義があったとみなせると されているが，そもそものパイロット事業の設計そのも のに倫理的問題があったと考えることもできる．
5．ま
と め
ACM倫理規定が志を基盤とするのと同様，IEEE-EADの目的も「知的な機械システム（Autonomous and Intelligent System）に対する恐怖や過度な期待を払拭 すること，倫理的に調和や配慮された技術をつくること によってイノベーションを促進すること」があげられて いるのに留意すべきである．この方向性を採用するので あれば，なぜこの研究開発が社会にとって必要なのか， 研究開発の手法だけではなくシステムやデータの設計が 公正であるかどうか，といった問題意識に，研究開発の 上流段階から実際に社会の中に組み込まれていく段階に 至るまで，それぞれの場面に応じて適切にこたえていく ことが必要である．いずれの段階にしても，研究開発自 体が興味深いものであるから，というだけで進めてしま うことはもはや許されない． 人文社会科学の知見を加えることは，ELSI が直接的 に問われる道徳的ジレンマのような問題に直面しがちな 社会実装の場面だけにとどまるものではない [Lin 17]． 我々はどう生き，どういう社会をつくっていくべきか， 初期からその社会のイメージにかかる議論を行い，求め られる社会をつくるためにはどのような理論体系・技術 が必要なのか，といった方向で研究開発をスタートし， さらにその成果が適切に実装に反映されるように調整を 加えていくことが研究開発に要請される時代になってい る．すなわち現在となっては，文化，歴史，世界を描写 する言語，といった ELSI 以外の分野も含めて，人文社 会科学と科学技術の協同を目指すべきである．人文社会 科学はもはや研究開発にのしかかるブレーキではなく， 高度科学技術社会の円滑な運用には不可欠のステアリン グであるからだ． 謝 辞 本研究は JSPS 科研費 16H03341「科学に基づいた道 徳概念のアップデート（研究代表者：久木田水生）」お よび 18H05218「尊厳概念のグローバルスタンダードの 構築に向けた理論的・概念指摘・比較文化論的研究（研 究代表者：加藤泰史）」の助成を受けたものです．
◇ 参 考 文 献 ◇
[ACM 18] ACM Code of Ethics and Professional Conduct, https://www.acm.org/binaries/content/assets/ about/acm-code-of-ethics-and-professional-conduct.pdf（2018）
[Awad 18] Awad, E., Dsouza, S., Kim, R., Schulz, J., Henrich, J., Shariff, A., Bonnefon, J.-F. and Rahwan, I.: The moral machine experiment, Nature, Vol. 563, pp. 59-64（2018）
[BMVI 17] Federal Ministry of Transport and Digital Infrastructure, Ethics Commission, Report（Extract）: Automated and Connected Driving（June 2017）, https:// www.bmvi.de/SharedDocs/EN/publications/report- ethics-commission-automated-and-connected-driving.pdf
[Bonnefon 16] Bonnefon, J. F. Shariff, A. and Rahwan, I.: The social dilemma of autonomous vehicles, Science, Vol. 352, No. 6293, pp. 1573-1576（2016）
[EC 11] European Commission Directorate General Enterprise and Industry, European ICT Professionalism Project- Preliminary Research（Aug. 2011）, https://www. cepis.org/media/EU_ICT_Prof_interim_report_ PublishedVersion1.pdf
[EU 17] PRISMA Project, http://www.rri-prisma.eu/ （2017）
[Foot 67] Foot, P.: The problem of abortion and the doctrine of the double effect,Oxford Review, No. 50, Included in Foot, 1977/2002 Virtues and Vices and Other Essays in Moral Philosophy（1967）
[Harris 08] Charles, E. and Harris, Jr.: The good engineer: Giving virtue its due in engineering ethics, Science and Engineering
Ethics, DOI 10.1007/s11948-008-9068-3（2008）
[IEEE 16] IEEE Global Initiative Regional Report on AI ethics, https://standards.ieee.org/content/dam/ieee-standards/standards/web/documents/other/eadv2_ regional_report.pdf（2016）
[IEEE 17] IEEE Ethically Aligned Design version2 Workshop Series日 本 語 版，https://sites.google.com/view/ ethically-aligned-design-ws/eadv2-workshop（2017） [JST 14] 中華人民共和国国民経済と社会発展 第十二次五ヶ年計 画要綱，https://www.spc.jst.go.jp/policy/national_ policy/plan125/index_125.html（2014） [厚生労働省 17] 厚生労働省 ホメオパシー「統合医療」に係る情 報発信等推進事業（翻訳公開日 2017 年 3 月 29 日），http:// www.ejim.ncgg.go.jp/public/overseas/c02/05.html （英語原文：NCCHI Homeopathy（2015），https://nccih. nih.gov/health/homeopathy）
[Lin 17] Lin, P., Abney, K. and Jenkins, R.（eds.）: Robot Ethics
2.0: From Autonomous Cars to Artificial Intelligence, Oxford
University Press（2017）
[Marshall 18] Marshall, A.: What can the Trolley Problem teach self-driving car engineers? Wired（Oct. 24, 2018）, https://www.wired.com/story/trolley-problem-teach-self-driving-car-engineers/（日本語版 Wired 2018 年 12 月 09 日 https://wired.jp/2018/12/09/ trolley-problem-self-driving-car/）
[MIT 16] MIT Moral Machine, http://moralmachine.mit. edu/（2016） [村上 17] 村上祐子，稲垣知宏：大人数講義における情報倫理ジレ ンマ教材の活用法について，情報教育シンポジウム 2017 予稿 集，pp. 65-72（2017），https://ipsj.ixsq.nii.ac.jp/ ej/index.php?action=pages_view_main&active_ action=repository_action_common_download&item_ id=182938&item_no=1&attribute_id=1&file_ no=1&page_id=13&block_id=8
[Navarro 17] Navarro, L.: Our driverless futures: Speculating moral dilemmas of self-driving cars, Demonstration in 4S
Making and Doing 2017, http://www.4sonline.org/ md17/post/our_driverless_futures_speculating_ moral_dilemmas_of_self-driving_cars（2017）
[Noothigattu 17] Noothigattu, R., Gaikwad, S., Awad, E., Dsouza, S. Rahwan, I., Ravikumar, P. and Procaccia, A. D.: A voting-based system for ethical decision making（arXiv）（2017） [Pagallo 17] Pagallo, U.: When morals ain’t enough: Robots,
ethics, and the rules of the law, Minds & Machines, Vol. 27, p. 625, https://doi.org/10.1007/s11023-017-9418-5 （2017）
[Shariff 17] Shariff, A., Bonnefon, J. F., Rahwan, I.: Psychological roadblocks to the adoption of self-driving vehicles, Nature
Human Behaviour, pp. 694-696,
DOI:10.1038/s41562-017-0202-6（2017）
[Sindreu 18] Sindreu, J. and Kent, S.: Why it’s so hard to be an ‘ethical’ investor: Buzzy phrases are used to put a halo over some mutual funds, but the devil’s in the definition,
Wall Street Journal（Sept. 1, 2018）, https://www.wsj. com/articles/why-its-so-hard-to-be-an-ethical-investor-1535799601（日本語版：「倫理的」投資が難し い理由とは，Wall Street Journal 日本版（2018 年 9 月 4 日）， https://jp.wsj.com/articles/SB114787429111799346 06504584450250884599512）
[相馬 13] 相馬正史，都築誉史：道徳ジレンマ状況における意思 決定研究の動向，Rikkyo Psychological Research, Vol. 55, pp. 67-77（2013） [総務省 17] 「AI ネットワーク社会推進会議」報告書，http:// www.soumu.go.jp/menu_news/s-news/01iicp 01_02000067.html（2017） [総務省 18] 「AI ネットワーク社会推進会議」報告書 2018，http:// www.soumu.go.jp/menu_news/s-news/01iicp 01_02000072.html（2018）
[Tunick 17] Tunick, M.: Brain privacy and the case of cannibal cop. Res Publica, Vol. 23, p. 179, https://doi. org/10.1007/s11158-017-9352-7（2017） 2019年 1 月 15 日 受理
