1．は
じ め に
本稿に与えられた目標は，「人工知能学者が倫理をど う考えているか」について倫理学者の視点から検討する ことである．研究者が関心をもっている倫理問題の具体 例としては，例えばアルゴリズム上の偏見 algorithmic biasの問題をあげることができるだろう．こうした，人 工知能学者が考えるべき，あるいは少なくとも気にはす べき倫理の問題を大きく分類すれば，1）社会に大きな 影響を与え得る特定分野の専門家として負うべき人工知 能「研究者の倫理」，2）自分自身や近い領域の研究者に よる研究成果が社会に対して及ぼし得る（ネガティブな） 影響，いわゆる「ELSI の問題」，3）自分達が開発する 人工知能に「倫理的な」判断が求められる場合に，その 内実をどう設計あるいは実装するかという「デザインの 問題」などに分けることができる． これらの問題に対する人工知能研究者自身の考えは， 個々の研究者によってかなり異なっているだろうという のが，人工知能学会において開催したオーガナイズド セッション＊1や倫理委員会のシンポジウムその他の機会 にさまざまな研究者の見解に接した著者の感触である． その感触が正しいとすれば，特定の研究者ではなく集合 的な意味での「人工知能研究者」の倫理についての考え を分析するには，分析対象や方法を工夫する必要がある だろう． そこで本稿では IEEE が公表した報告書 EthicallyAligned Design：A Vision for Prioritizing Human
Well-being with Autonomous and Intelligent Systems,
version 2＊ 2（以下では EAD と略記する），および用語集 A
Glossary for Discussion of Ethics of Autonomous and Intelligent Systems, Version 1＊3（以下，用語集）を分
析対象としたい．EAD の作成には学際的な貢献がなさ れており，厳密な意味での人工知能学者のみの考えに基 づくわけではないが，広い意味で人工知能に関わる研究 者らによる議論と大まかな合意に基づく文書という意味 で，本稿の分析対象とみなすことができるだろう（最終 版となる第 3 版の公表前というタイミングの悪さは別と して）＊4． 内容の検討に入る前に，本論での検討の基本的視点を 明らかにしておこう．それは，人工知能と社会という問 題は，社会はどうあるべきかという問いの下位の問題に すぎないという認識である．人工知能は今後の社会に影 響を与える要因の一つにすぎない．こう述べることは人 工知能技術の潜在的可能性と価値を過小評価することで はない．その潜在的影響力を評価したうえで，人工知能 技術およびその研究者は，すでに国際的に確立された人 権や，持続可能な開発目標（SDGs）のような国際的に 合意された目標などの統制を受けるだけでなく，できる 限りそれらの実現に貢献すべきと考えているということ である． もちろん技術の進展によって従来の規範の前提が変わ るということは起こり得る．しかしながら，そうしたこ とが現実に生じている場合であっても，共有されている 規範を乗り越えたり，変更したりしたいならば，明示的
「倫理って何？」
─人工知能研究者はどう考えているのか─
“What’s Ethics?”
─ AI Researchers’ Conceptions of Ethics and Ethical Issues ─
神崎 宣次
南山大学国際教養学部Nobutsugu Kanzaki Faculty of Global Liberal Studies, Nanzan University.
[email protected], https://www.nanzan-u.ac.jp/Dept/fog.html
Keywords:
EADv2, vocabulary, ethics, well-being, sustainability.「道徳判断の自動化をめぐる問題：規範の選択と協力の進化」 ＊1 JSAI 2018 での OS-25「人工知能と倫理」のこと． ＊2 h t t p s : / / s t a n d a r d s . i e e e . o r g / i n d u s t r y -connections/ec/auto-sys-form.html から入手可能（2018 年 12 月 10 日確認） ＊3 https://standards.ieee.org/content/dam/ieee-standards/standards/web/documents/other/eadv2_ glossary.pdf から入手可能（2018 年 12 月 10 日確認） ＊4 この報告書の全体的な検討は [ 江間 18] などに見られる．こ の論文には著者も話題提供者として参加した，EAD の内容につ いての連続企画の報告である．
に合意を得なければならない＊5．そのような社会的手続 きは必要ないと主張する者がいるとすれば，その者は傲 慢と怠慢という倫理的非難を避けられないだろう．
2．
用語集に収められている語彙
用語集は，自律的かつ知的なシステムに関する倫理に 関連するさまざまな学問領域の専門家が用いることがで きる共通の定義についての資料として編まれたものであ る＊6．この目的のために一つの用語に対して五つの領域， すなわち日常言語 Ordinary Language，計算科学分野 Computational Disciplines，工学 Engineering, 社会科 学など Government，Policy and Social Sciences，倫理 学など Ethics and Philosophy の欄が設けられ，それぞ れの領域での定義があげられている（すべての用語です べての欄が埋められているわけではない）． 編集方法は，1 ∼ 2 頁にかけて説明されているが，か なり単純な文献検索に基づいており，採用する定義の内 容の検討は十分ではないように思われる．これが原因 であるかはわからないが，しばしば定義ではなく用例 があげられているうえに，その用語の代表的な用例と は言いがたいものが選ばれているという問題が見られ る．さらに，例えば autonomy という用語を例にすると， autonomousや autonomously の形での用例しか含まれ ていない欄があり，倫理学者ロバート・スパローの用例 が（ロボット倫理学に関する論文からの引用であるとは いえ）倫理学などではなく工学の欄に分類されているな ど，編集の精度には満足しがたいところがある． それでもなお，人工知能に関連する倫理問題を検討す るうえで用いられる基本的な用語を収集し，整理してい る点で，この用語集が人工知能研究者達の倫理に関する 理解を反映する，重要な資料とみなし得ることに違いは ない．そこで本章ではあげられている用語から倫理に関 連するものを抜き出し，検討してみたい． どの用語が「倫理に関連するもの」かは厳密に決定で きるものではないが，ここでは 1）道徳や倫理学自体に 関わる用語，2）倫理学の基本的な用語，3）責任に関連 する用語，4）道徳的地位の議論に関連する用語，5）そ の他の用語，に分類して抽出する．なお，用語集で行わ れている引用の出典は，もとの表記のままで（ ）でくく り，本稿の注と区別できるようにしておく．これはオン ライン事典などの引用元ですでに内容が変更されている ものが含まれていることへの対応である． 2･1 道徳や倫理学自体に関わる用語 この区分には，道徳 moral，倫理学 / 倫理 ethics，倫 理理論 ethical theory，道徳規範 moral norm，予期的倫 理学 anticipatory ethics などが含まれる． まず道徳については，形容詞としての用法（訳語は 「道徳的」）が主にあげられており，道徳の定義は与えら れていない．例えば倫理学などの欄では，推論や信念 の型を記述するために用いられる形容詞とされている． そうした用法の例として，道徳的推論 moral reasoning とは「何をなすべきか」の決定に向けて行われる実践 的推論 practical reasoning の一種であるとする引用 （Richardson 2014）が示されている．日常言語の欄でも， 道徳とは「道徳的な問いに関する思考や言説」とされて おり，形容詞としての用法が基礎にされている＊7． 倫理学は道徳哲学 moral philosophy とも呼ばれるよ うに，道徳に関わる問題全般に関する哲学的研究を行う 学問として定義される．倫理理論や道徳規範はこの学問 の分析対象である．例えば道徳規範については，単なる 規範や社会規範 social とは区別される，「人々が従うべ き道徳性の諸規則」（Harms & Skyrms 2008）という定 義が引用されている． 倫理学の下位領域としては，計算科学分野や工学の欄 での用法としてあげられているコンピュータ倫理学や工 学倫理のように，特定の（技術）領域に関わる倫理問題 や，特定の専門家集団に関わる倫理問題を扱うものがあ る．用語集には含まれていないが，こうした下位領域全 般を応用倫理学 applied ethics という． これらとはまた別の倫理学の一形態として，日本語の 定訳はないが，予期的倫理学 anticipatory ethics がある． 用語集では予期的倫理学とは，ある技術がいまだ発展の 最初期にある段階からそれがもち得る倫理的含意に取り 組み，その技術の発展に影響を与えることを目標とする 取組み（Johnson 2011）と説明されている．技術開発 の上流段階から倫理的含意の検討を行うべきだという考 え方は人工知能技術に関してもしばしば主張されている が，EAD の中ではこの用語そのものは（検索する限り） 用いられていない． 2･2 倫理学の基本的な用語 この区分には自律性 autonomy，善行 beneficence， 義務 duty，危害 harm，権利 rights，ウェルビーイング wellbeingなどが含まれる．これらのうちのいくつかを ＊5 国内的な憲法についての同様の議論が [山本 17] で展開され ている． ＊6 なお，語彙の問題に関して，著者は倫理学者と人工知能学者 との間での学際的協力のための基盤とするために，共通する用 語の倫理学的用法を人工知能学者向けに説明するという試みを 行ったことがある [神崎 14]． ＊7 道徳と倫理がどう違うのか，両者は区別されるべきか，とい う疑問をもっている読者もいるかもしれない．倫理学の教科書 の導入部ではしばしばそれぞれの語源の解説が行われるが，語 源は現在の用法に必ずしも一致するわけではない．そのうえ， 例えば英語での用語とその訳語となる日本語それぞれの語源に はずれがある．そのため語源の違いは両者を区別する必要性を 意味するわけではない．EAD の本文中でも，両者を特に区別す る必要性のある箇所は存在しないように思われる．説明しよう． 自律性に関しては，この用語そのものではなく，自律 的 autonomous のかたちでの説明が主になされている． 人工知能の議論でも主に用いられているのはこちらのほ うだろう．具体的にあげられている用例の一つは医療倫 理の文脈のものであり，（例えば患者の）意思決定が自 律的とみなされるのは「その決定をなした個人が妥当な 意思決定をなす能力をもち，当該の意思決定を行うに十 分な情報を得ていて，かつ自発的にその意思決定を行っ た場合」とされている（British Medical Association 2016）． これに関連する用語に，EAD では用いられてはいな いが，道徳的自律性 moral autonomy がある．あげられ ている用例（Christman 2015）では，ドイツの哲学者 カントの思想に基づいて（おおよそのところ），道徳原 理を自らに適用することによって意思決定に道徳以外の 要因が影響を及ぼさないようにする，つまり判断をゆが めないようにする能力といった意味合いで説明されてい る．これは，道徳判断の自動化という本特集のテーマと も関連の深い用語といえる．人工知能が下す判断から道 徳以外の要因の影響をどのように排除できるかは，人工 知能の判断の道徳的な正しさの評価に関わるという意味 で，人工知能の道徳性という問題のまさに核心的な問い となるだろう． 善行は次章で検討する，EAD がつくろうとしている 自律的かつ知的なシステムのための倫理原則が満たすべ き条件の第一にも含まれている重要な用語である．用語 集であげられている用例をまとめると，（他者に対して） 害をなさないこと，生み出される利益とリスクとの差引 勘定を可能な限り最大化するという意味で最善の選択を 行うべきという原則，の二つの意味がある． ウェルビーイングもまた，EAD の一般原則 2「ウェ ルビーイングを優先する」の中に登場する重要な用語で ある．これまで社会の繁栄の指標とされてきた GDP で は人工知能技術が社会に与える影響を十分に測れないと いう問題意識がこの原則の背景にある [EAD, pp. 24-25]． 人工知能技術の社会的影響は経済的なものだけではな く，社会の在り方や価値観への影響を通じて，人々の幸 福や健康や福祉にも及ぶからである＊8． こうした考え方は人工知能の倫理や社会的影響に関 連する議論だけではなく，本論での区分では「その他の 用語」に含まれる持続可能性 sustainability やその関連 語である持続可能な発展に関する議論でも検討されて きた．そうした議論ではトリプルボトム・ライン triple bottom lineという表現も使われる．用語集での用例で も示されているように，科学技術などがステークホルダ に対してもつ影響は経済的な指標だけでなく，社会や地 球環境の観点からも検討されなければならないのであ る＊9． 2･3 責任に関連する用語 この区分には責任 responsibility，アカウンタビリティ accountabilityなどが含まれる．後者から説明しよう． 用語集での用例でも述べられているように，アカウン タビリティは自らの行いについて説明できる準備がある ということ以上の内容を含んでいる．この点に関連して， 日本でいうところの説明責任とアカウンタビリティは同 一ではないという指摘がしばしばなされる．説明責任と いう言葉は，責任を取れない場合に，せめて説明ができ なければならないというような意味合いで用いられるこ とがあるからである．人工知能の判断の問題に関しても， それがどのように下されたか説明できなければならな い，と論じられる場合がある．それに対してアカウンタ ビリティは「自己の行為を説明し，正当化する義務であ り，説明者は懲罰の受ける可能性をもつもの」と定義さ れる [山本 13, p. 49]．この定義から明らかなように，ア カウンタビリティは説明する義務だけではなく，懲罰を 受ける可能性を含む責任を負うことを意味しているので ある． 責任についての倫理学などの欄では，責任ではなく， 道徳的に責任があること morally responsible の定義が 引用されている（Eshleman 2016）．その定義では，例 えばある行為について責任があるとは，「それを行った ことについて特定の種類の反応─称賛や非難，あるいは これらに類したもの─に値する」ということである． 道徳的に責任がある，つまり特定の種類の反応に値し 得る存在として通常想定されてきたのは，人間だった． そもそも「行為」することができる存在とみなし得るの は，人間だけと考えられてきた．動物や機械の「振舞い」 は，称賛や非難といった道徳的評価を受ける対象ではな かったのである．しかしながら，ロボット倫理学や人工 知能倫理学と呼ばれる分野では，機械やプログラムを道 徳的に責任のある存在とみなすことが可能かという話題 が論じられてきている [神崎 14, 佐々木 17]．倫理学の専 門用語では，こうした議論は道徳的地位に関する議論と 呼ばれる． 2･4 道徳的地位の議論に関係する用語 この区分には道徳的行為者 moral agent，被行為者 patient，などの用語が含まれる． EADで は 道 徳 的 行 為 者 と 道 徳 的 被 行 為 者 moral patientの両方が用いられているが [EAD, p. 195]，用 ＊8 なお用語集ではウェルビーイングそのものの定義は示されて
語集には後者は収められておらず，（「道徳」が付かな い）被行為者のみが見出し語として含まれている．行為 者（エージェント）agent という用語は，人工知能研究 の用語でもあるが，その分野での定義についてはここで 詳しい説明を加える必要はないだろう．倫理学などの欄 では，「それ自身の判断に基づいて，それ自身の意志の 下で行為することができる存在」と説明されている．こ うした存在として想定されてきたものの代表は人間であ り，人工知能研究でいうところのエージェントとは内容 的に隔たりがあるといえるだろう．また，被行為者は行 為の主体であるところの行為者による行為の受け手，対 象を意味する． 人間が他の動物などと異なる点の一つとして，単なる 行為者であるだけでなく，道徳的行為者でもあるとみな されてきたという点がある．道徳的行為者と道徳的被行 為者の定義は，行為者についての倫理学などの欄で引用 されているフロリディとサンダース（Floridi & Sanders 2004, p. 349）の引用に含まれている．その引用では， 道徳的行為者は entities that can perform actions for good or evil，道徳的被行為者は entities that can be acted upon for good or evilと定義されている．前節の最 後で説明したように，機械などは従来，道徳的な評価の 対象となるような行為を行うことのできる存在，すなわ ち道徳的行為者とはみなされてこなかった． また，機械などに対してなされる行為に関しても道徳 的な評価の対象とされてこなかった，つまり機械などは 道徳的被行為者でもなかったのである．例えば誰かの車 を腹立ちまぎれに壊したという場合を考えてみよう．こ の所業は道徳的にも非難されるだろうが，その車の所有 者に対する行為として道徳的に非難されるのであって， その車自体に対する非道徳的な行為として評価されるの ではない，と考えられてきた．車などの機械が（少なく とも直接的な）道徳的被行為者とはみなされてこなかっ たというのは，こういう意味においてである [神崎 17]． 他の技術にはない人工知能技術の特殊性の一つは，人 工知能研究における意味でのエージェントであり得るだ けでなく，倫理学における意味での行為者ともみなし得 るという論点を真剣に検討しておく必要があると思わせ る点にある．自動運転車や自律兵器といった機械は，そ れら自体が（道徳的）責任のある存在かという議論を喚 起してきた．この議論に否定的に答えるならば，責任の 帰属先を確保するために，判断の過程に人間を介在させ る man-in-the-loop をシステム設計の原則としなければ ならないといった主張が出てくることになる． 2･5 そ の 他 の 用 語 この区分には倫理学でも用いられる多くの用語が含ま れる．すでにあげた持続可能性以外の例としては，同意 consent，平等性 equality, 人権 human rights，透明性 transparency，信頼 trust などである．人権や透明性は EADの中でも重要な概念として扱われている．それに 対して，（アルゴリズム上の）偏見や正義 justice といっ た用語は EAD には含まれており，重要な用語と思われ るにもかかわらず用語集には含まれていない．
3．EAD における
倫理の捉えられ方
本章では EAD において倫理がどのように捉えられて いるかを論じる．この文書の中でも，人工知能研究に関 連する研究者が倫理というものについてどう考えてい るかが現れていると思われるのは，1）一般原則の章， 2）古典的倫理に関する章，3）ウェルビーイングに関す る章であるので，以下ではこれらの箇所のみを扱う．な お，本章では [ ] 内の数字が EAD 内の該当ページを示す ものとする． 3･1 一 般 原 則 まずこの文書で議論の対象となるのは「あらゆるタイ プの自律的かつ知的なシステム」（A/IS と略記される） であり，ロボットや自動運転車だけでなく，医療診断シ ステムやチャットボットのソフトウェアも含むとされる [20]． A/ISのための倫理原則をつくりたいというのが EAD のモチベーションとなっているが，その倫理原則は次の ような条件を満たすものであるとされる [20]．1．Embody the highest ideals of human beneficence as a superset of Human Rights.
2．Prioritize benefits to humanity and the natural environment from the use of A/IS. Note that these should not be at odds ─ one depends on the other. Prioritizing human well-being does not mean degrading the environment.
3．Mitigate risks and negative impacts, including misuse, as A/IS evolve as socio-technical systems. In particular by ensuring A/IS are accountable and transparent. 2と 3 は理解が容易だろう．3 に関しては，アカウン タビリティと透明性を確保することによって，社会に浸 透した A/IS が生み出し得るリスクと負の影響が緩和さ れるだろうと確かに期待できる． また 2 は，1 で人間を中心に置く価値観が述べられる のに対して，人間にとっての利益は自然環境の持続可能 性という別の利益と両立させられるべきという主張と なっている．これはいわゆるブルントラント委員会報告 [WCED 87]以来の持続可能な発展についての標準的理 解であり，現在の SDGs まで引き継がれているものであ る． ただし，EAD の冒頭でこの主張がこれほど重要なも のとして強調されているにもかかわらず，自然環境やサ スティナビリティの話題がごくわずかな箇所でしか扱わ
れていないのには，ややバランスの悪さを感じざるを得 ない．そうした限られた箇所の一つは，ウェルビーイン グの章に含まれている [260-261]．ここでの論点は A/IS が，エコロジカルな持続可能性と，社会的に弱い立場に ある人々が環境劣化の悪影響を（不平等なほど）より受 けやすいという環境正義の問題にとって，プラスにもマ イナスにも作用し得るという点である．そして，これに 対応するための勧告の候補として，こうした問題を取り 扱う委員会の招集があげられている． 1は他の二つに比べると曖昧であり，正確には何を主 張しているのかがつかめない．EAD の全編にわたって 人権が重要視されているのは，本文を読めば誰でもす ぐにわかる．しかしながら，「人権」と「善行」という 単語が近接して用いられている箇所はここしかないし， “human beneficence”という表現もこの 1 か所しか出て こない．そもそも EAD における善行の使用の大半は「汎 用人工知能と人工超知能の安全性と善行」という章タイ トルのかたちである．用例から推測すると A/IS からも たらされる利益や恩恵という意味でこの語を用いている かもしれないが，意味を確定できるような明晰な書き方 はなされていない．用語集で引用されている用例を見る と，各用例で微妙な差異はあるが，おおよそ，自らだけ でなく他者も含めた全体にもたらされる利益を最大化す ることというような意味合いで用いられていることがわ かる．しかしながら，こうしたニュアンスまで EAD 本 文での用例が含んでいるかも明確ではない． さて，これら 1 から 3 までの条件を満たす，A/IS の 設計や実装をガイドする一般原則として EAD では次の 五つがあげられている． 1．人権（を侵害しないこと） 2．ウェルビーイング（の追求を優先すること） 3．アカウンタビリティ 4．透明性 5．悪用（の可能性を認識すること） ウェルビーイング以外の四つに関しては，個別の論点 や勧告の中に興味深いものも含まれているが，主張され ている内容は明白であるように思われる．そこでウェル ビーイングについてのみ，内容の検討を行うことにしよ う． 3･2 ウェルビーイング
A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systemsというサブタイト ルからもわかるとおり，ウェルビーイングは EAD の第 2版において中心的といってよいほど重要な概念である． この背景には GDP あるいはその成長は，社会の成長や 繁栄の指標として，せいぜいのところ不完全なものでし かないという認識がある [240]．単なる経済的指標では なく，より包括的な指標＊10に基づいて発展が追求され るべきという認識は，持続可能性に関する議論において も重要視されるようになっている [ロックストローム 18, p. 191]． ウェルビーイングとは個人や共同体にとっての状況な どの善さの評価だという説明が行われたうえで，「人生， 生活条件，繁栄充実（最高善），感情を包括する人間の 満足」として EAD での定義が示されている [242]．こ れは非常に包括的な定義として意図されているものであ り，経済的な条件だけでなく，社会的あるいは政治的な 条件を含み，さらには環境保護や公正な労働，個人の潜 在能力の発揮なども含まれるとされる． EADのウェルビーイングの章で，倫理学の観点から 興味深い論点は，1）人権との関係，2）計算上の持続可 能性，3）自然環境の問題，の三点である． まず人権との関係に関する議論 [259-260] では，両者 はトレードオフの関係ではなく，補完的な関係にあるも のとして捉えられるべきだと主張される．この主張で想 定されているのは，自国民の「ウェルビーイング」を確 保することを目的として移民や難民の人権が侵害される ような状況である．個々人や共同体のウェルビーイング の向上は正義や自由に関する国際法の遵守の代わりとは ならず，また一方が他方に優先する関係にもないのであ る． 計算上の持続可能性 computational sustainability は， 「持続可能な環境，経済，そして社会のための計算モデ ルを提供する分野」である[247]．この定義は，2･2節の「用 語集」ですでに確認したトリプル・ボトムラインに関連 している．人間のウェルビーイングの達成には環境保護 が欠かせないという認識は SDGs などでも強調されてい るものであり，EAD で検討されている人工知能社会よ りも広い射程をもつ，一般的な将来社会の設計における 基本的条件であるともいえるだろう．A/IS を含む計算科 学や情報科学は自然資源のより効率的な管理や配分を通 じて，この基本条件の達成に貢献し得るだけでなく，貢 献すべきだと主張されている [248]． またフローとしての自然資源だけでなく，それらを生 み出すストックとしての生態系の維持や修復もまた，人 間のウェルビーイングにとって重要な問題である [260-261]．気候変動や生物多様性の喪失は人間の生活条件の 悪化につながる．さらに，そうした悪化の影響は貧困者 などに対してより大きく生じる傾向があるために，そう した人々はよりぜい弱な立場に置かれてしまうかもしれ ない．このような問題は環境正義の問題と呼ばれるもの である．ここでは，A/IS が環境保護や環境正義の問題に どのように影響し得るかなどを検討する委員会を招集す べきだという勧告がなされている． ＊10 そうした指標の例としては，国連人間開発指標 [UNDP] な どがある．
3･3 古 典 的 倫 理 古典倫理の章では，道徳性や自律性，そして道徳的行 為者性と道徳的被行為者性といった基本的概念について の議論 [194-197]，そうした概念や，義務論，目的論， 徳倫理学といった規範倫理学理論を A/IS の設計や開発 に適用する議論 [212-219] がなされている．これらは分 量的に短く，そのため十分なものであるとは言いがたい が，ロボット倫理学や情報倫理学，さらには工学倫理な どですでに議論が蓄積されてきているものである． このような西洋の，とりわけ英語圏での議論に加え て，EAD ではそれ以外の世界の倫理学，具体的には仏教， 儒教，アフリカのウブントゥの伝統，日本の神道が取り 上げられている [203-211]．より広い伝統や文化，価値観， 世界観を反映させるために，これらを参照しておくこと に価値があるのは間違いないし，実際にこうした節が設 けられているのは歓迎すべきであるが，現状の EAD で のこれらの扱いには問題と懸念がある．これらの箇所で 参照されている文献の大部分は西洋人によって英語で書 かれたものだからである．こうした状況は，正しい解 釈がなされているかという問題に加えて，文化の盗用と いう懸念をも引き起こすだろう．また著者のような日本 人の倫理学者でも，人工知能やロボットなどの問題にコ ミットしているのは英米圏やヨーロッパで発展した倫理 学や哲学を学問的背景としている者が主であるので，仏 教や神道の取扱いについて専門家としてのチェックを行 うことができないという問題もある．より広い範囲の哲 学研究者，例えば仏教研究者などが A/IS に関わる議論 に参入してくる必要があるだろう．現状では，文化的多 様性に配慮しているという口実のために含められている という以上の意義を，この箇所に見いだすことは難しい．
4．
結 語
本稿では「人工知能学者が倫理をどう考えているか」 を具体的に検討するために，EAD とその用語集を分析 材料として，これらが「倫理」の内容とその射程につい てのどのような理解に基づいて制作されているかを論じ てきた．用語集のほうは取り上げておくべき用語が収め られていなかったり，引用されている用例のかなりの部 分が有用ではないものであり，学術的にも実用的にも役 に立つといえる水準に達していないと言わざるを得な い．それに対して EAD 本体はより包括的な内容と射程 を備えたうえに，人権や持続可能性を重視するという一 貫した態度が取られている点で，倫理学者の観点から見 て高く評価できる部分を備えている．もちろん各部分の 分量のバランスや，記述や概念の明確化といった課題も あるが，これらは十分に改善が可能な範囲だと考える． 近く公表されるであろう最終版でどのような改訂がなさ れているか楽しみでもある． なお，本稿は科学研究費補助金（課題番号 16H03343， 代表者：神崎宣次），および南山大学 2018 年度パッヘ研 究奨励金による研究の成果を含んでいる．また，EAD 全体の検討に参加する機会を提供してくれた江間有沙氏 と永倉克枝氏に感謝したい．もちろん本論に含まれてい る見解は，誤りも含めてすべて著者によるものである．◇ 参 考 文 献 ◇
[江間 18] 江間有沙，永倉克枝：「倫理的に調和した設計」の論点 整理──異分野・異業種によるワークショップからの示唆，情 報法制学，第四号，pp. 3-14（2018）（http://alis.or.jp/ img/issn2432-9649_vol4_p003.pdf，2018 年 12 月 10 日 確認） [神崎 14] 神崎宣次：インテリジェントなエージェントはモラルな エージェントとみなされ得るか？，人工知能，Vol. 29 No. 5, pp. 489-493（2014） [神崎 17] 神崎宣次：この映画の撮影で虐待されたロボットはいま せん──道徳的被行為者性について考える，ロボットからの倫 理学入門，pp. 83-101，名古屋大学出版会（2017） [佐々木 17] 佐々木拓：私のせいではない，ロボットのせいだ── 道徳的行為者性と責任について考える，ロボットからの倫理学 入門，pp. 51-82，名古屋大学出版会（2017） [山本 13] 山本 清：アカウンタビリティを考える どうして「説明 責任」になったのか，NTT 出版（2013） [山本 17] 山本龍彦：おそろしいビッグデータ 超類型化 AI 社会の リスク，朝日出版（2017） [ロックストローム 18] ロックストローム，J.，クルム，M. 著，武 内和彦，石井菜穂子 監修，谷 淳也，森 秀行 訳：小さな地球の 大きな世界 プラネタリー・バウンダリーと持続可能な開発， 丸善出版（2018）[UNDP] Human Development Index（HDI）（http://hdr. undp.org/en/content/human-development-index-hdi， 2018年 12 月 10 日確認）
[WCED 87] World Commission on Environment and Development: Our Common Future, Oxford University Press （1987） 2019年 1 月 15 日 受理
