1．は じ め に
人工知能技術が浸透する社会を考えるとき，哲学・倫 理学の研究は，どのような貢献を果たし得るだろうか． 例えば哲学者は，人工知能の発展に影響され，ときに 影響を与え返しつつ，知性・知能に対する理解を深めて きた．そこで哲学者は，この方向性を継続して発展させ， 人工知能の設計・開発において問題となる「知性」，「知能」 とは何か，より良い考察を提供することができるかもし れない＊1．また，例えば倫理学者は，情報倫理学やコン ピュータ倫理学などの研究分野を発展させてきた．この ような倫理学の研究は，人工知能やロボットが私達の生 活に組み込まれるときに，考慮すべき倫理的・道徳的問 題点を示し，法整備に関わることができると思われる＊2． しかし，本論文は，これらと異なる貢献の可能性を提 示したい．すなわち，人工知能研究者が，善い4 4人工知能 をつくりだし，そのことで社会をより善く4 4 4 4するための哲 学的理論を提供するという可能性である．倫理的・道徳 的に善い人工知能を設計し，社会をより善くするために， 私達はどのような理論に依拠するべきだろうか．この問 いに答えることが，本論文の目的である． この目的を果たすべく，本論文は，技術哲学における 「技術の媒介理論」[Verbeek 05, Verbeek 11] を参照し， これを人工知能の設計・開発に適用する．媒介理論（特 にその規範的理論である「科学技術のモラル化論」）は， 科学技術や人工物をより善く設計・開発し，社会をより 善くつくり変えていくための理論である．ただし，媒介 理論は，人工知能を主たる適用対象としてつくられたわ けではない．そのため，有効な形で適用できるケースと， そうでないケースを区別する必要があるだろう． したがって，本論文は次のような手順をとる．まず 2 章で，媒介理論の基本概念を簡潔にまとめる．次に 3 章 で，媒介理論が人工知能の設計・開発において，どのよ うな形で適用できるかを確認する．そして 4 章で，媒介 理論が適用できないケースを指摘する．最後にまとめと して，倫理的・道徳的に善い人工知能を設計し，社会を より善くするための提言を行う． なお，本論文で人工知能という言葉が使用された場合， いわゆる「強い人工知能」（人間の知能そのものの再現 の試み）ではなく，社会にすでに実装されている，もし くは今後実装が見込まれる，さまざまなタイプの「弱い 人工知能」（人間の知的活動を部分的に代理する装置や システム）が念頭に置かれていることを断っておく．2．媒介理論とは何か
媒介理論は大きく分けて二つの理論から構成されてい る．すなわち，科学技術や人工物が人間の生活において 果たす役割を理解するための記述的理論，そして，設計 者が科学技術や人工物をより善く設計し，そのことで社 会をより善くしていくための規範的理論である．さしあ たり，本論文の目的に直接関係するのは，後者の規範的 理論であろう．しかし，後者の理論は前者の記述的理論 に基づいているため，本章ではその両方を確認する． 2･1 記述的理論─科学技術や人工物の果たす役割 § 1 媒介理論のポスト現象学的アプローチ 媒介理論は，「ポスト現象学」のアプローチをとる．人工知能をより善く設計し，
より善い社会をつくる
─媒介理論からのアプローチ─
Designing Better AIs to Make the Society Better
─ An Approach from the Mediation Theory ─
大家 慎也
神戸大学大学院人文学研究科，日本学術振興会Shinya Oie Graduate School of Humanities, Kobe University. / Japan Society for the Promotion of Science. [email protected]
Keywords:
design, society, mediation theory. 「人工知能技術が浸透する社会を考える」 ＊1 人工知能研究が，知性や知能に関する哲学的研究に与えてき た影響については，例えば久木田 [久木田 13] を参照． ＊2 例えばプライバシーの保護や，本論文でも触れる責任などの 論点があげられる．本特集の神崎論文もまた，行為者，被行為者， 評価者という観点から人工知能と倫理の問題を論じるものであ る．これらの論点は，特に法整備の段階において具体的な問題 となるであろう．人工知能やロボットに関わる法整備について の包括的な議論としては，Weng [Weng 09] が参考になる．本章では，このアプローチがどういうものか，そこでど のような概念が用いられるか，確認したい． 一般に現象学は，20 世紀前半に生まれた哲学上の方 法論とされている．その詳細な説明は省くが，重要なこ とは，現象学が，人間と世界の関係を分析する方法論だ ということである．すなわち，現象学においては，例え ば人間が世界を知覚することのような，人間と世界が取 り結ぶ関係を「志向的関係」と呼び，このような関係の 在り方を「志向性」と呼ぶ．媒介理論のポスト現象学的 アプローチは，科学技術や人工物の存在を考慮に入れ て，この方法論を発展的に継承する．つまり，人間が世 界と関係するときに，科学技術や人工物がどのような媒4 介的役割4 4 4 4（すなわち，人間と世界の関係を仲介し，変質 させる役割）を果たすか，分析することを試みるのであ る．この目的のために，知覚を媒介する「技術的志向性」 （technological intentionality），および行為を媒介する 「スクリプト」（script）という二つの概念が定式化される． § 2 知覚の媒介─技術的志向性 科学技術や人工物が人間の知覚4 4に影響を与える仕方 は，それが身体の一部のようになるか，もしくは人間が その科学技術・人工物を用いて世界を解釈するかの二通 りと考えられる． 例えば，メガネをかけて世界を見るとき，メガネはあ たかも身体の一部になったかのように機能し，人間が環 境を知覚するのを助ける．これは，人工物が身体化され て知覚に影響を与える例と考えられる． また，例えば温度計を用いて部屋の温度を計るとき， 私達は部屋の温度そのものを感覚するわけではない．温 度計が，部屋の温度の表象（例えば液柱や指針の位置， 電子表示など）をもたらし，私達はこれを解釈して部屋 の温度を知る．ここでいう解釈とは，一般にいう物事の 意味・内容を（複数の可能性がある中から一つ取り出し て）理解するということではなく，科学技術や人工物に おいて表象された世界の在り方（例えば温度）を，文字 どおり読む4 4ことを意味する． このように，私達は科学技術や人工物を身体化し，あ るいはそれがもたらす表象を解釈して，世界を知覚する． これを科学技術や人工物の側からいえば，科学技術や人 工物は，私達の知覚の在り方を方向付け，組織化すると いうことになる．つまり，人間と世界の関係は，科学技 術や人工物によって媒介されることにより，変質するの である．このように科学技術や人工物の媒介によって変 質する知覚の在り方は，技術的志向性と呼ばれる [Ihde 90, Verbeek 05]． § 3 行為の媒介─スクリプト 科学技術や人工物が人間の行為4 4に影響を与える仕方 は，それらが人間に行為の仕方を明示的に，もしくは暗 黙のうちに教える，というものである． 例えば人は，紙でできた使い捨てのコップを捨てると き，別に取扱説明書に書いてあるからそうするのではな い．何度も洗って使い直すものではない（物理的に複数 回の洗浄に耐えられない）とすぐにわかるから捨てるの である．また，例えば車を運転する際に，スピードバン プ（段差舗装）を設置した道路では，運転手は強制され ることなく速度を落として運転する．スピードを出し過 ぎると，揺れたり車体が損傷するとわかるからである． このように，科学技術や人工物は，ユーザがそれを使 用するとき，どのように行為することになるかという， 行為のプログラムを書き込まれていると考えられる．こ のような，書き込まれた行為のプログラムは，スクリプ トと呼ばれる [Latour 92, Latour 94, Verbeek 05]＊3．
§ 4 委託と多重安定性 技術的志向性は人間の知覚に影響を及ぼし，スクリプ トは人間の行為に影響を及ぼす．ただし，人間の知覚と 行為が，科学技術や人工物によって（それらの設計者や 開発者によって）完全に決定されてしまうかというと， そうではない． 確かに，設計者は知覚と行為の仕方を，科学技術や人 工物に「委託」（delegation）する．すなわち，ある程 度明確な意図をもって，計画的に，科学技術や人工物に 技術的志向性とスクリプトを組み込むことができる．し かし，人間はさまざまな環境やコンテクストのなかで 知覚や行為を行うのであり，そのときしばしば，設計 者の想定と異なる仕方で科学技術や人工物を使用する． 言い換えれば，科学技術や人工物の使用法は一つに決 定されない．媒介理論では，このことを「多重安定性」 （multistability）と呼ぶ． 例えば，1980 年代から 90 年代にかけて，フランスで， 電話回線を利用したミニテルという情報通信サービスが 盛んに利用された．これはもともと情報サービスへのア クセスのために開発されたのだが，後に設計者や開発者 の意図とは大きくかけ離れた使われ方をした．ユーザ達 は，自分達が組み込まれたネットワークの機能を変化さ せ，もともと中央集権的な情報配布しか計画されていな かったところに，ヒューマンコミュニケーションをもち 込んだのである [Feenberg 95, Feenberg 99, p. 126]．こ の例からわかるように，人は，科学技術や人工物につい て，設計者の意図とは別の使い方をするかもしれない． 人間はある程度，その科学技術や人工物が可能にする知 覚と行為の仕方（技術的志向性とスクリプト）を受け入 れざるを得ないが，またある程度は，これに左右されず ＊3 スクリプトの概念は，D. ノーマンの再定義による「アフォー ダンス」概念（すなわち「事物の知覚された特徴あるいは現実 の特徴，とりわけ，そのものをどのように使うことができるか を決定する最も基礎的な特徴」[Norman 88, p. 9]）と近しい目 的意識のもとでつくられた概念である．これらの概念がどのよ うに関わるかは稿を改めて論じたい．
に，別の使い方でその科学技術や人工物を用いる，もし くは全く用いないことができるのである． 次の引用は，このような媒介理論の考え方をストレー トに表現している． 科学技術が社会的な存在物であるように，人間は 技術的な存在者である．結局のところ，科学技術は 私たちの生活において構成的な役割を果たしている のだ．科学技術は私たちの行為と経験の形成を助け， 私達の道徳的決定に情報を与え，そして私たちの生 活の質（quality of life）に影響を及ぼす．科学技術は， 使用されるとき，自身が機能するコンテクストの形 成を必然的に助ける．科学技術は，人間と現実のあ いだに特定の関係が起こるよう助け，新たな実践と 生活のあり方を共同形成（coshape）する [Verbeek 11, p. 4]． 換言すると次のようになる．人間の生活には，科学技 術によってつくり上げられている，という側面がある． なぜなら，科学技術は人間に対して知覚や行為の仕方を 与えたり，道徳的な決定が必要とされる場面でどう判断 するのが善いか示唆し，そして，生きていくうえでの人 間らしさや，自分らしさ，幸福などのイメージに影響を 与えるからである．しかし，科学技術は人の活動や生き 方を決定するわけではない．むしろ，科学技術は，人が 自分の活動や生き方を決定するのを助けるのである．そ して人は，科学技術の助けを借りながら，どう活動し， どう生きるかを，自分で考えているのである． さて，以上が媒介理論の提示する，科学技術と人工物 の役割に関する道具立てである．さしあたり次の四つの 概念を頭に入れていただければよい． 「技術的志向性」：科学技術や人工物の媒介によって変 化する知覚の在り方． 「スクリプト」：科学技術や人工物に書き込まれる，行 為のプログラム． 「委託」：設計者が，科学技術や人工物に，技術的志向 性やスクリプトを組み込むこと． 「多重安定性」：ユーザが，科学技術や人工物の使用法 を解釈・変更し得ること． 2･2 規範的理論─「善い」科学技術・人工物とは何か § 1 導 入 本節では，人間が科学技術や人工物をより善く設計し， そのことで社会をより善くしていくための規範的理論を 確認しよう．しかし，科学技術や人工物を善く設計する とは，具体的にはどういうことだろうか． § 2 「善い」科学技術や人工物を設計する スクリプトの例に戻ってみよう．紙コップは使い捨て というプログラムを書き込まれている．そのため，紙コッ プを用いて飲料を飲む行為は，人工物を一度使っては捨 てるという，資源のむだ遣いを許容するスクリプトに基 づいている，といえるかもしれない．逆に陶磁器や，金属， 木材を材料にしたコップは，何度も洗って使う，という 環境に優しいスクリプトをもつといえよう． 以上の例が示すことは，スクリプトは明示的に，もし くは暗黙のうちに，価値や規範（ルール）を帯びている ということである．環境美化，犯罪防止，安全・安心， etc.……さまざまな価値やルールが，スクリプトに反映 され得るだろう．すると，スクリプトを利用して，物質 的環境に人の行為を方向付けてもらう，もしくは判断を 代替わりしてもらうことができるだろう．そして，その ことにより，効率的かつ無理強いのない形で，人々に善 い（すなわち，望ましい価値やルールに則った）行為を させることができるかもしれない．例えば，先に見たス ピードバンプによる減速はこの例であろうし，節水シャ ワーヘッドは無理なく人に節水させ，自動改札扉は無理 なく不正行為を防ぐものである [Achterhuis 95, Verbeek 11]．このように，スクリプトの活用によって，私達は 深く考えたうえで決断することなく，自然と善い4 4行為が できるようになる＊4． 以上の考え方に従えば，善い科学技術・人工物を設計 するということは，科学技術や人工物の果たす媒介的役 割を予期し，これに善い価値やルールを積極的に組み込 み，そのことで人々を自然に善く行為するよう方向付け ること，といえるだろう＊5．この場合，スクリプトを用 いた善い行為への方向付けが主題となるだろう＊6． 媒介理論においては，このような善い科学技術・人工 物の設計は，積極的に称揚される．というのも，媒介理 論の立場からいえば，科学技術や人工物は，使用される 際に人間の知覚と行為を媒介するものである．したがっ て，どうせならば，より「善い」媒介的役割を果たすよ う試みるべきであると考えられるためである．これが， ＊4 この考え方は，行動経済学における「ナッジ」と価値観を共 有している．ナッジとは，選択アーキテクチャ（構造化された 行為の選択肢）にデフォルト（合理性の観点から一番良いと考 えられる標準選択肢）を組み込み，選択者が自然とデフォルト に導かれるようにする考え方である [Thaler 09]． ＊5 媒介理論（その主導者であるファーベーク）のとる立場は， ある行為の道徳性を行為のもたらす帰結から判断する，いわゆ る「帰結主義」の一つとみなすことができる．言い換えれば， 行為がある程度操作されたものであったり，また不純な動機に 基づいていたとしても，行為のもたらす結果が良ければ良い行 為であるとみなす立場に，媒介理論は属する．これは例えば， 行為が義務や規則に沿うことを重要視したり（「義務論」），行為 者の徳や性格を説く（「徳倫理」）立場とは異なる．道徳哲学の 文脈では，このような違いはそれ自体議論すべき対象である． ＊6 価値やルールの組込みとしてのモラル化は，原則，行為に関 するものであり，知覚は適用対象外である．というのも，「善い 知覚」というものは，媒介理論の枠組みでは想定しにくいため である．例えばポルノ画像や映像の閲覧・視聴は，善悪を判断 する道徳的検討の対象になり得る．しかし，それはあくまで閲覧・ 視聴という行為に対する検討であって，知覚そのものの「善さ」 を検討するわけではない．
媒介理論の規範的理論である，科学技術の「モラル化」 論である． それでは，科学技術や人工物には，具体的にどのよう な価値とルールを組み込むべきであろうか．実のところ， モラル化論それ自体からは，組み込むべき価値やルール は出てこない．価値やルールの選定は，あくまで設計者・ 開発者に委ねられている．ただし，価値やルールを善い4 4 形4で選定し，善い形4 4 4で実装するための方法論について， モラル化論は提示している＊7． § 3 科学技術や人工物を「善い形で」設計する モラル化論は，単なる提言（「善い」科学技術や人工 物は設計できるし，設計すべきだ）にとどまらず，設計 者のための方法論も含んでいる．すなわち，科学技術や 人工物をより「善い形で」設計するための方法論がそれ である． モラル化の具体的な方法論は，設計者があらかじめ媒 介の役割を予期する，設計のプロセスに一般市民を介入 させる，などの手順からなる [Verbeek 11, pp. 117-118]． しかし，本論文では，その詳細な手順を追っていくこと はしない．むしろ，科学技術や人工物をモラル化する際 に，どのようなことに配慮すべきとされているかを確認 する．そのことで，科学技術や人工物をより「善い形で」 設計するとはどのようなことか，理解することができる であろう． 配慮すべき検討要素は，大げさに思われるかもしれな いが，民主主義4 4 4 4，自由4 4，責任4 4の理念である． § 4 民主主義 民主主義の理念は，スクリプトに反映させる価値や ルールの選定に関わる．その理由を以降で確認する． 科学技術や人工物の在り方は，人々の利害に直接的に 関係する．そのため，設計者・開発者が限られた社会集 団の利益を尊重して，その意向を設計に反映させた場合， 不利益を被る人々が出てくることがある． 例えば，ニューヨークのロングアイランド島に架かる 陸橋の設計が，設計者の社会階級に関する偏向と人種的 偏見を反映し，低所得者や黒人を締め出すよう機能して いた，という例がある．L. ウィナー [Winner 86] はこの ような例を引きながら，人工物のもつ政治性（すなわち 社会文化的・政治的偏向）を指摘した．科学技術や人工 物は，暗黙のうちに，もしくは明示的に，限られた人々 の利益を尊重し，他の人々を排除するよう働くことがあ る．媒介理論の立場からいえば，この陸橋に書き込まれ たスクリプトは，社会階級と人種に対する偏った価値観 （＝偏見）の反映された，望ましくないスクリプトであ るといえる． この考え方を踏まえれば，モラル化の際に問題となる 民主主義の要素が判明となる．科学技術や人工物による 方向付けは，方向付けることそれ自体4 4 4 4 4 4 4 4 4 4 4では価値中立的で ある．これが問題視されるのは，その方向付けの仕方， すなわちスクリプトに，社会文化的・政治的に偏った価 値やルールが反映されており，そのことで人々が不利益 を被る場合である．こうした状況を未然に防いだり，救 済する方法を考えなければならない．そのとき，設計者 に可能な手段は二つある． 一つは，設計段階から，想定されるユーザを積極的に 関与させることで，スクリプトに反映させる価値やルー ルに，ユーザの利害を適切に反映させること．そしても う一つは，科学技術や人工物にユーザの使用と解釈の自 由度を保障することで，ユーザに民主的関与を保障する ことである．もちろん，すでにユーザの声を聴くという 試みは広く行われており，とりわけ商業的人工物であれ ば，この点は特に重点的に配慮がなされているところで ある．本論文が主張したいことは，企業の利益追求とは 別の観点から，すなわち科学技術や人工物とユーザの民 主的な関係を保障するという観点から，もっと踏み込ん で関与することが必要だということである． § 5 自 由 設計者や開発者は，科学技術や人工物をつくり出すこ とで，人間の知覚と行為を方向付けることができる．そ の利点を活用しようという考え方が，「モラル化」論で ある．ただし，このような方向付けは，人が自分で，自 分らしく生きていく自由を侵害し，人間を支配すること につながり得る．倫理学の用語では，ここで問題となる 自由は自律4 4（autonomy）と呼ばれる＊8． モラル化された科学技術や人工物との関係で問題と なる自律とは，どのようなものだろうか．自律は，人間 が自分の行為の目的を自分で設定し，自身で決断を行う 自由と理解される場合が多い．したがって，モラル化さ れた科学技術・人工物によって自律が侵されるのは，科 学技術や人工物が，人間の代わりに行為の目的まで設定 ＊7 本項の議論は，B. J. フォッグの「人を動かすテクノロジー」 （persuasive technology），およびこれが呼び起こした倫理に関 する議論と同様の問題関心をもっている [Fogg 02]．フォッグは， 人の態度や姿勢，行動を変える対話的コンピュータシステムの 活用を称揚しつつ，それがもつ倫理的課題とその解決策を論じ てきた．本論文ではこの点について詳細に論じることができな かったため，別の機会に詳しく論じたい． ＊8 モラル化された科学技術・人工物において問題とすべき自由 は，「消極的自由」，「積極的自由」の 2 種類であると考えられ る．大まかにいえば，前者は他者による強制的な干渉から自由 であること，後者は自分の意志を実現する自由があること（自 律）である [Cf, Berlin 90]．ただし，消極的自由は，モラル化 においてそれほど重要ではないとみなされ得る [Verbeek 11, p. 109]．なぜなら，モラル化された科学技術・人工物に限らず， 例えば法や社会規範，欲望など，人間は常にさまざまな制限の なかで生きているからである．そのため，本論文では積極的自 由（自律）の問題に焦点を絞る．ただし，4･2 節で見るように，高 度な人工知能を問題にする場合，この点は再検討の余地がある．
た人物が道義的に，もしくは法に基づいて責任を問われ ることとなる．しかし，刃物に何らかの不備があった場 合は，製造者や販売者の責任も問題となり得る． この例からわかるように，人は科学技術や人工物を用 いて，自身の行為をつくり出すことができる．すなわち， ある仕方で，もしくは別の仕方で行為することができる し，行為しないこともできる．ある行為の責任を問題に する場合には，この点を踏まえてアプローチする必要が ある．つまり，媒介された行為の責任は，人間にのみ帰 される．包丁を傷害のために用いた人は責任を負わなけ ればならない． ただし，ある科学技術や人工物が何らかの好ましくな い帰結をもたらしやすいなら，その科学技術や人工物は， より善くつくり変えられなければならない．こうして， 設計者や開発者は，設計，流通，使用の各段階において， どの人間主体がどの程度の責任を負うのかを明確にして おく必要がある． § 7 善い科学技術・人工物が社会をより善くする 以上が，価値やルールを善い形で選定し，善い形で実 装するために，モラル化論が提示する方法論である．本 項を閉じるにあたり，善い科学技術・人工物と善い社会 との関係について考えてみたい． 善い科学技術・人工物をつくり，社会に貢献するとい うのは，人工知能研究者に限らず，すべての科学者・工 学者に共通するモチベーションだろう．さまざまな科学 者・工学者が社会貢献の理念を表明してきたし，いわゆ る科学技術（者）倫理のトピックとしても，社会貢献は 大きな比重を占める． 媒介理論（モラル化論）は，このような社会貢献の理 念に一つの具体的な形を与えるものとして理解できる． すなわち，設計者は，ユーザを無理なく善い行為へと方 向付けるスクリプトを，科学技術や人工物に組み込む． それらの科学技術や人工物は，社会に実装され，人々に 無理なく善い行為を促すという媒介的役割を果たす．こ のような科学技術や人工物を活用して，人は，無理なく 善い行為を行うことができるようになる．こうして，設 計者は，科学技術や人工物の設計を通して，社会をより 善くすることができると考えられるのである．
3．媒介理論の適用
それでは，媒介理論を人工知能に当てはめてみよう． まず，人工知能が果たす役割を記述すると次のようにな る．人工知能の設計者は，ある程度決定された知覚や行 為の性質やプログラム（技術的志向性とスクリプト）を， ユーザに対して提示する（委託する）．例えばグーグル グラスの技術的志向性に，また，例えばスマートハウス や知的社会インフラのスクリプトに，ユーザはある程度 従わざるを得ない（逆にいえば，それらに従うことで， するようなケースであると考えることができる．例えば ユーザの意志や権限を排除して，自動車が行き先や速度 を決めたり，ワープロソフトが綴り字や文法や文章スタ イルを変更する場合は，人間の自律が重要な意味で侵さ れているといえる [Brey 06]．このような場合，それが たとえ設計者の善意に基づいていたとしても，人間の自 律に対する大きな侵害とみなされ，問題含みなものにな るだろう． それでは，設計者は，具体的にどのような自律をユー ザに保障すべきであろうか．媒介理論の主導者，P-P. ファーベークは，モラル化された科学技術や人工物との 関係で問題となる自律について，先に 2･1 節で確認した 「多重安定性」の概念を手掛かりに考察している．多重 安定性とは，科学技術や人工物の在り方や使用法が，ユー ザの解釈により変更され得ることであった．ファーベー クは，これをユーザによる能動的な解釈・変更という観 点から捉え，「関係的自由」（relational freedom）とい う概念を提出する．これは，科学技術や人工物との関係4 4 4 4 4 4 4 4 4 4 4 4 において4 4 4 4，人が主体になることの自由4 4 4 4 4 4 4 4 4 4 4 4と説明される．や や理解しにくい概念であるが，これはユーザが，科学技 術や人工物の使用目的4 4を，自分で，自分のために，自分 の人生観に基づいて決定し，そのことで自身の人生をつ くり出していく自由であると理解できる．もしそのよう な自由の余地がなく，科学技術や人工物がユーザを支配 する場合，その科学技術・人工物は批判されるべきであ る [Verbeek 11, p. 111]．その例は，先に見たような，ユー ザの意志や権限を排除して行為の目的まで設定してしま う科学技術・人工物であろう． § 6 責 任 媒介理論の立場に立つと，科学技術や人工物を用いた 行為の責任について考える際に，行為した人間だけを考 慮に入れることは誤りである．なぜなら，その科学技術 や人工物があって，初めてその行為は可能になったから である．しかし，以上の議論は，科学技術や人工物に人 間と同じような責任を帰せという意味で理解されてはな らない．科学技術や人工物それ自体はあくまでモノであ り，意図をもつわけでないため，行為の結果について責 任を問うことはできない＊9． 例えば包丁を用いて人を傷付けた場合を考えよう．衝 動的にその場にあった包丁を用いて人を刺してしまった 場合，殺傷能力をもつ刃物である包丁がその場になけれ ば，傷害事件は起こらなかった可能性が高い．しかし， 包丁自体に責任があるわけではない．したがって，現在 の日本の社会規範や法律においては，原則，傷害を与え ＊9 ここで問題となる意図は，意図をもっているかのように外界 に振る舞うという，工学上・認知科学上問題となり得る意図で はなく，あくまで法的・道義的な責任に関わる意図であること をお断りしておく．その人工知能は，想定されたとおりに有効に機能する）． ただし，ユーザは人工知能の技術的志向性とスクリプト に従わないこともできる．すなわち，使い勝手が悪い場 合はそれを使わないようにすることで拒絶の意思表示を 行うことができるし，別の使用方法をユーザ自身で考案 することもあるだろう（多重安定性）． 次に，人工知能の設計における規範について媒介理論 を適用すると，以下のようになる．まず設計者は，人工 知能にスクリプトを組み込むことで，ユーザを善い行為 へと方向付けることができる．ユーザは，スクリプトに 従って，無理なく善い行為を行うことができる．これが 媒介理論の観点から提示される善い人工知能4 4 4 4 4 4のモデルで ある．また，媒介理論を適用することで，人工知能を善4 い形4 4で設計する方法が提示される．まず，人々の利害を 反映させる民主的関与が保障されなければならない．次 に，人工知能との関係で主体になることの自由，すなわ ち関係的自由が保障されなければばならない．そして最 後に，責任の所在が明確化される必要がある． § 1 電子メールや SNS，メッセンジャーの「添削」 具体例を考えよう．現在すでに実装されている，もし くは近い将来に実装される可能性の高いものとして，イ ンターネットにおける文字入力コミュニケーションの円 滑化をあげたい．より具体的には，電子メールやコミュ ニケーションアプリで文字を書き，他者に送信する際に， 人工知能を用いてフィルタリングを行い，その内容を添 削することである＊10． 私達はインターネット上で，電子メールや SNS，メッ センジャーの機能を利用し，膨大な数のやり取りを行っ ている．媒介理論の立場からすると，電子メールやさま ざまなアプリケーションに媒介され，コミュニケーショ ンを助けられているといえる．例えば遠隔地にいる相手 に，文字情報（および画像，ときには音楽や映像など） を伝達するという点で助けられている．さらにいえば， フォントの利用により，文章が書きやすく，また読みや すいということもあげられる．伝達しあった過去の文字 情報を検索，閲覧できるということもまた大きな助けに なる．私達はこれらの助けを借りながら，日々の生活を 形づくることができる．このような日々の媒介的な助け に，さらに人工知能を付け加えることは可能であろう． 電子メールや SNS，メッセンジャーに書き込んでいる 文字に対して，第三者の目から評価してくれる人工知能 を組み込むと，例えば卑語や，他者を傷付ける言葉・文 字列を検出し，警告することができるだろう．これは特 に，意図せず他者を攻撃する可能性を減らすという意味 で効果的であり得る．気の置けない友人に頼むように， 「このメールどう思う？」という具合に読んでもらった り，言葉の代替案を出してもらう＊11ことが，将来的に は可能になるだろう．あくまで強制なく，自然に善い行 為を導くという意味で，この人工知能はモラル化されて いるといえる． このような，自分の文章を第三者の視点から添削して くれるアプリケーションを設計・開発するとき，設計者 は媒介理論の枠組みを用いて，アプリケーションをより 善いものにすることができるだろう．具体的には，2 章 で述べたような，民主主義，自由，そして責任の理念を 組み込むことが，媒介理論の立場から推奨される． まず，人々の利害を反映させるために民主的関与を保 障する必要がある．できるだけ公平にユーザが使用でき るアーキテクチャを構成する必要があろう．また，添削 のための用語集・文例集などが，ある特定の人々に不利 益になるように設定されないよう心掛けるべきである． 例えば人種や民族，文化，身分や階級，職業，性別およ び疾病などに関わる差別的な語句・表現が，添削のため の用語集・文例集などに反映されないよう配慮する必要 があるだろう．場合によってはこの用語集・文例集をユー ザに開かれたものにすることも考えられる． また，個人が自分で，自分の利害のために，この人工 知能を使用したり解釈する自由の余地を保障する必要が ある．このアプリケーションの場合は，個人が自分で機 能をオン・オフする権利を保障し，また添削の結果をど のように利用するかを自由にさせる必要がある．また， 2章の例に合ったように，ユーザの意志や権限を排除し て，アプリケーションが綴り字や文法や文章スタイルを 強引に変更するようなことのないように留意する必要が ある． そして，このアプリケーションを用いたときに起こる 帰結に対して，責任の所在を明確化しておく必要がある． どの場合にユーザが責任を負うべきか，また設計者・開 発者が責任を負うのはどのような場合か，あらかじめ決 定しておくべきである．
4．媒介理論の限界
さて，これまでの検討で，媒介理論を簡潔にまとめ， これを人工知能の設計に適用した．媒介理論は科学技術 の一般理論を目指すものであって，人工知能研究に特化 した理論ではない．だが，人工知能もまた科学技術の一 例であるため，媒介理論は人工知能研究へと適用可能で ＊10 この例は，セイラーとサンスティーン [Thaler 09] のミニナッ ジの一例を敷衍したものである．また，現にこの研究に取り組 んでいる人工知能研究者が何人も存在することは承知している． あくまで，媒介理論を適用すると，どのように論じることがで きるかという具体例として読んでいただければ幸いである． ＊11 TOYOTA の内部サイト，TOYOTOWN におけるキャンペー ンの一つとして 2014 年 6 月に公開されたジョークアプリ，「し ずかったー」はこの試みとして理解できる．これは，SNS に 発信する言葉を，自動的に「キレイ」に変換するアプリである とされている．http://www.toyotown.jp/sizukatter/ （2014/07/24 確認）あり，人工知能の設計の際に参照する理論になり得る． このことは，前章の議論によって十分に理解していただ けただろう．ただし，媒介理論の枠組みに欠点がないわ けではない．最後になるが，現行の媒介理論が適用不可 能なケース，あるいは適用する際の難点を指摘しておき たい． 4･1 記述的理解に関わる問題 媒介理論の基本的な主張は，人間は科学技術や人工物 を活用して，自身の活動や生活を形づくるというもので ある．このような発想のもと，民主主義，自由，そして 責任などの理念が論じられる． ここには，媒介理論の暗黙の前提がある．それは，科 学技術・人工物は人々の身近な生活の中で出会われる4 4 4 4 4も のだという前提である．より詳しくいえば，媒介理論は， 人々が日々の活動のなかで日常的に，近しい形で関係す る（可能性のある）科学技術と人工物を念頭に置いてお り，そのような科学技術や人工物と人々がどのように関 わることができるかという観点から，議論を構成してい るのである．しかし，それも当然のことで，もともと媒 介理論は，技術の媒介能力の検討，すなわち人間が世界 と関係する際に科学技術・人工物がどのような媒介的役 割を果たすかという，ポスト現象学的検討からスタート しているからである． しかし，以上の前提からは，媒介理論の限界もまた 導出されると考えられる．媒介理論が積極的な意義をも つ場面が，人々が日々の暮らしの中で出会う物事を技術 によって解決する場面であるならば，逆にいえば，人々 の日々の暮らしにおいて関与がほとんど想定できない物 事，およびそれほど発生率が高くないため普段は意識に 明確に上ぼってこないが，ひとたび起これば大きな異議 を突き付けられる物事の技術的解決は，媒介理論の枠組 みにおいては想定されにくいし，対処しにくいというこ とになる（科学者や工学者の合理性のみに頼む結果とな る）．前者の例としては，非常に高度な専門的知識が複 雑に関係するため，素人である人々の関与が到底望めな いような人工知能の設計や使用の場合があげられる．後 者の例として，ほとんど意識されない形で社会のなかに 溶け込んでいる人工知能技術を考えることができる． また，身近な科学技術という技術観は，そもそも私 達が日常的に出会う科学技術のほとんどが端末4 4あるいは ユーザインタフェース4 4 4 4 4 4 4 4 4 4であるという事実を見逃してい る．いくつかの技術が複合して手元に現れている状態が， 媒介理論が取り上げる科学技術なのである．逆にいえば， あるユーザインタフェースを成立させている人工知能な どは，媒介理論の問題設定に入ってこない可能性がある． これは，媒介理論の限界と考えることができる． 4･2 規範に関わる問題 規範的理論に関わる問題は，大きく分けて三つ考えら れる．まず，前節の議論は，当該の技術を知らない人が， 技術について異議を申し立てることの問題につながる． これは人工知能に限らず，高度な専門的技術につきまと う問題であろう．一般市民の日々の暮らしにおいて，関 与が望めない人工知能に関して，民主的関与の保障は必 要なのだろうか．必要ならば，それはどのような形の保 障になるのだろうか．この問題は，専門家と一般市民の 役割の問題と，民主主義の理念に関わる問題が複雑に絡 み合った問題であり，現行の媒介理論をそのまま適用す ることで解決できる問題ではない． 二つ目は，自由の問題である．本論文では，人間が自 身の生活を形づくるために人工知能を活用するという論 点を強調した．しかし，高度な人工知能は，人間の意思 決定そのものに働きかける影響力をもち得る＊12．この とき，どのような自由が保障されなければならないかに ついて，より発展的な議論が必要である． 三つめは，責任の問題である．媒介理論においては， 責任を負うことができる存在は人間だけである．しかし， ロボットカーのような高度に自律的な人工知能のケース はどうだろうか．例えば人間による運転という行為とロ ボットカーの運転はどう違うのか，そして，事故が起こっ た場合の責任はどうなるのか──このような問いについ て，改めて検討する必要がある．ロボットカーのような 高度に自律的な人工知能が社会に入ってくる場合は，開 発者やユーザがとるべき責任は，大きく変わることにな るだろう．このようなケースを考える際，媒介理論をそ のまま適用することは困難である．
5．お わ り に
最後にまとめとして，倫理的・道徳的に善い人工知能 を設計し，社会をより善くするための提言を行う． 媒介理論は，人工知能の設計という観点から，人工 知能と人間が共存する社会を考察する手掛かりを提供す る．特に，より善い人工知能をつくるとはどういう意味 か考えるとき，この議論は有効である．ユーザの知覚と 行為に対して，人工知能は影響を与えざるを得ない．な らば，せめてより善い形の影響を与えよう──このよう に考える人工知能研究者にとって，媒介理論は，問題と なる「善さ」とは果たして何か，考えるきっかけとなる だろう． 本論文は，媒介理論を簡潔に説明したうえで，人工知 能研究に媒介理論を適用するとどのようなケースにどの 程度有効か，どのような限界があるか，明確にするとい う課題に取り組んだ．その結果，次のことが判明した． すなわち，人々の日々の暮らしにおいて人々の積極的関 与が見込める人工知能の設計・開発に関しては，媒介理 ＊12 例えば人間の情緒や感情に働きかける Affective Computing の研究があげられる．[Ihde 90] Ihde, D.: Technolopgy and the Lifeworld: From Garden
to Earth, Indiana University Press （1990）
[Ihde 93] Ihde, D.: Postphenomenology, Northwestern University press （1993）
[久木田 13] 久木田水生：人工知能，ロボット，知性，社会と倫理， No. 28, pp. 51-65 （2013）
[Latour 92] Latour, B.: Where are the missing masses? The sociology of a few mundane artifacts, Bijker, W. and Law, J. eds., Shaping Technology/Building Society, pp. 225-258, MIT Press（1992）
[Latour 94] Latour, B.: On technological mediation: Philosophy, sociology, genealogy, Common Knowledge, Vol.3, No.2, pp. 29-64 （1994）
[Norman 88] Norman, D.: The Psychology of Everyday Things, Basic Books （1988），野島久雄 訳：誰のためのデザイン？ 認知 科学者のデザイン原論，新曜社（1990）
[Thaler 09] Thaler, R. H. and Sunstein, C. R.: Nudge: Improving
Decisions About Health, Wealth, and Happiness, Penguin
Books （2009），遠藤真美 訳：実践 行動経済学，日経 BP 社（2009） [Verbeek 05] Verbeek, P-P.: What Things Do: Philosophical
Reflections on Technology, Agency, And Design, Pennsylvania
State University Press （2005）
[Verbeek 11] Verbeek, P-P.: Moralizing Technology:
Understanding and Designing the Morality of Things,
University of Chicago Press （2011）
[Weng 09] Weng, Y. H., Chen, C. H. and Sun, C. T.: Toward the Human-Robot Co-Existence Society: On safety intelligence for next generation robots, Int. J. of Social Robotics, Vol. 1, Issue. 4, pp. 267-282 （2009）
[Winner 86] Winner. L.: The Whale and the Reactor: A Search for
Limits in an Age of High Technology, University of Chicago
Press （1986），吉岡 斉，若松征男 訳：鯨と原子炉─技術の限界 を求めて，紀伊国屋書店（2000） 2014年 8 月 8 日 受理 論（およびモラル化論）を積極的に活用することができ るだろう．そして，より善い人工知能をつくり，そのこ とで社会をより善くすることができるだろう． しかし，高度な専門性の関わる人工知能や，人間の意 思決定に影響力をもつ人工知能，そして高度に自律的な 人工知能のケースでは，現行の媒介理論をそのまま適用 することは望めない．少なくとも著者を含め，媒介理論 を提唱する技術哲学研究者は，これらのケースを含み込 んで媒介理論を発展させる必要がある．この目的を果た し，高度な専門性の関わる人工知能や，高度に自律的な 人工知能をも適用対象とする媒介理論が構築された際， 人工知能研究者はこれを活用して人工知能を，そして社 会をより善くすることができるだろう．以上をもって， 本論文の提言とする． 謝 辞 本論文の考察は，ロボットの応用哲学研究会のメンバ とのディスカッションによって深まりました．また，服 部宏充様は本論文執筆の機会と的確なアドバイスを与え てくださり，江間有沙様はよき媒介者となってくださり ました．なお，本研究は JSPS 科研費 25・7843 の助成 を受けたものです．記して感謝いたします．
◇ 参 考 文 献 ◇
[Achterhuis 95] Achterhuis, H.: De moralisering van de apparaten, Socialisme en Democratie, Vol. 52, No. 1, pp. 3-12 （1995）
[Berlin 90] Berlin, I.: Four Essays on Liberty, Oxford University Press （1990），小川 晃一 ほか訳：自由論，みすず書房（2000） [Brey 06] Brey, P.: Ethical aspects of behavior steering
technology, Verbeek, P. P. and Slob, A. eds., User Behavior and
Technology Development, pp. 357-364, Kluwer （2006）
[Feenberg 95] Feenberg, A.: Alternative Modernity: The Technical
Turn in Philosophy and Social Theory, University of California
Press （1995）
[Feenberg 99] Feenberg, A.: Questioning Technology, Routledge （1999），直江清隆 訳：技術への問い，岩波書店（2004） [Fogg 02] Fogg, B. J.: Persuasive Technology: Using Computers to
Change What We Think and Do, Morgan Kaufmann （2002）， 高良 理，安藤知華 訳：実験心理学が教える 人を動かすテクノロ ジ，日経 BP 社（2005）
