495 創設 30 周年記念特集─歴代会長随想─ 人工知能学会に対する全般的な思いは本学会創設 25 周年のときにすでに書かせていただきました [堀 11] の で，ここでは，最近筆者が最も関心を抱いている人工知 能学会の抱える特定の課題について書いてみたいと思い ます．それは，人工知能倫理の問題です． 会員の皆様がよくご存じのとおり，ここ数年の第 3 次 AIブームで，人工知能研究への期待が驚くほど高まる と同時に，人工知能研究の進歩に対する不安の声も高 まってきています．人工知能学会として人工知能倫理を どう考えるかについての公式の見解は人工知能学会倫理 委員会で議論しているところですが，ここでは，著者の 個人的な思いを書いてみます． 著者が常々不満に思っていたことは，人工知能が社会 に及ぼす影響を議論する人々が「どうなる可能性がある か（あるいはないか）」（典型例としては「人工知能が人 類を滅ぼす可能性があるかないか」）という可能性の議 論ばかりを行い，「何をどうしたい」のか，さらには「何 をどうしたいからそのために人工知能の何をどうする」 のかという議論をあまり行っていないように見受けられ ることでした． 例えば，「機械が心をもつようになりますか」という 質問を受けると著者は「機械が心をもつようになるかど うかではなく，機械に心をもたせたいかどうかを考え てみませんか．そして，もし機械に心をもたせたいと おっしゃるならば，何のためにどのような心をどうやっ てもたせるかを議論しましょう」と答えてきました [堀 15a]． あるいはまた，人工知能が人々にとって想定外の災難 をもたらす可能性はあるかもしれないので，悪い事態が 起こりそうになったら直ちに可能な対処を行うために， 人工知能を構成する技術は，できるだけ透明にかつ制御 可能なように構成しておくというようないわば設計美学 のようなものも考えるべきだと主張してきました [堀 13, 堀 15b]． 今後，著者の考える人工知能の設計美学を何らかの人 工知能設計方法論のような形にまとめ上げていくことは できるかもしれません．しかし，それはあくまでも著者 の考える設計美学であって，他人に押し付けるべきもの ではないでしょう． 最近著者が考えるのは，人工知能倫理に関する議論の 結果を，人工知能学会として何らかの形で固定化してし まっては，人工知能学会らしさが失われてしまって，つ まらないのではないかということです． ここで，人工知能学会らしさとは何かを振り返ってお きましょう． 人工知能学会が嫌ってきたことと好んできたことを列 挙してみます． ● 権威主義は嫌い．威張る年寄りは嫌い．無理矢理の 意見統一は嫌い． ● 自由な発想は好き．既存の枠組みから外れることは 好き． 今後，人工知能学会らしく人工知能倫理の議論をさら に展開していくとするならば，無理矢理に意見統一をす ることは行わず，自由な発想を尊重し，既存の枠組みか ら外れることも許容して，人工知能に関係する倫理観を 動的に構成し続けていこう，ということになりますでし ょうか．当然のことながら人工知能の研究を行っている 研究者だけでなく，さまざまな分野の専門家および一般 の人々も巻き込まなければなりません． 既存の SNS の枠組みの延長上でそのような議論を 行っても議論が荒れるだけで終わってしまうかもしれま せん．為政者が素人判断で人工知能研究への法規制を考 えるような恐れもあるかもしれません．マスコミも偏っ た論調に傾いていかないとも限りません．集合知の形成 は，人工知能の研究対象でもあるわけですから，我々は 我々の研究成果を人工知能倫理に関する議論にも適用し てみせようではありませんか． 人工知能学会らしく多元的かつ動的に人工知能倫理を 構成し続ける場をつくってみたいと思いませんか．それ を人工知能学会の理事会で一つ用意してくださいという のではなく，人工知能学会会員がそれぞれ自分の技を駆 使して，いろいろと異なる複数の場をつくってみせると いうことになるならば，それは他の学会では見られない 実践の姿になることでしょう． 「創設 30 周年記念特集─歴代会長随想─」
人工知能倫理と
人工知能学会
第 12 代会長堀 浩一
（東京大学）496 人 工 知 能 31 巻 4 号（2016 年 7 月）
