AI と社会 ―未来の社会を作るのは人かAI か―
13
0
0
全文
(2) . 図２ ディープラーニングにおけるネットワーク. もちろんディープラーニングならではの工夫が. の構造の概要［2］. たくさんされていますが，技術のコアは非常に 古いものです． では，なぜこれが 2000 年になって着目され るようになってきたのかというと，ポイントは， この実験を行うために，まず 1,000 万の画像サ ンプルを集めてきたということです．先ほどの 郵 便 番 号 の 比 で は あ り ま せ ん よ ね． そ れ を ニューラルネットワークのアルゴリズムを実行 するのに 1,000 台のコンピュータ， 1 万 6,000core のコンピュータで回したというわけです．この. ニューラルネットワークは画像の理解に非常. スケールはすごいですよね．これを行ったのは. に役立ちました．平面に与えた図形を理解する. Google のグループで，Google はまさにこの大. 際，ニューロンに当たるノードをある層におい. 規模なリソースを用意できました．つまりこれ. たとき，前の層から何か信号が来て，この層で. がうまくいったのは，もちろんアルゴリズムの. ニューロンが 1 か 0 の出力をします．そうした. 改善もありますが，実は大規模なデータとコン. ニューロンが各層ごとにあって，そのニューロ. ピュータが大きく効いています．これが 2012. ンがまたさらに 1 か 0 で出力していくというこ. 年のことです．. とを繰り返していきます．もちろんこれは 1 か. 少し戻って 2011 年にもう一つ大きなニュー. 0 という最も原始的なもので，人間の脳神経科. スがありました．それは IBM Watson がクイズ. 学とはまったく違うのですが，1960 年代には. の対戦で人間に勝ったというものです．「ジェ. これが画像理解に使えるということで大変流行. パディ！」というアメリカで有名なクイズ番組. りました．. があります．ちなみに日本に「クイズグランプ. おそらくこの技術が世界で最初に実用化され. リ」という番組がありましたが，これはこの. たのは，日本の郵便番号の認識プログラムだと. 「ジェパディ！」の模倣だったようです．４人. 思います．葉書の四角の枠の中に郵便番号を書. ほどの解答者が並んで，カテゴリーを選ぶと，. きますよね．あの数字を機械的に理解するため. 「アメリカ国内の空港で将軍の名前のついた空. に実はこの技術が使われました．ただし，数字. 港は何？」などというクイズが出されて，それ. は 0 から 9 までの 10 個で，10 個の判別問題な. に答える方式です．各回のチャンピオンからグ. ので簡単な問題であったので実用化されました. ランドチャンピオンを決めるのですが，そのグ. が，当時の技術では住所までは読めず，それ以. ランドチャンピオンにコンピュータが勝ったと. 上は発展しませんでした．. いうニュースが話題になりました．. そのあと，Backpropagation といって，学習. これも，やはり 3,000 個のプロセッサ・コア. 結果に修正がうまく入るような仕組みを作った. を使い，元データも 70GB 程度，書籍 100 万冊. りして，現在のディープラーニングに至ってい. に相当するようなデータを使って行っていま. ます．. す．ただし，これも実はさほど画期的なアルゴ. ディープラーニングの元論文を見てみると，. リズムが入っているわけではなく，それぞれ質. 先ほどの図が大規模になっています．任意の画. 問，応答，回答など，人工知能の基本的技術の. 像を放り込んで，例えばその中からネコの顔っ. 組み合わせでできています．. ぽいものを引き抜いてくることができるという. 図３は，答えと精度を表したグラフです．チャ. ことで， 当時かなり話題になりました．ただし，. ンピオンの回答率は黒いドットです．Watson.
(3) . 図３ 人間のチャンピオンと IBM Watson の正答. は真空管のコンピュータで，160 ㎡ほどの場所. 率の比較［3］. にドーンと置いて，やっとちょっとした計算が できただけでしたが，ENIAC 誕生のときには， 「artificial brain が生まれた」というような報道 がなされました．その 10 年間の進化のスピー ドがいかに速いか，お分かりいただけると思い ます． 要するに人工知能の考え方は，もうデジタル コンピュータが生まれたと同時にほぼ生まれて いるということです．我々がコンピュータを生 み出したときに， 「あ，これって頭脳じゃん」 とみんな思ったわけですね．当時は，下手をし. の 0.1 バージョンはあまり精度が高くなかった. たら今の電卓よりも低い能力しかなかったわけ. のですが，0.7 バージョンあたりになると勝て. ですけれども，それでも今まで機械ができな. るようになっていることが分かります．アルゴ. かったことを人間の頭脳のようにやってくれる. リズムをチューニングすると人間に勝てるとい. んじゃないかということを期待して，これを「人. うことです．いずれにしろ，少なくとも普通の. 工知能」と名付けたわけです．ですから，人工. クイズ番組では人間はコンピュータに敵わない. 知能というのは何か特定の技術の名前ではあり. ところまで行っていることが分かります．. ません．むしろ我々のコンピュータに対する期. こうした IBM Watson，そしてディープラー. 待の先端部分，賢いコンピュータを作ろうとい. ニングのおかげで，AI が再び着目されるよう. う研究分野が人工知能だということです．. になってきました．. 人工知能で最初に取り組まれたのが，探索や. AI 発展の歴史. 推論，意味ネットワーク，perceptron の研究で す．探索というと，いわゆるコンピュータ概論. 冒頭，現在は AI の第 3 次ブームだと言いま. や計算概論の授業の最初の頃に出てきますよ. したが，それでは第 1 次，第 2 次は何だったの. ね．つまりいかに効率よく大量の情報から目的. でしょうか．それらも振り返りながら，いった. の情報を見つけてくるかという問題です．今で. い AI の技術がどのように発展したかを見てい. したら，それは単なるアルゴリズム概論の第 1. きたいと思います．. 章にすぎないと思われるかもしれませんが，当. 第 1 次人工知能ブームというのは，1950 年. 時はそうした大量のものから 1 つを見つけ出す. 代半ばから 70 年代の半ばぐらいと考えられて. 行為は，人間にとって労力のかかる大変な仕事. います．1956 年のダートマス会議において，. でした．それがあるアルゴリズムを組むと効率. 初めて「Artificial Intelligence（AI） 」という定. よく見つけ出してくれる．そうした研究がなさ. 義が導入されたのが AI の発祥と言われていま. れていました．. す．. では，どんな分野に適用していたかというと，. 最初の電子計算機が登場したのが，1946 年. 定理証明やチェス，シーン認識，自然言語解析. の「ENIAC（ エニアック ） 」という軍事用のコ. などです．このように書くと何か大変高度なこ. ンピュータだと言われています．つまり 1956. とをやっているように見えますが，実は大した. 年というのは，それからたった 10 年しか経っ. ことはやっていません．. ていません．つまりコンピュータの性能は大変. チェスといっても，分かりやすくいえばオセ. なスピードで進化しているわけです． 「ENIAC」. ロのレベルで，ちょっとチェスを差せる程度で.
(4) . す．シーン認識というのも，当時はアニメの絵. 立たないものとされていきます．. のような線画があって，例えばそこに箱がある. しかしその後，1980 年代あたりに第 2 次人. かどうかを認識する，というだけの話です．3. 工知能ブームが起こります．日本では，この直. つのエッジが重なっていれば，これは凹凸のど. 前が第 5 世代コンピュータということで，日本. ちらかであり，2 つのエッジが重なっていれば，. 主導でコンピュータ開発を行おうとしていた，. ここは面の切れ目である，といった単純な組み. 日本のコンピュータ技術の華やかだった時代で. 合わせで，そこにモノがあるかないかを判定す. す．. るというのが，ここでいうシーン分析です．そ. 先ほどの第 1 次ブームでは役に立たないと思. れでも当時としては大きな成果でした．. われていたのですが，この時代には，分野を限. これが第 1 次の人工知能ブームですが，すぐ. るとけっこう使えるとの認識が増えてきます．. 限界が来てしまいます． 「組み合わせ爆発」が. 特に産業応用の実用的問題解決に使えることが. 問題になりました． というのは， 例えば今のシー. 見えてきて，あるいは診断や言語理解の分野で. ン分析で，ここにモノがあるかどうかであれば. また人工知能が盛り上がってきました．. 2 通りですが，これが 10 個あれば 2 の 10 乗で，. 診断というのは，例えばコンピュータの医療. あっという間に可能性が増えてしまいます．当. 診断で， 「喉が痛くて，咳が出る．熱がある」. 時のコンピュータは能力が低いですから，いく. などの症状があったときに，その症状から， 「イ. らアルゴリズムが可能だといってもコンピュー. ンフルエンザの可能性が 50％，風邪の可能性. タの能力に限界があって，無限時間かかる，あ. が 20％」などと出力してくれるプログラムで. るいは止まってしまう状態になり，徐々に期待. す．これが普通のプログラムと異なるのは，こ. が薄れてきてしまいました．. のエキスパートシステムは，人間が判断したロ. また「常識的知識の欠如」ということも指摘. ジック部分だけを切り出して，これをルールと. されました．当時の自然言語解析というのは，. いう形で別に入れられるようになっています．. 単に単語をとってきて，その単語に関連するも. つまり最初からプログラムに組み込まれている. のを出してくるものでした．この当時の自然言. のではなく，専門家がそのルールを書けるよう. 語解析の子孫が， 実は「ELIA（イライザ） 」です．. にしました．例えば医療の専門家である医師が. あるいは日本人にとって馴染みのあるのは「人. 「これらの症状であれば，この可能性が何％あ. 工無脳」と呼ばれる，いわゆるボットですね．. る」というルールを書き込むと，エキスパート. 何か文章を入れると反応してくれます． ， 「今日. システムはそのルールを読み込んで動くので，. はいい天気だね」と入れると， 「何を食べまし. すべてをプログラムに書かなくてもいい．それ. たか」 などとたまに変な返事が返ってきますが，. を「知識」と呼んだわけですが，知識を書けば. インターネットの初期に少し流行りました．今. システムが動くということです．. はそれが発展してツイッターボットなどが使わ. こうした技術は，医療分野だけでなく機器の. れています．あれは文章を理解しているわけで. 診断などいろいろな分野で使えるようになりま. はなく，単にキーワードを引っかけて反応を生. した．例えば産業機械で，「この種の異音や臭. み出す，簡単なプログラムにすぎません．数回. いがしたときには，この特定の部品のこんな故. やり取りをする程度なら面白いのですが，長く. 障が疑われる」というのは，現場で多くの経験. やり取りをすると実は会話になってないことが. 知を持っています．それをルール化すれば，経. わかってしまいます．これは常識という基本を. 験の浅い人でもコンピュータに入力すると， 「こ. 持っていなければ本当の会話にならないことが. の箇所の故障が何％の確率で疑われる」という. わかり飽きられてしまいました．この二つの理. のを出力してくれる．これがエキスパートシス. 由から，この時期，いったん，人工知能は役に. テムです．.
(5) . これらは，「A ならば B．B ならば C．よっ. 行いました．エキスパートシステムの時代には. て A があれば C である」といったある種の論. 箱庭的知識だったのが，Watson であれば 500. 理推論を行っています．また，知識を蓄えて動. 万という規模の知識です．もう一つの重要な変. くということで，知識ベースシステムと言われ. 化はインターネット，ことに Web の普及です．. ます．. Watson がこの知識が使えるようになったのも. 一方で，ルールで書くのではないのですが，. インターネットのおかげです．Watson は他に. 同じような仕組みを使って，ニューラルネット. も様々なシステムは使っていますが，重要な知. ワークで学習させる方法もこの頃再度使われる. 識ソースは Wikipedia で，単純に言えばまさに. ようになりました．ニューラルネットワークで. Wikipedia を使ってクイズに答えているわけで. は，ニューロンの部分の出力パターンを変えて. す．第 3 次ブームでは，大きな計算機リソース. いくことを「学習」と呼びます．出力を変化さ. と大きなデータ，これがミソになっています．. せて，結果的に望ましい結果を出すようになる. ここまでが人工知能の歴史の話です．. ので「学習」と呼んでいます．これを繰り返し ていくと A なら A に反応するニューロンのネッ. 人工知能のふたつの面. トワークができて，これをニューラルネット. この人工知能の歴史を別の角度で振り返りた. ワークの学習といいます．こうした手法は当時. いと思います．. の日本でも大変流行って，エキスパートシステ. 人工知能の研究者が何を考えていたかという. ムを導入した業務の自動化が進み， 『日経 AI』. と，2 つの見方があります．1 つは論理的知能，. という雑誌が出たほど，AI のブームが起こり. もう 1 つは生物的知能です．. ました．. 論理的な知能というのは，先ほどから知識，. この第 2 次のブームで問題となったのは，知. あるいは推論などと呼んでいたタイプの知能で. 識ボトルネック問題です．先ほどのように知識. す．我々が「社会」で発揮している知的な振る. を入れていくのはよかったのですが，各現場で. 舞いです．例えば，皆さんがこの講演に来ると. 知識を入れていってもうまく蓄積されず，また. きにも多くの意思決定をしていますよね．この. 知識をアップデートしていくのが難しいという. 部屋がどこにあって，その部屋に行くためには. ことです．それぞれの知識が小さい，いわゆる. 何時に出て，どういうルートをとるべきか，そ. 箱庭的知識を各エキスパートシステムに用意し. ういう意思決定をしてきたと思います．それは. ていたために，１回作るのは簡単なのですが維. 高度な知識であり，社会的に高度な振る舞いで. 持が難しいということで，第 2 次人工知能ブー. あることは間違いありません．例えば，幼稚園. ムは終わってしまい，いわゆる“AI 冬の時代”. 児のレベルであれば難しいわけです．ですから. が訪れます．. 人工知能の目指すものとして，論理的知能が 1. 第 3 次人工知能ブームが起こったのには，も. つあります．. ちろんアルゴリズムの進歩はあります．しかし. 一方で，生物としての知能というものがあり. 最も大きいのはコンピュータのリソースが非常. ます．単純なことでいえば，歩いていてつまず. に大きくなったということです．エキスパート. いても転ばずに立てるというのは生物的な知能. システム時代のコンピュータの性能は今のスマ. で，これも知能の研究です．その一端がニュー. ホにも劣るようなものでしたが，今の AI は大. ラルネットワークで，これは人間のニューロン. 規模な計算機リソースと非常に大きなデータを. を真似て作ったと説明したように，生物に学ん. 使用します．ディープラーニングでも，1,000. で知能を作りたいというモチベーションが一方. 万の画像データベースを使いました．Watson. であります．. の場合は 100 万ページに相当する知識を使って. 人工知能の研究者がときどき引用するものに.
(6) . 図４ 人工知能の二つの面（これまで） コンピュータの誕生. 知能のふたつの面. パターン認識 推論 チェス パーセプトロン. 定理証明 エキスパートシステム 大規模知識ベース. ニュラルネット ロボット知能. 機械学習. 社会に根ざす知能. ディープラーニング. 身体に根ざす知能. h�ps://upload.wikimedia.org/wikipedia/commons/5/5c/Da_Vinci_Vitruve_Luc_Viatour2.jpg h�ps://upload.wikimedia.org/wikipedia/commons/1/1e/Hippocampus_image.png h�ps://www.flickr.com/photos/57570482@N06/5299266966. 「モラベックのパラドックス」があります．今. としての高度な知能であるという考え方があり. 触れた社会的知能と生物的知能のどちらが偉い. ます．そういう背景を踏まえると， ，論理的な. かというと，モラベックは， 「コンピュータに. 知能を研究したいというモチベーションはよく. 知能テストを受けさせたりチェッカーをプレイ. 分かります．もちろんパーセプトロンのような. させたりするよりも，1 歳児レベルの知覚と運. 生物に学ぶ知能も当初からありました．. 動のスキルを与えるほうが遙かに難しいか，あ. エキスパートシステムはまさに論理的な知能. るいは不可能である」などということを言って. を突き詰めていったものです．一方で同じ時代. います．. にニューラルネットワークが発達し，また今日. いわゆる知の研究として考えると，人工知能. はあまり言及していませんが，ロボット知能も. 研究にはまだまだ大変大きなギャップがあるわ. 発達していきます．このロボットと知能を組み. けです．人工知能がチェッカーをさすのは，一. 合わせた研究については，日本人の研究者は早. 見，とても知的な機能に思えますが，それは知. くから着手しています．例えば早稲田大学の加. の実現と考えた場合，1 歳児の知の実現のほう. 藤一郎先生がピアノを弾くロボットを作って，. がよっぽど難しいということを言っています．. 1985 年の科学万博で展示されました．当時と. こうした知能の 2 つの面から改めて人工知能. しては大変な驚きでした，知能という意味では. 研究の進化を見てみると， 社会に根ざす知能と，. 一見大した技術に見えませんが，実は人の指の. 生物が持つ身体に根ざす知能をある種行ったり. 動きをつくるのは高度な生物的な知能の発現で. 来たりしながら考えているというのが，人工知. す．このようなアプローチは身体に学ぶ知能で，. 能という研究分野だと思います．. こうした知能も研究されています．日本人の研. 当初は論理的な知能を目指していました．コ. 究者は，論理的知能よりも生物に学ぶ知能を好. ンピュータ自身がアルゴリズムによって動くも. む傾向にあって，これは文化的背景だと思いま. のとして誕生したということもありますが，欧. す．. 米では合理的な推論が知の根源であって，人間. そして第 3 次人工知能ブームは，一方で大規.
(7) . 図５ 人工知能の二つの面（これから） コンピュータの誕生. 知能のふたつの面. パターン認識 推論 チェス パーセプトロン. 定理証明 エキスパートシステム 大規模知識ベース. ニュラルネット ロボット知能. 機械学習. 社会に根ざす知能. ディープラーニング. 身体に根ざす知能. h�ps://upload.wikimedia.org/wikipedia/commons/5/5c/Da_Vinci_Vitruve_Luc_Viatour2.jpg h�ps://upload.wikimedia.org/wikipedia/commons/1/1e/Hippocampus_image.png h�ps://www.flickr.com/photos/57570482@N06/5299266966. 模知識ベースの Watson は論理的知能の最先端. いわば社会のシミュレーションを行っていま. であり，ディープラーニング等の機械学習は生. す．社会はなぜこういう仕組みで動いているの. 物的知能の系譜にに位置付けられます．ディー. か，あるいは社会にある知識は何だろうかとい. プラーニングは判別問題等で大変いい性能を出. うことをコンピュータの中に作り上げるとい. せますが， それに何ら合理的説明はありません．. う，そういう研究ということになります．. しかしながら，適切に判定できるというもので. ちなみに私自身がどういった研究を行ってい. す．つまり人工知能は，これら 2 つの知能の間. るかというと，私自身はあまり生物的なほうに. を揺れ動きながら発展してきていると言えま. は関心がなく，社会の知識に関心があります．. す．. DBPedia という Wikipedia から作ったオープン. これをあえて人間に当てはめると，身体に根. 知識ベースがあって，その日本語版を作り，そ. ざす知能のほうは，赤ちゃんの知能から幼稚園. れを使ったアプリケーションを作るという，そ. 児の知能になれるかという研究で，社会に根ざ. うした研究をしています．さらに一般的な知識. す知能のほうは，小学生から大人になるぐらい. から個別知識を組み合わせて問題解決をするこ. に社会のルールを学んだり，まさに社会の知識. とを研究としていたりします．あるいは，社会. を獲得して，社会的に合理的な振る舞いができ. から創発するような知識を調べたいということ. るようになる段階に対応する研究と言えます．. もしています．ニコニコ動画で，誰がどの動画. 人間の発達でいうならば，身体に根ざす知能の. を見て，誰が作ったかという，経緯をネットワー. ほうが幼稚園児程度まで，社会に根ざす知能が. クとして捉えて，ネットワークの分析すると，. 小学生以降という，そんなことを行っている研. どんな人が参入して動画が作られたかという経. 究です．. 緯を分析ができ，いかに知識が創発するかとい. つまり人工知能の現在の方向は，1 つは“個. うことを解明するための研究も行っています．. 体の発生” 的方向で， 脳や身体のシミュレーショ. では，この方法を突き詰めていくと究極の. ンを行っていて， 一方， “個人の発達”的方向は，. AI が作れるのかというと，実はそうではあり.
(8) . ません．. 図６ 指数関数的に増える計算パワー. あえて「個体」とか「個人」と書いてあるの がヒントです．生物で習ったと思いますが，個 体発生ともう 1 つあるのは系統発生です．つま り人間の赤ちゃんが生まれるということは，そ の裏には人間という種が生まれる長い生物の歴 史があって，その末端で 1 人の人間が生まれて いるわけです．ですから脳や身体のシミュレー ションをすると言っていますが，それはすでに 出来上がったものをシミュレーションしている のであって，本当の知の発生を捕まえたことに ならない． つまり， 生物の進化のシミュレーショ ンをすべてやって初めて，本当の意味での人工 の知が作れるわけです．でないと，単に出来上 がった脳をいかに真似しても，本当にゼロから 知を作ったことになりません．. シンギュラリティ（特異点）はくるのか. それは社会のほうも同じで，個人が社会人に. なぜこんな話をしたかというと，皆さんも言. なって発展するためには，その社会が存在して. 葉ぐらいは聞いたことがあると思いますが， “シ. いなければならない．社会の発展そのものが分. ンギュラリティ（ 特異点 ） ”が問題になってい. からなければ人工的な知能は作れません．これ. るからです．カーツワイルという人が 2005 年. も同じことです．ですから文明の進化を学ばな. に発表した著書の中で「40 年後にシンギュラ. ければなりません．文明の進化シミュレーショ. リティがやってくる」と述べています．シンギュ. ンがゼロから行えるようなものがなければ，実. ラリティ問題とは「人間の知能を凌駕する知能. は本当の意味での人工知能は生まれないという. の出現するときがくるとき，人工知能は人間の. ことになります．. 手に負えなくなる」というものです．これはよ. そういう意味では，今，第 3 次 AI ブームで. く SF 映画で観るような状況ですよね．世界的. ディープラーニングや大規模知識ベースで動い. にも，日本でも大きな話題になりました．. ている知識というのは，用意された道具立ての. 本当にこんな未来が来るのかということです. 上で動いている人工知能でしかないので，真の. が，カーツワイルは未来学者で，コンピュータ. 意味でまったく人工的に生まれる知能ではない. の計算パワーを予想しています（ 図６参照 ） ．. ということです．逆にいうと，これをやるのが. 計算パワーの発展はいわゆるムーアの法則と. 第 4 次の AI かもしれません．ただ，それはこ. いって，1.5 年から 2 年ほどで 2 倍になるとい. れまでと全くスケールが異なるということがお. うのがこれまでの経験則で，それをそのまま延. 分かりいただけると思います．もちろん今です. ばしていくと計算パワーは図のように高くなり. らまだ人間の脳や身体をすべてシミュレーショ. ます．2000 年あたりに 10 の 5 乗から 7 乗程度. ンなんていうことはできていませんし，人間の. の計算能力があって，それは彼が言うには昆虫. 社会の全シミュレーションなんて，もちろんで. の脳のシナプス計算量に匹敵するそうです．そ. きていません．その上にさらに生物の進化のシ. れがそのうちマウス程度の脳のサイズになり，. ミュレーションや文明の進化のシミュレーショ. 2020 年 ぐ ら い に は 人 間 の 脳 サ イ ズ に な り，. ンが必要になりますから，その意味ではまだま. 2040 年過ぎにはすべての人間の脳を合わせた. だ道は遠いと言えます．. よりも大きくなると予想していて，このあたり.
(9) . でシンギュラリティが起こると指摘していま. てもよく，もっと別のところで脳を使えばいい. す．. ということです．このように考えると，特異点. 彼の計算は非常に単純ですが，過去の予測は. という，何か特別なポイントが存在するという. かなり当たっているので，信頼されています．. 考え方には違和感があります．. そして，その時点で人間とコンピュータの主客. もう 1 つの答えは，先ほどの人工知能の歴史. が逆転して AI が支配する社会が来るというの. でお話ししたとおりで，本当の意味で自己を設. が，このシンギュラリティの話です．. 計するような人工知能の原理は発見されていま. では，シンギュラリティは本当に来るのかで. せんし，それを作る見込みも今のところありま. すが，私は，そもそも特異点などというものは. せん．ですから，人間がコントロールできない. 存在しないと考えています．というのは，人間. ような知能は，すなわち，本質的に人間とは隔. の知能を凌駕するというのは，部分的であれば. 絶されたところで勝手に知能が生まれてとい. すでに存在しています．例えば Google そのも. う，世界はとりあえず予想されていませんし，. のがそうですよね．人工知能の出発点は探索だ. できたとしても相当時間がかかります．ですか. と言いました．当時は人間の脳より劣っていた. ら私の理解では，シンギュラリティが来るなん. のですが，今は何百億ページのものから必要な. ていうのはそんなに憂えることでもないという. ものを探索してくるのですから，Google はす. ことです．. でに我々の知能をまったく超えています．ある いは Google Map であれば，世界中の地図を覚. 人工知能の倫理問題. えています．そんなことができる人は世界中い. とはいえ，人工知能に基づくシステムは続々. ません．. と社会で利用されるようになってきたのは間違. しかし， それで特異点を超えたという感覚は，. いありません．部分的には，今申し上げたよう. 我々は持っていませんよね．そういう能力をコ. に人間を凌駕する知能が生まれて，それは社会. ンピュータが獲得したために，むしろ我々はそ. に大変なインパクトを与えます．これまでは. れをあまり気にかけなくなったにすぎません．. Google や Wikipedia などのわりと限られた分. かつてであれば，例えばここから東京までの交. 野，分かりやすい分野でしたが，どんどん身近. 通経路をパッと言えれば， 「彼は賢い人だ」と. な分野に入り込んできて，人工知能と社会の問. 褒められたはずですが，今は誰も褒めてくれま. 題は大きくなるということは間違いなく，その. せん．Google などのおかげで記憶が重要では. ため，今，世界中で人工知能と社会の関係につ. ない社会になりました．我々はコンピュータに. いて盛んに議論されるようになりました．. 負けたわけですが，それでコンピュータに支配. ただ，現時点では，使われる前にそういう議. されたということではないでしょう．確かに. 論をしておくべきだということで，かなり将来. 我々は自らの記憶より Google を頼るという点. を先取りした議論です．. ではコンピュータに依存しているかもしれませ. 国内でも人工知能学会という学会があって，. ん．だからといって我々は能力が衰えたわけで. そこに倫理委員会がつくられ，たまたま私はそ. はなく，むしろ別のところに知能を使うことが. の委員長を務めています．昨年，倫理委員会が. できるようになったわけです．. 中心となっての学会の，倫理指針を作成しまし. 今後，AI がもっと重要な場面に入ってくれ. た．社会の問題が顕在化する前から動いていた. ば，判断も AI に任せることになるかもしれま. 活動として内外から評価されています．もっと. せん．今は人間が得意な部分だとされています. も制定当初は，多くの学会では持っている倫理. が，AI がやればもっとうまくできるかもしれ. 綱領の一種として作ったものでした．. ません．それも単に人間が判断で頭を使わなく. この倫理指針で何を言っているかをかいつま.
(10) . んで説明します．まず，先ほど申し上げたよう. おり，人工知能のリスクなどの問題などを含め，. に人工知能が勝手に動き回るというのは，今は. 社会への発信と対話を行うというものです．. ありえず，今の人工知能はあくまでデザインさ. 生物科学の分野では厳しい倫理規定がありま. れたものであることを前提としています．とす. す．しかし我々が作った倫理規定はあまり厳し. るならば，AI の倫理問題とは，AI そのものの. くありません．それは問題が違うからというこ. 倫理ではなく，デザインする研究者，開発者が. とを最後に言いたいと思います．. 倫理的にちゃんと考えなさい， ということです．. 生物科学の倫理規定では，例えば人間の卵子. ロボットが勝手に動き回ること自身の倫理性を. にどこまで操作を加えていいかという問題があ. 問うのではなく，勝手に動き回るように設計し. ります．最近も中国の研究で話題になりました．. た者に対する倫理指針で，研究者がどうあるべ. こうした分野ではかなり厳しくルールを作って. きかが書かれています． 「あなたたちの行って. います．しかし人工知能ではそこまで厳密には. いる研究は社会に影響を与えるかもしれない．. できないだろうと私は考えています．なぜなら. そうした想像力を持って研究をせよ」というの. 人工知能というのは，いわゆる汎用技術です．. が，この倫理指針の言わんとするところです．. 同じアルゴリズムは，Google Map の検索にも. この倫理指針は 9 条で構成されていて，8 条. 使えるし，軍事でミサイルのターゲットを決め. まではごく当たり前のことを言っているのです. ることにも使えるわけです．ですから技術その. が，9 条だけ少し遊んでいます．9 条まで主語. ものは制限できません．生物のように「このケー. は「人工知能研究者」で， 第 9 条だけ違います．. スはダメ」などと言うことは非常に難しいとい. 主語が「人工知能」です． 「もし人工知能が社. うことがあります．その意味で，予見して制約. 会の構成員あるいはそれに準ずるようになった. を求めたり倫理を求めたりすることは，人工知. ら，この倫理指針を守ってね」という循環的な. 能の分野では無理だろうと思います．. 提案をしています．これは遊び心で付け加えま. さらに問題を難しくするのは，人工知能の場. した．何度も強調しているように，まだ今のと. 合，社会に入り込んで社会自体を変えてしまう. ころ自ら律して動くような，そんな高度な人工. ということです．例えば自動運転のケースを考. 知能は存在しませんが，もし人工知能が人工知. えましょう．今，自動運転の話もかなり議論さ. 能を設計するような時代になったら，その人工. れていますが，部分的には近いうちに入ってく. 知能はここに書いてあるような人工知能開発者. ると思います．この場合，今，人間が運転する. の原則を守りなさい，という条文を 9 条に付け. 交通の中で自動運転はこうすべきだと決めるこ. ています．. とはできるでしょう．しかし，自動運転車が大. 今，世界中で AI と倫理の問題は盛んに議論. 量に入ってきて，自動運転が主流の交通の社会. されていて，他では，AI ソーシャルグッドなど，. に変わると，この未知の状況（まだどんな状況. 様々な視点やアプローチが出てきています．. になるか予想できない ）ではまた新しいルール. 人工知能の研究は，5-10 年前までは「人工知. が必要となってくるでしょう．人工知能による. 能冬の時代」と言われたほど，注目を浴びえて. 社会の変化まで予見することは非常に難しいの. おらず，人工知能学者はコツコツ研究するだけ. で，社会と一緒に考えなければいけないことだ. で，自分たちが社会に影響を与えるなんて深く. と思います．. 考えていませんでした．人工知能学会倫理委員. これは吉川弘之先生が科学と社会という文脈. 会の役割の 1 つは，研究者の自覚を促したいと. で話した際の図です．科学者は社会に無関係で. いうものです．もう一つの役割は，社会への発. いていいかという議論をした際に，もちろん科. 信と対話で，専門家として予見できるものはき. 学者の自由は認めるけれども，ただ科学の結果. ちんと社会に伝えていくのが学会は求められて. が社会に受容されると社会が変わる．それを観.
(11) . 図７ 構成による漸次的進化のループ（吉川弘之）. 会にどんなことをもたらすかを考える仕組みを 作るということが，これからの社会には必要だ. 選択. ろうと思っています．. 行動. 行動者. 助言. 同化. ということで，皆さんに「未来の社会を作る のは人か AI か」ということを考えてもらいた. 構成者. 対象. 聴取. く行った，私から話題提供は以上です．ご清聴 ありがとうございました．. 状態 警告. 観察者. 質疑応答 受講者 人工知能学会について，もちろん企. 認知. 業も研究を進めていると思うのですが，学会の 中ではどんな話題がトレンドになっています. 図８ 持続性実現に科学が貢献するためのループ. 持続性実現に科学が貢献するためのループ 政府、企業、病院、文化、公共サービス 行動 （専門知識に 裏付けられた行動）. 人工知能設計者・開発者 （科学的助言 技術的助言）. 構成・設計 （人文・社会・ 工・農・医）. ニューラルネットワークの研究は大変盛んです ね．投稿も多いですし，聞きたい人もたくさん いて大人気です．もちろん，それ以外のデータ に基づく推論のようなものについても，大規模. 行動者. 知識提供. か． 武田 もちろんディープラーニングを含む. （吉川弘之）. 知識を使った研究も多くあります．. 構成型 科学者. 社会、 地球環境. 行動の同化 （社会技術）. 現象・期待. 人工知能観察者・分析者. 観察型 科学者. 勧告・警告. （行動者の行動結果 として生じる現象、潜在的期待）. （状態観察により 持続性のための 可能性と社会的期待の発見）. 観察・分析 （人文・社会・生命・自然科学）. （構成による漸次的進化のループ）. ポイントは，計算機リソースなどが大変大規 模になってきているので，大学よりもむしろ Google などの研究者のウェイトが増えている ということです．アメリカだと，ドクターの学 生が Google などの企業の研究所にインターン として半年や 1 年，行く場合が多く，そのとき にその企業のコンピュータ環境などのリソース. 察者というのは，その社会の変化を検知して，. を使って研究しています．ディープラーニング. それがフィードバックされるべきだ．これが科. の研究を少しやるにも，GPU100 台，200 台付. 学を抱える正しい社会だろうというのが，この. けたようなものでやらなければ，論文のレベル. 吉川弘之先生のモデルです．. で競争できません．しかし，そうしたリソース. 吉川先生によると，この観察者が主に科学者. は 普 通 の 大 学 に は な く， や は り Google や. で，構成者はどちらかというと社会科学や人文. Facebook などの大企業の人，あるいはそこに. 学の研究者という位置づけです．. インターンに行った学生などが有利で，競争の. 人工知能もそれと似たような構造であって，. スタイルが変わってきています．. 人工知能を作ってどんどん応用するというのは. . ループの下半分で，それを検知してフィード. 受講者 倫理規定について，今，量子コン. バックする仕組みが必要だと思います．つまり. ピュータでも軍事利用で情報の秘匿性があっ. あらかじめあれはやっちゃいけない，これは. て，倫理規定を作っても持っていても確認がで. やっちゃいけないと言うことは人工知能では難. きないということがあると思うのですが，そこ. しいと思いますが，何か起きたときにそれは社. に対する技術の進歩などについて，こうなれば.
(12) . 全体で倫理が守られるなどのご意見があればお. るデータの傾向を読むということです．ですか. 伺いできればと思います．. らその意味では，そうしたことを理解したとも. 武田 確かにそこは大きな問題で，人工知能. 言えるわけです．もちろんこれには負の側面も. 学会の全国大会でも前回， 「安全保障と AI」と. あって，人工知能で銀行の融資を受ける場合，. いうセッションを立ち上げています．そこでも. 今あるデータに基づくと，実は人間の銀行員の. 指摘されたのは，汎用技術である人工知能は，. 負の影響をそのまま受けた AI が出来上がって. 軍事と民生の両方で使えるといったデュアル. しまうと言われています．例えば，もしある銀. ユース，あるいはそれ以前にそもそも汎用技術. 行員が黒人や有色人種にはあまり貸していない. であるので，事前に規制することは難しいとい. という事実があって，それを正のデータだとし. う点です．. て学んでしまうと，学んだ AI も同じような傾. ただ，悪い AI を規制するのではなく，良い. 向を示すので，社会的バイアスを持ち込んでし. AI を作っていこうという“Good AI”的な活動. まう．. を行っている人たちも一定数います．これには. 逆に正の側面で，人間がいいと思う絵を集め. もちろん軍事利用を防止する効果はありませ. てくれば，あるいはある特定の画家の絵を集め. ん．しかし，よい AI という活動を進めること. てくれば，その傾向を学んでくれるだろうとい. によって，AI のよりよい面を広げていき，AI. うのは，たしかに機械学習系で実現はできてい. 自身をそちらの方向に向けていこうとしていま. ます．ただ，それはあくまでデータにすぎず，. す．AI が汎用技術である以上，そうした方向. データが埋め込まれた社会との関連を考えるま. から進めていくしかないと今は考えています．. でにはまだ至っていないと思いますね．データ というのはもともと社会から生まれたものです. 受講者 ある分野に対して保護を行うと，研. 究や発展が妨げられる可能性があると思うので. から，そこをうまく組み合わせれば社会の構造 なりが見えてくるかもしれません．. すが，AI の場合も研究の進歩が危うくなる可 能性はあるのでしょうか．. 受講者 かつて西垣通さんの著書で， 「生物. 武田 あり得るでしょう．ただ，Good AI が. 的知能を AI は絶対超えられない」といった議. うまく回れば，Good AI であれば研究費が来る. 論をしていたと思うのですが，武田先生はむし. というような正の循環が起こればいいと思いま. ろその先の生物の進化，文明の進化にこそ真の. す．. 問題があるとご指摘されていました．つまり武 田先生は，生物的知能に関して超えられる可能. 受講者 AI の作った絵画が 4,000 万ドルほど. で落札されたというニュースがありました．AI. 性もなくはないとのお考えでしょうか． 武田 最近のディープラーニングなどの研究. は， 現在の美的感覚や感情と合わせていくのか，. を見ていると，非常にベーシックな生物の振る. それとも AI 独自の美的感覚を持っていくのか. 舞いは解明できそうだと感じています．例えば. というのは面白い切り口だと思うのですが，そ. 赤ん坊の反応のようなものは，おそらくわりと. うした研究などは行われているのでしょうか．. 近いうちに機械で模倣することはできそうな気. 武田 そういう問題に正面から取り組んでい. がします．それはそういう仕組みをつくっただ. る人はあまりいないような気がしますね．先ほ. けにすぎませんが，将来的に人工的に作り上げ. どおっしゃった例はまだディープラーニング系. ることができるかできないかというご質問であ. の技術を使って，とりあえずたくさん学ばせれ. れば，生物と同程度のデータを入力することが. ば何か出てくるというタイプです．. できて，それを何万回，何億回と繰り返すこと. 今あるデータを学ばせるということは，今あ. ができて，結果的に人間の振る舞いと同じよう.
(13) . なことを疑似経験させることぐらいはできそう. ろうというのが私の考えです．. かなと思います．. 先ほどから申し上げているように，完全自動 の AI はまだまだ困難です．過渡期には，もち. 受講者 今の AI がもう少し進めば，かなり. ろん AI によって仕事が置き換えられても，新. の人間の労働力を駆逐して，労働の主体が AI. たに生まれた産業ではやはりまだ不完全な AI. に取って代わり，大量の失業が発生するのでは. が導入されるので，そこでも労働力は吸収され. ないかとの懸念がなされています．先ほどの遺. るだろうと思います．. 伝子操作と同様で，技術的には可能だが社会的. 参考文献. に負の影響を及ぼす可能性があれば，その開発 をやめるべきだ，といった議論はあるのでしょ うか． 武田 人工知能学会は，基本的に大学等の人. 工知能の研究者からなる学会ですので，そうし. ［1］福島邦彦「位置ずれに影響されないパターン 認識機構の神経回路のモデル――ネオコグニ トロン――」，『電子通信学会論文誌 A』vol. J62-A, no. 10（1979） , pp. 658-665. た規制は望ましくないと考えていますし，おそ. ［2］Building High-Level Features using Large Scale. らく自分たちで積極的に議論することもないと. Unsuper vised Lear ning. Quoc V. Le, Marc. 思います．我々はやはり技術の発展はすべきで. Aurelio Ranzato, Rajat Monga, Matthieu Devin,. あって，そうしたことはそれ以外の分野でやっ. Kai Chen, Greg S. Corrado, Jeffrey Dean and. てくれというスタンスが中心だと思います．. Andrew Y. Ng. In Proceedings of the Twenty-. もちろん技術による労働の変化のようなこと. Ninth International Conference on Machine. は起こり得て，これは歴史上もずっと経験して. Learning, 2012.. きました．ある経済学者によれば，かつては新. ［3］Fer r ucci, D et al.,“Building Watson: An. しい技術が生まれるとその技術によって置き換. Overview of the DeepQA Project , AI Magazine. えられる人は明らかにいたが，ただ，その技術. vol.31 no.3, 2010.. がまた新しい産業を起こすので，結果的に新し い産業に吸収されてきた．しかし，本当の意味. （国立情報学研究所情報学プリンシプル研究系教授）. での人工知能が導入されると，新しい産業には もはや労働者がいらなくなり，新しい働き口は. 以上は横浜経済学会と横浜国立大学校友会の共催. 復活しない可能性も出てくる，というのが彼の. で 2018 年 12 月 6 日に行われた学術講演会の記録. 論旨ですが，そうした時代はかなり先になるだ. である．.
(14)
関連したドキュメント
「教育とは，発達しつつある個人のなかに 主観的な文化を展開させようとする文化活動
当社は「世界を変える、新しい流れを。」というミッションの下、インターネットを通じて、法人・個人の垣根 を 壊 し 、 誰 もが 多様 な 専門性 を 生 かすことで 今 まで
はありますが、これまでの 40 人から 35
自閉症の人達は、「～かもしれ ない 」という予測を立てて行動 することが難しく、これから起 こる事も予測出来ず 不安で混乱
とである。内乱が落ち着き，ひとつの国としての統合がすすんだアメリカ社会
人の生涯を助ける。だからすべてこれを「貨物」という。また貨幣というのは、三種類の銭があ
これからはしっかりかもうと 思います。かむことは、そこ まで大事じゃないと思って いたけど、毒消し効果があ
今日のセミナーは、人生の最終ステージまで芸術の力 でイキイキと生き抜くことができる社会をどのようにつ
