Experts’ Insights │
社会イノベーションをめぐる考察6
慶應義塾大学 総合政策学部 教授
新保 史生 どう向き合っていくか 異なる価値観と
2016年に発足した「AI社会共創・
ラボ」では大学の内外から多種多様 な専門家が一堂に会して，AIやロ ボットなどデジタル技術の社会実装 をめぐって幅の広い議論を続けてい る。これは特定分野に閉じた従来型 研究でもなければ，単なる文理融合 でもない。技術，経営，経済，政策，
法律，倫理，デザインなどの異なる 学問領域の者が同床し横断的かつ密 に連携する文字通り「総合」的な研 究である。
このような試みは容易ではない が，それが成功している要因の一つ に，異質なものを排除せず多様性を 受け容れる慶大SFCの自由で開放 的な気風がある。自分の研究室にも 何名かの起業家がいるし，ベン チャー企業だけでなく，アプリ開発 や音楽，ゲームといったクリエイ ティブワークなど，斬新なアイデア を持った若者がアクティブに動ける 環境がある。例えば，彼らを支援す るインキュベーションセンターがあ り，「死の谷」を越えるためのファ ンド，知財管理のための弁理士，顧 問弁護士なども用意している。その 結果，成功を収めた先輩の姿を見て，
後輩が刺激を受けてチャレンジする という好循環ができている。
一方，今の学生の多くは驚くほど 堅実であり，常に冷静に現実を考え ながら未来に向き合い，確実に実現 できるという根拠を得たうえで挑戦
に取り組む。彼ら自身，ゆとり世代 ではなく悟り世代なのだと言うが，
かつての大学生のような若者らし さ，弾けたところがないのも確かだ。
当然，学生の関心対象も様変わり している。象徴的なのが車だ。バブ ル世代の自分たちはこぞって車を買 おうとしたものだが，今の学生はま ず車に関心がない。所有することへ の無関心，あるいはモノへの執着の 希薄さの現われと言えるが，車を利 用して旅行することに関心がないの ではない。つまりモノからコトへと いう価値観の変化なのである。
大学にいると，こうした世代間の 価値観の変化を体感することができ る。自分とまったく異なる価値観に 生きる彼らと日々接していると，デ ジタル社会の未来も楽観的に思えて くる。利便性，合理性，最適化，効 率化など，これからデジタル技術が もたらすのは彼らの世代の価値観に ぴったりなものばかりである。
私自身，AIやロボットの法的課題 に関する研究に取り組むようになっ たのは，大学院で博士号を取得した SFCの学生に触発されたからなの だが，今，最も重要なのはこうした
「価値観の違いという新たな現実を どう捉えるか」という，ある意味で 非常に抽象的な問題なのだと思う。
人間の価値基準を越えて 判断する存在の登場
これまでの法律家の基本的な発想 は，大半の出来事は想定できるとい う「予見可能性」の大前提に立って，
デジタルがもたらす価値観の変容
“AI× ロボット ×IoT”の恩恵を享受するために
博士（法学）。専門は、憲法、情報法、ロボット 法。個人情報保護委員会専門委員、憲法学会 常務理事、情報通信学会常務理事、総務省情 報通信政策研究所特別研究員、経済協力開発 機構（OECD）デジタル経済セキュリティ・プライバ シー部会（SPDE）副議長（2009-2016）。
Vol.101 No.02 166-167 7
そこから逸脱するリスクにどう対処 するかというものだった。ところが AIは人間にとって思いもよらない 想定外の判断をする可能性がある。
有名なトロッコ問題※）のように正答 がない問題に直面した場合，どのよ うな価値判断を下すべきなのか。人 間であれば，さまざまな観点から価 値を相対的に考慮したうえで最終的 により良いと思うほうを選ぶはず だ。例えば，携帯電話の使い方に明 文化されたルールや法律はない。し かし通常，問題が生じないのは他人 に迷惑を掛けてはいけないという同 じ価値観をお互いに共有できる社会 通念が定着したからだ。一方，AI がどういう根拠でどう判断するのか は誰にも分からないし，人間と同じ ように判断する保証はまったくな い。人間の価値判断とAIの価値判 断が一致しないという局面が十分に 考えられるわけだ。このことが法律 家からすると，リスクとして見える。
しかし，現時点ではこのリスクを 真剣に受け止めている法律家は少数 に留まる。主流を占めているのは，
いかに想定外の事象が起きても，事 後的に既存の法体系の中で整合性を 確保し，現行の法解釈で対応すれば 新たな問題は生じないという考え方 だ。確かに今のAIは特定の用途に 限ってデータ解析した結果を提供し ているだけとも言えるし，その範囲 で最終的な判断を下すのは人間であ る。しかし今後，データを解析・判 断 す るAIに，デ ー タ を 収 集 す る IoT， さ ら に そ れ を 現 実 世 界 に
フィードバックするロボットが密に 連携するようになれば，人間が介在 しない状態でAIが重要な判断を下 し，実行することが現実のものと なっていくだろう。大量なデータか ら学習し，人間の価値基準を越えて 判断するのがAIに求められる機能 であり，それに基づくフィードバッ クが現実世界にもたらされることは パラダイムシフトと言わざるを得な い。かつてインターネットが普及し 始めた初期の段階には，ネットワー クにおけるセキュリティリスクを予 見した者は皆無だったと言われる が，同様に現在，“AI×ロボット×
IoT”によって生じる新たなリスク を予見することは難しい。しかし，
少なくとも自分たちとは異なる価値 判断を下す新たな存在と共生するこ とは確実であり，「電子人（Electronic Person）」という新しい電子法人格 の創設の議論も始まっている。
国際ルールづくりを 主導していくために
昨今のAIブームによって，こう した問題意識が広く浸透したのは歓 迎すべきことである。この間，米国 の 非 営 利 団 体「生 命 未 来 研 究 所
（FLI）」の「アシロマAI原則」（2017 年2月）や欧州委員会の「AI，ロボッ ト，自律システムに関する声明」
（2018年3月）をはじめ，世界的に AIやロボットに関するルールづく りの動きが加速し，各国で具体的な 規制に向けた法整備が進められてい る。こうした動向に先がけて私は
2015年末に「ロボット法新8原則」
を提案し，一定の拘束性を備えた国 際的なルール作りを呼びかけた。こ の8原則の要諦は，「日本人の法令 順守意識の特性を踏まえた規制の不 存在による萎縮効果への対応」であ り，現行の法制度の中でAIやロボッ トなどの扱いが明確でない結果，研 究開発が停滞する事態を回避するた めに，日本が国際ルールづくりを主 導すべきと考えたものであったが，
AIブームの過熱とも重なり，正当な 理解や賛同を得るには至らなかった。
しかしブームは必ず過ぎ去る。こ こから冷静な議論が始まるものと期 待している。今後のカギはデータの 取扱いと保護に関する国際ルールづ くりだ。昨今，経済政策と安全保障 の両面からデータを自国内に囲い込 むデータローカライゼーションの動 きが盛んだが，デジタル社会の恩恵 を世界中の誰もが享受するために は，データの自由な流通と適正な保 護が欠かせない。特に日本政府が推 進するSociety 5.0はデータを活用 しながら，人口減少や高齢化に伴う 社会課題を克服する壮大な施策であ り，個人の尊厳などの普遍的な原則 に基づくルールを形成する絶好の機 会である。日本が培ってきた「信頼」
を拠りどころに国際ルールづくりを 主導していくことは各国が期待を寄 せるところであり，日本の真価が改 めて発揮されるはずである。
※） トロッコ問題：「ある人を助けるために、ほかの 人を犠牲にすることは許されるのか」という，道 徳的ジレンマを扱った思考実験。
