AI と未来智慧
— 未来 AI との共存に向けて
趙亮
京都大学大学院総合生存学館（思修館）准教授
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . （技術的）シンギュラリティ（2045 年？– R. Kurzweil） https://cwtejp1.wikispaces.com/2045+The+Singularity 京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 2 / 20
AI に対する期待 賢い AI は人間最大の発明．AI こそさまざまな問題を 解決してくれる救世主であり，未来生命の希望である． 短期：製造，医薬，介護，安全，発展，教育，軍事利用等 中期：管理，研究開発，仮想世界，アップロード，サイボー グ，政府，シンギュラリティ等 長期：デジタルユートピア，生命 3.0
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . AI に対する懸念 AI は安全か？人間 vs AI は次の蟻 vs 人にならないか． うまくやらねば AI が人間最後の発明となるかもしれない． 短期：プライバシー，差別，倫理，バイアス，法律，失業，軍 事利用等，だれがどう使うかが問題． 中期：コントロール，シンギュラリティ，超知能等，人間が AI とどう共存するかが問題． 長期：人類の絶滅．AI はコントロールできるものなのか？！ 京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 4 / 20
未来 AI との共存に向けて
Asimov’s Three Laws of Robotics
N. Bostrom’s theory of Superintelligence
Y.N. Harari’s Home Deus (Victory of Algorithm) M. Tegmark’s Life 3.0
S. Russel’s proposal of “Human Compatible AI” Beneficial AI, etc
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ぼくのアプローチ 今までは賢い AI をどう実現するかが明示されていない． 賢いこととはなにか＝智慧とはなにか＝を考える． 特に計算機によって実装できるものに焦点を当てる． 京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 6 / 20
いままで考えてきたことの概要
1 智慧は結果ではなくアクションである．具体的に，智慧＝
学習＋乱択 (Wisdom = Learning + Random Selecting).
2 一方，原理的に AI（特に機械学習）にも解決できないこと がある．そうでなくても現実問題は難しい． 3 従って，本当に賢い（＝智慧ある）AI を作るなら，AI に乱 択（任意に選択）できる自由を与えねばならないa．よって (いまの人類にとっては) 危険が伴うものにもなる． 4 少なくともいまは，検証可能な AI のみを作るべき． a主張 (1) と (2) から．
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
人工知能 (Artificial Intelligence, AI)
人間は，観測したことがある法則に従うと仮定し 普遍的で厳密，簡単な法則を求めようとしている．
それを機械にやらせるのは「人工知能」というa．
a“... make machines use language, form abstractions and concepts,
solve kinds of problems now reserved for humans, and improve themselves” (McCarthy et al., Dartmouth Conference, 1955)
(2) AI の解決できない問題
チューリングマシンの停止問題，Godel の不完備定理
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
(1) 智慧＝学習＋乱択
説明 智慧はアクション（＝アルゴリズム）である． 学習＝決定的 (deterministic) 方法論，理性等 乱択＝非決定的 (nondeterministic)，自由選択，創造性， 発狂等．既知を超えて新しい知識を得るために使う． 京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 10 / 20“Mastering the game of Go with deep neural networks and tree search,” Silver et al, Nature, vol. 529, 484–489 (28 Jan. 2016)
“... These deep neural networks are trained by a novel
combination of supervised learning from human expert games, and reinforcement learning from games of self-play. Without any lookahead search, the neural networks play Go at the level of state-of-the-art Monte Carlo tree search programs that simulate thousands of random games of self-play. We also introduce a new search algorithm that combines
Monte Carlo simulation with value and policy networks...”
It is ironic that the authors published the paper at Nature but they did not realize the nature of their algorithm. If they did, they should use “Monte Calro” in the title.
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 著名な林檎からヒントを見る 認知革命 (Fig.1,https://commons.wikimedia.org/w/index.php?curid=194473) 科学革命 (Fig.2,https://www.youtube.com/watch?v=rOtWO94ld3o) 情報革命 (Fig.3,https://en.wikipedia.org/wiki/Apple_Inc.) 京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 12 / 20
Fiction made Sapiens the dominator of Earth (Harari，山極)
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Randomness (and diversity) in human behaviors
“We ... arguing that there is no universally optimal profile of brain functioning. The evolutionary forces that shape our species select for a staggering diversity of human behaviors.”
—A.J.Holmes and L.M. Patrick, “The Myth of Optimality in Clinical
Neuroscience,” Trends in Cognitive Sci., 22 (3), 241–257, March 2018
https://www.cell.com/trends/cognitive-sciences/fulltext/S1364-6613(17)30268-1
Learning + Random Selecting in education
(nature of John Dewey’s Experience Education, i.e., PBL)
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . (4) 検証可能な AI の提案 仕組みがわからなくても，結果は妥当な方法で検証できる． 例えば：顔認識，NLP，NP 問題のソルバー 検証困難の例：AlphaGo，顔から犯罪傾向を判断するシス テム，トロッコ問題に対する乱択法，偽ニュース作成器 https://en.wikipedia.org/wiki/Trolley_problem 京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 16 / 20
まとめ 科学は人間が特別な存在ではないことを示してきたが， AI はそのとどめを刺してくれる． 人間も AI も学習と乱択によって進化する． 人間は，検証可能 AI 等で，AI と融合していく． https://frankdiana.net/2018/07/12/life-3-0-being-human-in-the-age-of-artificial-intelligence/
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . おまけ：活用 研究：たまに全然違うことをやってみるなど 生活：たまにまったく知らないレストランに行ってみるなど プライベートモードでウェブ閲覧，思いつきで旅行に出か けるなど 京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 18 / 20
おまけ：Tegmark’s Life 3.0 にある未来の予測, 趙の和訳 1 自由ユートピア: 人間やサイボーグ，アップロードと超知能が財産法によって共存． 2 善の独裁者: AI に支配されていることを皆知っているが，大体の人は満足している． 3 平等ユートピア: 人間やサイボーグ，アップロードと超知能が財産の廃止によって共存． 4 門番: ある超知能が誕生し，ほかの超知能の出現を抑制する．サイボーグは可能． 5 守護神: 超知能は人類の幸せの最大化を図って裏で仕事するが，表はほとんど人間 のことに参加しない． 6 奴隷にされた神: 超知能が人間のコントロールの下で技術革新や資産を生み出す． 7 征服者: AI は世界を征服し，人間の存在が邪魔・悪なので人間を絶滅させる． 8 子孫: AI は人間の代わりに世界を支配するが，人間は尊敬される親として優雅に退 場する（あるいは退場させられる）． 9 動物園管理者: 人間は AI の陰に存在するが，自分が動物園の動物のような存在だ と分かって苦しむ． 10 1984: 人間によるオセアニアのような監視社会によって AI が徹底的に禁止される． 11 復帰: 技術革新前の社会に戻り，超知能への発展にはならない． 12 自己壊滅: 超知能ができる前に人間が核戦争等で自滅する．
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
& The Internet · · ·
