ai と未来智慧 未来 ai...
TRANSCRIPT
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
AI と未来智慧— 未来 AI との共存に向けて
趙亮
京都大学大学院総合生存学館（思修館）准教授
2019 年 6 月 25 日
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 1 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
（技術的）シンギュラリティ（2045 年？– R. Kurzweil）
https://cwtejp1.wikispaces.com/2045+The+Singularity
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 2 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
AI に対する期待賢い AI は人間最大の発明．AI こそさまざまな問題を解決してくれる救世主であり，未来生命の希望である．
短期：製造，医薬，介護，安全，発展，教育，軍事利用等中期：管理，研究開発，仮想世界，アップロード，サイボーグ，政府，シンギュラリティ等長期：デジタルユートピア，生命 3.0
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 3 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
AI に対する懸念AI は安全か？人間 vs AI は次の蟻 vs 人にならないか．うまくやらねば AI が人間最後の発明となるかもしれない．短期：プライバシー，差別，倫理，バイアス，法律，失業，軍事利用等，だれがどう使うかが問題．中期：コントロール，シンギュラリティ，超知能等，人間がAI とどう共存するかが問題．長期：人類の絶滅．AI はコントロールできるものなのか？！
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 4 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
未来 AI との共存に向けてAsimov’s Three Laws of RoboticsN. Bostrom’s theory of SuperintelligenceY.N. Harari’s Home Deus (Victory of Algorithm)M. Tegmark’s Life 3.0S. Russel’s proposal of “Human Compatible AI”Beneficial AI, etc
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 5 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
ぼくのアプローチ今までは賢い AI をどう実現するかが明示されていない．賢いこととはなにか＝智慧とはなにか＝を考える．特に計算機によって実装できるものに焦点を当てる．
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 6 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
いままで考えてきたことの概要1 智慧は結果ではなくアクションである．具体的に，智慧＝学習＋乱択 (Wisdom = Learning + Random Selecting).
2 一方，原理的に AI（特に機械学習）にも解決できないことがある．そうでなくても現実問題は難しい．
3 従って，本当に賢い（＝智慧ある）AI を作るなら，AI に乱択（任意に選択）できる自由を与えねばならないa．よって(いまの人類にとっては) 危険が伴うものにもなる．
4 少なくともいまは，検証可能な AI のみを作るべき．
a主張 (1) と (2) から．
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 7 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
人工知能 (Artificial Intelligence, AI)人間は，観測したことがある法則に従うと仮定し普遍的で厳密，簡単な法則を求めようとしている．
それを機械にやらせるのは「人工知能」というa．a“... make machines use language, form abstractions and concepts,
solve kinds of problems now reserved for humans, and improvethemselves” (McCarthy et al., Dartmouth Conference, 1955)
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 8 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
(2) AI の解決できない問題チューリングマシンの停止問題，Godel の不完備定理
https://www.nature.com/articles/d41586-019-00083-3
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 9 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
(1) 智慧＝学習＋乱択
説明
智慧はアクション（＝アルゴリズム）である．学習＝決定的 (deterministic) 方法論，理性等乱択＝非決定的 (nondeterministic)，自由選択，創造性，発狂等．既知を超えて新しい知識を得るために使う．
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 10 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
“Mastering the game of Go with deep neural networks and treesearch,” Silver et al, Nature, vol. 529, 484–489 (28 Jan. 2016)“... These deep neural networks are trained by a novelcombination of supervised learning from human expert games,and reinforcement learning from games of self-play. Withoutany lookahead search, the neural networks play Go at the levelof state-of-the-art Monte Carlo tree search programs thatsimulate thousands of random games of self-play. We alsointroduce a new search algorithm that combinesMonte Carlo simulation with value and policy networks...”
It is ironic that the authors published the paper at Nature but they didnot realize the nature of their algorithm. If they did, they should use“Monte Calro” in the title.
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 11 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
著名な林檎からヒントを見る
認知革命 (Fig.1, https://commons.wikimedia.org/w/index.php?curid=194473)科学革命 (Fig.2, https://www.youtube.com/watch?v=rOtWO94ld3o)情報革命 (Fig.3, https://en.wikipedia.org/wiki/Apple_Inc.)
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 12 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
Fiction made Sapiens the dominator of Earth (Harari，山極)
From Sapiens, http://www.tripsandbooks.com/2018/02/books-summary-sapiens.html
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 13 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
Randomness (and diversity) in human behaviors“We ... arguing that there is no universally optimal profile of
brain functioning. The evolutionary forces that shape ourspecies select for a staggering diversity of human behaviors.”
— A.J.Holmes and L.M. Patrick, “The Myth of Optimality in ClinicalNeuroscience,” Trends in Cognitive Sci., 22 (3), 241–257, March 2018
https://www.cell.com/trends/cognitive-sciences/fulltext/S1364-6613(17)30268-1
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 14 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
Learning + Random Selecting in education(nature of John Dewey’s Experience Education, i.e., PBL)
https://en.wikipedia.org/wiki/John_Dewey
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 15 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
(4) 検証可能な AI の提案仕組みがわからなくても，結果は妥当な方法で検証できる．
例えば：顔認識，NLP，NP 問題のソルバー検証困難の例：AlphaGo，顔から犯罪傾向を判断するシステム，トロッコ問題に対する乱択法，偽ニュース作成器
https://en.wikipedia.org/wiki/Trolley_problem
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 16 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
まとめ科学は人間が特別な存在ではないことを示してきたが，AI はそのとどめを刺してくれる．人間も AI も学習と乱択によって進化する．人間は，検証可能 AI 等で，AI と融合していく．
https://frankdiana.net/2018/07/12/life-3-0-being-human-in-the-age-of-artificial-intelligence/Map of human intelligence and AI (by Hans Moravec, from Life 3.0)
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 17 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
おまけ：活用研究：たまに全然違うことをやってみるなど生活：たまにまったく知らないレストランに行ってみるなどプライベートモードでウェブ閲覧，思いつきで旅行に出かけるなど
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 18 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
おまけ：Tegmark’s Life 3.0 にある未来の予測, 趙の和訳1 自由ユートピア: 人間やサイボーグ，アップロードと超知能が財産法によって共存．2 善の独裁者: AI に支配されていることを皆知っているが，大体の人は満足している．3 平等ユートピア: 人間やサイボーグ，アップロードと超知能が財産の廃止によって共存．4 門番: ある超知能が誕生し，ほかの超知能の出現を抑制する．サイボーグは可能．5 守護神: 超知能は人類の幸せの最大化を図って裏で仕事するが，表はほとんど人間のことに参加しない．
6 奴隷にされた神: 超知能が人間のコントロールの下で技術革新や資産を生み出す．7 征服者: AI は世界を征服し，人間の存在が邪魔・悪なので人間を絶滅させる．8 子孫: AI は人間の代わりに世界を支配するが，人間は尊敬される親として優雅に退場する（あるいは退場させられる）．
9 動物園管理者: 人間は AI の陰に存在するが，自分が動物園の動物のような存在だと分かって苦しむ．
10 1984: 人間によるオセアニアのような監視社会によって AI が徹底的に禁止される．11 復帰: 技術革新前の社会に戻り，超知能への発展にはならない．12 自己壊滅: 超知能ができる前に人間が核戦争等で自滅する．
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 19 / 20
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
..
& The Internet · · ·
京都大学大学院総合生存学館（思修館）趙亮 AI と未来智慧 — 未来 AI との共存に向けて 20 / 20