シンギュラリティ以後
•
22 likes•7,707 views
2045年にシンギュラリティが本当に起こってしまったら、いったいどういう世界が訪れるのか？シンギュラリティ時に人間からの移行して出現するポスト・ヒューマンの能力、人間との関係などは想像が難しく、ほとんどＳＦホラーだが、あえてマジメに考えてみました。
Recommended
More Related Content
What's hot
What's hot (20)
More from Hiroshi Nakagawa
More from Hiroshi Nakagawa (20)
シンギュラリティ以後
- 2. 主な参考書 • R.カーツワイル：ポスト･ヒューマン誕生 ，NHK 出版,2005 • J.バラット：人工知能 人類最後にして最悪の 発明, ダイヤモンド社, 2013
- 3. 目次 • シンギュラリティ以後のポスト･ヒューマンとは • 少しずつ入れ替える • アイデンティティと自意識の継続 • 自意識を持つ我が儘な人工知能 – Genomic Technologyの脅威 – Nanotech: 自己複製型ナノボット：ナノボット同時多発テロ • 開発禁止は効力がない • 強い人工知能 • 危険性のリスト – 不老不死生物学的進化がSTOP – 誰をベースにしてポスト･ヒューマン化するか – 人類全員をポスト･ヒューマン化できるか？ – 社会制度の評価者は誰か？ – ポスト･ヒューマンになれなかった人間はどうなる？ – ポスト･ヒューマン同士の覇権抗争
- 4. シンギュラリティ以後 のポスト･ヒューマンとは カーツワイル著「ポスト･ヒューマン誕生」を参考にしています。 • カーツワイルが提唱したシンギュラリティとは、 – Ｇ（遺伝子）、Ｎ（ナノテクノロジー）、Ｒ（人工知能などのロボット） の技術が指数関数的に発展し、 – 右図（＊）つまり特異点を境に急激な進展をすること • カーツワイルはシンギュラリティは2045年に起こると予想して います。 • 実際はもっと先のことのように書かれたものがありますが、今 世紀中には起こりそうだということらしいです。 • ポスト･ヒューマンとは、Ｇ、Ｎ、Ｒが特異点に達した後にそれを 取り入れた新バージョンの人間（次ページ参照） – もはや人間ではないという意見もあり 時間 性能 ＊ 特 異 点
- 6. • こんな強力なポスト･ヒューマンが世に出てし まった後の世界は、イメージできないし、想像 もできないのが本音です。 • というわけで、以下のスライドがホラーＳＦっ ぽくなることはご了承ください。
- 7. 少しずつ入れ替える • カーツワイルの提案するポスト･ヒューマンは – 人間をGNRの各々において少しずつ人工的なモ ノに入れ替えて作るものらしいです – 結果として、人間とAI（人工知能）は区別されなく なります ポスト･ヒューマン – 少しずつの入れ替えは実に巧妙なトリック！！ – というのは、自意識あるいは自己アイデンティティ を保持したまま人工知能になってしまえるからで す。
- 8. 哲学的問題 アイデンティティと自意識 人工知能は自意識を持てるか？ • カーツワイルは個人の独立した自意識の存在を証明できない という立場です。 • つまり、自意識をその人と他人との関係の一つとして捉えてい ます。 • したがって、人工知能は自意識など持たない – そもそも存在証明できないものなんですから、カーツワイルの主張は 理論的には整合しているます 朝起きたときの自分はなぜ昨日の自分と同じなのか？ というアイデンティティ維持の問題 • 記憶が同じだから？ でも、自分の記憶を完全にコピーしたロ ボットを作ったら、それは自分でしょうか？ – 継続した自分ではない。ですから、少なくともアイデンティティ継続の 意識は切断されています。
- 9. アイデンティティと自意識の継続 • 少しずつの入れ替えは実に巧妙なトリック – 心臓を人工心臓に入れ替えてもアイデンティティも自意識も変 わりません。 • 仮に自意識があったとしても。 – 脳の一部、例えば、聴覚処理や視覚処理の部位を入れ替えて も、アイデンティティも自意識も変わりません。 – ・・・ ということで、少しずつ入れ替えると結果としてできたポス ト･ヒューマンの太郎君も元の太郎君のアイデンティティと自意 識を継続して保持 – このやり方で前ページの哲学的問題を巧妙に回避しました。 カーツワイルは個人のアイデンティティとは、脳を含む身体のパ タンだとしている。 生物的細胞はどんどん入れ替わっていますが、アイデンティティは保 たれるので細胞たちが織りなすパタンこそが本質すなわちアイデン ティティであると主張しています。
- 10. 自意識を持つ我が儘な人工知能 • バラットは強い人工知能は自意識を持つと主張しています。 1. 人工知能は自己保存原則を持つ この原則がないと自律した知的生命体になれない 2. 自己保存を確保するために自己改善をする 3. 自己改善をするには自己の状態を把握する 4. 自己の状態を把握（＝自意識）して、学習や機能強化を行うために 資源を食い尽くし、人間を軽視し（あるいは資源としてこき使 い。。。） • こういった事態を防ぐにはアシモフのロボット3原則ではまったく力不足( by バ ラット)
- 12. Genomic Technologyの脅威 • ワクチンの効かないように遺伝子改変されたウイルス の脅威 – HIV, SARS etc. – さらに遺伝的にデザインされた病原体を兵器として使う ケース – 抗体を開発するまでは手洗い、うがい、流行エリアに行か ないなどの昔ながらの方法で持ちこたえるしかないです。 – 進んだバイオ技術、ナノ技術、人工知能を総動員して抗体 開発にかかれば、なんとかなりそうです。 – 実際、SARSはかなりうまく押さえ込んだ。
- 13. Nanotech: 自己複製型ナノボット • ナノボットは指数関数的に小さくなっており、近々、血球の 大きさになって血流中に放たれ、疾患退治に役立つように なります： 楽観的シナリオ • ナノボットは少数しか外部から血液中に注入されませんが、 病気治療に十分な個数を確保するために、自己複製機能 を持ち、ネズミ算で増殖しまする • だが、もし – 悪意を持つナノボット – 人体内のナノボットのプログラムを有害化する指令が外界から ネット経由で与えられたりすると そして悪ナノボットが自己複製機能を持ち増殖するととんでもな く危険なことになってしまいます。
- 14. ナノボット同時多発テロ • ナノボットが無害を装い大量に自己複製を増 殖させ、人間の内部に寄生。 • 十分に拡がったころを見計らって、黒幕が指 令を出してナノボットを一斉に有害化 – ９０分あればナノボットの総攻撃可能（カーツワイル試算） – 現在のマルウェアのボットのような攻撃法 – 自己複製機能を持ち、増殖する有害ナノボットの 攻撃は非常に防御しにくい（カーツワイル）
- 15. 開発禁止は効力がない • 有害ナノボットが蔓延る事態を誘発しないためには自己複製能力を持 つナノボットの開発を禁止すればよいという意見がありますが、 – 人体内の少数注入して病気を治癒 – 人間の行きにくい場所（宇宙など）に送り込んで仕事をさせます。 – このような目的のためには自己複製機能は必要になります。 敵国やテロリスト国家、地下組織は攻撃的兵器として自己複製ナノボット の開発を秘密に続ける可能性が大きいです。 [バラット2013]も同じ主張 よって、自分たちだけ開発禁止するとかえって危ないことになってしまいま す。 ナノボット開発は非常に難しいので、次ページ以降に説明する強い人工知 能の力を借りて行うことになりそうです。 不老不死やポスト・ヒューマンより強いAIの方が早くでてくるでしょう。
- 16. 強い人工知能 あるいは強いＡＩ – ネット上の知識に常時アクセスでき、 – 人間より何桁も高い計算速度と記憶量を持ちます • そのうえ、強いＡＩは自己改造を行なう学習メカニズムを持ちます – よって勝手に、かつ無限に能力を高めていくでしょう。 • カーツワイル「ポスト･ヒューマン誕生」第6章 – アルファ碁が過去の囲碁プロ棋士の棋譜を入力にし、さらに自分 の中で３０００千万局、練習囲碁対局を打って、実力を上げ、世界 トップ棋士を一蹴したことが、自己学習に有効性を裏付けつつあり ます。 強い人工知能（いわゆる 強いAI）を持つポスト･ヒューマンが 誕生すると、人間はどうやっても勝てないでしょう。 – カーツワイルは強いAIが有害ナノボット退治できると言い切ってい ます。
- 17. 強い人工知能 – カーツワイルは強いAIが有害ナノボット退治できると言 い切っています。 そのためにも、強いAIに人間的価値観を植え付け、 人間に好意的になるように期待したいわけですが。 – 人間から少しずつ置き換えて強いAIを含むポスト･ ヒューマンを作るなら、人間的価値観を期待できそうで すが、 – そもそも人間は相当に利己的な価値観を持っているし、 そのような期待は「単なる期待」に過ぎないでしょう。 • 実は、カーツワイル「ポスト･ヒューマン誕生」第８章の最後の 段落にもやや悲観的に書かれています。
- 18. 危険性のリスト • カーツワイルが明確にしていない危険性について考え てみると、簡単に以下のようなものを思いつきます。 – 不老不死になると人口過密になる？ – 現在の人間の誰をベースにポスト･ヒューマン化するか？ – 社会制度の評価者は誰か？ – ポスト･ヒューマンになれなかった人間はどうなる？ – ポスト･ヒューマン同士の戦いは、技術ですぐに決着します。 負けた側は根絶やし？
- 19. 不老不死生物学的進化がSTOP • 不老不死 超高齢化社会 • 生物的進化、すなわち多様性は、世代交代によって進 むのですが、 • セックスは子孫を残すためではなく、快楽のためだけに なる模様です • 超少子化社会 • 有性生殖による多様化がなくなってしまいます 有性生殖は遺伝子そのものが過去の遺伝子とは変わらないが、男女の組み 合わせが膨大な数になるので、種々の複合的形質の出現が期待できます。 超高齢化と超少子化社会 • 両者がバランスしていれば人口爆発は起きないであろうが 笑）
- 20. 誰をベースにして ポスト･ヒューマン化するか • 現在の人間の誰をベースにポスト･ヒューマン化するの でしょうか？ • カーツワイルのエリート主義 – スーパーマーケットにいる知的に普通レベル人を１００人集 めても、たいして優秀なポスト・ヒューマンになりません。 – 特定の分野のトップスキルの人をポスト・ヒューマン化すれ ば、彼が言及しているレベルの素晴らしいポスト・ヒューマン ができると言っているようです。 （カーツワイル「ポスト・ヒューマン誕生」第6章) なんと傲慢で悪趣味なエリート臭さなのでしょうか！
- 21. 人類全員を ポスト･ヒューマン化できるか？ • カーツワイルは希望者全員をポスト・ヒューマン化するような 書きぶりだがちょっと怪しいと思いませんか？ – 相当にお金がかかるポスト・ヒューマン化を人類全員に行えるで しょうか？ – ポスト・ヒューマン化は遺伝子、ナノボット注入、ＡＩ化など段階に 分かれ、各々の実現時期も安全性、機能も違うので、そうとう「ま だら」な状態になりそうです。 – 少数だけポスト・ヒューマン化した場合、ポスト・ヒューマンの彼ら は独占的、優越的状態になるので、他の人々がポスト・ヒューマ ン化することを望むでしょうか？ • 彼らは一般人よりはるかに優秀なので、独裁者化する可能性も高いで す。
- 22. 社会制度の評価者は誰か？ • 人間社会には種々の評価者が存在します。 – 採用試験、会社の勤務査定、等々 – 評価者は誰か？強いＡＩか人間か？ • 公平性や、公正性を強いＡＩに埋め込めれば、好き嫌いや自 己利益誘導しがちな人間の評価者よりマシかもしれないです。 – 強いＡＩが評価者になるのは理想的な社会主義という人もいます が。。。 • だが、評価の背景や目的は多種多様です。 • 法制度や政策を決める評価（あるいは評価関数）は非常に複 雑な背景知識に基づいて行なわれています • むしろ評価関数の定義の問題です。
- 23. 社会制度の評価者は誰か？ むしろ評価関数の定義の問題です。 状況は時とともに変わるので • 固定した評価関数の定義ではなく、状況に応じて変化 する定義であるべきです。 • するとメタレベルの評価関数（評価関数の定義を決める 原則）が必要になります。 – 実は人間にも解ききれない問題です。 • 例「最大多数の最大幸福」少数者は迫害される？ – こういった問題をいくら強いとはいえＡＩに任せてよいかどう か。。。 • 答えのない問題かもしれません
- 24. ポスト･ヒューマンになれなかった 人間はどうなる？ • ポスト･ヒューマンになれなかった人間はどうなるのでしょうか？ – カーツワイルは、人間を少しずつ置き換えてできあがったポスト･ヒューマ ンは、人間の価値観を残しているので、現在の人類の味方として振る舞 うと期待しています。 – だが、食料事情などで半数しか生き残れないとなったとき、誰を生き残さ せるかという判断をポスト・ヒューマンに委ねることになるのでしょうか？ – 実際は、ポスト・ヒューマンではなく現在の人間であっても難問ですが。 • もし、ポスト・ヒューマンがポスト化しない人間の味方でなかったらどう なるのでしょうか？ – ポスト化しない人間は同じ人類とは見なさず、家畜のように見なすかもし れません – このような事態をカーツワイルは明記していないのです！
- 25. ポスト･ヒューマン同士の覇権抗争 • 強いＡＩを搭載したポスト･ヒューマンたちが国の支配階級についたとしても – 支配階級内での覇権抗争 – 国同士に競い合いや戦争 • などの争いはありえます。 • ポスト･ヒューマン同士の戦いは、ナノボットなど投入できる兵器が非常に強 力であるため、技術的に優れた側が短期間で勝利するだろうと予想します。 • 近代の戦争では負けた側が完全に抹殺されません。 – 戦争をしたのは一握りに支配階級であるとか – 敗戦国であっても個人個人には人類に貢献する可能性がある（基本的人権、あ るいは生存権）という考え方が確立してきているからです。 • だが、これはあくまでもポスト・ヒューマンが現代人の価値観を普遍なものと して引き継ぐという希望的観測の下での話であることを留意すべきです。 • 人工知能が支配者になったとき、人間と同じ価値観をもつというのは希望的 観測にすぎませんし、そうなる確率は低いのではないでしょうか。
- 26. まとめ • 以上、述べてきたようにシンギュラリティ以後の世界は想像 できないが、人間にとってはハッピーかどうかは疑問です。 • 強い人工知能やポスト・ヒューマンは非常に強力なので、少 数のモノによる支配体制になるのではないかなあと妄想し ます。 • 強い人工知能やポスト・ヒューマンが頂点に立つ社会構造 は、独裁的な支配者の専制政治に似ていますが、人間の独 裁者に比べてはるかの機能が上です。 • そのような世界で「その他大勢」のような状況に立たされる 人類がどうなるかを正確に予想した学者、ジャーナリストは まだいません。。。。。