人工知能学会合同研究会2017-汎用人工知能研究会(SIG-AGI)招待講演
•
6 likes•2,946 views
汎用人工知能（AGI)に関して流布している現実の虚実について、以下の項目について述べる。 （１）特化型AIを組み合わせてもAGIにはなれない （２）ブルックスの包摂アーキテクチャと脳科学の最新の情報を組み合わせたAGIのアーキテクチャ （３）単独の超知能 対 複数のAGI どちらが正しいか？ （４）AGIの倫理
Recommended
More Related Content
What's hot
What's hot (20)
Similar to 人工知能学会合同研究会2017-汎用人工知能研究会(SIG-AGI)招待講演
Similar to 人工知能学会合同研究会2017-汎用人工知能研究会(SIG-AGI)招待講演 (9)
More from Hiroshi Nakagawa
More from Hiroshi Nakagawa (20)
Recently uploaded
Recently uploaded (8)
人工知能学会合同研究会2017-汎用人工知能研究会(SIG-AGI)招待講演
- 2. 主な参考書 • R.カーツワイル：ポスト･ヒューマン誕生 ，NHK出版,2005 • J.バラット：人工知能 人類最後にして最悪の発明, ダイヤモンド社, 2013 • J.マルコフ: 人工知能は敵か味方か, 日経BP社,2015 • T.H.ダベンポート, J.カービー:AI時代の勝者と敗者,日経BP社,2016 • Nick Bostrom: Superintelligence, Oxford University Press. 2014 • マーティン・フォード: ロボットの脅威,日本経済新聞出版社, 2015 • Brooks, R.A., Intelligence without representation, Artificial Intelligence, Vol.47, 1991,139–159. • 本スライドの図はPowerPoint2016のWebのCreative Commonsのイ メージをダウンロードしたものです。
- 4. 目的特化型AI vs 汎用目的AI – 目的特化型AI AlphaGO – 汎用目的AIを汎用AIと混同する人多し ？？？ どの目的特化型AIがよいか を決めるAI AI
- 5. 汎用目的AIの別目的への適用困難さ 目的特化AIを選択するAI 解きたい問題 AI AIAI 失敗したら、結果を 活用 適応学習 に一番近いのは だから この特化型AIをちょっとモジって 使ってみよう 数が多いし、似たような特化AIも多い。 しかも構造も複雑。
- 6. 汎用目的AIの別目的への適用困難さ • 目的特化AIの構造が複雑かつ学習型になると、結果の評 価、特化型AIにおいてその入力パラメタと動作原理との対 応も分かりにくくなり、闇雲に試すようなことになってしまう • 環境とAI内部構造という2種類のパラメタ空間を動き回って 最適解を探す • やっと汎用目的AI でもまだ汎用AI（AGI)じゃない。 特化型AIの有機的組み合わせ 自分自身を変更しない
- 7. • 汎用目的AIと汎用AI(AGI)は違う概念 • AGI (Artificial General Intelligence) ＝汎用AI – 状況対応性 – 新しく目的特化型AIを構築できる能力 • SI (Super intelligence) = 超知能 (Nick Bostrom) AGI自身が自分より高い能力を持つAGIを設計構築 AGI能力の指数爆発 単一の SI へ速やかに 収束 一神教的アイデアかも。 AI脅威論
- 9. 人工知能のアーキテクチャ • AIの歴史60年を通じて、多くのAIのアーキテ クチャが提案されてきた。 • 以下では、ロボティックスに関連した有力な アーキテクチャであるRod. Brooksの Subsumption Architecture（包摂アーキテク チャ）を紹介する。
- 10. Subsumption Architecture: Rod Brooks 外界＝多様な情報源 できるだけこのモジュー ル内で意識と反応 できるだけこのモジュー ル内で意識と反応 第1層 できるだけこのモジュー ル内での意識と反応 できるだけこのモジュー ル内での意識と反応 第N層 第2層 各モジュールは、下から入る情報にモジュール内で対応して下に何か を出力。ただし、モジュール内で対応しきれない場合は、上位モジュー ルに情報を上げる。
- 11. Subsumption Architecture: Rod Brooks 外界＝多様な情報源 できるだけこのモジュー ル内で意識と反応 第1層 できるだけこのモジュー ル内での意識と反応 できるだけこのモジュー ル内での意識と反応 第N層 第2層 各モジュールは、下から入る情報にモジュール内で対応して下に何か を出力。ただし、モジュール内で対応しきれない場合は、上位モジュー ルに情報を上げる。
- 12. Subsumption Architecture: Rod Brooks 外界＝多様な情報源 できるだけこのモジュー ル内で意識と反応 できるだけこのモジュー ル内で意識と反応 第1層 できるだけこのモジュー ル内での意識と反応 第N層 第2層 各モジュールは、下から入る情報にモジュール内で対応して下に何か を出力。ただし、モジュール内で対応しきれない場合は、上位モジュー ルに情報を上げる。
- 13. Subsumption Architecture: Rod Brooks 外界＝多様な情報源 できるだけこのモジュー ル内で意識と反応 第1層 できるだけこのモジュー ル内での意識と反応 第N層 第2層
- 14. Subsumption Architecture: Rod Brooks 外界＝多様な情報源 できるだけこのモジュー ル内で意識と反応 第1層 できるだけこのモジュー ル内での意識と反応 第N層 第2層 このようにモジュール毎にエ ネルギーレベルが上昇して、 その部分が強調されるのが 意識というものかもしれない それがクオリアか？？ しかし、エネルギーレベルの 高いモジュールが移動する仕 掛けはモジュール内だけにあ ることになってしまう
- 15. Subsumption Architecture: Rod Brooks 外界＝多様な情報源 できるだけこのモジュー ル内で意識と反応 できるだけこのモジュー ル内で意識と反応 第1層 できるだけこのモジュー ル内での意識と反応 できるだけこのモジュー ル内での意識と反応 第N層 第2層 これらの層 を俯瞰 ＝メタ意識 ＝自意識 全体を俯瞰して各モジュールのエネ ルギーレベルをダイナミックに調整 できるか？ そのような特殊なモジュールを作れ るか？
- 17. 哲学的問題としての自意識 朝起きたときの自分はなぜ昨日の自分と同じ なのか？という自己同一性認識の問題 – 記憶が同じだから？ でも、自分の記憶を完全に コピーしたロボットを作ったら、それは自分でしょ うか？ – 継続した自分ではない。ですから、少なくとも自己 同一性の意識は切断されています。
- 19. Subsumption Architecture: Rod Brooks 外界＝多様な情報源 できるだけこのモジュー ル内で意識と反応 できるだけこのモジュー ル内で意識と反応 第1層 できるだけこのモジュー ル内での意識と反応 できるだけこのモジュー ル内での意識と反応 第N層 第2層 これらの層 を俯瞰 ＝メタ意識 ＝自意識 最近の脳科学の研究によれば、以下のようなこれら のモジュール全体をカバー、すなわち俯瞰する神経系 が存在し、意識の存在を物理的に支えるらしい。
- 20. • 3次元の脳の中をどの ようなネットワークでつ なぐのかよいかは設計 困難 – 通信コストの最適化 – 消費エネルギーの最適 化….. • 縦横にニューロンが交 差した２次元のシートな ら自由度が低く設計し やすい。
- 21. V.J.Wedeen, et.al.: The Geometric Structure of the Brain Fiber Pathways, Science (335), 1628-1634,2012 より 脳をこのシートで大域的に覆えると、長距離の信号伝搬可能 下図参照
- 22. 距離<30mmのコ ネクション 全体の80％ 30mm<距離<90mm のコネクション 全体の17％ 90mm<距離 のコネクション 全体の2％ 頻度 M.P. van den Heuvel et.al.: High-cost high-capacity backbone for global brain communication, PNAS (109), 11372-11377, 2012 より ニューロンの接続は大部分が近距離だが、まれに90mm以上 の全脳にまたがるくらいの長距離接続のニューロンあり
- 23. • 脳の全域の渡る3個のニューロンが存在し、そ のうち1個が全脳を覆う。さらに前障から感覚 器まで伸びているニューロンもある。それらが 「意識」を作り出す。 • マウスの脳をwrapするニューロンのディジタル再構成図 • Sara Reardon: Giant neuron encircles entire brain of a mouse, Nature(543), 14-15, 2017
- 24. 関連脳科学論文 • I. J. Deary, et.al: The neuroscience of human intelligence differences, NeuroscieNce(11), 2010 • M.P. van den Heuvel et.al.: High-cost high- capacity backbone for global brain communication, PNAS (109), 11372-11377, 2012 • V.J.Wedeen, et.al.: The Geometric Structure of the Brain Fiber Pathways, Science (335), 1628- 1634,2012 • Sara Reardon: Giant neuron encircles entire brain of a mouse, Nature(543), 14-15, 2017
- 25. 長距離接続したニューロンと自意識 • 以上で述べたような脳の全域の及ぶような長 距離接続がある Subsumption architecture のモジュールを俯 瞰するようなニューロンの活動が可能 各モジュールを活動度を観測＝自意識 焦点の当たるモジュールの推移＝自意識の焦点 の推移 この問題はしばらく後で扱います
- 26. 長距離接続したニューロンと自意識 • 自意識は長距離接続ニューロンの生理的（物理 的）状態と考える • 自意識の神秘性は消える。 • 眠りから覚めたときの瞬時の自意識回復も長距 離接続ニューロンの生理的状態だから当然 • つまり生命体としての活動連続性に意識、自意 識が依存する – 脳の内部状態を完全コピーすれば自分が再現でき、 不死になるとは言えない コピーは別人
- 28. 意識と存在目的 • 意識と存在目的の関係はまだ不明 • 存在目的の在り方 – 可能性１：最上位モジュールに目的関数として埋 め込み実現 – 可能性２：脳全域にわたる監視機能＝長距離 ニューロン – （しょっちゅう意識が向かう）モジュールが存在目 的に対応する意識を持つ
- 30. 意識、自意識、存在目的 – 意識を持つ ＝ 現在の自分の状態を知る – 自意識を持つ＝ 現在の自分の意識を知る – 自己目的を持つ ＝ AI自体の生存 自己改造、自己複製を生産（人間に殺されないように 種 を保存） AI自体が倫理観を持てるか？まったく不明（Nick Bostrom) むしろ、人間と同じアーキテクチャの人工生命体としてAIを 設計するほうがよい（全脳アーキテクチャ）
- 31. 疑問が沸々と…. • あまりに擬人化AGI過ぎないか？ • 徹底すれば井上先生のクオリアと意識の関係を 意識せざるをえない – 井上智洋：「人工超知能」 -生命と機械の間にあるも の- 秀和システム, 2017/7/26 • 擬人化AGIは本当か？人間以外の知的生命体 • AGIのクオリアは全く違うかも知れない • 人間に理解できない
- 32. 意志とは「生存本能」から派生する。 – 生存本能には「個体の保存」と「種の保存」の2種類 あり AIが種の保存を持った時が厄介 • Human2.0 (Ray Kurzweil) 個体保存的 AIが意志を持つ
- 33. AI脅威論 • 個体保存本能 種の保存 • 種の保存 個体保存が必要: 利己的な遺伝子 • AIが本当に脅威になるのはAIという種の保存本能 を持ち始めたとき – なぜなら種の保存のために無限増殖し（既存の生物と 同じ）、資源（含む人類）を食い尽くすかもしれないから – Nick Bostromは、暗にこの過程をおいている。 – ただし、AIはその進化速度の早さ故に1種のAIが全てを 支配するというロジック。そのAIがSuperintelligence。
- 34. 複数種のAIたち – 唯一のSIが形成されるというロジックにはいろいろな 矛盾があり、鵜呑みにできない 多数のAIの分立 のほうが自然ではないか。 宇宙を唯一のSIが制覇する – 光の速度でも通信に何万年もかかる距離にいるAI が一個のSIで支配されるのは物理的におかしい（稲 葉振一郎）
- 35. 複数種のAIたち – 唯一のSIが形成されるというロジックにはいろいろな 矛盾があり、鵜呑みにできない 多数のAIの分立 のほうが自然ではないか。 A) 1個のAIが生き残りのために複製を作る。 • 複数のAIが異なる環境に適応して独自に進化を始 める。 • 潜在能力は類似しているが、得意とする環境が違う ので、方向性の異なるAIがたくさんできてくる • 各AIは類似のAIがいることを知っているので、相当 に用心深い
- 36. 複数種のAIたち B) 国毎に異なるAI,SIができてくる – AIは国家間の競争分野なので独自開発を極秘に行う （とくに軍事分野） – AIが自分より賢いAIを設計する指数爆発が起きると、そ の国の価値観を反映するように知能が指数爆発したAGI が出来る – 国毎に違うAGI 違う知的環境（情報環境）で生長した AGIたちが戦うと、相手AIの環境でも勝てるという保証が できるか？
- 37. 複数種のAIたち C) ある分野でトップになったAGIが他の分野のトップ AIに勝って制覇 – 相手の分野でも勝てなければいけない すぐには勝て ない • A)、B)、C)のケースだと、相手方のことを学んでいる とき、相手方も同様にこちら側のことを学んでいる。 さらに、それを眺めている第3者AIもいる。 • この段階で人間も介入する。 – 負けたときに、敗戦側AIについている人間は被害が大き すぎるから
- 38. 複数種のAIたち • こんな状況だと、ある種の人間集団にサポート されたAGIたちの群雄割拠状態 • AGIが自律性や意識、意志を持ったとしても、群 雄割拠状態になると、競争的共存というある種 の膠着状態になるかもしれない。 • あるいは、殲滅されたAGIたちの悲惨さを見て、 共存したほうがAGIにとっては有益というAGI倫 理を編み出すかもしれない
- 39. 複数種のAIたち • AGIたちが編み出したAGI倫理は人間の倫理と同一とは限ら ない。 • AGIと人間が倫理の摺り合わせをするような状態になるかもし れない。 – 今までは、人間たち（国家間、組織間）が倫理を摺り合わせてきた。 • だが、この摺り合わせにAGIたちも加わるとなると複雑な知的 生命体社会の構造になるような予感 ゲーム理論的切り口でAGIと人間の競争共存関係を議論する天才 が必要ではないか
- 40. 一神教 vs 多神教 善悪の個数 人格神 真理 １ビット 一神教 絶対的科学 仏教 善悪のディ ジタルな2値 Nビット 多神教 オリンポスの神々 八百万の神 現代科学 相対的科学 善から悪ま で連続値
- 41. 一神教的AI vs 多神教的AI 善悪の個数 人格神 真理 １ビット 唯一の超知能 数学的真理 善悪のディ ジタルな2値 Nビット 多数の特化型AI 複数のAGI 善から悪ま で連続値
- 42. AIの倫理観 • Dignum（IJCAI 2017)に倫理観の分類がある。 – Virginia Dignum：Responsible Autonomy, Proceedings of IJCAI-17,4698-4704, 2017 1. 功利主義：結果の最適化 2. 義務論的：既存の倫理ルールに依拠 3. 美徳論的：美徳のあるエージェントがルールを決 める
- 43. AIの倫理観 1. 美徳論的：美徳のあるエージェントがルールを 決める エージェント＝神か 唯一の超知能に相当するAIか 一神教的な倫理
- 45. AIの倫理観 1. 功利主義：結果の最適化 複数にAIが結果を比較することで生まれてくる 2. 義務論的：既存の倫理ルールに依拠 複数にAIが結果を比較することで生まれてくる 多神教（神の数＝2N ） かつ 人格的ではない真理 という形で複数AIの倫理が生まれるかも
- 46. 弱そうに見えるAIの脅威 • 今まで強いAIの脅威の話をしてきましたが、 実は弱い（弱そうに見える）AIも十分に脅威 • 弱そうに見えるAIも多数が共謀して悪さをす るかもしれません。 – 弱いAIたちが共通の言語を持てば、共謀が可能 – しかも、人間は気づかないかもしれない – フラッシュクラッシュ