社会情報学会社員総会シンポジウム(2018.6.9，於: 東京大学)の趣旨説明発表資料

1. 社会情報学会社員総会シンポジウム(2018.6.9)
ビッグデータ型AI時代の“人間”のありかた
―ネオ・サイバネティクスとICT ―
 プログラム(15:00〜18:00)
 司会：西垣通(東京経済大学)
 15:00〜15:10 【企画趣旨説明】河島茂生(青山学院女子短期大学，理化学研究所AIPセンター)
 15:10〜16:30 【報告】(各報告20分間)
西垣通(東京経済大学・基礎情報学)
原島大輔(東京大学・表象文化論)
河島茂生(青山学院女子短期大学，理化学研究所AIPセンター・情報倫理)
渡邊淳司(NTT コミュニケーション科学基礎研究所・触覚／ウェルビーイング)
 16:30〜16:45 【休憩】
 16:45〜18:00 【コメントおよびパネル・ディスカッション】
伊藤守(早稲田大学)，砂田薫(国際大学)＋各報告者
0

2. 【企画趣旨説明】
ビッグデータ型AI時代の
“人間”のありかた
ネオ・サイバネティクスとICT
1
河島茂生(青山学院女子短期大学，理化学研究所AIPセンター)

3. AIの第3次ブーム
2
0
500
1000
1500
2000
2500
『読売新聞』 『朝日新聞』 『日本経済新聞』
ネオコグニトロン
誤差逆伝播法
第五世代コンピュータ
人工知能学会発足
日経平均上昇
エキスパート・システム隆盛
Deep Blue勝利
AIBO発売
『A.I.』
『アイ，ロボット』
失われた20年
PC，インターネット，ケータイ普及
ディープラーニング
Watson勝利
将棋で勝利
囲碁で勝利
第1次ブーム 第2次ブーム 第3次ブーム
ダートマス会議
「もはや戦後ではない」
パーセプトロン
家電「三種の神器」
『2001年宇宙の旅』
『鉄腕アトム』(アニメ)
SHRDLU
人工知能の限界の指摘
Ｃ
記事数
年
LISP
論理的推論 論理的推論＋知識 論理的推論＋知識＋統計
図1 人工知能に関する新聞記事の推移

4. 人工知能関連のガイドライン・報告書・提言
 AIネットワーク推進会議「AI開発ガイドライン」(仮称)
 人工知能学会「人工知能学会 倫理指針」
 The IEEE Standards Association “Ethically Aligned Design”
 FLI“ASILOMAR AI PRINCIPLES”
 The White House “Preparing for the Future of Artificial Intelligence”
 House of Commons Science and Technology Committee “Robotics and artificial
intelligence”
 European Parliament “Report with recommendations to the Commission on
Civil Law Rules on Robotics”
 IEEE “Ethically Aligned Design”
 Stanford University AI100 “ARTIFICIAL INTELLIGENCE AND LIFE IN 2030”
・・・・・・・・・・・
3
AI時代においても人間の尊厳を守り，人間と機械との協調
が求められている。

5. AIの思想(1):古来より続く機械的生命・頭脳への欲望
 (ギリシャ神話)鍛冶と火の神ヘパイストスは自動人形タロースを制作
 (ギリシャ神話)ピグマリオンは自分で彫った女性の彫刻に恋をして神に頼んで生命を吹き込ん
でもらう
 (ユダヤ民俗)粘土や木で作られ，文字によって生命を与えられた人形ゴーレム
 メアリー・シェリーの小説『フランケンシュタイン』(1818)に出てくる怪物
 カレル・チャペックの『R.U.R』(1920)では人工の原形質から人造人間ロボットが制作
 コンピュータの理論モデル(万能チューリングマシン，ノイマン型コンピュータ)は，人間のあ
らゆる論理的思考を0/1のパターン変換に落とし込んだものであり，その意味ではコンピュー
タは元来，人間の知能を機械的に表現したものと捉えられる(西垣，1991)。
4
図2 カレル・チャペック 図3 チューリング・マシン

6. AIの思想(2):サイバネティクス的なものの見方(1)
 サイバネティクス
 物質・エネルギー／情報
サイバネティクスの父ノバート・ウィナーは「情報」的な見方によって機械は「ゴーレムの近代的
化身」(Wiener, 1964=1965:101)となったという。
 フィードバック機構
サイバネティクスの草創期に活躍したロス・アシュビーは，撹乱されても平衡状態を保つ装置ホ
メオスタットを開発し，その4つの箱などからなる機械を「生きている」と表現し，目標値との差
分をなくすメカニズムを「思考」と呼んだ(Rid, 2016=2017)。
人間のニューロンの論理的モデル化(McCulloch & Pitts, 1943)
実際のニューロンでなくても，ニューロンが行っている計算が実行できればよい。入力に重みづ
けを行い，最終的な出力が予期されたものであれば，その人工ニューロンは立派に考えている。
5
人間と機械との同質性(注1)
図4 ホメオスタット 図5 人工ニューロン

7. AIの思想(2):サイバネティクス的なものの見方(2)
 マインド・アップロード
 「情報」的見方に立てば，人間をソフトウェアに見立てて，ビームによって遠隔地に飛ばすこと
もできるであろうし，また古くなったハードウェアである身体を捨てて人間を新しいハードウェ
アのうえに移植することも可能である。いまのコンピュータがソフトウェアやデータをコピーし
て別のコンピュータに簡単に乗り換えることができるように，本質は情報処理のパターンであっ
て，身体やハードウェアではない。
 「国から国へ電信を送るのに使えるような型の伝送方式と，例えば人間のような生物を伝送する
のに少なくとも理論的には可能な型の伝送方式との間には，根本的な絶対的差異は存在しない」
(Wiener, 1954=1979: 107)
 「一つのコンピューター・プログラムとして，あなたの心は情報通信路を経由して旅行できる。
たとえばレーザー情報ビームに符号化すれば，惑星間の移動もできる」(Moravec, 1988=1991:
165)
6
図6 マインド・アップロードの一般的イメージ
マインド
コンピュータ・システム

8. AIの思想(2):サイバネティクス的なものの見方(3)
 人間を超える超知性
 レイ・カーツワイルのいうシンギュラリティ(技術的特異点)
 人間の頭脳とCPUの働きを等値し，その処理速度からCPUが人間の知能を上回ることを説いて
いる。人間も，CPUと同じように情報処理をしているにすぎない。人間の身体とコンピュー
タのハードウェアとの差は取るに足りない。違いがあるとすれば，人間は生物学的な条件に
縛られているけれども，コンピュータの情報処理速度は指数関数的な伸びを示していること
である。
 ニック・ボストロムのいうスーパーインテリジェンス
 ボストロムは，人間とコンピュータを同一線上に位置づけ，人間の頭脳をコンピュータが上
回る超知能の出現を予言している(Bostrom, 2014=2017)。
 「脳のニューロンの演算速度は，瞬間ピーク速度で約200ヘルツであり，これは最近のマイク
ロプロセッサ(〜2ギガヘルツ)の演算速度より7桁も遅い」(Bostrom, 2014: 59=2017: 130)
 「生体ニューロンは信頼性の面でトランジスタより劣る」(Bostrom, 2014: 60=2017: 131)
 人間の知能と同等のAIができれば，そのAIは自己改造を進め，知能爆発が生じる。
7
(注2)

9. AIの思想(2):サイバネティクス的なものの見方(4)
 ノバート・ウィナーの迷い
 人間と機械との共通性をフィードバック機構にみながらも，人間の頭脳労働の価値が
下がることに懸念を抱き，人間の人間的な利用を訴えている(Wiener, 1954=1979)。
 晩年の著書『科学と神』(Wiener, 1964=1965)では，寓話を交えて融通のきかない自動
機械の恐ろしさを説いた。
 ゲーテの詩『魔法使いの弟子』
 魔力を吹き込んだ，猿の手
8
(権力欲にとりつかれたやからの支配によって)人間は，或る高級な神経系をもつ有機体と
いわれるものの行動器官のレベルに引き下げられてしまった。私は本書を，人間のこのよ
うな非人間的利用(inhuman use of human being)に対する抗議に捧げたいのである。(中略)
人間の機械化は彼らの野望を実現する一つのかんたんな道である。思うに，権力へのこう
いう容易な道は，実は，人類にとって道徳的価値があると私が考える一切のものの廃棄で
あるばかりでなく，人類の今後かなり長期にわたる存続のための今やはなはだ細くなった
道の廃棄をも意味する (Wiener, 1954=1979: 23-24)
人間と機械との差異

10. ネオ・サイバネティクスの理論(1)
 オートポイエーシス理論
 セカンド・オーダー・サイバネティクス(ネオ・サイバネティクス)の枢要な一角を占める。
 ウンベルト・マトゥラーナとフランシスコ・ヴァレラによるオートポイエーシス論は，生物もマ
シンと捉えるが，それは機械とは別種のマシンであり，自分で自分を作っていく性質が生物の特
徴であることを理論化した(Maturana & Varela, 1980=1991)
 オートポイエーシス理論を踏まえると，AIやロボットはまだ生物の条件を兼ね備えていない。とい
うのも，人間がデータを大量に収集したり機械学習のソフトウェアを作り精度を確認して調整し
たり，あるいは多額の資金を投じて最先端のハードウェアを用意しているからである(河島,
2016)。
 素朴実在論への批判(Winograd & Flores, 1986=1989)
9
入力 出力
観察者
作動のネットワーク
構成素
観察者
図7 オートポイエティック・システム 図8 アロポイエティック・システム

11. ネオ・サイバネティクスの理論(2)
 基礎情報学の階層的自律コミュニケーション・システム(HACS)
基礎情報学の独自性がもっとも顕著な点である。従来のオートポイエーシス論は階層性を否定してい
た。西垣通が指摘する階層性の条件は下記である。
(1)システムAに内属する観察者の視角から見て，システムAがオートポイエティック・システムとして
出現するのに対し，システムBはアロポイエティック・システムとして立ち現れる。
(2)システムBに内属する観察者の視角から見て，システムBがオートポイエティック・システムとして
出現するのに対し，システムAは非明示的存在にとどまりアロポイエティック・システムとして出現し
ない。
10
(西垣, 2003)システムA
システムB
観察者
観察者
図9 階層的自律コミュニケーション・システム

12. 注
 (注1)生物と機械の同一視は，「情報」という語がかなりいい加減に使われていることにも係っている。
「エネルギー・物質」とは違ったものという共通項はあるものの，クロード・シャノンのように工学的
応用のために確率論的な定義を行い意味を捨象した概念から，生物の生存に本質的に係る価値といった
ものまで区別されずに「情報」という一語でまとめられてしまっている。それゆえ機械も生物も情報変
換体として一括りにまとめることが可能になるのである。
 (注2)このほかの有名なシンギュラリティ論者としては，デイヴィッド・チャーマーズが挙げられる。
チャーマーズは，「人間と同等の知能をもつAIが誕生すること」「そのAIが人間の頭脳を上回るAI(AI＋)
を作ること」「AI＋は人間の頭脳をはるかに凌ぐAI++を作り出すこと」の3点を検討し，シンギュラリ
ティは馬鹿げた夢想ではないとしている(Chalmers, 2010)。1以上の数を掛け合わせると必ず数字が大き
くなっていく論理と同様の論法が使われている。
11

13. 参考文献
 Bostrom, Nick, Superintelligence : Paths, Dangers, Strategies, Oxford University Press, 2014. 倉骨彰（訳）『スーパーイ
ンテリジェンス：超絶AIと人類の命運』日本経済新聞出版社，2017年。
 Chalmers, David,“The Singularity: A Philosophical Analysis”in Journal of Consciousness Studies, Vol.17, No.9-10, 2010, 7-
65.
 河島茂生「ネオ・サイバネティクスの理論に依拠した人工知能の倫理的問題の基礎づけ」『社会情報学』5巻2号, pp.53-
69， 2016年。
 Maturana, Humberto R., Varela, Francisco J., Autopoiesis and Cognition : the Realization of the Living, D.Reidel
Publishing Company, 1980. 河本英夫（訳）『オートポイエーシス : 生命システムとはなにか』国文社，1991年。
 McCulloch, Warren and Pitts, Walter,“A Logical Calculus of the Ideas Immanent in Nervous Activity”in The Bulletin of
Mathematical Biophysics, Vol.5, No.4, 115-133, 1943年。
 Moravec, Hans P. Mind Children, Harvard University Press, 1988. 野崎昭弘（訳）『電脳生物たち：超AIによる文明の乗っ
取り』岩波書店，1991年。
 西垣通『デジタル・ナルシス : 情報科学パイオニアたちの欲望』岩波書店，1991年。
 西垣通「オートポイエーシスにもとづく基礎情報学」『思想』岩波書店, No.951, pp.5-22, 2003年。
 Rid, Thomas, Rise of the Machines : a Cybernetic History, W.W. Norton, 2016. 松浦俊輔（訳）『サイバネティクス全史 :
人類は思考するマシンに何を夢見たのか』作品社，2017年。
 Wiener, Norbert, God and Golem, inc. : a Comment on Certain Points Where Cybernetics Impinges on Religion, M.I.T.
Press, 1964. 鎮目恭夫（訳）『科学と神 : サイバネテイックスと宗教』みすず書房，1965年。
 Wiener, Norbert, The Human Use of Human Beings : Cybernetics and Society, Doubleday, 1954. 鎮目恭夫＝池原止戈夫
（訳）『人間機械論 : 人間の人間的な利用〔第2版〕』みすず書房，1979年。
 Winograd, Terry, and Flores, Fernando, Understanding Computers and Cognition : A New Foundation for Design, Ablex
Publishing Corporation, 1986. 平賀譲(訳)『コンピュータと認知を理解する : 人工知能の限界と新しい設計理念』産業図
書，1989年。
12

14. 図の参照元
 図2
public domain https://commons.wikimedia.org/wiki/File:Karel_%C4%8Capek.jpg 2018.5.19アクセス
 図3
public domain https://es.wikipedia.org/wiki/Archivo:Turing_Machine.png 2018.5.19アクセス
 図4
copyright: W. Ross Ashby http://blogs.bl.uk/science/2016/04/the-thinking-machine.html 2018.5.19
アクセス
 図5
copyright: Kiyoshi Kawaguchi http://wwwold.ece.utep.edu/research/webfuzzy/docs/kk-thesis/kk-
thesis-html/node12.html 2018.5.19アクセス
 図6
Brain icon is made by Design Science (CC BY 3.0)
https://www.iconfinder.com/icons/1609651/brain_organs_icon 2018.5.19アクセス
Computer system icon is made by First Styles (CC BY 3.0)
https://www.iconfinder.com/icons/2135789/earth_language_planet_icon 2018.5.19アクセス
13