ディープラーニングにみられるAi技術の進歩とそれがもたらす未来r1

COPYRIGHT MiraiTranslate, Inc. 2017
ディープラーニングにみられるAI技術の進歩と，それがもたらす未来
1
栄藤稔（えとうみのる）
⼤阪⼤学先導的学際研究機構教授
⾃称，関⻄企業のデジタル変⾰担当
株式会社みらい翻訳社⻑
科学技術振興機構 CREST ⼈⼯知能領域研究総括
1/9, 2018
関⻄経済同友会での講演
本書に記載の会社名・製品名・ロゴは各社の商標または登録商標です

AI第1次ブーム〜探索・推論の時代
19561960年代
AI第2次ブーム〜知識表現の時代
1980-1990年代
現在〜機械学習＋ビッグデータの時代
2010年代
冬の時代
Deep Learning
の登場（2006)
⽇本の
第５世代コンピュータプロジェクト
IBMワトソンがクイズ番組で優勝（2011）
Google AlphaGoが
囲碁最強とされる名⼈に勝利（2016）
コンピュータの顔画像認識能⼒が
⼈間を凌駕（2015）
AIという⾔葉の出現(1956)
ビッグデータという
⾔葉の出現（2010) 産業応⽤が活性化
2
⼈⼯知能，AI(Artificial Intelligence)

3
当たれば７倍，
外れれば０倍
機械学習とは？
２から１２の数字を
ランダムに出す箱

4
２から１２の数字を
ランダムに出す箱
機械は「７」だけに
賭けだした．
機械が試⾏錯誤を重ねるうちに．．

箱から出てくる数を計測してみると．．．
5
http://mathinsight.org/image/two_dice_distribution
儲かる
儲からない

6
箱の中身はサイコロ２つからできていました．

10
https://beamandrew.github.io/deeplearning/2017/02/23/deep_learning_101_part1.html
機械学習だけに焦点をあてるとこうなる

11
古典的なパターン認識手法
特徴抽出
特徴ベクトル
識別（分類）
識別結果

11
古典的なパターン認識手法
特徴抽出
特徴ベクトル
識別（分類）
識別結果
これを同時に最適化するものが深層学習(DNN)

12
https://www.strong.io/blog/deep-neural-networks-go-to-the-movies
https://www.strong.io/blog-images/movie-posters/Slide6.png
階層を深くすれば認識率が上がる→データが必要．

COPYRIGHT MiraiTranslate, Inc. 2017https://www.youtube.com/watch?v=J1NL246P9Vg 13

https://www.youtube.com/watch?v=w7NgejZMSsA 14

COPYRIGHT MiraiTranslate, Inc. 2017https://www.youtube.com/watch?v=8iUtEqoB4Ks 15

COPYRIGHT MiraiTranslate, Inc. 2017 16
https://demos.algorithmia.com/colorize-photos/
Photo Colorization

機械翻訳の最近の劇的変化
17

Language is a means of communication. ⾔語はコミュニケーションの道具である．
意味
抽象化された⾔葉
⾔葉
表象的な⾔葉区切りの対応関係
抽象化された⽂章の対応
状況による⽂意
（前後の⽂脈，
置かれて居る状況
五感）
単語分割単語列⽣成
抽象化具象化
概念理解意味⽣成
概念
翻訳ピラミッド（栄藤バージョン）
Vauquois Triangleを今⾵に栄藤が解釈

意味
⾔葉
表象的な⾔葉区切りの対応関係
五感）
単語分割単語列⽣成
抽象化具象化
概念
第２世代統計機械翻訳の理解
⽂章を語句に区切って，
最適化した並び替えをする．

I saw her in the screen
SMT：フレーズ単位で翻訳の並び替え

翻訳モデル：
フレーズ単位の置換

私はを⾒た?
私がを理解した?
翻訳モデル：

私はを⾒た?
を⾒た彼⼥？
⾒た彼⼥の？
翻訳モデル：

私はを⾒た?
を⾒た彼⼥？
⾒た彼⼥の？
でそのスクリーン?
にその映画?
翻訳モデル：

私はを⾒た彼⼥にその映画
私はを⾒た?
を⾒た彼⼥？
⾒た彼⼥の？
にその映画?
翻訳モデル：

私はを⾒た?
を⾒た彼⼥？
⾒た彼⼥の？
にその映画?
翻訳モデル：
並び替えモデル：
⾃然な⽂に近づくよ
う並び替え

私は彼⼥その映画にを⾒た
私はを⾒た?
を⾒た彼⼥？
⾒た彼⼥の？
にその映画?
翻訳モデル：
並び替えモデル：
⾃然な⽂に近づくよ
う並び替え

+255
みらい
2015年
400点
※
※TOEIC問題集より300文抽出

COPYRIGHT MiraiTranslate, Inc. 2017 22http://lotus.kuee.kyoto-u.ac.jp/~nakazawa/ NLP2017-NMT-Tutorial.pdf
embedding
forward RNN
backward RNN
we propose a novel translationmethod
attention
decoder RNN
softmax
input
output
<EOS>
<EOS>
Attention-based Neural Machine Translation
46
[Bahdanau et al., 2014]

November 2016
Google Neural Machine Translation
Comercial Debut
これまで通信簿が５段階評価３だった
息子が４とか５を取ってくるように
なった衝撃と同じ．

⽇→英
1.00
2.00
3.00
4.00
5.00
SMT NMT 人手翻訳1 人手翻訳2
4.16
4.31334.3
3.207
3.73333.843.743
3.14
伝達レベル流暢さ
英→⽇
1.00
2.00
3.00
4.00
5.00
SMT NMT 人手翻訳1 人手翻訳2
4.144.2933
3.81
3.247
4.02334.01
3.413
2.973
伝達レベル流暢さ
・⼈⼿翻訳は⽇→英、英→⽇共にTOEIC900点以上の⽇本⼈が実施
・SMT に⽐べて NMT は伝達レベル、流暢さ共に⼤きく精度向上
・特に、⽇本⼈があまり得意ではない英訳については、TOEIC900点相当と同等レベル
（⼈⼿でも５点満点を取れているわけではない）
SMT と NMT の精度比較
• 分野：ビジネスコミュニケーション
• 評価者：３名（外部翻訳会社）
• 評価⽂：１００⽂
• 評価基準：伝達レベル（Adequacy）、流暢さ（Fluency）各５段階

意味
⾔葉
五感）
特徴抽出⽂章⽣成
抽象化具象化
概念
第３世代ニューラル機械翻訳の理解
⽂章をそのまま抽象化したベクトル表現
に置き換え，そこから単語列を⽣成する．

COPYRIGHT MiraiTranslate, Inc. 2017 26http://lotus.kuee.kyoto-u.ac.jp/~nakazawa/ NLP2017-NMT-Tutorial.pdf
Word Embedding
22
(local representation)
(distributed representation)
(0, …, 0, 0, 1, 0, 0, 0, …, 0)
(0.05, …, -0.32, 1.83, …, 0.49)
word2vec
GloVe
king - man + woman queen
Paris - France + Italy Rome
NMT embedding 1

⾼次元の数値特徴量で 
⽂意を表現
I
eat
apple
私はリンゴを⾷べる
0.1
-0.2
0.03
0.4
0.02
…
…
…
・・・
・・・
・・・
・・・
・・・
・・・
an
デコーダNN：
“⽂意”から訳⽂を⽣成
エンコーダNN:
原文から”文意”を計算
中間処理機能（脳内の神経回路の役⽬）より,
適切な単語を選択し、流暢さを向上させる。
NMT：ニューラルネット(NN)が⽂意を計算し訳⽂⽣成

NMTの特徴
Google すごい!

みなさん，訳せますか？
⻄郷さんが北薩摩の東郷村に来た時、住⺠が
くれた⽝が“ツン”という⽝である．

みらい翻訳も健闘しています．

http://menman.exblog.jp/20574017/

この店には英語の
メニューがあります．
This store has an English menu．
http://menman.exblog.jp/20574017/

http://www.ppfppf.com/blog/?p=4449
名古屋の街の中心でみつけた、駐車場の看板

http://www.ppfppf.com/blog/?p=4449
駐⾞しないで。
Don't park.
名古屋の街の中心でみつけた、駐車場の看板

http://www.ei-sta.com/wp/archives/2131

Don't feed pigeons.
ハトにエサを与えないでください。
http://www.ei-sta.com/wp/archives/2131

Enjoy a rich taste in a relaxing time.
by 英語を知ってる⼈

Enjoy the rich taste with relaxing time.
by みらい翻訳

by みらい翻訳
Enjoy the rich flavor with relaxation time.
by Google

http://www.machigai.com/wordpress/?p=1756
by みらい翻訳
Enjoy the rich flavor with relaxation time.
by Google
Relax and enjoy
the rich taste of Suntry “Kinmugi.”
by コピーライター

TOEIC900点以上の英作⽂能⼒

ニューラル機械翻訳エンジン - TOEIC900点レベルの英作文能力
統計的機械翻訳
vs
ニューラル機械翻訳
情報伝達⼒流暢さ
英語 → ⽇本語 16％ up! 17% up!
⽇本語 → 英語 16％ up! 32% up!

ニューラル機械翻訳エンジン - TOEIC900点レベルの英作文能力
⼈⼿翻訳
vs
ニューラル機械翻訳
総合精度⼈⼿処理時間
英語 → ⽇本語 -10% 平均 7時間
⽇本語 → 英語同等（+0.17%）平均 2.5時間

みらい翻訳のサイトから「お試し」できます．
37
https://miraitranslate.com/request-nmt/

–Mick Etoh
“モジュールの性能がある臨界点を超えた時，
それまでは不可能だと思われていた
サービスが急激に⽴ち上がる．”
38

Siri v.s. しゃべってコンシェル (YouTubeの投稿より）
39

GMM DNN
ログの量
⽂正解率⾳響モデルの種類：

41
http://events.technologyreview.com/video/watch/dileep-george-vicarious-ai-work/
Dileep George,2016
両⽣類
爬⾍類
齧⻭類
⿃類
霊⻑類
⼤脳⽪質
今のAIこのあたりだけど，TOEIC900点以上の英作⽂能⼒，双⼦も識別

http://redwing-don.jugem.jp/?eid=855
「ロウソクを壁にとりつけてください」
42
強いAIの定義

http://redwing-don.jugem.jp/?eid=855
「ロウソクを壁にとりつけてください」
記号接地（Symbol Grounding)問題
42
強いAIの定義

https://www.youtube.com/watch?v=lUV65sV8nu0
サリバン先⽣の前でヘレン・ケラーが⽔の概念を獲得した時
43

多くのメディアの⾒⽅技術者の⾒⽅
44
AIを正しく理解する

45
Society 5.0の理解
第５期科学技術基本計画にて定義された⾔葉: 狩猟社会（Society 1.0）、農耕社会
（Society 2.0）、⼯業社会（Society 3.0）、情報社会（Society 4.0）に続く、新たな
社会（超スマート社会）

45
ドメイン技術通信を伴うデジタル化
IoT = ICT + OT (Operational Technology)

45
IoT + AI ＝これまでコンピュータとは無縁だった産業の⾃
動化・⾃律最適化

45
IoT + AI ＝これまでコンピュータとは無縁だった産業の⾃
動化・⾃律最適化
Society 4.0はICT， Society 5.0はAIの時代．

46
何がここ数年のAIブームを作ったのか．
•Deep Learning を中⼼とした機械学習の進歩．
•⾮ICT 産業のICT化による”データ”の表出．

Bloomberg BETA(VC)によるトレンド分析資料・2016向けより抜粋
エージェント/アシスタント⾃動制御(ドローン、⾃動⾞、船、⼯場機器)
Security HR Marketing カスタマーセンター社内稼働管理市場分析
基盤機能提供(機械学習基盤、⾳声認識、画像認識・･･･)
広告農業
⼩売
財務管理
法務
医療
ヘルスケア
教育流通投資分析 AIサービス提供者向け各種ツール提供
社会問題材料/製造
※Pitchbook調査に
47
⽶国内AI関連事業の概況
AI関連といわれる企業数は
1100社以上※。
適⽤分野は対話/⾃動制御/ｾ
ｷｭﾘﾃｨ/･･･広告/医療/農業･
など多種多様。
⾮ICT分野のデジタル変⾰
が進⾏中

農作業・⾷品加⼯・配送の⾃動化
画像診断＆問診の⾃動化
（ロボット読影医＆内科医）
アダプティブラーニング
(ロボット家庭教師）
サイバーセキュリティーの⾃動化
⼈材獲得の⾃動化
（ロボットリクルーター）
エージェントによるサービス管理（列⾞・ホテル予約
ソフトウェア開発，業務モニタリング）
Amazon Picking ChallengeにおけるPFN
48
今後５年以内に起きるであろうインパクトのある変⾰

AIで今，起きようとしていること
• プラットフォーム⾰命（サイバー X 実空間の統合最適化）
• アマゾンの⼩売：ネットで注⽂（サイバー空間）ロボットで梱包，ドロー
ンで配送（実空間）．
• Uberの貨客混載物流：スマホで注⽂（サイバー空間），⾞で⽣鮮⾷品
も配送（実空間）
• （チョー⾮効率だった）農⽔産物の商流が劇的に変化する前兆がある．
• 定型業務の置換：医療・農作業・投資信託の⾃動化が進展
49

定型処理
⾮定型処理
頭脳労働作業労働
技術が補完
AIが代替 AIが駆逐
技術が⽀援
50

51
2017 ⾦融こう動いた（上）
メガ銀、改⾰は未知数  
⼈員減、退職頼み  
⽇経新聞 2017/12/26付

52
コンピュータに代替される職業：オックスフォード⼤学があと10年で「消える職業」「なくな
る仕事」702業種を判定
http://gendai.ismedia.jp/articles/-/40925
オックスフォード⼤学でAI(⼈⼯知能)などの研究を⾏うマイケル・A・オズボーン准教授は「⼈
間が⾏う仕事の約半分が機械に奪われる」と予測．
出典元
THE FUTURE OF EMPLOYMENT: HOW SUSCEPTIBLE ARE JOBS TO COMPUTERISATION?
http://www.futuretech.ox.ac.uk/sites/futuretech.ox.ac.uk/files/The_Future_of_Employment_OMS_Working_Paper_1.pdf
銀⾏の融資担当，ホテルの受付，レジ係など定型業務は⾃動化されていくという予想は妥当．そ
れは過去にもあった．電話交換⼿，⾺⾞の御者，改札駅員．
⾒えるインパクト
これまで置き換えられないと⾒られていた定型業務が機械に置換．
中間層を失業させるのではなく，AIを使いこなす中間層を育成．
今後１０年で起きるインパクト

AIで将来，起きそうなこと
社会システムの変⾰ (需要と供給の⾼度なネットワーク形成による効果）
•シェアリングエコノミーの進展（所有から共有へ）資本主義そのものが変化
•雇⽤のフリーランス化（AIにより動的再配置が可能）
•新交通システム，新物流システム（コンテナー2.0)の登場
•社会意思決定システムの変⾰直接⺠主制も可能に．
53
社会システムをデザイン＝設計する能⼒

54
System of Systemsの時代
http://www.bitkom.org/de/themen/74733.aspx
他にスマートグリッド，スマートシティなど
デジタル変⾰：業務の電⼦化という意味ではない．紙をコンピュータに置き換えるとい
う意味でもない．それは「世界はソフトウェアでできている」と信じ，情報技術(IT)に
より⾃社の業務を最適化するだけでなく，異なる新しい事業形態に転換することであ
る．後者は簡単ではないが，モノ売りからサービス売りへの転換や単⼀事業から複合的
なプラットフォーム事業への転換が例となる．
System of Systems:⾃律したサービスの複合体

54
System of Systemsの時代
http://www.bitkom.org/de/themen/74733.aspx
Industrie 4.0にみるSystem of Systems
他にスマートグリッド，スマートシティなど
デジタル変⾰：業務の電⼦化という意味ではない．紙をコンピュータに置き換えるとい
う意味でもない．それは「世界はソフトウェアでできている」と信じ，情報技術(IT)に
より⾃社の業務を最適化するだけでなく，異なる新しい事業形態に転換することであ
る．後者は簡単ではないが，モノ売りからサービス売りへの転換や単⼀事業から複合的
なプラットフォーム事業への転換が例となる．
System of Systems:⾃律したサービスの複合体

IoTとか⼈⼯知能とか
機械学習
ビッグデータ
55
ポエムを唱える前にデジタル変⾰が必要！

機械学習
ビッグデータ
ビジネス設計
センサー・ネットワーク技術
クラウド＆データベース技術
システムエンジニアリング
企業⽂化・組織改⾰
ICT⼈材育成・スタートアップ
55

機械学習
ビッグデータ
ビジネス設計
センサー・ネットワーク技術
クラウド＆データベース技術
システムエンジニアリング
企業⽂化・組織改⾰
ICT⼈材育成・スタートアップ
デジタル変⾰55

外と組む少⼈数チームを作る：発注なんてしない．
5656

袖机を無くす．デジタル化のために旧弊を断ち切る．
5757

AIとかIoTとかやってな
いとやばいと思う経営者
3周遅れの⾮IT企業
58
58
こんなギャップを埋めるキーワードは”クラウド”

• サーバリソース，データセンターは 
もはや⼤企業のものではない
• 誰でも安価にサービス開始出来る
• 最新の技術，最新のリソース， 
安⼼・安全，⾼い信頼性，などを 
『⼤きな投資』をしなくても得られる 
ようになった
• 貸しサーバなら昔からあるが・・・ 59
クラウドは市⺠⾰命

ようになった
• 貸しサーバなら昔からあるが・・・
• 単純労働が蒸気機関に奪われた 
ように，単純な判断，ルーチンワークは 
もはやMachineの仕事に．
• ⼈間はより複雑な仕事にシフト 
（ブルー・ホワイトカラー ⇒ ？） 
※ゴールド，メタル，グレーなど
• 機械学習は計算コストが歴史的な 
ボトルネックだった
，機械学習（ＡＩ）は産業⾰命
59

ようになった
• 貸しサーバなら昔からあるが・・・
• 単純労働が蒸気機関に奪われた 
ように，単純な判断，ルーチンワークは 
もはやMachineの仕事に．
• ⼈間はより複雑な仕事にシフト 
（ブルー・ホワイトカラー ⇒ ？） 
※ゴールド，メタル，グレーなど
• 機械学習は計算コストが歴史的な 
ボトルネックだった
，機械学習（ＡＩ）は産業⾰命
この２つを
同時に達成
させようと
している
59

まとめ
• ディープラーニング，強化学習を中⼼にAIの研究開発が進んでいく．各要素技術では，⽶
国と中国が圧倒的優位．各産業ドメインでAIを正しく使いこなす技術者は育成可能．これ
がAI+IoTの化学反応を⽣む．
• これからは，社会と⼈間との関係を考慮した社会システムのデザインが重要となる．⽇本
の勝機はここにしかないのでは？
• ある臨界点を超えた時，産業応⽤が急速に進む．⾳声認識，画像認識に続き，機械翻訳は
その臨界点を超えた．臨界点を超えた時，景⾊が⼀変する．
• AIは万能薬ではない．ただのデータに基づいた電⼦機械．やるべきことは，あなたの会社
のデジタル変⾰です．⼤阪⼤学は関⻄企業のデジタル変⾰を⽀援します．
60

ディープラーニングにみられるAi技術の進歩とそれがもたらす未来r1

Recommended

Recommended

More Related Content

What's hot

What's hot (19)

Similar to ディープラーニングにみられるAi技術の進歩とそれがもたらす未来r1

Similar to ディープラーニングにみられるAi技術の進歩とそれがもたらす未来r1 (20)

More from Osaka University

More from Osaka University (20)

Recently uploaded

Recently uploaded (16)

ディープラーニングにみられるAi技術の進歩とそれがもたらす未来r1