Submit Search
Upload
A Chainer MeetUp Talk
•
1 like
•
83,533 views
Yusuke Oda
Follow
Chainer MeetUp Talkで行ったライトニングトークです。
Read less
Read more
Engineering
Report
Share
Report
Share
1 of 8
Download now
Download to read offline
Recommended
Encoder-decoder 翻訳 (TISハンズオン資料)
Encoder-decoder 翻訳 (TISハンズオン資料)
Yusuke Oda
ChainerによるRNN翻訳モデルの実装+@
ChainerによるRNN翻訳モデルの実装+@
Yusuke Oda
Learning Phrase Representations using RNN Encoder-Decoder for Statistical Mac...
Learning Phrase Representations using RNN Encoder-Decoder for Statistical Mac...
Yuta Kikuchi
第3回アジア翻訳ワークショップの人手評価結果の分析
第3回アジア翻訳ワークショップの人手評価結果の分析
Toshiaki Nakazawa
ICML2013読み会 ELLA: An Efficient Lifelong Learning Algorithm
ICML2013読み会 ELLA: An Efficient Lifelong Learning Algorithm
Yuya Unno
Chainer Meetup LT (Alpaca)
Chainer Meetup LT (Alpaca)
Jun-ya Norimatsu
深層学習フレームワークChainerの特徴
深層学習フレームワークChainerの特徴
Yuya Unno
Jubatusのリアルタイム分散レコメンデーション@TokyoNLP#9
Jubatusのリアルタイム分散レコメンデーション@TokyoNLP#9
Yuya Unno
Recommended
Encoder-decoder 翻訳 (TISハンズオン資料)
Encoder-decoder 翻訳 (TISハンズオン資料)
Yusuke Oda
ChainerによるRNN翻訳モデルの実装+@
ChainerによるRNN翻訳モデルの実装+@
Yusuke Oda
Learning Phrase Representations using RNN Encoder-Decoder for Statistical Mac...
Learning Phrase Representations using RNN Encoder-Decoder for Statistical Mac...
Yuta Kikuchi
第3回アジア翻訳ワークショップの人手評価結果の分析
第3回アジア翻訳ワークショップの人手評価結果の分析
Toshiaki Nakazawa
ICML2013読み会 ELLA: An Efficient Lifelong Learning Algorithm
ICML2013読み会 ELLA: An Efficient Lifelong Learning Algorithm
Yuya Unno
Chainer Meetup LT (Alpaca)
Chainer Meetup LT (Alpaca)
Jun-ya Norimatsu
深層学習フレームワークChainerの特徴
深層学習フレームワークChainerの特徴
Yuya Unno
Jubatusのリアルタイム分散レコメンデーション@TokyoNLP#9
Jubatusのリアルタイム分散レコメンデーション@TokyoNLP#9
Yuya Unno
統計的係り受け解析入門
統計的係り受け解析入門
Yuya Unno
NIPS2013読み会: Distributed Representations of Words and Phrases and their Compo...
NIPS2013読み会: Distributed Representations of Words and Phrases and their Compo...
Yuya Unno
ACL Reading @NAIST: Fast and Robust Neural Network Joint Model for Statistica...
ACL Reading @NAIST: Fast and Robust Neural Network Joint Model for Statistica...
Yusuke Oda
最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情
Yuta Kikuchi
Chainerの使い方と自然言語処理への応用
Chainerの使い方と自然言語処理への応用
Yuya Unno
Tf勉強会(5)
Tf勉強会(5)
tak9029
Development and Experiment of Deep Learning with Caffe and maf
Development and Experiment of Deep Learning with Caffe and maf
Kenta Oono
深層学習による機械とのコミュニケーション
深層学習による機械とのコミュニケーション
Yuya Unno
Jubatusにおける大規模分散オンライン機械学習
Jubatusにおける大規模分散オンライン機械学習
Preferred Networks
PCFG構文解析法
PCFG構文解析法
Yusuke Oda
深層学習時代の自然言語処理
深層学習時代の自然言語処理
Yuya Unno
NLP2017 NMT Tutorial
NLP2017 NMT Tutorial
Toshiaki Nakazawa
全脳アーキテクチャ若手の会20170131
全脳アーキテクチャ若手の会20170131
Hangyo Masatsugu
Tensor flow勉強会 (ayashiminagaranotensorflow)
Tensor flow勉強会 (ayashiminagaranotensorflow)
tak9029
Facebookの人工知能アルゴリズム「memory networks」について調べてみた
Facebookの人工知能アルゴリズム「memory networks」について調べてみた
株式会社メタップスホールディングス
Jubatusのリアルタイム分散レコメンデーション@TokyoWebmining#17
Jubatusのリアルタイム分散レコメンデーション@TokyoWebmining#17
Yuya Unno
機械学習チュートリアル@Jubatus Casual Talks
機械学習チュートリアル@Jubatus Casual Talks
Yuya Unno
Jubatusの紹介@第6回さくさくテキストマイニング
Jubatusの紹介@第6回さくさくテキストマイニング
Yuya Unno
予測型戦略を知るための機械学習チュートリアル
予測型戦略を知るための機械学習チュートリアル
Yuya Unno
Chainer meetup20151014
Chainer meetup20151014
Jiro Nishitoba
Chainer meetup
Chainer meetup
kikusu
Towards Chainer v1.5
Towards Chainer v1.5
Seiya Tokui
More Related Content
What's hot
統計的係り受け解析入門
統計的係り受け解析入門
Yuya Unno
NIPS2013読み会: Distributed Representations of Words and Phrases and their Compo...
NIPS2013読み会: Distributed Representations of Words and Phrases and their Compo...
Yuya Unno
ACL Reading @NAIST: Fast and Robust Neural Network Joint Model for Statistica...
ACL Reading @NAIST: Fast and Robust Neural Network Joint Model for Statistica...
Yusuke Oda
最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情
Yuta Kikuchi
Chainerの使い方と自然言語処理への応用
Chainerの使い方と自然言語処理への応用
Yuya Unno
Tf勉強会(5)
Tf勉強会(5)
tak9029
Development and Experiment of Deep Learning with Caffe and maf
Development and Experiment of Deep Learning with Caffe and maf
Kenta Oono
深層学習による機械とのコミュニケーション
深層学習による機械とのコミュニケーション
Yuya Unno
Jubatusにおける大規模分散オンライン機械学習
Jubatusにおける大規模分散オンライン機械学習
Preferred Networks
PCFG構文解析法
PCFG構文解析法
Yusuke Oda
深層学習時代の自然言語処理
深層学習時代の自然言語処理
Yuya Unno
NLP2017 NMT Tutorial
NLP2017 NMT Tutorial
Toshiaki Nakazawa
全脳アーキテクチャ若手の会20170131
全脳アーキテクチャ若手の会20170131
Hangyo Masatsugu
Tensor flow勉強会 (ayashiminagaranotensorflow)
Tensor flow勉強会 (ayashiminagaranotensorflow)
tak9029
Facebookの人工知能アルゴリズム「memory networks」について調べてみた
Facebookの人工知能アルゴリズム「memory networks」について調べてみた
株式会社メタップスホールディングス
Jubatusのリアルタイム分散レコメンデーション@TokyoWebmining#17
Jubatusのリアルタイム分散レコメンデーション@TokyoWebmining#17
Yuya Unno
機械学習チュートリアル@Jubatus Casual Talks
機械学習チュートリアル@Jubatus Casual Talks
Yuya Unno
Jubatusの紹介@第6回さくさくテキストマイニング
Jubatusの紹介@第6回さくさくテキストマイニング
Yuya Unno
予測型戦略を知るための機械学習チュートリアル
予測型戦略を知るための機械学習チュートリアル
Yuya Unno
What's hot
(19)
統計的係り受け解析入門
統計的係り受け解析入門
NIPS2013読み会: Distributed Representations of Words and Phrases and their Compo...
NIPS2013読み会: Distributed Representations of Words and Phrases and their Compo...
ACL Reading @NAIST: Fast and Robust Neural Network Joint Model for Statistica...
ACL Reading @NAIST: Fast and Robust Neural Network Joint Model for Statistica...
最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情
Chainerの使い方と自然言語処理への応用
Chainerの使い方と自然言語処理への応用
Tf勉強会(5)
Tf勉強会(5)
Development and Experiment of Deep Learning with Caffe and maf
Development and Experiment of Deep Learning with Caffe and maf
深層学習による機械とのコミュニケーション
深層学習による機械とのコミュニケーション
Jubatusにおける大規模分散オンライン機械学習
Jubatusにおける大規模分散オンライン機械学習
PCFG構文解析法
PCFG構文解析法
深層学習時代の自然言語処理
深層学習時代の自然言語処理
NLP2017 NMT Tutorial
NLP2017 NMT Tutorial
全脳アーキテクチャ若手の会20170131
全脳アーキテクチャ若手の会20170131
Tensor flow勉強会 (ayashiminagaranotensorflow)
Tensor flow勉強会 (ayashiminagaranotensorflow)
Facebookの人工知能アルゴリズム「memory networks」について調べてみた
Facebookの人工知能アルゴリズム「memory networks」について調べてみた
Jubatusのリアルタイム分散レコメンデーション@TokyoWebmining#17
Jubatusのリアルタイム分散レコメンデーション@TokyoWebmining#17
機械学習チュートリアル@Jubatus Casual Talks
機械学習チュートリアル@Jubatus Casual Talks
Jubatusの紹介@第6回さくさくテキストマイニング
Jubatusの紹介@第6回さくさくテキストマイニング
予測型戦略を知るための機械学習チュートリアル
予測型戦略を知るための機械学習チュートリアル
Viewers also liked
Chainer meetup20151014
Chainer meetup20151014
Jiro Nishitoba
Chainer meetup
Chainer meetup
kikusu
Towards Chainer v1.5
Towards Chainer v1.5
Seiya Tokui
LT@Chainer Meetup
LT@Chainer Meetup
Shunta Saito
Chainer Development Plan 2015/12
Chainer Development Plan 2015/12
Seiya Tokui
Capitalicoでのchainer 1.1 → 1.5 バージョンアップ事例
Capitalicoでのchainer 1.1 → 1.5 バージョンアップ事例
Jun-ya Norimatsu
深層学習ライブラリのプログラミングモデル
深層学習ライブラリのプログラミングモデル
Yuta Kashino
ボケるRNNを学習したい (Chainer meetup 01)
ボケるRNNを学習したい (Chainer meetup 01)
Motoki Sato
ディープラーニングにおける学習の高速化の重要性とその手法
ディープラーニングにおける学習の高速化の重要性とその手法
Yuko Fujiyama
Lighting talk chainer hands on
Lighting talk chainer hands on
Ogushi Masaya
Chainer入門と最近の機能
Chainer入門と最近の機能
Yuya Unno
Chainer Contribution Guide
Chainer Contribution Guide
Kenta Oono
Chainer meetup lt
Chainer meetup lt
Ace12358
Introduction to DEEPstation the GUI Deep learning environment for chainer
Introduction to DEEPstation the GUI Deep learning environment for chainer
Ryo Shimizu
CuPy解説
CuPy解説
Ryosuke Okuta
NVIDIA 更新情報: Tesla P100 PCIe/cuDNN 5.1
NVIDIA 更新情報: Tesla P100 PCIe/cuDNN 5.1
NVIDIA Japan
Chainer Update v1.8.0 -> v1.10.0+
Chainer Update v1.8.0 -> v1.10.0+
Seiya Tokui
Chainerを使って細胞を数えてみた
Chainerを使って細胞を数えてみた
samacoba1983
On the benchmark of Chainer
On the benchmark of Chainer
Kenta Oono
深層学習ライブラリの環境問題Chainer Meetup2016 07-02
深層学習ライブラリの環境問題Chainer Meetup2016 07-02
Yuta Kashino
Viewers also liked
(20)
Chainer meetup20151014
Chainer meetup20151014
Chainer meetup
Chainer meetup
Towards Chainer v1.5
Towards Chainer v1.5
LT@Chainer Meetup
LT@Chainer Meetup
Chainer Development Plan 2015/12
Chainer Development Plan 2015/12
Capitalicoでのchainer 1.1 → 1.5 バージョンアップ事例
Capitalicoでのchainer 1.1 → 1.5 バージョンアップ事例
深層学習ライブラリのプログラミングモデル
深層学習ライブラリのプログラミングモデル
ボケるRNNを学習したい (Chainer meetup 01)
ボケるRNNを学習したい (Chainer meetup 01)
ディープラーニングにおける学習の高速化の重要性とその手法
ディープラーニングにおける学習の高速化の重要性とその手法
Lighting talk chainer hands on
Lighting talk chainer hands on
Chainer入門と最近の機能
Chainer入門と最近の機能
Chainer Contribution Guide
Chainer Contribution Guide
Chainer meetup lt
Chainer meetup lt
Introduction to DEEPstation the GUI Deep learning environment for chainer
Introduction to DEEPstation the GUI Deep learning environment for chainer
CuPy解説
CuPy解説
NVIDIA 更新情報: Tesla P100 PCIe/cuDNN 5.1
NVIDIA 更新情報: Tesla P100 PCIe/cuDNN 5.1
Chainer Update v1.8.0 -> v1.10.0+
Chainer Update v1.8.0 -> v1.10.0+
Chainerを使って細胞を数えてみた
Chainerを使って細胞を数えてみた
On the benchmark of Chainer
On the benchmark of Chainer
深層学習ライブラリの環境問題Chainer Meetup2016 07-02
深層学習ライブラリの環境問題Chainer Meetup2016 07-02
Similar to A Chainer MeetUp Talk
「揚げて炙ってわかるコンピュータの仕組み」の舞台裏
「揚げて炙ってわかるコンピュータの仕組み」の舞台裏
Junichi Akita
2チケット&計測」書籍で訴えたい
2チケット&計測」書籍で訴えたい
Yoshiki Mitani
道具としての電子回路・半導体
道具としての電子回路・半導体
Junichi Akita
カスタムLSIが道具になるために
カスタムLSIが道具になるために
Junichi Akita
同値分割ってなんだろう?
同値分割ってなんだろう?
Yasuharu Nishi
チップレベルでカスタマイズできることで見える世界の体験
チップレベルでカスタマイズできることで見える世界の体験
Junichi Akita
Antプログラミング(1) - プラグイン
Antプログラミング(1) - プラグイン
隆行 神戸
日本OpenStackユーザ会 Atlantaサミット報告会 Swift関連報告
日本OpenStackユーザ会 Atlantaサミット報告会 Swift関連報告
Kota Tsuyuzaki
第6回理系Ao入試フォーラムスライド(竹松)
第6回理系Ao入試フォーラムスライド(竹松)
Kazutomo Takematsu
Makerの道具としてのハードウエアと半導体
Makerの道具としてのハードウエアと半導体
Junichi Akita
M5Stackでインターンしてみた
M5Stackでインターンしてみた
Junichi Akita
好きな活動から始めるイノベーションの種
好きな活動から始めるイノベーションの種
Junichi Akita
Similar to A Chainer MeetUp Talk
(12)
「揚げて炙ってわかるコンピュータの仕組み」の舞台裏
「揚げて炙ってわかるコンピュータの仕組み」の舞台裏
2チケット&計測」書籍で訴えたい
2チケット&計測」書籍で訴えたい
道具としての電子回路・半導体
道具としての電子回路・半導体
カスタムLSIが道具になるために
カスタムLSIが道具になるために
同値分割ってなんだろう?
同値分割ってなんだろう?
チップレベルでカスタマイズできることで見える世界の体験
チップレベルでカスタマイズできることで見える世界の体験
Antプログラミング(1) - プラグイン
Antプログラミング(1) - プラグイン
日本OpenStackユーザ会 Atlantaサミット報告会 Swift関連報告
日本OpenStackユーザ会 Atlantaサミット報告会 Swift関連報告
第6回理系Ao入試フォーラムスライド(竹松)
第6回理系Ao入試フォーラムスライド(竹松)
Makerの道具としてのハードウエアと半導体
Makerの道具としてのハードウエアと半導体
M5Stackでインターンしてみた
M5Stackでインターンしてみた
好きな活動から始めるイノベーションの種
好きな活動から始めるイノベーションの種
More from Yusuke Oda
primitiv: Neural Network Toolkit
primitiv: Neural Network Toolkit
Yusuke Oda
Neural Machine Translation via Binary Code Prediction
Neural Machine Translation via Binary Code Prediction
Yusuke Oda
複数の事前並べ替え候補を用いた句に基づく統計的機械翻訳
複数の事前並べ替え候補を用いた句に基づく統計的機械翻訳
Yusuke Oda
Learning to Generate Pseudo-code from Source Code using Statistical Machine T...
Learning to Generate Pseudo-code from Source Code using Statistical Machine T...
Yusuke Oda
Syntax-based Simultaneous Translation through Prediction of Unseen Syntactic ...
Syntax-based Simultaneous Translation through Prediction of Unseen Syntactic ...
Yusuke Oda
Tree-based Translation Models (『機械翻訳』§6.2-6.3)
Tree-based Translation Models (『機械翻訳』§6.2-6.3)
Yusuke Oda
翻訳精度の最大化による同時音声翻訳のための文分割法 (NLP2014)
翻訳精度の最大化による同時音声翻訳のための文分割法 (NLP2014)
Yusuke Oda
Pattern Recognition and Machine Learning: Section 3.3
Pattern Recognition and Machine Learning: Section 3.3
Yusuke Oda
Test
Test
Yusuke Oda
More from Yusuke Oda
(9)
primitiv: Neural Network Toolkit
primitiv: Neural Network Toolkit
Neural Machine Translation via Binary Code Prediction
Neural Machine Translation via Binary Code Prediction
複数の事前並べ替え候補を用いた句に基づく統計的機械翻訳
複数の事前並べ替え候補を用いた句に基づく統計的機械翻訳
Learning to Generate Pseudo-code from Source Code using Statistical Machine T...
Learning to Generate Pseudo-code from Source Code using Statistical Machine T...
Syntax-based Simultaneous Translation through Prediction of Unseen Syntactic ...
Syntax-based Simultaneous Translation through Prediction of Unseen Syntactic ...
Tree-based Translation Models (『機械翻訳』§6.2-6.3)
Tree-based Translation Models (『機械翻訳』§6.2-6.3)
翻訳精度の最大化による同時音声翻訳のための文分割法 (NLP2014)
翻訳精度の最大化による同時音声翻訳のための文分割法 (NLP2014)
Pattern Recognition and Machine Learning: Section 3.3
Pattern Recognition and Machine Learning: Section 3.3
Test
Test
A Chainer MeetUp Talk
1.
15/10/16 Copyright (C)
2015 by Yusuke Oda, AHC-Lab, IS, NAIST 1 A Chainer MeetUp Talk 小田 悠介 (NAIST) 2015/10/14 Chainer MeetUp
2.
15/10/16 Copyright (C)
2015 by Yusuke Oda, AHC-Lab, IS, NAIST 2 自己紹介 ● 名前: 小田 悠介 – 〜2011 神戸市立高専 電子工学科 – 〜2013 神戸市立高専 専攻科(電気電子工学) – 2013〜 奈良先端科学技術大学院大学 情報科学研究科 中村研究室 (D1) – 某G社 (年末まで) ● 興味: 自然言語処理 (音声処理、機械翻訳、構文解析、ソフトウェア言語処理) – Contribution ● Travatar (機械翻訳ツール) ● Ckylark (構文解析器) ● MTEval (翻訳精度の評価ツール) ● その他 – Twitter: @odashi_t このスライドの図の一部は以下のチュートリアルからの引用です。 http://devblogs.nvidia.com/parallelforall/introduction-neural-machine-translation-with-gpus/
3.
15/10/16 Copyright (C)
2015 by Yusuke Oda, AHC-Lab, IS, NAIST 3 自然言語処理とNeural Networks ● 最近、動的にトポロジが変化するneural networkでNLPするのが流行 – 非常に強い言語モデル – 「文生成に用いた場合」に 特に強い有効性 – Encoder-decoder翻訳モデル あたりが火付け役か ● 他の分野との違い – 画像処理など ● ネットワーク構造が固定、単調 ● レイヤ単位では巨大 – 自然言語処理 ● ネットワーク構造が可変で複雑 ● レイヤ単位では小さい
4.
15/10/16 Copyright (C)
2015 by Yusuke Oda, AHC-Lab, IS, NAIST 4 ChainerとNLP ● Chainer – ネットワーク構造 = ソースコード – 複雑怪奇なネットワークを迅速に構成可能 – 簡単に書いて簡単に試せる(実行時間は無視) ● サンプル集 – https://github.com / odashi / chainer_examples ● 翻訳器2種類(encoder-decoder, attention-net) ● 単語分割器2種類 ● 言語モデル ● 増やそうと思えば増やせます
5.
15/10/16 Copyright (C)
2015 by Yusuke Oda, AHC-Lab, IS, NAIST 5 Neural Network 翻訳器 (1) 簡単なタスクなら ほぼ既存手法と同じ精度
6.
15/10/16 Copyright (C)
2015 by Yusuke Oda, AHC-Lab, IS, NAIST 6 Neural Network 翻訳器 (2)
7.
15/10/16 Copyright (C)
2015 by Yusuke Oda, AHC-Lab, IS, NAIST 7 Chainerへの要望 ● 任意のデータ型のEmbedding – strで直接Embedが使えると嬉しい ● スカラ倍演算 – ↓ニューラルネットで計算した「重み」を使って別のベクトルを足しあわせ(割とよく使う ) – 既存の関数を組み合わせれば可能、ただ一発でやりたい ● LSTMのバリエーション – 自分で修正するのは面倒 – …種類が沢山ある ● バッチ処理の隠蔽 – Variableの内部が バッチ処理前提で扱いづらい
8.
15/10/16 Copyright (C)
2015 by Yusuke Oda, AHC-Lab, IS, NAIST 8 Chainerへの要望 ● GPGPUバックエンドの完全な隠蔽 – to-cpu(), to_gpu()を一切気にしなくてよい内部実装 ● 複数GPUの自動的な割り当て – どのGPUに処理を投げるか内部で決定 – (論文書けそう) ● 賢い視覚化 (4単語を読んで3単語を出力するattention-net →翻訳器 ) ● その他色々
Download now