DL Hackerson 2

1. faster-rnnlmをハック
したい

2. 自己紹介
• y_yammt
• アドテクの会社
• データ分析とか、機械学習の導入サポート
とか。

3. やりたいこと

4. Seq2Seqが簡単に試せるツール
キットがほしい
• テキストデータとか扱いたいし。
• ニューラル機械翻訳とか楽しそうだし。
• デコードが早いツールがいいな…
Hottest travel trends
大人気 旅行 トレンド
入力Seq
出力Seq

5. RNNLM (Seqの学習) でいいツ
ールがあった
• Yandexのfaster-rnn (
https://github.com/yandex/faster-rnnlm )
• https://www.youtube.com/watch?v=GRpIy33yF
ZE
• こいつを改造してSeq2Seqできないかなー?

6. やってたこと
(ハッカソン前)

7. CMakeでビルドできるようにした
CLion (IDE)で開発できるようになって超便利

8. CircleCIでCI環境を構築した

9. やってたこと
(ハッカソン)

10. Seq2Seqできないかなー
• 作りかけ:
• https://goo.gl/pmqRrD
• ./nmt [sourceテキスト] [targetテキスト] [モデル
ファイルなどなど] みたく動かしたかった
• NNどうやって作ろう? で止まって作りきれず
…

11. やりたいこと

12. いろいろ
• CUDA対応
• Seq2Seq
• ドキュメントがfaster-rnnそのものなので修正しないと。
• LSTM実装
• k-best decoding
• 他言語(PythonとかJuliaとか)のバインディング?
• Attention-based model?

13. ソース公開してます
• https://github.com/y-yammt/ws-rnn
• いろいろ教えてください。