chainer meetupで発表したパワポです．

1. 2015/10/14
宮脇康介
@kikusu

2. 名前：宮脇康介
所属：エンジニア@ドワンゴ
twitter: @kikusu
blog(これから頑張る)：
http://kikusumk3.sakura.ne.jp/wordpress/

3. リアルタイムコメント解析を裏側のサービスで本番運用
中
 chainer + GPUで運用してます
 本番運用するとchainerのバージョンアップに追従するのが
大変そう．．
 気軽にバージョンアップし辛い

4.  言語処理で新語が来てもEmbedIDを拡張すれば学
習を継続できる．
 学習前に語彙の一覧とか作成しなくて良い
 optimizerを複数セットアップしておいて学習時にラ
ンダムに選んで学習するといった変則的な使い方が
できる
 最適なoptimizerを使うよりは遅いが, 最終的に同等少し
劣るとこまで精度まで学習できる
 optimizer選択ミスで学習できないみたいな事がないので
取り敢えずモデルお試しの時とか便利

5.  CUDA7.0 + chainer1.3.2で特定の計算がおか
しい
 本番稼働２日前に気付く (((( ;ﾟдﾟ)))ｱﾜﾜﾜﾜ
 CUDA 7.5では再現しなかった
→ 取り敢えずバージョンアップ (☆´∀｀)b ﾟ+｡:.ｾｰﾌ!ﾟ.:｡+ﾟ
 原因よく分からず謎
 CUDA driver or versionによるバグ?は過去にも経験あり
 特定の計算だけがおかしいと気付きにくい

6.  モデルの保存・読込の機構
 pickleはパッケージ名保存されるので公開とか,取り回しが辛い
 モデルの構造を動的に変えれるのは良いがその都度
optimizerの更新を掛けないと不便
 assertとか速度重視の場合はなしにできる機構とかあれば
 タスクランナー的なものがあったら便利
 cuda7.5の半精度試してみたい