Anomaly Detection in Deep Learning (Updated)
•
12 likes•3,536 views
This is a longer presentation than the one I gave at google. It covers some techniques more in depth.
Recommended
More Related Content
Similar to Anomaly Detection in Deep Learning (Updated)
Similar to Anomaly Detection in Deep Learning (Updated) (20)
More from Adam Gibson
More from Adam Gibson (20)
Anomaly Detection in Deep Learning (Updated)
- 1. ディープラーニングの 異常検知 Adam Gibson & Samuel Audet - Skymind
- 3. Dl4j
- 4. スカイマインド ● ディープラーニングのモデルをオンプレミスで実運用へ ● Scalaを使用（実運用向けのPythonと考えられる） ● Java Virtual Machine スタックをC++のネイティブ計算に 接続 （例、ビッグデータシステムへの一流のアクセス） ● SKIL（Skymind Intelligence Layer）を構築：実運用 ディープラーニングのアプリケーションのための 実運用のディープラーニングシステム
- 5. 「異常」とは？ ● データ中の不正常のパターン ● 不正利用検知 - 悪用のクレジットカードの取引 ● また、不正利用検知 - 通話詳細記録で位置情報偽装を検知 ● ネットワーク侵入 - ネットワークでの異常な活動 ● データセンターの故障した計算機
- 6. 簡単なケーススタディー - 例、なぜやってきた？ ● 通信会社： http://blogs.wsj.com/cio/2016/03/14/orange-tests- deep-learning-software-to-identify-fraud/ ● ネットワークインフラ： https://insights.ubuntu. com/2016/04/25/making-deep-learning-accessible-on- openstack/
- 8. なぜディープラーニング？ ● 大量のデータから学習するのは優秀 ● 独自の特徴表現：ノイズにロバストであるし、クロス ドメインパタンも学習可 ● 広告に既に広く適用：Google自体は同じようなパターン 認識に多額の投資を行う（ターゲティング／関連度）
- 9. 手法紹介 ● 教師なし - 指定の時間ウィンドウにわたってドロップアウト付きの オートエンコーダの再構成誤差と移動平均を使用 ● 教師あり - RNNは時系列のyes/noの一組から学習。時間ステップの 時系列から学習して、異常が起ろうとすることは予測。 ● ストリーミングとミニバッチを使用（ニューラルネットは一般的に このような学習は可）
- 13. いくつかの定義 ● 再構成誤差：オートエンコーダは教師無しの プレトレーニングでデータを再構成することが学習。 KL情報量（二つの確率分布の誤差）を最小化。 ● RNN/時系列：参照 http://deeplearning4j.org/ja-usingrnns
- 14. 実運用に向けて ● Kafka/Spark Streaming/Flink/Apex ● ニューラルネットはストリーミング更新の消費者になる ● データは？大体ログの採集、動画でも
- 15. デモ！ ● Kibana ● Kafka ● Elasticsearch ● Logstash ● NiFi ● Cassandra ● Lagom ● Dl4j エコシステム (DataVec,Nd4j,Dl4j,Arbiter)
- 17. まとめ ● 実在する機械学習パイプライン ● 生データ結果を蓄積するCassandra ● 警告や可視化用のELK スタック （Elasticsearch, Logstash, Kibana） ● モデル採集のためのKafka ● モデル予測サーバーになるLagom ● データパイプラインを設計するためのNiFi
- 18. ご質問は？ Email: adam@skymind.io samuel@skymind.io Twitter: agibsonccc bytedeco Github: agibsonccc saudet