DeNAのAIとは #denatechcon

4. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. ⾃⼰紹介 n  1975年⽣まれ (41歳) n  得意分野：サービス設計・開発・運⽤ n  苦⼿分野：マネジメント、多⼈数プロジェクト n  初期の開発サービス n  モバオク、ポケットアフィリエイト、モバゲータウン、他 n  最近の開発サービス n  Showroom（iOS/Android アプリ側のみ） n  プログラミング教育（Android アプリ） n  Anyca（サーバ／iOS アプリ） 4 川崎修平（取締役）

19. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI技術の蓄積と活用実用系実験系スピードパートナーシップ案件自社サービス基礎技術開発実用価値提供実証実験実用価値提供サービス内実験最新論文の実装・実験研究成果の外部発信最新研究を自社サービスデータを活用して実験先端技術の適用実績をスピーディーに蓄積確度の高い技術を活用した価値を提供自社サービスでは獲得できないデータを活用した、実験的取組みによる技術力の向上と、新しい価値の探求

22. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. 自己紹介 2010年6月 Mobageプラットフォーム全体のデータマイニング・機械学習活用したサービス開発・洗練 2011年4月～濱田晃一 (@hamadakoichi) ・執筆： Mobageを支える技術 DeNA入社ソーシャルゲームのデータマイニングチーム立上げ Analytics Architect DeNA全サービスのデータマイニング・機械学習活用したサービス開発・洗練 2014年10月～・DeNA全サービスを対象とした大規模機械学習活用したサービス開発・博士：量子統計場の理論 (理論物理) ・TokyoWebmining 主催者 - 機械学習の実活用コミュニティ。7年継続、累積59回開催。登録：1500人超。 - 体験設計から、機械学習・深層学習の研究開発、分散アルゴリズムの設計・実装まで・最近の活動 - 画像表現学習・画像生成、対話・キャラクター表現学習、等

30. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. ・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資 DeNAのAI活用したサービス開発新たな価値ある体験・サービス提供を考え、作り、挑戦し続ける Feedback Log 6. ログ設計 Personalized Data For each user Service Front End 2. ユーザ体験設計 4. 洗練サイクル設計 5. 連携データ設計 3. サービス設計 7.分散アルゴリズム設計 8.分散実装 Distributed Applications YARN HDFS GPU 1. AI研究開発・サービスを用いた新技術挑戦・評価体験提供 Neural Network

33. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI研究開発・ユーザ体験設計・サービス設計体験提供先端AI研究の実装・再現・評価実装・再現レベルでの学習難易度・モデル精度の感覚を持つ 1. AI研究開発 Neural Network ・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価

34. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI研究開発・ユーザ体験設計・サービス設計体験提供先端AI研究の実装・再現・評価実装・再現レベルでの学習難易度・モデル精度の感覚を持つ先端研究を動く実装として蓄積・共有。新たな技術挑戦での質・速度を向上させる 1. AI研究開発 Neural Network ・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価

35. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI研究開発・ユーザ体験設計・サービス設計体験提供 1. AI研究開発 Neural Network ・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価大規模サービスデータの活用数千万人・50億行動/日の行動データ、大規模コンテンツデータを活用

36. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI研究開発・ユーザ体験設計・サービス設計体験提供 1. AI研究開発 Neural Network 研究開発に必要なデータ取得のためのサービス実装も行う・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価大規模サービスデータの活用数千万人・50億行動/日の行動データ、大規模コンテンツデータを活用

37. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI研究開発・ユーザ体験設計・サービス設計体験提供データへ投資するサービスでの取得が難しいデータも、まとまったコストをかけて一気に作成固有データを用いた研究開発もできるようにする 1. AI研究開発 Neural Network ・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価

38. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI研究開発・ユーザ体験設計・サービス設計体験提供データへ投資するサービスでの取得が難しいデータも、まとまったコストをかけて一気に作成固有データを用いた研究開発もできるようにする 1. AI研究開発 Neural Network ・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価（例：対話での発話時の感情、トピック、等のアノテーションデータ、等）

39. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI研究開発・ユーザ体験設計・サービス設計体験提供サービスを用いた新AI技術挑戦・評価価値が期待されるが評価が難しい新AI技術は、サービスで試す。ユーザ反応で評価 1. AI研究開発 Neural Network ・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価

40. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI研究開発・ユーザ体験設計・サービス設計体験提供サービスを用いた新AI技術挑戦・評価価値が期待されるが評価が難しい新AI技術は、サービスで試す。ユーザ反応で評価 AI技術開発・評価のサイクルを迅速に回し、モデル洗練していく 1. AI研究開発 Neural Network ・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価

41. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI研究開発・ユーザ体験設計・サービス設計体験提供サービスを用いた新AI技術挑戦・評価価値が期待されるが評価が難しい新AI技術は、サービスで試す。ユーザ反応で評価 AI技術開発・評価のサイクルを迅速に回し、モデル洗練していく（例：スタイル・テイストでの類似画像算出の質を、表示画像に対するユーザー反応で評価） 1. AI研究開発 Neural Network ・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価

42. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI研究開発・ユーザ体験設計・サービス設計新たな提供体験・価値を考えるどのような新たな体験提供ができるか、どのような価値があるか、考え抜く体験提供 2. ユーザ体験設計 Service Front End 3. サービス設計 1. AI研究開発 Neural Network ・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価

43. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. 1. AI研究開発 AI研究開発・ユーザ体験設計・サービス設計新たな提供体験・価値を考えるどのような新たな体験提供ができるか、どのような価値があるか、考え抜く体験提供 2. ユーザ体験設計 Service Front End 3. サービス設計 AI技術は新たな体験提供の大きな源泉となる Neural Network ・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価

44. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. 1. AI研究開発 AI研究開発・ユーザ体験設計・サービス設計新たな提供体験・価値を考える実際にどのくらい価値があるのかは提供してみないとわからない体験提供 2. ユーザ体験設計 Service Front End 3. サービス設計・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価 Neural Network

45. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. 1. AI研究開発 AI研究開発・ユーザ体験設計・サービス設計新たな提供体験・価値を考える実際にどのくらい価値があるのかは提供してみないとわからない体験提供 2. ユーザ体験設計 Service Front End 3. サービス設計・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価わからないことはやってみる。挑戦する Neural Network

46. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. 1. AI研究開発・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価洗練サイクル設計・ログ設計・連携データ設計洗練サイクルを設計するデータ蓄積とモデル洗練のサイクルを設計する体験提供 Feedback Log Personalized Data For each user Service Front End 2. ユーザ体験設計 4. 洗練サイクル設計 3. サービス設計 6. ログ設計 5. 連携データ設計 Neural Network

47. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. 1. AI研究開発・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価洗練サイクル設計・ログ設計・連携データ設計洗練サイクルを設計するデータ蓄積とモデル洗練のサイクルを設計する体験提供 Feedback Log Personalized Data For each user Service Front End 2. ユーザ体験設計 4. 洗練サイクル設計 3. サービス設計 6. ログ設計 5. 連携データ設計学習アルゴリズム、学習に必要なログ、連携データ、等、一連のサイクルをつくる Distributed Applications YARN HDFS GPU Neural Network

48. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. 1. AI研究開発・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価分散アルゴリズム設計学習方法の分散アルゴリズムを設計する大規模データでもスケールする学習アルゴリズム設計する体験提供 Feedback Log 6. ログ設計 Personalized Data For each user Service Front End 2. ユーザ体験設計 4. 洗練サイクル設計 5. 連携データ設計 3. サービス設計 7.分散アルゴリズム設計 Distributed Applications YARN HDFS GPU Neural Network

49. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. 1. AI研究開発・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価分散アルゴリズム設計学習方法の分散アルゴリズムを設計する大規模データでもスケールする学習アルゴリズム設計する体験提供学習アルゴリズムを、分散可能なアルゴリズムに再構成する Feedback Log 6. ログ設計 Personalized Data For each user Service Front End 2. ユーザ体験設計 4. 洗練サイクル設計 5. 連携データ設計 3. サービス設計 7.分散アルゴリズム設計 Distributed Applications YARN HDFS GPU Neural Network

50. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. 1. AI研究開発・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価分散アルゴリズム実装体験提供体験・サービス提供に適した形で実装・チューニングしていくサービスに適した形で分散アルゴリズム実装する Feedback Log 6. ログ設計 7.分散アルゴリズム設計 Personalized Data For each user Service Front End 2. ユーザ体験設計 4. 洗練サイクル設計 8.分散実装 5. 連携データ設計 3. サービス設計 Distributed Applications YARN HDFS GPU Neural Network

51. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. 1. AI研究開発・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価分散アルゴリズム実装体験提供体験・サービス提供に適した形で実装・チューニングしていくサービスに適した形で分散アルゴリズム実装する Feedback Log 6. ログ設計 7.分散アルゴリズム設計 Personalized Data For each user Service Front End 2. ユーザ体験設計 4. 洗練サイクル設計 8.分散実装 5. 連携データ設計 3. サービス設計各種アルゴリズムチューニングのトライを多く行いたい。必要なものは自分でつくる Distributed Applications YARN HDFS GPU Neural Network

52. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. 1. AI研究開発・先端研究の実装・再現・評価・大規模サービスデータ活用・データへの投資・サービスを用いた新技術挑戦・評価分散アルゴリズム実装体験提供体験・サービス提供に適した形で実装・チューニングしていく結果を分析し、体験・サービス・学習サイクルともに洗練していく Feedback Log 6. ログ設計 7.分散アルゴリズム設計 Personalized Data For each user Service Front End 2. ユーザ体験設計 4. 洗練サイクル設計 8.分散実装 5. 連携データ設計 3. サービス設計 Distributed Applications YARN HDFS GPU Neural Network

57. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. ⾃⼰紹介⼭⽥憲晋 (やまだけんしん） DeNA システム本部 AIシステム部部⻑ [略歴] 1995年NECに⼊社。VerilogでFPGA上にTCPフルスタック実装する等ネットワーク関連の研究開発に従事。よりユーザに近いサービスに直接関わりたいという思いから2008年DeNAに⼊社。モバゲーの開発インフラ、ゲーム開発チームのマネージメント等を担当する。ゲーム運営の中で分析の重要性を肌で感じ、2010年分析組織を⽴ち上げる。現在は、DeNA全体の分析基盤及びAIシステムの構築と活⽤の推進統括をしている。

61. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI/分析組織体制 AIシステム部は、DeNAグループ全体の事業を対象に、AI/機械学習を⽤いたサービス価値提供を⾏っている。各事業部にはデータアナリストがいて、データ分析に基づいて事業を成功に導くための意思決定を推進している。ゲーム事業プラットフォ−ム事業 AI研究開発エンジニアデータアナリスト ◯◯ 事業データアナリストデータアナリスト AIシステム部 (全社横断) 分散基盤エンジニアデータエンジニア

62. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI/分析組織体制各事業のデータアナリストにより、⼤規模分析基盤(Hadoop, BigQuery)にサービス固有に設計されたログを収容し、⽇々データに基づいた分析をすることが当たり前になっているゲーム事業プラットフォ−ム事業 AI研究開発エンジニアデータアナリスト ◯◯ 事業データアナリストデータアナリスト AIシステム部 (全社横断) 分散基盤エンジニアデータエンジニアビジネスドメイン知識⾼いコミュニケーション⼒データ分析⼒(統計モデリング等)

63. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AIシステム部内のチーム構成分散基盤エンジニア (Hadoop/Spark) データエンジニア AI研究開発エンジニア分析ツール開発重要データ集計・ KPIツール提供クラウド環境構築分析基盤利⽤者(データアナリスト、AIエンジニア)が分析環境を快適に利⽤できるようにするためにありとあらゆることをします。 AI/機械学習を活⽤した DeNA/PFDeNAの取り組む事業における研究開発・サービス開発⼤規模分散分析基盤の構築・運⽤及び分析基盤上でのアプリケーション開発分析環境利⽤者サポート

64. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AIシステム部内のチーム構成分散基盤エンジニア (Hadoop/Spark) データエンジニア AI研究開発エンジニア分析ツール開発重要データ集計・ KPIツール提供クラウド環境構築分析基盤利⽤者(データアナリスト、AIエンジニア)が分析環境を快適に利⽤できるようにするためにありとあらゆることをします。 AI/機械学習を活⽤した DeNA/PFDeNAの取り組む事業における研究開発・サービス開発⼤規模分散分析基盤の構築・運⽤及び分析基盤上でのアプリケーション開発分析環境利⽤者サポート 10PBのHadoop Cluster ⼤規模分散処理の専⾨部隊

65. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AIシステム部内のチーム構成分散基盤エンジニア (Hadoop/Spark) データエンジニア AI研究開発エンジニア分析ツール開発重要データ集計・ KPIツール提供クラウド環境構築分析基盤利⽤者(データアナリスト、AIエンジニア)が分析環境を快適に利⽤できるようにするためにありとあらゆることをします。 AI/機械学習を活⽤した DeNA/PFDeNAの取り組む事業における研究開発・サービス開発⼤規模分散分析基盤の構築・運⽤及び分析基盤上でのアプリケーション開発分析環境利⽤者サポート AI研究開発に専念できる環境の提供アノテーションツール APIサーバ可視化ツールデータ管理ツール

66. Copyright (C) DeNA Co.,Ltd. All Rights データエンジニアの開発ツール例 Copyright (C) DeNA Co.,Ltd. All Rights Reserved. [AI研究開発エンジニアの課題] GPUリソースをお⼿軽に使うためにクラウドを利⽤したいが、コスト気にしたくない。 GPUサーバのオンデマンドオートスケール・各インスタンスが未使⽤かどうかを監視・新規利⽤に、新規インスタンスか未使⽤インスタンスを⾃動判定・課⾦の切れ⽬(AWS: 1時間)で不要インスタンスを⾃動でterminate 利⽤ユーザは、サーバ管理を気にすること無く、気楽にGPU利⽤可能機械学習支援ツール

67. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. まとめ DeNAでは AI研究開発エンジニアが AI研究開発・サービス価値提供に専念できる⾵⼟・体制が整っているゲーム事業プラットフォ−ム事業 AI研究開発エンジニアデータアナリスト ◯◯ 事業データアナリストデータアナリスト AIシステム部 (全社横断) 分散基盤エンジニアデータエンジニア

71. Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved. AI技術の蓄積と活用実用系実験系スピードパートナーシップ案件自社サービス基礎技術開発実用価値提供実証実験実用価値提供サービス内実験最新論文の実装・実験研究成果の外部発信最新研究を自社サービスデータを活用して実験先端技術の適用実績をスピーディーに蓄積確度の高い技術を活用した価値を提供自社サービスでは獲得できないデータを活用した、実験的取組みによる技術力の向上と、新しい価値の探求