Recommended
More Related Content
What's hot
What's hot (20)
Similar to Tableau data science_20190627_distribute
Similar to Tableau data science_20190627_distribute (20)
Recently uploaded
Recently uploaded (10)
Tableau data science_20190627_distribute
- 2. 自己紹介 2
- 3. ©GRI Inc. 3 92 93 94 95 96 97 98 99 00 01 02 03 04 05 06 07 08 09 10 11 12 13 14 15 16 17 18 19 商社（SCM） データ分析 AI研究者（制度設計） AIとBIの融合 GRI 古幡 征史, PhD 株式会社GRI 取締役 • 筑波大学 経営工学 学士 • 筑波大学大学院経営・政策科学研究科 修士 • University of Western Sydney, PhD in Computer Science • Universite de Toulouse Capitole, PhD in Computer Science ◼ 丸文、KPMGコンサルティング、北陸先端科学技術大学院大学、University of Southern California、 ドワンゴを経て、2016年9月より現職 コンサルティング（SCM・ 予測・最適化・BW）
- 4. ©GRI Inc. GRIのコア領域 4 BI Analytical Platform Data Analysis Business Planning 実践家 起業家精神 イノベーション 技術専門性
- 6. ©GRI Inc. データ分析基盤の構築 P6 データソース層 バッチ リアルタイム 基幹システム トランザク ション Webログ センサー データ オープン データ マスタ 階層 変換データ Web / EC システム Web データ IoT デバイス 管理 ファイル SNS 収集層 DB連携 ファイル 連携 API 連携 クローリング・ スクレーピング インバウンド・パイプライン 整形・集計層 アウトバウンド・パイプライン RDB 列志向DB レガシー DWH 業務システム アプリ アプリログ NoSQL 生ログ ユーザ中間 商品中間 時系列中間地域中間 定期 レポート アドホック 集計 探索的解析 機械学習 （教師あり・なし学習） 自動化 （推論・推薦・最適解） 統合データ セット 生ログ 生ログ 分析・可視化層 属性 生ログ 生ログ
- 7. ©GRI Inc. 収集層 分析・可視化層 集計層 整形層 データ分析基盤で扱うアプリケーション 分析 可視化 最適化 列志向DB RDB NoSQL
- 8. AIとBIの融合 8
- 9. ©GRI Inc. AIとBI 両方とうまく付き合おう 9 Artificial Intelligence ~Machine Learning~ Business Intelligence Data Scientist
- 10. ©GRI Inc. よくある依頼の例 10 • 根強いファン層が存在 • 顧客が急速に変化しているが捉えきれていない • 次の世代へ繋げるには、どうすべきか？ • 顧客個人へ行き届いたサービスを提供するには？
- 11. ©GRI Inc. よく行き届いたサービスを一人一人へ 11 • デジタル・マーケティング • データ・ドリブン • カスタマー・オブセッション https://www.forbes.com/sites/blakemorgan/2018/02/15/the-10-most-customer-obsessed-companies-in-2018/#680829376ba1
- 13. ©GRI Inc. データ利活用の鉄板パターン 13 Business Intelligence Artificial Intelligence X 解釈 人を動かす 表形式の データセットを準備 自動機械学習 （実用レベル） AIが不得意な点 をサポート AIとBIで共通活用でき 事例も豊富
- 16. ©GRI Inc. イノベーション志向でのデータ利活用パターン 16 • カリスマによる新サービスのひらめき • 新サービスの収益性確認のための市場ボ リューム推定 • あらゆる角度でデータ収集
- 17. ©GRI Inc. KPI至上主義でのデータ利活用のパターン 17 • 顧客満足KPIを売上、利益、顧客満足スコア （アンケート）で設定＆トラッキング • KPIをLOB（組織ｘ商品ｘ地域ｘ機能）でブ レイクダウン • 効率性の最適化のためのデータ利活用 https://public.tableau.com/profile/griinc6648#!/vizhome/5_15616146046780/1_KPI
- 18. ©GRI Inc. データ利活用に関する行き詰まり例 18 KPI至上主義イノベーション志向 • カリスマのひらめき頼りに • 組織内でサービスのターゲット 共有が困難 • 利用するか不明なデータを準備 しておく必要 • 思考がKPI範囲内に限定される • 新しいアイデアに行き詰まる • 研ぎ澄まされたデータ集計内で のアクション（Excel, BI, カス タム）
- 19. ©GRI Inc. 大規模になると個人的な関係が見えなくなる 19 提供 購入 売り手 買い手 性別、年齢、地域、家族、収入 欲しい できる 大規模化 Who When Why 初回、継続、評価、ファン、拡散、見切り 複雑になり見えづらくなる How 時期、経路、カテゴリ、買い回り 評価のポイント、重み、好み 提供するモノの開発What Why How 競合商品ではない理由、存在理由 効率化のために分業 Who どのように提供（直接、間接） どのように知ってもらう 創業時
- 20. ©GRI Inc. データ利活用の対応範囲（マーケティング寄りの視点） 20 戦略 経営資源 （何を）提供価値 理念・ミッション 事業ドメイン （誰に）ターゲット 戦術 ERP CRM SCM WMS TMS AppsEC/Web Point Billing実行系 提供するモノ 価格 流通・接点 販促 ラインナップ 商品開発 品質特性 デザイン 価格・ 料金プラン 支払い方法 値引き 優待・景品セット割引 チャネル 店舗立地DM 営業 （直接間接） User メディア ウェブ/SNS プロモーショ ン 初回購入 継続購入 ファン化 コミュニ ティ 拡散認知 接触検討 拡大購入顧客 潜在顧客 主観データ 客観データ POS Webログ アンケート SNS レビュー 人口・天気 IoTログ 交通ログ 外部データ グルイン 試用テスト
- 21. ©GRI Inc. 各要素は個別の効率化のために分断 21 戦略 経営資源 （何を）提供価値 理念・ミッション 事業ドメイン （誰に）ターゲット 戦術 ERP CRM SCM WMS TMS AppsEC/Web Point Billing実行系 提供するモノ 価格 流通・接点 販促 ラインナップ 商品開発 品質特性 デザイン 価格・ 料金プラン 支払い方法 値引き 優待・景品セット割引 チャネル 店舗立地DM 営業 （直接間接） User メディア ウェブ/SNS プロモーショ ン 初回購入 継続購入 ファン化 コミュニ ティ 拡散認知 接触検討 拡大購入顧客 潜在顧客 主観データ 客観データ POS Webログ アンケート SNS レビュー 人口・天気 IoTログ 交通ログ 外部データ グルイン 試用テスト
- 22. ©GRI Inc. データ利活用の対応範囲（マーケティング寄りの視点） 22 戦略 経営資源 （何を）提供価値 理念・ミッション 事業ドメイン （誰に）ターゲット 戦術 ERP CRM SCM WMS TMS AppsEC/Web Point Billing実行系 提供するモノ 価格 流通・接点 販促 ラインナップ 商品開発 品質特性 デザイン 価格・ 料金プラン 支払い方法 値引き 優待・景品セット割引 チャネル 店舗立地DM 営業 （直接間接） User メディア ウェブ/SNS プロモーショ ン 初回購入 継続購入 ファン化 コミュニ ティ 拡散認知 接触検討 拡大購入顧客 潜在顧客 主観データ 客観データ POS Webログ アンケート SNS レビュー 人口・天気 IoTログ 交通ログ 外部データ データ利活用 AI BI 予測 集計 データ 分析基盤 定型レポート グルイン 試用テスト
- 24. AIとBIの得意なこと 24
- 25. ©GRI Inc. AIの得意なこと 25 組み合わせ爆発する中 最適解を短時間で見つける方法 abcd abc abd acd bcd ab ac ad bc bd cd a b c d null ４人の顧客｛a,b,c,d｝から優良顧客を 区別する組み合わせ＝１６通り 線形増加 組み合わせ爆発 組み合わせ爆発の場合、対象顧客 の数が増えると比較処理だけでも、 演算時間が爆発的に増大 演算時間 顧客数
- 26. ©GRI Inc. AI（機械学習）の得意なことの例 26 Q) あなたの身長以外の情報だけで あなたの身長を当てます • 父親の身長: 173 • 母親の身長: 150 • 人種: 日本人 • 性別： 女性 • 年齢: 23 157cm！ 学習モデル 学習・事前訓練 （機械学習） 訓練データ ID 父 身長 母 身長 人種 …身長 ※個人ごとの正解（身長）とそれ以外の情報 のデータセットを使って訓練しておく 推論 教師 （目的変数） 特徴量 （説明変数）
- 29. ©GRI Inc. 戦略から戦術への活用（架空の事例） 29 • 乳製品メーカーA社 • 毎年、会員の平均年齢が上昇 • 成長は鈍化 • 単発の施策 • 組織間の連携が希薄 顕在化してる悩み • 家庭の朝食に顔を並べる国民的な定番商品 • サブスクリプション型の直販が得意特長 取り組む課題 • 優良顧客の育成＆離反防止
- 31. ©GRI Inc. 機械学習で大量の特徴量の組み合わせをまとめて分析 31 ■BIを活用して定義の決定をしておく • 優良顧客の定義 • 行動変容（継続・離反）の定義 • 施策に繋がる特徴量の定義 （デモグラ・行動・趣味・嗜好） • サービスエンゲージメントに関わるデータ取得 ID 購入 金額 年齢 性別 … 行動 変容 優良顧客の行動変容を予測する機械学習モデルのデータ準備 教師 （目的変数） 特徴量 （説明変数）
- 32. ©GRI Inc. どんな特徴量がどのように説明に効くか解釈し施策へ 32 学習モデル ■BIを活用して解釈と施策の決定 • 予測精度を解釈 • 重要な特徴量からターゲット像と施策候補の絞り込み • 施策による、各特徴量の数値目標の基準を設定 • 施策決定会議で社内コンセンサス形成＆戦略的コンセプトを共有
- 35. ©GRI Inc. 下記は類似した鉄板パターン 35 • 顧客行動変容 • 解約予測 • 顧客育成 • プロダクトエンゲージメント • 予算配分（新機能・商品） • 組織の方向性統一（アイデ ンティティ） • 新規事業案 • 既存顧客 • クロスセル • アップセル • 顧客生涯価値管理 • ブランド買い上げ予測 • 再来訪予測 • クレーム管理 • 新規顧客 • ダイレクトマーケティング • リード管理 • 試用期間管理 • 信用スコアリング • 顧客総合管理 • 売上予測 • マーケティングミックス • キャンペーン管理 • 商品レコメンド • 不正行動スコアリング • 集客予測（立地管理） • SCM&設備 • 予期的保全 • 故障パーツ予測 • 需要予測 • 品質管理 • イベント管理（IoT)
- 36. ©GRI Inc. 機械学習モデルは誰が作るべきか 36 • まずは自動機械学習を試すのおすすめ （この流れ止まらない） • 数か月待ちのシニア分析官を必要と しない • 表形式のデータに対しては、かなり高精 度の結果を簡単に得られ、人は考えるこ とに集中できる • 自動機械学習でカバーが難しい課題は、 できる分析官が真剣にモデル構築 自動機械学習 学習モデル 推論 訓練データ 予測データ
- 37. ©GRI Inc. 自動機械学習リスト 37 DataRobot AutoML Tables SageMaker AzureML Prediction One dotData Alteryx Algorithmia ForecastFlow GRI NEC Sony MLApps Driverless AI Feature Labs H2O.ai Google AWS MatrixFlow Microsoft クラウド マーケットプレース 専業 スタートアップ 分析会社 メーカー 大学から ツールベンダー http://gri.jp/service/forecastflow
- 38. ©GRI Inc. 分析官と自動機械学習の非公式比較（一つの例のみ） 38 https://archive.ics.uci.edu/ml/datasets/Online+News+Popularity • オンラインニュース記事の人気（シェア）予測 Google TJOさんブログhttps://tjo.hatenablog.com/entry/2019/05/23/190000 • 利用データ： UCアーバイン大学のデータセット • 比較対象： • 分析官 • ForecastFlow(GRI) • DataRobot • AutoML Tables (Google) • Prediction One (Sony) • 結果 • 自動機械学習は収斂してきた • 違いは？ • ForecastFlowの目指しているもの • 余計なものを省く • 最速で解釈までたどり着く • 大量データにスケールできる • 国内のオープンデータセット • Tableauテンプレート • 隣の人に聞ける
- 39. ©GRI Inc. Forecast Flowのお試しあり 39 • 説明ページ http://gri.jp/service/forecastflow • Slackのコミュニティ https://join.slack.com/t/forecastflowusers/shared_invite/enQ tNTgyMjcxOTg0NzcxLTBhZjk3N2Y0NTEyZGM0MTMwZTNmYTR kY2Q0NjM3YmE4NzUzYTY2N2NmMTAwOTEyNDQwMGZmODJ iNjNlMjI1OWM • 現在、Colaboratoryベース • 2019年7月、バージョンアップ 戦略的施策立案
- 40. ©GRI Inc. Forecast Flowの開発計画 40 • 2019年7月 バージョン2019.2リリース • ユーザビリティ向上（認証・ファイル管理） • 初期分析機能 • モデル操作 • 2019年下期 バージョン2019.3 • ETL機能追加 • Alteryx連携強化 • Tableau連携強化 • オープンデータセット連携強化 • 天気予報 • 人口統計 • 地理情報 • 時系列機能強化 • Prophet（時系列予測・変化点検知） • 軽量アルゴリズム追加 • 推論用自動デプロイ機能
- 41. 人は何をすべきか 41
- 42. ©GRI Inc. 問題設定 42 • 何を解くべきか？ • ビジネス・インパクトあるか？ • 社内で共通の方向性に行けそうか？ • どんなデータを使う？ • データを正しく持てるか • 予測対象の候補に対して、十分データはあるか？ • 例）人材マッチングで10万のマッチングデータに対して50件の内定 （100以上の職種） • ベンチマークは、どのように設定する？ • 正しく精度の定義はできているか？
- 43. ©GRI Inc. 特徴量設計 43 • 解くべき問題に対して、訓練データセットを準備する • 顧客行動予測をする場合、行が顧客IDごとで列が予測対象と説明に使えそうな顧客ID に対応する特徴量 • 特徴量設計が精度や解釈に大きな影響を与え、ここで大勢が決まる、とて も重要なプロセス • 使いやすいデータ分析基盤（高速DB、整備されてるカタログ、大量データ を捌けるマシーン、簡単にデータ整形できるツール）の有無は、データ利 活用の効率性に大きなインパクト
- 44. ©GRI Inc. 特徴量設計時の注意点 44 • 準備する特徴量は、それが効くと分かったら、施策に関連しそうか考える • 欠損値が特別な顧客に偏ってないか？ • 異常値の扱い（例：デフォルト生年月日や例外数値999999） • 列ごとにデータの意味を揃える（あるタイミングから集計単位が変更） • リーケージの確認（特徴量は予測対象より前に観測されたものを使う） • ボリュームが極端に少なくなる数値特徴量はカテゴリ変換も視野に（年齢がた またま28才だけが少なく、他と比較しておかしな説明） • カテゴリカル・データは各カテゴリごとのボリュームをチェックして必要なら ばまとめる（ほとんど使われなくなった支払方法など） • カテゴリカル・データの組み合わせを検討（例：継続率が高い支払方法の解釈 が食い違い、支払方法とクーポン利用を組み合わせないとおかしくなる） • 次元削減は社内でその特徴量を説明できないならば、特徴量として入れるのは 解釈時に説明できない何かを入れたことになる
- 45. ©GRI Inc. データセットを作るためのデータ整形の例 45 課題に関連したデータセットを基幹システムなどから取り出しデータ整形 • 課題を解くためのデータセットを作成 • ID: 会員機械学習のクラス分類問題（継続・離反） • 正解データ： 予測をするための正解となるデータ（行動変容） • 特徴量データ：変容要因の候補で施策に繋がりそうなものを選定 J J J J J J データセット 顧客マスタ 店舗マスタ カードマスタ 商品階層 商品マスタ POSヘッダー POS明細
- 46. ©GRI Inc. データ整形(ツール) 46 Tableau Prep Python - pandas R - tidyverse Exploratory Talend Pentaho Alteryx
- 47. ©GRI Inc. 学習モデルの構築 47 • 訓練データ、アルゴリズム、パラメタの組み合わせで一つの学習モデルと精度データができる • 学習モデルはPython/Rなどで自作するか、自動機械学習に任せる 機械学習 精度検証用に データ分割 （訓練とテスト） 学習済みモデル 精度データ 解釈用データ ※一般的には見やすくなく、 他のデータと分離されている 入力データ アルゴリズム に従い学習 交差検証済み 最適パラメタ LightGBMのパラメタ例 • num_leaves • learning_rate • num_iterations • max_depth • min_data_in_leaf • どの特徴量が効く？ • どのように効く
- 48. ©GRI Inc. 学習モデルの構築（精度検証用データ分割） ◼入力データセットは7:3, 8:2, 9:1, 6:4などに分割 ◼自分で分割、あるいは自動機械学習内で自動分割 –Tableau Prepで分割する場合、行番号がないデータであれば、行番号を生成するカラム追加 • 行番号生成 https://technowhisp.com/creating-unique-row-ids-in-tableau-prep • 乱数生成 https://www.principle-c.com/column/tableau/random-numbers/#__1802181253.1561358958 –時系列はランダムに分割しない P48 訓練用データ テスト用データ 学習用入力 データセット 学習済みモデル 精度を検証 ランダム分割 （ホールド アウト） 精度データ
- 49. ©GRI Inc. 学習モデル構築（学習モデル自体を分割すべきか？） 49 入力データセット（高齢） スマホアプリを使うサービスなどは、高齢者と若者では、異なる行動 をするので、学習モデルで分割した方が施策に活きる解釈ができる • 一つのデータセットは一つの母集団を代表している • 解釈に役立たせる学習モデル作りが重要 • 明らかに消費行動が異なり、施策立案時に同一に語りたくない切り口は、学習 モデルを分割した方が良い（モデルを解釈する時に気付くこと多い） • 顧客ランク、顧客年数、年齢層、地域など • 学習モデルを分割するには、入力データセットの時点で分割（自動機械学習に 備わってないので、Prepなどのデータ整形に立ち戻り分割） • モデル分割後、十分にデータボリュームがあるか注意 ※予測精度のみを求めるならモデル分割は不要 入力データセット（若者）
- 50. ©GRI Inc. 学習モデル構築（不均衡データ） ◼データセットが予測する観点で偏っている場合がある –例：優良顧客の退会確率が2%など ◼偏っていると、少数派（退会顧客）の予測が難しくなる ◼リサンプリング –アンダーサンプリング： 多数派を削る • ランダムにサンプリングできるが、多数派の特徴量の分布が変わる（Alteryxの機能） • 特徴量ごとにクラスタリングし、群ごとにランダムにサンプリング（Python/Rなど） –オーバーサンプリング： 少数派を増やす • 制御が難しい。SMOTEなども上手くいかないこと多い（Python/Rなど） ◼リサンプリングすると解釈の説明をどうすべきか、考える必要がある –学習モデルの母集団の意味の説明 P50
- 51. ©GRI Inc. 学習モデルの構築（アルゴリズム選定） 51 • 表形式のビジネスのデータセットには、多くの場合、アンサンブル系の勾配 ブースティング木が簡単に高精度 • XGBoost, LightGBMなど • 予測対象が広範であればニューラルネットワーク系がファーストチョイス • 修理パーツ予測、デートアプリの好み予測など • 単回帰、決定木など単純なアルゴリズムで説明できるものほど、解釈に都合が 良い • パラメタチューニングは単純作業なのに面倒で潤沢な計算機資源が必要 • Python/Rなどを使いたくない場合、自動機械学習が視野に
- 52. まとめ 52
- 53. ©GRI Inc. データ利活用をうまく行い、人を動かす 53 Business Intelligence Artificial Intelligence X 解釈 人を動かす 表形式の データセットを準備 自動機械学習 （実用レベル） AIが不得意な点 をサポート AIとBIで共通活用でき 事例も豊富