More Related Content More from Yohei Sato (15) 1. 傾向スコア解析と
Uplift Modelling
@yokkuns: 里 洋平
yohei0511@gmail.com
2012.05.26 第23回Tokyo.R
2012年5月26日土曜日
2. AGENDA
◆ 自己紹介
◆ 本発表の目的
◆ 傾向スコア解析
◆ Uplift Modelling
◆ まとめ
2012年5月26日土曜日
3. AGENDA
◆ 自己紹介
◆ 本発表の目的
◆ 傾向スコア解析
◆ Uplift Modelling
◆ まとめ
2012年5月26日土曜日
4. 自己紹介
時系列解析や異常検知などの方法論を
実ビジネスに適用するデータマイニングエンジニア
◆ 名前: 里 洋平
◆ ID : yokkuns
◆ 職業:
データマイニングエンジニア
◆ 統計解析 パターン認識 機械学
習 データマイニング NLP 金融工学
などを勉強中
2012年5月26日土曜日
8. 活動例: 異常検知
Anomaly detection
複数時系列から異常な振る舞いを検知する
C
A
時系列のモデリング 複数時系列の異常検知 B
時系列A 時系列A
異常な振る舞い
時系列B
時系列C 時系列B 時系列C
異常な振る舞いの時系列を検出
例1:トラフィック異常検知 例2:CM効果のノイズ除去
トラフィックA ケースA
CM効果
トラフィックB ケースB
トラフィックC 調査 ケースC
異常な振る舞いをしている 異常な振る舞いをしているケースを
トラフィックの原因を調査する 除外して、CMの効果を算出する
85
2012年5月26日土曜日
9. 活動例: 時系列解析と異常検知
Anomaly detection
新しいデータと過去時系列モデルの乖離から異常検出
8000.0000
異常スコア推移 3.0000
モデル構築
異常値
◇例 : ARIMAモデル 2.2500
5970.7500 1.5000
0.7500
3941.5000 0
異常スコアの算出
-0.7500
◇例 : 対数損失
1912.2500 -1.5000
-2.2500
-117.0000 -3.0000
t
4/ 週
4/ 1週
4/ 8週
5/ 週
5/ 週
5/ 週
5/ 週
5/ 週
6/ 週
6/ 週
6/ 週
6/ 週
7/ 週
7/ 週
7/ 週
7/ 8週
週
4
25
2
9
16
23
30
6
13
20
27
4
11
25
1
1
1
4/
86
2012年5月26日土曜日
10. 活動例: 時系列解析と影響分析
TV Commercial Effects
時系列的な振る舞いの特徴から各KPIへのCMの影響度を算出
イベン
CM時系列 ト
新規
登録
CM ARPP
U
ARPU
各KPIの時系列
その他
外部
継続率
要因
ケース
87
2012年5月26日土曜日
12. AGENDA
◆ 自己紹介
◆ 本発表の目的
◆ 傾向スコア解析
◆ Uplift Modelling
◆ まとめ
2012年5月26日土曜日
13. 本発表の目的
傾向スコア解析とUplift Modellingが
扱う効果やデータを切る軸が似ていて混乱するので整理する
介入がなかった場合
介入効果 = 処置群の値 - の処置群の値
傾向スコア解析のデータを切る軸 Uplift Modellingのデータを切る軸
介入を受けなかった場合の反応
処置群 対照群 Yes No
介入を受けた
場合の結果
介入を受けた場合の反応
No
介入を受けない
場合の結果
Yes
2012年5月26日土曜日
14. 傾向スコア解析とUplift Modelling
傾向スコア解析とUplift Modellingは
やりたい事や扱うデータの対象が大きく違う
傾向スコア解析 Uplift Modelling
やりたい事 因果効果の推定 費用対効果の最大化
扱うデータ 観察データ 実験データ
処置群と対照群の両方を使って介入による
共変量を使って処置群と対照群の傾向を
アプローチ 行動変化をモデル化して
調整して因果効果を算出する
それを最大化するような分類を行う
2012年5月26日土曜日
15. 介入による効果の扱い
どちらも介入による効果を扱うが
その目的はと扱うデータは大きく異なる
介入がなかった場合
介入効果 = 処置群の値 - の処置群の値
◆ 傾向スコア解析:
・実験出来ないデータにおいて、割当による影響を除外して介入効果を推定する
◆ Uplift Modelling:
・実験可能なデータを用いて、介入効果を最大にするようなグループ分けを行う
2012年5月26日土曜日
16. 実験出来るデータの因果効果
実験出来るデータでは
因果効果は単純な処置群と対照群の差になる
処置群 対照群
処置群のデータ
対照群のデータ
因果効果 = 処置群の平均 - 対照群の平均
2012年5月26日土曜日
17. 実験出来るデータの因果効果
実験出来るデータでは
因果効果は単純な処置群と対照群の差になる
処置群と対照群を
ランダムに割当
処置群 対照群
処置群のデータ
対照群のデータ
因果効果 = 処置群の平均 - 対照群の平均
2012年5月26日土曜日
18. 実験出来るデータの因果効果
実験出来るデータでは
因果効果は単純な処置群と対照群の差になる
処置群と対照群を
ランダムに割当
処置群 対照群
介入を受けた
処置群のデータ 欠測
場合の結果
介入を受けない
場合の結果
欠測 対照群のデータ
因果効果 = 処置群の平均 - 対照群の平均
2012年5月26日土曜日
19. 実験出来るデータの因果効果
実験出来るデータでは
因果効果は単純な処置群と対照群の差になる
処置群と対照群を
ランダムに割当
処置群 対照群
期待値が等しい！
介入を受けた •対照群が介入を受けていた場合の期待値と
処置群のデータ 欠測
場合の結果 介入を受けた処置群の期待値は同じ
介入を受けない
欠測 対照群のデータ •処置群が介入を受けない場合の期待値と
場合の結果
介入を受けなかった対照群の期待値は同じ
因果効果 = 処置群の平均 - 対照群の平均
2012年5月26日土曜日
20. 実験出来ないデータの因果効果
割当によって処置群と対照群に差が生じるため
両者を単純に比較することが出来ない
処置群 対照群
処置群のデータ
対照群のデータ
因果効果 処置群の平均 - 対照群の平均
2012年5月26日土曜日
21. 実験出来ないデータの因果効果
割当によって処置群と対照群に差が生じるため
両者を単純に比較することが出来ない
処置群と対照群の割当
(コントロール出来ない)
処置群 対照群
処置群のデータ
対照群のデータ
因果効果 処置群の平均 - 対照群の平均
2012年5月26日土曜日
22. 実験出来ないデータの因果効果
割当によって処置群と対照群に差が生じるため
両者を単純に比較することが出来ない
処置群と対照群の割当
(コントロール出来ない)
処置群 対照群
介入を受けた
処置群のデータ 欠測
場合の結果
介入を受けない
場合の結果
欠測 対照群のデータ
因果効果 処置群の平均 - 対照群の平均
2012年5月26日土曜日
23. 実験出来ないデータの因果効果
割当によって処置群と対照群に差が生じるため
両者を単純に比較することが出来ない
処置群と対照群の割当
(コントロール出来ない)
処置群 対照群
期待値が違う！
介入を受けた •対照群が介入を受けていた場合の期待値と
処置群のデータ 欠測
場合の結果 介入を受けた処置群の期待値が異なる
介入を受けない
欠測 対照群のデータ •処置群が介入を受けない場合の期待値と
場合の結果
介入を受けなかった対照群の期待値が異なる
因果効果 処置群の平均 - 対照群の平均
2012年5月26日土曜日
24. AGENDA
◆ 自己紹介
◆ 本発表の目的
◆ 傾向スコア解析
◆ Uplift Modelling
◆ まとめ
2012年5月26日土曜日
25. 傾向スコア解析
実験出来ないデータの因果関係を解析する
処置群と対照群の割当
(コントロール出来ない)
処置群 対照群
共変量で割当をモデリング
介入を受けた
処置群のデータ 欠測
場合の結果 傾向スコアの算出
介入を受けない
場合の結果
欠測 対照群のデータ
共変量項目 共通で得られている変数
傾向スコアを用いた調整
◇マッチング
◇層別解析
◇共分散分析
2012年5月26日土曜日
26. 欠測データ
割当によって観測出来ない潜在的変数を考える
処置群 対照群 z=1 z=0
介入を受けた
処置群のデータ 欠測
場合の結果
介入を受けない
欠測 対照群のデータ
場合の結果
y1とy0は両方存在するが
割当によって観測出来ないと考える
2012年5月26日土曜日
27. 欠測データ
割当変数zと求めたい因果効果
処置群と対照群の割当 z
処置群 対照群 z=1 z=0
介入を受けた
処置群のデータ 欠測
場合の結果
介入を受けない
欠測 対照群のデータ
場合の結果
処置群での平均介入効果
average treatment z=1の時のy1とy0の差を知りたいが
effect on the treated どちらか一方は観測出来ない
2012年5月26日土曜日
28. 欠測データ
共変量の影響を除去した因果効果
処置群と対照群の割当 z
処置群 対照群 z=1 z=0
介入を受けた
処置群のデータ 欠測
場合の結果
介入を受けない
欠測 対照群のデータ
場合の結果
共変量項目 共通で得られている変数
共変量の値が等しい時は
強く無視出来る
割当条件 : 割当はランダムという仮定
共変量の影響を
除去した因果効果 :
2012年5月26日土曜日
29. 欠測データ
共変量の影響を除去した因果効果
処置群と対照群の割当 z
処置群 対照群 z=1 z=0
介入を受けた
処置群のデータ 欠測
場合の結果
介入を受けない
欠測 対照群のデータ
場合の結果
共変量項目 共通で得られている変数
共変量が同じならz=1のy0の期待値を
強く無視出来る
割当条件 : z=0の時のy0の期待値で代用出来る
共変量の影響を
除去した因果効果 :
2012年5月26日土曜日
30. 傾向スコア
対象者の群1へ割り当てられる確率
第i対象者の割当変数の値
第i対象者の共変量の値
2012年5月26日土曜日
31. 傾向スコアの推定
プロビット回帰やロジスティック回帰で推定する
2012年5月26日土曜日
32. 傾向スコアを用いた調整
• マッチング
• 2つの群で傾向スコアが等しい（近い）対象者をペアにしてその差の
平均を因果効果とする
• 層別解析
• 傾向スコアの大小によっていくつかのサブクラスに分け、その各クラ
スで処置群と対照群の平均の計算と、全体としての効果の推定量を計
算する
• 共分散分析
• 割当変数と傾向スコアを説明変数とした線形の回帰分析を行う
2012年5月26日土曜日
34. 傾向スコアを用いた調整
傾向スコアの逆数を重みづけたyの期待値は
y1の周辺平均の不偏推定量
2012年5月26日土曜日
35. 傾向スコアを用いた調整
因果効果の推定値とその分散が計算出来る
因果効果
因果効果の分散
2012年5月26日土曜日
36. Rによる実行
Matching パッケージ
lalondeデータセット
NSW職業訓練データ
age 年齢 re74 74年実質賃金
educ 教育年数 re75 75年実質賃金
black 黒人かどうか re78 78年実質賃金
hisp ヒスパニックかどうか u74 74年の賃金が0かどうか
married 結婚してるかどうか u75 75年の賃金が0かどうか
nodegr 高校卒業有無 treat NSW対象者有無
2012年5月26日土曜日
37. Rによる実行
Matching パッケージ
Match(Y=NULL, Tr, X, caliper=F,...)
Y : 結果ベクトル
Tr : 割当ベクトル
X : 共変量または傾向スコア
caliper : キャリパーマッチングをやる場合にTRUE
...
2012年5月26日土曜日
38. Rによる実行
Matchingパッケージとデータセットの読み込み
2012年5月26日土曜日
39. Rによる実行
ロジスティック回帰分析で傾向スコアを算出
2012年5月26日土曜日
40. Rによる実行
マッチングで因果効果を推定
NSWプログラムの効果
2012年5月26日土曜日
41. Rによる実行
マッチングのペアの確認
2012年5月26日土曜日
42. Rによる実行
マッチングのペアの確認
処置群のindex
対照群のindex
2012年5月26日土曜日
43. Rによる実行
キャリパーマッチングで因果効果を推定
NSWプログラムの効果
キャリパーマッチング : ペアが特定の距離以上になる時はマッチングしないマッチング
2012年5月26日土曜日
44. RでIPW推定量
傾向スコアの逆数による重みベクトルを作成
2012年5月26日土曜日
45. RでIPW推定量
lmで重みベクトルを指定してIPW推定量を算出
2012年5月26日土曜日
46. RでIPW推定量
lmで重みベクトルを指定してIPW推定量を算出
処置群の
IPW推定量と標準誤差
対照群の
IPW推定量と標準誤差
2012年5月26日土曜日
47. RでIPW推定量
lmで重みベクトルを指定してIPW推定量を算出
処置群の
IPW推定量と標準誤差
因果効果 = 6213.0 - 4589.4
= 1623.6
標準誤差 = (462.2^2+436.4^2)
= 635.668
対照群の
IPW推定量と標準誤差
2012年5月26日土曜日
48. AGENDA
◆ 自己紹介
◆ 本発表の目的
◆ 傾向スコア解析
◆ Uplift Modelling
◆ まとめ
2012年5月26日土曜日
49. Uplift Modellingとは
費用対効果の最大化を目的とした最新のデータマイニング手法
介入による行動変化をモデル化し効果を最大化する
介入による4つの行動パターン
介入を受けた場合の反応
No あまのじゃく 無関心
YES テッパン 説得可能！
YES No
介入を受けなかった場合の反応
2012年5月26日土曜日
50. これまでのマーケティングモデル
顧客を有望な顧客とそうでない顧客に分類し
有望な顧客だけをターゲットにする事で費用対効果を向上させる
◆ 浸透モデル
・既に製品を購入した顧客を特徴づけるモデル
◆ 購入モデル
・最近購入した顧客を特徴づけるモデル
・浸透モデルに似てるが、最近の履歴に注目し、顧客の特性の変化を捉える
◆ レスポンスモデル
・マーケティング活動に反応して購入した顧客を特徴づけるモデル
2012年5月26日土曜日
51. これまでのマーケティングモデル
顧客を有望な顧客とそうでない顧客に分類し
有望な顧客だけをターゲットにする事で費用対効果を向上させる
◆ 浸透モデル
・既に製品を購入した顧客を特徴づけるモデル
◆ 購入モデル
・最近購入した顧客を特徴づけるモデル
・浸透モデルに似てるが、最近の履歴に注目し、顧客の特性の変化を捉える
◆ レスポンスモデル
・マーケティング活動に反応して購入した顧客を特徴づけるモデル
2012年5月26日土曜日
52. レスポンスモデリング
処置群の反応データを用いて
レスポンスをモデル化し、ターゲットを決める
Training Data 従来のレスポンスモデリング
反応なし 反応あり
処置群
処置群 分類結果
反応あり の場合
良いターゲット
予測対象
2012年5月26日土曜日
53. レスポンスモデリングの課題
処置群だけで学習しているため
介入による行動変化を考慮出来ていない
Training Data 従来のレスポンスモデリング
反応なし 反応あり
あまのじゃく 説得可能！
処置群
処置群
無関心 テッパン
分類結果
反応あり の場合
良いターゲット
予測対象
2012年5月26日土曜日
54. レスポンスモデリングの課題
処置群だけで学習しているため
介入による行動変化を考慮出来ていない
Training Data 従来のレスポンスモデリング
介入しなければ
反応した
反応なし 反応あり
あまのじゃく 説得可能！
処置群
処置群
無関心 テッパン
介入しなくても
反応した 分類結果
反応あり の場合
良いターゲット
予測対象
2012年5月26日土曜日
55. 処置群と対照群を用いた学習
処置群と対照群の両方を学習データとする事で
介入による行動変化を捉える
Training Data
反応なし 反応あり
あまのじゃく 説得可能！
処置群
処置群
無関心 テッパン
対照群
説得可能！ あまのじゃく
対照群
無関心 テッパン
予測対象
2012年5月26日土曜日
56. 処置群と対照群を用いた学習
処置群と対照群の両方を学習データとする事で
介入による行動変化を捉える
Training Data
反応なし 反応あり
あまのじゃく 説得可能！
処置群
処置群
無関心 テッパン
対照群
説得可能！ あまのじゃく
対照群
無関心 テッパン
予測対象
2012年5月26日土曜日
57. 処置群と対照群を用いた学習
処置群と対照群の両方を学習データとする事で
介入による行動変化を捉える
Training Data
反応なし 反応あり
あまのじゃく 説得可能！
処置群
処置群
無関心 テッパン
対照群
説得可能！ あまのじゃく
対照群
無関心 テッパン
予測対象
2012年5月26日土曜日
58. Uplift Modelling
単純な 反応あり ・ 反応なし ではなく
介入による行動変化をモデル化しターゲットを決める
Training Data Response Uplift Modelling
L R
あまのじゃく
説得可能！
処置群
処置群
無関心
テッパン
分類結果
R の場合
あまのじゃく
対照群
説得可能！ 良いターゲット
対照群
無関心
テッパン
予測対象
2012年5月26日土曜日
59. 分割基準
行動変化によるレスポンス率増と
その重要性を最大化する分割を行う
L R
あまのじゃく
処置群(T)
説得可能！
無関心
テッパン
UL UR
あまのじゃく
対照群(C)
説得可能！
無関心
テッパン
2012年5月26日土曜日
60. 分割基準
行動変化によるレスポンス率増と
その重要性を最大化する分割を行う
L R
あまのじゃく
処置群(T)
説得可能！
無関心
テッパン
UL UR
あまのじゃく
対照群(C)
説得可能！
無関心
テッパン
◆ 行動変化によるレスポンス率の増分
◆ 重要性 (t統計量の2乗)
2012年5月26日土曜日
61. 分割基準
行動変化によるレスポンス率増と
その重要性を最大化する分割を行う
L R
あまのじゃく
処置群(T)
説得可能！
無関心
テッパン
UL UR
あまのじゃく
対照群(C)
説得可能！
無関心
テッパン
◆ 行動変化によるレスポンス率の増分
◆ 重要性 (t統計量の2乗)
2012年5月26日土曜日
62. 分割基準
行動変化によるレスポンス率増と
その重要性を最大化する分割を行う
L R
あまのじゃく
処置群(T)
説得可能！
無関心
テッパン
UL UR
あまのじゃく L
対照群(C)
説得可能！
無関心
テッパン
◆ 行動変化によるレスポンス率の増分
◆ 重要性 (t統計量の2乗) L R
2012年5月26日土曜日
63. 介入による行動変化の定式化
介入による行動変化を
介入効果とグループ効果の相互作用として表現
L R
介入による効果 介入による効果
処置群(T)
グループ効果 グループ効果
相互作用 相互作用
UL UR
介入による効果 介入による効果
対照群(C)
グループ効果 グループ効果
相互作用 相互作用
※Cの介入効果 = Lのグループ効果 = CR相互作用 = TL相互作用 = CL相互作用 = 0 とおく
2012年5月26日土曜日
64. 介入による行動変化の推定
相互作用はRグループとLグループの増分の差で推定される
L R
介入による効果 介入による効果
処置群(T)
グループ効果 グループ効果
相互作用 相互作用
UL UR
介入による効果 介入による効果
対照群(C)
グループ効果 グループ効果
相互作用 相互作用
※Cの介入効果 = Lのグループ効果 = CR相互作用 = TL相互作用 = CL相互作用 = 0 とおく
2012年5月26日土曜日
65. 介入による行動変化の推定値の誤差と重要性
介入による行動変化は回帰係数として算出され
その重要性はt統計量で与えられる
T:1, C:0 R:1, L:0 Xi1Xi2
基準値
介入効果
グループ効果
相互作用
◆ 標準誤差の算出 ◆ t統計量の2乗
2012年5月26日土曜日
66. 分割基準
行動変化によるレスポンス率増と
その重要性を最大化する分割を行う
L R
あまのじゃく
処置群(T)
説得可能！
無関心
テッパン
UL UR
あまのじゃく L
対照群(C)
説得可能！
無関心
テッパン
◆ 行動変化によるレスポンス率の増分
◆ 重要性 (t統計量の2乗) L R
2012年5月26日土曜日
67. AGENDA
◆ 自己紹介
◆ 本発表の目的
◆ 傾向スコア解析
◆ Uplift Modelling
◆ まとめ
2012年5月26日土曜日
68. 傾向スコア解析とUplift Modelling
傾向スコア解析とUplift Modellingは
やりたい事や扱うデータの対象が大きく違う
傾向スコア解析 Uplift Modelling
やりたい事 因果効果の推定 費用対効果の最大化
扱うデータ 観察データ 実験データ
処置群と対照群の両方を使って介入による
共変量を使って処置群と対照群の傾向を
アプローチ 行動変化をモデル化して
調整して因果効果を算出する
それを最大化するような分類を行う
2012年5月26日土曜日
69. AGENDA
◆ 自己紹介
◆ 本発表の目的
◆ 傾向スコア解析
◆ Uplift Modelling
◆ まとめ
2012年5月26日土曜日
70. 次回以降の
発表者・LTを募集しています！
2012年5月26日土曜日
72. 参考資料
◆ Rで学ぶ傾向スコア解析入門
http://www.slideshare.net/yokkuns/r-9387843
◆ Uplift Modelling 入門（1）
http://www.slideshare.net/yokkuns/uplift-modelling-1
2012年5月26日土曜日
73. 欠測データ
観測出来ない方のデータを欠測してると考える
因果推論、選択バイアス、データ融合を統一的に扱えるデータ構造
因果推論
処置群 対照群
介入を受けた
処置群のデータ 欠測
場合の結果 データ融合
介入を受けない
場合の結果
欠測 対照群のデータ 購買履歴データ 市場調査データ
購買履歴調査の
購買履歴 欠測
共変量項目 共通で得られている変数 データ
市場調査の
質問紙項目 欠測
回答データ
選択バイアス
選択者 非選択者
共変量項目 共通で得られている変数
従属変数 選択者のデータ 非選択者のデータ
共変量項目 共通で得られている変数
2012年5月26日土曜日
