第12回Machine Learning 15 minutes!の資料

1. 第12回 Machine Learning
15minutes!
機械学習と計量経済学
2017年5月27日（土）
馬場一輝

2. 自己紹介
過去：経済学博士課程〜オークション〜人工知能（画像系）
今：ホテルの料金設定最適化ツールの開発 （Dynamic Pricing）@株式会社空
役割：データ分析とそれに関連したサーバーサイド/インフラなど
バックグラウンド：経済学 （ゲーム理論、産業組織論、限定合理性、実験経済学、ミクロ
実証）
2

3. 免責事項
・15分なので個別の手法は深入りしません。Je n’ai pas le temps.
・一部勝手に言ってる部分があるので（その部分は明示します）ご了承ください。
・私は計量経済学の理論家ではありません。
3

4. 目次
経済学の説明
機械学習と計量経済学の対比
機械学習と計量経済学の交わり
4

5. 経済学及び計量経済学
・ミクロ経済学: 経済主体の最小単位と定義する家計（消費者）、企業（生産者）、それらが経済的な取引を行う市場をその分
析対象とし、世の中に存在する希少な資源の配分について研究する経済学の研究領域であり、最小単位の経済主体の行動を扱う
ためミクロ経済学と呼ばれる(wikipedia)
・マクロ経済学: 省略（アイドントライクマクロ）
・計量経済学: 経済学の理論に基づいて経済モデルを作成し、統計学の方法によってその経済モデルの妥当性に関する実
証分析を行う学問である。(wikipedia)
5

6. 因果推論
政策や施策の効果を知りたいときにどうすればいいか？
相関≠因果（警官の多い地域は犯罪発生率が高い。よって警官は犯罪を誘発している？）
無作為にその施策に参加した人と参加しなかった人を作り出し、結果の違いを見ればいい。でも、参加を任意
にすると参加意欲が高い人は何か別の要因に左右されて参加（不参加）を決めるかもしれない。
RCTやABテストができれば一番いい。
- でも過去の政策効果を知りたければそうデザインされていない限り後からどうにかすることはできない。
- やりたくても倫理上（公平感なども含め）実行できない
など制約が
6

7. 計量経済学と機械学習の違い
・予測と効果測定
経済学（社会科学全般も？）では Xの変化はYにどんな影響を与えるのか？が重要。
Y = α + βX + ε
Βが重要
相対的に予測は弱い。（操作変数法の1段階目とか因果推論ではいる場合も）
時系列では結構使っているかも。
カリブレーションとかマクロで関係してるかもしれないけどそっちはよく知らない。
→ 機械学習に比べると多重共線性に厳し目な印象。（アドホック分析では危機感が足りない）
・経済学は割と回帰分析の発展系を軸に進化してきている。
7

8. 機械学習と計量経済学の共通点
・回帰分析的なものは共有している。
・Cross validation、bootstrap、最尤法、MCMC、カルマンフィルターなども（人によって
は）使います。
・k-NNとかkernel法はノンパラメトリック計量で使われたりします。
・実は名前が違うだけで同じ/似た手法があったりする。
（ロジスティック回帰とLogit, Probitの関係など。）
・この辺はAthey(MS)、Bajari(Amazon)、Varian?(Google) とかがやっている。
8

9. 計量経済学が機械学習から輸入できるもの
(Varianのスライドより）
- train-test-validate to avoid overfitting
- cross validation
- nonlinear estimation (trees, forests, SVGs, neural nets, etc)
- bootstrap, bagging, boosting
- variable selection (lasso and friends)
- model averaging
- computational Bayesian methods (MCMC)
- tools for manipulating big data (SQL, NoSQL databases)
- textual analysis
9

10. 因果推論では特に以下も
・個人間の違いを加味した政策効果
ATE(Average Treatment Effect)など平均で基本的には見ている。
→ DMPのように出し分けできるかも
・反実仮想の予測の精度向上
10

11. 反実仮想の予測
反実仮想1
反実仮想2
11

12. テキストや画像
・テキスト
- 不動産の成約価格に影響のある単語を抜き出す。 e.g. 素材、距離、築年、日当たり良好、駅近、閑静
・画像
- Hammermeshの美醜の話。見目麗しいとどれくらい賃金に影響があるかのプレミアムを見た目と能力の
相関（見た目がいい法が有利な仕事などでそこの成績上昇（下降）分）を調整したうえで計測。
- サッカーのPKがゲーム理論的に適切な戦略で行われているか？ GKが左右どちらに飛ぶか、蹴る方も左
右どちらを狙って蹴るか？
人の目で判断している。 →分類器作れる。
12

13. 機械学習が計量経済学から輸入できるもの、欠けているもの
・因果推論
- 自然実験
- Regression Discontinuity
など
・操作変数
・セレクションバイアスの調整 eg Tobit/Heckit (Censored Data and Truncated Data)
（少なくともRだとライブラリに入っている）
・パネルデータとDID パネルデータとは？クロスセクション x時系列
13

14. 参考文献
- Levitt, Steven and Chad Syverson 2008. “Market Distortions when Agents are Better Informed: The Value of
Information in RealEstate Transactions.” Review of Economics and Statistics,90(4): 599-611.
http://www.nber.org/papers/w11053.pdf
- Mullainathan, Sendhil, and Jann Spiess. 2017. Machine Learning: An Applied Econometric Approach.” Journal of
Economic Perspectives 31 (2): 87-106.
https://scholar.harvard.edu/files/sendhil/files/jep.31.2.87.pdf
- ダニエル・ハマーメッシュ（著）望月衛（訳）2015「美貌格差: 生まれつき不平等の経済学」
- 伊藤公一朗 2017 「データ分析の力 因果関係に迫る思考法」光文社
- http://www.nasonline.org/programs/sackler-colloquia/documents/athey.pdf
- https://web.stanford.edu/class/ee380/Abstracts/140129-slides-Machine-Learning-and-Econometrics.pdf
14

15. 宣伝
15