2013年8月10～11日にかけて北大函館キャンパス内で行われた統計勉強会の投影資料です。 1-3分散分析(ANOVA) 分散分析の基礎

1. 分散分析 ANOVA
1
１日目－第３講
名前：馬場真哉
所属：北大水産 修士課程2年
Webサイト： logics of blue で検索

2. 2
正規線形モデルの理解のために
統計の基本とt検定
分散分析(ANOVA)
回帰分析と分散分析
PB検定と確率分布
モデル選択とAIC
出来れば
Type II ANOVA、交互作用

3. 3
分散分析とは
分散分析（ANOVA）
“選択肢”を変えることによって
• 結果は“有意に”変化するといえるか？
• 変化するとしたらどれくらい変わるか？

4. 4
“選択肢”を変えることによって
• 結果は“有意に”変化するといえるか？
• 変化するとしたらどれくらい変わるか？
分散分析の例
例）
薬A, B, Cによって魚の体長は変わるか？
体長変化モデル｜体長～薬
施策によって、売上高は変わるか？
売り上げ予測モデル｜売上～施策

5. 5
今回の流れ
１．Rを用いて分散分析する
→分散分析の予測のメカニズムの理解
２．統計モデルにおける検定方法の理解
３．Rを使って検定する

6. 6
実演

7. 7
分散分析モデル
施策によって、売上高は変わるか？
売り上げ予測モデル｜売上～施策
→施策ごとに売り上げの期待値をとって予測
選択肢ごとの期待値を予測値とする統計モデル

8. 8
分散分析な検定
統計モデルにおける「検定」とは？
１．パラメタが0かどうかを検定
→t検定、Wald検定（明日）
２．予測値が変化するかを検定
→F検定、尤度比検定（明日）

9. 9
統計モデルな検定
予測
という言葉に敏感になってください
統計モデルをやる人は

10. 10
予測と検定
分散分析
選択肢ごとに予測値が有意に変わるかの検定
期待値が0と有意に異なるかのt検定
あるデータへの予測値は0とみなせるかの検定
検定は「予測」で表せる

11. 11
おまけ
予測値は選択肢ごとの期待値に等しい
分散分析
選択肢ごとに予測値が有意に変わるかの検定
期待値の差の検定と呼ばれることもある

12. 12
有意に予測値が変化すると言うための要件
予測値の変化が大きい
予測値が比較に使える（予測残差小）
サンプルサイズが大きい
期待値の差が大きい
期待値が比較に使える（分散小さい）
サンプルサイズが大きい
t検定の場合

13. 13
有意に予測値が変化すると言うための要件
予測値の変化が大きい
ナイーブな予測とどれだけ異なるか？

14. 14
ナイーブな予測
ナイーブな予測
予測値一定 → 予測値は総平均
二つの予測モデルの
予測の違いを検定している！
予測値変化モデル
選択肢毎に異なる → 予測値は個別の平均

15. 15
まとめ
分散分析
選択肢ごとの期待値を予測値とする統計モデル
選択肢ごとに予測値が有意に変わるかを検定
予測値の変化が大きい
予測値が比較に使える（予測残差小）
サンプルサイズが大きい
ナイーブ予測との比較ともみなせる
質問どうぞ！

16. 16
分散分析の計算方法
に分ける
データ
＝平均 ＋ 予測効果 ＋ 残差

17. 17
A B C
1 4 7
2 5 8
3 6 9
4 7 10
5 8 11
データの分割
予測値 3 6 9
総平均 6
予測効果 -3 0 +3
選択肢により
結果はどう “補正”
されたか？
データ
＝平均 ＋ 予測効果 ＋ 残差

18. 18
予測効果
A B C
-3 0 3
-3 0 3
-3 0 3
-3 0 3
-3 0 3
データの分割
データ
＝平均 ＋ 予測効果 ＋ 残差
Option:A
→並み（６）を３下方修正
Option:B
→並み（６）のまま
Option:C
→並み（６）を３上方修正

19. 19
予測残差
A B C
-2 -2 -2
-1 -1 -1
0 0 0
1 1 1
2 2 2
データ
＝平均 ＋ 予測効果 ＋ 残差
データの分割
残差
＝データ － 平均 － 予測効果
＝データ －予測値

20. 20
データ
A B C
1 4 7
2 5 8
3 6 9
4 7 10
5 8 11
予測効果
A B C
-3 0 3
-3 0 3
-3 0 3
-3 0 3
-3 0 3
予測残差
A B C
-2 -2 -2
-1 -1 -1
0 0 0
1 1 1
2 2 2
総平均＝６
データ＝平均（６）＋予測効果＋誤差

21. 21
統計量
F比 ＝
予測効果の大きさ（分散）
予測残差の大きさ（分散）
• 予測効果が大きい（予測の変化が大きい）
• 予測残差が小さい（予測結果を信用できる）
F比が大きければ有意差あり

22. 22
統計量
F比 ＝
予測効果の大きさ（分散）
予測残差の大きさ（分散）
• 予測効果が大きい
• 予測残差が小さい
大きさ＝分散？

23. 23
3
4
5
4
1
7
分散
1
3
3 − 4 2
+ 4 − 4 2
+ 5 − 4 2
1
3
1 − 4 2
+ 4 − 4 2
+ 7 − 4 2
分散
=
2
3
=
18
3
= 6小 大
予測値の差が小さい 予測値の差が大きい
Aの予測値Aの予測値
Bの予測値Bの予測値
Cの予測値Cの予測値

24. 24
3
4
5
4
1
7
差が小さい 差が大きい
分散と差の大きさ
分散が大きい
予測値のばらつきが大きい
予測値の変化が大きい

25. 25
統計量 サンプルサイズは「分散」
の計算の時に入ってくる
F比 ＝
予測効果の大きさ（分散）
予測残差の大きさ（分散）
＝
期待値の差の大きさ
分散
サンプルサイズ
t値
参考
• 予測効果が大きい
• 予測残差が小さい F比大なら有意

26. 26
ナイーブ予測との比較
ナイーブな予測
データ ＝ 平均 ＋ 残差
予測値変化モデル
データ ＝ 平均 ＋ 予測効果 ＋ 残差
残差 ＝ データ － 平均
残差 ＝ データ － 平均 － 予測効果

27. 27
ナイーブ予測との比較
ナイーブな予測の残差
残差 ＝ データ － 平均
予測値変化モデルの残差
残差 ＝ データ － 平均 － 予測効果
ナイーブな予測の残差 － 予測値変化モデルの残差
＝予測効果

28. 28
統計量
＝
ナイーブ予測の予測残差 ー 予測値変化モデルの残差
予測値変化モデルの予測残差の大きさ
F比
＝
予測効果の大きさ（分散）
予測残差の大きさ（分散）
ナイーブ予測と比べて、
どれだけ予測残差が減ったのか？
分散分析とは
予測残差の比較である

29. 29
まとめ
分散分析
選択肢ごとの期待値を予測値とする統計モデル
選択肢ごとに予測値が有意に変わるかを検定
質問どうぞ！
＝ナイーブ予測と比べてどれだけ予測残差が減ったか
F比
分散分析とは「予測残差の比較」である

30. 30
分散の計算方法
分散を計算するときに
• Optionの数
• サンプルサイズの影響
を入れたい
＝
偏差平方和
自由度
分散＝
データ − 期待値 2
の合計
自由度

31. 31
予測効果の分散 自由度
予測効果
A B C
-3 0 3
-3 0 3
-3 0 3
-3 0 3
-3 0 3
数字は３種類しかない
↓
予測効果の合計は０
↓
A, B, C のうち一つ固定
３ － １ ＝ ２

32. 残差
A B C
-2 -2 -2
-1 -1 -1
0 0 0
1 1 1
2 2 2
32
予測効果の分散 自由度
数字はたくさん。
15データあるとみなしてよい。
↓
各列の予測誤差の合計は０
↓
A, B, C の一つずつ固定
１５ － ３ ＝ １２

33. 33
実演