1. はじめてのパターン認識
#4 確率モデルと識別関数(後編)

2. はじめに
• 田中 秀典といいます
• 分析力をコアとするマーケティングソリューションカンパニーのコアじゃない部分
を担当
• あのねー、、すごく難しくてねー、、薄い内容しかねー、、しゃべれない、、(子
供のころの貴乃花)
• はじパタをいきなり勉強する人の理解度を測るモデルケースと思っていただけれ
ば、、
• 間違っているところがありましたら、指摘してください

3. アジェンダ
• 確率モデル
• 正規分布
• 正規分布から導かれる識別関数
• 最尤推定

4. 確率モデルとは
• データを分析する理由
過去の総括ではなく、未来の意思決定
そのためにはデータから何らかの(確率的)規則性を見つける必要がある
その規則性が確率モデル
意思決定を自動化するのが目標

5. 確率モデルの種類
• ノンパラメトリック ・・ 仮説を設定しない。傾向を結果で示唆するが、明確で
はない
一切の前提が必要ない
例: ヒストグラム法, K最近傍法(5章),カーネル密度推定=パルツェン密度推定
• パラメトリック ・・ 仮説を設定する。はまれば強力
前提条件
• 等分散性 : F検定、 ルベーン検定、 バートレット検定
• 正規分布 : t検定、 ウェルチのt検定(等分散でない場合)
• 標本サイズがある程度大きい
例： 離散的 － 二項分布、多項分布、ポアゾン分布
連続的 － 一様分布、指数分布、正規分布

6. 正規分布は確率モデルのKING
• 汎用的
• そもそも多くのデータが正規分布
• 正規分布からいろいろ解析結果をだせる
• データを加工(標本平均をとる)すれば、正規分布になる = 中心極限定理
• 扱いやすい
• パラメータは平均値と共分散のみ
• 正規分布を線形変換しても正規分布
• 正規分布の線形和も正規分布 (再生性)
• 正規分布の周辺分布も正規分布
• 無相関⇔独立

7. • ゲプロー
• げぷろー
• イチロー
• GEPURO-
• @gepuro-
Webにおちてたパワポを拝借、、勝手にSpecial Thanks..
こっからが全然分からないぜ、、

8. 正規分布関数
•

9. 正規分布関数
•

10. 正規分布から導かれる識別関数
•

11. 正規分布から導かれる識別関数
•

12. 正規分布から導かれる識別関数
•

13. (4.32)
•

14. (4.32)
•

15. (4.32)
•

16. (4.32)
•
二次曲面

17. 識別二次曲面のイメージ
分布の大きさや向きはバラバラであり
識別関数は二次形式になる

18. 線形識別関数(1次式)
•
線形識別関数

19. 線形識別関数のイメージ

20. 正規分布から導かれる識別関数（まとめ）
• 基本形

21. •
線形識別関数

22. •
事前確率を重みとした共分散行列

23. なぜ簡単にするのか？
• モデルが複雑なほど良い汎化能力が得られるわけではない

24. 確率モデルパラメータの最尤推定
•

25. 確率モデルパラメータの最尤推定
•

26. 1 変数の正規分布の場合
•

27. 1 変数の正規分布の場合
•
対数をとる

28. 1 変数の正規分布の場合
•

29. 1 変数の正規分布の場合
•