尤度関数

1. マンガでわかるベイズ統計学
第3章 尤度関数

2. 確率と尤度
• 確率との考え方の違い
(http://norimune.net/2510)
– 確率
• あるパラメータの分布から、特定のデータがどれほど
得られやすいかを示したもの
– パラメータを固定してデータが変化する
– 尤度
• あるデータを得たときの、パラメータの尤もらしさ
– データを固定してパラメータが変化する

3. 確率と尤度（具体例）
• あるコインを投げて、1回目は表、2回目は裏、
3回目は表が出た。
– 確率
• コインの表が出る確率は既知の情報であり、0.5である
ことが分かっているとする。
• 1回目は表、2回目は裏、3回目は表が出る確率は
0.5×0.5×0.5だ
– さて、もう一度コインを投げて、4回目が表になる確率は
0.5×0.5×0.5×0.5だ
– 尤度
• コインの表が出る確率が0.5であることの尤もらしさは
0.5×0.5×0.5=0.125だ
• コインの表が出る確率が0.7であることの尤もらしさは
0.7×0.3×0.7=0.147だ

4. 尤度関数
• あるコインを投げて、1回目は表、2回目は裏、
3回目は表が出た。
– 表が出る確率をpとする（変数）
• すると尤度を関数として表現できる（尤度関数）
– L(p)=p×(1-p)×p
– 尤度関数
• pを変数として、 pの尤もらしさを示した関数

5. 尤度関数のグラフ
「1回目は表、2回目は裏、3回目は表が出た」という観測をもとにすると、
表が出る確率pは0.66あたりが最も尤もらしい。

6. 尤度関数のグラフ
・最も尤もらしいp？
つまりL(p)=p×(1-p)×pを最大化するp
→最尤推定量

7. 最尤推定-1
  32
pppL 
を最大化するpを発見したい。

8. 最尤推定-2
  32
pppL 
を最大化するpを発見したい。
ここで、関数の傾きがゼロになる点が
存在することに着目する。
※傾きがゼロになっている点pが「最尤推定量」だ

9. 微分法を用いて関数の傾きを求める（導入編）
  32
pppL  の傾きを知りたい！
p p+h
L(p+h)
L(p)
台形を考えると、傾きはだいたい
   
h
pLhpL  と表現できる。
ここで、hを小さく小さく小さくしていくと
実際の関数の傾きになる。
   
h
pLhpL
h

0
lim
と記述される。

10. 微分法および対数・対数尤度は
また次回