ベイズ基本0425
- 1. 確率の乗法定理 P(A∩B) = P(A)P(B/A)・・① A B A∩B A⇒Bを入れ替えると P(A∩B) = P(B)P(A/B) P(A∩B) = P(A/B) P(B)・・② ①と②の左辺P(A∩B)共通なので P(A)P(B/A) = P(A/B) P(B)・・③ ③について、P(B)≠0を仮定し、P(A/B)について解くと P(B/A) P(A) P(A/B) = P(B)
- 3. ベイズの定理 H(仮定:原因) D(結果:データ) P(D/H):尤度=原因Hのもとで 現象の起こる尤もらしい確率 P(H/D):結果から原因をさぐる 原因の確立=事後確率 H D D H H(仮定:原因) D(結果:現象;データ) D(結果:現象:データ) H(仮定:原因) P(H/D) :事後確率 P(H): 事前確率 P(D): 結果・現象=データ の起こる確率 <尤度> <事前確率> P(D/H) P(H) <事後確率> P(H/D) = P(D)
- 4. ベイズの展開公式 H1、H2、H3はそれぞれ独立 H1 H2 H3 原因H1 原因H2 原因H3 D∩H1 D∩H2 D∩H3 データD D HをH1に置き換えると P(D/H) P(H) P(D/H1) P(H1) P(H/D) = P(H1/D) = ・・① P(D) P(D) H1、H2、H3はそれぞれ独立とすると P(D)= P(D∩H1) + P(D∩H2) + P(D∩H3) P(D)= P(D/H1)P(H1) + P(D/H2)P(H2) + P(D/H3)P(H3) ・・② ①に②を代入 P(D/H1) P(H1) P(H1/D) = P(D/H1)P(H1) + P(D/H2)P(H2) + P(D/H3)P(H3) ベイズの展開公式 P(D/Hi) P(Hi) P(Hi/D) = P(D/H1)P(H1) + P(D/H2)P(H2) +・・+ P(D/Hi)P(Hi)
- 5. ベイズ統計の基本公式 母数が連続変数の場合のベイズの定理: 母数がθである確率公式として捉えなおす。 <尤度> <事前確率> P(D/θ) P(θ) P(D/H) P(H) <事後確率> P(θ/D) = P(H/D) = P(D) P(D) Θが連続的な値をとるとき、P(D)、P(D/θ)、P(θ/D)の解釈を「確率」⇒「確率密度」に変える。 (事前確率) P(θ) ⇒ (事前分布) π(θ) (尤度) P(D/θ) ⇒ (尤度) f(D/θ) (事後確率) P(θ/D) ⇒ (事後分布) π(θ/D) <尤度> <事前分布> f(D/θ) π(θ) <事後分布> π(θ/D) = P(D) ・・データDを得る確率 ⇒データが与えられた後は一定な数値になる 事後分布は、尤度と事前分布の積に比例する。 事後分布π(θ/D) ∝ 尤度f(D/θ)×事前分布π(θ)