Submit Search
Upload
数式を使わずイメージで理解するEMアルゴリズム
•
85 likes
•
71,405 views
裕樹 奥田
Follow
Education
Report
Share
Report
Share
1 of 14
Download now
Download to read offline
Recommended
深層生成モデルと世界モデル
深層生成モデルと世界モデル
Masahiro Suzuki
GAN(と強化学習との関係)
GAN(と強化学習との関係)
Masahiro Suzuki
変分ベイズ法の説明
変分ベイズ法の説明
Haruka Ozaki
PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門
tmtm otm
EMアルゴリズム
EMアルゴリズム
Sotetsu KOYAMADA(小山田創哲)
混合モデルとEMアルゴリズム(PRML第9章)
混合モデルとEMアルゴリズム(PRML第9章)
Takao Yamanaka
機械学習モデルのハイパパラメータ最適化
機械学習モデルのハイパパラメータ最適化
gree_tech
[DL輪読会]Flow-based Deep Generative Models
[DL輪読会]Flow-based Deep Generative Models
Deep Learning JP
Recommended
深層生成モデルと世界モデル
深層生成モデルと世界モデル
Masahiro Suzuki
GAN(と強化学習との関係)
GAN(と強化学習との関係)
Masahiro Suzuki
変分ベイズ法の説明
変分ベイズ法の説明
Haruka Ozaki
PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門
tmtm otm
EMアルゴリズム
EMアルゴリズム
Sotetsu KOYAMADA(小山田創哲)
混合モデルとEMアルゴリズム(PRML第9章)
混合モデルとEMアルゴリズム(PRML第9章)
Takao Yamanaka
機械学習モデルのハイパパラメータ最適化
機械学習モデルのハイパパラメータ最適化
gree_tech
[DL輪読会]Flow-based Deep Generative Models
[DL輪読会]Flow-based Deep Generative Models
Deep Learning JP
ようやく分かった!最尤推定とベイズ推定
ようやく分かった!最尤推定とベイズ推定
Akira Masuda
Rで階層ベイズモデル
Rで階層ベイズモデル
Yohei Sato
ベイズ統計学の概論的紹介
ベイズ統計学の概論的紹介
Naoki Hayashi
PCAの最終形態GPLVMの解説
PCAの最終形態GPLVMの解説
弘毅 露崎
金融時系列のための深層t過程回帰モデル
金融時系列のための深層t過程回帰モデル
Kei Nakagawa
深層学習の数理
深層学習の数理
Taiji Suzuki
【論文読み会】Deep Clustering for Unsupervised Learning of Visual Features
【論文読み会】Deep Clustering for Unsupervised Learning of Visual Features
ARISE analytics
Optimizer入門&最新動向
Optimizer入門&最新動向
Motokawa Tetsuya
グラフィカルモデル入門
グラフィカルモデル入門
Kawamoto_Kazuhiko
正準相関分析
正準相関分析
Akisato Kimura
pymcとpystanでベイズ推定してみた話
pymcとpystanでベイズ推定してみた話
Classi.corp
時系列予測にTransformerを使うのは有効か?
時系列予測にTransformerを使うのは有効か?
Fumihiko Takahashi
「世界モデル」と関連研究について
「世界モデル」と関連研究について
Masahiro Suzuki
[DL輪読会]Wasserstein GAN/Towards Principled Methods for Training Generative Adv...
[DL輪読会]Wasserstein GAN/Towards Principled Methods for Training Generative Adv...
Deep Learning JP
[DL輪読会]相互情報量最大化による表現学習
[DL輪読会]相互情報量最大化による表現学習
Deep Learning JP
最適輸送の解き方
最適輸送の解き方
joisino
不均衡データのクラス分類
不均衡データのクラス分類
Shintaro Fukushima
ブースティング入門
ブースティング入門
Retrieva inc.
クラシックな機械学習入門:付録:よく使う線形代数の公式
クラシックな機械学習入門:付録:よく使う線形代数の公式
Hiroshi Nakagawa
変分推論法(変分ベイズ法)(PRML第10章)
変分推論法(変分ベイズ法)(PRML第10章)
Takao Yamanaka
Humor Recognition and Humor Anchor Extraction
Humor Recognition and Humor Anchor Extraction
裕樹 奥田
NICOMI
NICOMI
裕樹 奥田
More Related Content
What's hot
ようやく分かった!最尤推定とベイズ推定
ようやく分かった!最尤推定とベイズ推定
Akira Masuda
Rで階層ベイズモデル
Rで階層ベイズモデル
Yohei Sato
ベイズ統計学の概論的紹介
ベイズ統計学の概論的紹介
Naoki Hayashi
PCAの最終形態GPLVMの解説
PCAの最終形態GPLVMの解説
弘毅 露崎
金融時系列のための深層t過程回帰モデル
金融時系列のための深層t過程回帰モデル
Kei Nakagawa
深層学習の数理
深層学習の数理
Taiji Suzuki
【論文読み会】Deep Clustering for Unsupervised Learning of Visual Features
【論文読み会】Deep Clustering for Unsupervised Learning of Visual Features
ARISE analytics
Optimizer入門&最新動向
Optimizer入門&最新動向
Motokawa Tetsuya
グラフィカルモデル入門
グラフィカルモデル入門
Kawamoto_Kazuhiko
正準相関分析
正準相関分析
Akisato Kimura
pymcとpystanでベイズ推定してみた話
pymcとpystanでベイズ推定してみた話
Classi.corp
時系列予測にTransformerを使うのは有効か?
時系列予測にTransformerを使うのは有効か?
Fumihiko Takahashi
「世界モデル」と関連研究について
「世界モデル」と関連研究について
Masahiro Suzuki
[DL輪読会]Wasserstein GAN/Towards Principled Methods for Training Generative Adv...
[DL輪読会]Wasserstein GAN/Towards Principled Methods for Training Generative Adv...
Deep Learning JP
[DL輪読会]相互情報量最大化による表現学習
[DL輪読会]相互情報量最大化による表現学習
Deep Learning JP
最適輸送の解き方
最適輸送の解き方
joisino
不均衡データのクラス分類
不均衡データのクラス分類
Shintaro Fukushima
ブースティング入門
ブースティング入門
Retrieva inc.
クラシックな機械学習入門:付録:よく使う線形代数の公式
クラシックな機械学習入門:付録:よく使う線形代数の公式
Hiroshi Nakagawa
変分推論法(変分ベイズ法)(PRML第10章)
変分推論法(変分ベイズ法)(PRML第10章)
Takao Yamanaka
What's hot
(20)
ようやく分かった!最尤推定とベイズ推定
ようやく分かった!最尤推定とベイズ推定
Rで階層ベイズモデル
Rで階層ベイズモデル
ベイズ統計学の概論的紹介
ベイズ統計学の概論的紹介
PCAの最終形態GPLVMの解説
PCAの最終形態GPLVMの解説
金融時系列のための深層t過程回帰モデル
金融時系列のための深層t過程回帰モデル
深層学習の数理
深層学習の数理
【論文読み会】Deep Clustering for Unsupervised Learning of Visual Features
【論文読み会】Deep Clustering for Unsupervised Learning of Visual Features
Optimizer入門&最新動向
Optimizer入門&最新動向
グラフィカルモデル入門
グラフィカルモデル入門
正準相関分析
正準相関分析
pymcとpystanでベイズ推定してみた話
pymcとpystanでベイズ推定してみた話
時系列予測にTransformerを使うのは有効か?
時系列予測にTransformerを使うのは有効か?
「世界モデル」と関連研究について
「世界モデル」と関連研究について
[DL輪読会]Wasserstein GAN/Towards Principled Methods for Training Generative Adv...
[DL輪読会]Wasserstein GAN/Towards Principled Methods for Training Generative Adv...
[DL輪読会]相互情報量最大化による表現学習
[DL輪読会]相互情報量最大化による表現学習
最適輸送の解き方
最適輸送の解き方
不均衡データのクラス分類
不均衡データのクラス分類
ブースティング入門
ブースティング入門
クラシックな機械学習入門:付録:よく使う線形代数の公式
クラシックな機械学習入門:付録:よく使う線形代数の公式
変分推論法(変分ベイズ法)(PRML第10章)
変分推論法(変分ベイズ法)(PRML第10章)
More from 裕樹 奥田
Humor Recognition and Humor Anchor Extraction
Humor Recognition and Humor Anchor Extraction
裕樹 奥田
NICOMI
NICOMI
裕樹 奥田
Re revenge chap03-1
Re revenge chap03-1
裕樹 奥田
20110602labseminar pub
20110602labseminar pub
裕樹 奥田
bmb2010_g86
bmb2010_g86
裕樹 奥田
Spotfire_8
Spotfire_8
裕樹 奥田
Tsukubar8
Tsukubar8
裕樹 奥田
Rを用いた解析の実例 Project *ぶろったん*
Rを用いた解析の実例 Project *ぶろったん*
裕樹 奥田
Ajacs17
Ajacs17
裕樹 奥田
ESS
ESS
裕樹 奥田
Diagramパッケージを使ってみる
Diagramパッケージを使ってみる
裕樹 奥田
More from 裕樹 奥田
(11)
Humor Recognition and Humor Anchor Extraction
Humor Recognition and Humor Anchor Extraction
NICOMI
NICOMI
Re revenge chap03-1
Re revenge chap03-1
20110602labseminar pub
20110602labseminar pub
bmb2010_g86
bmb2010_g86
Spotfire_8
Spotfire_8
Tsukubar8
Tsukubar8
Rを用いた解析の実例 Project *ぶろったん*
Rを用いた解析の実例 Project *ぶろったん*
Ajacs17
Ajacs17
ESS
ESS
Diagramパッケージを使ってみる
Diagramパッケージを使ってみる
Recently uploaded
次世代機の製品コンセプトを描く ~未来の機械を創造してみよう~
次世代機の製品コンセプトを描く ~未来の機械を創造してみよう~
Kochi Eng Camp
東京工業大学 環境・社会理工学院 建築学系 大学院入学入試・進学説明会2024_v2
東京工業大学 環境・社会理工学院 建築学系 大学院入学入試・進学説明会2024_v2
Tokyo Institute of Technology
The_Five_Books_Overview_Presentation_2024
The_Five_Books_Overview_Presentation_2024
koheioishi1
生成AIの回答内容の修正を課題としたレポートについて:お茶の水女子大学「授業・研究における生成系AIの活用事例」での講演資料
生成AIの回答内容の修正を課題としたレポートについて:お茶の水女子大学「授業・研究における生成系AIの活用事例」での講演資料
Takayuki Itoh
世界を変えるクレーンを生み出そう! 高知エンジニアリングキャンプ2024プログラム
世界を変えるクレーンを生み出そう! 高知エンジニアリングキャンプ2024プログラム
Kochi Eng Camp
ゲーム理論 BASIC 演習106 -価格の交渉ゲーム-#ゲーム理論 #gametheory #数学
ゲーム理論 BASIC 演習106 -価格の交渉ゲーム-#ゲーム理論 #gametheory #数学
ssusere0a682
TokyoTechGraduateExaminationPresentation
TokyoTechGraduateExaminationPresentation
YukiTerazawa
2024年度 東京工業大学 工学院 機械系 大学院 修士課程 入試 説明会 資料
2024年度 東京工業大学 工学院 機械系 大学院 修士課程 入試 説明会 資料
Tokyo Institute of Technology
Recently uploaded
(8)
次世代機の製品コンセプトを描く ~未来の機械を創造してみよう~
次世代機の製品コンセプトを描く ~未来の機械を創造してみよう~
東京工業大学 環境・社会理工学院 建築学系 大学院入学入試・進学説明会2024_v2
東京工業大学 環境・社会理工学院 建築学系 大学院入学入試・進学説明会2024_v2
The_Five_Books_Overview_Presentation_2024
The_Five_Books_Overview_Presentation_2024
生成AIの回答内容の修正を課題としたレポートについて:お茶の水女子大学「授業・研究における生成系AIの活用事例」での講演資料
生成AIの回答内容の修正を課題としたレポートについて:お茶の水女子大学「授業・研究における生成系AIの活用事例」での講演資料
世界を変えるクレーンを生み出そう! 高知エンジニアリングキャンプ2024プログラム
世界を変えるクレーンを生み出そう! 高知エンジニアリングキャンプ2024プログラム
ゲーム理論 BASIC 演習106 -価格の交渉ゲーム-#ゲーム理論 #gametheory #数学
ゲーム理論 BASIC 演習106 -価格の交渉ゲーム-#ゲーム理論 #gametheory #数学
TokyoTechGraduateExaminationPresentation
TokyoTechGraduateExaminationPresentation
2024年度 東京工業大学 工学院 機械系 大学院 修士課程 入試 説明会 資料
2024年度 東京工業大学 工学院 機械系 大学院 修士課程 入試 説明会 資料
数式を使わずイメージで理解するEMアルゴリズム
1.
数式を使わず イメージで理解する EMアルゴリズム @yag_ays 参考:「パターン認識と機械学習」下巻9章 Machine Learning Advent
Calendar 2013
2.
この図は対数尤度関数とパラメータの関係を おおまかにプロットしたものです ln p(X|✓) (PRML 図9.14参考) ✓
3.
横軸は最適化したいパラメータ 縦軸は最大化したい対数尤度関数の値になっています ln p(X|✓) 対数尤度関数 パラメータ ✓
4.
EMアルゴリズムの目的は対数尤度関数が最大値に なるときのパラメータを求めることです ln p(X|✓) ✓
5.
ただし対数尤度関数を直接最大化することはできません (解析的に求まらない・下図のような形がわからない) ln p(X|✓) ✓
6.
それではEMアルゴリズムで 対数尤度関数を最大化しましょう ln p(X|✓) ✓
7.
まずパラメータの初期値を適当に決めます ln p(X|✓) ✓ ✓
8.
Eステップでは現在のパラメータ値での下界を計算します 青の点線が下界を表しています ln p(X|✓) Eステップ L(q, ✓) ✓ ✓
9.
Mステップで下界を最大化するパラメータを新たに求めます つまり点線の最大値のところにパラメータをずらします ln p(X|✓) Mステップ L(q, ✓) ✓
✓ 0 ✓
10.
あとは同様にEステップとMステップを繰り返します ln p(X|✓) ✓ ✓ 0 ✓
11.
あとは同様にEステップとMステップを繰り返します ln p(X|✓) Eステップ 0 L(q, ✓
) ✓ ✓ 0 ✓
12.
あとは同様にEステップとMステップを繰り返します ln p(X|✓) Mステップ 0 L(q, ✓
) ✓ ✓ 0 ✓ 00 ✓
13.
ある程度パラメータや対数尤度値が収束すれば EMアルゴリズムは終了です ln p(X|✓) ✓ ✓ 0 ✓ 00 ✓
14.
これで対数尤度関数を最大にするパラメータが 求められました! ln p(X|✓) ✓ ✓ 0 ✓ 00 ✓
Download now