Submit Search
Upload
#みどりぼん 11章「空間構造のある階層ベイズモデル」後半
•
5 likes
•
5,055 views
Katsushi Yamashita
Follow
データ解析のための統計モデリング入門読書会 最終回 11章「空間構造のある階層ベイズモデル」後半 2014/10/21
Read less
Read more
Science
Report
Share
Report
Share
1 of 13
Download now
Download to read offline
Recommended
負の二項分布について
負の二項分布について
Hiroshi Shimizu
MIRU2016 チュートリアル
MIRU2016 チュートリアル
Shunsuke Ono
RでGARCHモデル - TokyoR #21
RでGARCHモデル - TokyoR #21
horihorio
状態空間モデルの考え方・使い方 - TokyoR #38
状態空間モデルの考え方・使い方 - TokyoR #38
horihorio
MCMCサンプルの使い方 ~見る・決める・探す・発生させる~
MCMCサンプルの使い方 ~見る・決める・探す・発生させる~
. .
階層ベイズによるワンToワンマーケティング入門
階層ベイズによるワンToワンマーケティング入門
shima o
coordinate descent 法について
coordinate descent 法について
京都大学大学院情報学研究科数理工学専攻
一般化線形モデル (GLM) & 一般化加法モデル(GAM)
一般化線形モデル (GLM) & 一般化加法モデル(GAM)
Deep Learning Lab(ディープラーニング・ラボ)
Recommended
負の二項分布について
負の二項分布について
Hiroshi Shimizu
MIRU2016 チュートリアル
MIRU2016 チュートリアル
Shunsuke Ono
RでGARCHモデル - TokyoR #21
RでGARCHモデル - TokyoR #21
horihorio
状態空間モデルの考え方・使い方 - TokyoR #38
状態空間モデルの考え方・使い方 - TokyoR #38
horihorio
MCMCサンプルの使い方 ~見る・決める・探す・発生させる~
MCMCサンプルの使い方 ~見る・決める・探す・発生させる~
. .
階層ベイズによるワンToワンマーケティング入門
階層ベイズによるワンToワンマーケティング入門
shima o
coordinate descent 法について
coordinate descent 法について
京都大学大学院情報学研究科数理工学専攻
一般化線形モデル (GLM) & 一般化加法モデル(GAM)
一般化線形モデル (GLM) & 一般化加法モデル(GAM)
Deep Learning Lab(ディープラーニング・ラボ)
関数データ解析の概要とその方法
関数データ解析の概要とその方法
Hidetoshi Matsui
変分ベイズ法の説明
変分ベイズ法の説明
Haruka Ozaki
階層ベイズと自由エネルギー
階層ベイズと自由エネルギー
Hiroshi Shimizu
StanとRでベイズ統計モデリングに関する読書会(Osaka.stan) 第四章
StanとRでベイズ統計モデリングに関する読書会(Osaka.stan) 第四章
nocchi_airport
相関と因果について考える:統計的因果推論、その(不)可能性の中心
相関と因果について考える:統計的因果推論、その(不)可能性の中心
takehikoihayashi
Rにおける大規模データ解析(第10回TokyoWebMining)
Rにおける大規模データ解析(第10回TokyoWebMining)
Shintaro Fukushima
質的変数の相関・因子分析
質的変数の相関・因子分析
Mitsuo Shimohata
ネットワークメタ分析入門
ネットワークメタ分析入門
Senshu University
A summary on “On choosing and bounding probability metrics”
A summary on “On choosing and bounding probability metrics”
Kota Matsui
渡辺澄夫著「ベイズ統計の理論と方法」5.1 マルコフ連鎖モンテカルロ法
渡辺澄夫著「ベイズ統計の理論と方法」5.1 マルコフ連鎖モンテカルロ法
Kenichi Hironaka
Rで因子分析 商用ソフトで実行できない因子分析のあれこれ
Rで因子分析 商用ソフトで実行できない因子分析のあれこれ
Hiroshi Shimizu
異常検知と変化検知 9章 部分空間法による変化点検知
異常検知と変化検知 9章 部分空間法による変化点検知
hagino 3000
PRML読み会第一章
PRML読み会第一章
Takushi Miki
階層ベイズとWAIC
階層ベイズとWAIC
Hiroshi Shimizu
StanとRでベイズ統計モデリング読書会Ch.9
StanとRでベイズ統計モデリング読書会Ch.9
考司 小杉
幾何を使った統計のはなし
幾何を使った統計のはなし
Toru Imai
Stanでガウス過程
Stanでガウス過程
Hiroshi Shimizu
統計的因果推論 勉強用 isseing333
統計的因果推論 勉強用 isseing333
Issei Kurahashi
pymcとpystanでベイズ推定してみた話
pymcとpystanでベイズ推定してみた話
Classi.corp
アンサンブル学習
アンサンブル学習
Hidekazu Tanaka
『ビッグデータ時代を勝ち抜くデータマネジメント』 セミナー資料
『ビッグデータ時代を勝ち抜くデータマネジメント』 セミナー資料
Akihiko Uchino
マーケティングサイエンス徹底入門と実践Part2
マーケティングサイエンス徹底入門と実践Part2
宏喜 佐野
More Related Content
What's hot
関数データ解析の概要とその方法
関数データ解析の概要とその方法
Hidetoshi Matsui
変分ベイズ法の説明
変分ベイズ法の説明
Haruka Ozaki
階層ベイズと自由エネルギー
階層ベイズと自由エネルギー
Hiroshi Shimizu
StanとRでベイズ統計モデリングに関する読書会(Osaka.stan) 第四章
StanとRでベイズ統計モデリングに関する読書会(Osaka.stan) 第四章
nocchi_airport
相関と因果について考える:統計的因果推論、その(不)可能性の中心
相関と因果について考える:統計的因果推論、その(不)可能性の中心
takehikoihayashi
Rにおける大規模データ解析(第10回TokyoWebMining)
Rにおける大規模データ解析(第10回TokyoWebMining)
Shintaro Fukushima
質的変数の相関・因子分析
質的変数の相関・因子分析
Mitsuo Shimohata
ネットワークメタ分析入門
ネットワークメタ分析入門
Senshu University
A summary on “On choosing and bounding probability metrics”
A summary on “On choosing and bounding probability metrics”
Kota Matsui
渡辺澄夫著「ベイズ統計の理論と方法」5.1 マルコフ連鎖モンテカルロ法
渡辺澄夫著「ベイズ統計の理論と方法」5.1 マルコフ連鎖モンテカルロ法
Kenichi Hironaka
Rで因子分析 商用ソフトで実行できない因子分析のあれこれ
Rで因子分析 商用ソフトで実行できない因子分析のあれこれ
Hiroshi Shimizu
異常検知と変化検知 9章 部分空間法による変化点検知
異常検知と変化検知 9章 部分空間法による変化点検知
hagino 3000
PRML読み会第一章
PRML読み会第一章
Takushi Miki
階層ベイズとWAIC
階層ベイズとWAIC
Hiroshi Shimizu
StanとRでベイズ統計モデリング読書会Ch.9
StanとRでベイズ統計モデリング読書会Ch.9
考司 小杉
幾何を使った統計のはなし
幾何を使った統計のはなし
Toru Imai
Stanでガウス過程
Stanでガウス過程
Hiroshi Shimizu
統計的因果推論 勉強用 isseing333
統計的因果推論 勉強用 isseing333
Issei Kurahashi
pymcとpystanでベイズ推定してみた話
pymcとpystanでベイズ推定してみた話
Classi.corp
アンサンブル学習
アンサンブル学習
Hidekazu Tanaka
What's hot
(20)
関数データ解析の概要とその方法
関数データ解析の概要とその方法
変分ベイズ法の説明
変分ベイズ法の説明
階層ベイズと自由エネルギー
階層ベイズと自由エネルギー
StanとRでベイズ統計モデリングに関する読書会(Osaka.stan) 第四章
StanとRでベイズ統計モデリングに関する読書会(Osaka.stan) 第四章
相関と因果について考える:統計的因果推論、その(不)可能性の中心
相関と因果について考える:統計的因果推論、その(不)可能性の中心
Rにおける大規模データ解析(第10回TokyoWebMining)
Rにおける大規模データ解析(第10回TokyoWebMining)
質的変数の相関・因子分析
質的変数の相関・因子分析
ネットワークメタ分析入門
ネットワークメタ分析入門
A summary on “On choosing and bounding probability metrics”
A summary on “On choosing and bounding probability metrics”
渡辺澄夫著「ベイズ統計の理論と方法」5.1 マルコフ連鎖モンテカルロ法
渡辺澄夫著「ベイズ統計の理論と方法」5.1 マルコフ連鎖モンテカルロ法
Rで因子分析 商用ソフトで実行できない因子分析のあれこれ
Rで因子分析 商用ソフトで実行できない因子分析のあれこれ
異常検知と変化検知 9章 部分空間法による変化点検知
異常検知と変化検知 9章 部分空間法による変化点検知
PRML読み会第一章
PRML読み会第一章
階層ベイズとWAIC
階層ベイズとWAIC
StanとRでベイズ統計モデリング読書会Ch.9
StanとRでベイズ統計モデリング読書会Ch.9
幾何を使った統計のはなし
幾何を使った統計のはなし
Stanでガウス過程
Stanでガウス過程
統計的因果推論 勉強用 isseing333
統計的因果推論 勉強用 isseing333
pymcとpystanでベイズ推定してみた話
pymcとpystanでベイズ推定してみた話
アンサンブル学習
アンサンブル学習
Viewers also liked
『ビッグデータ時代を勝ち抜くデータマネジメント』 セミナー資料
『ビッグデータ時代を勝ち抜くデータマネジメント』 セミナー資料
Akihiko Uchino
マーケティングサイエンス徹底入門と実践Part2
マーケティングサイエンス徹底入門と実践Part2
宏喜 佐野
Rを用いたLTV(Life Time Value)の推定
Rを用いたLTV(Life Time Value)の推定
宏喜 佐野
みどりぼん第11回 前半
みどりぼん第11回 前半
Atsushi Hayakawa
分析のビジネス展開を考える―状態空間モデルを例に @TokyoWebMining #47
分析のビジネス展開を考える―状態空間モデルを例に @TokyoWebMining #47
horihorio
データ解析のための統計モデリング入門10章前半
データ解析のための統計モデリング入門10章前半
Shinya Akiba
ベイジアンモデリングによるマーケティングサイエンス〜状態空間モデルを用いたモデリング
ベイジアンモデリングによるマーケティングサイエンス〜状態空間モデルを用いたモデリング
宏喜 佐野
はじめよう多変量解析~主成分分析編~
はじめよう多変量解析~主成分分析編~
宏喜 佐野
【3時間で学ぶ! スモールサクセス型『カスタマージャーニー分析』】 slideshare公開用
【3時間で学ぶ! スモールサクセス型『カスタマージャーニー分析』】 slideshare公開用
Akihiko Uchino
Viewers also liked
(9)
『ビッグデータ時代を勝ち抜くデータマネジメント』 セミナー資料
『ビッグデータ時代を勝ち抜くデータマネジメント』 セミナー資料
マーケティングサイエンス徹底入門と実践Part2
マーケティングサイエンス徹底入門と実践Part2
Rを用いたLTV(Life Time Value)の推定
Rを用いたLTV(Life Time Value)の推定
みどりぼん第11回 前半
みどりぼん第11回 前半
分析のビジネス展開を考える―状態空間モデルを例に @TokyoWebMining #47
分析のビジネス展開を考える―状態空間モデルを例に @TokyoWebMining #47
データ解析のための統計モデリング入門10章前半
データ解析のための統計モデリング入門10章前半
ベイジアンモデリングによるマーケティングサイエンス〜状態空間モデルを用いたモデリング
ベイジアンモデリングによるマーケティングサイエンス〜状態空間モデルを用いたモデリング
はじめよう多変量解析~主成分分析編~
はじめよう多変量解析~主成分分析編~
【3時間で学ぶ! スモールサクセス型『カスタマージャーニー分析』】 slideshare公開用
【3時間で学ぶ! スモールサクセス型『カスタマージャーニー分析』】 slideshare公開用
More from Katsushi Yamashita
CROSS 2015 全文検索群雄割拠
CROSS 2015 全文検索群雄割拠
Katsushi Yamashita
「データ解析のための統計モデリング入門」読書会 最終回 クロージング
「データ解析のための統計モデリング入門」読書会 最終回 クロージング
Katsushi Yamashita
第1回「データ解析のための統計モデリング入門」読書会 オープニング
第1回「データ解析のための統計モデリング入門」読書会 オープニング
Katsushi Yamashita
elasticsearch-hadoopをつかってごにょごにょしてみる
elasticsearch-hadoopをつかってごにょごにょしてみる
Katsushi Yamashita
Spot Instance + Spark + MLlibで実現する簡単低コスト機械学習
Spot Instance + Spark + MLlibで実現する簡単低コスト機械学習
Katsushi Yamashita
はじパタ 10章 クラスタリング 前半
はじパタ 10章 クラスタリング 前半
Katsushi Yamashita
More from Katsushi Yamashita
(6)
CROSS 2015 全文検索群雄割拠
CROSS 2015 全文検索群雄割拠
「データ解析のための統計モデリング入門」読書会 最終回 クロージング
「データ解析のための統計モデリング入門」読書会 最終回 クロージング
第1回「データ解析のための統計モデリング入門」読書会 オープニング
第1回「データ解析のための統計モデリング入門」読書会 オープニング
elasticsearch-hadoopをつかってごにょごにょしてみる
elasticsearch-hadoopをつかってごにょごにょしてみる
Spot Instance + Spark + MLlibで実現する簡単低コスト機械学習
Spot Instance + Spark + MLlibで実現する簡単低コスト機械学習
はじパタ 10章 クラスタリング 前半
はじパタ 10章 クラスタリング 前半
#みどりぼん 11章「空間構造のある階層ベイズモデル」後半
1.
データ解析のための 統計モデリング入門 11章後半
@yamakatu 2014/10/21 #みどりぼん 11th
2.
ざっくり前半の話 • 場所差が独立に決まる(10章)のでなく、空間相関があ
る場合のGLMMを考える • 空間相関:「近くは似てて、遠くは似てない」とか(今 回は一次元) • 場所差を表すパラメータrj の階層事前分布(正規分布) のパラメータ平均μを、両隣のrj の平均値とすることで、 相互作用を表現 • このような自己回帰する事前分布をCARモデルと呼ぶ • 今回はその中でも色々制約ついたintrinsic gaussian CARモ デル • そんな感じの階層ベイズモデルをつくってみたら上手く いった
3.
11.4 空間統計モデルが作り出す 確率場
• 相互作用する確率変数で埋め尽くされた空間を確率場 (random field)と呼ぶ • 本章前半で利用したrjも確率場の一種 • rj の階層事前分布(正規分布)のパラメータ平均μjは μ j = rj−1 + rj+1 2 なので相互作用している • rj の階層事前分布は正規分布なので、確率場の中でもガ ウス確率場と呼ばれる
4.
確率場{rj}に対するsの影響を見て みる •
11章前半で定義 • ポアソン分布+対数リンク関数 • λj = exp(β + rj) • rjの階層事前分布は正規分布で • 平均 • 標準偏差 μ j = rj−1 + rj+1 2 • パラメータはβとsの二つ • パラメータβを固定(β = 2.27)してみる • ここでsを{0.0316, 0.224, 10.0}と変えてみる s = s nj
5.
sが小さい程、rjは 両隣と似ている値 になる
s = 0.0316 s = 0.224 s = 10.0 sが大きい程、rjは 両隣の値と関係な い値をとる
6.
つまり • この確率場は少数の大域的パラメータ(今回はsのみ)に
コントロールされていると言える。
7.
11.5 空間相関モデルと欠測のあ る観測データ
• 空間相関を組み込んだ階層ベイズモデルの強み • パラメータの推定がより正確になる(前半の話) • 欠測のあるデータに対してより良い予測が得られることが ある(←イマココ)
8.
欠測しちゃった • 上:前半で利用した観測
値 • 下:上の観測値から意図 的にいくつかを欠測させ た(黒点が欠測値)
9.
vs. 欠測データ •
このような欠測があるデータに対する、あてはまりの良 さを、 • 空間相関モデル • 空間相関を無視した階層ベイズモデル • で比較するお
10.
結果 • 左:空間相関を考慮しているモデル(空間相関モデル)
• 右:空間相関を考慮していないモデル • 空間相関を考慮したモデルの方がより欠測データが正し く予測できている • 予測区間の狭さ • 局所密度のなめらかさ
11.
空間相関モデルの場合 • パラメータrjの階層事前分布(正規分布)で、隣同士のrj
の値を利用している • 結果、欠測がない場合とかなり近い分布になった • 左:欠測データなし(P.250 図11.4) • 右:欠測データあり
12.
空間相関を考慮しないモデルの場 合 •
(10章と同じく)パラメータrj の階層事前分布(正規分 布)は平均0、標準偏差sの正規分布 • ➡手がかりがない • その結果、 • yiに合わせようとするので、局所密度はギザギザになる • 予測区間の範囲が広くなってしまう さーせん。この表現は イマイチ良くわかんなかった
13.
11.6 まとめ •
前半 • 空間構造のあるデータをモデル化する場合、空間相関を考 慮する • 空間相関のある場所差を生成するには intrincsic gaussian CAR モデルを使う • 後半 • 空間相関のある場所差は確率場を使って表現できる • 空間相関を考慮した階層ベイズモデルは、観測データの欠 測部分を予測するような用途にも使える。
Download now