樋口さぶろお
龍谷大学大学院理工学研究科数理情報学専攻
理論物理学特論 L11(2014-06-27 Fri)
今日の目標
1 詳細釣合の条件を説明できる
2 Metropolis-Hastings アルゴリズムに基づくプロ
グラムを書ける
http://hig3.net
詳細つりあいの条件とMCMC
Quiz(マルコフ過程)
次の遷移行列に従う x= 1,2,3の3状態からなるマルコフ連鎖を考え よう.
T1(x|x′) =Txx′ =
x\x′ 1 2 3 1 107 101 301 2 15 35 15 3 101 103 2330
1 定常分布をひとつ求めよう.
2 P(1,0) =P(2,0) =P(3,0) = 13 のとき,⃗u(t) =
(P(1,t)
P(2,t) P(3,t)
)
を求めよ う. 極限 t→ ∞ で定常分布に近づく?
3 プログラムを作成して,適当な初期条件のもとで直接に計算すること により,P(x, t) を求めよう. 横軸 t,縦軸 P(x, t) で時間変化をグラ フに描こう. そのデータから,定常状態や,そこへの収束の様子(を
Quiz解答:マルコフ過程
1 固有値 λ= 1 に対応するT の固有ベクトルで,確率ベクトルの条件
∑
iui= 1 より,⃗u(∞) = 16 (1
23
) .
2 a, b, c を初期条件から定まる定数として,
⃗ u(t) =
1 −1 1
−4 0 2
3 1 3
(25)t (23)t
1t
a b c
. 初期条件⃗u(0) = 13
(1
11
)より,a= 0, b=−c=−16 すなわち,
⃗ u(t) = 16
(1
23
)− 16(23)t ( 1
−01
) . よって,t→ ∞ で定常状態に近づくことがわかる.
3
詳細つりあいの条件とMCMC
マルコフ連鎖のシミュレーション
Metropolis-Hastings
x= 1,2, . . . , N.T(x|x′) =
1 N−1min
(p(x) p(x′),1
)
(x̸=x′)
1− ∑
x′′(̸=x′)
T(x′′|x′) (x̸=x′) 数式内の変数の置換(x↔x′)後の式
T(x′|x) =
1 N−1min
(p(x′) p(x),1
)
(x′̸=x) 1− ∑
x′′(̸=x)
T(x′′|x) (x′̸=x)
マルコフ連鎖のシミュレーション
この遷移確率は詳細つりあいを満たす
Metropolis-Hastings(
重み付き)
x= 1,2, . . . , N.T(x|x′) =
g(x|x′) min (p(x)
p(x′) g(x′|x) g(x|x′),1
)
(x̸=x′)
1− ∑
x′′(̸=x′)
T(x′′|x′) (x̸=x′)
g は‘ergodic’ な条件つき確率.
∑N x′=1
g(x′|x) = 1,g(x|x) = 0.
マルコフ連鎖のシミュレーション
L11-Q1
Quiz(Metropolis-Hastings
法)サンプルプログラムを書き替えて, Metropolis-Hastings法で,次の分布に 従う標本を抽出してみよう. ∼は比例を表す.
1 離散 p(x)∼sinxπ10,x= 1, . . . ,9.
2 離散 p(x)∼x,x= 1, . . . ,10.
3 連続 p(x)∼max(0,4−x2).
4 連続 p(x)∼e−x2/2
5 連続 p(x)∼
{|x| (|x| ≤2) 0 (|x| ≥2)