数理統計学 II レポート問題
確率論の基礎とランダムウォーク
担当： 平場 誠示
このレポート問題の中から 12/19の小テストをします.
【確率論の基礎(Basics of Proability Theory)】
問 1 確率空間(Ω,F, P)の定義を述べよ.
問 2 (Ω,F, P)を確率空間とするとき,以下が成立することを示せ.
(1) σ-集合体は可算個の集合演算に関して閉じていることを示せ. 即ち,
F をσ-集合体とし，A, B, An ∈ F とする．次もF に属することを示せ．
∅, A∩B, A\B, A△B := (A\B)∪(B\A),
∩∞ n=1
An.
(これからlimAn= lim supAn:= ∩
N≥1
∪
n≥N
An, limAn= lim infAn:= ∪
N≥1
∩
n≥N
An ∈ F も 分かる. lim = inf sup, lim = sup inf と覚えると良い.)
(2) P(∅) = 0,
Ak∈ F (k= 1,2, . . . , n)が互いに素⇒P(∪n
k=1Ak) =∑n
k=1P(Ak) (有限加法性).
(3) A, B∈ F;A⊂B ⇒P(A)≤P(B) (単調性).
(4) An∈ F,An↑ ⇒ P(∪
An
)
= lim
n→∞P(An).
(5) An∈ F,An↓ ⇒ P(∩
An
)
= lim
n→∞P(An). 上のと合わせて確率の単調連続性という.
(6) An∈ F (n≥1) ⇒P(∪
An
)≤∑
P(An) (劣加法性).
(7) (Borel-Cantelliの補題) An∈ F (n≥1), ∑
P(An)<∞ ⇒P (
lim sup
n→∞ An )
= 0, i.e.,P (
lim inf
n→∞ Acn )
= 1.
確率変数X に対して,その分散 (variance)をV(X) :=E[(X−EX)2]で定義する.
問 3 V(X) =E[X2]−(EX)2 を確かめ, (EX)2≤E[X2]を示せ.
問 4 大数の法則(Law of Large Numbers)について,説明し,独立な確率変数列{Xn}があ る 0< p <1 に対し,P(Xn = 1) =p, P(Xn=−1) = 1−pをみたすとき,その平均と分散を求め, 大数の法則から何が成り立つか答えよ.
【マルコフ連鎖とランダムウォーク (Markov Chains & Random Walks)】
A, B∈ F とする. B のもとでの条件付確率をP(A|B) :=P(A∩B)/P(B)で定義する. (但し, P(B)>0でないと意味を持たないので,それは暗黙の了解とする.)
問 5 (1)事象A とB が独立, i.e.,P(A∩B) =P(A)P(B)なら,P(A|B) =P(A)を示せ.
(2)事象列{Bk}nk=1 が互いに素で,事象Aに対し,ある事象C が存在し,P(A|Bk) =P(A|C) (1≤k≤n)をみたしているとする. このときP(A|∪
Bk) =P(A|C)が成り立つことを示せ.
1
問 6 可算集合S 上の時間的一様なMarkov 連鎖(Xn.P)の定義を述べよ.
(Xn.P)を可算集合S 上の時間的一様なMarkov連鎖とする.
n≥0, j, k ∈S に対し, qn(j, k) =P(Xn =k|X0=j) とおき,Qn = (qn(j, k))をn 階推移確 率(行列) (n-step transition probability (matrix)),特に,Q1 をQ= (q(j, k))で表し,単に, 推移確率(行列)という.
問 7 次を示せ.
(1)qn(j, k)≥0,∑
kqn(j, k) = 1 (j∈S),
(2)m, n≥1,j1, . . . , jm, k0, k1, . . . , kn∈S に対して
P(Xn+1=j1, . . . , Xn+m=jm|X0=k0, X1=k1, . . . , Xn=kn)
=P(Xn+1=j1, . . . , Xn+m=jm|Xn=kn)
=q(kn, j1)q(j1, j2)· · ·q(jm−1, jm).
(3)Q0=I:= (δjk) (単位行列),Qn =Qn (n≥1),但し,δjk= 1 (j=k), = 0 (j̸=k).
ˆbfd次元ランダムウォーク(d-dimensional Random Walks) 問 8 (Xn, P)をd次元ランダムウォークとする.
(1) Xn+1−Xn と (X0, X1, . . . , Xn)が独立であることを示せ, i.e., P(Xn+1−Xn=j, X0=k0, X1=k1, . . . , Xn=kn)
= P(Xn+1−Xn =j)P(X0=k0, X1=k1, . . . , Xn=kn).
更にXn+1−Xn とXn も独立であるを示せ. (k0, k1, . . . , kn−1∈Zd で和をとる.)
(2) P(Xn+1=j|X0=k0, X1=k1, . . . , Xn=kn) =P(Xn+1=j|Xn=kn) =pj−kn を示せ.
(これから{Xn} が時間的一様なマルコフ連鎖で,q(j, k) =pk−j も分る.) (3) さらに(Xn, P)が単純ランダムウォークなら,それは既約であることを示せ.
(道のり∥j−k∥:=|j1−k1|+· · ·+|jd−kd| を用いてj̸=k, j=k で分けて考える.) 問 9 一般に Zd 上の原点 0 を出発する確率過程 (Xn, P) に対し, An = {Xn = 0} とおく.
∑
n≥0P(An)<∞なら{Xn} が原点に戻ってくる回数は有限回であることを示せ.
(Borel-Cantelliの補題を用いる.)
問 10 可算集合S上の既約なMarkov連鎖(Xn, P)について,再帰性と過渡性の推移確率qn(j, j) による判定定理を述べよ.
以下,d次元単純ランダムウォークの推移確率 Q= (q(j, k))について考える.
問 11 次が成り立つことを説明せよ.
(1) d= 1のとき q2n(0,0) = (2n
n )
2−2n.
2
(2) d= 2のとき
q2n(0,0) = ∑
j,k≥0;j+k=n
(2n)!
(j!k!)24−2n = (2n
n )∑n
j=0
(n k
)2
4−2n= ((2n
n )
2−2n )2
.
ここで
∑n j=0
(n k
)2
= (2n
n )
が成り立つことを用いたが,これも説明せよ.
[スターリングの公式 (Stirling’s formula)] n!∼√
2πnn+1/2e−n (n→ ∞).
問 12 上の問から1 次元と2 次元のときにスターリングの公式を用いて次を示し, 再帰的とな ることを説明せよ.
q2n(0,0)∼
√1
πn (n→ ∞),(d= 1) 1
πn (n→ ∞).(d= 2) ここで an ∼bn (n→ ∞) ⇐⇒def an/bn →1 (n→ ∞)である.
問 13 d= 3なら適当な正の数C に対して
q2n(0,0)≤Cn−3/2. が成り立つことを用いて,過渡的となることを説明せよ.
上の不等式は次のように証明される.
q2n(0,0) = ∑
j,k,m≥0;j+k+m=n
(2n)!
(j!k!m!)26−2n で, 3項展開公式より
q2n(0,0)≤cn
(2n)!
n! 3n6−2n
をえる. ここで cn= maxj,k,m≥0;j+k+m=n(j!k!m!)−1 である. さらにこのcn に対し, 次が成り立 つことから,再びスターリングの公式を用いれば題意をえる.
(0.1) cn≤c3n+3/2n−n−3/2en (c >0 はn≥1に無関係な定数).
実際,nを 3で割っていくつ余るかで場合分けして
(0.2) cn ≤
(m!)−3 (n= 3m)
(m!)−2((m+ 1)!)−1 (n= 3m+ 1) (m!)−1((m+ 1)!)−2 (n= 3m+ 2) が分るので,スターリングの公式より,ある定数c1, c2>0 が存在して
c1nn+1/2e−n≤n!≤c2nn+1/2e−n
をみたすので上に代入すればよい.
問 14 上の式(0.2)を示し,それを用いて(0.1)を導き,d= 3の証明(計算)を確かめよ.
3
