2013.10.2.
確率変数列の収束
加藤 賢悟
このノートでは,確率変数列の収束概念を復習する1.以下,Xn, n ≥ 1 を確率変数列とし,Xを別の確率変数とする(Xは定数でもよい).まず確 率収束の定義を与える.
定義(確率収束). XnがXに確率収束するとは,任意のϵ > 0に対して,
n→∞lim P (|Xn− X| > ϵ) = 0
が成り立つことである.このとき, Xn→ Xp
と書く.//
次に分布収束の定義を与える.Xn, Xの分布関数をそれぞれFn, Fと書く. 例えば,
Fn(x) = P (Xn≤ x), x ∈ R
である.
定義(分布収束). XnがXに分布収束するとは,Fの任意の連続点xに対 して,
n→∞lim Fn(x) = F (x),
が成り立つことである.このとき,
Xn→ X, or, Xd n→ Fd
1こういった諸概念を真面目に理解しようとする場合,(測度論的)確率論を勉強する必要が
ある.統計を勉強する場合,確率論は言語のようなものなので,早めに勉強したほうがよい. 比較的平易な教科書として,舟木直久「確率論」朝倉書店,Renick, S. “A Probability Path”
Birkhauserなどがある.Resnickの本はアメリカの統計学科の大学院一年生向けの確率論の
講義でよく使用される教科書である.
1
と書く.//
極限分布として特に重要なのは標準正規分布N (0, 1)である.標準正規分 布とは,確率密度関数
ϕ(x) = √1 2πe
−x2/2
, を持つ確率分布であり,その分布関数は
Φ(x) =
∫ x
−∞
ϕ(t)dt
で与えられる.関数Φ(x)はR上で連続なので,特に, Xn→ Φ ⇔ limd
n→∞Fn(x) = Φ(x), ∀x ∈ R である.また,Xn
→ Φd のことを
Xn→ N(0, 1)d
とも書いたりする.確率収束と分布収束の関係をまとめておく. 定理(確率収束と分布収束の関係).(i)一般に,
Xn→ X ⇒ Xp n→ X.d (ii) Xが定数aに恒等的に等しいとき,
Xn→ a ⇔ Xp n→ a.d //
次に紹介する連続写像の定理とスラツキーの定理は重要なので,理解し応 用できるようになっておくとよい.
定理(連続写像の定理).集合Cを
P (X ∈ C) = 1
となるようにとる(C = Rでもよい).f : R → RはC上で連続な関数とし, Xn→ Xd を仮定する.このとき,
f (Xn)→ f(X).d 2
//
例えば,f (x) = |x|, Xn→ X, X ∼ N(0, 1)d とすると,
|Xn|→ |X|d
であり,|X|の分布関数は連続なので,
n→∞lim P (|Xn| ≤ t) = P (|X| ≤ t), ∀t ∈ R
が成り立つ. また,Xn
→ X ≡ a (ad は定数)とすると,
P (X ∈ {a}) = 1.
よって,f : R → Rがx = aで連続ならば,
f (Xn)→ f(a),d 従って, f (Xn)→ f(a)p
が成り立つ.特に,a ̸= 0ならば,f (x) = 1/x, x ̸= 0, f(0) = 0なるf (x)は x = aで連続だから,
1 Xn
→p 1a
が従う.次のスラツキーの定理も統計では重要である. 定理(スラツキー).Xn, Ynを確率変数列とし,Xn
→ X, Yd n→ ap とする.た だし,X, aはそれぞれ確率変数,定数とする.このとき,
Xn+ Yn→ X + a, Yd nXn→ aX.d //
例えば,a ̸= 0なら,先ほどの議論より,1/Yn
→ 1/ap であり,したがっ
て,スラツキーの定理を用いると, Xn
Yn
→d Xa
が成り立つ.よくある応用例として,Xn
→ N(0, σd 2), σ > 0, Yn→ σp である とき,
Xn Yn
→d Xσ ∼ N(0, 1)
3
が言える.
最後に,リンドバーグ・フェラーの中心極限定理を紹介してこのノートを 終わることにする.以下,各n ≥ 1に対して,三角列Xn1, . . . , Xn,knが与え
られているものとする.
X11, . . . , X1,k1 X21, . . . , . . . , X2,k2 ...
Xn1, . . . , . . . , . . . , Xn,kn, ...
定理(リンドバーグ・フェラー).各行nに対して,Xn1, . . . , Xn,knは独立で
あって,E[Xni] = 0, i = 1 . . . , knをみたすとする. s2n=
kn
∑
i=1
E[Xni2 ]
とおき,十分大きな任意のnに対してs2
n> 0を仮定する.このとき,任意の ϵ > 0に対して,リンドバーグ条件
1 s2n
kn
∑
i=1
E[Xni2I(|Xni| > ϵsn)] → 0, n → ∞
が成り立つならば, 1 sn
kn
∑
i=1
Xni→ N(0, 1), n → ∞d
が成り立つ.//
4