³ÎΨÏÀ

確率論

中島 誠

2017 年 12 月 12 日

レポートの出題ミス

前回提出してもらったレポートの問題 2.1 ですが間違いがありました.

C, D が π-族

C, D の条件として次の条件を加えなければいけません. A1, A2∈ C ⇒ A1∩ A2∈ C A3, A4∈ D ⇒ A1∩ A2∈ D Makoto Nakashima 確率論 2017 年 12 月 12 日 2 / 22

前回の講義の復習

独立性に関する不等式等を確認した.

確率変数の収束の定義 (概収束, 確率収束, Lp_{-収束) を与えた.}

これ以降は測度論に関するが話題や手法が頻出する. 今一度確認して置くとよい.

前回の講義の復習

独立性に関する不等式等を確認した.

確率変数の収束の定義 (概収束, 確率収束, Lp_{-収束) を与えた.}

これ以降は測度論に関するが話題や手法が頻出する. 今一度確認して置くとよい.

定義

(Ω,F, P ): 確率空間. X, {Xn: n≥ 1}: Ω 上の実数値確率変数, 実数値確率変 数列. Xnが X へ概収束: P ({ ω : lim n_→∞Xn(ω) = X(ω) }) = 1 Xnが X へ確率収束 任意のε > 0 に対して lim n→∞P ({ω : |Xn(ω)− X(ω)| > ε}) = 0 1≤ p < ∞ に対して |Xn|, |X| ∈ Lp(P ) とする. Xnが X へ Lp収束 lim n→∞∥Xn− X∥p= 0 を満たすときを言う. ただし X∈ Lp_{(P ) に対して} ∥X∥p= E[|X|p]1/p とする. Makoto Nakashima 確率論 2017 年 12 月 12 日 4 / 22

特にこれらの収束には次の関係が知られている.

命題 3.1

X,{Xn: n≥ 1} を Ω 上の実数値確率変数とする. このとき以下が成り立つ. (i) Xn→ X, P -a.s. ⇒ Xn P → X. (ii) Xn Lp → X ⇒ Xn P → X. (iii) Xn P → X ⇒ 部分列 {Xnk : k≥ 1} で Xnk→ X, P -a.s. となるものが存在 する. Figure:それぞれの収束の関係. Lp_{-収束から概収束は確率収束を経由すると部分列で概収} 束するものが存在することはわかる. Makoto Nakashima 確率論 2017 年 12 月 12 日 5 / 22

収束の違い

例題 3.1 確率収束

̸⇒ 概収束

確率空間 ([0, 1],B([0, 1]), dx) を考える. [0, 1] 上の確率変数 Xnを次のように定 義する. Xn(x) = 1I_n(x). ただし, In= [ k− 1 2ℓ , k 2ℓ ] , n = 2ℓ+ k, 0≤ k ≤ 2ℓ− 1 とおく. このとき任意の x∈ [0, 1] に対して Xn(x) = 1 となるような n が無限個 存在するので Xn ̸→ 0, P -a.s. 一方, 0 < ε < 1 に対して P (|Xn| > ε) = 2−ℓ (確率収束) Makoto Nakashima 確率論 2017 年 12 月 12 日 6 / 22

例題 3.2 確率収束

̸⇒ L

p

_{-収束, 概収束}

_{̸⇒ L}

p

_-収束

確率空間 ([0, 1],B([0, 1]), dx) を考える. [0, 1] 上の確率変数 Xnを次のように定 義する. Xn(x) = n1/p1In(x). ただし, In= [ 0,1 n ] とする. このとき Xnが 0 に確率収束, 概収束することは明らか. 一方, E [|Xn|p] = ∫ 1 0 ( n1/p1I_n )p dx = 1 となり 0 に Lp_{-収束しないことがわかる.} Makoto Nakashima 確率論 2017 年 12 月 12 日 7 / 22

概収束は測度論の “ほとんど至る所での収束”と同じ⇒ 測度論で用いた収束定理 が適用可能.

定理 3.1

X: 確率変数. {Xn : n≥ 1}: 確率変数列. (i) (単調収束定理){Xn: n≥ 1} が非負で単調増加, かつ Xn→ X P -a.s. であ るとする. このとき lim n_→∞E[Xn] = E[X]. (ii) (ファトゥの補題){Xn : n≥ 1} が非負であるとする. このとき lim n→∞ E[Xn]≥ E[ lim n→∞ Xn]. (iii) (ルベーグの収束定理) Xn→ X, P -a.s. と仮定する. 非負確率変数 Y で E[Y ] <∞ かつ |Xn| ≤ Y, P -a.s. を満たすとする. このとき lim n_→∞E[Xn] = E[X] Makoto Nakashima 確率論 2017 年 12 月 12 日 8 / 22

Figure:それぞれの収束の関係.

さてサイコロを n 回投げて 1 が出る回数の割合を考える. 予想では Sn n “→ ” 1 6 (3.1) ということだった. どの収束の意味で成立するだろうか?

定理 3.2 (大数の弱法則)

{Xn: n≥ 1}: R-値 i.i.d. 確率変数. m = E[X1], σ2= V (X1) <∞. (i) lim n→∞E [  X1+· · · + X_n n − m 2] = 0. つまり X1+· · · + Xn n L2 → m. (ii) 任意の ε > 0 に対して lim n→∞P ( X1+· · · + Xn n − m   > ε)= 0. (iii) R 上の有界ボレル可測関数 f が x = m で連続であるとき lim n_→∞E [ f ( X1+· · · + Xn n )] = f (m). 定理 3.2 より (3.1) は L2_{-収束および確率収束することがわかる.} Makoto Nakashima 確率論 2017 年 12 月 12 日 10 / 22

さてサイコロを n 回投げて 1 が出る回数の割合を考える. 予想では Sn n “→ ” 1 6 (3.1) ということだった. どの収束の意味で成立するだろうか?

定理 3.2 (大数の弱法則)

{Xn: n≥ 1}: R-値 i.i.d. 確率変数. m = E[X1], σ2= V (X1) <∞. (i) lim n→∞E [  X1+· · · + X_n n − m 2] = 0. つまり X1+· · · + Xn n L2 → m. (ii) 任意の ε > 0 に対して lim n→∞P ( X1+· · · + Xn n − m   > ε)= 0. (iii) R 上の有界ボレル可測関数 f が x = m で連続であるとき lim n_→∞E [ f ( X1+· · · + Xn n )] = f (m). 定理 3.2 より (3.1) は L2_{-収束および確率収束することがわかる.} Makoto Nakashima 確率論 2017 年 12 月 12 日 10 / 22

(i), (ii)

の証明

(i) 命題 2.1 より E [  X1+· · · + X_n n − m 2] = V (X1) n = σ2 n となるので L2_{-収束することがわかる.} (ii) L2_{-収束するので確率収束することがわかる.} Makoto Nakashima 確率論 2017 年 12 月 12 日 11 / 22

(iii)

の証明

(iii) ε > 0 に対して  E[f ( X1+· · · + Xn n )] − f(m) =E [ f ( X1+· · · + Xn n ) − f(m)] ≤E [ f ( X1+· · · + Xn n ) − f(m) :X1+· · · + Xn n − m   > ε] +E [ f ( X1+· · · + Xn n ) − f(m) :X1+· · · + Xn n − m   ≤ ε] ≤ sup |x−m|≤ε|f(x) − f(m)| + 2∥f∥∞ P(X1+· · · + Xn n − m   > ε) ≤ sup |x−m|≤ε|f(x) − f(m)| + 2∥f∥∞ σ2 ε2_n. n→ ∞ で上極限をとり, f の x = m での連続性を用いると得られる. Makoto Nakashima 確率論 2017 年 12 月 12 日 12 / 22

大数の弱法則を用いる応用例をここで述べておく.

例題 3.3 (ワイエルシュトラスの多項式近似)

[0, 1] 上の連続関数 f とする. fn(x) = n ∑ m=0 ( n m ) xm(1− x)n−mf (_m n ) を f に対する次元 n のベルンシュタイン多項式とする. このとき lim n→∞_xsup_∈[0,1]|fn(x)− f(x)| → 0 である. Makoto Nakashima 確率論 2017 年 12 月 12 日 13 / 22

例題

3.3

の証明

{Xn: n≥ 1} を独立同分布な確率変数で P (Xn= 1) = p = 1− P (Xn= 0) を満 たすものとする (p∈ [0, 1]). このとき E[Xn] = p, V (Xn) = p(1− p) である. Sn= n ∑ k=1 Xk とおく. このとき P (Sn= m) = ( n m ) pm(1− p)n−m であり, E [ f ( Sn n )] = fn(p) である. Makoto Nakashima 確率論 2017 年 12 月 12 日 14 / 22

続き

[0, 1] 上の連続関数は一様連続なので sup x,y∈[0,1],|x−y|<δ |f(x) − f(y)| ≤ ε となる δ が存在する. このような δ > 0 に対して定理 3.2(iii) の証明を適用すると [fn(p)− f(p)] ≤ sup |x−p|≤δ|f(x) − f(p)| + 2∥f∥∞ σ2 δ2_n ≤ ε + 2∥f∥∞ σ2 δ2_n となる. 右辺は p に依らず n→ ∞ とすると lim n→∞_psup_∈[0,1]|fn(p)− f(p)| ≤ ε を得る. Makoto Nakashima 確率論 2017 年 12 月 12 日 15 / 22

問 3.2

確率変数列_{Xn : n≥ 1} が ∑ n≥1 E[|Xn|] < ∞ を満たすとする. このとき ∑ n_≥1 |Xn| < ∞, P -a.s. であり, E  ∑ n≥1 Xn   =∑ n≥1 E[Xn] であることを示せ. Makoto Nakashima 確率論 2017 年 12 月 12 日 16 / 22

単調収束定理より ∑ n_≥1 E[|Xn|] = E  ∑ n_≥1 |Xn|   である. 右辺の期待値が有限なので∑ n_≥1 |Xn| < ∞, P -a.s. がわかる. (積分の 定義) 後半はルベーグの収束定理を用いれば良い. Makoto Nakashima 確率論 2017 年 12 月 12 日 17 / 22

ファトゥの補題やルベーグの収束定理は確率収束の場合にも適用できる.

問 3.3

X, Xn(n≥ 1) を確率変数列とする. 以下の問いに答えよ. (i) (ファトゥの補題){Xn : n≥ 1} が非負であるとする. Xn P → X とする. こ のとき lim n_→∞ E[Xn]≥ E[X] が成り立つことを示せ. (ii) (ルベーグの収束定理) Xn→ X と仮定する. 非負確率変数 Y で E[Y ] < ∞P で |Xn| ≤ Y, P -a.s. を満たすとする. このとき lim n→∞E[Xn] = E[X] が成り立つことを示せ. Makoto Nakashima 確率論 2017 年 12 月 12 日 18 / 22

注意しなければいけないことは_{Xn: n≥ 1} は Ω の関数としてほとんどいたる ところ収束する (概収束) とは限らないということである. これまでのファトゥの補題は Xn(ω)→ X(ω) ほとんどいたるところ ⇒ lim n→∞ ∫ Ω Xn(ω)P (dω)≥ ∫ Ω X(ω)P (dω) というように関数が概収束するときにしか用いることができない. しかし, lim n→∞ E[Xn] は確率変数ではない単なる数列なのでこちらに対しては今 まで通りの数列に対する理論を用いて良い. Makoto Nakashima 確率論 2017 年 12 月 12 日 19 / 22

注意しなければいけないことは_{Xn: n≥ 1} は Ω の関数としてほとんどいたる ところ収束する (概収束) とは限らないということである. これまでのファトゥの補題は Xn(ω)→ X(ω) ほとんどいたるところ ⇒ lim n→∞ ∫ Ω Xn(ω)P (dω)≥ ∫ Ω X(ω)P (dω) というように関数が概収束するときにしか用いることができない. しかし, lim n→∞ E[Xn] は確率変数ではない単なる数列なのでこちらに対しては今 まで通りの数列に対する理論を用いて良い. Makoto Nakashima 確率論 2017 年 12 月 12 日 19 / 22

問 3.4

R-値確率変数列 {Xn : n≥ 1} が R-値確率変数 X に確率収束するとする. f ∈ C(R) のとき f (Xn)→ f(X)P を示せ. 定理 3.2, 例題 3.3 の証明は参考になる. ただし色々と注意する必要がある. Makoto Nakashima 確率論 2017 年 12 月 12 日 20 / 22

問 3.4

R-値確率変数列 {Xn : n≥ 1} が R-値確率変数 X に確率収束するとする. f ∈ C(R) のとき f (Xn)→ f(X)P を示せ. 定理 3.2, 例題 3.3 の証明は参考になる. ただし色々と注意する必要がある. Makoto Nakashima 確率論 2017 年 12 月 12 日 20 / 22

問 3.5

独立な確率変数列_{Xn : n≥ 1} を考える. λn > 0 とに対して Xn d ∼ Poi(λn) で あるとき ∑ n≥1 Xnが概収束する⇔ ∑ n≥1 λn が成り立つことを示せ. 問 3.2 Makoto Nakashima 確率論 2017 年 12 月 12 日 21 / 22

問 3.5

独立な確率変数列_{Xn : n≥ 1} を考える. λn > 0 とに対して Xn d ∼ Poi(λn) で あるとき ∑ n≥1 Xnが概収束する⇔ ∑ n≥1 λn が成り立つことを示せ. 問 3.2 Makoto Nakashima 確率論 2017 年 12 月 12 日 21 / 22

問 3.6

{Xn: n≥ 1} を独立な R-値確率変数列で Xn d ∼ Exp(1) の指数分布に従うとす る. このとき lim n_→∞ Xn log n = 1, P -a.s. となることを示せ. 任意の ε > 0 に対して P (Xn> (1 + ε) log n となる n は高々有限個) = 1 P (Xn> (1− ε) log n となる n は無限個存在する) = 1 を示せば十分 (確かめよ). ただしボレル-カンテリの補題 (補題 1.1 と問題 2.6 を 用いる必要がある.) Makoto Nakashima 確率論 2017 年 12 月 12 日 22 / 22

問 3.6

{Xn: n≥ 1} を独立な R-値確率変数列で Xn d ∼ Exp(1) の指数分布に従うとす る. このとき lim n_→∞ Xn log n = 1, P -a.s. となることを示せ. 任意の ε > 0 に対して P (Xn> (1 + ε) log n となる n は高々有限個) = 1 P (Xn> (1− ε) log n となる n は無限個存在する) = 1 を示せば十分 (確かめよ). ただしボレル-カンテリの補題 (補題 1.1 と問題 2.6 を 用いる必要がある.) Makoto Nakashima 確率論 2017 年 12 月 12 日 22 / 22

今回のまとめ

確率変数の収束を確認 大数の弱法則を確認

次回 (予定)

大数の強法則. 弱収束, 法則収束.(4 章) Makoto Nakashima 確率論 2017 年 12 月 12 日 23 / 22