確率論

確率論

2005/12/07

西岡 國雄

1

確率空間

1.1

確率空間の定義

確率空間の例

条件付き確率

2

確率変数

3

平均

分散

相関係数

3.1

平均と分散

共分散と相関係数

4

大数の法則

1

^確率空間

現代の確率論では

まず適当な確率空間

を定義する という方法をとる

1.1

確率空間の定義

ここで

は空でない集合であり

標本空間

と呼ばれ

その元

は 標本

と呼ばれる

P

は 確率測度

であり

ある集合族

上の集合関数で

i6=k

なら

[n k=1

Ak] = Xn k=1

P[Ak] (1.1)

をみたすものである

つまり確率

は予め与えられており

観測などから演繹されるもので はない

事象

にたいし

P[A∩B] =P[A]·P[B]

が成立しているとき

と

は独立

という

1 2号館11階38号室,オフィスアワー=水曜4限, [email protected], Tel = 0426-74-3639

2 しばしば, 事象空間”とも呼ばれる.

3 この講義では,Fとしては,常の巾集合族を考えるので,気にしなくて良い.

問題

確率空間

において

次のことを確かめよ

(i) P[A^c] = 1−P[A], (ii) A⊂B ⇒ P[A]≤P[B]

(iii) A∩B =∅ ⇒ P[A∪B] =P[A] +P[B]. ]

1.2

確率空間の例

例題

サイコロを

回投げる

起こり得る事象は

w1≡ {1

の目がでる

の目がでる

の目がでる

の

通りであり

標本空間は

は

の巾集合族

F ≡ {∅,Ω, w1,· · ·, w6, w1∪w2,· · ·, w5∪w6, w1∪w2∪w3,· · · }

で

個の集合から成っている

また

このサイコロが公正なものとすると

確率測度

は

6, P[w2] = 1

6, · · · ,P[w6] = 1 6

となる

問題

例題

の確率空間

で

A≡

サイコロの目が奇数

サイコロの目が

以上

とおく

次の確率を計算せよ

(i) P[A∩B], (ii) P[A∪B], (iii) P[A] +P[B]−P[A∩B]. ]

例題

コインを

回投げる

起こり得る事象は

w1≡ {1

回目

表

回目

表

回目

裏

回目

表

回目

表

回目

裏

回目

裏

回目

裏

の

通りであり

標本空間は

は

のべき集合族

F ≡ {∅,Ω, w1,· · ·, w4, w1∪w2,· · ·, w3∪w4, w1∪w2∪w3,· · ·, w2∪w3∪w4}

で

個の集合から成っている

また

(1.2)

投げたコインは必ずしも公正ではなく

表がでる確率が

なら

確率測度

は

P[w1] =p², P[w2] =P[w3] =p(1−p), P[w4] = (1−p)²

となる.

=======================

[上級]

例題1.5. 今度は(1.2)のコインをn回投げる. 起こり得る事象は

w1≡ {1回目=表, 2回目=表, 3回目=表,· · · ,n回目=表}, w2≡ {1回目=裏, 2回目=表, 3回目=表,· · · ,n回目=表}, w3≡ {1回目=表, 2回目=裏, 3回目=表,· · ·,n回目=表},

...

wN ≡ {1回目=裏, 2回目=裏, 3回目=裏,· · ·,n回目=裏}, (1.3)

のN = 2ⁿ 通りであり,標本空間はΩ ={w1,· · ·, wN}. F はΩのべき集合族で2^N= 2²ⁿ 個の集合 から成っている.

このように極めて多数の元からなるΩを扱う場合には, (1.3)を次のように書き直した方が分かり易 くなる.

別の表記法: 1が表, 0が裏を表すとして,

w∈Ωにたいし w= (w⁽¹⁾, w⁽²⁾,· · ·, w⁽²⁾) ここでw^(k) = 1もしくは0.

この表記法を使うと, (1.3)は

w1= (1,1,· · ·,1), w2= (0,1,· · ·1), w3 = (1,0,1,· · ·,1),· · ·, wN= (0,0,· · ·,0) となる. すると確率測度Pは

w∈Ωにたいし P[w] =p^|w|(1−p)^n−|w|,

ここで|w| ≡w⁽¹⁾+w⁽²⁾+· · ·+w⁽ⁿ⁾=表がでた回数 (1.4)

となる. ¦

=======================

1.3

条件付き確率

確率空間

を与える

にたいし

条件付き確率

を

が起こったとして

が起こる確率

とする

すると

(1.5) P[A/B]≡ P[A∩B]

P[B] (Bayes

の公式

が成立している.

例題

先王には子供が二人おり, その内の一人が新たに王として即 位した

新王に姉妹がいる確率を求めよ

ただし

男女の比率は

とする

解答

子供が男

子供が女 という記号を使う

左側は年長者を表すとして

確 率空間は

(1.6) Ω≡©

(B, B), (B, G), (G, B), (G, G)ª

となる

U ≡

子供の一人が男

子供の一人が女

4 P[B]6= 0とする.P[B] = 0も許す場合は,状況が大変複雑になる.

という記号を使う

を考慮して

P[

王に姉妹がいる

3/4 =2 3. 2

問題

を 例題

の確率空間とする

(i)

事象

偶数の目がでる を

を使って表せ.

(ii)

条件付き確率

を計算せよ

問題

枚は赤

枚は黒の印を裏側に付けたカードがある

その

枚のカードを表側を 上にして並べ

その中からランダムに選んだ３枚のカードを順に裏返す

A≡ {

最初に裏返したカードが赤印

番目に裏返したカードが黒印

番目に裏返したカードが赤印

とおくとき

次の確率を計算せよ

(i) P[A∩B], (ii) P[B], (iii) P[B∩C], (iv) P[C]. ]

2

^確率変数

関数

を確率変数

と呼ぶ

確率変数

は

の値

確率変数

は

の値をとる

と

が 独立

とは

すべての

にたいし

(2.1) P[X(w) =aj, Y(w) =bk] =P[X(w) =aj]·P[Y(w) =bk]

が成立することである

例題

例題

の確率空間

で 確率変数

を次のように定義 する

(2.2) Xk(w)≡

(

1 k

回目のコイントスが表

−1 k

回目のコイントスが裏 すると

P[X1(w) = 1] =P[w1∪w3] =P[w1] +P[w3] =p²+p(1−p) =p,

P[X₁(w) =−1] =P[w₂∪w₄] =P[w₂] +P[w₄] =p(1−p) + (1−p)²= 1−p, P[X2(w) = 1] =P[w1∪w2] =P[w1] +P[w2] =p²+p(1−p) =p,

P[X2(w) =−1] =P[w3∪w4] =P[w3] +P[w4] =p(1−p) + (1−p)²= 1−p

となる

問題

上の

で述べた確率変数

は独立である

実際に

などを計算し

独立であることを確かめよ

問題

例題

で述べたコインを２回投げ

(2.3) Y(w)≡

出た表の数

円

だけ賞金がもらえる

この確率変数

を

の

を使って表せ

また次の確率を計算せよ

(i) P[Y(w) = 200], (ii) P[Y(w) = 100], (iii) P[Y(w) = 0]. ]

=======================

[上級]

例題2.4. つぎに,例題1.5の確率空間(Ω,P)で,確率変数Xk(w), w∈Ω, k= 1,2,· · ·, n,を(2.2)と 同じもので定義する.

(2.4) Xk(w)≡

¡ 1 k回目のコイントスが表

−1 k回目のコイントスが裏 この場合にP[Xk(w) =±1]の確率を計算してみよう: 数学的帰納法を使えば

P[Xk(w) = 1] =P[{w∈Ω :w^(k)= 1}] = X

w∈Ω,w^(k)=1

P[w] =p

P[Xk(w) =−1] =P[{w∈Ω :w^(k)= 0}] = X

w∈Ω,w^(k)=0

P[w] = 1−p

が簡単に証明できる. ¦

例題2.5. (2.4)の確率変数Xk(w), k= 1,2,· · ·, nにたいし,新しい確率変数を

(2.5) Sk(w)≡

¡ 0 k= 0 X1(w) +· · ·+Xk(w) 1≤k≤n

この確率変数は標準ランダム・ウォークrandom walkと呼ばれ,応用上,重要なものである. ¦ 問題2.6 (2項分布). (2.5)のSk(w), k= 0,1,· · ·, n,にたいし,

P[Sk(w) =j] =kC(k+j)/2 p^(k+j)/2 (1−p)^(k−j)/2, ここで −k≤j≤k かつk+jは偶数 (2.6)

となることを示せ. ( (2.6)の右辺は2項分布binomial distributionと呼ばれる. ) ]

=======================

3

^平均

^分散

^相関係数

確率変数を特徴づける数値として, 平均と 分散 が重要である. また 確率変数の独立性の 度合い を量る量として

相関係数 がある

3.1

平均と分散

定義

の値をとる確率変数

にたいして,

Xn

k=0

ak P[X(w) =ak]³

=m

とおく

を

の平均

と呼ぶ

一方

X(w)−m¢₂ ] =

Xn

k=0

¡ak−m¢₂

P[X(w) =ak]

を

の分散

と呼ぶ

注意

次の

種類の確率変数

と

を考えてみよう

2 =P[X(w) =−1], P[Y(w) = 100] = 1

2 =P[Y(w) =−100].

どちらの確率変数も

E[X(w)] = 1·1 2−1·1

2 = 0, E[Y(w)] = 100·1

2 −100·1 2 = 0,

と平均は

である

ところが分散を比べると

V[X] =E[¡ X(w)¢₂

] = 1²·1

2 + (−1)²·1 2 = 1 V[Y] =E[¡

Y(w)¢₂

] = (100)²· 1

2+ (−100)²·1

2 = 10000

となり大きく異なる

は出入り

円

は出入り

円の公平な賭と考えると

分 散が大きい賭は

ハイリスク・ハイリターン と解釈できる

一般に

平均や分散の計算は易しくない

その計算を少しでも容易にするために

次の補題 がある

補題

を確率変数

を定数とする

a X(w) +b, Y(w)] =aE[X(w)] +bE[Y(w)].

(ii)

定数

にたいしては

(iii) X(w)

と

が独立なら

補題

を確率変数

を定数とする

(i) V[aX(w) +b] =a² V[X(w)].

(ii) V[a] = 0.

逆に分散

となる 確率変数

は定数である

X(w)¢₂ ]−¡

E[X(w)]¢₂ . (iv) X(w)

と

が独立なら

V[X(w) +Y(w)] =V[X(w)] +V[Y(w)]. ¦

問題

で与えられた 確率変数

および

の平均と分散をもとめよ

5 しばしば,期待値expectationとも呼ばれる.

6株式市場では,分散は ボラタりティー と呼ばれ,相場変動の大きさをボラタりティーの大きさで判定している.

例題

成功と失敗の２つの結果しかない試行を ベルヌイ試行 と呼ぶ

今

成功確率

のベルヌイ試行を成功するまで繰り返す

成功するまでに要する回数

の平均と分散を求めよ

解答

とおくと

P[Y(w) = 1] =p, P[Y(w) = 2] =q p, P[Y(w) = 3] =q²p,

· · · P[Y(w) =k] =q^k−1p, · · ·

となるので

E[Y(w)] = 1·p+ 2·q p+ 3·q²p+· · ·+k·q^k−1p+· · ·

= p¡

1 + 2q+ 3q²+· · ·+kq^k−1+· · ·¢

= p

(1−q)² = 1 p.

つぎに 補題

から

V[Y(w)] = E[¡

Y(w)¢₂ ]−¡

E[Y(w)]¢₂

=

³

1²·p+ 2²·q p+ 3²·q²p+· · ·+k²·q^k−1p+· · ·

´

−

³1 p

´₂

= p¡

1²+ 2²q+ 3²q²+· · ·+k²q^k−1+· · ·¢

− 1 p²

= p(1 +q) (1−q)³ − 1

p² = q p² = 1

p

¡1 p−1¢

.

注

次の数列計算を確かめる事

「基礎数学

」

1 + 2q+ 3q²+· · ·+kq^k−1· · ·= 1 (1−q)², 1²+ 2²q+ 3²q²+· · ·+k² q^k−1+· · ·= 1 +q

(1−q)³. 2

例題

ガムの景品にカードを付ける

カードは４種類あり

すべての種類を揃えると

別の 景品と交換できる

個のガムを買うと

種類のカードがすべて揃ったとする

確率変数

の平均と分散をもとめよ

解答

まずガムを

個買うと

ある種類

のカードが手に入る

(ii)

つぎにガムを買ったとき

以外のカードを手に入れる確率は

つまり 成功確率

のベルヌイ試行 を成功するまで繰り返すことになる. その試行の回数を

とする.

(iii) 3

種類目のカードを手に入れるには

成功確率

のベルヌイ試行 を成功するまで繰

り返すことになる

その回数を

とする

(iv) 4

種類目のカードを手に入れるには

成功確率

のベルヌイ試行 を成功するまで繰

り返すことになる

その回数を

とする

(v)

結局

個のガムを買うと

種類すべてのカードが揃う

ここ で 例題

を使うと

の平均が計算できるので

E[Z(w)] = E[1 +Y1(w) +· · ·+Y3(w)] = 1 +E[Y1(w)] +· · ·+E[Y3(w)]

= 1 + 1 3/4 + 1

2/4 + 1 1/4 =25

3 .

Y1(w),· · · , Y3(w)

は互いに独立なので

補題

と例題

から

(3/4)²+ 2/4

(2/4)² + 3/4 (1/4)² = 2

9 + 14. 2

=======================

[上級]

命題3.8. 確率変数X1(w), X2(w),· · ·, Xn(w)はそれぞれ独立である. 各Xk(w)の分散が存在し, E[Xk(w)] =mk, V[Xk] =ck, k= 1,2,· · ·, n

とかく. このとき

E[X1(w) +X2(w) +· · ·+Xn(w)] = m1+m2· · ·+mn, V[X1+X2+· · ·+Xn] = c1+c2+· · ·+cn

である. ¦

問題3.9. 命題3.8を証明せよ. ]

=======================

3.2

共分散と相関係数

2

つの確率変数

と

が独立ということは

で定義した

これより

と

が独立

である

一方

独立でない確率変数

と

の関係の程度を数値化する手段として

相関係数 がある

定義

平均がそれぞれ

である確率変数

にたいし

X(w)−mX

¢·¡

Y(w)−mY

¢¤,

ρ[X, Y]≡ Cov[X, Y] pV[X]V[Y] (3.1)

とおく

は 共分散

は 相関係数

と呼ば れる

補題

を確率変数

を定数とする

(ii) Cov[aX+bY, Z] =a Cov[X, Z] +b Cov[Y, Z].

(iii) V[X(w) +Y(w)] =V[X(w)] + 2Cov[X, Y] +V[Y(w)].

(iv) X(w)

と

が独立なら

補題

分散が存在するすべての確率変数

にたいし

¯ρ[X, Y]¯

¯≤1.

(ii) X(w)

と

が独立なら

ただし

でも独立とは限らな い

(iii)

ある定数

があり

ならば

¯ρ[X, Y]¯

¯= 1.

逆に

¯ρ[X, Y]¯

¯= 1

なら

X(w)−E[X(w)]

pV[X] =Y(w)−E[Y(w)]

pV[Y] . ¦

例題

確率変数

を

P[X(w) = 1] = 1

4, P[X(w) = 0] = 1

2, P[X(w) =−1] = 1 4, Y(w)≡¡

X(w)¢₂

とする

このとき

P[X(w) = 1]·P[Y(w) = 1] = 1 4 ·1

2 = 1 8, P[X(w) = 1, Y(w) = 1] =P[X(w) = 1] = 1

4

だから

となり

と

は独 立ではない

一方

だから

X(w)·¡

Y(w)−1 2

¢¤=E[¡ X(w)¢₃

]−1

2·E[X(w)]

= 1³· 1

4+ 0³·1

2+ (−1)³·1

4 −0 = 0.

また

となるので

p1/2·p

1/4 = 0

となり

と

の共分散

相関係数ともに

である

問題

確率変数

が

E[X(w)] = 0, V[X(w)] = 1, Y[Y(w)] = 1, V[Y(w)] = 1, Cov[X, Y] = 1

であるとする

このとき

次を計算せよ

(i) E[2X(w) +Y(w)], (ii) V[X(w) +Y(w)], (iii) ρ[X, Y], (iv) Cov[X+Y,3X+Y], (v) ρ[X−1, X+ 2Y] ]

4

^{大数の法則}

偶然事象を繰り返し観測したとき, 何らかの法則が現れることが多い. これらの法則は極限 定理と呼ばれる

7 例題3.13を参照せよ.

極限定理で特に重要なものは

大数の法則

と 中心極限定理

である

大数の法則 のイメージ: 正しいサイコロを

回振ったとき, 1 の目が出る回数を

とし よう

すると

が十分大きいとき

n1

n → 1 6

となることが経験

直感で知られている

この直感を数学として正当化することが

大数の法 則である

定理

大数の法則

は独立で同じ確率分布に従う確率変数で あり

それぞれの平均と分散が存在する

(4.1) E[X1(w)]≡m, V(X1) =E[¡

X1−m¢₂ ]≡σ².

このとき

任意の

にたいし

P[

¯¯

¯X1(w) +· · ·+Xn(w)

n −m

¯¯

¯> ε]→0, n→ ∞. ♦

注意

大数の法則は

古くから研究されており

定理

で述べたことよりもっと強い結 果

が知られている

Kolmogorov

の大数の強法則

は独立な確率変数で

ある定数

にたいし

m=E[X1(w)] =E[X2(w)] =· · ·=E[Xn(w)], sup

k E[¡

Xk)²]≤c

が成立している

このとき確率

で

X1(w) +· · ·+Xn(w)

n →m

³ n→ ∞

´ . ¦

問題

正しいサイコロを

回振る

確率変数

を

Xk(w)≡

( 1 k

回目に振ったサイコロの目が

か

回目に振ったサイコロの目が

以上 とする

(i)

このとき

を計算せよ

が十分大きいとき

n

の値を理由を述べて予測せよ

問題

を 問題

の

式で定義した確率変数とする

この

を賞金とする ゲームの公平な参加料

主催者

参加者ともに納得がいく額）を決定せよ

またその決定理 由を述べよ

8 こちらの方が直感に合致する.