第 5 講：確率

(1)

第

5

^講：確率

平成

16

年

11

月

17

日

(2)

確率とは？

コインを投げる実験を考える。

(3)

コインを投げる実験

偏りのないコイン投げると

(1)

表が出る

(2)

裏が出るの

2

通りの可能性がある．

⇓ ⇓ ⇓

(4)

コインを投げる実験

(

^つづき

)

硬貨が偏らない，と仮定できる場合，

表の出る確率

= 1 2

裏の出る確率

= 1 2

とするのが自然であろう．

(5)

さいころを投げる実験

1

個の，偏りのないさいころ投げると，

1

の目

, 2

の目

, 3

の目

, 4

の目

, 5

の目

, 6

の目の

6

通りの可能性がある．

さころが偏らない，と仮定できる場合，

1

の目の出る確率

= 1

6

2

の目の出る確率

= 1

6

(6)

偶数の目の出る確率は？

偶数の目は，２，４，６，の

3

通りあるので，直感的に

出た目が偶数である確率

= 3 6 = 1

2

(7)

出た目が

3

^{で割り切れる確率は？}

出た目が

3

で割り切れるのは，

3

，

6

，の

2

通りあるから，直感的に

出た目が

3

の倍数である確率

= 2 6 = 1

3

(8)

定義

1 (

^{標本空間・事象}

)

•

^標本点

sample point:

ある実験の可能な結果の

1

つで，

ω

^で表す．

•

^標本空間

sample space:

標本点全体の集合で，

Ω

で表す．

•

^{事象}

event:

標本空間の部分集合で，

A, B, C, · · ·

^で表す．

•

^根元事象

elementary event:

ただ１つの標本点からなる事象．

(9)

定義

2 (

^{事象の演算}

)

•

^和事象

union of events:

A ∪ B = {ω|ω ∈ A or ω ∈ B}

•

^積事象

intersection of events:

A ∩ B = {ω|ω ∈ A and ω ∈ B}

(10)

定義

2 (

^{事象の演算}

(

^つづき

))

•

^余事象

complementary event: ¯ A = Ω − A

•

^全事象

whole event:

標本空間

Ω

•

^空事象

empty event: φ = ¯ Ω

•

^排反事象

exclusive events: A ∩ B = φ

(11)

定理

1 (

^{事象の演算}

)

• (

分配法則

distributive law)

( A ∪ B ) ∩ C = ( A ∩ C ) ∪ ( B ∩ C ) ( A ∩ B ) ∪ C = ( A ∪ C ) ∩ ( B ∪ C )

• (

ド・モルガンの法則

de Morgan law) A ∪ B = ¯ A ∩ B ¯

⇔ A ∩ B = ¯ A ∪ B ¯

(12)

定義

3 (

^{古典的確率}

–

^{組合せ論的確率}

)

^{全ての根} 元事象は同程度の確からしさで起こるとするとき，事象

A

の起こる確率は次のように定義される．

P ( A ) = {ω|ω ∈ A}

{ω|ω ∈ Ω } = r

n

(13)

定義

4 (

^{統計的確率}

–

^{頻度による確率}

)

•

^{同じ試行を}

n

^{回独立に行う．}

•

^事象

A

^{の起こる回数を}

n

Aとする．

•

^試行回数

n

を限りなく大きくする．

事象

A

の確率を次のように定義する．

P ( A ) = p ← n

a

n

(14)

大数の法則

law of large numbers

ある試行を，全く同じ条件のもとで，限りなく大量に繰り返し行うとき，事象の起こる相対頻度は必ず一定の値

p

に近づく．すなわち，次の大数の法則が成り立つ

事象の起こる回数

試行回数

→

^定数大数の法則が統計的確率の根拠となる．

(15)

定義

5 (

^{数学的確率}

–

^{公理論的確率}

)

^確率

P

^は全ての事象の集合から

[0 , 1]

への写像で，

A −→

^P

P ( A ) ∈ [0 , 1]

次の性質を満たす

1.

全ての事象

A

^に対し，

0 ≤ P ( A ) ≤ 1 2. P (Ω) = 1

3. (

完全加法性

)

互いに排反な事象

(16)

定理

2 (

^加法定理

) 1.

一般の場合

:

P ( A ∪ B ) = P ( A ) + P ( B ) − P ( A ∩ B ) 2.

排反な場合

:

P ( A ∪ B ) = P ( A ) + P ( B )

(17)

定義

6 (

^{条件付確率}

)

^事象

A

^{が起きたときに事象}

B

^{が起きる確率を}

,

事象

A

^{のもとでの事象}

B

^の条件付確率といい，

P ( B|A )

で表記し

P ( B|A ) = P ( A ∩ B )

P ( A )

で定義する．ただし，

A = φ .

(18)

定理

3 (

^{条件付確率の性質}

)

^{条件付確率の定義から} 導かれる重要な性質

:

1. P ( A|A ) = 1 . 2.

乗法定理

P ( A ∩ B ) = P ( A ) P ( B|A ) P ( A ∩ B ) = P ( B ) P ( A|B ) 3.

乗法定理

(

３つの事象の場合

)

P ( A

1

∩A

2

∩A

3

) = P ( A

1

) P ( A

2

|A

1

) P ( A

3

|A

1

∩A

2

)

(19)

定義

7 (

^独立性

) independency

次の条件

P ( A ) = P ( A|B )

或いは

P ( A ∩ B ) = P ( A ) P ( B )

が満たされるとき、

A

^と

B

^{は独立であるという。}

(20)

例

1 (

^独立性

)

^{さいころを連続して}

2

回投げるとき、次の事象が独立である。

事象

A : 1

回目

1

である事象

B : 2

回目

1

であるなぜなら、

Ω = { ( i, j ) |i, j = 1 , 2 , · · · , 6 }

A = { (1 , j ) |j = 1 , 2 , · · · , 6 } , P ( A ) = 6 / 36

B = { ( i, 1) |i = 1 , 2 , · · · , 6 } , P ( B ) = 6 / 36

A ∩ B = { (1 , 1) } , P ( A ∩ B ) = 1 / 36

(21)

定理

4 (

^{ベイズの定理}

) Bayes’ Theorem

•

^{標本空間の素分割：}

Ω = H

1

∪ H

2

∪ · · · ∪ H

k

• H

1

, H

2

, · · · , H

k

:

互いに排反

P ( H

i

|A ) = P ( H

i

) P ( A|H

i

)

k

i=1

P ( H

i

) P ( A|H

i

)

(22)

ベイズの定理の証明

Ω = H

1

∪ H

2

∪ · · · ∪ H

k

より

A = A ∩ Ω = ( A ∩ H

1

) ∪ ( A ∩ H

2

) ∪ · · · ∪ ( A ∩ H

k

)

したがって，

P ( A ) =

k

i=1

P ( A ∩ H

i

)

=

k

i=1

P ( H

i

) P ( A|H

i

)

条件付確率の定義から

(23)

ベイズの定理と因果推論

• A :

結果（病気など）

• H

1

, H

2

, · · · , H

k

:

原因（病因など）

• P ( A|H

i

):

_事前確率

prior probability. H

i のもとで

A

になる確率で、既知である。

• P ( H |A ):

事後確率

posterior probability. A

が起きたとき、原因

H

i である確率。

(24)

例

2 (

^{ベイズの定理}

)

以下のことを既知とする。

ある珍しい病気：割合

1% +

にでる割合

96%

軽い関連病気：割合

5% +

にでる割合

10%

病気でない：割合

94% +

にでる割合

5%

さて、検査結果が陽性となったとき、珍しい病気である確率は？

(25)

例

1 (

^回答

)

H

1

:

重病

; H

2

:

軽病

; H

3

:

健康

A :

陽性がでる

P ( H

1

) = 0 . 01 P ( A|H

1

) = 0 . 96

P ( H

2

) = 0 . 05 P ( A|H

2

) = 0 . 10

P ( H

3

) = 0 . 94 P ( A|H

3

) = 0 . 05

となる。したがって、