資料置き場 hustat2017 20171013

(1)

統計学第３週 _{– 1 / 84}

統計学第３週確率

高木真吾

北海道大学

October 13, 2017

(2)

なぜ確率か？

なぜ統計学で確率か？本日の講義

集合と事象確率

条件付き確率解答編

統計学第３週 _{– 2 / 84}

(3)

なぜ統計学で確率か？

統計学第３週 _{– 3 / 84}

■ データを整理（記述統計）する観点からは確率は不要．

■ データ（標本）からデータが出てきた背景（母集団）を推測するには両者に何らかの関係が必要

◆ 「無作為」に対象を抜き出す（すべての対象が等しく選ばれる）

◆ このとき，出てくるであろう値が何になるかを抜き出す前に考える

■ どの値がどういう出やすさで選ばれるかを考える

◆ 必然的に確率変数の考え方が必要とされる

■ 確率および確率変数という道具がその関係を記述する上で重要

■ したがって統計学（推測統計）では確率を最初に学ぶ

(4)

なぜ確率か？

統計学第３週 _{– 4 / 84}

■ ^{確率はそれ自体も重要}

◆ 結果に不確実性を伴う現象をモデル化するための重要な道具

◆ 例）人の反応，自然現象などなど

(5)

本日の講義

なぜ確率か？

なぜ統計学で確率か？本日の講義

集合と事象確率

統計学第３週 _{– 5 / 84}

■ ^{事象と標本空間}

■ ^{確率の公理的定義}

■ ^{条件付確率}

■ ^{事象生起の独立性}

■ ^{ベイズの定理}

(6)

集合と事象

なぜ確率か？集合と事象

集合

集合の演算確率

統計学第３週 _{– 6 / 84}

(7)

集合

統計学第３週 _{– 7 / 84}

■ 集合：いくつかの要素の集まり

◆ ^{確率論では，}「起きうる可能な事柄」をひとつのまとまり＝集合とみなす

■ ^{抽象的に，二つの集合} _A^，_B ^を考える

◆ ^空集合：_∅（含まれる要素がなにもないあつまり）

◆ _{A ⊆ B}^：_A ^{に含まれる要素は常に} _B ^{にも含まれる}

◆ _{A = B}^：_{A ⊆ B} ^かつ _{B ⊆ A} ^{が成り立つ}

(8)

集合

統計学第３週 _{– 8 / 84}

■ ^{抽象的に，二つの集合} _A^，_B ^を考える

◆ ^補集合：_A^¯^（集合 _A には含まれない要素の集まり，_A^c と書くこともある）

◆ ^和集合：_{A ∪ B}^（集合 _A ^または _B に含まれる要素の集まり）

◆ ^積集合：_{A ∩ B}^（集合 _A ^かつ _B に含まれる要素の集まり）

◆ ^差集合：_{A \ B}^（集合 _A ^{には含まれるが，}_B ^{には含まれない要}

素の集まり）

◆ ^排反 ^：_{A ∩ B = ∅}

(9)

図解（ Venn diagram) ^：集合 ^A ^と補集合 ^A ^¯

統計学第３週 _{– 9 / 84}

A

集合： _A（全体は _Ω） Ω

(10)

図解 (Venn’s diagram) ^：集合 ^A ^と補集合 ^A ^¯

統計学第３週 _{– 10 / 84}

A A

補集合： A (= Ω \ A) Ω

(11)

図解 ₍ ベン図 ₎ ：和集合と積集合

統計学第３週 _{– 11 / 84}

A B

和集合： _{A ∪ B} Ω

(12)

図解（ Venn diagram ^） ^{：和集合と積集合}

統計学第３週 _{– 12 / 84}

A B

積集合： _{A ∩ B} Ω

(13)

図解（ベン図）：差集合と排反

統計学第３週 _{– 13 / 84}

A B

Ω ^差集合：A \ B (= A ∩ B)

(14)

図解（ Venn’s diagram ^） ^{：差集合と排反}

統計学第３週 _{– 14 / 84}

A B

排反：_{A ∩ B = ∅} Ω

(15)

集合の演算１

統計学第３週 _{– 15 / 84}

■ 分配則：問題）下の二つの関係式をベン図を用いて確認してください．

◆ (A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C)

◆ (A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C)

(16)

図解： (A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C)

統計学第３週 _{– 16 / 84}

A

B C

(A ∩ B) ∪ C

(17)

図解： (A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C)

統計学第３週 _{– 17 / 84}

A

B C

(A ∪ C) ∩ (B ∪ C)

(18)

図解： (A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C)

統計学第３週 _{– 18 / 84}

A

B C

(A ∪ B) ∩ C

(19)

図解： (A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C)

統計学第３週 _{– 19 / 84}

A

B C

(A ∩ C) ∪ (B ∩ C)

(20)

集合の演算１

統計学第３週 _{– 20 / 84}

■ _{B_i_}ⁿ_i=1 ^と _Ω ^{という集合を考え，}

◆ _{A, {B}_i_}ⁿ_i=1 _{⊆ Ω} ^とする．

◆ _{Ω =} ^Sⁿ_i=1 _B_i ^{を満たしているとする} このとき，

◆ _{A =} ^Sⁿ_i=1_{(A ∩ B}_i₎

◆ 問題）上の関係をベン図を用いて確認してください．

(21)

図解： A _{= (A ∩ B}

₁

_{) ∪ (A ∩ B}

₂

) ∪ · · · ∪ (A ∩ B

⁵

)

統計学第３週 _{– 21 / 84}

B¹ B² B³ B⁴ B⁵ Ω

(22)

図解： A _{= (A ∩ B}

₁

_{) ∪ (A ∩ B}

₂

) ∪ · · · ∪ (A ∩ B

⁵

)

統計学第３週 _{– 22 / 84}

A

A ∩ B²^{A ∩ B}³A ∩ B⁴

B¹ B² B³ B⁴ B⁵ Ω

(23)

集合の演算２

統計学第３週 _{– 23 / 84}

■ _{de Morgan} ^の法則

◆ (A ∪ B) = ¯A ∩ ¯B

◆ (A ∩ B) = ¯A ∪ ¯B

◆ 問題）上の二つをベン図を用いて確認してください

■ _{de Morgan} の法則の一般化：集合列 _{A_i_}

n

i=1 ^{について，}

◆ ₍^Sⁿ_i=1 _A_i_{) =} ^Tⁿ_i=1 _A^¯_i

◆ ₍^Tⁿ_i=1 _A_i_{) =} ^Sⁿ_i=1 _A^¯_i

(24)

図解： _{de Morgan} の法則

統計学第３週 _{– 24 / 84}

A B

A ∩ B Ω

(25)

図解： _{de Morgan} の法則

統計学第３週 _{– 25 / 84}

A B

A ∪ ¯¯ B ^／ (A ∪ B) = ¯A ∩ ¯B Ω

(26)

証明

統計学第３週 _{– 26 / 84}

■ 二つの集合が等しいこと（_{A = B}）の証明

◆ _{A ⊂ B} ^かつ _{A ⊃ B} ^を示す

◆ _{A ⊂ B} ^{の証明：集合} _A ^{に含まれる要素（}_{x ∈ A}^{）は，必ず} ^集合 _B ^にも含まれることを示す

◆ _{A ⊃ B} ^{の証明：集合} _B ^{に含まれる要素（}_{x ∈ B}^{）は，必ず} ^集合 _A ^にも含まれることを示す

(27)

証明

統計学第３週 _{– 27 / 84}

■ (A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C) ^の証明

◆ (A ∪ B) ∩ C ⊂ (A ∩ C) ∪ (B ∩ C) ^を示す

■ ^ある要素 _x ^{について，}x ∈ (A ∪ B) ∩ C ^{とすると，}x ∈ (A ∪ B) ^かつ _{x ∈ C} が成り立つ（_x は _{(A ∪ B)} に含まれており，同時に _C には必ず含まれている）

■ 前者から，_x は _A か _B の少なくとも一方に含まれている

■ ^{上二つを合わせると，}_x ^は「_A ^と同時に _C ^{に含まれる}

（x ∈ (A ∩ C)^）^」か「B ^と同時に C ^{に含まれる（}x ∈ (B ∩ C)^）^」の少なくとも一方が成り立っている

■ 以上より，x ∈ (A ∪ B) ∩ C ^ならば x ∈ (A ∩ C) ∪ (B ∩ C) ^なので (A ∪ B) ∩ C ⊂ (A ∩ C) ∪ (B ∩ C)

(28)

証明

統計学第３週 _{– 28 / 84}

■ (A ∪ B) ∩ C ⊃ (A ∩ C) ∪ (B ∩ C) ^を示す

◆ ^{本日の演習問題参照}

■ 以上，両方の結果を踏まえ，(A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C) ^{が成り立つ．}

■ (A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C) については，上の結果と下のド・モルガンの法則を合わせれば証明可能．

(29)

証明

統計学第３週 _{– 29 / 84}

■ _{de Morgan} ^の法則 (A ∪ B) = ¯A ∩ ¯B ^の証明

◆ (A ∪ B) ⊂ ¯A ∩ ¯B ^を示す

■ _{x ∈ ¯}_{A ∩ ¯}_B ^のとき，_x ^は _A に含まれておらず，かつ _B にも含まれていない

■ したがって，_{x ∈ ¯}_{A ∩ ¯}_B

◆ (A ∪ B) ⊃ ¯A ∩ ¯B ^を示す

■ x ∈ (A ∪ B) ^のとき，x ^は A に含まれておらず，かつ _B にも含まれていない

■ ^{言い換えると，}_A ^か _B ^の範囲（_{A ∪ B}）には決して含まれていない

■ したがって x 6∈ (A ∪ B)^{，あるいは} x ∈ (A ∪ B)

(30)

確率

なぜ確率か？集合と事象確率

事象

公理による確率確率の性質問題

統計学第３週 _{– 30 / 84}

(31)

確率への応用：事象

統計学第３週 _{– 31 / 84}

■ 標本点：起こりうる個々の結果

■ 標本空間：すべての標本点の集まり（起こりうる結果全体）

■ 事象：標本空間の一部（部分集合）

■ 全事象：標本空間（通常 _Ω で表現する）

(32)

事象

統計学第３週 _{– 32 / 84}

■ ^例 ₁₎₍^{区別できる}₎ さいころを２つ投げたときの目の数

◆ ^標本点：(1, 1) (1, 2), . . ., (6, 6) ^の 36 ^個の各点

◆ ^{標本空間＝全事象：}₃₆ ^{個の点の集合}

◆ ^事象：

1. ^{両方とも偶数の目}

2. ^{二個目のさいころが} 3 ^の目 3. (3, 5) ^の目

4. ^{両方とも０以上}

◆ 事象は，全事象の部分集合なので標本空間全体や標本点の１点，あるいは標本点のいくつかといったものがすべて考えられる．

(33)

事象

統計学第３週 _{– 33 / 84}

■ ^{例２）明日の最高気温}

◆ ^{標本空間＝全事象：}Ω = { x | x ∈ [−50, 50] }

◆ 標本点：上の区間のどこか

◆ ^事象：

■ 最高気温が氷点下 A = { x | x ∈ [−50, 0) }

■ 最高気温が ₁₀ 度以上 ₂₀ 度未満 B = { x | x ∈ [10, 20) }

(34)

確率：公理による確率の定義

統計学第３週 _{– 34 / 84}

■ ^{以下の関係を満たす} _Pr[•] ^{を確率と呼ぶ}

公理 ₁ 任意の事象 _A について，_{Pr[A] ≥ 0} 公理 ₂ 全事象 _Ω について，_{Pr[Ω] = 1}

公理 ₃ 任意の _{(i, j)} について _A_i _{∩ A}_j _{= ∅} であるとき， Pr

" _∞ [

i=1

Ai

#

=

∞

X

i=1

Pr [ Ai]

■ 逆に言うと上の関係を満たしさえすればどんなものでも「確率」と考えることができる

■ 他にも「頻度による確率の定義」「主観確率による確率の定義」「等価性原理」

(35)

確率：公理による確率の定義

統計学第３週 _{– 35 / 84}

■ ^{例）サイコロ}

◆ それぞれの目の数の出る確率に _1/6 を割り当てる

◆ ^{標本空間：}_{1 ^の目_{, 2} ^の目_{, 3} ^の目_{, 4} ^の目_{, 5} ^の目_{, 6} ^の目 _}

◆ ^事象 _A ^{の要素数を} _#A ^{で表現し，}Pr[A] = #A · (1/6) ^とする．

◆ ^{このとき，}

■ 上の１，２は満たされる．

■ ３についても排反な事象の要素数を足してから６で割るか，個々の要素数を同じ６で割ったものを足しているかだけ．

(36)

確率の性質

統計学第３週 _{– 36 / 84}

■ 上の公理から以下の関係が成り立つ 1. Pr[∅] = 0

2. A ^と B ^{が排反のとき，}Pr[A ∪ B] = Pr[A] + Pr[B] 3. ^{任意の事象} A ^{について，}Pr[A] + Pr[ ¯A] = 1

（_{Pr[ ¯}A] = 1 − Pr[A]^）

4. ^加法定理

5. ^劣加法性

(37)

図解：互いに排反な A ， B について，

Pr[A ∪ B] = Pr[A] + Pr[B]

統計学第３週 _{– 37 / 84}

A B

排反：_{A ∩ B = ∅} Ω

(38)

図解： _{Pr[ ¯} A ] = 1 − Pr[A], Pr[Ω] = 1

統計学第３週 _{– 38 / 84}

A A

補集合： A (= Ω \ A) Ω

(39)

確率の性質

統計学第３週 _{– 39 / 84}

4. ^加法定理

◆ Pr[A ∪ B] = Pr[A] + Pr[B] − Pr[A ∩ B]

◆ Pr[A ∪ B ∪ C] = Pr[A] + Pr[B] + Pr[C] − Pr[A ∩ B] − Pr[A ∩ C] − Pr[B ∩ C] + Pr[A ∩ B ∩ C]

5. ^劣加法性

Pr [ A ∪ B] ≤ Pr [ A] + Pr [ B]

(40)

図解：加法定理 Pr[A ∪ B] = Pr[A] + Pr[B] − Pr[A ∩ B]

統計学第３週 _{– 40 / 84}

A B

加法定理： _{A ∩ B} が２回加わっている Ω

(41)

図解：加法定理 Pr[A ∪ B ∪ C] = Pr[A] + Pr[B] + Pr[C] −

Pr[A ∩ B] − Pr[A ∩ C] − Pr[B ∩ C] + Pr[A ∩ B ∩ C]

統計学第３週 _{– 41 / 84}

A

B C

(42)

問題

統計学第３週 _{– 42 / 84}

■ Pr[A] = 0.24, Pr[B] = 0.52, Pr[A ∩ B] = 0.12 ^のとき，

◆ _{(1) Pr[ ¯}A], (2) Pr[ ¯B]

◆ (3) Pr[A ∪ B]

◆ _{(4) Pr[ ¯}_{A ∪ ¯}_B]

◆ _{(5) Pr[ ¯}_{A ∩ ¯}_B]

◆ (6) Pr[A \ B] をそれぞれ求めよ．

(43)

問題：解答１

統計学第３週 _{– 43 / 84}

■ Pr[A] = 0.24, Pr[B] = 0.52, Pr[A ∩ B] = 0.12 ^のとき， 1. P r[ ¯A] = 1 − Pr[A] = 1 − 0.24 = 0.76

2. Pr[ ¯B] = 1 − Pr[B] = 1 − 0.52 = 0.48 3.

Pr[A ∪ B] = Pr[A] + Pr[B] − Pr[A ∩ B]

= 0.24 + 0.52 − 0.12 = 0.64

(44)

問題：解答 ₂

統計学第３週 _{– 44 / 84}

■ Pr[A] = 0.24, Pr[B] = 0.52, Pr[A ∩ B] = 0.12 ^のとき， 4. de Morgan ^{の法則より}

■ _{A ∪ ¯}^¯ B = (A ∩ B) = Ω \ (A ∩ B) したがって

Pr[ ¯A ∪ ¯B] = 1 − 0.12 = 0.88

(45)

問題：解答 ₃

統計学第３週 _{– 45 / 84}

■ Pr[A] = 0.24, Pr[B] = 0.52, Pr[A ∩ B] = 0.12 ^のとき， 5. de Morgan ^{の法則より}

■ _{A ∩ ¯}^¯ B = (A ∪ B) = Ω \ (A ∪ B) したがって

Pr[ ¯A ∩ ¯B] = 1 − Pr[A ∩ B] = 1 − 0.64 = 0.36 6. A \ B = A \ (A ∩ B) ^なので

Pr[A] − Pr[A ∩ B] = 0.24 − 0.12 = 0.12

(46)

図解：差集合

統計学第３週 _{– 46 / 84}

A B

ΩA \ B = A \ (A ∩ B) = A ∩ B

(47)

条件付き確率

条件付確率問題

問題問題

事象の独立性事象の独立と排反ベイズの定理演習問題演習問題解答編

統計学第３週 _{– 47 / 84}

(48)

条件付確率

統計学第３週 _{– 48 / 84}

■ Pr[A] > 0 ^なる事象 A ^{を考える．この} A ^{が生起したうえに} ^事象 B も生起する確率を次のような条件付確率によって定義する．

Pr[B|A] = ^{Pr[A ∩ B]}

Pr[A] · · · ¹

◆ _A が生起したことは条件として与えられた下で，事象 _B が生起する確率を考えている

■ 乗法公式：条件付き確率から次の関係が成立することもわかる

（Pr[A] · Pr[B] 6= 0^）

Pr[A∩B] = Pr[A|B]·Pr[B] = Pr[B|A]·Pr[A] · · · ²

(49)

図解

統計学第３週 _{– 49 / 84}

A A ∩ B B

条件付き確率：事象 _A の下で，同時に _B が生起 Ω

(50)

問題

統計学第３週 _{– 50 / 84}

文系 _(A) 理系 _(B) 職員 _(C) 合計男性 _(D) ₃₅₀ ₅₅₀ ₇₀₀ ₁₆₀₀ 女性 _(E) ₁₅₀ ₁₅₀ ₁₀₀ ₄₀₀

合計 ₅₀₀ ₇₀₀ ₈₀₀ ₂₀₀₀

■ 偶然出会った人が，理系の女性である確率

■ 偶然出会った人が，学生である確率

■ 偶然出会った人が，文系か女性のいずれかである確率

■ 偶然出会った人が，女性であったとき，その人が職員である確率

(51)

問題

統計学第３週 _{– 51 / 84}

■ 出会う人が，文系という事象を _A，理系を _B，職員を _C_. これらは互いに排反．

■ ^男性なら _D^{，女性なら} _E ^{とすると，}_D ^と _E ^{は互いに排反．}

◆ 理系の女性である確率：

Pr[B ∩ E] = ¹⁵⁰ 2000

◆ ^{学生である確率：}

Pr[A ∪ B] = Pr[A] + Pr[B] = ⁵⁰⁰ 2000 ⁺

700 2000 ⁼

3 5

(52)

問題

統計学第３週 _{– 52 / 84}

■ 出会う人が，文系という事象を _A，理系を _B，職員を _C_. これらは互いに排反．

■ ^男性なら _D^{，女性なら} _E ^{とすると，}_D ^と _E ^{は互いに排反．}

◆ 文系か女性のいずれかである確率：

Pr[A∪E] = Pr[A]+Pr[E]−Pr[A∩E] = 500 + 400 − 150

2000 ⁼

3 8

◆ 女性であったとき，その人が職員である確率：

Pr[C|E] = ^{Pr[C ∩ E]} Pr[E] ⁼

100/2000 400/2000

(53)

事象の独立性

統計学第３週 _{– 53 / 84}

■ ^{二つの事象} _A^，_B が独立であるとは以下の関係が成り立つこと

■ ^定義：^（_A^，_B どちらか一方の事象の生起確率が０の場合も含む） Pr[A ∩ B] = Pr[A] · Pr[B] · · · ³

■ 条件付確率から考えると理解しやすい（ただし一方の事象の生起確率が０の場合を除く）：

Pr[B|A] = ^{Pr[A ∩ B]}

Pr[A] ^{= Pr[B]} · · · ⁴

■ ^事象 _A ^{の生起に対して，事象} _B はなんら関係を持たないことを示している．

■ ^問）事象 _A^，_B ^{が独立であり，}Pr[A] · Pr[B] 6= 0 ^なら， Pr[B|A] = Pr[B] ^かつ Pr[A|B] = Pr[A] ^{の成立を示せ．}

(54)

事象の独立と排反

統計学第３週 _{– 54 / 84}

■ 独立：二つの事象の生起が，互いに無関係（確率を通じて考える性質）

■ 排反：二つの事象の同時には起きない（事象そのものの性質）

◆ 一方が起きるときは必ず他方は実現しないという関係を持つ可能性もあり，無関係とは限らない

■ ^例）₅₂ 枚のトランプ（ジョーカーを除外）から一枚を無作為に抜き出す．

◆ 事象Ａ：引いたカードがスペード柄

◆ 事象Ｂ：引いたカードが絵札 _(J,Q,K,A)

◆ 事象Ｃ：引いたカードがハート

◆ 事象Ｄ：引いたカードが黒色 ₍スペードかクラブ₎

◆ 事象Ｅ：引いたカードがジョーカー

(55)

事象の独立と排反

統計学第３週 _{– 55 / 84}

■ ^{このとき，}

◆ _Pr[A]^，^．^．^．^，_Pr[E]^，_{Pr[A ∩ B]}^，^．^．^．^，_{Pr[A ∩ E]} ^は？

◆ 事象Ａと事象Ｂは独立か否か？（独立・_not 排反）

◆ 事象Ａと事象Ｃは独立か否か？（_not 独立・排反）

◆ 事象Ａと事象Ｄは独立か否か？（_not 独立・_not 排反）

◆ 事象Ａと事象Ｅは独立か否か？（独立・排反）

(56)

ベイズの定理

統計学第３週 _{– 56 / 84}

■ Pr[A] Pr[B] > 0 ^{なる二つの事象} A,B ^{を考える．}

■ ^{条件付確率：}Pr[B|A] = Pr[A ∩ B]/ Pr[A]

■ ^{乗法公式：}Pr[A ∩ B] = Pr[B|A] Pr[A] = Pr[A|B] Pr[B]

■ _{Ω =} ^Sⁿ_i=1 _B_i ^なる _{B_i_}ⁿ_i=1 ^{を考えると}

Pr[A] =

n

X

i=1

Pr[A∩Bi] =

n

X

i=1

Pr[Bi] Pr[A|Bi] · · · ⁵

(57)

ベイズの定理

統計学第３週 _{– 57 / 84}

■ ^{乗法公式：}Pr[A ∩ B] = Pr[B|A] Pr[A] = Pr[A|B] Pr[B]

■ _{Ω =} ^Sⁿ_i=1 _B_i ^なる _{B_i_}ⁿ_i=1 ^{を考えると}

Pr[A] =

n

X

i=1

Pr[A∩Bi] =

n

X

i=1

Pr[Bi] Pr[A|Bi] · · · ⁶

■ ^{ベイズの定理：}

Pr[Bi|A] = ^Pr[Bⁱ ^{∩ A]} Pr[A] ⁼

Pr[Bi] · Pr[A|Bi] P_n

k=1 ^Pr[B^k^{] · Pr[A|B}^k^]

· · · ⁷

(58)

ベイズの定理

統計学第３週 _{– 58 / 84}

■ _A ^{観測される事柄}

■ _B_i ^{原因のひとつ（}_n ^{個のうちの} _i ^番目）

■ ^{ベイズの定理：}_A が観測されたとき，その原因の要因 _i である確率は？

■ ^解釈：

◆ ^先見的に _B_i ^{である確率は} _Pr[B_i_] ^{であるが，}_A ^{という観測事実} を用いた上で _B_i である確率はどのように更新されるか．

(59)

図解

統計学第３週 _{– 59 / 84}

A A ∩ B³

観測結果 _A ／原因 _B₃

B¹ B² B³ B⁴ B⁵ Ω

(60)

ベイズの定理

統計学第３週 _{– 60 / 84}

■ ^{ある製品の部品を} ^工場１_, ^２，３から入荷（割合は５：３：２）

◆ 同じ規格で製作しており，見かけ上の区別はない

■ ^{不良品率：工場１（}_1%^）^{，工場２（}_2%^）^{，工場３（}_5%^）

■ その製品を無作為に選んだところ，部品に不備があった．どこの工場のものと考えられるか？

無作為に選んだ製品に工場１の部品が含まれているという事象を _B₁ とし，工場２ならば _B₂，工場３ならば _B₃ とする．また，製品が故障しているという事象を _A とすると

(61)

ベイズの定理

統計学第３週 _{– 61 / 84}

無作為に選んだ製品に工場１の部品が含まれているという事象を _B₁ とし，工場２ならば _B₂，工場３ならば _B₃ とする．また，製品が故障しているという事象を _A とすると

Pr[B¹] = ⁵⁰

100 ^{, Pr[A|B}¹^{] =}

1 100 ^, Pr[B²] = ³⁰

100 ^{, Pr[A|B}²^{] =}

2 100 ^, Pr[B³] = ²⁰

100 ^{, Pr[A|B}³^{] =}

5 100

(62)

ベイズの定理

統計学第３週 _{– 62 / 84}

ベイズの定理から _Pr[B₁_|A]

= ^Pr[B¹] · Pr[A | B¹]

Pr[B¹] · Pr[A | B¹] + Pr[B²] · Pr[A | B²] + Pr[B³] · Pr[A | B³]

= ^50/100 ^{× 1/100}

50/100 × 1/100 + 30/100 × 2/100 + 20/100 × 5/100

≈ 5/21

つまり，無作為に選んだ製品が故障していたとき，これが工場１のものである確率は _5/21 ．

■ 同じく，工場２については _6/21

■ 同じく，工場３については _10/21

シェアが低くても故障率の高い工場３である確率が一番高い

(63)

演習問題

統計学第３週 _{– 63 / 84}

1 ド・モルガンの法則をベン図を用いて確認してください

2 集合演算に関する分配則の証明を完成させてください（ページ ₂₈参照） 3 次の二つの意見のおかしさを指摘し，正しい確率計算に基づいて正しい文

章に直してください．

◆ ^「勝率 _1/5 のくじを３回引いて，一回でも当たりが出れば自分の勝ち」というゲームよりも「勝率 _1/25 のくじを ₁₆ 回引いて，一回でも当たりが出れば自分の勝ち」というゲームの方が勝率が高そうだ

◆ 「１つのサイコロを４回投げて、６の目が一度でも出れば自分の勝ち」というゲームを何回もしたときは、自分が勝つことが多かったかかわらず，「２つのサイコロを ₂₄ 回投げて、両方とも６の目が一度でも出れば自分の勝ち」というゲームを何回もしたときは、自分が負けることが多かったのは不思議だ．

(64)

演習問題

統計学第３週 _{– 64 / 84}

4 トランプの例を用いて，独立と排反に関係がないことを確認してください

（ページ ₇₂参照）

5 Pr[A] = 0.4, Pr[B|A] = 0.3, Pr[ ¯B| ¯A] = 0.2 ^のとき，

◆ _{Pr[ ¯}A], Pr[B| ¯A], Pr[ ¯B|A], Pr[A ∩ B], Pr[B], Pr[A|B] ^{をそれぞれ求} めよ．

6 AB 型は，知的に優れているが，変人である傾向も強い，と血液型診断でよく言われる．血液型別の変人と普通の人の分布が以下のように与えられるとするなら，「変人」と思われる人を見たとき，その人が _AB 型であると考えることは合理的と言えるか．ただし，それぞれの血液型ごとの変人である確率は _Pr[変人 _|A 型_{] = 0.375}，_Pr[変人 _|B 型_{] = 0.5}，

Pr[^変人 |O ^型] = 0.5^，Pr[^変人 |AB ^型] = 0.8 ^（確かに AB ^{型に変人が多く，} A 型に普通の人が多い）であり，血液型の比率は４：３：２：１である．

(65)

解答編

集合と確率３．賭けと確率

４．事象の独立と排反

５．確率計算６．ベイズの定理

統計学第３週 _{– 65 / 84}

集合と確率

(66)

集合と確率

統計学第３週 _{– 66 / 84}

1 ド・モルガンの法則をベン図を用いて確認してください

2 集合演算に関する分配則の証明を完成させてください（ページ ₂₈参照）

◆ (A ∩ C) ∪ (B ∩ C) ^{に属する要素を} x ^とする．

◆ ^定義より x ∈ (A ∩ C) ^あるいは x ∈ (B ∩ C) の少なくともどちらか一方が成立する．

◆ ^{言い換えると，}_x ^は「_C ^{に含まれつつ，}_A ^{にも含まれる」か「}_C ^に含まれつつ，_B にも含まれる」という状態の少なくとも一方が成立している．

◆ ^つまり，_C には必ず属しており，その上で _A にも属するか _B にも属するかのうち少なくとも一方が成り立つ．

x ∈ C ∩ (A ∪ B)

◆ ^{したがって} (A ∩ C) ∪ (B ∩ C) ⊃ (A ∪ B) ∩ C

(67)

図解： _{de Morgan} の法則

統計学第３週 _{– 67 / 84}

A B

A ∩ B Ω

(68)

図解： _{de Morgan} の法則

統計学第３週 _{– 68 / 84}

A B

A ∪ ¯¯ B ^／ (A ∪ B) = ¯A ∩ ¯B Ω

(69)

３．賭けと確率

統計学第３週 _{– 69 / 84}

3 次の二つの意見のおかしさを指摘し，正しい確率計算に基づいて正しい文章に直してください．

◆ ^「勝率 _1/5 のくじを３回引いて，一回でも当たりが出れば自分の勝ち」というゲームよりは「勝率 _1/25 のくじを ₁₆ 回引いて，一回でも当たりが出れば自分の勝ち」というゲームの勝率の方が高そうだ

◆ 「１つのサイコロを４回投げて、６の目が一度でも出れば自分の勝ち」というゲームを何回もしたときは、自分が勝つことが多かったかかわらず，「２つのサイコロを ₂₄ 回投げて、両方とも６の目が一度でも出れば自分の勝ち」というゲームを何回もしたときは、自分が負けることが多かったのは不思議だ．

(70)

統計学第３週 _{– 70 / 84}

■ どちらも勝つ確率の計算を誤っている

■ 最初の文章における勝利確率を _3/5，16/25 > 15/25 = 3/5 ^{と見積もって} いるように見える

◆ ^正しくは _{1 − (4/5)}³ = 0.488, 1 − (24/25)¹⁶ = 0.4795971 ^{となってむ} しろ勝率は前者が上．

■ 次の文章における勝利確率も _4/6，24/36 = 4/6 と見積もっているように見える

◆ ^正しくは _{1 − (5/6)}⁴ ≈ 0.52, 1 − (35/36)²⁴ ≈ 0.49 ^{となって，むしろ勝} 率は勝ちやすいゲームであり，後者は負けやすいゲームである．

独立と排反

(71)

４．事象の独立と排反

統計学第３週 _{– 71 / 84}

■ 独立：二つの事象の生起が，互いに無関係（確率を通じて考える性質）

■ 排反：二つの事象の同時には起きない（事象そのものの性質）

◆ 一方が起きるときは必ず他方は実現しないという関係を持つ可能性もあり，無関係とは限らない

■ ^例）₅₂ 枚のトランプ（ジョーカーを除外）から一枚を無作為に抜き出す．

◆ 事象Ａ：引いたカードがスペード柄

◆ 事象Ｂ：引いたカードが絵札 _(J,Q,K,A)

◆ 事象Ｃ：引いたカードがハート

◆ 事象Ｄ：引いたカードが黒色 ₍スペードかクラブ₎

◆ 事象Ｅ：引いたカードがジョーカー

(72)

事象の独立と排反

統計学第３週 _{– 72 / 84}

■ ^{このとき，}

◆ _Pr[A]^，^．^．^．^，_Pr[E]^，_{Pr[A ∩ B]}^，^．^．^．^，_{Pr[A ∩ E]} ^は？

◆ 事象Ａと事象Ｂは独立か否か？（独立・_not 排反）

◆ 事象Ａと事象Ｃは独立か否か？（_not 独立・排反）

◆ 事象Ａと事象Ｄは独立か否か？（_not 独立・_not 排反）

◆ 事象Ａと事象Ｅは独立か否か？（独立・排反）

(73)

事象の独立と排反

統計学第３週 _{– 73 / 84}

■ 事象Ａ：引いたカードがスペード柄

■ 事象Ｂ：引いたカードが絵札 _(J,Q,K,A) Pr[A] = ¹³

52 ⁼ 1

4^{, Pr[B] =}

4 · 4 52 ⁼

4

13, Pr[A ∩ B] = ⁴ 52 このとき

Pr[A|B] = ^{Pr[A ∩ B]} Pr[B] ⁼

1

4, Pr[B|A] = ^{Pr[A ∩ B]} Pr[A] ⁼

4 13

したがって独立．一方，排反ではない（スペードの絵札が存在）．

(74)

事象の独立と排反

統計学第３週 _{– 74 / 84}

■ 事象Ｃ：引いたカードがハート Pr[A] = ¹

4^{, Pr[C] =} 13 52 ⁼

1

4, Pr[A ∩ C] = 0 このとき

0 = Pr[A ∩ C] 6= Pr[A] · Pr[C] = ¹ 4 ^·

1 4 ⁼

1 16

したがって独立ではない．一方，排反は言える（スペードかつハートは存在しない）

(75)

事象の独立と排反

統計学第３週 _{– 75 / 84}

■ 事象Ｄ：引いたカードが黒色カード ₍スペードかクラブ₎ Pr[A] = ¹

4^{, Pr[D] =} 26 52 ⁼

1

2, Pr[A ∩ D] = ¹³ 52 このとき

Pr[A|D] = ^{Pr[A ∩ D]} Pr[D] ⁼

1 2 ⁶⁼

1

4 ^{= Pr[A]} Pr[D|A] = ^{Pr[A ∩ D]}

Pr[A] ^{= 1 6=} 1

2 ^{= Pr[D]}

したがって独立ではない．一方，排反でもない．

(76)

事象の独立と排反

統計学第３週 _{– 76 / 84}

■ 事象Ｅ：引いたカードがジョーカー Pr[A] = ¹³

52, Pr[E] = 0, Pr[A ∩ E] = 0 このとき

0 = Pr[A ∩ E] = Pr[A] · Pr[E] = 0 したがって独立．一方，排反も言える．

条件付確率とベイズの定理

(77)

５．確率計算

統計学第３週 _{– 77 / 84}

5 Pr[A] = 0.4, Pr[B|A] = 0.3, Pr[ ¯B| ¯A] = 0.2 ^のとき，

◆ _{Pr[ ¯}A], Pr[B| ¯A], Pr[ ¯B|A], Pr[A ∩ B], Pr[B], Pr[A|B] ^{をそれぞれ求} めよ．

(78)

問題５解答

統計学第３週 _{– 78 / 84}

■ Pr[A] = 0.4, Pr[B|A] = 0.3, Pr[ ¯B| ¯A] = 0.2 ^のとき， 1. Pr[ ¯A] = 1 − Pr[A] = 1 − 0.4 = 0.6

2. Pr[B| ¯A] = 1 − Pr[ ¯B| ¯A] = 1 − 0.2 = 0.8, ((B ∩ ¯A) ∪ ( ¯B ∩ ¯A) = ¯A)

■ _{B ∩ ¯}A = Ω \ ( ¯A ∩ ¯B) \ A

■ _{Pr[ ¯}_{A ∩ ¯}_{B] = Pr[ ¯}_{B| ¯}_{A] Pr[ ¯}A] = 0.2 · 0.6,

■ _{Pr[B ∩ ¯}A] = 1 − Pr[ ¯A ∩ ¯B] − Pr[A] = 1 − 0.12 − 0.4 = 0.48, Pr[B| ¯A] = Pr[B ∩ ¯A]/ Pr[ ¯A] = 0.48/0.6 = 0.8

3. Pr[ ¯B|A] = 1 − Pr[B|A] = 1 − 0.3 = 0.7

■ _{A ∩ ¯}B = Ω \ ( ¯A ∩ ¯B) \ B

■ _{Pr[A ∩ ¯}B] = 1 − Pr[ ¯A ∩ ¯B] − Pr[B] = 1 − 0.12 − 0.6 = 0.28, Pr[B| ¯A] = Pr[B ∩ ¯A]/ Pr[A] = 0.28/0.4 = 0.7

(79)

問題５解答

統計学第３週 _{– 79 / 84}

■ Pr[A] = 0.4, Pr[B|A] = 0.3, Pr[ ¯B| ¯A] = 0.2 ^のとき， 4. Pr[A ∩ B]^{：乗法公式を用いて}

Pr[A ∩ B] = Pr[B|A] Pr[A] = 0.3 · 0.4 = 0.12

5. B = (B ∩ A) ∪ (B ∩ ¯A) ^より Pr[B] = Pr[B ∩ A] + Pr[B ∩ ¯A] ^なので

Pr[B] = Pr[B ∩ A] + Pr[B ∩ ¯A]

= Pr[B|A] · Pr[A] + Pr[B| ¯A] · Pr[ ¯A]

= 0.3 · 0.4 + 0.8 · 0.6 = 0.60

6. Pr[A|B]：条件付き確率の定義より

Pr[A|B] = ^{Pr[B ∩ A]} Pr[B] ⁼

0.12 0.60 ⁼

1 5

(80)

６．ベイズの定理

統計学第３週 _{– 80 / 84}

6 AB 型は，知的に優れているが，変人である傾向も強い，と血液型診断でよく言われる．血液型別の変人と普通の人の分布が以下のように与えられるとするなら，「変人」と思われる人を見たとき，その人が _AB 型であると考えることは合理的と言えるか．ただし，それぞれの血液型ごとの変人である確率は _Pr[変人 _|A 型_{] = 0.375}，_Pr[変人 _|B 型_{] = 0.5}，

Pr[^変人 |O ^型] = 0.5^，Pr[^変人 |AB ^型] = 0.8 ^（確かに AB ^{型に変人が多く，} A 型に普通の人が多い）であり，血液型の比率は４：３：２：１である．

血液型 _A _B _O _AB 普通 _0.25 _0.15 _0.1 _0.02 変人 _0.15 _0.15 _0.1 _0.08

■ ^常識人は _A 型に多い，という話を反映した．_AB 型の中での変人比率も他に比べて高い．

(81)

６．血液型

統計学第３週 _{– 81 / 84}

■ ^{求める確率は，}_Pr[AB ^型 _| ^変人_] ^なので

Pr[AB ^型 | ^変人] = ^Pr[AB ^型^,^変人^] Pr[^変人]

また _Pr[変人_] は，全確率の公式を用いて，

Pr[^変人] = Pr[^変人 |A ^型] Pr[A ^型] + · · · + Pr[^変人 |AB ^型] Pr[AB ^型]

= 0.375 · 0.4 + 0.5 · 0.3 + 0.5 · 0.2 + 0.8 · 0.1 = 0.48

■ ^{したがって} _Pr[AB ^型 _| ^変人] = 0.08/0.48 = 1/6 ≈ 17%

■ この確率は，無作為に選んだ一人が _AB 型である確率 _0.1 よりもほんの少し大きいだけ．

(82)

ベイズの定理（感染者問題）

統計学第３週 _{– 82 / 84}

■ ^感染者：₁₀₀₀ ^人に ₁ ^人

■ 検査結果１：陽性ならば，確率 _0.98 で陽性

■ 検査結果２：陰性ならば，確率 _0.99 で陰性

■ 検査で陽性が出たとき，感染している確率は？設定より

Pr[^感染] = ¹

1000^{, Pr[}^陽性 ^| ^感染^{] =} 98

100^{, Pr[}^陰性 ^| ^非感染^{] =} 99 100 また，

Pr[^非感染] = ⁹⁹⁹

1000^{, Pr[}^陽性 ^| ^非感染^{] =} 1 100

(83)

ベイズの定理（感染者問題）

統計学第３週 _{– 83 / 84}

■ ^{ベイズの定理から}

Pr[^感染 | ^陽性] = ^Pr[^感染^{] · Pr[}^陽性 ^| ^感染^]

Pr[^感染] · Pr[^陽性 | ^感染] + Pr[^非感染] · Pr[^陽性 | ^非感染]

= (0.001) · (0.98)

(0.001) · (0.98) + (0.999) · (0.01) ^{≈ 0.089}

つまり，無作為に選んだ一人の検査結果が陽性反応であるとき，その人が感染している確率は９％程度．

(84)

ベイズの定理（感染者問題）

統計学第３週 _{– 84 / 84}

■ 検査の精度から考えると，低すぎないか？

■ _100,000 人いるとして，以下のように考える．

◆ 検査をすると，感染している ₁₀₀ 人中 _{100 × 0.98} 人（９８％）は陽性反応

◆ 検査をすると，感染していない _99,900 人中 99, 900 × 0.01 ^{人（１％）が陽性反応}

◆ 無作為に一人陽性から選んで，実際に感染している確率は

₉₈

₉₈ ₊ ₉₉₉

≈ 0.089

◆ ^{先見的には，}「当たりくじ」を引く確率は，_0.001（_0.1 ％）だけど，検査の情報を得た後では，それが９％に跳ね上がった，というお話．

資料置き場 hustat2017 20171013

統計学 第３週 確率

高木 真吾

北海道大学

なぜ確率か？

なぜ統計学で確率か？

なぜ確率か？

本日の講義

集合と事象

集合

集合

図解（ Venn diagram) ：集合 A と補集合 A ¯

図解 (Venn’s diagram) ：集合 A と補集合 A ¯

図解 ( ベン図 ) ：和集合と積集合

図解（ Venn diagram ） ：和集合と積集合

図解（ベン図） ：差集合と排反

図解（ Venn’s diagram ） ：差集合と排反

集合の演算１

図解： (A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C)

図解： (A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C)

図解： (A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C)

図解： (A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C)

集合の演算１

図解： A = (A ∩ B

) ∪ (A ∩ B

) ∪ · · · ∪ (A ∩ B

)

図解： A = (A ∩ B

) ∪ (A ∩ B

) ∪ · · · ∪ (A ∩ B

)

集合の演算２

図解： de Morgan の法則

図解： de Morgan の法則

証明

証明

証明

証明

確率

確率への応用：事象

事象

事象

確率：公理による確率の定義

確率：公理による確率の定義

確率の性質

図解：互いに排反な A ， B について，

Pr[A ∪ B] = Pr[A] + Pr[B]

図解： Pr[ ¯ A ] = 1 − Pr[A], Pr[Ω] = 1

確率の性質

図解：加法定理 Pr[A ∪ B] = Pr[A] + Pr[B] − Pr[A ∩ B]

図解：加法定理 Pr[A ∪ B ∪ C] = Pr[A] + Pr[B] + Pr[C] −

Pr[A ∩ B] − Pr[A ∩ C] − Pr[B ∩ C] + Pr[A ∩ B ∩ C]

問題

問題：解答１

問題：解答 2

問題：解答 3

図解：差集合

条件付き確率

条件付確率

図解

問題

問題

問題

事象の独立性

事象の独立と排反

事象の独立と排反

ベイズの定理

ベイズの定理

ベイズの定理

図解

ベイズの定理

ベイズの定理

ベイズの定理

演習問題

演習問題

解答編

集合と確率

集合と確率

図解： de Morgan の法則

図解： de Morgan の法則

統計学第３週確率

高木真吾

図解（ Venn diagram) ^：集合 ^A ^と補集合 ^A ^¯

図解 (Venn’s diagram) ^：集合 ^A ^と補集合 ^A ^¯

図解 ₍ ベン図 ₎ ：和集合と積集合

図解（ Venn diagram ^） ^{：和集合と積集合}

図解（ベン図）：差集合と排反

図解（ Venn’s diagram ^） ^{：差集合と排反}

図解： A _{= (A ∩ B}

_{) ∪ (A ∩ B}

図解： A _{= (A ∩ B}

_{) ∪ (A ∩ B}

図解： _{de Morgan} の法則

図解： _{de Morgan} の法則

図解： _{Pr[ ¯} A ] = 1 − Pr[A], Pr[Ω] = 1

問題：解答 ₂

問題：解答 ₃

図解： _{de Morgan} の法則

図解： _{de Morgan} の法則