資料置き場 hustat2017 20171013hand

(1)

統計学第３週確率

担当者：高木真吾

質問等は， [email protected] ^{までお願いします．}

URL: http://sites.google.com/site/hustat2017/

October 13, 2017

なぜ確率か？

₂

なぜ確率か？

. . . 3

集合と事象

₄

集合

. . . 5

集合の演算

. . . 7

確率

₁₂

事象

. . . 13

公理による確率

. . . 16

確率の性質

. . . 18

問題

. . . 20

条件付き確率

₂₁

条件付確率

. . . 22

問題

. . . 24

事象の独立性

. . . 25

事象の独立と排反

. . . 26

ベイズの定理

. . . 27

ベイズの定理の解釈

. . . 29

演習問題

. . . 30

(2)

なぜ確率か？ _{2 / 30}

なぜ確率か？

■ 統計学の講義で確率を使うのは？

◆ データを整理（記述統計）する観点からは確率は不要．

◆ データ（標本）からデータが出てきた背景（母集団）を推測するには両者に何らかの関係が必要

■ 「無作為」に対象を抜き出す（すべての対象が等しく選ばれる）

■ このとき，出てくるであろう値が何になるかを抜き出す前に考える

◆ どの値がどういう出やすさで選ばれるかを考える

■ 必然的に確率変数の考え方が必要とされる

◆ 確率および確率変数という道具がその関係を記述する上で重要

◆ したがって統計学（推測統計）では確率を最初に学ぶ

■ 確率はそれ自体も重要

◆ 結果に不確実性を伴う現象をモデル化するための重要な道具

◆ 例）金融現象，人の反応などなど

統計学第３週

_{– 3 / 30}

集合と事象 _{4 / 30}

集合

■ 集合：いくつかの要素の集まり

◆ 確率論では，「起きうる可能な事柄」をひとつのまとまり＝集合とみなす

■ 抽象的に，二つの集合_A，_Bを考える

◆ 空集合：_∅（含まれる要素がなにもないあつまり）

◆ _{A ⊆ B}：_Aに含まれる要素は常に_Bにも含まれる

◆ _{A = B}：_{A ⊆ B} かつ_{B ⊆ A} が成り立つ

◆ 補集合：_A¯（集合_A には含まれない要素の集まり，_A

c

と書くこともある）

◆ 和集合：_{A ∪ B}（集合_Aまたは_Bに含まれる要素の集まり）

◆ 積集合：_{A ∩ B}（集合_Aかつ_B に含まれる要素の集まり）

◆ 差集合：_{A \ B}（集合_Aには含まれるが，_Bには含まれない要素の集まり）

◆ 排反：_{A ∩ B = ∅}

統計学第３週

_{– 5 / 30}

(3)

図解（ベン図， Venn diagram, Venn’s diagram)

A

集合：

_A

（全体は

_Ω

）

Ω

A

補集合：

A (= Ω \ A)

Ω

A B

和集合：

_{A ∪ B}

Ω

A B

積集合：

_{A ∩ B}

Ω

A B

Ω

^差集合：

A \ B (= A ∩ B)

A B

排反：

_{A ∩ B = ∅}

Ω

統計学第３週

_{– 6 / 30}

集合の演算１

■ 分配則：問題）下の二つの関係式をベン図を用いて確認してください．

◆ (A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C)

◆ (A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C)

■ _{Bi}ⁿi₌₁ ^とΩ^{という集合を考え，}A, {Bi}ⁿi₌₁⊆ Ω^とする．Ω =^Sⁿi₌₁Bi を満たしているとすると

◆ _{A =}^Sⁿ_i₌₁_{(A ∩ B}i₎

◆ 問題）上の関係をベン図を用いて確認してください．

統計学第３週

_{– 7 / 30}

(4)

図解

A

B C

(A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C)

A

B C

(A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C)

A

B C

(A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C)

A

B C

(A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C)

統計学第３週

_{– 8 / 30}

図解

B

¹

B

²

B

³

B

⁴

B

⁵

Ω

A

A ∩ B

2

^{A ∩ B}

³

A ∩ B

4

B

¹

B

²

B

³

B

⁴

B

⁵

Ω

統計学第３週

_{– 9 / 30}

(5)

集合の演算２

■ _{de Morgan}の法則

◆ (A ∪ B) = ¯A ∩ ¯B

◆ (A ∩ B) = ¯A ∪ ¯B

◆ 問題）上の二つをベン図を用いて確認してください

■ _{de Morgan}の法則の一般化：集合列_{Ai_}ⁿ_i₌₁について，

◆ ₍^Sⁿ_i₌₁_Ai_{) =}^T n i₌₁A^¯ⁱ

◆ ₍^Tⁿ_i₌₁_Ai_{) =}^S n i₌₁A^¯ⁱ

統計学第３週

_{– 10 / 30}

証明

■ (A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C)^の証明

◆ (A ∪ B) ∩ C ⊂ (A ∩ C) ∪ (B ∩ C)^を示す

■ ある要素_xについて，x ∈ (A ∪ B) ∩ C ^{とすると，}x ∈ (A ∪ B)^かつx ∈ C ^{が成り立つ（}x^は (A ∪ B)に含まれており，同時に_Cには必ず含まれている）

■ 前者から，_xは_Aか_Bの少なくとも一方に含まれている

■ 上二つを合わせると，_xは「_Aと同時に_Cに含まれる（x ∈ (A ∩ C)^）^」か「B^と同時にC^に含まれる（x ∈ (B ∩ C)^）」の少なくとも一方が成り立っている

■ 以上より，x ∈ (A ∪ B) ∩ C^ならばx ∈ (A ∩ C) ∪ (B ∩ C)^なので (A ∪ B) ∩ C ⊂ (A ∩ C) ∪ (B ∩ C)

◆ (A ∪ B) ∩ C ⊃ (A ∩ C) ∪ (B ∩ C)^を示す

■ 本日の演習問題参照

◆ 以上，両方の結果を踏まえ，(A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C)^{が成り立つ．}

◆ (A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C)については，上の結果と下のド・モルガンの法則を合わせれば証明可能．

■ de Morgan^の法則(A ∪ B) = ¯A ∩ ¯B^の証明

◆ (A ∪ B) ⊂ ¯A ∩ ¯B ^を示す

■ _{x ∈ ¯}_{A ∩ ¯}_B のとき，_xは _Aに含まれておらず，かつ_Bにも含まれていない

■ したがって，_{x ∈ ¯}_{A ∩ ¯}_B

◆ (A ∪ B) ⊃ ¯A ∩ ¯B ^を示す

■ x ∈ (A ∪ B)^のとき，x^はAに含まれておらず，かつ_Bにも含まれていない

■ 言い換えると，_A か_B の範囲（_{A ∪ B}）には決して含まれていない

■ したがってx 6∈ (A ∪ B)^{，あるいは}x ∈ (A ∪ B)

統計学第３週

_{– 11 / 30}

(6)

確率 _{12 / 30}

確率への応用：事象

■ 標本点：起こりうる個々の結果

■ 標本空間：すべての標本点の集まり（起こりうる結果全体）

■ 事象：標本空間の一部（部分集合）

■ 全事象：標本空間（通常

_Ω

で表現する）

統計学第３週

_{– 13 / 30}

事象

■ 例１）（区別できる）さいころを２つ投げたときの目の数

◆ 標本点：

(1, 1) (1, 2), . . ., (6, 6)

^の

36

^個の各点

◆ 標本空間＝全事象：

₃₆

個の点の集合

◆ ^事象：

1.

^{両方とも偶数の目}

2.

^{二個目のさいころが}

3

^の目

3. (3, 5)

^の目

4.

^{両方とも０以上}

◆ 事象は，全事象の部分集合なので標本空間全体や標本点の１点，あるいは標本点のいくつかといったものがすべて考えられる．

統計学第３週

_{– 14 / 30}

事象

■ 例２）明日の最高気温

◆ 標本空間＝全事象：

Ω = { x | x ∈ [−50, 50] }

◆ 標本点：上の区間のどこか

◆ 事象：

■ ^{最高気温が氷点下}

A = { x | x ∈ [−50, 0) }

■ 最高気温が

₁₀

度以上

₂₀

度未満

B = { x | x ∈ [10, 20) }

統計学第３週

_{– 15 / 30}

(7)

確率：公理による確率の定義

■ 以下の関係を満たす

_Pr[•]

を確率と呼ぶ公理

₁

任意の事象

_A

について，

_{Pr[A] ≥ 0}

公理

₂

全事象

_Ω

について，

_{Pr[Ω] = 1}

公理

₃

任意の

_{(i, j)}

について

_A

_i

_{∩ A}

_j

_{= ∅}

であるとき，

Pr

"

∞

[

i=1

A

i

#

=

∞

X

i=1

Pr [ A

i

]

■ 逆に言うと上の関係を満たしさえすればどんなものでも「確率」と考えることができる

■ 他にも「頻度による確率の定義」「主観確率による確率の定義」「等価性原理」

統計学第３週

_{– 16 / 30}

確率：公理による確率の定義

■ 例）サイコロ

◆ それぞれの目の数の出る確率に

_1/6

を割り当てる

◆ 標本空間：

_{1

の目

_{, 2}

の目

_{, 3}

の目

_{, 4}

の目

_{, 5}

の目

_{, 6}

の目

_}

◆ 事象

_A

の要素数を

_#A

で表現し，

Pr[A] = #A · (1/6)

^とする．

◆ このとき，上の１，２は満たされる．３についても排反な事象の要素数を足してから６で割るか，個々の要素数を同じ６で割ったものを足しているかだけ．

統計学第３週

_{– 17 / 30}

確率の性質

■ 上の公理から以下の関係が成り立つ 1. Pr[∅] = 0

2. A^とB^{が排反のとき，}Pr[A ∪ B] = Pr[A] + Pr[B]

3. ^{任意の事象}A^{について，}Pr[A] + Pr[ ¯A] = 1^（Pr[ ¯A] = 1 − Pr[A]^） 4. ^加法定理

◆ Pr[A ∪ B] = Pr[A] + Pr[B] − Pr[A ∩ B]

◆ Pr[A ∪ B ∪ C] = Pr[A] + Pr[B] + Pr[C] − Pr[A ∩ B] − Pr[A ∩ C] − Pr[B ∩ C] + Pr[A ∩ B ∩ C] 5. ^劣加法性

Pr [ A ∪ B] ≤ Pr [ A] + Pr [ B]

統計学第３週

_{– 18 / 30}

(8)

図解

A B

Ω _A

B C

統計学第３週

_{– 19 / 30}

問題

■ Pr[A] = 0.24, Pr[B] = 0.52, Pr[A ∩ B] = 0.12^のとき，

◆ _{Pr[ ¯}_{A], Pr[ ¯}B], Pr[A ∪ B], Pr[ ¯A ∪ ¯B], Pr[ ¯A ∩ ¯B], Pr[A \ B]^{をそれぞれ求めよ．}

統計学第３週

_{– 20 / 30}

条件付き確率 _{21 / 30}

条件付確率

■

Pr[A] > 0

^なる事象

A

^{を考える．この}

A

が生起したうえに事象

_B

も生起する確率を次のような

条件付確率によって定義する．

Pr[B|A] = ^{Pr[A ∩ B]}

Pr[A] · · · ·

¹

◆

_A

が生起したことは条件として与えられた下で，事象

_B

が生起する確率を考えている

■ 乗法公式：条件付き確率から次の関係が成立することもわかる（

Pr[A] · Pr[B] 6= 0

^）

Pr[A ∩ B] = Pr[A|B] · Pr[B] = Pr[B|A] · Pr[A] · · · ·

²

統計学第３週

_{– 22 / 30}

(9)

図解

A A ∩ B B

A ∩ B

条件付き確率：事象

_A

の下で，同時に

_B

が生起

Ω

統計学第３週

_{– 23 / 30}

問題

文系_(A) 理系_(B) 職員_(C) 合計男性_(D) ₃₅₀ ₅₅₀ ₇₀₀ ₁₆₀₀ 女性_(E) ₁₅₀ ₁₅₀ ₁₀₀ ₄₀₀

合計 ₅₀₀ ₇₀₀ ₈₀₀ ₂₀₀₀

■ 偶然出会った人が，理系の女性である確率

■ 偶然出会った人が，学生である確率

■ 偶然出会った人が，文系か女性のいずれかである確率

■ 偶然出会った人が，女性であったとき，その人が職員である確率

出会う人が，文系という事象を_A，理系を_B，職員を_Cとすると，これらは互いに排反．また男性なら_D，女性なら_Eとすると，_Dと_Eは互いに排反．

■ 理系の女性である確率：_Pr[ _{] =}

=

■ 学生である確率：_Pr[ _{] = Pr[} _{] + Pr[} _{] =} ₊ ₌

■ 文系か女性のいずれかである確率：

Pr[] = Pr[] + Pr[] − Pr[ ] = =

■ 女性であったとき，その人が職員である確率：_Pr[ _{] =}

Pr[] Pr[ ]

=

統計学第３週

_{– 24 / 30}

(10)

事象の独立性

■ 二つの事象

_A

，

_B

が独立であるとは以下の関係が成り立つこと

■ ^定義：^（

A

^，

B

どちらか一方の事象の生起確率が０の場合も含む）

Pr[A ∩ B] = Pr[A] · Pr[B] · · · ·

³

■ 条件付確率から考えると理解しやすい（ただし一方の事象の生起確率が０の場合を除く）：

Pr[B|A] = ^{Pr[A ∩ B]}

Pr[A] ^{= Pr[B]} · · · ·

⁴

■ ^事象

A

^{の生起に対して，事象}

B

はなんら関係を持たないことを示している．

■ ^問）事象

_A

^，

_B

^{が独立であり，}

Pr[A] · Pr[B] 6= 0

^なら，

Pr[B|A] = Pr[B]

^かつ

Pr[A|B] = Pr[A]

が成り立つことを示せ．

統計学第３週

_{– 25 / 30}

事象の独立と排反

■ 独立：二つの事象の生起が，互いに無関係

■ 排反：二つの事象の同時には起きない

◆ 一方が起きるときは必ず他方は実現しないという関係を持つ可能性もあり，無関係とは限らない

■ ^例）52枚のトランプ（ジョーカーを除外）から一枚を無作為に抜き出す．

◆ 事象Ａ：引いたカードがスペード柄

◆ 事象Ｂ：引いたカードが絵札_(J,Q,K,A)

◆ 事象Ｃ：引いたカードがハート

◆ 事象Ｄ：引いたカードが黒色カード（スペードかクラブ）

◆ 事象Ｅ：引いたカードがジョーカー

■ このとき，

◆ _Pr[A]，．．．，_Pr[E]，_{Pr[A ∩ B]}，．．．，_{Pr[A ∩ E]}は？

◆ 事象Ａと事象Ｂは排反か，公平なトランプを用いるとき事象Ａと事象Ｂの生起は独立か？

◆ 事象Ａと事象Ｃは排反か，公平なトランプを用いるとき事象Ａと事象Ｃの生起は独立か？

◆ 事象Ａと事象Ｄは排反か，公平なトランプを用いるとき事象Ａと事象Ｄの生起は独立か？

◆ 事象Ａと事象Ｅは排反か，公平なトランプを用いるとき事象Ａと事象Ｅの生起は独立か？

統計学第３週

_{– 26 / 30}

(11)

ベイズの定理

■

Pr[A] Pr[B] > 0

^{なる二つの事象}

A,B

^{を考える．}

■ ^{条件付確率：}

Pr[B|A] = Pr[A ∩ B]/ Pr[A]

■ ^{乗法公式：}

Pr[A ∩ B] = Pr[B|A] Pr[A] = Pr[A|B] Pr[B]

■

_{Ω =} ^S

ⁿ_i=1

_B

_i なる

_{B

_i

_}

ⁿ_i=1を考えると

Pr[A] =

n

X

i=1

Pr[A ∩ B

i

] =

n

X

i=1

Pr[B

i

] Pr[A|B

i

] · · · ·

⁵

■ ベイズの定理：

Pr[B

_i

|A] = ^Pr[B

ⁱ

^{∩ A]}

Pr[A] ⁼

Pr[B

_i

] · Pr[A|B

_i

]

P

n

k=1

^Pr[B

^k

^{] · Pr[A|B}

^k

^]

· · · ·

⁶

統計学第３週

_{– 27 / 30}

ベイズの定理

■ ^{ある製品の部品を}^工場１,^２，３から入荷（割合は５：３：２）

◆ 同じ規格で製作しており，見かけ上の区別はない

■ 不良品率：工場１（_1%），工場２（_2%），工場３（_5%）

■ その製品を無作為に選んだところ，部品に不備があった．どこの工場のものと考えられるか？

無作為に選んだ製品に工場１の部品が含まれているという事象を_B₁とし，工場２ならば_B₂，工場３ならば B3とする．また，製品が故障しているという事象を_Aとすると

Pr[B1] =

, Pr[A|B1] =

, Pr[B2] =

, Pr[A|B2] =

, Pr[B3] =

, Pr[A|B3] = ベイズの定理から

Pr[B1|A] = ^Pr[

_{] · Pr[} _|

_]

Pr[] · Pr[ |

] + Pr[

] · Pr[

|

] + Pr[

] · Pr[

|

]

=

_×

_× ₊ _× ₊ _×

≈

つまり，無作為に選んだ製品が故障していたとき，これが工場１のものである確率は．

■ 同じく，工場２については

■ 同じく，工場３については

統計学第３週

_{– 28 / 30}

(12)

ベイズの定理の解釈

■

_A

観測される事柄

■

B

_i ^{原因のひとつ（}

n

^{個のうちの}

i

^番目）

■ ^{ベイズの定理：}

_A

が観測されたとき，その原因の要因

_i

である確率は？

■ 解釈：先見的に

_B

_iである確率は

_Pr[B

_i

_]

であるが，

_A

という観測事実を用いた上で

_B

_iである確率はどのように更新されるか．

A

A ∩ B

3

観測結果

_A

／原因

_B

₃

B

1

B

2

B

3

B

4

B

5

Ω

統計学第３週

_{– 29 / 30}

演習問題

宿題は５，６番のみ．_A4用紙に記載して，次週水曜日₁₃時までに提出して下さい． 1 ド・モルガンの法則をベン図を用いて確認してください

2 集合演算に関する分配則の証明を完成させてください（ページ₅参照）

3 次の二つの意見のおかしさを指摘し，正しい確率計算に基づいて正しい文章に直してください．

◆ 「勝率_1/5のくじを３回引いて，一回でも当たりが出れば自分の勝ち」というゲームよりも「勝率 1/25^のくじを16回引いて，一回でも当たりが出れば自分の勝ち」というゲームの方が勝率が高そうだ

◆ 「１つのサイコロを４回投げて、６の目が一度でも出れば自分の勝ち」というゲームを何回もしたときは、自分が勝つことが多かったかかわらず，「２つのサイコロを₂₄回投げて、両方とも６の目が一度でも出れば自分の勝ち」というゲームを何回もしたときは、自分が負けることが多かったのは不思議だ．

4 トランプの例を用いて，独立と排反に関係がないことを確認してください（ページ₁₀参照） 5 Pr[A] = 0.4, Pr[B|A] = 0.3, Pr[ ¯B| ¯A] = 0.2 ^のとき，

◆ _{Pr[ ¯}A], Pr[B| ¯A], Pr[ ¯B|A], Pr[A ∩ B], Pr[B], Pr[A|B]^{をそれぞれ求めよ．}

6 AB型は，知的に優れているが，変人である傾向も強い，と血液型診断でよく言われる．血液型別の変人と普通の人の分布が以下のように与えられるとするなら，「変人」と思われる人を見たとき，その人が_AB 型であると考えることは合理的と言えるか．ただし，それぞれの血液型ごとの変人である確率は

Pr[^変人|A^型] = 0.375^，Pr[^変人|B^型] = 0.5^，Pr[^変人|O^型] = 0.5^，Pr[^変人|AB^型] = 0.8^（確かにAB 型に変人が多く，_A型に普通の人が多い）であり，血液型の比率は４：３：２：１である．

統計学第３週

_{– 30 / 30}

資料置き場 hustat2017 20171013hand

統計学 第３週 確率

担当者： 高木 真吾

質問等は， [email protected] までお願いします．

URL: http://sites.google.com/site/hustat2017/

October 13, 2017

2

. . . 3

4

. . . 5

. . . 7

12

. . . 13

. . . 16

. . . 18

. . . 20

21

. . . 22

. . . 24

. . . 25

. . . 26

. . . 27

. . . 29

. . . 30

なぜ確率か？ 2 / 30

なぜ確率か？

– 3 / 30

集合と事象 4 / 30

集合

– 5 / 30

図解（ベン図， Venn diagram, Venn’s diagram)

A

A

Ω

Ω

A

A

A (= Ω \ A)

Ω

A B

A ∪ B

Ω

A B

A ∩ B

Ω

A B

Ω

A \ B (= A ∩ B)

A B

A ∩ B = ∅

Ω

– 6 / 30

集合の演算１

– 7 / 30

図解

A

B C

(A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C)

A

B C

(A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C)

A

B C

(A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C)

A

B C

(A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C)

– 8 / 30

図解

B

B

B

B

B

Ω

A

A ∩ B

A ∩ B

A ∩ B

B

統計学第３週確率

担当者：高木真吾

質問等は， [email protected] ^{までお願いします．}

₂

₄

₁₂

₂₁

なぜ確率か？ _{2 / 30}

_{– 3 / 30}

集合と事象 _{4 / 30}

_{– 5 / 30}

_A

_Ω

_{A ∪ B}

_{A ∩ B}

_{A ∩ B = ∅}

_{– 6 / 30}

_{– 7 / 30}

_{– 8 / 30}

^{A ∩ B}

_{– 9 / 30}

_{– 10 / 30}

_{– 11 / 30}

確率 _{12 / 30}

_Ω

_{– 13 / 30}

₃₆

_{– 14 / 30}

₁₀

₂₀

_{– 15 / 30}

_Pr[•]

₁

_A

_{Pr[A] ≥ 0}

₂

_Ω

_{Pr[Ω] = 1}

₃

_{(i, j)}

_A

_{∩ A}

_{= ∅}

_{– 16 / 30}

_1/6

_{1

_{, 2}

_{, 3}

_{, 4}

_{, 5}

_{, 6}

_}

_A

_#A

_{– 17 / 30}

_{– 18 / 30}