資料置き場 hustat2017 20171201slide ans

(1)

統計学

第９回

正規母集団における標本理論

担当者：

高木

真吾

URL:

http://sites.google.com/site/hustat2017/

質問等は，

stakagi@econ.hokudai.ac.jp

までお願いします．

(2)

復習

(3)

復習

復習正規分布関連の確率分布に関する前提知識正規母集団における標本理論

■ 確率変数：実現するまではどの値が出るかわからないが，どの値がどのくらい

の出やすさで実現するかに関するルールは定められているもの

■ 離散型確率変数：個々の取りうる値に確率が付与されている

◆ ベルヌーイ分布に従う確率変数（値１を確率 p，値０を確率 1 − p）

◆ 二項分布に従う確率変数

■ 連続型確率変数：実現パターンが密度関数として表現されている

◆ 正規分布

(4)

復習

http://sites.google.com/site/hustat2017/ 統計学第９回 – 4 / 46

■ 確率変数の期待値の基本公式：取りうる値 × 確率

◆ ベルヌーイ分布に従う確率変数 X：

■ 平均：E[X] = 1 · p + 0 · (1 − p) = p

■ 分散：V[X] = E[(X − E[X])2] = E[X2] − (E[X])2 =

12 _· p + 02 _· (1 ₋ p) ₋ p2 = p(1 ₋ p)

◆ 正規分布に従う確率変数 X (密度関数は

φ(x) = √ 1

2πσ2 exp{−0.5(x − µ)

2_/σ2_}₎

■ 平均：E[X] =

R_∞

−∞ x · φ(x)dx = µ

■ 分散：V[X] = E[(X − E[X])2] ==

R _∞

−∞(x − µ)

2

(5)

復習

■ 独立な確率変数 ({Xi}n

i=1) の和に関する期待値演算（Y = β0 +

Pn

i=1 βi · Xi）ただし，{βi}n

i=0 は確率変数ではない定数．

◆ 平均：E[Y ] = β0 +

Pn

i=1 βi · E[Xi]，分散：V[Y ] =

Pn

i=1 βi2 · V[Xi]

◆ 例）「標本平均」という確率変数について考える．X¯ = 1

n

Pn

i=1 Xi

■ 「標本平均」とは，n 個の確率変数を足し，n で除す確率変数

◆ 上の公式で，β0 = 0, β1 = β2 = · · · = βn = 1/n とした場合に相当

■ 平均：E[ ¯X] = 1

n

Pn

i=1 E[Xi]，分散：V[ ¯X] = 1

n2

Pn

i=1 V[Xi]

◆ さらにすべての確率変数 {Xi}n

i=1 が同じ平均，同じ分散を持つなら（E[Xi] = µ, V[Xi] = σ2, for i = 1,2, . . . , n）

(6)

復習

■ 母数：母集団を特徴づけるパラメータ

◆ 母集団平均：母集団全体における中心

◆ 母集団分散：母集団全体における中心からの平均的な乖離の程度

■ 推定量：母数を推定するため，標本から作ることができる確率変数

◆ 「標本平均」という確率変数（X¯ = 1

n

Pn

i=1 Xi）：母集団平均を推定したい

◆ 「標本分散」という確率変数（S2 = 1

n₋1

Pn

i=1(Xi − X¯)2）：母集団分散を

推定したい

■ 不偏推定量：推定したい母数に対して，偏りがない（その推定量の平均＝起き

方の中心が母数と一致）推定量

◆ 「標本平均」は母集団平均の不偏推定量：E[ ¯X] = µ

(7)

正規分布関連の確率分布に関する前

提知識

(8)

必要な確率分布

d.f. = degrees-of-freedom = 自由度

■ 自由度 k (パラメータ k) のカイ二乗（χ2）分布に従う確率変数の密度関数

f(y;k) = 1

2 _· Γ(k/2)

y

2

k/2₋1

expn₋y 2

o

, k > 0, y > 0.

■ 自由度 m (パラメータ m) のｔ分布

f(t;m) = _√ 1

m _· B(m/2,1/2)

1 + t

2

m

−(m+1)/2

, m > 0, _−∞ < t < _∞.

■ 自由度 (n, m) (パラメータ (n, m)) のＦ分布に従う確率変数の密度関数:

f(x; n, m) = n/m

B(n/2, m/2)

n

mx

n/2₋1

1 + n

mx

₋(n+m)/2

(9)

正規分布

0.1

0.2

0.3

0.4

y

(10)

カイ二乗分布に従う確率変数の密度関数

0 5 10 15 20

0.0

0.1

0.2

0.3

0.4

0.5

カイ二乗分布に従う確率変数の密度関数

x

cbind(y1, y2, y3)

(11)

ｔ分布に従う確率変数の密度関数

-4 -2 0 2 4

0.0

0.1

0.2

0.3

0.4

t分布に従う確率変数の密度関数

cbind(y1, y2, y4)

(12)

Ｆ分布に従う確率変数の密度関数

0 1 2 3 4 5 6

0.0

0.2

0.4

0.6

0.8

1.0

F分布に従う確率変数の密度関数

x

cbind(y1, y2, y3)

(13)

正規分布との関係：カイ二乗分布

■ 標準正規分布に従う確率変数 X：X ∼ N(0, 1)

■ カイ二乗（χ2）分布

◆ _Y ₌ _X2

とおくと，Y は自由度１のカイ二乗（χ2）分布に従う

◆ 独立な標準正規分布に従う確率変数 X1, . . . , Xn を用いて

Y = n

X

i=1 X_i2

(14)

正規分布との関係：ｔ分布

■ ｔ分布

◆ _X_: 標準正規分布／ W: 自由度 m の χ2 分布

◆ _X と W が互いに独立であるとき，自由度 m のｔ分布に従う．

X

p

W/m ∼ t(m)

(15)

正規分布との関係：Ｆ分布

■ Ｆ分布

◆ _V _: 自由度 n の χ2 分布／ W: 自由度 m の χ2 分布

◆ _V と W が互いに独立であるとき，自由度 (n, m) のＦ分布に従う．

V /n

W/m ∼ F(n, m)

◆ 自由度が (1, m) のＦ分布に従う確率変数の平方根は，自由度 m のｔ分布に

(16)

(17)

母集団分布が正規分布

■ 母集団分布：正規分布

■ 母数：母集団平均 µ ／母集団分散 σ2

■ 大きさ n の標本：{X1, X2, . . . , Xn}．ただし Xi ∼ N(µ, σ2) i = 1,2, . . . , n

■ 標本平均：

¯

X = 1

n

X

i=1 Xi

■ 標本分散：

S2 = 1

n ₋ 1 n

X

(18)

標本平均の標本分布

■ 標本平均の分布：X¯ = n−1

Pn

i=1 Xi

¯

X _∼ N(µ, σ2/n) (1)

■ ここから（標準化によって）

¯

X ₋ µ

p

(19)

標本平均の問題

■ 天秤による計測：観測には多少の誤差が出る＝誤差を確率変数のように考える

◆ 観測誤差は平均 0 ｇ，分散 0.1（標準偏差

√

0.1 ｇ）の正規分布

■ ₁₀ 回の計測を行って，その平均によって「重さ」を確定する．

■ このとき，「重さ」の取りうる値はどのような分布になるか（標本平均の分布）？

(20)

標本平均の問題

■ 計測量に関する大きさ 10 の標本：{X1, X2, . . . , X10}

■ 誤差を確率変数 Ui と表記するとき，Ui ∼ N(0,0.1)

■ 計測量の取りうる値を Xi とすると

X_i = 100 + U_i, i = 1.2. . . . ,10

なので Xi ∼ N(100, 0.1)（真の重さが 100 ｇ，誤差が平均０，分散 0.1）

■ このとき（1）式より

¯

X = 1 10

10

X

i=1

Xi ∼ N(100,0.1/10)

■ 標準化を行うと（0.1/10 = 0.01,

√

0.01 = 0.1 に注意する）

Z _≡ _pX¯ − 100

(21)

標本平均の問題

■ 求めるべき条件式 |X¯ − 100| > 0.3 を Z を含む様に変形する．

|X¯ ₋ 100_| > 0.3 _⇔ 10 _{· |}X¯ ₋ 100_| > 3 _{⇔ |}Z_| > 3

■ 標準正規分布の数表より

(22)

標本平均に関する問題２

■ 天秤による計測：観測誤差は平均 0 ｇ，分散 0.1 ｇ（標準偏差

√

0.1 ｇ）の正規

分布

■ _X¯ の誤差が 0.1 ｇ以下となる確率が 90 ％以上となるようにしたい

■ 何回くらい計測すればよいか？

■ 計測量に関する大きさ n の標本：{X1, X2, . . . , Xn}

■ このとき（2）式を参照して，

Z _≡ X_p¯ − 100

0.1/n =

√

10n _· ( ¯X ₋ 100) _∼ N(0,1)

■ 問題は Pr[|X¯ − 100| < 0.1] ≥ 0.90 となるような n を求めること

(23)

標本平均に関する問題２

|X¯ ₋ 100_| < 0.1 _⇔ √10n _{· |}X¯ ₋ 100_| < 0.1√10n _{⇔ |}Z_| < 0.1√10n

■ 標準正規分布の数表より

Pr[_|Z_| < 1.65] = 0.90

なので臨界点を 1.65 よりも大きくすると題意を満たす．つまり

0.1√10n > 1.65 _−→ n _≥ 16.5 2

10 = 27.225

(24)

Pr[

_|

Z

|

< c

] = 0

.

90

-4 -2 0 2 4

0.0

0.1

0.2

0.3

0.4

Pr[ -1.65 < Z < 1.65 ]

x

y1

µ =0 , σ

2

=1

(25)

標本分散の標本分布

■ 標本分散：S2 = (n − 1)−1

Pn

i=1(Xi − X¯)2

■ 標本分散は自由度 n − 1 のカイ二乗（χ2）分布に従う

(n ₋ 1) _· S

2

σ2 =

n

X

i=1

X_i ₋ X¯ σ

2

∼ χ2(n ₋ 1) (3)

c.f.

n

X

i=1

Xi − µ

σ 2 = n X i=1

Z_i2, Zi ∼ N(0,1)

■ 自由度が n ではなく，n − 1 であることに注意．

■ データは n 個あって，本来これらがすべてどのような値でもとりうるはずだが，

¯

(26)

標本分散に関する問題

■ 母集団分布は正規分布／母集団平均 4，母集団分散 15．

■ 大きさ 10 の標本：{X1, X2, . . . , Xn}（Xi ∼ N(4, 15)）

■ 標本分散について S2 > a となる確率が 0.05 となるような a はいくつか？

■ （3）式より，以下の関係が成り立つ

(n ₋ 1) _· S

2

σ2 = 9 · S2

15 ∼ χ

2₍₉₎

■ また

S2 > a _⇔ 9 _· S

2

15 > 9 ·

a

(27)

標本分散に関する問題

■ カイ二乗分布表の自由度９の欄の５％点をみると Pr[V > 16.9190] = 0.05 なの

でなので臨界点を 16.9190 とすると題意を満たす．つまり

9 _· a

15 = 16.9190 −→ a =

16.9190 _· 15

(28)

Pr[

V > c

] = 0

.

05

0 5 10 15 20

0.00

0.02

0.04

0.06

0.08

0.10

自由度９のカイ二乗分布: Pr[ V > 16.9190 ]

x

y1

df=9

(29)

標本平均・標本分散に関して

¯

X ₋ µ

p

σ2_/n ∼ N(0, 1),

¯

X ₋ µ

p

S2_/n ∼ t(n − 1)

■ （2）式は µ にも σ2 にも依存．

◆ _µ についてだけ調べたいときには σ2 が厄介．

◆ 何とか σ2 に依存しないようにできないか（S2 で置換）？

(30)

標本平均・標本分散に関して

¯

X ₋ µ

p

σ2_/n ∼ N(0, 1),

¯

X ₋ µ

p

S2_/n ∼ t(n − 1)

■ 重要な結果１：( ¯X − µ)/

p

σ2_/n_{：標準正規分布}

■ 重要な結果２：(n − 1)S2/σ2 ：自由度 n − 1 の χ2 分布

■ したがって

T = ( ¯X − µ)/

p

σ2_/n

p

{(n ₋ 1)S2_/σ2_}_/₍_n ₋ ₁₎ =

¯

X ₋ µ

p

S2_/n ∼ t(n − 1) (4)

(31)

標本平均・標本分散の問題

■ 母集団分布：正規分布／母集団平均 3，母集団分散 σ2

■ 大きさ 15 の標本：{X1, X2, . . . , X15}

■ 標本平均と標本分散を用いて，( ¯X − 3)/

√

S2 _{> a} _{となる確率が} ₀_.₀₁ _となる _a _は

いくらか？

■ 問題から大きさ 15 の標本：{X1, X2, . . . , X15} において，Xi ∼ N(3, σ2)

■ このとき標本平均と標本分散は

¯

X = 1 15

15

X

i=1

Xi ∼ N(3, σ2/15), S2 =

1 15 ₋ 1

15

X

i=1

(Xi − X¯)2

(32)

標本平均・標本分散の問題

T _≡ _pX¯ − 3

S2_/₁₅ ∼ t(14)

■ ところで

¯

X ₋ 3

√

S2 > a ⇔

¯

X ₋ 3

p

S2_/₁₅ >

a

p

1/15 = a

√

15

つまり

Pr

¯

X ₋ 3

√

S2 > a

= Pr

"

¯

X ₋ 3

p

S2_/₁₅ > a √

15

#

= 0.01

となるのは自由度 14 のｔ分布表から a

√

15 = 2.624 を満たす a を求めればよい

(33)

Pr[

T > c

] = 0

.

05

-4 -2 0 2 4

0.0

0.1

0.2

0.3

0.4

自由度14のｔ分布: Pr[ T > 2.624 ]

y1

df=14

(34)

正規分布とｔ分布の乖離

■ ｎ回の計測で得られるであろう結果が {X1, X2, . . . , Xn}

■ ₆ 回の計測で標本平均と母集団平均の乖離が，標本標準偏差の 1.0 倍となる確率

はいくらか

■ ₆ 回の計測で標本平均と母集団平均の乖離が，（母集団）標準偏差の 1.0 倍となる

確率はいくらか

(35)

正規分布とｔ分布の乖離

■ 前提：

T _≡ _pX¯ − µ

S2_/n ∼ t(n − 1), Z ≡

¯

X ₋ µ

p

σ2_/n ∼ N(0, 1)

■ ６回の計測で標本平均と母集団平均の乖離が，標本標準偏差の 1.0 倍となる確率

Pr[_|X¯ ₋ µ_{| ≥} √S2_{] = Pr}

"

|X¯ ₋ µ_|

p

S2_/n ≥

√

S2

p

S2_/n

#

= Pr_|T_{| ≥} √n

n = 6 なのでｔ分布表の自由度５の欄から

√

6 _≈ 2.45 となる確率は５％∼ １０

(36)

正規分布とｔ分布の乖離

■ 前提：

T _≡ _pX¯ − µ

S2_/n ∼ t(n − 1), Z ≡

¯

X ₋ µ

p

σ2_/n ∼ N(0, 1)

■ 母集団分散が分かっている σ2 として，6 回の計測で標本平均と母集団平均の乖

離が，（母集団）標準偏差の 1.0 倍となる確率はいくらか

Pr[_|X¯ ₋ µ_{| ≥} √σ2_{] = Pr}

"

|X¯ ₋ µ_|

p

σ2_/n ≥

√

σ2

p

σ2_/n

#

= Pr_|Z_{| ≥} √n

n = 6（

√

6 _≈ 2.45）のとき正規分布表から求める確率は約 0.014

(37)

本日の演習問題

■ 母集団平均が µ 分（母集団分散・標準偏差については未知）の正規分布であっ

たとするならば、「調査による平均視聴時間」と「母集団における平均視聴時

間」が標本標準偏差の１倍以上も乖離してしまうという結果が出る確率が 0.05

以下で収まる1のは，何人について調査を実施する場合か？

■ 標本標準偏差の 0.5 倍以上も乖離してしまうという結果が出る確率が 0.05 以下

となるのは，何人について調査を実施する場合か？（問題には含まれていません

が余裕があれば考えてみてください）

(38)

宿題解説１

■ 母集団平均が µ 分（母集団分散・標準偏差については未知）の正規分布であっ

たとするならば、「調査による平均視聴時間」と「母集団における平均視聴時

間」が標本標準偏差の１倍以上も乖離してしまうという結果が出る確率が 0.05 以下で収まるのは，何人について調査を実施する場合か？

◆ 大きさ n の標本：{X1, X2, . . . , Xn}，Xi ∼ N(µ, σ2)

◆ 標本平均について X¯ ∼ N(µ, σ2/n) なので

Z = _pX¯ − µ

σ2_/n ∼ N(0,1), T =

¯

X ₋ µ

p

S2_/n ∼ t(n − 1)

ただし S2 は標本分散．

(39)

宿題解説１

■ 問題は |X¯ − µ| > 1 ·

√

S2 _{となる確率が} _0.05 _{以上となる} _n _{を求めること}

Pr h_|X¯ ₋ µ_| > 1 _· √S2i _≤ ₀_.₀₅ _⇔ _Pr

"

|X¯ ₋ µ_|

p

S2_/n >

1 _· √S2

p

S2_/n

#

≤ 0.05

つまり

Pr _|T_| > √n = Pr

"

|X¯ ₋ 300_|

p

S2_/n > √

n

#

≤ 0.05

■ 自由度 n − 1 のｔ分布に従う確率変数 T について，Pr[|T| > 1 ·

√

n] < 0.05 な

(40)

宿題解説１

■ 括弧内 T は自由度 n − 1 の t 分布に従う：ｔ分布表から例えば n = 5 のとき，

自由度 4 の欄から

Pr[ _|T_| > qn₋1 ] = Pr[ |T| > 2.776 ] = 0.05

■ 様々な n について qn

−1 を求めると以下の図の通り．

■ _q_n

−1 ≤

√

(41)

Figure

4

6

8

10

12

(42)

宿題解説２，３

■ 問題は |X¯ − µ| > 0.5 ·

√

S2 _{となる確率が} _0.05 _{以上となる} _n _{を求めること}

Pr h_|X¯ ₋ µ_| > 0.5 _· √S2i _≤ ₀_.₀₅ _⇔ _Pr

"

|X¯ ₋ µ_|

p

S2_/n >

0.5 _· √S2

p

S2_/n

#

≤ 0.05

つまり

Pr T > 0.5√n = Pr

"

|X¯ ₋ 300_|

p

S2_/n > 0.5 √

n

#

≤ 0.05

■ 自由度 n− 1 のｔ分布に従う確率変数 T について，Pr[|T| > 0.5 ·

√

n] < 0.05 な

(43)

宿題解説２，３

■ 括弧内の左辺は自由度 n − 1 の t 分布に従う：ｔ分布表から例えば n = 5 のと

き，自由度 4 の欄から

Pr[ _|T_| > qn₋1 ] = Pr[ |T| > 2.776 ] = 0.05

■ 様々な n について qn

−1 を求めると以下の図の通り．

■ _q_n

−1 ≤ 0.5

√

(44)

Figure

5 10 15 20

2

4

6

8

10

12

Sample Size; n

(45)

宿題解説２，３

■ 分散が既知なら，|X¯ − µ| > 0.5 ·

√

σ2 _{となる確率が} _0.05 _{以上となる} _n _を求める

ことに帰着する

Pr h_|X¯ ₋ µ_| > 0.5 _· √σ2i _≤ ₀_.₀₅ _⇔ _Pr

"

|X¯ ₋ µ_|

p

σ2_/n >

0.5 _· √σ2

p

σ2_/n

#

≤ 0.05

つまり

Pr _|Z_| > 0.5√n = Pr

"

|X¯ ₋ 300_|

p

σ2_/n > 0.5 √

n

#

≤ 0.05

■ 標準正規分布に従う確率変数 Z について，Pr[|Z| > 0.5 ·

√

(46)

宿題解説２，３

■ 括弧内の左辺は標準正規分布に従う：正規分布表から

Pr[_|Z_| > 1.96] = 0.05

■ ₁_.₉₆ _≤ √_n を満たすのは n = 4 となる場合であることが分かる