大数の法則・正規分布・中心極限定理

(1)

大数の法則・正規分布・中心極限定理

樋口さぶろお

龍谷大学理工学部数理情報学科

確率統計☆演習I L09(2016-12-01 Thu)

最終更新: Time-stamp: ”2016-12-16 Fri 19:36 JST hig”

今日の目標

大数の法則の意味が説明できる塚田確率統計§5.2

正規分布の母平均値・母分散・確率が積分や表で求められる.^{塚田確率統計}§4.7

中心極限定理の意味が説明でき,^{確率の計算に}

利用できる. ^{塚田確率統計}§5.3 http://hig3.net

樋口さぶろお (数理情報学科) L09大数の法則・正規分布・中心極限定理確率統計☆演習I(2016) 1 / 24

(2)

独立性・二項分布・ベルヌーイ分布

L08-Q1

Quiz解答:離散型確率変数の独立性

確率の和は1^なので, ₁₂² + ₁₂¹ +A+B = 1.

よって,

f_Y(y) = {3

12 (y= 3)

9

12 (y= 7) 独立性から,

fXY(2,3) =fX(2)₁₂³ = ₁₂² , f_XY(3,3) =f_X(3)₁₂³ = ₁₂¹ , f_XY(2,7) =f_X(2)₁₂⁹ =A, f_XY(3,7) =f_X(3)₁₂⁹ =B.

A, B, fX(2), fX(3) ^{を未知数として解くと},A= ₁₂⁶,B = ₁₂³ . L08-Q2

Quiz解答:独立な確率変数の期待値

(3)

1 X, Y ^{は独立なので},E[XY] = E[X]E[Y]^{であることに注意して}, E[(−2X+ 3Y)(X+ 5Y)] = E[−2X²] + E[−7XY] + E[15Y²] =

−2(V[X] + E[X]²)−7E[X]E[Y] + 15(V[Y] + E[Y²])

2 独立なので,V[XY] = V[X] + V[Y]^{であることに注意して}, V[−2X+ 3Y] = V[−2X] + V[3Y] = 4V[X] + 9V[Y].

L08-Q4

Quiz^解答:^二項分布

1 二項分布 B(100,²₃) ^{に従う確率変数を}X ^とするP(X= 50) ^を求めればいいから,100C50p⁵⁰(1−p)¹⁰⁰⁻⁵⁰= _50!50!^100! (²₃)⁵⁰(1−²₃)⁵⁰.

2 E[X] =n×p= ²⁰⁰₃ .

3 V[X] =n×p(1−p) = ²⁰⁰₉ . L08-Q5

Quiz^解答:^{ベルヌーイ分布}

(4)

1 ベルヌーイ分布 B(1,0.05)^{に従う確率変数を}X ^とすると, Y = 1000X.

2 E[Y] = E[1000X] = 1000E[X] = 1000p= 50.

V[Y] = V[1000X] = 1000²V[X] = 1000²p(1−p) = 47500.

L09-Q6

Quiz解答:独立同分布にしたがう変数の和母平均値と母分散は, E[aX+bY +c] =aE[X] +bE[Y] +c,^{独立分布の}

V[aX+bY +c] =a²V[X] +b²V[Y]の式を繰り返し使えば求められる.

1 A は母平均値が3,母分散が ₁₀₀⁷ .

2 B は母平均値が0,母分散が7.

3 C ^{は母平均値が}0,^母分散が1.

(5)

大数の法則・正規分布・中心極限定理

復習

チェビシェフの不等式 Chebyshev’s inequality ^{塚田確率統計}3.5

X: 離散型または連続型確率変数 µ= E[X]: ^母平均値

σ² = V[X]: ^母分散 a >0: 任意の正の実数のとき次が成立する.

P(|X−µ| ≥aσ)≤ 1 a² 要するに

自分の言葉でどうぞ

(6)

独立同分布の性質塚田確率統計5.1

独立同分布(i.i.d.)

離散型/連続型確率変数X₁, X₂, . . . , X_n が,たがいに独立で,すべて同じ確率分布に従う(^{同じ確率関数}f(x))^とする.

これを X₁, . . . , X_n は独立同分布に従う (i.i.d.=independent and identically-distributed) という.

新しい確率変数: Un=X1+· · ·+Xn

母平均値 E[Xi] =µ,^母分散 V[Xi] =σ² ^{としたとき},

E[Un] =

∑n i=1

E[Xi] =n×µ.

V[U_n] =

∑n i=1

V[X_i] =n×σ².

U_nの確率密度関数はこんな感じ?

(7)

新しい確率変数: Wn= _n¹Un= ¹_n(X1+· · ·+Xn) E[Wn] =E[₁

nUn

]= 1

n×n×µ.

V[Wn] =V[₁

nUn

]= (1

n )₂

×n×σ².

Wn の確率密度関数はこんな感じ?

(8)

大数の(弱)法則塚田確率統計5.2

W_n= 1 n

∑n i=1

X_i は∀ϵ >0 lim

n→+∞P(|W_n−µ_X| ≥ϵ) = 0 を満たす. つまり,n^大で Wn は母平均値 µX= E[X]^{に「必ず近い」}(WnがµX

に確率収束)

証明 µWn =µX, σ²_W_n =σ_X²/n. Wn に対するチェビシェフの不等式より, P(|Wn−µX| ≥a×√σX

n)≤ 1 a² a= √σ^ϵX

n

とすると,n→+∞ ^で

P(|W_n−µ_X| ≥ϵ)≤ σ_X² ϵ²n →0 これが母期待値の直観的意味. 要するに,

自分の言葉でどうぞ

(9)

大数の法則・正規分布・中心極限定理正規分布

ここまで来たよ

1 独立性・二項分布・ベルヌーイ分布

2 大数の法則・正規分布・中心極限定理正規分布

中心極限定理

(10)

一般の正規分布 塚田確率統計§4.7高校数学B

正規=normal

(一般の)正規分布 N(b, a²)の確率密度関数 f(x;b, a²) = 1

√2πa²e⁻

(x−b)2 2a2 . b, a²:パラメタ

0 0.05 0.1 0.15 0.2 0.25 0.3 0.35 0.4

-2 0 2 4 6 8

x

N(0,1) N(3,2²)

難しいので,まず b= 0, a= 1 の場合を考える.

z= ^x⁻_a^b ^または x=az+b

y =f(z; 0,1)のグラフを, 横に a倍, 横にbだけ平行移動して,縦に1/√

a²倍したものがy=f(x;b, a²)

(11)

標準正規分布 N(0,1²)の確率密度関数 f(z; 0,1²) =f(z) = 1

√2πe⁻^z

2 2 .

- 4 - 2 0 2 4

0.0 0.1 0.2 0.3 0.4

μ σ σ

1σ 2σ3σ 0.6827 0.9545 0.9973

- 4 - 2 0 2 4

0.0 0.1 0.2 0.3 0.4

μ σ σ

1.96σ 2.58σ

0.9500 0.9900

(12)

標準正規分布N(0,1²)の性質

P(c < Z < d) =簡単じゃない. 表塚田確率統計付録B, p207 をひけ. E[1] =1, ^{塚田確率統計}^p.83^微積分^II

E[Z] =0, 奇関数. ^{塚田確率統計}^p.85 V[Z] =1 ^{塚田確率統計}^p.85^微積分^II

I(d) =

∫ _d

0

f(z; 0,1²) dz=P(0< Z < d)^の表^{塚田確率統計付録}^{B, p207} ^{高校数学}^B このI(z)の表,I(+∞) = ¹₂,Zの確率密度関数f が偶関数であること,ですべての区間の確率が求められる.

上側確率Q(z) = ¹₂−I(z)を載せている本も多い.

(13)

L09-Q1

Quiz(標準正規分布の確率)

Z は標準正規分布N(0,1²) に従う. Z <−2 となる確率は? L09-Q2

Quiz(標準正規分布の確率)

Z は標準正規分布N(0,1²) に従う連続型確率変数である.

1 母期待値 E[Z²]を求めよう.

2 確率 P(−0.56< Z <+1.23) ^{を数表から求めよう}. L09-Q3 ^{塚田確率統計}§4.13問3

(14)

正規分布ふたたび

Z = ^X_a⁻^b または X=aZ+b,Z ∼N(0,1²).

E[1] =1, ^{塚田確率統計}^p.83^微積分^II µ_X= E[X] =E[aZ+b] =b, ^{塚田確率統計}^p.85 σ²_X= V[X] =V[aZ+b] =a², ^{塚田確率統計}p.85 微積分II

つまり,b=µX, a² =σ²_X^ってこと. (一般の)正規分布 N(µ, σ²)

母平均値 µ,母分散σ²の正規分布N(µ, σ²)の確率密度関数は, f(x;µ, σ²) = 1

√2πσ²e⁻

(x−µ)2 2σ2 .

(15)

L09-Q4

Quiz(正規分布の確率)

連続型確率変数Xは,確率密度関数 f(x) = 1

√2π3²e⁻

(x−4)² 2·3²

にしたがう.

1 E[X]^{を求めよう}.

2 V[X]^{を求めよう}.

(16)

L09-Q5

連続型確率変数Xは,確率密度関数

f(x) =C·e⁻¹⁸¹^x²⁺⁴⁹^x を持つ.

1 E[X]を求めよう.

2 V[X]を求めよう.

3 定数C^{を求めよう}.

(17)

N(µ, σ²) の確率の求め方 I

-6 -4 -2 2 4 6 x

0.2 0.4 0.6 0.8 1.0 pHxL ProbHx>Μ+1.5ΣL

斜線部の面積はどれも同じ

対応する Z = ^X⁻_σ^µ^X

X ∼N(0,1²) の範囲を考えて,表から求める. 一般の正規分布の確率

X ∼N(µ_X, σ_X²), Z ∼N(0,1²)のとき

P(c < X < d) =P(^c⁻_σ^µ^X < ^X⁻_σ^µ^X < ^d⁻_σ^µ^X) =P(^c⁻_σ^µ^X < Z < ^d⁻_σ^µ^X)

(18)

L09-Q6

X が母平均値3,母分散 4の正規分布にしたがうとする.

1 X≥5^{となる確率を求めよう}.

2 +1≤X≤7 ^{となる確率を求めよう}.

(19)

L09-Q7

1 母平均値0,母分散 1² の正規分布で,0.5≤X <0.7となる確率を求めよう.

2 母平均値0,^母分散 2² ^{の正規分布で},0.5≤X <0.7^{となる確率を求} めよう.

3 母平均値3,^母分散 2² ^{の正規分布で},4.0≤X <4.4^{となる確率を求} めよう.

L09-Q8 ^{塚田確率統計}§4.13問4

(20)

大数の法則・正規分布・中心極限定理中心極限定理

ここまで来たよ

1 独立性・二項分布・ベルヌーイ分布

2 大数の法則・正規分布・中心極限定理正規分布

中心極限定理

(21)

最初が一様分布でも,実は n→ ∞ ^でU やW の確率密度関数の形は長方形から崩れていく. 分布の個性が消える! っていうか美しい形に! 中心極限定理(いいかげんバージョ

ン)^{塚田確率統計}^5.3

X1, . . . , Xn が母平均値µ,^母分散 σ² ^{の独立同分} 布に従うとき,

U_n=X₁+· · ·+X_n,の確率分布は, の

正規分布

N(nµ, nσ

²

)

に似る W_n= ¹_n(X₁+· · ·+X_n) の確率分布は,

正規分布

N(µ, σ

²

/n)

に似る Z_n= ^W_σⁿ√⁻^µ

n の確率分布は,

標準正規分布

N(0, 1

²

)

に似る

(22)

中心極限定理(厳密バージョン)

確率変数 X1, X2, . . . , Xn が,^母平均値µ,^母分散 σ² ^{の独立同分布に従う} とする. 正規分布じゃない. どんな分布でも可

Zn=

1

n(X1+···+Xn)−µ

σ ×√

n^とすると,

Z_nは,n→+∞ ^の極限で,N(0,1²) に従う. すなわち

n→lim+∞P(a≤Z_n< b) =

∫ _b

a

√1

2πe⁻¹²^x² dx

「Zn はN(0,1²) ^{にしたがう}Z ^{に法則収束する」}

法則収束とは,関数列がある関数に収束すること. 証明

E[Z_n] = 0,V[Z_n] = 1はすぐわかるが…

モーメント母関数を使うと瞬殺確率統計☆演習II

(23)

L09-Q9

Quiz(中心極限定理)

確率変数 X1, . . . , X100 はE[Xi] = 1,V[Xi] = ¹₄ ^{の独立同分布に従う}. ^次の確率変数の母平均値と母分散を求めよう. また,n= 10が十分に大きいと思って,指定の確率を求めよう.

1 確率変数 U =X1+X2+X3+· · ·+X100. ^確率P(U >110).

2 確率変数W = ₁₀₀¹ (X₁+X₂+X₃+· · ·+X₁₀₀). 確率P(W <1.01).

(24)

連絡

予習問題は, 次々回の授業直前を締切(そこまでの最高点を記録)と

します. ^でも, Trialまでにやったほうが効率いいと思う.

前からそうだけど,^{予習問題が満点だと}, Trial^の満点の1/3^まで保証されます.

配布資料は1-503^{向かいの引出},http://hig3.net^で再配布. 加減乗除と平方根(^ルート)の使える電卓持ってきてね. ^{関数電卓で} なくてもいいです. 携帯電話の機能・アプリでもかまいません. 樋口オフィスアワー木6^金昼(1-502), Math^{ラウンジ月}-^木昼(1-614) 次回は塚田確率統計§6.1 塚田確率統計§6.2 塚田確率統計§7.1 塚田確率統計§7.2

Manabaにレポートあります. 2016-12-08まで.

https://manaba.

ryukoku.ac.jp