(I) (II) 2 (I) 2 (II) 2 (III) (I) (II) (II) : 2 Typeset by Akio Namba usig Powerdot. 2 / 47

(1)

(2)

確率変数

確率変数離散型確率変数確率関数分布関数離散型確率分布 (I) 離散型確率分布 (II) 2 項分布 (I) 2 項分布 (II) 2 項分布 (III) 連続型確率変数確率密度関数 (I) 確率密度関数 (II) 分布関数分布関数 (II) 期待値同時確率分布補足: 2 項分布について

(3)

離散型確率変数

■

確率変数

(random variable):

どの値が実現するか確実には

分からないが，その値が出る確率が分かっている変数。

例

:

サイコロを振った時，

1, 2, 3, 4, 5, 6

のうちどの目が

出るかは分からないが，それぞれの目の出る確率は

1 6

である。

■

離散型確率変数

_:

不連続な値しかとらない確率変数

x

1 ,

x

2 ,

,

x

n

を離散型確率変数

X

の実現値とする。さらに，

X

x

_i

となる確率を

P X

x

_i

p

_i

とすると，

X

の確率分

布は

X

x

1 x

2 x

n

計

P X

x

_i

p

₁

p

₂

p

_n

1 x

2 x

i

p

1 p

2 _p

_i

となる。ただし

n

は無限大になることもある。

(4)

確率関数

X

x

i

となる確率を与える関数

f x

i

P X

x

i

p

i

を確率変数

X

の

確率関数

(probability function)

という。

確率関数には以下の

2 つの性質がある。

1. f x

i

0, i

1, 2,

(

確率は非負である

)

2. n

i 1

f x

i

1 (

確率の総和は

1 である

)

この性質を満たす関数は，どんな関数でも確率関数である。

サイコロの場合

X

1 2 3 4 5 6

計

P X

x

i

1 ₆

1 1 2 3 4 5 6

1

6

1

6

1

6

1

6

1

6

1

6

(5)

分布関数

X

x

となる確率を与える関数

F x

P X

x

r

i 1

p

i

r

i 1

f x

i

r

は

x

r

x

r 1

を満たす整数

を

分布関数

(distribution function)

という。

x

1 x

2 x

r

x

r 1

p

1 p

2 p

r

p

r 1

分布関数には以下の性質がある。

F

0, F

1

(6)

離散型確率分布

(I)

例

4.2 ある野球選手がヒットを打つ確率が

0.3 であるとする。

ヒットを打つという事象を

H

とすれば，

H

c

はヒットを打た

ない事象になる。

3 打席のうちヒットを打つ回数を

X

とする。

1 打席 2 打席 3 打席 3 打席

1 打席

2 打席

3 打席

X

確率

H

3 0.3

0.3

0.3 H

H

c

2 0.3

0.3

0.7 H

H

c

H

2 0.3

0.7

0.3 H

H

c

H

c

1 0.3

0.7

0.7 H

c

H

2

0.7

0.3

0.3 H

c

H

c

1

0.7

0.3

0.7 H

c

H

c

H

1

0.7

0.3 H

c

H

c

H

c

0

0.7

(7)

離散型確率分布

(II)

1 打席

2 打席

3 打席

X

確率

H

3 0.3

0.3

0.3 H

H

c

2 0.3

0.3

0.7 H

H

c

H

2 0.3

0.7

0.3 H

H

c

H

c

1 0.3

0.7

0.7 H

c

H

2 0.7

0.3

0.3 H

c

H

c

1 0.7

0.3

0.7 H

c

H

c

H

1 0.7

0.7

0.3 H

c

H

c

H

c

0 0.7

0.7

0.7 表より

P X

0

1

0.7

0.343 P X

1

3

0.3

0.7

0.441 P X

2

3

0.3

0.7

0.189 P X

3

1

0.3

0.027

(8)

2 項分布

(I)

例

4.2 のように，ある事象

(

ヒットを打つ

) A

が起こる確率を

p

，その余事象

A

c

の起こる確率を

q

1 p

とする。

n

回

(3

打席

)

の試行を行ったとき，事象

A

が

x

回起こる確率は

f x

P X

x

n

C

x

p

x

q

n x

n!

x! n

x !

p

x

_q

n x

で与えられる。

n!

は

n

の階乗で，

n!

n n

1 n

2

1 を

意味する。また，

0!

1 とする。

(9)

2 項分布

(II)

n

C

x

は

n

個の中から

x

個を選ぶ場合の組み合わせの個数であ

る。例えば

n

3 の時，

3 C

0 3!

0!3!

1,

3 C

1 3!

1!2!

3,

3 C

2 3!

2!1!

3,

3 C

3 3!

3!0!

1 n

C

x

n

C

n x

が成り立つ。

例

4.2 では，

x

本ヒットを打つ確率は確かに

f x

P X

x

3 C

x

0.3 x

0.7 n x

で与えられる。

(10)

2 項分布

(III)

確率変数

X

の確率密度関数が

f x

P X

x

n

C

x

p

x

q

n x

n!

x! n

x !

p

x

_q

n x

である時，

X

は

2 項分布

(Binominal Distiribution)

に従う

とい

い，

X

B n, p

と書く。

(11)

連続型確率変数

■

連続型確率変数

_:

実現値が連続した値

₍

任意の実数値

₎

を

とる確率変数。連続型確率変数の分布を

連続型確率分

布

という。

■

確率密度関数

(probability density function):

確率を分配す

る規則を表す連続曲線。単に密度関数とも呼ばれる。

確率密度関数の例

f x

X

P a

X

b

a

f x dx

(12)

確率密度関数

(I)

a

_b

f x

X

P a

X

b

a

f x dx

連続型確率変数

X

が開区間

a, b

に入る確率は，この区間で

の確率密度関数と

X

軸との間の領域の面積

P a

X

b

a

f x dx

で表される。

(13)

確率密度関数

(II)

確率密度関数には以下の性質がある。

f x

0,

f x dx

1 X

が特定の値

a

をとるという確率は

X

a

という線分の面積

P X

a

P a

X

a

f x dx

0 となる。このことから

P a

X

b

P a

X

b

P a

X

b

P a

X

b

が成立する。

(14)

分布関数

X

x

となる確率

F x

P X

x

f t dt

を離散型確率変数のときと同様に，

分布関数

という。

分布関数を用いれば

P a

X

b

F b

F a

b

f x dx

a

f x dx

b

a

f x dx

と書くことができる。

(15)

分布関数

(II)

離散型確率変数の場合と同様に，分布関数には

F

0, F

1 という性質がある。

(16)

期待値

確率変数期待値平均値 (I) 平均値 (II) 期待値の性質分散，標準偏差分散の性質 (I) 分散の性質 (II) 標準化された変数標準化された変数の性質積率尖度と歪度同時確率分布補足: 2 項分布について

(17)

平均値

(I)

1 個のサイコロを投げて，出る目の数だけ賞金をもらうゲー

ムを考える。

60 回投げたときの結果は以下の通り

表

4.5 サイコロ投げの実験例

出る目

1

2

3

4

5

6 計

度数

9

13

8

12

11

7

60 相対度数

9

60

13

60

8

60

12

60

11

60

7

60

1

1 回あたりの賞金は

1

9

2

13

3

8

4

12

5

11

6

7

60

1

9

60

2

13

60

3

8

60

4

12

60

5

11

60

6

7

60 投げる回数を大きくすると

相対度数

は

1

6 に近づく

(

大数の

法則

)

。

(18)

平均値

(II)

サイコロを十分大きい回数投げたとき，

1 回当たりに得られ

る賞金は

1

6

2

1

6

3

1

6

4

1

6

5

1

6

1

6

3.5 以上のように，離散型確率変数の

期待値

(expectation,

平均

値

ともいう

)

を次のように定義する。

E X

n

i 1

x

i

p

i

n

i 1

x

i

f x

i

同様に連続型確率変数の期待値を次のように定義する。

E X

x f x dx

(19)

期待値の性質

定理

4.1 a, b

が定数であるとき

E aX

b

aE X

b

証明

(

離散型場合のみ。連続型の場合も同様に行える

):

E aX

b

n

i 1

ax

i

b f x

i

n

i 1

ax

i

f x

i

n

i 1

b f x

i

a

n

i 1

x

_i

f x

_i

b

n

i 1

f x

_i

aE X

b

(20)

分散，標準偏差

確率変数

X

の

分散

(Variance)

を以下のように定義する。

V X

E X

µ

2 ,

µ

E X

n

i 1

x

_i

µ

2 f x

_i

(

離散型

)

x

µ

2 f x dx (

連続型

)

分散の非負の平方根，すなわち

σ

X

V X

E X

µ

2 を

標準偏差

という。

(21)

分散の性質

(I)

定理

4.2 µ

E X

とすれば

V X

E X

2 µ

2 証明

(

離散型場合のみ。連続型の場合も同様に行える

):

V X

E X

µ

2 n

i 1

x

i

µ

2 f x

i

n

i 1

x

2 _i

2µx

_i

µ

2 f x

_i

n

i 1

x

2 _i

f x

i

2µ

n

i 1

x

i

f x

i

µ

2 n

i 1

f x

i

E X

2 2µ

E X

µ

2 E X

2 µ

2

(22)

分散の性質

(II)

定理

4.3 a, b

が定数であるとき

V aX

b

a

2 V X

証明

:

E aX

b

aE X

b

aµ

b

であるから

(

定理

4.1)

V aX

b

E

aX

b

aµ

b

2 E a X

µ

2 E a

2 X

µ

2 a

2 E X

µ

2 (

定理

4.1 より

)

a

2 V X

(23)

標準化された変数

確率変数

X

から期待値

µ

E X

を引き，標準偏差

σ

X

で割った変数

z

X

µ

σ

を確率変数

X

の

標準化

(

基準化

)

(standardized)

された変数と

いう。

(24)

標準化された変数の性質

定理

4.4 z

を標準化された変数とすると

E z

0, V z

1 証明

:

a

1 σ, b

µ σ

とすれば

z

aX

b

となる。定理

4.1 より

E z

aE X

b

E X

σ

µ

σ

µ

σ

µ

σ

0 同様に，定理

4.3 より

V z

a

2 V X

σ

2

1

(25)

積率

a

を定数，

k

を正の整数とするとき

E X

a

k

を

a

の回りの

k

積率

または

モーメント

(moment)

という。

例

:

平均値

E X : 0(

原点

)

の回りの

1 次の積率

分散

V X

E X

2 :

平均値

E X

の回りの

2 次の積率

(26)

尖度と歪度

平均値の回りの

k

次の積率を

m

k

E X

k

で表し，

γ

₁

m

4 m

2 ₂

,

γ

2 m

₃

m

3 2

₂

とする。

γ

₁

を

せんど

尖度

(kurtosis)

あるいは

とが

尖り

といい，

γ

₂

を

わいど

歪度

(skewness)

あるいは

ゆが

歪み

という。

左右対称の確率分布の歪度は

0 となる。特に，第

5 章で扱う

正規分布では，尖度，歪度ともに

0 となる。

(27)

同時確率分布

確率変数期待値同時確率分布同時確率分布と周辺分布 (I) 同時確率分布と周辺分布 (II) 同時確率分布と周辺分布 (II) 同時確率分布と周辺分布 (II) 条件付き分布独立性期待値確率変数の和の期待値確率変数の積の期待値同時確率分布の分散共分散共分散の性質相関係数確率変数の和の分散 n 変数への拡張 定理 4.9 の証明 (平均) 定理 4.9 の証明 (分散)

(28)

同時確率分布と周辺分布

(I)

例

: 2

つのサイコロを投げたとき，出る目の数をそれぞれ

X, Y

とする。

X

と

Y

の出る目は独立

(X

の値は

Y

j

となる確率に影響を

与えない

)

だから，

X

i

かつ

Y

j (i, j

1, 2,

,

6)

となる

確率は，

P X

i, Y

j

P X

i P Y

j

1

36 となる。

このような確率の系列を，確率変数

X

と

Y

の

同時確率分布

(29)

同時確率分布と周辺分布

(II)

f x

i

,

y

j

P X

x

i

,

Y

y

j

p

i j

i

1, 2,

,

n, j

1, 2,

,

m

を確率変数

X, Y

の

同時確率関数

という

表

4.6 同時確率分布

❍

X

Y

y

1 y

2 y

m

計

x

₁

p

₁₁

p

₁₂

p

_1m

p

₁

x

2 p

21 p

22 p

2m

p

2 .

.

x

n

p

n1

p

n2

p

nm

p

n

計

p

₁

p

₂

p

_m

1

(30)

同時確率分布と周辺分布

(II)

表

4.6 同時確率分布

❍

X

Y

y

1 y

2 y

m

計

x

1 p

11 p

12 p

1m

p

1 x

2 p

21 p

22 p

2m

p

2 .

.

x

n

p

n1

p

n2

p

nm

p

n

計

p

₁

p

₂

p

_m

1 p

i

m

_{i 1}

p

i j

は，

Y

がどの値をとるかに依存せず，

X

が

x

i

と

いう値をとる確率である。

これを確率変数

X

の

周辺分布

(marginal distribution)

という。

同様に，

p

j

で与えられる分布を確率変数

Y

の周辺分布と

いう。

(31)

同時確率分布と周辺分布

(II)

f x

_i

P X

x

_i

p

_i

m

j 1

p

_{i j}

f y

j

P X

y

j

p

j

n

i 1

p

i j

をそれぞれ

X, Y

の

周辺確率関数

という。

確率の総和は

1 なので

n

i 1

m

j 1

p

i j

n

i 1

p

i

m

j 1

p

j

1 が成り立つ。

2 つの連続型確率変数

X, Y

についても

同時確率密度関数

およ

び

周辺確率密度関数

を考えることができる。

(32)

条件付き分布

Y

が

Y

y

j

という値をとるという条件の下で，

X

x

i

となる

確率を考えると

f x

_i

y

_j

P X

x

_i

Y

y

_j

P X

x

_i

,

Y

y

_j

P Y

Y

j

(

乗法定理

)

f x

i

,

y

j

f y

_j

となる。

f x

i

y

j

を，

Y

y

j

を与えたときの

X

x

i

の

条件付き確率関

数

という。

(33)

独立性

X

が

x

_i

という値をとるという事象と

Y

が

y

_j

という値をとる

という事象が

独立

であるということは

P X

x

i

,

Y

y

j

P X

x

i

P Y

y

j

となることである。

これは，同時確率関数

f x, y

と周辺確率関数

f x , f y

また

は

p

i j

, p

i

, p

j

を用いれば

f x

i

,

y

j

f x

i

f y

j

,

p

i j

p

i

p

j

が成立することである。

この関係が，すべての

i, j

について成り立つとき，確率変数

X

と

Y

は

(

統計的に

)

独立である

という。

連続型確率変数の場合には

同時確率密度関数

f x, y

と

周辺確

率密度関数

f x , f y

に

f x, y

f x f y

という関係が成立

すれば，確率変数

X

と

Y

は

(

統計的に

)

独立であるという。

(34)

期待値

離散型確率変数

X, Y

の同時確率分布が表

4.6 のように与えら

れているとき，

X

の期待値

(

平均値

)

を以下のように定義する。

E X

n

i 1

m

j 1

x

_i

p

_{i j}

n

i 1

x

i

m

j 1

p

i j

n

i 1

x

i

p

i

Y

の期待値も同様に定義される。

連続型確率変数の同時確率分布についても，期待値は同様に

定義できる。

以下の定理

4.5 定理

4.9 は連続型確率変数の場合にも成立

(35)

確率変数の和の期待値

定理

4.5 確率変数の和の期待値

確率変数

X, Y

について

E X

Y

E X

E Y

が成り立つ。

証明

:

E X

Y

n

i 1

m

j 1

x

_i

y

_j

p

_{i j}

n

i 1

m

j 1

x

i

p

i j

n

i 1

m

j 1

y

j

p

i j

E X

E Y

(36)

確率変数の積の期待値

定理

4.6 確率変数の積の期待値

確率変数

X

と

Y

が

独立であるならば

E XY

E X E Y

が成り立つ。

証明

:

E XY

n

i 1

m

j 1

x

i

y

j

p

i j

n

i 1

m

j 1

x

i

y

j

p

i

p

j

(

独立性より

)

n

i 1

x

_i

p

_i

m

j 1

y

_j

p

_j

(37)

同時確率分布の分散

同時確率分布の分散は，

1 変数の場合と同様に定義される。

V X

E X

2 n

i 1

m

j 1

x

_i

E X

2 p

_{i j}

n

i 1

x

i

E X

2 p

i

V Y

についても同様に定義される。

V X ,

V Y ,

を標準偏差といい

, σ X (

または

σ

_X

), σ Y

(

または

σ

_Y

)

などで表す。

(38)

共分散

(covariance)

を次式で定義する。

Cov X, Y

E X

Y

E Y

n

i 1

m

j 1

x

_i

E X

y

_j

E Y p

_{i j}

共分散の定義において，

X

Y

とすれば通常の分散が得ら

れる。

(39)

共分散の性質

定理

4.7 Cov X, Y

E XY

E X E Y

証明

:

Cov X, Y

n

i 1

m

j 1

x

i

E X

y

j

E Y p

i j

n

i 1

m

j 1

x

_i

y

_j

x

_i

E Y

E X y

_j

E X E Y p

_{i j}

E XY

E X E Y

E XY

E X E Y

確率変数

X

と

Y

が独立ならば，定理

4.6 より

E XY

E X E Y

となるので，

Cov X, Y

0 となる。

しかし

Cov X, Y

0 であるからといって，

X

と

Y

が

独立で

あるとはいえない。

(40)

相関係数

(correlation coeﬃcient)

を

ρ

X, Y

Cov X, Y

σ

X σ Y

で定義する。

確率変数

X

と

Y

が独立であるとき，

ρ

X, Y

0 となる。

しかし，

ρ

X, Y

0 であっても，

X

と

Y

が

独立であるとはい

えない

ということに注意が必要である。

(41)

確率変数の和の分散

定理

4.8 確率変数の和の分散

ρ

X, Y

0 であるならば，

V X

Y

V X

V Y

証明

:

V X

Y

E

X

Y

E X

E Y

2 E

X

E X

Y

E Y

2 E X

E X

2 Y

E y

2 2 X

E X

Y

E Y

E X

2 E Y

E Y

2 2E X

E X

Y

E Y

V X

V Y

2E X

E X

Y

E Y

ここで，

ρ

X, Y

0 ならば

E X

Y

E Y

0 であ

るから

V X

Y

V X

V Y .

(42)

n

変数への拡張

定理

4.5(E X

Y

E X

E Y )

と定理

4.8(ρ X, Y

0 なら

ば

V X

Y

V X

V Y )

は

n

個の確率変数の場合に拡張

することができる。

このことを用いると，次の定理が成立する。

定理

4.9 X

1 ,

X

2 ,

,

X

n

は互いに独立で，同じ平均

µ

と分散

V X

i

σ

2 を持つとする。すなわち，

E X

i

µ,

V X

i

σ

2 ,

i

1, 2,

,

n

とすると，算術平均

X

1 n

n

i 1

X

_i

について，

E X

µ,

V X

σ

2 n

(43)

定理

4.9 の証明

(

平均

)

証明

:

定理

4.5 を用いれば

E X

E

1 n

n

i 1

X

i

1 n

E

n

i 1

X

_i

1 n

n

i 1

E X

i

µ

(

定理

4.5 より

)

1 n

nµ

µ

(44)

定理

4.9 の証明

(

分散

)

定理

4.8 を用いれば

V X

V

1 n

n

i 1

X

i

1 n

2 V

n

i 1

X

_i

(

定理

4.3 より

)

1 n

2 n

i 1

V X

i

(X

i

の独立性と定理

4.8 より

)

1 n

2 nσ

2 σ

2 n

(45)

補足

: 2

項分布について

確率変数期待値同時確率分布補足: 2 項分布について 2 項分布の平均と分散 2 項分布の平均と分散の求め方