63
Chapter 4 確率変数の独立性
4.1 結合確率分布
今までは,確率変数がひとつの場合を議論してきたが,2つ以上の確率変数を扱わなければならない こともある.たとえば,つぎのようなケースはその典型である. (例1)筑波大学を訪れていた銭形警部は,キャンパスを散策しているうちに時間の経つのを忘れ,予 定していた筑波大学始発で東京駅行の高速バスに乗り損ねてしまった.しかたなく,筑波大学中央発の ローカルバスでつくばセンターへ行き,そこからつくばセンター始発の東京駅行の高速バスに乗ること にした.出発時刻がすでに 20 分ほどずれてしまった上に,バスを乗り継がなければならないため,東 京駅へ着くのがいつ頃になるのかを推定したいと考えている.ローカルバスの乗車時間をX
,それに 接続する高速バスの乗車時間を待ち時間も含めて
Y
としたとき,東京駅への到着時刻の推定に必要な情 報は,さまざまなa b
,
に対するP X
{
£
a Y
,
£
b
}
である. Def.(joint Cdf)F a b
( , )
P X
{
£
a Y
,
£
b
}
をX
と
Y
の結合確率分布関数とよぶ.ここで,,
a
b
-¥ < < ¥ - ¥ < < ¥
. (注)上の定義は,厳密にはF a b
( , )
P
{
w
:
X
( )w
£
a Y
,
( )w
£
b
}
と書かれる. joint Cdf の性質 (P1)F a b
(
,
)
はa b
,
について単調非減少 (P2)F
(
¥ ¥ =
,
)
1
(P3)F a -¥ =
(
,
)
0
"
a
(P4)F
(
-¥
,
b
)
=
0
"
b
(P5)F a
(
,
¥ =
)
F a
X( )
F
X:
X
のCdf (P6)F
(
¥
,
b
)
=
F b
Y( )
F Y
Y:
のCdf (注)joint Cdf が分かっていれば,特定の確率変数に関する情報を取り出すことができることを示す (P5)と(P6)をよく味わっておくこと.64 ◆
X Y
,
:離散型確率変数のとき ◆ Def.(joint pmf)p x y
( )
,
P X
{
=
x Y
,
=
y
}
をX
と
Y
の結合離散型確率分布とよぶ. ただし,p x y ³
( , )
0
かつ ,( , )
1
x yp x y =
å
( , )
p x y
が与えられると,X
のpmfp x
X( )
とY
のpmfp y
Y( )
は,つぎのように求めることができる.( )
( , ),
X yp x
=
å
p x y
Y( )
( , )
xp y
=
å
p x y
また,a
£
b c
,
£
d
のとき,{
,
}
( )
,
a x b c y dP a
X
b c
Y
d
p x y
£ £ £ ££
£
£
£
=
å å
問1.p x y
( , )
の値がつぎのように与えられているとき,P X =
{
0
}
,P Y =
{
2}
,{0
1, 0
2}
P
£
X
£
£
Y
£
を求めよ.1
y
= -
y
=
1
y =
2
0
x =
1/4 0 1/61
x =
0 1/12 1/42
x =
1/12 1/12 1/1265 ◆
X Y
,
:連続型確率変数のとき ◆ Def.(joint pdf) 任意のa b c d
, , ,
(ただし,a
£
b c
,
£
d
)について次式を満たす非負のf
が存在す るとき,f
をX Y
と
の結合確率密度関数とよぶ.{
,
}
d b( , )
c aP a
£
X
£
b c
£
Y
£
d
=
ò ò
f x y dx dy
問2.F x
X( )
x ¥f x y dy dx
( , )
-¥ -¥=
ò ò
を示せ. 問3.f x
X( ) ¥f x y dy
( , )
-¥=
ò
を示せ. 問4.( )
y( , )
YF y
¥f x y dx dy
-¥ -¥=
ò ò
,f y
Y( )
¥f x y dx
( , )
-¥=
ò
を示せ.66 Thm. 1
g x y
( , )
をx y
,
についての実数値連続関数とするとき,(
)
(
)
( , ) ( , )
, :
( ( , ))
( , ) ( , )
, :
y xg x y p x y
X Y discrete
E g X Y
g x y f x y dx dy
X Y continuous
¥ ¥ -¥ -¥ìïï
ïï
= í
ïï
ïïî
åå
ò ò
問5.E aX
(
+
bY
)
=
aE X
( )
+
bE Y
( )
を証明せよ.この性質はE
の線形性とよばれるが,一般には 次式のように表すことができる.E a X
(
1 1+ +
...
a X
n n)
=
a E X
1( ) ...
1+ +
a E X
n(
n)
二項型確率変数の期待値{ }
,
{ }
1
P H
=
p P T
= -
p
のコインをn
回投げるとき,H
の回数X
の期待値E X
( )
を求めよう. 回目は 回目は1
0
ii
H
X
i
T
ìïï
íï
ïî
とすると, 1 n i iX
X
==
å
と書ける(これがポイント).よって,(
)
( )
i( )
iE X
=
E
å
X
=
å
E X
=
å
p
=
np
(注)これは,問5 の結果を応用したものである.ここで示した方法を,3.1 問 4 で学んだ方法と比較 してみると,問5 の威力が分かるであろう.67 問6.正しく作られたコインを 3 回投げる. (1) 第1投で が出る 第1投で が出る
0
1
H
X
T
ìïï
íï
ïî
とするとき,X
のpmfp x
X( )
を求めよ. (2)3 回投げたとき,H
が出た回数をY
とする.Y
のpmfp y
Y( )
を求めよ. (3)X
とY
のjoint pmfp x y
( , )
を求めよ. 問7.X
とY
のjoint pmfp
が次式で与えられているとする.(
)
それ以外の時2
,
0, 1 ;
0, 1, 2
( , )
0,
c
x
y
x
y
p x y
= í
ì
ïïï
+
=
=
ïïïî
(1)定数c
の値を求めよ. (2)P X
{
³
0,
Y
£
1
}
を求めよ.68
4.2 確率変数の独立性
Def. 1X
とY
は独立Û
P X
{
£
a Y
,
£
b
}
=
P X
{
£
a P Y
} {
£
b
}
"
a b
,
Î
R
1Û
( , )
( )
( )
,
1 X YF a b
=
F a F b
"
a b
Î
R
Û
P X
{
£
a Y
£
b
}
=
P X
{
£
a
}
"
a b
,
Î
R
1 問1.X
とY
が独立であるとき,次式が成立することを証明せよ.{
,
}
{
} {
}
P a
<
X
£
b c
<
Y
£
d
=
P a
<
X
£
b P c
<
Y
£
d
問2.X Y
,
が離散型確率変数であるとき,つぎのことを示せ.X
とY
は独立Û
p a b
( , )
=
p a p b
X( )
Y( )
"
a b
,
Î
R
1 問3.X Y
,
が連続型確率変数であるとき,つぎのことを示せ.X
とY
は独立Û
( , )
( ) ( )
,
1 X Yf a b
=
f a f b
"
a b
Î
R
69 Thm. 2
X
とY
をたがいに独立な確率変数,g
とh
を実数値連続関数とするとき,[ ( ) ( )]
[ ( )] [ ( )]
E g X h Y
=
E g X E h Y
問4.上の Thm. 2 を証明せよ. 問5.X
とY
が独立ならば,E XY
(
)
=
E X E Y
( ) ( )
が成立することを示せ. 確率変数の独立性は,さまざまな理論において重要な役割を果たしている.ひとつの例は,システム 信頼性理論に見ることができる. (例1)n
個の装置からなるシステムを考えてみよう.システムが正常に作動するのはn
個の装置 がすべて正常である場合に限られるとき,このシステムを直列系(series system)という.n
個の装置のそれぞれの状態を表す確率変数をつぎのように定めよう. は は 装置 正常 装置 故障 1 0 i i X iìïï
íï
ïî
同様に,システムの状態を表す確率変数をつぎのように定めよう. は は システム 正常 システム 故障 1 0 Xìïï
íï
ïî
3 個の装置からなる直列系を考えてみよう.X
=
X X X
1 2 3 が成立することから,各装置の故障発生 がたがいに独立であると考えられる場合は,システムの信頼度p
P X =
{
1}
は各装置の信頼度{
1}
i ip
P X =
によってつぎのように表現することができる.70 1 2 3 1 2 3 1 2 3
{
1}
( )
(
)
( ) ( ) ( )
p
=
P X
=
=
E X
=
E X X X
=
E X E X E X
=
p p p
(例2)n
個の装置からなるシステムがある.n
個の装置のうち少なくとも1 個が正常であればシス テムは正常に作動するという場合,このシステムは並列系(parallel system)とよばれる. 3 個の装置からなる並列系があるとき,システムの状態X
は各装置の状態X
iによってどのように表 されるかを考えてみよう.ブール論理和の記号をÚ
と書くとき,X
=
X
1Ú
X
2Ú
X
3 が成立するが, これを通常の算術演算を用いる方式で記述すると,つぎのようになる. 1 2 3 1 2 3 1 2 3 1 2 2 3 3 1 1 2 31 (1
)(1
)(1
)
X
X
X
X
X
X
X
X
X
X
X X
X X
X X
X X X
=
Ú
Ú
= - -
-
-=
+
+
-
-
-
+
したがって,各装置の故障が独立であるという仮定のもとでは,システムの信頼度は次式で与えられる. 1 2 3 1 2 2 3 3 1 1 2 3p
=
p
+
p
+
p
-
p p
-
p p
-
p p
+
p p p
問6.上の式が成立することを確かめよ. 問7.信頼度が 0.9 の装置3台からなる直列系の信頼度を求めよ. 問8.信頼度が 0.9 の装置 3 台からなる並列系の信頼度を求めよ. このように,並列系の信頼度は,直列系の信頼度に比べて大きい.ただし,それは各装置の故障が独 立であるとの仮定があってはじめていえることである.71 各装置の故障が独立でない場合の典型は,「共通原因故障」が発生するケース,すなわち,一つの原 因(共通原因)によって複数の装置が一挙に故障するケースである.たとえば,つぎのような例がある. (1) 日本航空 123 便の御巣鷹山での墜落事故: 「隔壁破壊」によって油圧4系統がすべて破損し, 機体は制御不能になった. (2) 飛行中のボーイング 767 の全エンジンが停止: 燃料の残存量を計算するコンピュータが故障 している状態のまま目的空港へ向けて出発しようとした.燃料補給の際,ケロシンの比重を誤 ったため,補給すべき量の約半分しか給油しなかった. (3) 飛行中のボーイング 747-400 の全エンジンが停止: 理由は,噴火した火山が噴き上げた火山 灰のなかに突入したためである. (4) 飛行中のロッキード・トライスター L-1011 の全エンジンが停止: 飛行前夜のエンジン保守 作業において作業員が各エンジンの部品交換を行った際,0(オー)リングの取り付けを忘れ たため,飛行中にエンジンオイルが漏れ,エンジンが焼きついた,あるいは焼きつき寸前とな った. (5) 首都圏の大停電: クレーン船がアームを上げたままの状態で川を航行中に,川をまたぐ形で 張られていた送電線にアームを引っかけた.そのため,本線とバックアップ用の両系統が切断 された.
Def. 2
Cov X Y
( , )
E X
[(
-
E X Y
( ))(
-
E Y
( ))]
を,X
とY
の共分散(covariance)とよぶ.共分散の性質
(P1)
Cov X Y
( , )
=
E XY
(
)
-
E X E Y
( ) ( )
(P2)
X
とY
が独立ならば,Cov X Y =
( , )
0
72 (例)
p
(1, 0)
=
p
(0, 1)
= -
p
( 1, 0)
=
p
(0, 1)
- =
1 / 4
を満たすX
とY
を考えよう. このとき,E X
( )
=
0, ( )
E Y
=
0, (
E XY
)
=
0
ゆえCov X Y =
( , )
0
であるが,{
0
}
{
0
}
(1 / 2) (1 / 2)
{
0,
0
}
0
P X
=
P Y
=
=
×
¹
P X
=
Y
=
=
である. すなわち,X
とY
は独立ではない.(P3)
Var X
(
+
Y
)
=
Var X
( )
+
Var Y
( ) 2
+
Cov X Y
( , )
(P4)
X
とY
が独立Þ
Var X
(
+
Y
)
=
Var X
( )
+
Var Y
( )
独立な確率変数
X Y
,
の和X
+
Y
の分布,
X Y
:continuous かつ独立とするとき,f x y
( , )
=
f x f y
X( ) ( )
Y Thm. 3 独立な確率変数X Y
,
の和X
+
Y
のCdf をF
X Y+ と書くとき,F
X Y+ は次式で与えられる.( )
(
) ( )
( )
(
)
X Y X Y X YF
+a
¥F a
y f y dy
¥f x F a
x dx
-¥ -¥=
ò
-
=
ò
-(証明) X Y( )
( , )
x y aF
+a
f x y dxdy
+ £=
ò ò
( ) ( )
X Y x y a+ £f x f y dxdy
=
ò ò
( )
( )
a y X Yf x dx f y dy
¥ --¥ -¥æ
ö÷
ç
=
ç
çè
÷
÷
ø
ò
ò
(
) ( )
X YF a
y f y dy
¥ -¥=
ò
-(注)ò
f x g a
( ) (
-
x dx
)
の型の積分をconvolution(合成積)とよぶ.73 問9.
F
X Y+( )
a
¥f x F a
X( )
Y(
x dx
)
-¥=
ò
-
を証明せよ. Thm. 4 独立な確率変数X Y
,
の和X
+
Y
のpdf(
f
X Y+)
は次式で与えられる.( )
(
) ( )
X Y X Yf
+a
¥f a
y f y dy
-¥=
ò
-
¥f x f a
X( ) (
Yx dx
)
-¥=
ò
-(証明)f
X Y( )
a
d
F
X Y( )
a
da
+=
+ より従う. 問10.X
とY
は独立であり,ともにパラメータl
の指数分布に従う.f
X Y+ を求めよ.74 問11.
X
とY
は独立であり,ともに(0, 1)上の一様分布に従う.f
X Y+ を求めよ. 独立な確率変数X Y
,
がともに離散型のとき,Thm. 4 相当の性質はつぎのように表現される. 0 0 { } { , } { } { } n n k k P X Y n P X k Y n k P X k P Y n k = = + = =å
= = - =å
= = -問12.X
とY
は独立であり,各々パラメータl l
1,
2のポアソン分布に従う.p
X Y+ を求め,和X
+
Y
も ポアソン型確率変数である(ポアソン分布の再生性という)ことを確かめよ. Def. 3n
個のX
1, ...,
X
nが独立Û
{
}
{
}
{
}
1 1 1, ...,
n n 1 1...
n n iP X
£
a
X
£
a
=
P X
£
a
P X
£
a
" Î
a
R
(注)「1.5 独立事象」におけるn
個の事象の独立性の定義と比較してみること.75
4.3 モーメント母関数
Def. 確率変数
X
について,実数t
の関数f
( )
t
E e
(
tX)
を考える.t =
0
の近傍でf
( )
t
が存在する とき,f
( )
t
をX
のモーメント母関数(moment generating function:mgf)とよぶ.(
)
(
)
( )
:
( )
( )
:
tx x txe p x
X discrete
t
e f x dx
X continuous
f
¥ -¥ìïï
ïï
= í
ïï
ïïî
å
ò
(注)mgf は常に存在するとは限らないが,計算面で有用である.一方,t
を純虚数it
で置き換えた(
itX)
E e
は特性関数とよばれ,理論面で活躍する.なお,特性関数は常に存在する. mgf φ( )t
の性質 (P1) ( )f
n(0)
=
E X
(
n)
n
³
1
. (注) ( )(0)
( )
0 n n t nd
t
dt
f
f
=
= (例1)パラメータ(
n p
,
)
の二項分布に従う確率変数(
)
0( )
n tk k1
n k kn
t
e
p
p
k
f
-=æ ö÷
ç ÷
ç
=
ç ÷
÷
-ç ÷
çè ø
å
(
)
(
)
(
)
01
1
n k n k n t t kn
pe
p
pe
p
k
-=æ ö÷
ç ÷
=
ç ÷
ç ÷÷
-
=
+
-çè ø
å
(
)
1( )
t
n pe
t1
p
npe
tf
¢
=
+ -
-(
)
(
) (
2)
2(
)
1( )
t
n n
1
pe
t1
p
npe
tn pe
t1
p
npe
tf
¢¢
=
-
+ -
-+
+ -
-よって,( )
(0)
E X
=
f¢
=
np
(
)
2 2(
)
(0)
1
E X
=
f¢¢
=
n n
-
p
+
np
(
)
2(
)
2( )
(
)
( )
1
Var X
=
E X
-
E X
=
np
-
p
76 (例2)正規分布
N
(
m s
,
2)
に従う確率変数 2 21
(
)
( )
(
)
exp
2
2
txx
t
E e
tx
µ
dx
φ
σ
pσ
∞ −∞
−
=
=
−
∫
2 2 21
(
)
2
exp
2
2
x
tx
dx
µ
σ
σ
pσ
−
−
=
−
∫
[ ]
の中をつぎのように変形する.[ ]
2 2 2 21
2 (
)
2
σ
x
µ σ
t x
µ
= −
−
+
+
2 2 2 2 2 2 2 21
2 (
)
(
)
(
)
2
σ
x
µ σ
t x
µ σ
t
µ σ
t
µ
= −
−
+
+
+
−
+
+
2 2 2 2 21
(
)
2
2
t
x
µ σ
t
µ
t
σ
σ
= −
−
+
+
+
よって, 2 2 2 2 2(
)
1
( )
exp
exp
2
2
2
x
t
t
t
t
σ
µ σ
dx
φ
µ
σ
pσ
∞ −∞
−
+
=
+
•
−
∫
2 2exp
2
t
t
σ
µ
=
+
2 2 2( )
(
) exp
2
t
t
t
t
σ
φ
′ =
µ σ
+
µ
+
2 2 2 2 2 2 2( )
(
) exp
exp
2
2
t
t
t
t
t
σ
t
σ
φ
′′ =
µ σ
+
µ
+
+
σ
µ
+
であるから, 2 2 2( )
(0)
(
)
(0)
E X
=
φ
′
=
µ
,
E X
=
φ
′′
=
µ
+
σ
, 2 2 2( )
(
) ( ( ))
Var X
=
E X
−
E X
=
σ
2 2(
,
)
N
µ σ
+
t
σ
の77 問1.パラメータ
l
のポアソン分布に従う確率変数X
のmgff
( )
t
,E X Var X
( ),
( )
を求めよ. 問2.パラメータl
の指数分布に従う確率変数X
のmgff
( )
t
,E X Var X
( ),
( )
を求めよ. (P2)mgff
( )
t
はCdf( )
F
から一意に定まる.逆に,Cdf( )
F
はmgff
( )
t
から一意に定まる. (注)(P2)の後半を示すのは難しい. (P3)独立なX Y
,
のmgf をf
X( ),
t
f
Y( )
t
とするとき,X
+
Y
のmgff
X Y+( )
t
は次式で与えられる.( )
( )
( )
X Yt
Xt
Yt
f
+=
f
f
上の(P2),(P3)は,以下の問にあるように,「分布の再生性」を調べる際に重要な役割を演じる.78 問3.
X
とY
が独立であり,各々パラメータ( , ), ( , )
m p
n p
の二項分布に従う.このとき,X
+
Y
は パラメータ(
m
+
n p
, )
の二項分布に従うことを示せ(二項分布の再生性という). (注)(
1, ..., )
iX i
=
n
がたがいに独立で,各々パラメータ( , )
ik p
の二項分布に従うとき, 1 n i iX
=å
は パラメータ,
n ik p
æ
ö÷
ç
÷
ç
÷÷
ççè
å
ø
の二項分布に従う(数学的帰納法). 問4.X
とY
が独立であり,各々パラメータl l
1,
2のポアソン分布に従うとき,X
+
Y
はパラメータ 1 2l
+
l
のポアソン分布に従うことを示せ(ポアソン分布の再生性という). 問5.X
とY
が独立であり,各々N
(
m s
1,
12)
,
N
(
m s
2,
22)
に従うとき,X
+
Y
は(
2 2)
1 2,
1 2N
m
+
m s
+
s
の正規分布に従うことを示せ(正規分布の再生性という).79
4.4 特性関数
Def. 確率変数
X
に対して,t
を実数とする関数c t
( )
E e
(
itX)
を考える.このとき,c t
( )
をX
の特性 関数(characteristic function:ch.f と略記)とよぶ.(注)ch.f は常に存在する.このことは
E e
(
itX)
=
E
(cos
tX
)
+
i E
(sin
tX
)
において,つぎの 2 つの 性質が成立することによる.(a)