1
目 次
第1章 離散型確率分布 2
1.1 確率分布. . . . 2
1.2 多変数の確率分布 . . . . 4
1.3 期待値と分散 . . . . 7
1.4 共分散,相関係数 . . . . 10
1.5 モーメント毋関数 . . . . 11
第2章 連続型確率分布 17 2.1 密度関数. . . . 17
2.2 高次元の密度関数 . . . . 20
2.3 期待値と分散 . . . . 26
2.4 モーメント毋関数 . . . . 30
2.5 その他の連続型確率分布 . . . . 33
2.6 Γ関数 . . . . 38
2.7 B関数 . . . . 39
2.7.1 e−x2の積分 . . . . 39
2.8 精密法 . . . . 45
2.8.1 ポアソン分布の精密法 . . . . 45
2.8.2 2項分布の精密法 . . . . 48
2.9 その他,統計に現れる確率分布 . . . . 50
2.9.1 ガンマ分布,ベータ分布と他の確率分布の間の関係 . . 51
第3章 条件付き確率,条件付き期待値 52 3.1 条件付き確率 . . . . 52
3.1.1 離散型 . . . . 57
3.1.2 連続型 . . . . 59
3.1.3 離散型と連続型の場合 . . . . 60
3.1.4 条件付き確率の性質 . . . . 61
3.1.5 最良推定値 . . . . 63
3.2 Bayesの話. . . . 64
3.3 Markov連鎖. . . . 66
3.4 極限定理. . . . 68
3.5 吸収壁ランダムウォーク . . . . 69
3.6 反射壁ランダムウォーク . . . . 71
3.6.1 エーレンフェストの壷 . . . . 71
3.7 ランダムウォーク . . . . 75
第4章 極限定理 78 4.1 大数の法則 . . . . 78
4.2 Weierstrassの多項式近似定理 . . . . 80
4.3 ポアソンの小数の法則 . . . . 81
4.4 L´evyの反転公式 . . . . 82
4.5 中心極限定理 . . . . 84
第5章 推定,検定 86 5.1 導入 . . . . 86
5.2 用語 . . . . 87
5.2.1 母集団 . . . . 88
5.2.2 必要なこと . . . . 89
第6章 その他 90 6.1 ジニ係数. . . . 90
3
第 1 章 離散型確率分布
1.1 確率分布
Sを有限または可算集合とする.各xi∈Sに確率piを表にする.
値 x1 x2 · · · 確率 p1 p2 · · · pi≥0と∑
ipi= 1をみたすとする.
これを確率分布とよぶ.とくにSが離散集合であるので,離散型確率分布 とよぶ.
Sは有限もしくは可算集合,確率分布は
• pi≥0
• ∑
ipi = 1 をみたす.
例 1 (等確率型)
#S=n, pi= 1 n
例 2 (二項分布) B(n, p)とも表す(0< p <1),またq= 1−pを表す.
S={0,1,2, . . . , n}, pi=nCipiqn−i
例 3 (幾何分布) Ge(p)とも表す(0< p <1),またq= 1−pを表す.
S={0,1,2, . . .}, pi=piq 例 4 (ポアソン分布) Po(λ)とも表す(λ >0)
S={0,1,2, . . .}, pi=e−λλr r!
例 5 (負の2項分布) NB(n, p)とも表す(0 < p < 1),またq = 1−pを 表す.
pk=n+k−1Ckpnqk
始めてn回目の失敗をするまでの成功の回数kを表す.NB(1, p)は幾何分布 になる.
問題 1 負の2項分布は
P(X=k) = (−n
k )
pn(−q)k
と表すことができることを示し,さらに全体の確率が1に等しいことを示し てください.
解.
n+k−1Ckpnqk = (n+k−1)!
k!(n−1)! pnqk
= (n+k−1)(n+k−2)· · ·n
k! pnqk
= (−n)(−n−1)· · ·(−n−k+ 1)
k! (−1)kpnqk
= (−n
k )
pn(−q)k ここで ∑∞
k=0
(−n k
)
pn(−q)k =pn(1−q)−n= 1
□ 数学的に厳密な概念ではないが,Rに値をとる変数Xを確率変数という.
pi=P(X =xi)
により,事象xiが起きる確率piを定めると,xi全体の集合Sの上の確率分 布が定まる.
問題 2 Xが次の式をみたすとき定数C, Dを求めてください.
(1)
P(X=k) =nCkpk×Cn−k, (0≤k≤n) (2)
P(X =k) =Cpqk+D, (k≥0) (3)
P(X =k) =Cλk
k!, (k≥0)
問題 3 X −1 0 1 確率 1
6
1 2
をみたすとき,空欄を埋め,2X−1,X2,tX,etXの確率分布を求めてく ださい.
1.2. 多変数の確率分布 5 解.
X −1 0 1
確率 1
6 1 3
1 2
2X−1 −3 −1 1 確率 16 13 12
X2 0 1 確率 13 23 tX 1t 1 t
確率 16 13 12
etX e1t 1 et 確率 16 13 12
□
1.2 多変数の確率分布
X\Y y1 y2 · · · 和 x1 p11 p12 · · · pX1 x2 p21 p22 · · · pX2 ... ... ... . .. ... 和 pY1 pY2 · · · 1 ここで
pXi =P(X =xi) =∑
j
pij, pYj =P(Y =yj) =∑
i
pij
これらにより,XとY の確率分布が定まる.これを周辺分布という.
X x1 x2 · · · 確率 pX1 pX2 · · ·
Y y1 y2 · · · 確率 pY1 pY2 · · · 問題 4 X, Y が確率分布
X\Y 0 1 2 和
0 241 16 13 1 121
2 18 247
和 245
にしたがうとき,まず穴を埋め,X+Y,XY,max{X, Y},min{X, Y} の確率分布を定めてください.
解.
X\Y 0 1 2 和 0 243 241 16 13 1 121 121 245 249 2 18 121 121 247 和 248 245 1124
X+Y 0 1 2 3 4
確率 3
24 3 24
9 24
7 24
2 24
XY 0 1 2 4
確率 13
24 2 24
7 24
2 24
max{X, Y} 0 1 2 確率 243 245 1624
min{X, Y} 0 1 2 確率 1324 249 242
□
問題 5 0< p1, . . . , pn <1,p1+· · ·+pn= 1について,X1, . . . , Xnの確率 分布が
P(X1=k1, . . . , Xn=kn) = n!
k1!· · ·kn!pk11· · ·pknn (k1, . . . , kn≥0, k1+· · ·+kn=n) をみたすとき,多項分布という.これが確率分布になっていることを確かめ
てください.
解.
∑
k1,...,kn:k1+···+kn=n
n!
k1!· · ·kn!pk11· · ·pknn= (p1+· · ·+pn)n= 1
□
pij =pXi ×pYj
をすべてのi, jについてみたすとき,XとY は独立であるという.言い換え れば,
P(X =xi, Y =yj) =P(X =xi)×P(Y =yj) が成り立つとき独立である.2つ以上の確率変数の場合にも,
P(X =xi, Y =yj, Z=zk) =P(X =xi)×P(Y =yj)×P(Z=zk) などと積となるとき独立という.無限個の確率変数X1, X2, . . .のときには,
任意の有限個を取り出すとき,それらが独立なとき,独立であるという.
問題 6 XとY,Y とZ,ZとXはそれぞれ独立なのにX, Y, Zが独立でな い例を作ってください.
1.2. 多変数の確率分布 7 解.
P(X = 1, Y = 1, Z= 0) = 1
9, P(X = 1, Y = 0, Z= 0) = 1 9, P(X = 1, Y = 0, Z= 1) = 1
9, P(X = 0, Y = 1, Z= 0) = 1 9, P(X = 0, Y = 1, Z= 1) = 1
9, P(X = 0, Y = 0, Z= 1) = 1 9, P(X =Y =Z = 0) = 1
3
□
問題 7 (1) XとY が以下の表をみたすとき空欄を埋め,さらにmax{X, Y} の確率分布を求めてください.
X\Y 0 1 和 0 241 16
1 18
和
(2) XとY が独立なとき空欄を埋め,さらにX +Y の確率分布を求めて てください.
X\Y 0 1 和 0 241 16 1
和
解.
(1)
X\Y 0 1 和
0 241 243 16 1 1124 243 2024 和 18
24 6 24
max{X, Y} 0 1 確率 241 2324
(2)
X\Y 0 1 和
0 241 243 244 1 245 1524 2024 和 246 1824
X+Y 0 1 2
確率 1
24 8 24
15 24
□
問題 8 (1) X1, . . . , Xnが独立ならば,そのうちの任意の有限個の確率変数 も独立であることを示してください.
(2) 任意のX1, X2, . . . , Xnが独立ならば,X1, X2, . . .も独立であることを 示してください.
解.
(1) X1, . . . , Xn−1が独立なことを示せば,後はその繰り返しで示せる.
(2) 上の主張より明らか
□
1.3 期待値と分散
確率変数Xの期待値(平均)とは E(X) =∑
i
xipi
問題 9 xiに確率piの錘りを置いたとき,回転モーメントが0に等しくなる 点が期待値であることを示してください.
期待値の性質
(1) E(X+Y) =E(X) +E(Y) (2) E(aX+b) =aE(X) +b
(3) XとY が独立ならば,E(XY) =E(X)×E(Y) 分散とは
V(X) =E[(X−E(X))2] =∑
i
(xi−E(X))2pi
また,標準偏差とは
σ(X) =√ V(X) 分散の性質
(1) V(aX+b) =a2V(X) (2) V(X) =E(X2)−(E(X))2
(3) XとY が独立ならば,V(X+Y) =V(X) +V(Y)
1.3. 期待値と分散 9 問題 10 サイコロ 2個X, Y を投げるとき,合計の目に対応する確率変数 X+Y,大きい方の目に対応する確率変数max{X, Y}, min{X, Y}の期待値 と分散を求めてください.
解. E(X) =E(Y) = 72,V(X) =V(Y) =3512 で独立である.
E(X+Y) = E(X) +E(Y) = 7 V(X+Y) = V(X) +V(Y) =35
6 xについて
P(max{X, Y} ≤x) =P(X ≤x, Y ≤x) =P(X≤x)×P(Y ≤x) なので
P(max{X, Y} ≤1) = 1 36 P(max{X, Y} ≤2) = 1
9 P(max{X, Y} ≤3) = 1 4 P(max{X, Y} ≤4) = 4 9 P(max{X, Y} ≤5) = 25
36 P(max{X, Y} ≤6) = 1 max{X, Y} 1 2 3 4 5 6
確率 361 121 365 367 14 1136
E(max{X, Y}) = 161 36 V(max{X, Y}) = 2555
1296 xについて
P(min{X, Y} ≥x) =P(X≥x, Y ≥x) =P(X ≥x)×P(Y ≥x) なので
P(min{X, Y} ≥1) = 1 P(min{X, Y} ≥2) = 25
36 P(min{X, Y} ≥3) = 4
9 P(min{X, Y} ≥4) = 1 4 P(min{X, Y} ≥5) = 1 9 P(min{X, Y} ≥6) = 1
36
max{X, Y} 1 2 3 4 5 6 確率 1136 14 367 365 121 361 ここで
E(min{X, Y}) =
∑6 k=1
kP(X=k) =
∑6 k=1
P(X≥k) = 91 36 と計算することもできる.
E(min{X, Y}2) =301 36 より
V(min{X, Y}) = 35 6
□
問題 11 10種類のおまけが入っているお菓子がある.10種類全部集めるの に必要な個数の期待値を求めてください.n種類ならどうですか.
解. 1種類目は1つ買えば必ず手に入る.2種類目を得る確率は 9
10,など と10種類目を得る確率は 101 などの幾何分布になっているので,期待値は
1 +10
9 +· · ·+10 1 = 10
(1 1+1
2+· · ·+1 9 + 1
10 )
nならば
n (1
1+1
2 +· · ·+ 1 n
)
≑n(logn+γ) γ≑0.57721はオイラー定数
γ= lim
n→∞
( n
∑
k=1
1
k −logn )
□
問題 12
Y =X−E(X)
√V(X) とおくと,E(Y) = 0かつV(Y) = 1
問題 13 X1, . . . , Xnは独立で,V(X1) =· · ·=V(Xn) =vならば V(X1+· · ·+Xn
n ) = v
n
1.4. 共分散,相関係数 11
1.4 共分散,相関係数
XとY の共分散を
Cov(X, Y) =E[(X−E(X))(Y −E(Y))]
で定義する.さらに
ρ(X, Y) = Cov(X, Y)
√V(X)V(Y) を相関係数という.
問題 14 相関係数はXとY を正規化したXˆ = X√−E(X)
V(X), ˆY = Y√−E(Y)
V(Y) の共 分散ρ(X, Y) = Cov( ˆX,Yˆ)であることを確かめてください.
問題 15 相関係数が次元によらないことを確かめてください.
解.ちょっと拡張して,a, c >0について
ρ(aX+b, cY +d) =ρ(X, Y)
が容易に確かめられる. □
問題 16 XとYが独立ならば,Cov(X, Y) = 0をみたす.また,Cov(X, Y) = 0をみたしても,独立でない例を作ってください.
解.
Cov(X, Y) =E(XY)−E(X)E(Y) より,明らかである.また,
X\Y −1 0 1 和
−1 0 19 0 19 0 19 59 19 79 1 0 19 0 19 和 1
9 7 9
1 9
は独立ではないが,E(X) =E(Y) = 0かつE(XY) = 0なので,Cov(X, Y) =
0 □
問題 17 |ρ(X, Y)| ≤1であること,およびρ(X, Y) =±1ならば,Y =aX+b をみたすa, bが存在することを示してください.また
ρ(X, Y) = 1⇒a >0. ρ(X, Y) =−1⇒a <0 もみたす.
解. t∈Rについて,
V(X+tY) =V(X) + 2tCov(X, Y) +t2V(Y) tの2次式として常に非負であるので,その判別式
D/4 = (Cov(X, Y))2−V(X)V(Y)≤0 である.これより,
(ρ(X, Y))2≤1 が出る.また,ρ(X, Y) =∓1ならば,
t=±
√ V(X) V(Y) のときには,V(X+tY) = 0になる.すなわち
X±
√ V(X)
V(Y)Y =定数
□
1.5 モーメント毋関数
確率変数Xに対して,
MX(t) =E[etX]
をモーメント毋関数という.他に,非負の整数値のみをとる確率変数につい ては
PX(t) =E[tX]
を確率毋関数,モーメント毋関数は確率変数によっては収束するtに注意を 払わなければならないので
ϕX(t) =E[eitX]
を特性関数という.数学的には特性関数がもっとも意味をもつ.
1.5. モーメント毋関数 13 定理 1
MX(0) = 1, MX′ (0) =E(X), MX′′(0) =E(X2)
問題 18 Xがそれぞれ2項分布B(n, p),幾何分布Ge(p),ポアソン分布Po(λ),
負の2項分布NB(n, p)の期待値と分散を計算してください.さらに,モーメ
ント毋関数E[etX]を求めてください.
解.幾何分布は直接計算すると大変でしょう.
期待値 分散 モーメント毋関数 B(n, p) np npq (etp+q)n
Ge(p) pq qp2
q 1−etp
Po(λ) λ λ exp[etλ−λ]
NB(n, p) npq npq2
( q 1−etp
)n
□
問題 19 X は非負の整数値をとる確率変数とする.このとき
E(X) =
∑∞ k=0
P(X > k)
をみたすことをチェックし,これを用いて,幾何分布Ge(p)の期待値を求め てください.
解.
∑∞ k=0
P(X > k) =
∑∞ k=0
∑∞ l=k+1
P(X=l)
=
∑∞ l=1
l−1
∑
k=0
P(X=l)
=
∑∞ l=1
l P(X=l) =
∑∞ l=0
l P(X =l) =E(X) 幾何分布の場合
P(X > k) =
∑∞ l=k+1
pql=pqk+1 1
1−q =qk+1 したがって
E(X) =
∑∞ k=0
qk+1=q 1 1−q =q
p
□
問題 20 Xは値0,1,2の3つの値をとる確率変数で期待値が76,分散が 1736の とき,Xの確率分布を求めてください.
解.
Xの値 0 1 2
確率 1
6 1 2
1 3
□
問題 21 2項分布B(n, p),幾何分布Ge(p),ポアソン分布Po(λ)の期待値と 分散をモーメント毋関数を用いて計算してください.
解.
確率分布 M(t) M′(t) M′′(t)
B(n, p) (etp+q)n npet(etp+q)n−1 npet(etnp+q)(etp+q)n−2 Ge(p) 1−petq
etpq (1−etq)2
et(1+etq)pq (1−etq)3
Po(λ) exp[etλ−λ] λetexp[λet−λ] λet(1 +λet) exp[λet−λ]
□
定理 2 確率変数XとY がMX(t) =MY(t)をみたすならば,XとY は同 分布である.
証明はL´evyの反転公式からしたがう.
X, Y のモーメント毋関数は
M(X,Y)(t, s) =E[etX+sY]
一般にX1, . . . , Xnに対しては,t= (t1, . . . , tn)を用いて,X = (X1, . . . , Xn) MX(t) =E[etX]
により定義する.X1, . . . , Xnが独立であることと MX(t) =
∏n i=1
MXi(ti) とは同値である.
問題 22 X1, X2, . . .を均等な硬貨投げとする.
X¯ = X1+· · ·+Xn
n のモーメント毋関数を求めてください.
1.5. モーメント毋関数 15 解.
M1(t) =E[etX1] = 1 +et 2 であるので,
MX¯(t) = E[etX¯] =E[e(tX1+···+tXn)/n]
= MX((t n, . . . , t
n))
=
∏n i=1
MXi(t n)
=
(1 +et/n 2
)n
この式をテイラー展開すると (1 + t
2n+· · ·)n→et/2
右辺は,常に値12をとる確率変数(といえるかな)に等しい.これは大数の法
則になっている. □
問題 23 (2項分布の再生性) XとY がそれぞれ2項分布B(n, p)とB(m, p) にしたがい,独立とする.このとき,X+Y は2項分布B(n+m, p)にした がうことを示してください.
解.
MX+Y(t) = E[et(X+Y)]
= E[etX]×E[etY]
= (etp+q)n(etp+q)m
= (etp+q)n+m
これを確率分布で求めるのはなかなか大変である. □
問題 24 (Poisson分布の再生性) XとYがそれぞれポアソン分布Po(λ)と Po(µ)にしたがい,独立とする.このとき,X+Y はポアソン分布Po(λ+µ) にしたがうことを示してください.
解.
MX+Y(t) = E[et(X+Y)]
= E[etX]×E[etY]
= exp[(et−1)λ]×exp[(et−1)µ]
= exp[(et−1)(λ+µ)]
これは確率分布を用いても容易に示せる.
P(X+Y =k) =
∑k l=0
P(X=l)×P(Y =k−l)
=
∑k l=0
e−λλk
k!e−µ µk−l (k−l)!
= e−(λ+µ)1 k!
∑k l=0
kClλlµk−l
= e−(λ+µ)(λ+µ)k k!
□
問題 25 負の2項分布NB(n, p)
P(X =k) =n+k−1Cn−1pnqk
は独立な幾何分布Ge(p)にしたがうY1, . . . , Ynの和X =Y1+· · ·+Ynの確 率分布であることを確かめてください.
解.負の2項分布のモーメント毋関数は,負の2項展開を用いると MX(t) = E[etX] =
∑∞ k=0
ektn+k−1Cn−1pnqk
= pn
∑∞ k=0
n+k−1Cn−1(etq)k
= pn
∑∞ k=0
(n+k−1)!
k!(n−1)! (etq)k
= pn
∑∞ k=0
(n+k−1)· · ·n k! (etq)k
= pn
∑∞ k=0
(−n)(−n−1)· · ·(−n−k+ 1)
k! (−etq)k
= pn
∑∞ k=0
−nCk(−etq)k
= pn(1−etq)−n
一方,幾何分布Ge(p)のモーメント毋関数は MY(t) =E[etY] =
∑∞ k=0
etkpqk= p 1−etq
1.5. モーメント毋関数 17 であるので,その積は
MY1+···+Yn(t) = pn (1−etq)n
またこのことから,幾何分布Ge(p)は負の2項分布NB(1, p)に等しいことが
わかる. □
問題 26 (負の2項分布の再生性) X, Y が独立で負の2項分布NB(n, p),NB(m, p) にしたがうとき,X+Y はNB(n+m, p)にしたがうことを示してください.
解.
MX(t) = ( p
1−etq )n
, MY(t) = ( p
1−etq )m
であるから
MX+Y(t) =E[et(X+Y)=E[etX]×E[etY] = ( p
1−etq )n+m
□
第 2 章 連続型確率分布
2.1 密度関数
FX(x) =P(X ≤x) を分布関数と言います.
分布関数の性質
(1) FX(x)は単調増加関数
(2) limx→−∞FX(x) = 0,limx→∞FX(x) = 1 離散型の場合には,分布関数は階段型
X の値 x1 x2 · · · Xの確率 p1 p2 · · · ならば
FX(x) =
0 x < x1 p1 x1≤x < x2
p1+p2 x2≤x < x2
· · · · · ·
となります.それに対して,分布関数が微分可能な場合を連続型と言い,
fX(x) = d dxFX(x) を密度関数と言います.したがって,
FX(a) =
∫ a
−∞
fX(x)dx をみたします.この場合,
P(a < X≤b) =P(X ≤b)−P(X ≤a) =FX(a)−FX(b) であるので,
P(a < X ≤b) =
∫ b a
fX(x)dx
2.1. 密度関数 19 をみたします.したがって,
P(|X−a|< ε)→0
となるので,1点の確率は0になり,確率を確率分布表で与えることはでき ません.
密度関数の性質 (1) fX(x)≥0 (2) ∫∞
−∞fX(x)dx= 1 例 6 一様分布U(a, b)
f(x) = 1
b−a x∈(a, b) 例 7 指数分布Exp(λ)
f(x) =λe−λx x >0 例 8 正規分布N(m, v)
f(x) = 1
√2πve−(x−m)2/v
問題 27 Xが正規分布N(m, v)にしたがうとする.このとき,Y = X√−vmは 標準正規分布にしたがうことを確かめてください.
解. 一般には
P(Y ≤y] =P(X ≤y√
v+m) =
∫ y√v+m
−∞
√1
2πve−(x−m)2/2vdx において,s= x√−vmとおけばよい.
MY(t) =E[etY] =E[et(X−m)/√v] =e−tm/sqrtvMX(t√ v) および
MX(t) =emt+vt2/2
を用いてもよい. □
問題 28 (1) 密度関数
f(x) =
1
3|x−2| 1≤x≤3 Cx2 −1≤x <1 をみたすCを求めてください.
(2) [0, π]の上の密度関数Csin2xとするとき,Cを求めてください.
解.
(1) 1, (2) 2 π
□
問題 29 連続型の確率変数Xについて
P(X ≤x) =
C−De−λx x≥0
0 x <0
とするとき,C, Dを定め,確率変数Xの密度関数を求めてください.
解.
P[X <∞] = 1
であることから,C= 1でなければならない.または,連続型であるときより.
lim
x↓0P(X≤x) = 0
を考えると,C=Dをみたすことがわかる.xで微分することにより fX(x) =
Dλe−λx x≥0 0 x <0 を得るが,∫∞
0 fX(x)dx= 1より,D= 1が出る. □
問題 30 (対数正規分布) 正規分布N(m, v)にしたがう確率変数Xについて,
eXの密度関数を求めてください.
解. a >0について
FeX(a) = P(eX ≤a) =P(X ≤loga)
= 1
√2πv
∫ loga
−∞
e−(x−m)2/2vdx したがって,
feX(a) = 1
√2πve−(loga−m)2/2v1 a
□
2.2. 高次元の密度関数 21 問題 31 (自由度1のχ2分布) 正規分布N(0,1)にしたがう確率変数X に ついて,X2の密度関数を求めてください.
解. a >0について
FX2(a) = P(X2≤a) =P(−√
a≤X ≤√ a)
= 1
√2π
∫ √a
−√a
e−x2/2 微分して
fX2(a) = 1
√2πae−a/2
□
問題 32 (自由度2のχ2分布) 正規分布N(0,1)にしたがう独立な確率変数 X,Y について,X2+Y2の密度関数を求めてください.
解.X2,Y2の密度関数は自由度1のχ2分布であるから P(X2+Y2≤z) =
∫ ∞
−∞
∫ z−u
−∞
fX2(u)fY2(v)dudv であるので,密度関数は
fX2+Y2(z) =
∫ ∞
−∞
fX2(u)fY2(z−u)du
=
∫ z 0
√1
2πue−u/2 1
√2π(z−u)e−(z−u)/2du
= e−z/2 2π
∫ 1 0
1
zt(z−zt)z dt (u=zt)
= e−z/2
2π B(1/2,1/2)
= 1 2e−z/2
□
2.2 高次元の密度関数
確率変数XとY の結合分布が
P(a < X < b, c < Y < d) =
∫
f(X,Y)(x, y)dxdy
で与えられる.より,高次元の場合も考えられる.この場合,密度関数は高 次元の関数となる.
(1) f(X,Y)(x, y)≥0 (2) ∫
f(X,Y)(x, y)dxdy= 1 などとなる.
問題 33 Dは[0,1]2の場合と(0,0),(1,0),(0,1)を頂点とする三角形とする 場合に
f(x, y) =Cx2y をみたすとき,それぞれのCを求めてください.
解. D= [0,1]2のときには,C= 6,三角形のときには
∫ 1 0
dx
∫ 1−x 0
x2y dy= 1 60
であるから,C= 60 □
問題 34 Dは原点を中心とする半径1の円の第一象限にある4分円とする.
f(x, y) =C√ x2+y2 とするときCを求めてください.
解.dxdy=r drdθより
∫ 1 0
dr
∫ π/2 0
r2dθ= π 6
より,C=π6 □
X の密度関数を求めてみよう
FX(a) = P(X < a) =P(X < a,−∞< Y <∞)
=
∫ a
−∞
dx
∫ ∞
−∞
f(X,Y)(x, y)dxdy この式をaで微分するとXの密度関数
fX(a) =
∫ ∞
−∞
f(X,Y)(a, y)dy を得る.同様に
fY(b) =
∫ ∞
−∞
f(X,Y)(x, b)dx 結合分布から周辺分布を導くことができる.
2.2. 高次元の密度関数 23 XとY が独立であるとは
P(a < X < b, c < Y < d) =P(a < X < b)×P(c < Y < d)
などと表されることを言う.3つ以上の複数の確率変数の場合にも離散型と 同様に定義される.この場合,密度関数は
P(a < X < b, c < Y < d) =
∫ b a
dx
∫ d c
dyf(X,Y)(x, y) P(a < X < b)×P(c < Y < d) =
∫ b a
fX(x)dx
∫ d c
fY(y)dy がすべてのa, b, c, dについて成り立つのだから,
f(X,Y)(x, y) =fX(x)×fY(y)
が成り立つ.離散型と同様に独立であれば,周辺分布から結合分布を導くこ とができる.
問題 35 Dは[0,1]2のとき,
f(x, y) = 6x2y
Dが(0,0),(1,0),(0,1)を頂点とする三角形とする場合に f(x, y) = 60x2y
をみたすとき,XとY の密度関数を求めてください.XとY は独立ですか.
さらにP[X ≤12]を求めてください.
解. D= [0,1]2のときには fX(x) =
∫ 1 0
6x2y dy= 3x2 fY(y) =
∫ 1 0
6x2y dx= 2y この場合には独立で,P(X≤ 12] =18
三角形のときには fX(x) =
∫ 1−x 0
60x2y dy= 30(x2−2x3+x4) fY(y) =
∫ 1−y 0
60x2y dx= 20(1−y)3y 独立ではない.
P[X≤x] = 10x3−15x4+ 6x5
なのでP(X ≤ 12] = 12.この場合,E(X) = 12, V(X) = 281,E(Y) =
1
3, V(Y) = 632 □
問題 36 (X, Y)の密度関数がf(X,Y)で与えられているとき,X+Y の密度 関数を求めてください.とくに,XとY がU(0,1)にしたがい,独立なとき の密度関数を求めてください.
解.
FX+Y(a) = P(X+Y < a)
=
∫ ∞
−∞
dx
∫ a−x
−∞
f(X,Y)(x, y)dxdy したがって,aで微分すれば
fX+Y(a) =
∫ ∞
−∞
f(X,Y)(x, a−x)dx とくに,XとY がU(0,1)にしたがい,独立なときには
f(X,Y)(x, y) = 1, 0≤x, y≤1 であるので,0< a−x <1であることに注意すると
fX+Y(a) =
∫a
0 dx=a 0< a <1
∫1
a−1 dx= 2−a 1≤a <2
□
問題 37 X, YはU(0,1)にしたがい独立なときP(X2+Y2< a)とP(max{X, Y}<
a),P(min{X, Y}< a)を求めてください.
解. f(X,Y)(x, y) = 1 ((x, y)∈[0,1]2)であるので,
P(X2+Y2< a) = a2π/4 P(max{X, Y}< a) = a2
P(min{X, Y}< a) = 1−P(min{X, Y} ≥a) = 1−(1−a)2
□
問題 38 XとY がそれぞれ正規分布N(m1, v1)とN(m2, v2)にしたがい独立 なとき,X+Y の確率分布を求めてください.
解. N(m1+m2, v1+v2) □
2.2. 高次元の密度関数 25 問題 39 X とY がU(0,1)にしたがい,独立なとき,Z = max{X, Y}の密 度関数を求めてください.
解.0< a <1について
FZ(a) = P(max{X, Y} ≤a) =P(X ≤a, Y ≤a)
= P(X ≤a)×P(Y ≤a)
= a2
したがって,密度関数fZ(a) = 2a □
問題 40 X,Y が独立でExp(λ)にしたがうとき,Z = min{X, Y}の密度関 数を求めてください.
解. a >0について
FZ(a) = P(min{X, Y} ≤a) = 1−P(min{X, Y}> a)
= 1−P(X > a, Y > a) = 1−P(X > a)×P(Y > a)
= 1− (∫ ∞
a
λe−λxdx )2
= 1−([
−e−λx]∞ a
)2
= 1−e−2λa したがって
fZ(a) = 2λe−2λa と再び指数分布になるが,max{X, Y}は密度関数は
2λe−λa(1−e−λa)
となり,指数分布にはならない. □
問題 41 (順序統計量) X, Y, ZがU(0,1)にしたがい独立なとき,順序を変 えてX(1)≤X(2)≤X(3) と表すとき,X(2)の密度関数を求めてください.
解. 0< a <1について
FX(2)(a) = P(X(2)≤a)
= P(X, Y, Z≤a) +3C1P(X > a, Y, Z ≤a)
= a3+ 3a2(1−a)
したがって
fZ(a) = 3a2+ 6a−9a2= 6a−6a2
□
問題 42 (高次元の正規分布) k次元のベクトルmと正定値k×k対称行列 V について,密度関数
f(x) = (√
2π)k(detV)−1/2exp[−1 2
t(x−m)V−1(x−m)]
を高次元の正規分布という.これが密度関数であることを確かめてください.
解. V は対称行列なので,固有値はすべて実数である.また,正定値であ るとは,すべての固有値が正であることである.U−1V U が対角行列になる ように選び,y=U−1(x−m)とおくと,
f(x) = (√
2π)−k(detV)−1/2exp[−1 2
ty(U−1V U)−1y]
λ1, . . . , λkを固有値とし,zk =yk/√
λkとおくと
∫
f(x)dx =
∫ (√
2π)−k(detV)−1/2exp[−1 2
ty(U−1V U)−1y]dy
=
∫ (√
2π)−kexp[−1 2
tzz]dz
=
∏k i=1
∫ (√
2π)−1e−z2i/2dzi= 1 V は分散共分散行列である.
∫
xtxf(x)dx =
∫
UytyU−1(√
2π)−k(detV)−1/2exp[−1 2
ty(U−1V U)−1y]dy
= U
∫
√λ1z1 ...
√λkzk
(√
λ1z1, . . . ,√
λkzk) exp[−1
2(z12+· · ·+zk2)]dzU−1
= U
λ1 0 · · · 0 0 λ2 · · · 0 ... ... . .. ... 0 0 · · · λk
U
= V
□
2.3. 期待値と分散 27
2.3 期待値と分散
密度関数fX(x)をもつ確率分布にしたがう確率変数Xの期待値は E(X) =
∫
xfX(x)dx 分散は
V(X) =E[(X−E(X))2] =
∫
(x−E(X))2fX(x)dx 問題 43 X を(−∞,∞)に値をとる確率変数で
fX(x) =
Aex+1 x <−1 Bx2 −1≤x <0 Ce−x x≥0,
がE(X) =−1,V(X) = 3とするとき,A,B,Cを求めてください.
解.A= 23, B= 0,C= 13 □
問題 44 密度関数
f(x) = 1 π
γ (x−x0)2+γ2
をもつ確率分布をコーシー分布という.この分布が期待値をもたないことを 示してください.
解. まず,密度関数であることを示そう.(x−x0)/γ=yとおく.
∫ ∞
−∞
1 π
γ
(x−x0)2+γ2dx= 1 πγ
∫ ∞
−∞
1
1 + ((x−x0)/γ)2dx
= 1 π
∫ ∞
−∞
1 1 +y2dy
= [arctany]π/2−π/2= 1 一方,x∈[n−1, n)では
x
1 +x2 ≥ n−1
n2+ 1 ≥ n−1
(n+ 1)2 = 1
n+ 1 −2 1 (n+ 1)2 この和は発散することから
∫ ∞
0
x 1 +x2dx
は発散する.したがって,期待値は存在しない. □
離散型と同様に 期待値の性質