担当:鹿野(大阪府立大学)
2014 年度前期
はじめに
前回の復習
確率変数の共分散と和の分散。
資産運用への応用:ポートフォリオ選択(分散投資)。
今回学ぶこと
条件付き確率分布と条件付き期待値。
確率変数の独立性。
テキスト該当箇所:7.2章、7.4章。
1 条件付き確率分布と条件付き期待値
1.1
条件付き確率分布
条件付き確率分布:確率変数(X, Y)の同時分布がh(x, y)、周辺分布が f (x)、g(y)で与えら れるとき、
f (x|y) = h(x, y)
g(y) , g(y|x) = h(x, y)
f (x) (1)
を、Y = yにおけるXの、X = xにおけるYの と呼ぶ。
⊲ Pr(X = x, Y = y) = h(x, y)、Pr(Y = y) = g(y)に注意するとXの条件付き分布は
f (x|y) = Pr(X = x, Y = y)
Pr(Y = y) = . (2)
∴ (1)式の定義は、講義ノート#04の事象の条件付き確率Pr(A|B) = Pr(A∩B)
Pr(B) と同じ。
Y = yを前提に、X = xが出る確率。⇒Yの結果に応じて、X = xの確率を切り替え。
⊲ (1)式を変形すると
h(x, y) = = . (3)
∴条件付き分布と周辺分布があれば、同時分布を復元可能。
1
例(講義ノート#12から再掲):次の同時分布h(x, y)、周辺分布 f (x)、g(y)から、条件付き 分布を導出。
h(x, y) Y = 8 Y = 9 f (x)
X = 1 0.1 0.1 0.2
X = 2 0.2 0.3 0.5
X = 3 0.1 0.2 0.3
g(y) 0.4 0.6
⊲ Y = 8と固定しPr(X = x|Y = 8) = f (x|8)を求めると
⎧⎪
⎪⎪
⎪⎪
⎪⎪
⎪⎪
⎪⎪
⎪⎨
⎪⎪
⎪⎪
⎪⎪
⎪⎪
⎪⎪
⎪⎪
⎩
Pr(X = 1|Y = 8) = f (1|8) = = 1 4 Pr(X = 2|Y = 8) = f (2|8) = = 2 4 Pr(X = 3|Y = 8) = f (3|8) = = 1 4
⇒ f (x|8) =
⎧⎪
⎪⎪
⎪⎨
⎪⎪
⎪⎪
⎩ 1
4 for x = 1, 3 2
4 for x = 2
. (4)
∴「Y = 8に占める、X = 1の割合」が、Pr(X = 1|Y = 8) = f (1|8)。⇒x = 1, 2, 3全て について並べると、条件付き分布 f (x|8)の出来上がり!
⊲ 同様に f (x|9)は
⎧⎪
⎪⎪
⎪⎪
⎪⎪
⎪⎪
⎪⎨
⎪⎪
⎪⎪
⎪⎪
⎪⎪
⎪⎪
⎩
Pr(X = 1|Y = 9) = f (1|9) = h(1, 9) g(9) =
1 6 Pr(X = 2|Y = 9) = f (2|9) = h(2, 9)
g(9) = 3 6 Pr(X = 3|Y = 9) = f (3|9) = h(3, 9)
g(9) = 2 6
⇒ f (x|9) =
⎧⎪
⎪⎪
⎪⎪
⎪⎪
⎪⎪
⎨
⎪⎪
⎪⎪
⎪⎪
⎪⎪
⎪⎩ 1
6 for x = 1 3
6 for x = 2 2
6 for x = 3
. (5)
⊲ Yの条件付き分布g(y|1)、g(y|2)、g(y|3) ⇒今回の復習問題。
Remark:周辺分布 f (x)と条件付き分布 f (x|y)の違い
⊲ f (x):「Yがどんな値をとったか」を 、Xの確率を与える。
⊲ f (x|y):「Yがどんな値をとったか」という情報に 、Xの確率を与える。
⊲ ∴講義ノート#04の「普通の確率Pr(A)」vs.「条件付き確率Pr(A|B)」と同じこと。
1.2
条件付き期待値・分散
条件付き期待値:条件付き分布 f (x|y)をウェイトにした期待値
E(X|Y = y) =
⎧⎪
⎪⎨
⎪⎪
⎩
xx f (x|y) (離散型)
xx f (x|y)dx (連続型) (6)
を、Y = yにおけるXの と呼ぶ。
⊲ Yの結果yに応じて、ウェイト f (x|y)が変化⇒条件付き期待値も、yに依存して変化。
⊲ Yの条件付き期待値E(Y|X = x)も同様に、条件付き分布g(y|x)で作る。
例:(4)式、(5)式で求めた f (x|y)でXの条件付き期待値E(X|Y = y)を求めると
E(X|Y = 8) = = 1 · 1
4+ 2 · 2 4+ 3 ·
1
4 = 2, (7)
E(X|Y = 9) = = 1 · 1
6+ 2 · 3 6+ 3 ·
2 6 =
13
6 >2. (8)
⊲ Yの結果次第(8 or 9)で、Xの期待値が2 or 136 に変化。
条件付き分散:条件付き分布 f (x|y)をウェイトにした分散
Var(X|Y = y) =
⎧⎪
⎪⎨
⎪⎪
⎩
x(x − E(X|Y = y))2f (x|y) (離散型)
x(x − E(X|Y = y))2f (x|y)dx (連続型) (9)
を、Y = yにおけるXの と呼ぶ。
⊲ Xの分散(散らばり)が、Yの結果に依存。
2 確率変数の独立性
2.1
確率変数の独立性
確率変数の独立性:確率変数(X, Y)について f (x|y)
=Pr(X=x|Y=y)
= f (x)
=Pr(X=x)
(10)
ならば、XとYは である、と言う。
⊲ 「Y = yを見ても見なくても、X = yの確率が変わらない」とき(X, Y)は独立。∴講
義ノート#04の事象の独立性Pr(A|B) = Pr(A)と同じ。
⊲ (10)式と(3)式から
f (x|y) = f (x) ⇔ . (11)
∴(11)式を独立の定義としても良い。
例:上の数値例h(x, y)の(X, Y)は独立か?
⊲ 離散型の判断法:一つでもh(x, y) = f (x)g(y)を満たさない実現値のペア(x, y)があれ ば、独立でない。
⊲ 適当な実現値のペア、例えば(1, 8)に着目。⇒同時分布からh(1, 8) = 、周辺分 布から f (1)g(8) = 0.2 · 0.4 = 。
⊲ h(1, 8) f (1)g(8)。∴独立でない。
2.2
独立な確率変数の諸性質
独立な確率変数の積の期待値:(X, Y)が独立ならば
E(XY) = . (12)
∴独立の場合に限り、積の期待値=期待値の積。
⊲ 証明:(10)式、(11)式から独立⇔h(x, y) = f (x)g(y)。このとき積の期待値をとると
(和記号の順序を変える)
E(XY) =
x
y
xyh(x, y) =
x
y
xy f (x)g(y) =
x
x f (x)
=E(X)
y
yg(y)
=E(Y)
= E(X)E(Y). (13)
独立な確率変数の共分散:(X, Y)が独立ならば
Cov(X, Y) = . (14)
∴独立ならば、無相関。
⊲ 証明:(12)式より、独立⇒E(XY) = E(X)E(Y)。このとき共分散の別表現は
Cov(X, Y) = E(XY) − E(X)E(Y) = 0. (15)
独立な確率変数の和の分散:(X, Y)が独立ならば
Var(aX + bY) = . (16)
∴独立ならば、和の分散=分散の和。
⊲ 証明:(14)式より、独立⇒Cov(X, Y) = 0。このとき和の分散は
Var(aX + bY) = a2Var(X) + b2Var(Y) + 2abCov(X, Y) = a2Var(X) + b2Var(Y). (17)
Remark:(X, Y)が独立のケース・独立でないケースを整理。
(X, Y)が独立 (X, Y)が独立でない
定義 h(x, y) = f (x)g(x) h(x, y) f (x)g(x)
⇓ ⇓
積の期待値 E(XY) = E(X)E(Y) E(XY) E(X)E(Y)
⇓ ⇓
共分散 Cov(X, Y) = 0(無相関) Cov(X, Y) 0
⇓ ⇓
和の分散 Var(X + Y) = Var(X) + Var(Y) Var(X + Y) Var(X) + Var(Y)
⊲ 注意:「(X, Y)が独立⇒無相関」だが、必ずしも「無相関⇒独立」 。(無
相関だが独立性の定義を満たさない同時分布が、多数存在。)
⊲ 注意:和の期待値は、独立でなくても無条件でE(X + Y) = E(X) + E(Y)。(講義ノー ト#12、#13。)
まとめと復習問題
今回のまとめ
条件付き分布Pr(X = x|Y = y) = f (x|y):条件付きの期待値E(X|Y = y) = x f (x|y)。
確率変数の独立性:独立な場合の諸性質。
復習問題
出席確認用紙に解答し(用紙裏面を用いても良い)、退出時に提出せよ。
1. 今回数値例で用いた同時分布を再考する。
(a) (4)式、(5)式を参考に、X = 1, 2, 3におけるYの条件付き分布をそれぞれ導出せよ。 (b) 上の問題で得た条件付き分布から、Y の条件付き期待値E(Y|X = 1)、E(Y|X = 2)、
E(Y|X = 3)を求めよ。