1
第 1 章 「現代数理統計学の基礎」 – 章末の演習問題
(追加問題も含む)とその略解 –
1.1 章末の演習問題
1.1.1 第1章 確率
問 1 事象AとBの対称差A∆Bは,A∆B = Ac∆Bc = (A∪ B)\(A ∩ B)と表されることを示して次を 示せ。
P (A∆B) = P (A∪ B) − P (A ∩ B) = P (A) + P (B) − 2P (A ∩ B) 問2 事象A1, A2, A3に対して次の等式を示せ。
P (A1∪ A2∪ A3) = P (A1) + P (A2) + P (A3)− P (A1∩ A2)
− P (A2∩ A3)− P (A3∩ A1) + P (A1∩ A2∩ A3)
問3 (1.2)を示せ。
問4 次の等式が成り立たない例を挙げよ。 (1) P (A|Bc) = 1− P (A|B)
(2) P (C|A ∪ B) = P (C|A) + P (C|B),ただしA∩ B = ∅
問5情報を0と1に符号化して送る際に,受信者は1割の確率で間違って受信してしまう場合を想定して みる。送信者は,0を1/3の確率,1を2/3の確率で送信していることがわかっている。
(1) 0を受信する確率を求めよ。
(2) 0を受信したとするとき,それが間違って受信した確率を求めよ。1を受信したときには,間違って
受信する確率はどうなるか。
問6ある病気について疾患の有無を調べる簡易的な検査方法がある。この方法によると,疾患がないのに 陽性反応が出てしまう確率は20%であり,一方疾患があるのに陰性となる確率は10%である。その病気に かかっているのは全体の10%であるとする。陽性反応が出たとき,病気にかかっている確率を, Bayes の 定理を用いて求めよ。
問7 ある薬の服用と特定の病気の治癒の間に関係があるか否かに関心があるとする。事象A1, A2をそれ ぞれ薬の服用,非服用とし,B1, B2をそれぞれ病気が治癒する事象,治癒しない事象とする。それぞれの 事象と積事象の確率が表 1.3で与えられているとき,次の問に答えよ。
表1.1: 薬と治癒との関係
B1 B2 計
A1 a 1/9 c
A2 4/9 d 1− c 計 b 1− b 1
(1) 薬の服用と病気の治癒の間に因果関係がないとするとき,a, b, cはどのような値をとるか。
(2)薬の服用と病気の治癒の間には独立性が成り立っていないとする。このときa, b, cの値をdを用いて 表せ。
問8 事象Ak, k = 1, 2, . . ., について次のボンフェロニ(Bonferroni)の不等式が成り立つことを示せ。
P (∩∞k=1Ak)≥ 1 −
∑∞ k=1
P (Ack)
問9(∗)集合の列Ak∈ B, k = 1, 2, . . .,に対して,上極限集合と下極限集合をそれぞれ
lim sup
n→∞ An=∩
∞n=1∪∞k=nAk, lim infn→∞ An=∪∞n=1∩∞k=nAk
で定義する。lim supn→∞An= lim infn→∞Anが成り立つとき,この集合をlimn→∞Anと書く。Akが単調 増大列のときlimn→∞An=∪∞n=1Anとなることを示せ。またAkが単調減少列のときlimn→∞An=∩∞n=1An となることを示せ。
問10(∗)命題1.10(1)では,単調増大列に対してP (limn→∞An) = limn→∞P (An)という確率の連続性を 示した。この性質は,単調減少列についても成り立つことを示せ。
問11(∗)ボレル・カンテリの補題(Borel-Cantelli lemma)と呼ばれる次の結果を示せ。
(1) 事象の列An ∈ B, n = 1, 2, . . ., に対して,∑∞n=1P (An) < ∞ならば,P (lim supn→∞An) = 0と なる。
(ヒント:Bn=∪∞k=nAkとおくと,Bnは単調減少列になることに注意せよ。)
(2)事象A1, A2, . . . , An, . . .∈ Bが独立であるとする。即ち,任意のnに対してP (∩ni=1Ai) =∏ni=1P (Ai) が成り立つとする。このとき,∑∞n=1P (An) =∞ならば,P (lim supn→∞An) = 1が成り立つ。
(ヒント:(lim sup An)c = lim inf Acnに注意してP (lim inf Acn) = 0を示せばよい。P (∩mk=nAck) =∏mk=n(1− P (Ak)), 1− P (Ak)≤ exp{−P (Ak)}を順に示していけばよい。)
1.1.2 第2章 確率分布と期待値
問1 次の関数が密度関数になるように正規化定数cを与えよ。また分布関数を求めよ。 (1) f (x) = Cx3, 0 < x < 2 (2) f (x) = Ce−|x|,−∞ < x < ∞
(3) f (x) = Ce−2x, x > 0 (4) f (x) = Ce−xe−e−x, x > 0
問2 次の関数が分布関数になることを示し,その確率密度関数を求めよ。 (1) F (x) = (1 + e−x)−1,−∞ < x < ∞ (2) F (x) = 1 − 1/x2, x > 1 (3) F (x) = log(x)/(1 + log(x)), x > 1 (4) F (x) = 1− e−x2/2, x > 0
問 3 確率密度関数f (x)と分布関数F (x)について,適当に実数aをとって関数g(x)を, x ≥ aのとき g(x) = f (x)/{1 − F (a)}, x < aのときg(x) = 0と定義する。このとき,g(x)が確率密度関数になることを 示せ。これを打ち切り分布(truncated distribution)という。f (x) = e−x, x > 0, としa = 1のとき,g(x) を与えよ。
問4 連続型確率変数Xについて,E[(X− t)2], E[|X − t|]をそれぞれ最小にするtを求めよ。
問 5 k(> 0) 次のモーメントが存在すれば, 0 < h < k となる h について h 次のモーメントは存在するこ とを示せ。
問6 Xを非負の整数上で確率をもつ離散型確率変数とし,非負の整数kに対してF (k) = P (X ≤ k)とす る。Xの期待値が存在するとき次の等式が成り立つことを示せ。
E[X] =
∑∞ k=0
{1 − F (k)}
1.1. 章末の演習問題 3 問7 Xを実数直線上の連続な確率変数とし,その分布関数をF (x)とする。このときXの期待値が次のよ うに表されることを示せ。
(1) E[X] =∫0∞{1 − F (x)}dx −∫−∞0 F (x)dx (2) E[X] =∫01F−1(t)dt
問8連続型確率変数Xの確率密度関数がf (x−µ)で与えられており,すべての実数yに対してf (y) = f (−y) が成り立つとする。このときE[X] = µとなることを示せ。
問9 連続型確率変数Xの確率密度関数fX(x),分布関数FX(x)について, 1− α =
∫ xα
−∞
fX(x)dx = P (X ≤ xα), xα = FX−1(1− α)
なる点xαを,上側100α%分位点(quantile)という。Y = σX + µ, σ > 0, とするとき,Y の上側100α% 分位点をxαを用いて表せ。
問10 確率変数Xの確率密度関数がf (x) = e−x, x > 0,で与えられるとする。 (1) 積率母関数を求めよ。
(2) 正の整数kに対してE[Xk]を求めよ。
(3) σ > 0に対してY = σX + µと変数変換するとき, Y の確率密度関数と分布関数を与えよ。
問 11 f (k) = 1/2k+1, k = 0, 1, . . ., が確率関数になることを示せ。この分布の確率母関数と積率母関数を 求め,正の整数kに対してE[X(X − 1) · · · (X − k + 1)]を求めよ。
問12 Xの確率密度関数がf (x) = 1, 0 < x < 1,で与えられている。
(1) Xの積率母関数を求め,平均と分散を与えよ。
(2) Y = X2なる変数変換したときのY の確率密度関数を求め,その平均と分散を計算せよ。
(3) Y =− log(X)なる変数変換したときのY の確率密度関数を求め,その平均と分散を計算せよ。
(4) σ > 0に対してY = σX + µなる変数変換をするとき,Y の確率密度関数,積率母関数,平均と分散 を計算せよ。
問13 Xの確率密度関数がf (x) = 1/2,−1 < x < 1,で与えられている。
(1) Xの積率母関数を求め,平均と分散を与えよ。
(2) Y = X2なる変数変換したときのY の確率密度関数を求め,その平均と分散を計算せよ。
(3) Y =− log(|X|)なる変数変換したときのY の確率密度関数を求め,その平均と分散を計算せよ。
(4) σ > 0に対してY = σX + µを変数変換するとき,Y の確率密度関数と積率母関数を与え,その平均 と分散を計算せよ。
問14 Xの確率密度関数がf (x) = (1 + x)/2, −1 < x < 1,で与えられるとき,Y = X2の確率密度関数と その平均,分散を求めよ。
問15 確率変数 X の密度関数がfX(x) = (2/9)(x + 1),−1 ≤ x ≤ 2,で与えられるとき,Y = X2 の密度 関数を求めよ。
問 16 2つの確率変数XとY の間に,すべてのtに対してP (X > t)≥ P (Y > t)が成り立つとき,Xは Y より確率的により大きい(stochastically greater)という。XとY が連続な確率変数のとき,次の不等式 が成り立つことを示せ。
(1) E[X]≥ E[Y ]
(2) X, Y の分布関数をFX(t), FY(t)とすると,すべてのtに対してFX−1(t)≥ FY−1(t)が成り立つ。 問17 正の確率変数X,|t| ≤ 1に対してA(t) = (E[Xt])1/tと定義する。
(1) A(t)はtの増加関数であることを示せ。
(2) H = (E[X−1])−1, G = exp{E[log X]}, M = E[X]とおくと,不等式H≤ G ≤ Mが成り立つことを 示せ。
問 18 確率密度関数が fX(x) = (m + 1)xm, 0 ≤ x ≤ 1, で与えられる確率変数 X の積率母関数が, etx=∑∞k=0(tx)k/k!を用いると,
MX(t) =
∑∞ k=0
m + 1 (m + k + 1)k!t
k
と書けることを示せ。これを用いて,E[X] = (m + 1)/(m + 2), Var(X)− (m + 1)/{(m + 2)2(m + 3)}を 示せ。
問19(∗)キュミュラント母関数の3階微分,4階微分を行い,ψX(3)(0), ψX(4)(0)を求めよ。
問20(∗) f(x) = {π(1 + x2)}−1,−∞ < x < ∞,が確率密度関数になることを示せ。この平均,分散,積率 母関数が存在しないことを示せ。この分布の特性関数を求めよ。
1.1.3 第3章 代表的な確率分布
問1 離散一様分布の確率母関数を求め,平均と分散を確率母関数から求めよ。
問 2 2項係数について(3.4)で与えられた関係式が成り立つことを示せ。また数学的帰納法を用いて2項 定理を証明せよ。
問3 超幾何分布について,命題3.8を証明せよ。
問4 超幾何分布(3.9)において,N → ∞, M/N → p とすると,次のように2項分布Bin(K, p)に収束す ることを示せ。これは,非復元抽出がM/N → pという仮定のもとでM , Nが大きいとき復元抽出で近似 できることを意味する。
N →∞lim P (X = x|N, M, K) =( K x
)px(1− p)K−x
問5 ハザード関数に関して(3.25)を示せ。
問6実数xに対して,[x]をx を越えない最大の整数と定義する。平均1/λの指数分布Ex(λ)に従う確率 変数Xに対して,Y = [X]の分布を求めよ。またt, sを自然数とするとき,P [Y ≥ t+s|Y ≥ t] = P [Y ≥ s] が成り立つことを示せ。
問7負の2項分布N B(r, p)に従う確率変数Xに対して,新たにY = 2pXなる確率変数を定義する。p→ 0 とするとき,Y の分布が自由度2rのカイ2乗分布χ22rに収束することを積率母関数の連続性定理を用いて 示せ。
問8 2項分布Bin(n, p)に従う確率変数Xについて,
Y = (X− np)/√np(1− p) はn→ ∞のとき標準正規分布N (0, 1)に収束することを示せ。
問 9 ポアソン分布P o(λ)に従う確率変数Xについて,Y = (X− λ)/√λはλ→ ∞のとき標準正規分布 N (0, 1)に収束することを示せ。
問10 正の連続型確率変数Xの確率密度関数が f (x) = √1
2πxe
−(log x)2/2, x > 0
で与えられるとき,対数正規分布(lognormal distribution)という。この分布の平均と分散を求めよ。Y =
log X を変換すると,Y はどのような分布になるか。
1.1. 章末の演習問題 5
0 2 4 6 8 10
0.00.20.40.60.8
図 1.1: 対数正規分布 問11 連続型確率変数Xの確率密度関数が
f (x|α, β) = βα
β
xβ+1, α < x, α > 0, β > 0 (1.1.1) で与えられるとき,パレート分布(pareto distribution)という。この分布の平均と分散を求めよ。Y = log X, µ = log α, β = 1/σとおくと,Y はどのような分布になるか。
問12 連続型確率変数Xの確率密度関数が
f (x|µ, σ) = 1 2σe
−|x−µ|/σ, −∞ < x < ∞
で与えられるとき,両側指数分布(double exponential distribution)もしくはラプラス分布(Laplace distri-
bution)という。この分布の平均と分散を求めよ。
問13 連続型確率変数Xの確率密度関数が
f (x) = e−x
(1 + e−x)2, −∞ < x < ∞ で与えられるとき,ロジスティック分布(logistic distribution)という。
−4 −2 0 2 4
0.00.10.20.30.4
logistic N(0,1)
図 1.2: ロジスティック分布 (1) これが確率密度関数になることを確かめよ。
(2) この分布関数F (x)を与えよ。またf (x)はy軸に関して対称であることを示せ。 (3) U = e−X/(1 + e−X)とおくと,U はどのような分布に従うか。
(4) Y =|X|の確率密度関数を与えよ。またハザード関数を計算せよ。
(5) Y = σX + µの確率密度関数を与えよ。
問14 N (0, 1)に従う確率変数Xについて次の問いに答えよ。
(1) E[X2]を正規分布の確率密度関数から直接求めよ。
(2) Y = X2の確率密度関数を求め,それを用いてE[Y ]の値を求めよ。
(3) Y =|X|の確率密度関数を求め,平均と分散を計算せよ。
問 15 X ∼ N (0, 1)とし, kを0以上の整数とする。kが奇数のときE[Xk] = 0, kが偶数のときE[Xk] = 2k/2Γ((k + 1)/2)/Γ(1/2)を示せ。
問16 確率変数X が標準正規分布に従っている。
(1) k を正の実数とし,Z =|X|k とおくとき,Z の確率密度関数を与えよ。
(2) 0以上の整数m に対して,E[X2m], E[|X|2m+1]をできるだけ簡単な式で与えよ。 問17 連続型確率変数Xの確率密度関数が
f (x) = C(α)e−|x|α, −∞ < x < ∞
で与えられるとき,正規化定数はC(α) = α/{2Γ(1/α)}となることを示せ。またE[|X|ν] = Γ((ν+1)/α)/Γ(1/α), ν ≥ 0, を示せ。
問18 X ∼ χ2nのとき,次を示せ。
(1) 非負の実数νに対して, E[Xν] = 2νΓ(ν + n/2)/Γ(n/2)が成り立つ。
(2) 関数h(·)に対して E[h(χ2n)] = nE[h(χ2n+2)/χ2n+2], E[h(χ2n)] = (n− 2)−1E[χ2n−2h(χ2n−2)]が成り立 つ。ただし,E[·]の中のχ2n, χ2n+2, χ2n−2はそれぞれの分布に従う確率変数を意味する。
問 19 X ∼ Bin(n, p), xを0 ≤ x ≤ n − 1なる整数とし,Y ∼ Beta(n − x, x + 1)とする。このとき, P (X ≤ x) = P (Y ≤ 1 − p)が成り立つことを示せ。
問20 X ∼ P o(λ), xをx≥ 1なる整数とし,Y ∼ Ga(x, 1)とする。このとき,P (X≤ x − 1) = P (Y ≥ λ) が成り立つことを示せ。
問21 非負の連続な確率変数Xに対して平均余寿命関数r(t)を r(t) = E[X − t|X ≥ t] で定義する。Xの分布関数をF (x)とする。
(1) r(t) = [1− F (t)]−1∫t∞(1− F (x))dxと表されることを示せ。Xの分布が指数分布Ex(λ)のときr(t) の値を求めよ。
(2) E[X2] = 2∫0∞r(t)(1− F (t))dtとなることを示し,Var(X)をFを用いて表せ。
問22 非負の連続な確率変数Xの分布関数をF (x)とし,平均をµとする。0 < t < 1に対して
qF(t) =
∫ t 0
F−1(s)ds/
∫ 1 0
F−1(s)ds
をローレンツ曲線(Lorenz curve)といい,収入などの不平等度を調べるのに用いられる。完全平等線(q(t) = t) とqF(t)で囲まれる面積の2倍をジニ係数(Gini index)といい,不平等度の指数として使われる。
(1) ジニ係数γ(F )は次のように表されることを示せ。
γ(F ) = 2
∫ 1 0
(t− qF(t))dt = 1− 2
∫ 1 0
∫ t 0
F−1(s)dsdt/
∫ 1 0
F−1(s)ds (2) またγ(F ) = 1− 2∫01(1− s)F−1(s)ds/µとも書けることを示せ。
1.1. 章末の演習問題 7 (3)さらにγ(F ) = 1− 2∫0∞x(1− F (x))f(x)dx/µ = 1 −∫0∞(1− F (x))2dx/µと表されることを示せ。X の分布が指数分布Ex(λ)と一様分布U (0, 1)の場合にγ(F )の値を求め不平等度を比較せよ。
問23(∗)(追加) 正の確率変数Xの確率密度関数が fX(x| µ, λ) =( λ
2πx3 )1/2
exp{−λ(x− µ)
2
2µ2x }
で与えられるとき,Xは逆ガウス分布に従いといい,X∼ IGauss(µ, λ)と書く。ここで,µ > 0は尺度母 数であり,λ > 0である。
(1) ∫0∞fX(x| µ, λ)dx = 1となることを確かめよ。 (2) Xの積率母関数MX(t)を求めよ。
(3) 積率母関数を用いてXの平均と分散を求めよ。
1.1.4 第4章 多次元確率変数の分布
問1 h(t) = E[{(X − µX)− t(Y − µY)}2]を考えることにより,コーシー・シュバルツの不等式(4.10)を 示せ。また等号が成り立つための必要十分条件を求めよ。
問2 2つの確率変数X, Y はそれぞれ密度関数f (x), g(y)を持つ分布に従い,平均E[X] = E[Y ] = µ, 分 散Var[X] = Var[Y ] = σ2,相関係数Corr(X, Y ) = ρをもつとする。
(1) Wは平均pのベルヌーイ分布に従う確率変数とし,X, Y と独立に分布すると仮定する。確率変数Z
をZ = W X + (1− W )Y と定義するとき,Zの確率密度関数を求めよ。また平均と分散を求めよ。
(2) wを0≤ w ≤ 1なる定数としU = wX + (1− w)Y を考える。Uの分散を最小にするwを与えよ。 問3 2つの確率変数X, Y に対して次の事柄を示せ。
(1) XとY − E[Y |X]が無相関になる。 (2) Var(Y − E[Y |X]) = E[Var(Y |X)]
問 4 2次元の確率変数(X1, X2)⊤が(4.24)で与えられる2変量正規分布に従っているとする。このとき X2 = x2を与えたときのX1の条件付き分布は
X1|X2= x2 ∼ N(µ1+ρσ1
σ2 (x2− µ2), (1− ρ
2)σ2 1
)
で与えられることを示せ。またX1とX2が無相関であることと独立であることとが同値になることを示せ。 問5 XとY が独立は確率変数でX∼ N (µ1, σ12), Y ∼ N (µ2, σ22)に従うとする。畳み込みと積率母関数の 2つ方法でX + Y の分布を導け。
問6 X, Y, i.i.d.∼ U(0, 1)とする。Z = X + Y , W = XY の確率密度関数をそれぞれ求めよ。
問7 X1, . . . , Xnを互いに独立な確率変数とし,i = 1, . . . , nに対してXi ∼ P o(λi)(ポアソン分布)に従っ ているとする。このとき ∑ni=1Xiの従う分布を積率母関数を用いて求めよ。
問8 U1とU2を(0, 1)上の一様分布からの独立な確率変数とし,r =√−2 log U1, θ = 2πU2とおく。この とき,X = r cos θ, Y = r sin θは独立に分布し,それぞれ標準正規分布に従うことを示せ。
問 9 r2とθを独立な確率変数としr2 ∼ χ22, θ ∼ U(0, 2π), (区間(0, 2π)上の一様分布), に従うとする。 X = r cos θ, Y = r sin θとおくとき,(X, Y )の同時分布を求めよ。
問10 X とY を独立な確率変数でX ∼ N (µ, σ2), Y ∼ N (ξ, σ2)に従うとする。U = X + Y , V = X− Y とおくとき,(U, V )の同時分布を求めよ。
問 11 XとY を独立な確率変数でいずれもN (0, σ2)に従うとする。W = X2+ Y2, Z = X/√W とおく とき,(Z, W )の同時分布を求めよ。
問12 XとY を独立な確率変数でそれぞれ標準正規分布に従うとする。このときX/(X + Y )及びX/|Y | の確率密度関数をそれぞれ求めよ。
問13 XとY を独立な確率変数でそれぞれ指数分布X ∼ Ex(λ), Y ∼ Ex(µ)に従うとする。Z = min{X, Y } とし, Z = XのときW = 1, Z = Y のときW = 0とする。このとき(Z, W )の同時分布を求めよ。
問14 確率変数X とY は互いに独立にそれぞれX ∼ χ2m1, Y ∼ χ2m2に従うとする。 (1) Z = X + Y , W = X/(X + Y )とおくとき,ZとW は独立になることを示せ。 (2) ZとW の分布を求めよ。
問 15 確率変数X1, X2, X3が互いに独立に,指数分布Ex(λ)に従うとする。ここでλは正の母数であり, Ex(λ)の密度関数はλe−λx, x > 0,で与えられる。いまZ1, Z2, Z3を
Z1= X1 X1+ X2
, Z2 = X1+ X2 X1+ X2+ X3
, Z3= X1+ X2+ X3
と定義するとき,次の問に答えよ。
(1) Z1, Z2, Z3は互いに独立であることを示せ。 (2) Z1, Z2の分布を求めよ。
(3) Z3の分布を求めよ。
問16確率変数X, Y , Zについて,Cov(X, Y|Z)を, Zを与えたときの(X, Y )の条件付き同時確率に関す る共分散とする。
(1) 次の等式が成り立つことを示せ。
Cov(X, Y ) = E[Cov(X, Y|Z)] + Cov(E[X|Z], E[Y |Z])
(2) Z ∼ N (0, 1)とし,Zを与えたときXとY は独立に分布してX|Z ∼ N (Z, 1), Y |Z ∼ N (Z, 1)に従 うとする。このときCov(X, Y )を計算せよ。
問 17 XとY を確率変数とし,X を与えたときのY の条件付き分布がN (α + βX, 1)に従っているとす る。ただし,α, βは定数である。またµを定数としX ∼ N (µ, 1)に従っているとする。
(1) Y の分散V (Y )を求めよ。
(2) XとY の相関係数を求めよ。
(3) 逆に,Y を与えたときのXの条件付き分布を求めよ。
問18 x > 0で定義された関数g(x)が,g(x)≥ 0と∫0∞g(x)dx = 1を満たすとする。 (1) A ={(x, y)|x > 0, y > 0}上で定義された関数
f (x, y) = C×g(
√x2+ y2)
√x2+ y2
が,2次元確率変数(X, Y )の(X, Y ) = (x, y)における確率密度関数となるように,正規化定数Cを求めよ。 (2) W = X2/(X2+ Y2), Z = X2+ Y2とおく。このとき,ZとW の独立性について調べよ。またZと W の周辺分布を求めよ。
問19 例4.14で扱われたベータ・2項分布について,平均と分散を求めよ。 問20 例4.15で扱われたガンマ・ポアソン分布について,平均と分散を求めよ。
問21 (X, Y )が2変量正規分布に従っており,その同時確率密度関数が
f (x, y) = 1
2π√1− ρ2 exp
{− 1
2(1− ρ2)(x
2− 2ρxy + y2)}
で与えられているとする。
(1) U = X, V = Y − ρXとおくとき,(U, V )の同時確率分布を求めよ。 (2) (1)の結果を用いてCorr(X, Y ) = ρ, Corr(X2, Y2) = ρ2となることを示せ。 (3) (X2− 2ρXY + Y2)/(1− ρ2)の分布を求めよ。
1.1. 章末の演習問題 9 問22 確率変数(X, Y, Z)の同時確率密度関数が
f (x, y, z) = Γ(a + b + c)
Γ(a)Γ(b)Γ(c)xa−1yb−1zc−1, 0 < x, y, z < 1, x + y + z = 1
で与えられる分布をディリクレ分布(Dirichlet distribution)という。ここでa > 0, b > 0, c > 0であり,Z
はZ = 1− X − Y によって定まることに注意する。この分布はベータ分布を拡張した分布である。次の問
いに答えよ。
(1) f (x, y, z)が確率密度関数になることを確かめよ。 (2) X, Y の周辺分布を求めよ。
(3) X = xを与えたときのY の条件付き分布を求めよ。
(4) XとY の共分散と相関係数を求めよ。
問23 確率変数の組(X1, . . . , Xk)が定義4.23で与えられた多項分布M ultink(n, p1, . . . , pk)に従うとする。 (1) Xk= xkを与えたときの(X1, . . . , Xk−1)の条件付き確率関数を求めよ。
(2) Cov(Xi, Xj) =−npipj, (i̸= j),となることを示せ。
問 24 k次元の確率変数X が多変量正規分布Nk(µ, Σ)に従うとき,X の積率母関数はt= (t1, . . . , tk)⊤ に対してMX(t) = E[exp{t⊤X}] = exp{µ⊤t+ t⊤Σt/2}で与えられることを示せ。
問25(∗)確率変数V の確率密度関数が
fV(v) =
∑∞ j=0
λj j!e
−λf
n+2j(v)
で与えられるとき,自由度n, 非心度λの非心カイ2乗分布(noncentral chi squares distribution)といい χ2n(λ)と書く。ただし,fn+2j(v)はχ2n+2jの確率密度関数である。これは,
V|J ∼ χ2n+2J J ∼ P o(λ)
なる階層モデルとして表される。X∼ N (µ, 1)のとき,X2∼ χ21(µ2/2)が成り立つことを示せ。
問26(∗)(追加)XとY を互いに独立な確率変数とし,それぞれ標準正規分布に従っているとする。Z = X/Y とおくとき,Zはコーシー分布Cauchy(0, 1)に従うことを示せ。ただしコーシー分布の定義は,p.91, p.304 で与えられている。
1.1.5 第5章 標本分布とその近似
問1 X1, . . . , Xn, i.i.d.∼ N (µ, σ2)とし,X, S2を標本平均,標本分散とする。X +√n− 1Sの平均と分 散を求めよ。
問2 自由度mのt-分布に従う確率変数Tの分布関数が
P (T ≤ t) = P (Z/√V /m≤ t) =
∫ ∞
0
P (Z ≤ t√x/√m)fV(x)dx
なる正規尺度混合分布(4.12)の形で表されることを示せ。ただし, ZとV は独立な確率変数でZ ∼ N (0, 1), V ∼ χ2mに従うとする。これを微分することにより,t-分布の確率密度関数が得られることを確かめよ。
問3 混合分布の表現を利用して自由度mのt-分布に従う確率変数Tの平均と分散を計算せよ。また自然 数rに対してE[Tr]を計算し,この期待値が存在するためのrの条件を与えよ。
問4 Y ∼ Fm,nのとき,自然数rに対してE[Yr]を求めよ。またこの期待値が存在するためのrの条件を 与えよ。
問5 X, Y, i.i.d.∼ N (0, 1)とする。Z = min{X, Y }とおくときZ2 ∼ χ21を示せ。 問6 マルコフの不等式と同様にして次の不等式を示せ。
(1) Z∼ N (0, 1)としその確率密度関数をϕ(z)とするとき,P (|Z| ≥ t) ≤ (2/t)ϕ(t)が成り立つ。 (2) 任意の確率変数Xとt > 0について, P (X≥ a) ≤ e−atMX(t)が成り立つ。
問7 g(x)をg(x) > 0, g(−x) = g(x)なる関数とし,x > 0の範囲で増加関数になっているとする。このと き, t > 0に対して次の不等式を示せ。
P (|X| ≥ t) ≤ E[g(X)]/g(t)
問8 X1, . . . , Xn, i.i.d.∼ (µ, σ2)とする。このとき次を示せ。 2
n(n + 1)
∑n j=1
jXj →pµ
問 9 確率変数の列X1, X2, . . ., について,Xn= n−1∑ni=1Xi, Vn2 = (n− 1)−1∑ni=1(Xi− Xn)2とおく。 このとき次の等式を示せ。
(1) Xn+1 = (Xn+1+ nXn)/(n + 1)
(2) nVn+12 = (n− 1)Vn2+{n/(n + 1)}(Xn+1− Xn)2
問 10 確率変数X1, . . . , Xnが i.i.d.で,平均µ, 分散σ2及び4次の中心モーメントµ4 = E[(X1− µ)4]を もつとする。不偏分散Vn2=∑ni=1(Xi− Xn)2/(n− 1)について,次の問に答えよ。
(1) n→ ∞ とするとき,Vn2はσ2に確率収束することを示せ。
(2) n→ ∞とするとき,√n(Vn2− σ2)はN (0, µ4− σ4)に分布収束することを示せ。
問11 確率変数X1, . . . , Xnが平均µ, 分散σ2の母集団からの標本でCov(Xi, Xj) = ρnσ2, i̸= j, なるよう な相関が入っているものとする。limn→∞ρn= 0のとき標本平均Xn=∑ni=1Xi/nはµに確率収束するこ とを示せ。
問 12 Xn ∼ Bin(n, p)とし,Xn = 0のときYn = 1, Xn ≥ 1のときYn = log(Xn/n)とおく。このとき Yn→p log p,√n(Yn− log p) →dN (0, (1 − p)/p)を示せ。
問13 X1, . . . , Xn, i.i.d.∼ Ex(λ)とする。
(1) X(1)とX(n)の同時確率密度関数を求めよ。またi = 1,· · · , nに対して, X(i)の確率密度関数を求めよ。 (2) Un= (λX(n)− log n)の漸近分布を求めよ。
問14 X1, . . . , Xn, i.i.d.∼ Ex(λ)とする。Y1= nX(1), Y2= (n−1)(X(2)−X(1)), Y3 = (n−2)(X(3)−X(2)), . . ., Yn= X(n)− X(n−1)とおく。このときY1, . . . , Yn, i.i.d.∼ Ex(λ)となることを示せ。
問15 X1, . . . , Xnが互いに独立な非負の確率変数とし,Xiのハザード関数をλi(x)とする。 (1) X(1)のハザード関数はλX(1)(x) = λ1(x) +· · · + λn(x)となる。
(2) X(n)のハザード関数についてはλX(n)(x)≤ λ1(x) +· · · + λn(x)を満たすことを示せ。 問16 X1, . . . , Xn, i.i.d.∼ f(x|θ)とし,f (x|θ)は
f (x|θ) = a θax
a−1, 0 < x < θ, a > 0
で与えられるとする。U1 = X(1)/X(2), U2 = X(2)/X(3), . . ., Un−1= X(n−1)/X(n), Un= X(n)とおく。 (1) (U1, . . . , Un)の同時確率密度関数を求めよ。
(2) 適当にan, bnを与えて(Un− bn)/anの極限分布を求めよ。
問17 X1, . . . , Xn, i.i.d.∼ F (x)とし,分布関数F (x)があるα > 0に対して
x→∞lim x
α(1− F (x)) = λ > 0
1.1. 章末の演習問題 11 を満たすとする。
(1) 任意のx > 0に対してlimn→∞n[1− F (n1/αx)] = λx−αを示せ。
(2) Zn = max{X1, . . . , Xn}とおくときx > 0に対してP (n−1/αZn≤ x) → exp{−λx−α}となることを 示せ。
(3) limn→∞P (n−1/αZn≤ 0) = 0を示せ。
問18 X1, . . . , Xn, i.i.d.∼ F (x)としXi≥ 0とする。Mn= min{X1, . . . , Xn}とする。 (1) limx→0F (x)/x = λ > 0を仮定するとき,nMn→dEx(λ)を示せ。
(2) あるα > 0に対してlimx→0F (x)/xα = λ > 0を仮定するとき,n1/αMnはどのような分布に収束す るか。
問19 (∗) U1−m, U2−m, . . . , i.i.d.としE[Ui] = 0, Var(Ui) = σ2とする。定数c0, . . . , cmに対して
Xi=
∑m j=0
cjUi−j
とする。このとき∑ni=1Xi/√n →d N (0, σ2τ2), τ2 = (∑mj=0cj)2, を示したい。ただし,∑mj=1cj ̸= 0と する。
(1)∑ni=1Xi/√n = (∑mj=0cj)∑ni=1Ui/√n+∑mj=1cjRnjと表されることを示せ。ただしRnj =∑ni=1Ui−j/√n−
∑n i=1Ui/
√nである。
(2) j = 1, . . . , mに対してRnj = (U1−j +· · · + U0− Un−j+1− · · · − Un)/√nと表されることを用いて Rnj →p 0を示せ。
(3) ∑ni=1Xi/√n→dN (0, σ2τ2)を示せ。
1.1.6 第6章 統計的推定
問1 2項分布Bin(n, p),ポアソン分布P o(λ),幾何分布Geo(p),負の2項分布N B(r, p),正規分布N (µ, σ2), ガンマ分布Ga(α, β),ベータ分布Beta(a, b)は指数型分布族に入るか。入る場合に自然母数,期待値母数を 与えよ。
問2 X1, . . . , Xn, i.i.d.∼ f(x|θ)とし,
f (x|θ) = θxθ−1, 0≤ x ≤ 1, 0 < θ < ∞
とする。このときθに対する十分統計量を求めよ。ξ = 1/θとおくとき,ξの最尤推定量を求めその分散が n→ ∞のとき0に収束することを示せ。
問3 X1, . . . , Xn, i.i.d.∼ f(x|θ)とし,
f (x|θ) = θ(1 + x)−(θ+1), x > 0, θ > 0
とする。このときT =∑ni=1log(1 + Xi)がθに対する十分統計量であることを示せ。またTの平均と分散 を計算せよ。
問4 確率変数X1, . . . , Xn, i.i.d.∼ U(0, θ)とし,θは正の未知母数とする。
(1) θ に対する十分統計量を求めよ。
(2) 最大統計量X(n)に基づいたθの不偏推定量θˆU 1と標本平均Xに基づいた不偏推定量θˆU 2を求め,そ れぞれの平均2乗誤差を計算して大きさを比較せよ。
(3) θ の最尤推定量θˆM Lを求め,そのバイアスと平均2乗誤差を計算せよ。
問5 確率変数の組(X1, . . . , Xk)が多項分布M ultink(n, p1, . . . , pk)に従うとき,(p1, . . . , pk)の最尤推定量 を求めよ。
問6 f (x|η)を(6.3)で与えられる指数型分布族の確率関数もしくは確率密度関数とするとき,E[tj(X)] =
−(∂/∂ηj) log c∗(η)が成り立つことを示せ。またηの最尤推定量とモーメント推定量が一致することを確か めよ。
問7 X|p ∼ Bin(n, p), p ∼ Beta(α, β)とする。
(1) 事後分布はp|X ∼ Beta(X + α, n − Y + β)で与えられることを示せ。
(2) pのベイズ推定量は次のように書けることを示せ。
ˆ
pB = E[p|X] = n α + β + n
X n +
α + β α + β + n
α α + β
問8 X1, . . . , Xn, i.i.d.∼ P o(λ)とし,λの事前分布がガンマ分布Ga(α, β)に従っているとする。
(1) λの事後分布を求めよ。
(2) λの事後分布の平均と分散を求めよ。
問9 ˆθ1, . . . , ˆθkをθのk個の不偏推定量とし,Var(ˆθi) = σi2, Cov(ˆθi, ˆθj) = 0, (i̸= j)を満たすものとする。 (1) 定数ai, i = 1, . . . , k,に対して線形推定量∑iaiθˆiがθの不偏推定量になるための条件を記せ。 (2) σ12, . . . , σ2kを既知とするとき,(1)で求めた条件をみたす線形不偏な推定量の中で分散を最小にする ものを求めよ。またそのときの分散を与えよ。
問10 X1, . . . , Xn, i.i.d.∼ f(x|µ, σ)とし,f (x|µ, σ)は
f (x|µ, σ) = σ−1exp{−σ−1(x− µ)}, x > µ, σ > 0 なる指数分布に従うとする。この分布をEx(µ, σ)と書くことにする。
(1) U = X(1), T =∑ni=1(Xi− X(1))とおくと,これらが(µ, σ)に対する十分統計量になることを示せ。 (2) n(U− µ)/σと2T /σは独立にそれぞれEx(0, 1), χ22(n−1)に従うことを示せ。
(3) µ, σの不偏推定量を与えよ。
問11 確率変数XがBin(n, p)に従うとする。
(1) θ = p(1− p)とおくとき,θの不偏推定量θˆUと最尤推定量θˆM Lを求めよ。 (2) √n(ˆθM L− θ), √n(ˆθU− θ)の漸近分布が一致することを示せ。
問12 X1, . . . , Xn, i.i.d.∼ P o(λ)とする。
(1) ∑ni=1Xiはどのような分布に従うか。積率母関数を用いて示せ。
(2) λの任意の不偏推定量の分散について,その下限をクラメール・ラオの不等式を用いて与えよ。
(3) λの最尤推定量を求め,その分散がクラメール・ラオの下限に達していることを確かめよ。
問13 X1, . . . , Xn, i.i.d.∼ N (0, θ)に従うとする。θ =ˆ ∑ni=1Xi2/nとおくとき,次の問に答えよ。
(1) θのフィッシャー情報量In(θ)を求めよ。またθの不偏推定量の分散の下限に関するクラメール・ラオ
不等式を与えよ。
(2) θの最尤推定量を求め,その平均と分散を計算せよ。
(3) nˆθ/θはどのような分布に従うか。
(4) n→ ∞とするとき,√n(ˆθ− θ)の漸近分布を求めよ。 問14 上の問題と同じ設定のもとで√θの推定を考える。
(1) E[|Xi|] =√2θ/πを示せ。
(2)これを用いた√θのモーメント推定量√θ˜を求め,√n(√θ˜−√θ)の漸近分布を求めよ。また√θの最 尤推定量√θˆについて√n(√θˆ−√θ)の漸近分布を求め,√θ˜の漸近分散と比較せよ。
問 15 X1, . . . , Xnをf (x|θ)からのランダム・サンプルとし,R → Rなる関数h(θ)に対して不偏推定量 h = ˆˆ h(X1, . . . , Xn)が存在しているとする。このとき,クラメール・ラオの不等式は
Varθ(ˆh)≥ {h′(θ)}2/{nI1(θ)} で与えられることを示せ。
1.1. 章末の演習問題 13 問16 (X1, Y1), . . . , (Xn, Yn)を互いに独立な確率変数のペアとし,XiとYiも独立でともにN (µi, σ2)に従 うとする。
(1) µ1, . . . , µn, σ2の最尤推定量を求めよ。
(2) σ2の最尤推定量が一致性を持つことを示せ。
(3) プールされた推定量{∑ni=1(Xi− X)2+∑ni=1(Yi− Y )2}/(2n)が一致性を持たないことを示せ。 問 17(∗) (X1, Y1), . . . , (Xn, Yn), i.i.d.とし,(Xi, Yi)⊤は2変量正規分布に従い,Xi, Yiの平均はともに0 で分散はVar(Xi) = σ12, Var(Yi) = σ22であるとし,共分散がCov(Xi, Yi) = ρσ1σ2で与えられるとする。
(1) ρに対する十分統計量とρの最尤推定量ρˆを求めよ。 (2) ˆρの確率密度関数を求めよ。
(3) √n(ˆρ− ρ)の極限分布を求めよ。
問18 クラメール・ラオの不等式について次の事柄に答えよ。
(1) 不等式(6.10)において等号が成り立つ必要十分条件は,θˆの分布が指数型分布族に入ることを示せ。
(2) 不等式(6.17)を示せ。 (3) 不等式(6.18)を示せ。
1.1.7 第7章 統計的仮説検定
問 1 X1, . . . , Xn, i.i.d.∼ N (µ, σ2)とし,µ0, σ02を既知の値とする。次の検定問題について有意水準αの 尤度比検定,ワルド検定,スコア検定をそれぞれ求めよ。
(1) σ2を既知とするとき,H0: µ = µ0 vs H1: µ̸= µ0 (2) µを既知とするとき,H0 : σ2 = σ02 vs H1: σ2 ̸= σ20
問 2 X1, . . . , Xn, i.i.d.∼ N (µ, σ2)とし,µ0, σ02を既知の値とする。次の検定問題について有意水準αの 検定を与えよ。
(1) σ2を既知とするとき,H0: µ≤ µ0 vs H1: µ > µ0 (2) µを既知とするとき,H0 : σ2 ≤ σ02 vs H1: σ2 > σ20
問3 X1, . . . , Xm, i.i.d.∼ N (µ, σ2)とし,µ, σ2を未知母数,µ0を既知の値とする。 (1) H0 : µ = µ0 vs H1 : µ̸= µ0について有意水準αの尤度比検定を求めよ。
(2) (1)の検定問題に対してワルド検定とスコア検定を与えよ。
(3) H0 : µ≤ µ0 vs H1 : µ > µ0について有意水準αの検定を与えよ。 問4 X1, . . . , Xn, i.i.d.∼ Ex(λ)とし,λ0を既知とする。
(1) H0 : λ≤ λ0 vs H1: λ > λ0なる仮説検定に対する尤度比検定を求めよ。
(2) H0のもとでの分布を求め,有意水準αの棄却域を構成せよ。
(3) この検定手法の検出力を計算せよ。
問5 X1, . . . , Xn, i.i.d.∼ P o(λ)とし,λ0を既知とする。このとき,H0: λ = λ0 vs H1: λ̸= λ0なる仮説 検定に対する尤度比検定,ワルド検定,スコア検定を求めよ。
問 6 X1, . . . , Xn, i.i.d. ∼ N (0, σX2 ), Y1, . . . , Ym ∼ N (0, σ2Y)とし,2つの標本は互いに独立とする。λ = σ2Y/σX2 とし, λ0は既知とする。
(1) H0 : λ = λ0 vs H1: λ̸= λ0に対する有意水準αの尤度比検定を求めよ。 (2) この検定の棄却域をF-統計量に基づいて記せ。
問7 X1, . . . , Xn, i.i.d.∼ Ex(θ), Y1, . . . , Ym ∼ Ex(µ)とし,2つの標本は互いに独立とする。 (1) ∑ni=1Xi,∑mj=1Yjの分布を求めよ。
(2) H0 : θ = µ vs H1 : θ ̸= µ なる仮説検定問題に対して尤度比検定を与えよ。この検定は,Z =
∑n i=1Xi/(
∑n
i=1Xi+
∑m
j=1Yj)なる統計量に基づいていることを示せ。
(3) 帰無仮説H0 が正しいときの,Z の分布を求めよ。また Z を用いて有意水準α の検定を与えよ。 問8 X1, . . . , Xn, i.i.d.とし,それぞれ(3.32)で与えられるパレート分布f (x|α, β)に従うとする。
(1) (α, β) に対する十分統計量を求めよ。 (2) α, βの最尤推定量を求めよ。
(3) 仮説 H0 : β = 1 vs H1 : β̸= 1 に対する尤度比検定を次のT を用いて与えよ。
T = log{
∏n i=1
Xi/(min
i Xi) n}
問9 X1, . . . , Xn, i.i.d.∼ Ex(λ)とし,λ0, λ1 (λ1 > λ0)を既知とする。
(1) H0 : λ = λ0 vs H1: λ = λ1なる仮説検定に対する有意水準αの最強力検定を求めよ。 (2) H0 : λ≤ λ0 vs H1: λ > λ0なる仮説検定に対する一様最強力検定を与えよ。
問10(∗) X1, . . . , Xn, i.i.d.∼ N (µ, 1)とする。
(1) H0 : µ≤ 0 vs H1 : µ > 0なる検定問題において有意水準αの一様最強力検定を求めよ。 (2) H0 : µ = 0 vs H1 : µ̸= 0なる検定問題において一様最強力検定が存在しないことを示せ。 (3) 検定問題(2)に対して一様最強力不偏検定を求めよ。不偏性が成り立っていることを確かめよ。
問11(∗) 7.4.1節で扱った適合度検定問題について,尤度比検定統計量を求めよ。尤度比検定統計量とピア
ソンのカイ2乗検定統計量は漸近的に同等であることを示せ。
1.1.8 第8章 統計的区間推定
問1 X1, . . . , Xn, i.i.d.∼ N (µ, σ2)とし,µ0, σ02を既知の値とする。次の検定問題に対する尤度比検定,ワ ルド検定,スコア検定を考え,それらに対応する信頼係数1− γの信頼区間を与えよ。
(1) σ2を既知とするとき,H0: µ = µ0 vs H1: µ̸= µ0 (2) µを既知とするとき,H0 : σ2 = σ02 vs H1: σ2 ̸= σ20
問 2 X1, . . . , Xm, i.i.d. ∼ N (µ, σ2)とし,µ, σ2 を未知母数,µ0 を既知の値とする。H0 : µ = µ0 vs H1 : µ̸= µ0なる検定問題に対する尤度比検定,ワルド検定,スコア検定を考え,それらに対応する信頼係 数1− γの信頼区間を与えよ。
問 3 X1, . . . , Xn, i.i.d. ∼ N (0, σX2 ), Y1, . . . , Ym ∼ N (0, σ2Y)とし,2つの標本は互いに独立とする。λ = σ2Y/σX2 とする。このとき信頼係数1− γのλの信頼区間を求めよ。
問4 X1, . . . , Xn, i.i.d.∼ P o(λ)とし,λ0を既知とする。このとき,H0: λ = λ0 vs H1: λ̸= λ0なる仮説 検定に対する尤度比検定,ワルド検定,スコア検定に対応したλの信頼区間を与えよ。
問 5確率変数XがBin(n, p)に従うとする。θ = p(1− p)とおくとき,θに対する信頼係数1− γの近似 的な信頼区間を求めよ。
問 6 X1, . . . , Xn, i.i.d.とし,それぞれ(3.32)で与えられるパレート分布f (x|α, β)に従うとする。βに対 する信頼係数1− γの信頼区間を構成せよ。
問 7 X1, . . . , Xn, i.i.d.∼ U(0, θ)とする。Y = X(n)/θとおく。P (a≤ Y ≤ b) = 1 − γとなるa, bに対し てθの信頼区間を作りたい。a, bの満たすべき条件をXn)の密度関数を用いて表せ。また最短信頼区間を 与えよ。
問8 X1, . . . , Xn, i.i.d.∼ Beta(θ, 1)とし,θ∼ Ga(a, b)なる事前分布に従うとする。このとき,信用確率 1− γのθのベイズ信用区間を求めよ。
問 9 X ∼ Bin(n, θ)とし,θ∼ Beta(a, b)なる事前分布に従うとする。このとき,信用確率1− γのθの ベイズ信用区間を求めよ。
問10 X ∼ f(x)とし,f (x)は対称で単峰な分布な確率密度関数とする。∫abf (x)dx = 1− γを満たす区間
[a, b]を考える。このとき区間の幅が最小になるようにa, bを求めよ。