計量経済学I 講義資料 10 – 推定量の望ましさ 1/ 3
10 推定量の望ましさ
10.1 推定量の特徴
A. 推定量は標本の取り方で結果が変わってしまう
B. この分析の推定量はどのような性格を持っているのか?
C. を知っていた状況を仮想的に考え、真の値をα∗, β∗, ϵ∗i と書く yi = α∗ + β∗xi+ ϵ∗i (10.1) D. 最小二乗推定量 ˆβ に代入すると以下の式となる
βˆ= N
∑
i=1
(xi−x)¯ 2
(10.2)
=
N
∑
i=1
(xi−x)¯ (
(α∗+ β∗xi+ ϵ∗i) −
)
N
∑
i=1
(xi−x)¯ 2
(10.3)
= +
N
∑
i=1
(xi−x)(ϵ¯ ∗i −¯ϵ∗)
N
∑
i=1
(xi−x)¯ 2
= β∗+
N
∑
i=1 N
∑
i=1
(xi−x)¯ 2
(10.4)
E. α も以下のようになるˆ
ˆ
α= α∗+ ¯ϵ∗−
¯ x
N
∑
i=1
ϵ∗i(xi−x¯)
N
∑
i=1
(xi −x¯)2
(10.5)
F. 推定量である以上、 、 、 を持つことが望ましい
10.2 ガウス = マルコフの定理
A. 最小二乗法は推定量として望ましい性質を持っているか否かを確認
B. 最小二乗法は を 満 た せ ば 最 も 望 ま し い 推 定 量 で あ り、こ れ を とよぶ
Ver. 1.2 Masumi Kawade, 2008
計量経済学I 講義資料 10 – 推定量の望ましさ 2/ 3 10.2.1 不偏性
A. それぞれの推定量の は真の値(α∗, β∗)
E[ ˆβ] = β∗+
N
∑
i=1
(xi−x)¯
N
∑
i=1
(xi−x)¯ 2
= β∗ (10.6)
10.2.2 一致性
A. 一致性は xiを確率変数としてβ の分散のˆ に注目すると以下が分かる
Var[ ˆβ] = σ
2
∑N
i=1(xi−x¯)2
→0, N → ∞ (10.7)
10.2.3 正規性
A. 元の誤差項が に従っていることから1、以下の通りになる2。
ˆ α ∼ N
( α∗, σ2
{1 N +
¯ x2
∑N
i=1(xi−x)¯ 2
})
, β ∼ Nˆ (
β∗, σ
2
∑N
i=1(xi−x)¯ 2
)
(10.8)
10.2.4 効率性
A. 効率性は非常に難しいので、一般的な計算は行わず、部分的に示す B. 推定量は以下のように書き直せる
βˆ=
∑N
i=1yi(xi−x)¯
∑N
i=1xi(xi−x)¯
=
N
∑
i=1
yi =
∑diyi (10.9)
C. このとき、 ˆβ が yiにdiをかけたものの和で表される線形推定量という D. (yiに関する) 線形推定量における効率性を確認
E. 最小二乗推定量にこだわらない一般的な線形推定量は、次のように書ける
β˜=∑eiyi (10.10)
1
双方とも分散は非常に煩雑だが、Cov(ϵi, ϵj), E(ϵ) = 0 ⇒ E(ϵiϵj) = 0, i ̸= j が大変よく活躍す る。また、α の分散の煩雑部分は σˆ 2∑Ni=1(xi−x) が¯ ∑Ni=1(xi−x) = 0 であることで一掃される。¯
2正規分布の和の分布は正規分布であるという性質が数理統計で示される。
Ver. 1.2 Masumi Kawade, 2008
計量経済学I 講義資料 10 – 推定量の望ましさ 3/ 3 F. eiは確率変数ではない、どんな演算も含む
G. この推定量が満たすべき条件は不偏性があるという次のもの E( ˜β) = E[∑eiyi] = E[α∗∑ei+ β∗∑eixi+∑eiϵ∗i
]
(10.11)
= α∗ + β∗ xi+∑eiE[ϵ∗i] = β∗ (10.12) H. これがいえるには次の 2 つの条件が必要
∑ei = 0,
∑eixi = 1 (10.13)
I. この時、不偏性を持つ推定量は次の式となる
β˜= β∗+∑eiϵ∗i (10.14) J. この推定量の分散は以下の通り
Var( ˜β) = Var(β∗+∑eiϵi∗) =∑e2iσ∗2= (10.15) K. この分散が最小となる推定量を求めるため、ラグランジュ乗数法で解く
minei
∑e2i, s.t. ∑ei = 0,
∑eixi = 1 (10.16) L. 一階の条件と先述の条件を以下の通りに代入する
L ≡∑e2i + κ(0 −∑ei) + λ(1 −∑eixi) (10.17)
∂L
∂ei
= = 0, i= 1 · · · n ⇔ ei = λxi+ κ 2
(10.18)
∂L
∂κ = = 0 ⇔
∑ei = 0 (10.19)
∑ei =
∑λxi+ κ
2 =
λNx¯+ N κ
2 = 0 ⇔ κ = −λ¯x (10.20)
∂L
∂λ = = 0 ⇔
∑eixi = 1 (10.21)
∑eixi =
∑λxi+ κ
2 xi =
∑λxi
2 xi (10.22)
=∑λ(xi −x¯)
2 xi = 1 ⇔λ = (10.23) M. 分散が最小となる線形推定量は以下の通り
ei =
λxi+ κ
2 =
λ(xi−x)¯
2 = (10.24)
N. 最小二乗推定量と同じもので、分散を最も小さくする線形推定量3
3この推定量を(BLUE: Best Linear Unbiased Estimator) と呼ぶこともある。
Ver. 1.2 Masumi Kawade, 2008
