計量経済学 #09 :回帰係数の仮説検定・補足資料
担当:鹿野(大阪府立大学) 2013 年度後期
1 回帰モデルの母分散の不偏推定
古典的仮定CR1∼CR4が成立するとき、回帰モデル
Yi = α + βXi+ ui (1)
の母分散Var(ui) = E(u2
i) = σ 2
の不偏推定量は、
s2= 1 n − 2
ˆu2i =(Yi−Yˆi)2. (2)
つまり
E(s2) = σ2. (3)
証明
定数項のOLSは
α − α = −( ˆβ − β) ¯ˆ X + ¯u, ¯u =1 n
ui (4)
と書ける(宿題#02参照)。またOLS残差の定義および回帰モデル(1)式によれば ˆui = Yi−Yˆi= α + βXi+ ui− ˆα − ˆβXi
= −( ˆα − α) − ( ˆβ − β)Xi+ ui. (5)
(4)を上式に代入すれば
ˆui= ( ˆβ − β) ¯X − ¯u − ( ˆβ − β)Xi+ ui
= −( ˆβ − β)(Xi−X) + (u¯ i− ¯u). (6) 上式を2乗し、次いで期待値をとると
E(ˆu2i) = E( ˆβ − β)2(Xi−X)¯ 2− 2(β − β)(Xˆ i−X)(u¯ i− ¯u) + (ui− ¯u)2
= (Xi−X)¯ 2E
( ˆβ − β)2
(a)
−2(Xi−X) E¯
( ˆβ − β)(ui− ¯u)
(b)
+ E(ui− ¯u)2
(c)
. (7)
1
(a)はβˆの分散そのものなので
E( ˆβ − β)2= Var( ˆβ) = σ
2
SXX. (8)
また(b)はβ − β =ˆ wiui、E(u2
i) = σ 2
、E(uiuj) = 0なので E( ˆβ − β)(ui− ¯u)= E
ui
wiui−
1 n
wiui
ui
= E [ui(w1u1+ w2u2+ · · · + wnun)]
− 1
nE [(w1u1+ w2u2+ · · · + wnun)(u1+ u2+ · · · + un)]
= wiE(u2i) −1 n
wiE(u2i)
= wiσ2− 1 nσ
2
wi
=0
= wiσ2. (9)
(c)は、(b)の展開を一部利用すれば E(ui− ¯u)2
=
u2i − 2 nui
ui+ 1 n2
ui ui
= E(u2i) −2 nE(u
2 i) + 1
n2
E(u2i)
= σ2− 2 nσ
2+ 1 n2nσ
2 =
n − 1 n
σ2. (10)
wi = XSi−X¯
XX
に注意し、まとめると
E(ˆu2i) = (Xi−X)¯ 2 σ2 SXX − 2(X
i−X)¯
(Xi−X)¯ SXX
σ2+
n − 1 n
σ2= −(Xi−X)¯ 2 σ
2
SXX +
n − 1 n
σ2 (11)
よって
E(s2) = 1 n − 2
ˆu2i= 1 n − 2
E(ˆu2i)
= 1
n − 2
−(Xi−X)¯ 2 σ2 SXX +
n − 1 n
σ2
= 1
n − 2
− σ2 SXX
(Xi−X)¯ 2
=SXX
+
n − 1 n
=n 個の (n − 1)/n
σ2
= 1
n − 2
−σ2+ (n − 1)σ2
= 1
n − 2(n − 2)σ
2= σ2. (12)
2