学部 計量経済学 Masumi Kawade Site x206ugem

計量経済学II ハンドアウト 6 – ガウス・マルコフの定理 1/ 3

6 ガウス・マルコフの定理

A. 最小二乗法は推定量として望ましい性質を持っているか否かを確認

B. 先取りすると、最小二乗法は ⁽¹⁾ を満たせば最も望ましい推定量

C. これを ^{(2) とよぶ}

6.1 ^不偏性

A. 重要な不偏性は後で示される (6.2) 式及び (6.3) 式を見れば一目瞭然 B. それぞれの推定量の ^{(3) は真の値}(α^{∗, β∗})

6.2 ^一致性

A. (6.2) 式及び (6.3) 式の分散の ^{(4) に注目し、}xiがある標本以降すべて_x¯ になる特殊な場合でなければ、以下のようになる

N

∑

i=1

(xⁱ−x)¯ ² → ∞, N → ∞ (6.1)

B. 十分 ^{(5) を増やせば (6) は限りなく (7) に近づくことが分かる}

6.3 ^正規性

A. 推定量の確率分布は、σ²は誤差項の分散とすると、元の誤差項が

(8)

に従っていることから¹、以下の通りになる²。

ˆ α ∼ N

( α^∗, σ²

{ 1 N ⁺

¯ x²

∑^N

i=1^(xi−x¯)2

})

(6.2)

βˆ ∼ N (

β^∗, ^σ

2

∑^N

i=1^{(xi−x)¯ 2}

)

(6.3)

B. したがって、正規分布にしたがっていることがわかる

1

双方とも分散は非常に煩雑だが、_{Cov(ϵi, ϵj}), E(ϵ) = 0 ⇒ E(ϵiϵj) = 0, i ̸= j が大変よく活躍す る。α の分散は煩雑なものはすべて、σ_ˆ ^2∑N_i=1(xi−x) が¯ ^∑N_i=1(xi−x) = 0 で一掃される。¯

2正規分布の和の分布は正規分布であるという性質が数理統計にある。

Ver. 1.3 Masumi Kawade, 2009

計量経済学II ハンドアウト 6 – ガウス・マルコフの定理 2/ 3

6.4 ^効率性

A. 効率性は統計入門でも非常に難しいので、一般的な計算は行わない B. 本一般的ではない、部分的な効率性だけを確認

C. 推定量は以下のように書き直せる

βˆ=

∑^N

i=1^yi(xi−x¯)

∑^N

i=1^xi(xi−x)¯

=

N

∑

i=1





(9)



yi ₌

∑diyi

(6.4) D. このとき、 ˆβ が yiに_diをかけたものの和で表される線形推定量という

E. (yiに関する) 線形推定量における効率性を確認

F. 最小二乗推定量に線形推定量はより一般的な形で、次のように書ける

β˜=^∑eiyi (6.5)

G. eiは確率変数ではない、どんな演算も含む

H. この推定量が満たすべき条件は不偏性があるという次のもの E( ˜β) = E^[∑eiyi

] = E^[α^∗∑ei_{+ β}^∗

∑eixi₊

∑eiϵ^∗i

]

(6.6)

= α^{∗ (10)} + β^{∗ (11)} xi₊

∑ei_E[ϵ^∗_{i] = β}^∗ _(6.7)

I. これがいえるには次の 2 つの条件が必要

∑ei _{= 0} (6.8)

∑eixi _{= 1} (6.9)

J. この時、不偏性を持つ推定量は次の式となる

β˜_{= β}^∗₊^∑eiϵ^∗i (6.10) K. この推定量の分散は以下の通り

Var( ˜β) = Var(β^∗+^∑eiϵ^∗i) =^∑e²iσ^∗2= ⁽¹²⁾ (6.11)

L. この分散が最小となる推定量を求めるため、ラグランジュ乗数法で解く mine_i

∑e²i (6.12)

s.t. ^∑ei _{= 0,}

∑eixi _{= 1} (6.13)

Ver. 1.3 Masumi Kawade, 2009

計量経済学II ハンドアウト 6 – ガウス・マルコフの定理 3/ 3 M. 一階の条件と先述の条件を以下の通りに代入する

L ≡^∑e²i + κ(0 −^∑ei_{) + λ(1 −}

∑eixi_{) (6.14)}

∂L

∂ei

= ⁽¹³⁾ = 0, i= 1 · · · n ⇔ ei ₌

λxi _{+ κ}

2 (6.15)

∂L

∂κ ⁼

(14) = 0 ⇔ ^∑ei _{= 0} (6.16)

∑ei ₌

∑λxi_{+ κ}

2 ⁼

λNx_{¯+ N κ}

2 = 0 ⇔ κ = −λ¯^x (6.17)

∂L

∂λ ⁼

(15) = 0 ⇔ ^∑eixi _{= 1 (6.18)}

∑eixi ₌

∑λxi_{+ κ}

2 ^{xi =}

∑^λxi

(16)

2 ^{xi (6.19)}

=^{∑λ(xi −x)¯}

2 ^{xi = 1 ⇔ λ =}

(17) (6.20)

N. 分散が最小となる線形推定量は以下の通り

ei ₌

λxi_{+ κ}

2 ⁼

λ_(xi−^x¯) 2 ⁼

(18) (6.21)

O. 最小二乗推定量と同じもので、分散を最も小さくする線形推定量といえる³

3この推定量を(BLUE: Best Linear Unbiased Estimator) と呼ぶこともある。

Ver. 1.3 Masumi Kawade, 2009