学部 計量経済学 Masumi Kawade Site x108ugem

計量経済学I 講義資料 8 – 最小二乗法と仮説検定、決定係数 1/ 3

8 最小二乗法と仮説検定、決定係数

8.1 ^{最小二乗法}

A. 最小二乗法は誤差項の (二乗誤差) に着目

B. が最小であるべきと言う基準

ˆϵi = yi− ( ˆ^{α+ ˆβx}i) ^{誤差項の動き} (8.1)

N

∑

i=1

ˆ ϵi

2 =

N

∑

i=1

{

yi− ( ˆ^α+ ˆβxi)^}

2⁽

=

N

∑

i=1

( ˆϵi− ¯ˆϵ⁾² )

(8.2)

C. を用いて、最適性の条件を求める

∂

∂αˆ ( _N

∑

i=1

{

yi− ( ˆ^α+ ˆβxi)^}

2⁾

= −2

N

∑

i=1

= 0 (8.3)

∂

∂ ˆβ ( _N

∑

i=1

{

yi− ( ˆ^α+ ˆβxi)^}

2⁾

= −2

N

∑

i=1

xi

{

yi− ( ˆ^α+ ˆβxi)^}= 0 (8.4) 1. α, ˆˆ β が基準を満たすような条件を求めている

D. 式を整理すると とよばれる連立方程式になる

N

∑

i=1

xi

{ yi−

[(1 N

N

∑

i=1

{

yi − ˆ^βxi

} )

+ ˆβxi

]}

= 0 (8.5)

N

∑

i=1

xi

{( yi− ¹

N

N

∑

i=1

yi

)

− ˆ^β (

xi− ¹ N

N

∑

i=1

xi

)}

= 0 (8.6)

E. 具体的にこの式を ˆβ について解くと以下のようになる

N

∑

i=1

xi

{(yi− ¯^y) − ˆ^β(xi− ¯^x)

}= 0 (8.7)

βˆ=

N

∑

i=1

xi(yi− ¯^y)

N

∑

i=1

xi(xi− ¯^x)

= _N

∑

i=1

xi(xi− ¯^x)

(8.8)

1. , x¯= ¹ N

N

∑

i=1

xi^と置く

Ver. 1.0 Masumi Kawade, 2008

計量経済学I 講義資料 8 – 最小二乗法と仮説検定、決定係数 2/ 3 2. 式を整理すればモーメント法、最尤法の連立方程式と同じになる

F. α は以下のようになるˆ ˆ

α= ¯_{y −} x¯ (8.9)

= ¯_{y −}

N

∑

i=1

xi(yi− ¯^y)

N

∑

i=1

xi(xi− ¯^x)

¯

x (8.10)

G. ˆβ は以下のように書き直せる

βˆ= _N

∑

i=1

(xi− ¯^x)

2

(8.11)

1.

N

∑

i=1

¯

x(yi− ¯^{y) = ¯x}

N

∑

i=1

(yi− ¯^{y) = 0 と}

N

∑

i=1

¯

x(xi− ¯^{x) = ¯x}

N

∑

i=1

(xi− ¯^{x) = 0} を利用

2. 計算すると、 ˆβ の推定量になじみ深い計算が含まれていることに注目 1

N − 1

N

∑

i=1

(xi− ¯^{x) (y}i− ¯^y) 1

N − 1

N

∑

i=1

(xi− ¯^x)

2

→ ^{= σx,y} σ²_x ⁼

σx,y

σxσy

σy

σx

= ρx,y

σy

σx

(8.12) H. 誤差項の分散の推定量σˆ^{2は以下のようである}

ˆ

σ² = ¹ N − 2

N

∑

i=1

ˆϵ²_i (8.13)

1. ˆϵは ^{又は とよぶ}

2. 誤差項の分散は未知なので推定する必要がある 3. N − 2 で割られているのは ^がN − 2 のため

8.2 ^仮説検定

A. 推定に加えて を行うのが現代の統計学の一般手続

Ver. 1.0 Masumi Kawade, 2008

計量経済学I 講義資料 8 – 最小二乗法と仮説検定、決定係数 3/ 3

B. ^{の仮説検定が一般的}

H⁰ : β = b

H1 : β = b ではない

1. 通常は回帰係数が被説明変数と関係があるか否かを評価(b = 0) C. 検定統計量は以下の通り

β − bˆ

√σˆ²_β ^{∼ t(N − 2)}

(8.14)

D. この仮説検定を ^とよぶ

E. 帰無仮説が棄却できると回帰係数が ^{とし、妥当性があると見なす}

8.3 ^決定係数

A. 回帰分析の ^{を示す指標がある}

R² = ^{説明された変動} 説明されるデータの変動

=

N

∑

i=1

( ˆyi− ¯^y)2

N

∑

i=1

(yi− ¯^y)2

(8.15)

1. yi^{は実績値、}yˆi^は

2. モデル選択の際の決定の指標として ^とよぶ

3. 被説明変数の動きを説明変数が ^を示す

4. 説明力と統計的な有意性は別で、 ^が最優先

B. 決定係数は以下のようにも書き直せる

R² _{= 1 −}

N

∑

i=1

ˆϵ²_i

N

∑

i=1

(yi− ¯^y)2

(8.16)

1. 被説明変数の動きのうち何割が誤差項として説明されているかを示す 2. 被説明変数の動きが ^と の動きに分割されている

Ver. 1.0 Masumi Kawade, 2008