計量経済学I 講義資料 12 – 重回帰固有の検定、決定係数と統計的性質 1/ 3
12 重回帰固有の検定、決定係数と統計的性質
12.1 重回帰特有の検定
A. t 検定は 回帰係数がある値β˜kと等しいかどうかを調べる検定
B. 重回帰分析には という複数係数の がある
12.1.1 複数の係数の同時検定
A. 具体的には、いくつかの係数について以下ような検定を行いたい場合1 H0 : β1 = ˜β1, かつβ2 = ˜β2, · · · , βh = ˜βh
H1 : H0ではない (12.1)
B. 方法はβ1 = ˜β1, β2 = ˜β2, · · · , βh = ˜βhとして推定した残差平方和˜ϵ2i と、その 制約のない状態で得た残差平方和ˆϵ2i の2 つを求める
C. また、標本数をN 、制約を表す式の数を h で、説明変数は以下のように数える
T =
{K + 1 定数項がある場合
K 定数項がない場合 (12.2)
D. 上記の値を用いて、帰無仮説が正しい場合に以下の に従う (∑ ˜ϵ2i −∑ ˆϵ2i)/h
∑ ˆϵ2i/(N − T ) ∼ F (h, N − T ) (12.3)
E. この検定のためには と の2 つの推定が必要
12.1.2 係数制約の検定
A. モデルyi = α + β1x1,i+ β2x2,i+ ϵiの回帰係数の を検定する場合
H0 : β1+ β2 = 1
H1 : β1+ β2 ̸= 1 (12.4)
B. 制約のない推定値の残差平方和ˆϵ2i を得る
C. を制約とした推定した残差平方和∑ ˜ϵ2i を求める
yi = ˜α + ˜β1x1,i+ (1 − ˜β1)x2,i+ ˜ϵi (12.5) 制約式の数をh(今回は h = 1) とすると、帰無仮説が正しいなら以下がいえる
(∑ ˜ϵ2i −∑ ˆϵ2i)/h
∑ ˆϵ2i/(N − T ) ∼ F (h, N − T ) (12.6)
1統計分析なので、調べたい対象の逆を考えてそれを否定する手続きが検定。したがって、今回
はβh̸= ˜βhを見たいというのが、目的となる。
Ver. 1.5 Masumi Kawade, 2008
計量経済学I 講義資料 12 – 重回帰固有の検定、決定係数と統計的性質 2/ 3
12.1.3 構造変化の検定
A. の仮説検定も可能でF 検定を用いる
B. 構造変化の とよばれ、計量経済学II で学ぶ
12.2 自由度修正済み決定係数
A. 単回帰分析で決定係数を学んだが、 が増えると説明力が増す欠点
B. 修正のために、以下のように を決定係数として利用
R¯2 = 1 −
N
∑
i=1
ˆϵ2i N − T
N
∑
i=1
(yi− ¯yi)2 N − 1
= 1 − [
1 + K N − T
]
N
∑
i=1
ˆϵ2i
N
∑
i=1
(yi− ¯yi)2
(12.7)
C. このような決定係数を、 とよぶ
D. 分散比なので、自由度修正済み決定係数が こともある
12.3 重回帰係数と偏相関係数
A. 2 つの説明変数の回帰係数の最小二乗推定量は次のように変形できる βˆ1 = (S1yS22− S12S2y)
S11S22− S122
(12.8)
B. (12.8) 式は、係数が「 」や「 と と
の 」が重回帰モデルの回帰係数に関係している事を意味 C. (12.8) 式を書き直すと以下のようになる
βˆ1 = (S1yS22− S12S2y) S11S22− S122
=
S1y S11 −
S12 S11
S2y S22
1 − S11S122S22
(12.9)
=
√Syy
√S11 S1y
√S11√Syy −
S12
√S11√S22
√Syy
√S11 S2y
√S22√Syy
1 −(√S11S12√S22
)2 (12.10)
⇒
σy
σ1ρ1y− ρ12σσy1ρ2y
1 − ρ212
= (12.11)
Ver. 1.5 Masumi Kawade, 2008
計量経済学I 講義資料 12 – 重回帰固有の検定、決定係数と統計的性質 3/ 3 1. j を i で単回帰した回帰係数 bijと説明変数間の相関係数の二乗ρ212と置く x2,i = a2+ b21x1,i+ e2,i (12.12)
2. ρ˜1y(2)は という考え方で、y と x1の変数間の (x2)
を除去した 変数間の相関を意味2
˜
ρ1y(2) = ρ1y− ρ12ρ2y
√1 − ρ212
√1 − ρ2y2
(12.13)
3. x1 とy の相関 ρ1y からx1 の変化の際に生じるx2 がもたらすy の変化 を取り除いて、基準化する√1 − ρ212
√1 − ρ2y2で割った計算
4. (12.8) 式は (12.13) 式と似た要素を持っていることも気づく
D. 分母部分は次のようにx1自身の変動(σ21) から、x2を経由してx1にもたらさ
れる変動部分(b21σ12) を除去したもの ( ) を表す
σ1
√
1 − ρ212=
√
σ21− σ12ρ212 =
√
σ12− σ21 σ
122
σ22σ12 (12.14)
=
√
σ21− σ12
σ22σ12 = (12.15) E. σ˜1(2)= σ1√1 − ρ212とおけば、単回帰の推定量β → ρˆ xy
σy
σx
と構造が酷似 F. ちがいは単に他の説明変数の要因を取り除いたものにすぎない
βˆ1 ⇒ (12.16)
G. 説明変数にかかる各回帰係数は説明変数自身の を示す
H. 他の変数の変化を経由した変数の間接効果はこの推定では表現されないが、
と呼ばれる説明変数を利用すると可能であり、それは後に説明
2
英語ではPartial Correlation といい、部分相関とでも訳すことができる。これは間接的な影響 をのぞいた相関という意味でとらえることができる。また、通常の相関係数は重相関係数などとい い、間接効果も考慮した相関という意味を強調することもある。
Ver. 1.5 Masumi Kawade, 2008