『新しい計量経済学』 鹿野研究室 slide09

計量経済学_#09

古典的回帰モデル ₍₂₎

鹿野繁樹

大阪府立大学

2017 年 11 月更新

Outline

1 _{OLS 推定量の分布}

2 回帰係数の仮説検定

テキスト：鹿野繁樹 [2015]、第 5.3 章・第 5.4 章。

前回の復習

1 _{回帰分析の古典的仮定} 2 _{回帰係数のOLS 推定}

Section 1

OLS ^{推定量の分布}

OLS ^{推定量の正規性}

前回の復習：回帰モデル

Yi = α + βXi+ ui, ui _{∼ N(0, σ}²) (1) のパラメータ、α と β を OLS で推定。

仮定 _{1 (} 回帰分析の古典的仮定（再掲） ₎

非確率的な説明変数： _{X1, X2}, . . . , Xn^はn 個の定数, (CA1) 期待値はゼロ： _{E(ui) = 0, (CA2)} 母分散の均一性： _{Var(ui) = E(u}²_{i) = σ}²_{, (CA3)} 独立標本⇒ 無相関： Cov(u^{i, uj) = E(uiuj) = 0, (CA4)} 正規性_{: ui ∼ N(0, σ}²_{). (CA5)}

OLS 推定量 ˆβ を OLS ウェイト wi^{の表現に変形すると}

β =ˆ ^w_iY_i = β +^w_iu_i, w_i = ^{(Xi− ¯X)} SXX

. (2)

古典的仮定(CA1) から (CA4) が成立すれば、以下が成立。 β の期待値・分散はˆ

E( ˆβ) = β, Var( ˆβ) = ^σ

2

SXX

. (3)

∴ ˆβ は β の不偏推定量。

さらに最小分散（ガウス・マルコフの定理）。

誤差項の正規性(CA5) は何のためにある？

正規分布の再生性（講義ノート#03）および OLS ウェイトの 性質（講義ノート_#08）より

wiui _{∼ N}

0, σ^2w_i²

=1/S_XX

 ⇒ ^wiui ∼ N

 0, ^σ

2

SXX

 . (4) β はˆ  wiui^を定数β だけ横滑りさせた確率変数なので、

β ∼ Nˆ

 β, ^σ

2

SXX



. (5)

∴_uiの正規性から、 ˆβ は正規分布に従う！

公式 ₁

仮定(CA1) ∼ 仮定 (CA5) のもとで、OLS 推定量 ˆ^{β の分布は} β ∼ Nˆ

 β, ^σ

2

SXX



, E( ˆβ) = β, Var( ˆβ) = ^σ

2

SXX

. (6)

証明：前段で証明済み．

公式(6) を標準化（期待値を引き，その後標準偏差で割る）

⇒ ˆ^{β に関するZ 統計量} β ∼ Nˆ

 β, ^σ

2

SXX



−−−→標準化 ^{Z = β − βˆ}

σ/^√SXX ∼ N(0, 1). (7)

⇒ 回帰係数 β に対する仮説検定（講義ノート#05）が可能に。

Remark 1

表1：古典的仮定の各仮定と、 ˆβ の確率論上の性質・性能。 仮定の追加で、 ˆβ の性質がより具体的に。

仮定(CA5) によってはじめて、 ˆβ の分布型が正規分布に特定 される。

(CA1) と (CA2) (CA1) ∼ (CA4) (CA1) ∼ (CA5)

E( ˆβ) = β β β

Var( ˆβ) = ^？ _S^σ2

XX

σ² SXX

β ∼ˆ ^{？ ？ Nβ,}S^σ_XX²



表_{1 :} 古典的仮定(CA1) ∼ (CA5)^{とOLS推定量βˆの性質}

母分散の不偏推定と _OLS の標準誤差

(7) 式の Z 統計量の分母、 ˆβ の標準偏差



Var( ˆβ) =

σ² SXX

= _√^σ SXX

(8)

は、未知の母数・誤差項の母分散_σ²（の平方根）に依存。 σ²を、次の推定量で推定。

s² = ¹ n − 2^Q

∗ ₌ ¹

n − 2

uˆ²_i

= ¹ n − 2

(Y_{i− ˆ}Y_i)². (9)

Q^∗ = ˆu²_i =(Yi_{− ˆ}Yi)^2はOLS で最適化された残差 2 乗和。

公式 _{2 (} 不偏分散 ₎

誤差項の母分散_σ²は、_s²で不偏推定できる。 s² = ¹

n − 2

(Yi_{− ˆ}Yi)², E(s²) = σ². (10)

証明：テキストp93 ∼ 95 参照。

この性質から、_s²を不偏分散と呼ぶ。

s^2の分母_{n − 2 は}自由度と呼ばれ、一定のルールに基づき定 まる。

自由度の考え方：自由度は、ある統計量を求める際の「実質的な サンプル数」と解釈するとわかりやすい。

通常の_Yiの標本分散を考える。 s²_Y = ¹

n − 1

(Y_{i − ¯}Y )². (11)

s²_Y ^{を求めるには、事前に}Y^{¯ が必要。}

∴ ¯_Y の計算のために、燃料（サンプル）を₁だけ消費！_{⇒ s}²

Y

を求める段階で、実質的なサンプル数・自由度は_{n− 1}。 回帰モデルの不偏分散_s²も同様。

(10)^式のs^{2を求めるには、事前に}αˆ^とβ^{ˆが必要。}

∴_αˆと_βˆの計算のために、燃料（サンプル）を₂だけ消費！

⇒ s²Y を求める段階で、実質的なサンプル数・自由度は_{n− 2}。 統計量を何か1 つ計算する毎に、標本の自由度は 1 失われる。

(8) 式の σ^2をs^{2で置き換えるた、 ˆ}β の標準偏差の推定値

s.e.( ˆβ) =

s² SXX

= _√^s SXX

(12)

を、 ˆ_{β の}標準誤差（standard error）と呼ぶ。 s.e.( ˆβ) は ˆβ の確率的なブレを測る統計量。

s.e.( ˆβ)^が小さい_{⇔ ˆ}β^{の精度が高い。}

∴OLS を行った際は、推定値 ˆβ と共に必ず s.e.( ˆβ) を確認。

（統計ソフトを使えば自動出力。）

Section 2

回帰係数の仮説検定

回帰係数の _t 検定

(7) 式分母の σ を (10) 式で求めた s で置き換え、t 統計量 Z = ^{β − βˆ}

σ/^√S_XX

σ を s で置換

−−−−−−−→ ^{t = β − βˆ} s/^√S_XX を得る（講義ノート_#05）。

上式の分母は標準誤差(12) と同値なので、以下のように表記。 t = ^{β − βˆ}

s.e.( ˆβ)^{. (13)} t 統計量の確率は、t 分布（標準正規分布 N(0, 1) のニセモノ） で与えられる。

t ∼ T(m), m = n − 2.

回帰係数の_{t 検定}：仮説検定の一般論（講義ノート_{#05）に従う。} 分析者が未知の_{β に関しあらかじめ}仮説値_β∗を置く。帰無仮 説として表現すれば

H0 : β = β_{∗ ⇔} H0 _{: β − β∗} = 0. (14) アイディア：_{β を推定値 ˆ}β に置き換え、差 ˆ_{β − β∗}^{が「十分」} 大きければ_{H0 : を棄却。}

具体的には、 ˆ_{β − β}

∗^{をt 値}

β − βˆ ∗ 推定値と仮説値のズレ

⇒ ^t∗ ⁼

β − βˆ ∗

s.e.( ˆβ) ⁽¹⁵⁾

に換算し、_|t∗| が t 分布の臨界値 t(m) を超えれば H^{0 : を棄却。} t^{∗は、 ˆ}β と β_∗^のギャップを測る「ものさし」。

Remark 2

回帰係数β の t 検定の手順。

1 _{帰無仮説H}

0 : β = β_∗^を設定_{⇒ 差 ˆβ − β}^∗を、t 値に換算。 t_∗ = ^{β − βˆ ∗}

s.e.( ˆβ)^{. (16)}

2 t 分布表から自由度 m = n − 2 の 2.5%臨界値、t^{0.025(m) を求} め、_|t^∗_{| > t0.025(m) ならば H0 : β = β}

∗^を棄却。

Example 1

あるモデルの係数に関し、_H0 : β = 100 を検定。サンプル数 n = 20 の標本による分析結果として、 ˆβ = 120、s.e.( ˆβ) = 20。

帰無仮説_H0のもとでの_{t 値は} 120 − 100 = 20 ⇒ ^t∗ ⁼

120 − 100 20 ⁼

20

20 ^{= 1. (17)} 一方、自由度m = n − 2 = 18 の t 分布の臨界値は

t0.025(18) = 2.101。

|t^∗| < 2.101 より、H0^{は棄却されない。（}β = 100 とみなして も問題ない。）

推定値と仮説値の差が20 で，何となく大きなズレに見える。 ... 推定のブレを考慮すれば、このズレは誤差の範囲内！

回帰係数の有意性検定

実証分析では、次の検定を必ず行う。

H0 : β = 0. (18) これを回帰係数β の（or 説明変数 X_iの）有意性検定と呼ぶ。

この仮説が正しければ、モデルは_{Yi = α + ui}。∴_Xiは_Yiに 影響しない。

有意性検定の意図：検定により、_{H0 : β = 0（Xi}は効果がな い）という「疑い」が棄却されることを示せば、_Xiと_Yiの統 計的な関係性を裏付ける強力な証拠に。

有意性検定では仮説値が_β∗ = 0 ⇒ この場合 t 値は自動的に t_∗ = ^{β − 0ˆ}

s.e.( ˆβ) ⁼ βˆ s.e.( ˆβ) ⁼

OLS 推定値 標準誤差

.

|t^∗| > t^{0.025(m) ならば H0} : β = 0 を棄却。

この検定手順で_H0が棄却された場合、「_{β は（Xi}は）統計的 に有意である」「β は有意にゼロと異なる」などと表現。 統計ソフトでOLS 推定を実行すると、仮説値を設定していな いのに推定値β と共に t 値が自動出力。コレは有意性検定の tˆ 値。

Example 2

生活保護受給率_welfareiと失業率_unempiのOLS 回帰（再掲）。 welfare i _{= − 1.07}

(−1.07)^{+ 0.46}(3.18)^{unempi, n = 19, R}

2 _{= 0.37. (19)}

カッコ内は有意性検定の_{t 値。}

自由度m = 19 − 2 = 17 の t 分布の臨界値は、t 分布表より t0.025(17) = 2.110。

|3.18| > 2.11 ⇒ 失業率の係数 β は統計的に有意。

| − 1.07| < 2.11 ⇒ 定数項 α は有意でない。

t ^{検定のショートカット}

t 分布の性質：m が十分大きい（m → ∞）とき、t 分布 t ∼ T (m) は標準正規分布z ∼ N(0, 1) に収束する。

m = n − 2 → ∞ ⇒ T (m) → N(0, 1). ⁽²⁰⁾

∴ 自由度m が（= サンプル数 n が）十分大きいならば、t 分布 の臨界値を_t0.025(m) ≈ 2.00 ≈ 1.96 = z^{0,025と置いてよい！} 実際、_{t 分布表より}

m = 30 _⇒ t0.025(30) = 2.042, m = 40 _⇒ t_0.025(40) = 2.021, m = 60 _⇒ t0.025(60) = 2.000.

通常、t 分布表にあまり大きな自由度の臨界値が載っていない

Remark 2

t 検定のショートカット：だいたい m = n − 2 ≥ 30 なら、t 分布の 右端_{2.5%臨界値を t0.025}(m) ≈ 2.00 と置いてよい。

∴ サンプル数n が多いなら、t 分布表は不要。 例：回帰係数_{β の有意性検定}

|t^∗| =

βˆ s.e.( ˆβ)

≥ (<) 2 ⇒ β は有意（有意でない） (21)

t 分布表にあまり大きな自由度の臨界値が載っていないのは、 このため。

統計ソフトで回帰分析を行うと、たくさんの数値が！_{⇒ 何をレ} ポートすべき？

Remark 3

回帰分析を行ったらレポートすべき数値．

1 _{回帰係数のOLS 推定値 ˆα， ˆβ．}

2 _{サンプル数}n と，モデルの当てはまりを測る決定係数 R^2．

3 _{標準誤差か，有意性の}t 値のうち，どちらか一方． Example 2 を参照。

今回の復習問題

次の設問に答えよ。各自用意した紙に解答し、退出時に提出せよ。 講義名、日付、学籍番号、氏名を明記すること。

1 OLS 推定の結果， ˆβ = 70，s.e.( ˆβ) = 10 を得た．サンプル数は n = 25．帰無仮説 H0 : β = 40 を t 検定したい．

1 _{H0 : β = 40}の_t値を求めよ．

2 _t分布表から，自由度_m= 25 − 2 = 23^{の右端2.5%臨界値を求} め，_{H0 : β = 40}が棄却されるか否か判断せよ．

（テキスト第5 章復習問題 5.4 の類題。）

2 _{テキスト第}5 章復習問題 5.5。

References

鹿野繁樹. 新しい計量経済学. 日本評論社, 2015.