『新しい計量経済学』 鹿野研究室 slide15

計量経済学_#15

線形制約の仮説検定 ₍₁₎

鹿野繁樹

大阪府立大学

2017 年 12 月更新

Outline

1 回帰係数への線形制約

2 線形制約の残差_{2 乗和への影響}

テキスト：鹿野繁樹 [2015]、第 8.1 章・第 8.2 章。

前回の復習

1 _{ダミー変数}

2 ダミー変数の高度な使い方

Section 1

回帰係数への線形制約

線形制約とは？

対数線形化されたコブ・ダグラス型生産関数（講義ノート_#13）:

Y_i = α + β₁X_1i+ β₂X_2i+ ui (1) Y_i^、X_1i^、X_2i^は産出量Q_i^、労働L_i^、資本K_i^{の対数値。}

経済理論における規模に関する収穫一定の仮定：_{β1+ β2 = 1} を満たせば、コブ・ダグラス型生産関数は収穫一定。

収穫一定の仮定を帰無仮説として表せば

H0 : β1+ β2 = 1. (2) ... 実際には、この性質が真であるとは限らない。

(2) 式の特徴：複数の係数にまたがる仮説値！⇒ 複数の回帰係数に 対し一挙に仮説値を置く帰無仮説を、線形制約と呼ぶ。例えば

H0 : β1 = β2^, (3) H0 : β3 = 1, β₅ = −2, (4) H₀ : β₁ = β₂ = · · · βk= 0. (5) 今回の目標= 線形制約の仮説検定を習得。

一つの帰無仮説中の制約の数を_{G と置く。}⇒ (3) 式、(4) 式、 (5) 式は G = 1、G = 2、G = k 個の制約。

回帰係数の有意性検定「_{H0 : βj} = 0」（講義ノート#09）も、 G= 1 個の線形制約。

注意：これまでのt 検定（あるいは Z 検定）は、個々の回帰係数に 置かれた仮説値を個別に検定する手法。

「_{H0 : β1 = 0」と「H0 : β2} = 0」は、個別に t 検定が可能。 しかし二つの係数にまたがる線形制約「_{H0 : β1 = β2 = 0}

（_{β1 = 0 かつ β2} = 0）」は、t 検定が使えない！

∴t 検定に代わる検定の手段、F 検定とカイ 2 乗検定が登場。

制約付きモデルの _OLS ：タイプ _I

検定の前に、実証分析で典型的な線形制約と、制約付きのモデル をOLS 推定する方法を考える。

簡単化のため、説明変数が_k = 3 個の重回帰モデル

Y_i = α + β1^X1i+ β2^X2i+ β3^X3i+ ui (6) を扱う。

古典的仮定は満たされていて、係数が全て_{OLS 推定できるも} のとする。

線形制約を大別すると二つのタイプ。

分析者が(6) 式の係数の一部に対し線形制約

H₀ : β₁ = 5, β₂ = 1 (7) を置いたとする。（制約の数_G= 2。）⇒ 上式を (6) 式に代入し、

Y_{i = α + 5X1i+ X2i+ β3}X_{3i+ vi}. ₍₈₎

誤差の表記_viに注意。制約なしの一般的なモデル_{(6) 式と、} 制約付きの特殊なモデル(8) 式を区別するため。

(8) 式を移項・整理すると

Y_i − (5X1i+ X2i) = α + β3^X3i+ vi

⇔ Y_i^′ = α + β3^X3i+ vi^. (9) ただし_Yi^′ _{= Yi− (5X1i+ X2i)。}

(8) 式・(9) 式のポイント

事前に線形制約⇒ 推定すべき係数が α と β3^{に限定され}

る。_{... β1}と_β2の値は線形制約(8) で決まっている。

Y_i^′は、簡単な変数変換で作成可能。⇒ 制約下のモデル (9) 式 の係数_α、β3は、_Yi^′を_X3iに回帰すれば_{OLS 推定可能。}

特に、複数の係数の統計的有意性を試す結合有意性検定が重要。 (6) 式に関し、次の仮定を置く。

H0 : β2 = β3 = 0. (10)

仮説が（何らかの手順で）棄却されれば、_X2iと_X3iが統計的 に有意である証拠。∴ 通常の有意性検定と同じ意図。

この制約下では_{(6) 式は}

Y_i = α + β1^X1i+ vi^. (11) ... ちょうど説明変数 X2i^、X3i^{を除いたモデル。}

複数の説明変数がセットで有意性を問われる状況：いま_{Yi = 労働} 者_{i の年収、X1i= 年齢、X2i= 高卒ダミー、X3i = 大卒ダミーと} する（講義ノート_{#14 参照。）}

X_2i^とX_3iは、セットで「学歴」を表す変数である点に注意。

「（大卒の有意性のいかんに関わらず）高卒が年収に与える効 果」を実証したければ_β2 = 0 の有意性検定が妥当。

しかし分析の目的が「学歴が年収に与える効果」の実証なら ば、_{H0 : β2 = β3} = 0 が棄却されるか否かを検定で問うべき。

制約付きモデルの _OLS ：タイプ _II

(6) 式のモデルに対し、別の線形制約

H0 : β1+ 2β2 = 4 (12) を課したとする（制約の数_{G= 1。）}

(7) の線形制約と異なり、複数の係数を一次式で紐付けしてい る点が特徴。

収穫一定の仮定(2) 式は、こちらのタイプに相当。

制約を_β1について解けば、_{β1 = 4 − 2β2}。⇒ (6) 式に代入すると Y_i = α + (4 − 2β₂)X_1i+ β₂X_2i+ β₃X_3i+ vi

= α + 4X1i+ β2(X2i− 2X1i) + β3^X3i+ vi (13) となり、(13) 式を移項・整理すれば

Y_i − 4X1i= α + β2(X2i− 2X1i) + β3^X3i+ vi

⇔ Y_i^′ = α + β2^X_2i^′ + β3^X3i+ vi^. (14) ここで_Yi^′ _{= Yi− 4X1i}，_X2i^′ _{= X2i− 2X1i}。

制約により推定すべき係数（_β1）が減る。

残りの係数は、_Yiを_X2i^′ と_X3iに回帰した_{OLS で推定可能。} β = 2 − ¹β (14) 式とは

Example 1

(2) 式を β₁ = 1 − β₂^{と置き、係数}β₁^{に代入すると}

Y_i = α + (1 − β2)X1i+ β2^X2i+ vi ⇔ Y_i^′ = α + β2^X_2i^′ + vi^,

(15) ただし_Yi^′ _{= Yi− X1i}，_{X2i= X2i− X1i}。

北海道の公立病院のデータ（講義ノート_{#13）で制約下のモ} デルを推定した結果（カッコ内は_{t 値）}：

制約なし_{: Y}^ˆ_{i = 0.44}

(2.78)^{+ 0.72}(10.82)^{X1i+ 0.18}(2.54)^{X2i, (16)}

制約あり_{: Y}ˆ^′

i ^{= 0.03}

(0.21)^{+ 0.29}(3.93)^X

2i′ ^{. (17)}

Remark 1

制約付きのモデルは、制約なしのモデルに制約をうまく織り込む ことで得られる。

タイプI・タイプ II、いずれの制約下のモデルも、最終的に OLS 推定が可能。

制約なしのモデルと比べ、制約付きモデルは推定すべき係数 の数が減る。

制約付きのモデル（制約が正しい、という前提のもとでのモ デル）は、OLS で簡単に推定できる。

次のステップ：その制約が正しいか否かを検定する方法は？

Section 2

線形制約の残差 ₂ 乗和への影響

線形制約による当てはまりの悪化

係数への線形制約は、回帰モデルのデータへの当てはまりを悪化 させる。⇒ まず、制約なしで (6) 式の OLS 推定を考える。

(6) 式係数の OLS は、残差 2 乗和（予測誤差）最小化の解： Q(a, b1^{, b}2^{, b}3) =^(Yi− a − b1^X1i− b2^X2i− b3^X3i)²

−−−→最小化 α, ˆˆ β₁, ˆβ₂, ˆβ₃

OLS

. (18)

解_{(ˆα, ˆβ1, ˆβ2, ˆβ3}) で評価した（最小化された）残差 2 乗和を Q= Q(ˆα, ˆβ₁, ˆβ₂, ˆβ₃) =^(Yi− ˆα− ˆβ₁X_1i− ˆβ₂X_2i− ˆβ₃X_3i)²

(6) 式に線形制約 (7) を化した場合の OLS は？

制約により_{β1 = 5，β2} = 1 なので、最小化問題は Q(a, 5, 1, b3) = ^(Yi− a − X1i− 5X2i− b3^X3i)²

−−−→最小化 α, ˜˜ β₃

制約付きの_OLS

(20)

制約なしのOLS と区別するため、制約付きの OLS を ˜α、 ˜β₃

（ティルダ）と表記。（_{αˆ= ˜α， ˆβ3 = ˜β3}。） 制約付きのOLS 残差および残差 2 乗和を

Q_R = Q(˜α,1, 5, ˜β₃) = ^(Yi− ˜α− X1i− 5X2i− ˜β₃X_3i

=ˆvi

)²

=^ˆv_i² (21) と置く。添え字R は制約（restricted）の意味。ˆ^vi^{は制約下の}

OLS 残差。

通常のOLS と制約付きの OLS の、決定的な違い。

制約なしの通常のOLS：4 つの調節弁 {a, b1^{, b}2^{, b}3} をフルに操 作し、残差_{2 乗和を最小化。}

制約下のOLS：二つの調節弁が既に {b1^{, b}2} = {5, 1} と固定。

⇒ 残された {a, b₃} だけを調節して、何とかモデルをデータに 当てはめる。

∴ 制約なしの残差_{2 乗和 Q =}^_uˆ²_i は、制約下の残差_{2 乗和} Q_R =^vˆ²_i ^{よりも小さい！}

公式 _{1 (} 線形制約による当てはまりの悪化 ₎

制約なしの残差2 乗和 Q と線形制約下の QR^{を比較すると、常に}

Q_R =^vˆ²_i

制約付き

≥ Q = ^uˆ²_i

制約なし

. (22)

証明：前段で証明済み．

以上から、二つの残差_{2 乗和の差}

Q_R− Q ≥ 0 (23) は、「（統計的根拠のない）線形制約_H0によって、モデルの データへの適合度がどれだけ悪化したか」を測る。

線形制約のパラメータ値がデータと整合的なら、それほど残 差2 乗和を悪化させないはず。

一方、データの傾向に合わない制約は、残差_{2 乗和を著しく} 上昇させるはず。

Remark 1

線形制約がデータと整合的ならば、_QRとQ に大きな差は出ない。

⇒ QR− Q を見れば、線形制約の正しさが判定できる。

∴「差Q_R− Q が十分大きければ線形制約 H₀^{を棄却する」と} いう方針で、_H0の仮説検定を考える。

差_QR− Q は、「大きい・小さい」の判断が着く検定統計量、 カイ2 乗統計量に変換可能！⇒ 次回。

Example 2

(17) 式の OLS 推定に関し、制約なし・制約ありの OLS 残差 2 乗和 はそれぞれ

Q_{= 0.66}

制約なし

< Q_{R = 0.82}

制約あり

. ₍₂₄₎

やはり線形制約_{H0 : β1+ β2} = 1 により、残差 2 乗和が悪化。

仮説検定の ₃ 大原理：ワルド・尤度比・スコア

図1：線形制約の OLS への影響をグラフで理解。⇒ 係数 b と残差 2 乗和の関係。

b^∗ = 残差 2 乗和を最小にする、制約のない OLS。⇒ Q = 最小 化された（b^∗で評価した）残差_{2 乗和の水準。}

線形制約で事前に_{b = bR}と置くと？⇒ 対応する残差 2 乗和は Q_R > Q。... 最小値に達しない。

制約あり・制約なし、それぞれの目的関数の差_{QR− Q に基づ} く仮説検定を尤度比原理（ゆうどひげんり）と呼ぶ。

一方、t 検定・Z 検定は、目的関数の差 Q_R− Q ではなく、 OLS と仮説値の直接の差 b^∗− bR^に着目。⇒ これを^ワルド原

b* ^bR

QQR

図 _{1 :} ワルド・尤度比・ラグランジュ乗数原理

もう一つの検定のアイディア：最小値_b^∗では_{Q(b) の傾きが}

Q^′(b^∗) = 0 でゼロ、b_R^ではQ^′(b_R) = 0。（この例では Q^′(b_R) > 0。）

∴「傾き_Q^′_(bR) が十分ゼロから離れているか否か」を検定の 判断に使える！

これをスコア原理（またはラグランジュ乗数原理）と呼ぶ。

今回の復習問題

次の設問に答えよ。各自用意した紙に解答し、退出時に提出せよ。 講義名、日付、学籍番号、氏名を明記すること。

1 _{テキスト第}8 章復習問題 8.1。

2 _{テキスト第}8 章復習問題 8.2。

References

鹿野繁樹. 新しい計量経済学. 日本評論社, 2015.