第 10 回 不均一分散（ 7.4–7.5 ）

第 10 ^{回 不均一分散（} 7.4–7.5 ^）

村澤 康友

2020

6

27

今日のポイント

1. 回帰モデルでvar(Y|X)がX に依存する ことを条件つき不均一分散という．

2. 条件つき不均一分散があるなら標準誤差 の修正が必要．Whiteの標準誤差は条件 つき不均一分散があっても（なくても）漸 近的に正しい．

3. Breusch–Paganの検定やWhiteの検定で 条件つき不均一分散の有無を検定できる．

目次

1 不均一分散（p. 178） 1

2 標準誤差の修正 1

2.1 OLS推定量の漸近分散（p. 180）. . 1 2.2 Whiteの標準誤差（p. 180） . . . . 2

3 不均一分散の検定 2

3.1 Breusch–Paganの検定（p. 182） . 2 3.2 Whiteの検定（p. 183）. . . 3

4 今日のキーワード 4

5 次回までの準備 4

1

p. 178

(Y, X)を確率ベクトルとする．Y のX上への古 典的線形回帰モデルは

E(Y|X) =α+βX var(Y|X) =σ²

すなわち古典的線形回帰モデルではE(Y|X)のみ X に依存し，var(Y|X)はX に依存しないと_仮˙_定˙ する．

定義1. var(Y|X)がXに依存せず，一定であるこ とを条件つき均一分散という．

定義2. var(Y|X)がXに依存することを条件つき 不均一分散という．

2

2.1 OLS推定量の漸近分散（p. 180）

((y₁, x₁), . . . ,(y_n, x_n))を無作為標本とする．簡 単化のため定数項のない単回帰モデルで考える．す なわち

yi =βxi+ui

E(ui|xi) = 0 βのOLS推定量をbnとすると

b_n =

∑n i=1xiyi

∑n i=1x²_i 定理 1.

√n(b_n−β)−→^d N (

0,var(x_iu_i) E(x²_i)²

)

証明. bnの式にyi=βxi+uiを代入すると bn=

∑n

i=1x_i(βx_i+u_i)

∑n i=1x²_i

=β+

∑n i=1x_iu_i

∑n i=1x²_i 式変形すると

√n(b_n−β) = (1/√ n)∑n

i=1x_iu_i (1/n)∑n

i=1x²_i 1

大数の法則より

plim

n→∞

1 n

∑n i=1

x²_i = E( x²_i)

E(ui|xi) = 0 =⇒E(xiui) = 0なので中心極限定理 より

√1 n

∑n i=1

x_iu_i−→^d N(0,var(x_iu_i))

スルツキーの定理とクラーメルの定理より (1/√

n)∑n i=1x_iu_i (1/n)∑n

i=1x²_i

−→d N (

0,var(xiui) E(x²_i)²

)

注 1. 条件つき均一分散ならvar(u_i|x_i) =σ² =⇒ var(x_iu_i) =σ²E(

x²_i)

．

2.2 Whiteの標準誤差（p. 180）

条件つき不均一分散の下でvar(xiui)を推定した い．E(ui|xi) = 0 =⇒E(xiui) = 0より

var(x_iu_i) = E(

(x_iu_i)²)

= E( x²_iu²_i)

OLS残差をeiとすると ei:=yi−bnxi

=y_i−βx_i−(b_nx_i−βx_i)

=ui−(bn−β)xi

定義3. var(xiui)のWhiteの推定量は

ˆ

var(x_iu_i) := 1 n

∑n i=1

x²_ie²_i

定理2.

plim

n→∞

1 n

∑n i=1

x²_ie²_i = E( x²_iu²_i)

証明. e_iとu_iの関係式より e²_i = [ui−(bn−β)xi]²

=u²_i −2(bn−β)xiui+ (bn−β)²x²_i

したがって 1

n

∑n i=1

x²_ie²_i

= 1 n

∑n i=1

x²_i [

u²_i −2(bn−β)xiui+ (bn−β)²x²_i]

= 1 n

∑n i=1

x²_iu²_i −2(bn−β)1 n

∑n i=1

x³_iui

+ (bn−β)²1 n

∑n i=1

x⁴_i

n→ ∞^{とすると，第}1項は大数の法則より plim

n→∞

1 n

∑n i=1

x²_iu²_i = E( x²_iu²_i)

plim_n→∞b_n=βなので，スルツキーの定理より第 2項と第3項は0に確率収束．

注2. したがって

√n(bn−β)∼^a N (

0,(1/n)∑n i=1x²_ie²_i [(1/n)∑n

i=1x²_i]² )

または

b_n∼^a N (

β,

∑n i=1x²_ie²_i (∑n

i=1x²_i)² )

定義4. Whiteの推定量を用いた標準誤差をWhite の標準誤差という．

注 3. 条件つき不均一分散があっても（なくても）

漸近的に正しい標準誤差．

3

3.1 Breusch–Paganの検定（p. 182）

(1 +k)変量データを((y1,x1), . . . ,(yn,xn))と する．次のようなyiのxi上への条件つき不均一分 散をもつ線形回帰モデルを仮定する．

yi=β^′xi+ui

E(ui|xi) = 0

var(ui|xi) =σ²f(γ^′xi) ただしf(.)>0，f(0) = 1．またγは(

β, σ²) に依 存しない．条件つき不均一分散の検定問題は

H0:γ=0 vs H1:γ̸=0 2

βのOLS推定量をb，OLS残差をei:=yi−b^′xi

とする．H0の下での誤差分散の推定量は

ˆ σ²:= 1

n

∑n i=1

e²_i

定理3. H₀の下で E(

u²_i −σ²|x_i)

= 0

証明. E(u_i|x_i) = 0よりvar(u_i|x_i) = E( u²_i|x_i)

． したがってH0の下で

E( u²_i|xi

)=σ²

注 4. すなわちH0の下でu²_i −σ²はxiで予測で きない．uiをei，σ²をσˆ²に置き換えると，H0の 下で

E(

e²_i −σˆ²|x_i)

≈0

これを回帰モデルとみなして「H₀：全ての回帰係 数＝0」を検定すればよい．ただし古典的正規線形 回帰モデルでないのでF検定でなく漸近χ²検定と なる．

定義 5. e²_i −σˆ²のxi 上への線形回帰モデルにお ける「H0：全ての回帰係数＝0」の漸近χ²検定を Breusch–Paganの検定という．

注5. 正確にはBreusch–Paganの検定のKoenker による改良版．

定理 4. Breusch–Paganの検定統計量をLM とす ると，H₀の下で

LM ∼^a χ²(k) 証明. 省略．

3.2 Whiteの検定（p. 183）

(1 +k)変量データを((y₁,x₁), . . . ,(y_n,x_n))と する．y_iのx_i上への線形回帰モデルは

y_i =x^′_iβ+u_i E(ui|xi) = 0

条件つき不均一分散の検定問題は H0: var(ui|xi) =σ²

vs H1: var(ui|xi) =σ²(xi) E(ui|xi) = 0 =⇒E(xiui) =0より

var(xiui) = E(xiui(xiui)^′)

= E(

u²_ixix^′_i)

繰り返し期待値の法則より E(

u²_ixix^′_i)

= E( E(

u²_ixix^′_i|xi

))

= E( E(

u²_i|xi

)xix^′_i)

= E(var(u_i|x_i)x_ix^′_i) したがって条件つき不均一分散の検定問題は

H0: var(xiui) =σ²E(xix^′_i) vs H1: var(xiui) = E(

u²_ixix^′_i)

以下の行列を定義する．

V₀:=σ²E(x_ix^′_i) V₁:= E(

u²_ix_ix^′_i)

すると検定問題は

H0:V0=V1 vs H1:V0̸=V1

または

H0:V1−V0=O vs H1:V1−V0̸=O ここで

V1−V0= E(

u²_ixix^′_i)

−σ²E(xix^′_i)

= E((

u²_i −σ²) xix^′_i) ただし

xix^′_i=





x²_i,1 . . . xi,1xi,k

... . .. ... xi,kxi,1 . . . x²_i,k





このk×k行列は対角線を挟んで対称なので，異な る成分はk(k+ 1)/2個．これらを並べたベクトル をzi:= vech(xix^′_i)とする．ただしvech(.)は正方 3

行列の下三角部分の成分を取り出して並べる関数．

するとH0の下で E((

u²_i −σ²) z_i)

=0

βのOLS推定量をb，OLS残差をei:=yi−b^′xi

とする．H₀の下での誤差分散の推定量は

ˆ σ²:= 1

n

∑n i=1

e²_i

定理5. H₀の下で cov(

u²_i −σ²,zi

)=0

証明. E(ui|xi) = 0よりvar(ui|xi) = E( u²_i|xi

)． したがってH0の下で

E( u²_i|xi

)=σ²

両辺の期待値をとると，繰り返し期待値の法則より E(

u²_i)

=σ² したがってH0の下で

cov(

u²_i −σ²,zi

)= E((

u²_i −σ²) zi

)

既に見た通り右辺は0．

注6. uiをei，σ²をσˆ²に置き換えると，H0の下で cov(

e²_i −σˆ²,z_i)

≈0

e²_i−ˆσ²のzi上への線形回帰モデルを考えると，H0

の下で全ての回帰係数＝0．

定義6. e²_i −σˆ²のz_i:= vech(x_ix^′_i)上への線形回 帰モデルにおける「H₀：全ての回帰係数＝0」の漸 近χ²検定をWhiteの検定という．

定理6. Whiteの検定統計量をW とすると，H0の 下で

W ∼^a χ²

(k(k+ 1) 2

)

証明. 省略．

注7. どのような不均一分散でも使えるが，自由度 が大きいため検出力が低い．

4

条件つき均一分散，条件つき不均一分散，White の推定量，Whiteの標準誤差，Breusch–Paganの 検定，Whiteの検定

5

提出 宿題5

復習 教科書第7章4–5節，復習テスト10 予習 教科書第8章

4