7 教育 OKUI, Ryo

平成28年度 上級計量経済学 講義ノート^7: 定常時系列分析

経済データには、時系列で観測されるものも多い。そのような時系列データの解析のた めに用いられるのが時系列モデルである。ここでは、定常時系列の分析法を学習する。この ノートでは、経済学で頻繁に使用される定常時系列モデルが確率論でどのように基礎づけら れるかを学習し、その推定法を学習する。

7.1 分散、自己共分散と定常性

{y^t}を時間と共に観測される確率変数列とする。まず、時系列分析で決定的に重要な以下の 用語を定義する。

定義 1. 強定常(strictly stationary)

任意の整数n, h, t1, · · · , t^{nについて、yt1}, · · · , y^tnとy_t1+_h, · · · , ytn⁺hの同時分布が等し いとき_{yt}は強定常であるという。

２次モーメントが存在するものとして、それより少し弱い定常性は以下のように定義さ れる。

定義 ^2. 弱定常（weakly stationary,共分散定常(covariance stationary)、２次定常(second order stationary)）

以下の(a), (b)が成り立つとき、_{yt_}は弱定常であるという。 (a) 期待値E(y_t) = µがtに依存しない。

(b) 共分散E[(y_{t− µ)(yt−s− µ)]}がsには依存するがtに依存しない。

γs = E[(yt_{− µ)(y}t−s_{− µ)]}を_{yt_}のs次の自己共分散という。s = 0なら、γ0はytの 分散である。なお、γs= γ−_{sが成り立つ。また、}ρs= γs/γ0を_{yt_}のs次の自己相関係数 という。  ベクトル確率過程についても、同様に定常性が定義される。強定常については、全 く同様である。ベクトル確率過程_{Yt_}は弱定常であるというのは、期待値がtに依存しな い定数で、自己共分散行列Γ_s= E[(Y_{t− µ)(Yt−s− µ)}^′]がsには依存するがtに依存しない ときである。なお、ベクトル過程の自己共分散はΓs= Γ^′−_sとなり、一般にはΓs _{̸= Γ}⁻sで あるので注意すること。

定義 ^3. エルゴード性

任意の非負の整数h、任意のh + 1次元ベクトルの集合Aに対し、強定常過程_{yt_}が

T →∞lim 1 T

T

∑

t=1

I{(yt^{, y}t+1, · · · , yt+h) ∈ A} = P [(y^{0, y1}, · · · , yh) ∈ A] ⁽¹⁾

を満たすとき、_{yt}はエルゴード性をもつという。

1. エルゴード性は、以下の3に述べるように時系列データについて大数の法則が働くた めの必要十分条件になっている。そのため、時系列データを用いて意味のある計量経 済分析を行うためには本質的な性質である。

2. 定義3は、確率過程論における通常の定義とは異なる。しかし、エルゴード性について は種々の必要十分条件が調べられており（例えばKarlin and Taylor (1975, p.487-488) あるいはShiryaev (1996, Chapter V, Section 2)を参照)、上の定義はその一つであ る。

3. 計量経済学において重要なエルゴード性の必要十分条件は、_E[|ϕ(yt, · · · , y^t+m)|] < ∞ を満たす任意の関数ϕについて

1 T

T

∑

t=1

ϕ(y_t, · · · , yt+m⁾

a.s.→ E[ϕ(y⁰, · · · , ym^)], (n → ∞) ⁽²⁾ が成立する、というものである。

定義 4. ホワイトノイズ(white noise)、強ホワイトノイズ

次の(a), (b)を満たす確率変数をホワイトノイズという。

(a) E(ϵ_t) = 0 (b) E(ϵtϵs) =

{σ², t = sのとき 0, 上記以外のとき

また、(a), (b)に加えて_{ϵt}が互いに独立のとき、強ホワイトノイズという。ベクトル

の場合は、(b)をE(ϵtϵ^′_t) = Ω(> 0), E(ϵtϵ^′_s) = 0(t ̸= s)^{で置き換える。}

7.2 MA (moving average,移動平均), AR (autoregression, 自己回帰), ARMA モデル

計量経済学において良く使われる時系列モデルとして、MA、AR、ARMAモデルがある。 {ϵ^t}をホワイトノイズとして、_{yt_}がϵt, · · · , ϵ^{t−qの一次結合}

y_t= c + ϵ_t+ ψ1ϵ_t−1+ ψ2ϵ_t−2+ · · · + ψq^ϵt−q^{, ψ}q ̸= 0 ⁽³⁾ で生成されるとき、_{yt_}はMA(q)モデルに従うという。また、_{yt_}がyt−1, · · · , y^t−pとϵt の一次結合

y_t= c + ϕ1y_t−1+ ϕ2y_t−2+ · · · + ϕp^yt−p^{+ ϵ}t^{, ϕ}p ̸= 0 ⁽⁴⁾ で生成されるとき、_{yt}^はAR(p)モデルに従うという。それらを組み合わせて_{yt}^が

yt= c + ϕ1yt−1+ ϕ2yt−2+ · · · + ϕ^{pyt−p+ ϵt+ ψ1ϵt−1+ ψ2ϵt−2}+ · · · + ψ^{qϵt−q (5)} で生成されるとき、_{yt}^{はARMA(p, q)}モデルに従うという。ただしψ_{q ̸= 0, ϕp ̸= 0}と する。

k次元ベクトル過程を考える場合は、ϵtもk次元ベクトルになり、係数は_{k × k}行列に なる。

7.3 _MA(∞)

MA, AR, ARMAモデルの理論の展開のためには、MA(q)でqを_∞に近づけた収束先を考 えることが極めて有用であるため、まずその解説をする。以下の議論では、これらのモデル がどのように確率論で定義可能であるかを示すことになる。基本的な論理展開は次の様にな る。まず、強ホワイトノイズ仮定がうまく定義できる(well-defined)ことは明らかであろう。 次に、強ホワイトノイズを変換することで得られた時系列がうまく定義できるための条件を 考える。特に、_MA(∞)過程がうまく定義できるための条件を示す。AR過程やARMA過

程は、_MA(∞)の過程の特殊形として書くことでうまく定義でき、定常であるための条件を

示すことができる。

q → ∞^{とするときに、MA(q)}がうまく定義のできる確率変数に収束するとき、それを

MA(∞)と書く。そのための一つの条件が係数列_{ψj}^{の絶対総和可能性}(absolute summa- bility)、

∞

∑

j=0

|ψ^j| < ∞ ⁽⁶⁾

である。もちろん、これが成立するためには_{j → ∞}のときψj _{→ 0}でなければならない。 なお、k次元ベクトル過程では、ψjが_{k × k}行列になるが、その場合の絶対総和可能性は、 ψ_juvをψ_j の第u, v要素として、

∞

∑

j=0

|ψjuv| < ∞, ∀u, v = 1, · · · , k ⁽⁷⁾

である。

定理 1 (Fuller (1976, Theorem 2.2.1, p.29)). 確率変数の系列_{Zt}^をとり、∀t^、E(Zt^{2) <}

K < ∞^{を満たすとし、数列}{ψ^j}^が∑∞j=0|ψ^j| < ∞を満たすとき、以下を満たす確率変数 列Xtが存在する。

E







X_t−

n

∑

j=0

ψ_jZ_t−j





2

 → 0 as n → ∞ ⁽⁸⁾

E(X_t²_{) < ∞} (9)

（証明）任意のt, jについて_E(|Zt||Zj|) ≤ [E(Zt^{2) + E(Z} 2

j)]/2 < Kが成立する。_{n → ∞}のとき

∑n

j=0|ψ^j|が収束するので、任意のϵ > 0に対して、^∑∞_j=N|ψj_{| <} √ϵ/KとなるようにN を選ぶことができる。tを固定して、n > m > Nに対して、

E





n

∑

j=0

ψjZt−j₋ m

∑

j=0

ψjZt−j





2

(10)

= E





n

∑

j=m+1

ψjZt−j





2

(11)

≤

n

∑

j=m+1

ψ_j²E(Z_t−j² ) + 2

n

∑

j=m+1 n

∑

l=j+1

|ψj||ψl|E(|Zt−j||Zt−l|) ⁽¹²⁾

≤





n

∑

j=m+1

ψ_j²+ 2

n

∑

j=m+1 n

∑

l=j+1

|ψ^j||ψ^l|



_{K ≤}





∞

∑

j=N

|ψ^j|





2

K < ϵ (13)

従って、^∑n_j=0ψjZt−jは平均二乗の意味でコーシー列である。二次モーメントの存在する確 率変数の空間は平均二乗差を距離として完備であるため、収束先X_tが存在する。(証明終)

1. 平均二乗の意味で収束するため、確率収束の意味でも収束する。 2. X_tが確率０の事象を除いて一意であることも証明される。

3. Ztが互いに独立な確率変数列なら、概収束(almost sure convergence)も証明される。 4. この定理はZtがホワイトノイズであることは不必要である。

5. j → ∞^のときψj → 0^{なので、遠い過去のZ}jからX_tへの影響は時間とともに小さく なっていく。

命題 1 (Hayashi (2000, Proposition 6.1, p367)). {ϵ^t}^{はホワイトノイズ、}{ψ^j}^{は絶対総和} 可能な係数列とする。そのとき、

yt= µ +

∞

∑

j=0

ψjϵt−j (14)

が定義され、

(a) {y^t}は平均二乗収束し（定理1）、弱定常である（_MA(∞)と呼ばれる）。

(b) ytの期待値と自己共分散γj = Cov(yt, yt−j), j = 0, 1, 2, · · · ^{は以下で与えられる。}

E(yt) = µ (15)

γ_j = σ²

∞

∑

k=0

ψ_j+kψ_k (16)

(c) {γ^j}は絶対総和可能である。

(d) もし_{ϵt}が強ホワイトノイズなら、_{yt}は強定常でエルゴード性をもつ。

1. ytは未来の誤差ϵt+jを含まないため、one-sidedであるという。これは、より一般的 な線形過程y_t= µ +^∑∞_j=−∞ψ_jϵ_t−jの特殊ケースである。

2. 定理1でZtはホワイトノイズである必要はなかった。命題1(a),(b),(c)はそれに対応 して、以下の命題のように拡張することができる。

命題 2 (Hayashi (2000, Proposition 6.2, p.369)). {x^t}^{は弱定常過程、}{h^j}^{は絶対総和可能} とする。そのとき、

(a) 各tに対して

yt=

∞

∑

j=0

hjxt−j (17)

は平均二乗収束し、_{yt}^{は弱定常である。}

(b) もし_{xt_}の自己共分散が絶対総和可能なら、_{yt_}の自己共分散も絶対総和可能で ある。

まず、ytが_MA(∞)に従う時の場合は、ϵtがホワイトノイズであることから、ytの期待 値と自己共分散は以下のように求められる。

E(yt) = E



µ +

∞

∑

j=0

ψjϵt−j



= µ +

∞

∑

j=0

ψjE(ϵt−j) = µ (18)

γ0 = E









∞

∑

j=0

ψjϵt−j





2

=

∞

∑

j=0

ψ_j²E(ϵ²_t−j) = σ²

∞

∑

j=0

ψ_j² (19)

ここで、最右辺は

∞

∑

j=0

ψ²_{j ≤}





∞

∑

j=0

|ψj|





2

< ∞ ⁽²⁰⁾

より有界である。更に、s = 1, 2, · · · ^に対して

γs= E





∞

∑

j=0

ψjϵt−j

∞

∑

i=0

ψiϵt+s−i



= E





∞

∑

j=0

ψjϵt−j

∞

∑

i=0

ψi+sϵt−i



= σ²

∞

∑

j=0

ψjψj+s (21)

で、その最右辺は(20)と同様に

∞

∑

j=0

ψ_jψ_j+s≤

∞

∑

j=0

|ψj||ψj+s| ≤

∞

∑

j=0

|ψj|

∞

∑

j=0

|ψj+s| ≤





∞

∑

j=0

|ψj|





2

< ∞ ⁽²²⁾

なので、自己共分散は有界であることがわかる。

MA(q)については、ψq+1 = ψq+2 = ψq+3 = · · · = 0^なので、

γ_s=

{σ^2∑q−s_j=0ψjψj+s, (s = 0, 1, 2, · · · , q)

0, (s ≥ q + 1) ⁽²³⁾

となって、切断がある。

ytがk次元ベクトル過程なら、ϵtをE(ϵt) = 0、V ar(ϵt) = Ωのk次元ベクトルホワイ トノイズとして、自己共分散行列は

γs_{= E{(y}t_{− µ)(y}t−s_{− µ)}^′_{} =}

∞

∑

j=0

ψs+jΩψ_j^′ (24)

である。

7.4 ラグ作用素 (lag operator)、ラグ多項式 (lag polynomial)、安定性 (stabil- ity)

AR(p), ARMA(p,q)の理論的性質を調べるためには、ラグ多項式が便利である。

7.4.1 ラグ作用素

定義 5. ラグ作用素L

時点を１期ずらす作用素Lをラグ作用素という。すなわち、Lxt= xt−1である。 ラグ作用素は以下の性質を有する。

• a^{を定数として、La = a}

• L^2xt ≡ L(Lxt^{) = Lx}t−1 ^{= x}t−2。一般にjを正の整数として、L^jx_{t ≡ L}^j−1(Lx_t) = L^j−1xt−1= · · · = x^t−j。

7.4.2 _{ラグ多項式}

ARMA(p, q)モデル(5)は、ラグ作用素を用いて、

yt= c + ϕ1Lyt+ · · · + ϕ^{pLpyt+ ϵt+ θ1Lϵt}+ · · · + θ^{qLqϵt (25)} と書ける。更に、ϕiLⁱ をytの係数のように扱って、形式的に以下のように書くことにする。

(1 − ϕ¹L − · · · − ϕp^Lp)yt= c + (1 + θ1L + · · · + θq^Lq)ϵt ⁽²⁶⁾

Φ(L)yt= c + Θ(L)ϵt (27)

Φ(L) = 1 − ϕ¹L − · · · − ϕ^pLp, Θ(L) = 1 + θ1L + · · · + θ^qLqといったラグ作用素に関する多 項式をラグ多項式という。なお、最初の1は厳密には 1L⁰ と表記するべきである。

7.4.3 ラグ多項式の積

ラグ多項式には積を定義することができる。α(L) = α0+ α1L + α2L²_{+ · · ·} かつβ(L) = β0+ β1L + β2L²_{+ · · · ,} とする。xを通常の変数としてα(x) × β(x)^{を展開したときのxjの} 係数をδ_jとおき、それによりδ(L) = δ0+ δ1L + δ2L²_{+ · · ·} と定める。そのとき、

δ(L)x_t= α(L)[β(L)x_t] = β(L)[α(L)x_t] (28) が成立することが確かめられる。この意味で

δ(L) = α(L)β(L) = β(L)α(L) (29)

によりラグ多項式の積を定義する。ラグ多項式の積について以下の性質がある。

• α(L)β(L) = β(L)α(L)

• {α^j}, {β^j}^{が絶対総和可能のとき}{x^t}^{が共分散定常なら、α(L)β(L)xtはうまく定義} される確率変数で、命題2より共分散定常で、

α(L)β(L) = δ(L) ⇒ α(L)β(L)x^{t= δ(L)xt (30)} が成立する。また、_{δj_}も絶対総和可能である。

7.4.4 _{ラグ多項式の逆}

α0 _{̸= 0として、}α(L)β(L) = 1を満たすβ(L)をα(L)の逆といい、β(L) = α(L)⁻¹と書く。 これを用いると、α0 _{̸= 0, β}0 _{̸= 0}として

α(L)α(L)⁻¹= α(L)⁻¹α(L) = 1 (31)

Φ(L)Ψ(L) = δ(L) ⇔ Ψ(L) = Φ(L)⁻¹δ(L) ⇔ Φ(L) = δ(L)Ψ(L)^{−1 (32)} が成立する。Φ(L) = 1 − ϕ¹L − · · · − ϕ^pLp,Ψ(L) = Φ(L)⁻¹ = ψ0+ ψ1L + ψ2L²+ ψ3L³_{+ · · ·} とすると、

定数項 : ψ0 = 1 (33)

L : ψ1_{− ϕ}1ψ0 = 0 (34)

L² : ψ2_{− ϕ}1ψ1_{− ϕ}2ψ0 = 0 (35)

L³ : ψ3_{− ϕ}1ψ2_{− ϕ}2ψ1_{− ϕ}3ψ0= 0 (36)

... (37)

L^p : ψp_{− ϕ}¹ψp−1_{− ϕ}²ψp−2_{− ϕ}³ψp−3− · · · − ϕ^{pψ0 = 0 (38)} L^p+1 : ψp+1_{− ϕ}¹ψp_{− ϕ}²ψp−1_{− ϕ}³ψp−2− · · · − ϕ^{pψ1 = 0 (39)} L^p+2 : ψ_{p+2− ϕ}1ψ_{p+1− ϕ}2ψ_{p− ϕ}3ψ_p−1− · · · − ϕp^{ψ2 = 0 (40)}

... (41)

によって逐次的に_{ψj_}が決まる。例えば、 α(L) = 1 − ϕL^{とすると、}

α(L)⁻¹ = 1 + ϕL + ϕ²L²+ ϕ³L³_{+ · · ·} (42) となる。

7.4.5 安定性条件

AR(p), ARMA(p,q)の定常性はAR部分のラグ多項式Φ(L)の安定性条件と密接に関係して いる。安定性条件とは、p次方程式

Φ(x) = 1 − ϕ¹x − ϕ^2x2− · · · − ϕ^{pxp = 0 (43)} の解がすべて絶対値で1より大きいことをさす。なお、k次元ベクトル過程の場合はϕ1, · · · , ϕp

はそれぞれ_{k × k}行列で、対応する安定性条件は、_{| · |}を行列式として、

|Φ(x)| = |I^k− ϕ¹x − ϕ^2x2− · · · − ϕ^pxp| = 0 ⁽⁴⁴⁾ の解がすべて絶対値で1より大きいことである。

命題 3 (Hayashi (2000, Proposition 6.3, p374)). 今、Φ(L) = 1 − ϕ¹L − ϕ^2L2− · · · − ϕp^Lp

が安定性条件をみたすとする。Ψ(L) = Φ(L)⁻¹= 1 + ψ1L + ψ2L²+ ψ3L³_{+ · · ·} とすると、 すべてのj = 0, 1, 2, · · · ^について

|ψ^j| < Ab^{j (45)}

をみたす定数A > 0, b ∈ (0, 1)が存在する。したがって

∞

∑

j=0

|ψ^j| <

∞

∑

j=0

Ab^j = ^A

1 − b ^{< ∞ (46)}

となり、_{ψj_}は絶対総和可能である。

1. 上のp = 1の例については、ψj = ϕ^jなので明らかである。

2. 次節に示すとおり、この命題と命題1と組み合わせてAR(p), ARMA(p,q)の性質を調 べる。

7.5 ARモデルと ARMA モデル

ARやARMAモデルは、現在の値が基本的に過去の値に依存して決まるが、そこに誤差が 入ってくるというモデルであり、計量経済分析になじみやすい時系列モデルである。

7.5.1 AR(1)_{のMA(∞)表現} 最初に最も簡単な例としてAR(1)

yt= c + ϕyt−1+ ϵt (47)

を取り上げる。ϵtはホワイトノイズである。ラグ多項式で書くと

(1 − ϕL)y^{t= c + ϵt (48)}

また、_{ϕ ̸= 1}ならµ = c/(1 − ϕ)^として、

(1 − ϕL)(yt− µ) = ϵt ⁽⁴⁹⁾

と書ける。

（1）_{|ϕ| < 1}のとき

y_t− µ = (1 − ϕL)^−1ϵt

= (1 + ϕL + ϕ²L²+ ϕ³L³_{+ · · · )ϵt}

=

∞

∑

j=0

ϕ^jϵt−j (50)

であるが、_{|ϕ| < 1}より_{{1, ϕ, ϕ}², ϕ³_{, · · · }}は絶対総和可能なので、定理3より右辺は平均二 乗収束する。また、命題1(b)よりE(y_t) = µである。

（2）_{|ϕ| = 1}のとき。ϕ = 1とする。

y_t= c + y_t−1+ ϵ_t (51)

なので、逐次代入により、任意の自然数jに対して

yt = c + yt−1+ ϵt (52)

= c + (c + yt−2+ ϵt−1) + ϵt= 2c + yt−2+ ϵt+ ϵt−1 (53)

= 2c + (c + y_t−3+ ϵ_t−2) + ϵ_t+ ϵ_t−1= 3c + y_t−3+ ϵ_t+ ϵ_t−1+ ϵ_t−2 (54)

... (55)

= jc + yt−j+ ϵt+ ϵt−1+ ϵt−2+ · · · + ϵ^{t−j+1 (56)} となる。これは弱定常ではない。

（証明）_{yt_}が弱定常であると仮定する。 (i) c ̸= 0^のとき

E(ϵt) = 0よりE(yt) = jc + E(yt−j)である。弱定常性よりE(yt) = E(yt−j)なので、

jc = 0となる。上の変形は任意の自然数jについて成立するので、c = 0となり、矛盾する。

(ii) c = 0のとき

yt_{− y}t−j = ϵt+ ϵt−1+ ϵt−2+ · · · + ϵ^{t−j+1 (57)} となる。両辺の分散を取ると

V ar(yt) + V ar(yt−j_{) − 2Cov(y}t, yt−j) = jσ² (58) 弱定常性よりV ar(y_t) = V ar(y_t−j) = γ0、Cov(y_t, y_t−j) = γ_jなので、

2(γ0_{− γ}j) = jσ² (59)

したがって、j次の自己相関係数はρj _{= 1 − [σ}²/(2γ0)]jとなる。jは任意の自然数なので j > 4γ0/σ²ととってもよいが、そのときρ_{j < −1}となり、相関係数の性質と矛盾する。（証 明終）

（3）_{|ϕ| > 1}のときは、_MA(∞)表現を持たない。

計量経済学では通常は、初期値を決めて、そこからAR(1)の式によって、データが生成 されるとする。この場合は、y_tは定常とはならない。そのため、計量経済学では、_{|ϕ| > 1} の場合も非定常とするのが普通である。_{|ϕ| > 1}の場合は、exposiveという。¹

1_なお、

yt− µ = ϕ⁻¹(yt+1− µ) − ϕ⁻¹ϵt+1 (60)

7.5.2 定常AR(1)の自己共分散と自己相関係数

MA(∞)^{表現(50)を用いると、ϵt}, t = 1, 2, · · · がホワイトノイズであることからAR(1)の 自己共分散を簡単に求めることができて、

γj = ^σ

2ϕ^j

1 − ϕ^{2 (62)}

であることがわかる。また、自己相関係数は ρj = ^γj

γ0

= ϕ^j (63)

となる。

また、別の方法としてYule-Walker方程式を用いるやり方もある。単純化のためにµ = 0 とする。y_t= ϕy_t−1+ ϵ_tの両辺にy_t, y_t−j, (j = 1, 2, · · · )をかけて期待値をとると

E(y²_t) = ϕE(yt−1yt) + E(ϵtyt) (64) E(ytyt−j) = ϕE(yt−1yt−j) + E(ϵtyt−j) (65) を得る。なお、E(ϵtyt)は両辺にϵtをかけることにより、E(ϵtyt) = ϕE(ϵtyt−1) + E(ϵ²_t) = σ² と計算できる。したがって、

γ0 = ϕγ1+ σ² (66)

γ_j = ϕγ_j−1, j = 1, 2, · · · ⁽⁶⁷⁾ である。これをYule-Walker方程式という。第１式と第２式のj = 1の場合からγ0, γ1が得 られ、第２式から逐次的にγ2, γ3_{, · · ·} が得られる。

7.5.3 AR(p)_{のMA(∞)表現と自己共分散} 3.5.1節で例示した内容を一般のAR(p)

y_t= c + ϕ1y_t−1+ ϕ2y_t−2+ · · · + ϕp^yt−p^{+ ϵ}t ⁽⁶⁸⁾

に拡張する。ラグ多項式を用いると、

Φ(L)yt= c + ϵt (69)

Φ(L) = 1 − ϕ¹L − ϕ^2L2− · · · − ϕp^{Lp (70)}

である。

である。したがって、

yt− µ = −

∞

∑

j=1

ϕ^−jϵt+j (61)

と書ける。|ϕ|⁻¹< 1なので、これも平均二乗収束する。しかし、ϵの将来の値で現在のyが決まるという形に なり、少なくとも計量経済学では応用しにくい。これは時間が逆に流れている状況という解釈でしか理解しに くい。つまり、先にすべてのϵt, t = 1, 2, · · · を発生させて、そこから(61)を計算して「初期値」y0 を作って 初めて定常過程となる。また、(61)を見ればわかるように、ytはϵt+1, ϵt+2, ϵt+3, · · · で決まっていて、次期の yt+1はそこからϵt+1の部分を抜いたものとして作られるわけである。その意味で、数学的にはともかく現実的 には(61)の状況は不自然である。

命題 4 (Hayashi (2000, Proposition 6.4, p.379)). Φ(L)が安定性条件(43)を満たすとき、

(a) (69)は一意な弱定常解をもち、_MA(∞)表現

yt= µ + Ψ(L)ϵt (71)

Ψ(L) = Φ(L)⁻¹ = 1 + ψ1L + ψ2L²+ ψ3L³_{+ · · ·} (72) が成り立つ。また、すべてのj = 0, 1, 2, · · · ^について

|ψj| < A^0bj0 ⁽⁷³⁾

をみたす定数A0 > 0, b0 _{∈ (0, 1)}が存在し、従って_{ψj}は絶対総和可能である。 (b) E(yt) = µ = Φ(1)⁻¹cである。

(c) すべてのj = 0, 1, 2, · · · ^について

|γ^j| < A^1bj1 ⁽⁷⁴⁾

をみたす定数A1 > 0, b1 _{∈ (0, 1)}が存在し、_{γj_}は絶対総和可能である。

(a)は命題3から明らかである。(b)は命題1(b)から明らかである。(c)は(a)と命題1(b) を組み合わせれば簡単に証明できる。AR(1)の場合と同様に_MA(∞)表現もしくはYule- Walker方程式から自己共分散が計算できる。_MA(∞)を用いる場合は_{ψj_}が必要であるが、

7.4.4節に示した方法で逐次的に求めることができる。

7.5.4 ARMA(p, q)_{のMA(∞)表現と自己共分散}

ARMA(p,q)モデル(5)は、ラグ多項式Φ(L) = 1 − ϕ¹L − · · · − ϕ^pLp、Θ(L) = 1 + θ1L +

· · · + θq^Lqを用いて

Φ(L)y_t= c + Θ(L)ϵ_t (75)

と書ける。また、_{Φ(1) ̸= 0}のとき、µ = c/Φ(1)として

Φ(L)(y_t− µ) = Θ(L)ϵt ⁽⁷⁶⁾

となる。

命題 5 (Hayashi (2000, Proposition 6.5, p.381)). Φ(z)が安定性条件を満たすとき、 (a) ARMA(p, q)は一意な共分散定常な解

yt= µ + Ψ(L)ϵt (77)

Ψ(L) = Φ(L)⁻¹Θ(L) (78)

をもつ。Ψ(L)の係数_{ψj}は絶対値で幾何的に減少する定数列でおさえられ、従って絶対総 和可能である。

(b) ytの期待値はE(yt) = µ = c/Φ(1)である。

(c) 自己共分散_{γj}は絶対値で幾何的に減少する定数列でおさえられ、従って絶対総和 可能である。

証明はAR(p)の場合と同様にできる。(a)はHayashi (2000, p381-382)参照。 (b), (c) は命題1(b)、(c)から明らかである。

ARMA(p, q)の自己共分散は命題5(a)の_MA(∞)表現から、あるいは、AR(p)と同様に Yule-Walker方程式から求めることができる。

7.5.5 ARMA(p, q)の_AR(∞)表現

Θ(z)が安定性条件を満たすとき、ARMA(p,q)は反転可能であるという。そのとき、ARMA(p,q) は_AR(∞)表現を持ち、

Θ(L)⁻¹Φ(L)y_t= ^c

Θ(1)^{+ ϵt (79)}

と書ける。なお、MA(q)はARMA(p,q)からAR部分を取り除いたものなので、上と同様

にMA(q)の反転可能性を定義する。

7.6 _{時系列の漸近理論}

この節では、時系列モデルの推定量の漸近的性質を調べるために使用される漸近理論を紹介 する。

7.6.1 大数の法則

下に述べる大数の法則が成立する。証明のために、まず以下の補題を準備する。

補題 1. {Sj}^{を定数列として、lim}j→∞^Sj ^{= s}のとき、lim_{T →∞}T^−1∑T_j=1S_j = sが成立 する。

証明は、講義では省略する。² 補題 ^{2. lim}T →∞

∑_T

j=0^aj = A < ∞^{のとき、lim}T →∞

∑_T

j=1^{(j/T )aj = 0である。}

証明は、講義では省略する。³

¯

y =^∑T_t=1y_t/T とする。

2参考までに証明を述べておく。仮定より、任意のϵ > 0に対して十分大きいT0を選ぶと、すべてのj > T0

に対して|Sj− s| < ϵ/2となる。

|¹ T

T

∑

j=1

Sj− s| ≤ ¹ T

T0

∑

j=1

|Sj− s| + ¹ T

T

∑

j=T0+1

|Sj− s| (80)

≤ ¹

T

T0

∑

j=1

|Sj− s| + ^ϵ

2 ⁽⁸¹⁾

T0は固定されているのでTが十分大きければ^∑T_j=1⁰ |Sj−s|/T < ϵ/2となる。したがって、|^∑T_j=1Sj−s|/T < ϵ となる。

3参考までに証明を述べておく。まず、 

T

∑

j=1

j T^aj

=     1

T^{{(a1+ a2}+ · · · + aT) + (a2+ a3+ · · · + aT) + · · · (82)

+(aT −1+ aT) + aT}| (83)

=       1 T

T

∑

j=1 T

∑

k=j

ak

≤ ¹ T

T

∑

j=1

T

∑

k=j

ak

(84)

= ¹

T

T0

∑

j=1

T

∑

k=j

ak

+ ¹ T

T

∑

j=T0+1

T

∑

k=j

ak

(85)

である。この表現は任意のT0について成り立つ。まず第二項を調べる。仮定から、任意のϵ > 0に対して十分 大きいT0を選ぶと、T > j > T0 をみたす任意のj, T について|^∑T_k=jak| < ϵ/2とできる。従って、

1 T

T

∑

j=T0+1

T

∑

k=j

ak

<^{ϵ(T − T0)} 2T ^<

ϵ

2 ⁽⁸⁶⁾

定理2 (Hayashi (2000, Proposition 6.8, p401)). {y^t}^{は共分散定常で、E(yt) = µ、Cov(yt, yt−j) =} γjとする。

(a) もしlim_j→∞γ_j = 0なら、y¯^m.s.→ µ (T → ∞)

(b)もし_{γj_}が総和可能なら、limT →∞V ar(^√T ¯y) =^∑∞_j=−∞γj = γ0+2^∑∞_j=1γj _{< ∞}。 なお、^∑∞_j=−∞γjは長期分散(long run variance)と呼ばれる。

（証明）

(a)共分散定常の仮定から

V ar(¯y) = ¹ T²

T

∑

t=1 T

∑

s=1

Cov(yt, ys) (88)

= ²

T²

T

∑

t=1 t

∑

s=1

Cov(yt, ys_{) −}

1 T²

T

∑

t=1

V ar(yt) (89)

= ²

T²

T

∑

t=1

tCov(y_t, ¯y_{t) −} ¹ T²

T

∑

t=1

V ar(y_t) (90)

≤ _T²

T

∑

t=1

|Cov(y^{t, ¯yt})| ⁽⁹¹⁾

ただし、３つ目の等号はy¯_t= ¹_t^∑t_j=1y_jとして、

tCov(yt, ¯yt) = tCov [

yt,¹

t^(y1+ · · · + y^t) ]

=

t

∑

s=1

Cov(yt, ys) (92) を用いている。また、不等号は_{t/T ≤ 1}、V ar(yt) > 0を用いた。仮定からlimj→∞γj = 0 なので、_{t → ∞}のとき補題1より

Cov(yt, ¯yt) = ¹ t

t−1

∑

j=0

γj _{→ 0} (93)

が得られ、_|Cov(yt^{, ¯y}t)| → 0となる。したがって、再び補題1を用いると 2

T

T

∑

t=1

|Cov(y^{t, ¯yt})| → 0 ⁽⁹⁴⁾

となる。よって、V ar(¯_{y) → 0}であり、y¯^m.s.→ µ as T → ∞^。 (b)

である。第一項は次のように抑えられる。任意のTと任意のj ∈ [1, T ]について|^∑T_k=jak| < M < ∞となる

M > 0が存在する。従って、十分大きいT について、

1 T

T0

∑

j=1

T

∑

k=j

ak

< ^T0M T ^<

ϵ

2 ⁽⁸⁷⁾

となる。したがって、|^∑T_j=1(j/T )aj| < ϵとなる。

T V ar(¯y) (95)

= ¹

T^{E{[(yT − µ) + (yT −1}− µ) + · · · + (y¹− µ)] ⁽⁹⁶⁾

×[(yT − µ) + (yT −1− µ) + · · · + (y¹− µ)]^{} (97)}

= ¹

T^{[T γ0}+ 2(T − 1)γ¹+ 2(T − 2)γ²+ · · · + 4γT −2^{+ 2γ}T −1^{] (98)}

= γ0+ 2

T −1

∑

j=1

( 1 −_T^j

)

γj (99)

= γ0+ 2

T −1

∑

j=1

γj_{− 2} T −1

∑

j=1

j

T^{γj (100)}

仮定より_{γj_}は総和可能なので、補題2より_{T → ∞}のとき^{∑T −1}_j=1(j/T )γj _{→ 0}である。 従って、

T →∞lim ^{V ar(}

√T ¯y) = γ0+ 2

∞

∑

j=1

γj _{< ∞} (101)

（証明終）

なお、総和可能性は絶対総和可能性より少し弱い仮定である。前者は和の順番を入れ替 えると結果が変わるが、後者は順番を入れ替えても収束先は変わらない。

7.6.2 _{中心極限定理}

次に、時系列について成立する中心極限定理を証明なしで示す。

定理 3 (MA(∞)^{の中心極限定理} (Hayashi, 2000, Proposition 6.9, p402)). {yt}^はMA(∞) 表現

y_t= µ + Ψ(L)ϵ_t (102)

を持ち、_{ϵt_}は期待値0、分散σ²の強ホワイトノイズであるとする。そのとき、

√T (¯_{y − µ) →d}N



0,

∞

∑

j=−∞

γj



 (103)

Gordin (1961, Soviet Math. Dokl.)を用いると以下の中心極限定理が示される。 定理 4 (Gordin (Hayashi, 2000, Proposition 6.10, p404)). {yt}はエルゴード性をもつ定常 過程とする。It= (yt, yt−1, yt−2_{, · · · )}として、以下の条件が成立するとする。

(a) E(y_t²_{) < ∞}

(b) E(y_t|It−j)^m.s.→ 0 (j → ∞)

(c) rtj = E(yt_|It−j_{) − E(y}t_|It−j−1)として、

∞

∑

j=0

[E(r²_tj)]¹² _{< ∞} (104)

そのとき、

√T (¯_{y − µ) →}dN



0,

∞

∑

j=−∞

γj



 (105)

また、マルチンゲール差分(martingale difference)について以下の中心極限定理が成立 する(Billingsley, 1961)。

定理 5 (マルチンゲール差分の中心極限定理(Hayashi, 2000, p.106)). {y^t}^{はエルゴード性} をもつ定常なマルチンゲール差分（E(yt_|yt−1, yt−2, · · · ) = 0^{）とする。更にV ar(yt) = Σ は} 有界とする。そのとき、

√T ¯_{y →d}N (0, Σ) (106)

7.7 AR(p)_{モデルの推定}

この節では、AR(p)モデルの推定法を紹介する。AR(p)の推定には、OLS, Yule-Walker方 程式（モーメント法）、最尤法が考えられる。

7.7.1 OLS

{ϵ^t}が強ホワイトノイズのとき、AR(p)モデル

yt = c + ϕ1yt−1+ ϕ2yt−2+ · · · + ϕ^{pyt−p+ ϵt (107)}

= β^′x_t+ ϵ_t (108)

では、「説明変数」xt = (1, yt−1, · · · , y^t−p)′はt − 1^{時点以前の増分ϵt−1, ϵt−2}, · · · ^で構成さ れているためにモデルの誤差項ϵtとは独立であり、名前の通り回帰モデルの形を持ってい る。なお、β = (c, ϕ1, · · · , ϕp^)′である。従って、OLS推定により一致推定量を得ることが できる。OLS推定量を

β =ˆ









 ˆ c ϕˆ1

... ϕˆp











=





T

∑

t=p+1

xtx^′_t





−1 T

∑

t=p+1

xtyt (109)

とする。命題6でこの推定量の性質を述べるが、その証明に次の結果を用いる。

補題 3 (定常エルゴード過程の関数の定常エルゴード性（Karlin and Taylor (1996, 2nd ed., Remark 5.3, p.488)). {x^t}が定常エルゴードであるとき、任意の可測関数ϕについて、 y_t= ϕ(x_t, x_{t+1, · · · )}は定常エルゴードである。

証明はStout (1974, p.182)。ベクトルへの拡張も可能である（White, 1984, Theorem 3.35, p.44)。

命題 6 (Hayashi (2000, Proposition 6.7, p393), Fuller (1996, Theorem 8.2.1, p335)). {y^t}

は(107)に従うAR(p)過程で、ラグ多項式は安定性条件を満たすものとする。また、_{ϵt_}は

期待値0、分散σ²の強ホワイトノイズであるとする。そのとき、

A = E(xtx^′_t) =















1 µ µ _{· · ·} µ

µ γ0+ µ² γ1+ µ² _{· · · γp−1}+ µ² µ γ1+ µ² γ0+ µ² _{· · · γ}p−2+ µ²

... ^... ^... . .. ^... µ γp−1+ µ² γp−2+ µ² _{· · ·} γ0+ µ²















(110)

を正値定符号な対称行列として

(i) ˆ_{β →}p β

(ii) ^√T ( ˆ_{β − β) →}dN (0, σ²A⁻¹)

(iii) ˆA =^∑T_t=p+1xtx^′_t/T、s² =^∑T_t=p+1(yt_{− ˆ}β^′xt)²/T として、

s²A^ˆ−1 _→p σ²A⁻¹ (111)

である。

（証明）普通のクロスセクションデータのOLS推定量と同様に

β = β +ˆ



 1 T

T

∑

t=p+1

x_tx^′_t





−1

1 T

T

∑

t=p+1

x_tϵ_t (112)

である。安定性条件の仮定の下で、命題4(a)よりy_tは係数が絶対総和可能な_MA(∞)表現 をもつ。更に、仮定より_{ϵt_}が強ホワイトノイズなので、命題1(d)からytはエルゴード性 をもつ定常過程である。したがって、

1 T

T

∑

t=p+1

x_tx^′_t^a.s._{→ A} (113)

また、x_{t= {1, yt−1}, · · · , yt−p}^{′なので、E(x}t^ϵt|xt−1^ϵt−1^{, x}t−2^ϵt−2, · · · ) = 0 ^{となる。すなわ} ち、_{xtϵt_}はマルチンゲール差分である。更に、補題3から定常エルゴードである。定理 2(a)より、

1 T

T

∑

t=p+1

xtϵt^m.s._{→ 0} (114)

である。(112), (113), (114)より、(i)が示される。

(ii) {x^tϵt}は定常エルゴードなマルチンゲール差分で、V (xtϵt) = E(ϵ²_txtx^′_t) = E[E(ϵ²_t|xt)xtx^′_t] = σ²Aなので、定理5より、

√1 T

T

∑

t=p+1

xtϵt_→dN (0, σ²A) (115) したがって、(112)、(113), (115)より(ii)を得る。

(iii) _{yt_}はエルゴード性を持つ定常過程なので、_{A →}^ˆ p Aである。また、yt_{− ˆ}β^′xt= ϵ_{t− ( ˆβ − β)}^′x_tなので、

s² = ¹ T

T

∑

t=p+1

(yt_{− ˆ}β^′xt)² (116)

= ¹ T

T

∑

t=p+1

ϵ²_{t − 2( ˆβ − β)}^′1 T

T

∑

t=p+1

x_tϵ_t+ ( ˆ_{β − β)}^′1 T

T

∑

t=p+1

x_tx^′_t( ˆ_{β − β)} (117)

となる。強ホワイトノイズに関する大数の法則から_T^{1 ∑T}_t=p+1ϵ²_{t →p} σ²なので、(i)、(113)、 (114)より

s² _→p σ² (118)

である。（証明終）

7.7.2 Yule-Walker方程式からのモーメント法

モーメント法によってAR(p)のパラメータを推定することも可能である。定数項について は、定常性と

E(y_t) = c + ϕ1E(y_t−1) + · · · + ϕp^E(yt−p^{) (119)}

より、

(1 − ϕ¹− · · · − ϕ^{p)E(yt) = c (120)} というモーメント条件を得る。また、AR(p)のYule-Walker方程式は









 γ1

γ2

... γp











=











γ0 γ1 _{· · · γp−1}

γ1 γ0 _{· · · γp−2}

... ^... ^{. .. ..}. γp−1 γp−2 _{· · ·} γ0



















 ϕ1

ϕ2

... ϕp











(121)

である。これらから、

¯

y = ¹

T

T

∑

t=1

yt (122)

ˆ

γ_j = ¹ T

T

∑

t=j+1

(y_{t− ¯y)(yt−j− ¯y)} (123) として、









 ϕˆ1

ϕˆ2

... ϕˆ_p











=









 ˆ

γ0 γˆ1 _{· · · ˆγp−1}

ˆ

γ1 γˆ0 _{· · · ˆγp−2}

... ^... ^{. .. ..}. ˆ

γ_p−1 γˆ_{p−2 · · ·} ˆγ0











−1







 ˆ γ1

ˆ γ2

... ˆ γ_p











(124)

ˆc = (1 − ˆ^ϕ1− · · · − ˆ^ϕp^{)¯y (125)}

によりモーメント法推定量が求められる。この推定量の性質は、以下の標本モーメントの漸 近的性質を用いて導くことができる。

定理 ^{6 (}標本モーメントの漸近的性質_{). {ϵ}t}^{は期待値0、分散σ2} の強ホワイトノイズで、

{yt}^{は(107)に従うAR(p)}過程で、ラグ多項式は安定性条件を満たすものとする。また、

Cov(yt, yt−j) = γjとする。そのとき、以下が成立する。 (i) ¯_{y →}pµ = c/Φ(1)

(ii) ˆγ_{j →p} γ_j

(iii) ^√T (¯_{y − µ) →}dN (0,^∑∞_j=−∞γj) 更に、E(ϵ⁴_t) = ησ⁴ _{< ∞}として、 (iv) ^√T





 ˆ γ1_{− γ}1

... ˆ γp_{− γ}p





 →^{dN (0, V )} ただし、V のi, j要素は

Vij _{= (η − 3)γ}iγj+

∞

∑

p=−∞

(γpγp−i+j+ γp+jγp−i) (126) である。