線形過程とWold分解
一般に, 各時点tにおける値が白色ノイズの線形和(過去から未来までの 無限和を含む) で書ける確率過程は, 時系列解析において, 線形過程(linear process)/線形モデル(linear model)と呼ばれる. 上のAR(p)モデル,次に紹
介するMA(q)モデル, ARMA(p, q)モデルは線形過程の代表例である. さら
に,線形過程において,各時点tにおける値が過去および現在の白色ノイズの
1ここでは,下述の因果的(causal) ARモデルを考える
履歴の線形和で表現され,将来の値に依存しないものを,因果的(causal)であ ると呼ぶ.
ところで, 任意の(平均ゼロ)離散時間定常時系列過程は, causalな線形過
程成分と“予測可能な”成分とに分解できることが知られている. すなわち,
∑∞
j=0ψj2<∞, ψ0= 1となるような実数値列ψjと“確定的な(deterministic)”
確率過程Vtが存在して,
Xt=
∑∞ j=0
ψjZt−j+Vt (S2.3.1) と分解される (Wold分解).ただし, Ztは(弱)白色ノイズ, Cov[Zs, Vt] = 0
(全てのs, t) である. ここで, “確定的な” 確率過程とは, 1時点前までの
履歴データを使えば, 最良線形予測 (下述) によって将来時点の値を完全に, すなわち誤差ゼロで予測できるような性質を有する確率過程を言う. 例えば, Vt=Acos(ωt)+Bsin(ωt)は確定的な確率変数の例である. ただし,ω∈(0, π) は定数, A, Bは平均ゼロ,共通の分散を持つ互いに無相関な確率変数とする.
詳細は,時系列解析の専門書,例えば[3]を参照せよ.
移動平均過程
白色ノイズの有限個の線形和によって定義される確率過程
Xt=Zt+θ1Zt−1+· · ·+θqZt−q (S2.3.2) を移動平均過程(moving average process)と呼びMA(q)と表わす.
q次の移動平均モデルは係数パラメータの値にかかわりなく常に定常であ る. しかし, ARモデルとのアナロジーによって, MA(q)の特性方程式(複素 数zに関するq次多項式)
1−θ1z−θ2z2− · · · −θqzq= 0 (S2.3.3) の根の絶対値が1より大きい場合に限定して考えることが多い. これを in-vertible条件と呼ぶ(詳細は例えば[15]を参照せよ).
いま,最も単純なケースとしてMA(1)モデル Xt=Zt+θ1Zt−1 を考える. この自己共分散関数は,
γ(h) =
(1 +θ21)σZ2, h= 0, θ1σZ2, h= 1
0 h >1
43 S2.3. ARMA過程 によって与えられ,自己相関関数は
ρ(h) =
θ1
1+θ21, h= 1, 0, h >1 によって与えられる.
一般に, MA(q)モデルの自己共分散関数,自己相関関数は次のようになる:
γ(h) =
σ2Z∑q−h
j=0θjθj+h, 1≤h≤q,
0, h > q,
ρ(h) =
∑q−h
j=0θjθj+h
1+θ21+···+θ2q, 1≤h≤q,
0, h > q.
ARMA過程
さらに,時系列解析においては,より一般の線形定常時系列モデルのクラス として,自己回帰過程と移動平均過程を組み合わせたARMA過程(自己回帰 移動平均過程)が用いられる. 差分方程式
Xt=ϕ0+ϕ1Xt−1+· · ·+ϕpXt−p+Zt+θ1Zt−1+· · ·+θqZt−q を満たす定常過程XtをARMA(p, q)モデルと呼ぶ. 詳細は,成書に委ねるが
(例, [15])参考までに, ARMA(1,1)の自己共分散関数,自己相関関数を示す:
γ(0) = σ2Z1 + 2θ1ϕ1+θ12 1−ϕ21 , γ(h) = σ2Z(1 +θ1ϕ1)(ϕ1+θ1)
1−ϕ21 ϕh1−1, h≥1,
ρ(h) = (1 +θ1ϕ1)(ϕ1+θ1)
1 + 2θ1ϕ1+θ12 ϕh1−1, h≥1. (S2.3.4) さて, もとの確率過程Xtが非定常であっても,階差∇Xt=Xt−Xt−1を 何回かとることによって,定常ARMAモデルが得られることがある. この時, Xtの従う確率過程をARIMA(autoregressive integrated moving average)モ デルと呼び. 階差を取る回数がd回, 得られたモデルがARMA(p, q)であれ ば, ARIMA(p, d, q)と書く.
ところで,手元のデータにARMA(p, q)モデルを当てはめる場合,次数(p, q) の決め方(同定)が重要である. Box–Jenkinsによる標準的な時系列解析のア プローチでは,自己相関関数(ACF)および偏自己相関関数(PACF)のプロッ ト(コレログラム)を作成し, その形状を眺めることで(p, q)の値についての アイデアを得ることを薦める(例として,本書4.2節, 図4.2, 4.3参照).
偏自己相関関数(PACF)
Xtは平均ゼロの定常確率過程であるとする (非ゼロの平均を持つ場合は, あらかじめ平均を除いておく). まず,過去の実現値X1,· · · , Xh−1を使って一 期先の値Xhを最良線形予測(best linear prediction)することを考える. こ こで,線形予測
Xhh−1=β1Xh−1+· · ·+βh−1X1 (S2.3.5) の形を持つクラスの中で, 平均予測誤差E[(
Xh−Xhh−1)2]
を最小にする係 数(β1,· · ·, βh−1)を用いるのが最良線形予測である. 一方,今度は, 同一履歴 データX1,· · · , Xh−1を用いて過去の値X0を線形予測する場合,Xhh−1を最 良線形予測とする係数の組(β1,· · ·, βh−1)を使った
X0h−1=β1X1+· · ·+βh−1Xh−1 (S2.3.6) もやはりX0への最良線形予測となることが示されるのである(章末問題). す なわち,定常過程においては,将来への線形回帰予測は,過去に向かっての線 形回帰予測と等価である.
定常確率過程Xtに対して,偏自己相関関数(PACF, partial autocorrelation function)ϕhh, h= 1,2, ...,は, この最良線形予測Xhh−1, X0h−1を用いて,
ϕ11 = Cor[X1, X0] =ρ(1), (S2.3.7) ϕhh = Cor[Xh−Xhh−1, X0−X0h−1], h≥2 (S2.3.8) によって定義される.
すると,予測誤差(Xh−Xhh−1), (X0−X0h−1)は,ともに説明変数X1,· · · , Xh−1 とは無相関であるから, 定常性により, 偏自己相関ϕhhは, (h−1)期間分の データXt−1,· · · , Xt−h+1による線形効果を除いた後の,互いにh期間離れた データXtとXt−hとの間の相関係数を表すのである.
PACFは, 古典的時系列解析において, 定常過程のARMAモデルの同定, とりわけ, AR(p)モデルの次数pを同定する際に重要である.
AR(p)モデルにおいて, PACFの値がラグh≤pの範囲では非ゼロ,h > p ではϕhh= 0であることが示されるから, PACFのコレログラムにおいて値
がゼロ(カットオフされる)と見なせるラグhを見つけられればそれより一つ
手前のラグh−1がAR(p)の次数pの有力な候補となる. 一方,例えば, MA(1)モデルにおいては,
ϕhh=−(−θ)h(1−θ2) 1−θ2(h+1) , h≥1
となるように, MA(q)モデルにおいては, PACFは指数的に減衰し,カットオ フされるラグは存在しない. 同時に, 先にMA(1)の例で見たように, MA(q) モデルにおいては, ACFはラグqより後はカットオフされることから, ACF を眺めることでMA(q)の次数qに関するアイデアが得られるのである.
45 S2.3. ARMA過程 長期記憶過程
ARMA(1,1)の自己相関(S2.3.4)の例のように, ARMAクラスの確率過程
においては,hが大きくなると指数的に自己相関関数ρ(h)は減衰していく. 一方,定常確率過程の中には,自己相関係数ρ(h)の減衰がゆっくりなものが ある. これは,十分に大きなh,すなわち遠い過去実現値と現在値の間に,高い 相関が残っているという性質であり,このような性質を長期記憶性,そして長 期記憶性を有する確率過程を長期記憶性モデル,または長期記憶過程と呼ぶ.
長期記憶過程には幾つかの定義があるが,代表的なものは次の通りである:
∑∞ h=0
|ρ(h)|=∞.
ARFIMAモデル(本書p.70), FIGARCHモデルなどが代表例である. また,
フラクショナルBrown運動(同p.72)の増分過程(フラクショナル・ガウシア ン・ノイズ)も, Hurst指数(S3.2節)1/2< H <1のケースにおいて,長期記 憶過程の例となる.
一方, ARMAモデルに見られるような,hが大きくなるにつれて急速にρ(h) がゼロに向かう性質を短期記憶性と呼ぶ.
Coffee Break
時間平均,集団平均,期待値の関係(エルゴード性): 1個のサイコロをN 回ふるときに出る各目の出方と, N個のサイコロを1回ふるときにそれぞ れのサイコロの目の出方は確率的に同様であることが期待される. このよう に,確率変数列に対して,時間軸方向の統計的性質と集団方向の統計的性質 の等価性を一般化した概念はエルゴード性と呼ばれる.
もし,あるひとつの金融資産の時系列を極めて長期間にわたり観測できる とすると,ひとつの金融資産の価格変化はある瞬間の様々な集団の断片を含 んでいるかもしれないと期待できる場合がある. 例えば金融資産の個別性が ないとか,金融資産の価格変化に長期間の記憶性がなく,初期の状態に金融 資産の価値が依存しなくなる場合である. このような状況がエルゴード性 であり,長期間にわたる単一時系列の時間平均とある瞬間における集団平均
(確率変数の母集団平均)の等価性を仮定することで理論計算を容易にする
ことができる. 他方,このような状況が成立するためには, 体系が定常状態 に到達することができることや,初期状態の記憶が比較的短かい時間スケー ルで消失する,また,全ての状態を均等に遷移できるなどの仮定が必要であ る. 金融市場においては一般に成立していない可能性が高い. 定常でない
(=非定常)状況において,時間平均と集団平均とは一致しない例題を作るこ
とが可能である. 例えば, 2つの安定な状態が存在する状況において不安定 状態を初期値として,ランダムに状態遷移が起こる場合である. この場合, 同じ初期値から初めたとしても,ランダム性の実現値の違いによってどちら の安定状態に最終的に到達するか確定できなくなる. このような場合,時系 列平均は最終的に到達した安定状態の近傍の値を示すのに対し,集団平均で は2つの安定状態の間の値が平均値となってしまう. このように,エルゴー ド性は強い仮定であり,必ずしも現実的であるとは言えない.
しかしながら,エルゴード性を仮定することにより理論的な見通しが得ら れ, また, 定性的なデータに対する理解が得られることが多いため,しばし ばエルゴード性の仮定を用いて理論構築が行われてきたし,今後も行われて いくと考えられる. 一方, エルゴード性が成立しないことを調べることによ り体系の性質を理解するアプローチも可能と思われる.
S2.4 マルチンゲール
X0, X1, ...,を確率変数列であるとする. FnをX0, ..., Xnによって生成さ
れた“情報集合”であるとする. (厳密には,Fnはσ-加法族, それらの増加列
{Fn},F0⊆ F1⊆ · · · ⊆ Fn ⊆ · · ·, はフィルトレーションと呼ばれる). この とき,次の性質を満たす確率過程{Mt, t= 0,1,2, . . .}を{Fn}に関するマル チンゲールであるという:
47 S2.5. マルコフ過程
• 全てのnに対して, E [|Mn|]<∞.
• 全てのnに対して, MnはX0, ..., Xnの関数である(Fn-可測であると 言う).
• 全てのm < nに対してE [Mn|Fm] =Mm
最後の性質は,現在時点mまでの情報をもとに将来のMnに関する“最良”の 予測は現在値Mmに他ならないと主張している2. すなわち,マルチンゲール 過程は,公正なゲームを表すモデルであり,効率的な市場における金融証券価 格の確率的変動を表現するために用いられるモデルのクラスである.
マルチンゲールは,連続時間においても同様に定義することができる. その 最も基本的かつ重要なものが,後述のWiener過程である.
S2.5 マルコフ過程
離散時間確率過程{Xt, t= 0,1,2, . . .}を考える. 一般に, Xの過去の履歴 に関する生起確率は, 確率論の連鎖公式を使って,
Pr [X0=x0,· · · , Xn=xn]
= Pr [X0=x0] Pr [X1=x1,· · ·, Xn=xn|X0=x0]
= Pr [X0=x0] Pr [X1=x1|X0=x0]
Pr [X2=x2,· · · , Xn=xn|X0=x0, X1=x1]
= Pr [X0=x0]
∏n i=1
Pr [Xi=xi|X0=x0,· · ·, Xi−1=xi−1] と変形される. すなわち, 過去の履歴を確率的に表現しようとすると,その確 率過程の持つ全ての推移確率Pr [Xi=xi|X0=x0,· · ·, Xi−1=xi−1]を評価 せねばならず大変である.
マルコフ性とは,任意の時点iおよび状態(x0, ..., xn)において,推移確率が Pr [Xi =xi|X=xi−1] = Pr [Xi=xi|X0=x0,· · ·, Xi−1=xi−1] を満たすという性質である. マルコフ性を持つ確率過程をマルコフ過程と呼 ぶ. すなわち, マルコフ過程であれば, その将来値を予測するには,過去の全 ての履歴を記憶する必要はなく,現在の状態のみを知っていれば十分である.
この時, 上の結合確率は,
Pr [X0=x0,· · ·, Xn=xn] = Pr [X0=x0]
∏n i=1
Pr [Xi=xi|Xi−1=xi−1]
2σ-加法族を条件として与える場合の条件付き期待値E [·|Fm]に関する数学的定義は,確率 論の教科書を参照されたい.
と表される. すなわち,マルコフ過程においては,初期値の確率分布と状態推移 確率Pr [Xi=x|Xi−1=y]が分かれば,システムの挙動全体を記述することが できる. 一般に状態推移確率は時点に依存するが,時間的に一定であるような状 態推移確率を持つ,すなわち,全ての時点i, jにおいてPr [Xi =x|Xi−1=y] = Pr [Xj=x|Xj−1=y]が成り立つようなマルコフ過程を, 特に斉時マルコフ 過程と呼ぶ3.
確率過程がマルコフ性を有すれば,数値計算は容易となり,解析的にもさま ざまな結果を導くことが可能となることから,応用上大変有用である.
マルコフ過程は, 連続時間においても定義される. その最も代表的なもの が,下で紹介するWiener過程である. マルコフ過程において,確率過程Xの 取り得る値の集合(「状態集合」)が離散(要素数が可算個)のものをマルコフ
連鎖(Markov Chain)と呼ぶ. 状態空間が離散である連続時間マルコフ連鎖
においては, 状態推移はX がジャンプすることによって把握される. これら のジャンプ間隔は指数分布に従うことになる. これは指数分布の特徴である 無記憶性のためである. 最も簡単な連続時間マルコフ連鎖の一つが本章の最 後に紹介するPoisson過程である.
S2.6 ランダム・ウォーク
独立かつ同一な分布に従う(i.i.d.)確率変数の列Z1, Z2, ...,があるとする.
この時,部分和
Xn=x+Z1+Z2+· · ·+Zn, X0=x, (S2.6.1) によって定義される確率過程{Xn, n= 0,1,2, . . .}を,初期値xを持つランダ ム・ウォーク(random walk)と呼ぶ. 実用上は, 期待値のみならず分散の存 在するケース(Var[Zi]<∞)が重要である. 明らかに,ランダム・ウォークの 階差∇Xi=Xi−Xi−1=Zi, を取れば定常過程が得られる.
特別な場合として, E[Zi] = 0であるようなランダム・ウォークを対称ランダ ム・ウォークと呼ぶ. 一方,Ziが2値分布を持つ場合を単純ランダム・ウォー クと呼ぶ. これを組み合わせた単純対称ランダム・ウォークが最も単純なも のであり,多くの場合,単にランダム・ウォークと言う場合,この単純対称ラ ンダム・ウォークを意味することが多い.
ランダム・ウォークは,マルコフ過程の特別な場合である. 対称ランダム・
ウォークは,マルチンゲールである.
ランダム・ウォークは数学的構造が単純なことから, 市場価格の不確実性 を表現する際の出発点として金融工学, ファイナンス理論において多用され る極めて重要なモデルである. 重要な性質を一つあげれば, いま, Ziが分散
3「斉時」の代わりに「斉次」を使うこともある.