拡散過程の母数推定の基礎
統計数理研究所 吉田朋広
N.Yoshida
1
序
拡散過程とは連続な軌跡をもっ Markov過程である. 液体中の微粒子の不規則 な運動はその一っの例である. 株価の変動などの経済現象, 人口増加のモデル, ま た, 集団遺伝学においては, 対象とするある遺伝子の遺伝子全体に対する割合の 変動など拡散過程を使って表現できる確率モデルは多い. (たとえば, 福島$-$石井 [30], 小倉 [85]). 近年, . 統計学において確率過程の理論が様々な形で応用されるようになってき た. 確率過程の理論を従来のたとえば独立な観測に対して統計的漸近理論を展開 するときの解析の手段として応用したり, また, 解析すべき確率モデル自身が確率 過程の場合もある. さらに, 確率過程のモデルを統計的に解析するために確率過程 の手法を利用することもある. たとえば, 独立な観測に対する尤度比過程の弱収束 から最尤推定量やベイズ推定量の漸近的挙動を導く ことができるし (Ibragimov-Has’minskii [40],[41],[42], Inagaki-Ogata [44]), マルコフ過程や拡散過程, 点過程 といったセミマルチンゲールに対しても同様の手法が適用できる.(Ogata-Inagaki[84], Kutoyants [63], [64], [65], Jeganathan [51], Yoshida [110], [112]). 経験分布
関数に対する漸近的な結果は確率過程の一つのクラスであるセミマルチンゲール
に対する収束定理から導けるし ( $Khmaladze[58|,[59]$, Shorack-Wellner [99]), 寿
命データの解析なども点過程として, セミマルチンゲールによる扱いが可能であ
る. (Fleming-Harrington [28]). 離散的な時間変数をもっ確率過程や連続的な時間
変数をもつ点過程, 拡散過程に関する統計の文献は非常に多い. たとえば本だけあ
げても, Bilingsley [13], Basawa-Rao [8], Basawa-Scott [9], Greenwood-Shiryayev
[35], Snyder [100], Karr [54] などがある. このように, 確率過程の統計学への応用はすでに盛んであり, とくに, セミ マルチンゲールは統計を展開する場としても手法としても不可欠になっている. 拡散過程 (あるいはより一般に伊藤過程) は, はじめに述べたようにそれ自身の 実際的な応用の範囲が広く, また, それはセミマルチンゲールの基本的なクラス で, そこで展開される統計手法を一般のセミマルチンゲールに拡張することは容 易なことが多い. そして, 確率過程やその汎関数の漸近挙動などの膨大な結果が 利用できることは統計家からは大きな魅力である. その上, 局所漸近混合正規性
(Basawa-Scott [9]) など, 確率過程の場合に起きる, 独立な観測の場合と本質的 に異なった統計的現象が, 拡散過程のモデルからも見ることができる. さらに, 経 験分布関数や変化点問題, また, 分枝過程モデルからわかるように, 統計量や尤 度比の極限として, 必然的に拡散過程が現れ, 検定統計量の近似などに役立っこ とを考えると拡散過程に対して統計を展開することは重要であろう. (Ritov [95], Swensen [102].) ここでは以下の節で拡散過程の母数推定問題をセミマルチンゲールの枠組みも 鑑み簡単に紹介をする. 最後に, この報告の執筆をお勧めくださった赤平昌文教 授に感謝の意を表したい.
2
確率積分
,
確率微分方程式
この節では確率解析の基本的な道具を用意する. 詳しくは, 渡辺 [108],Ikeda-Watanabe [43], Gihmann-Skorohod [33], Friedman [29], Jacod [45], Jacod-Shiryayev [48] 等を参照されたい.
確率空間 $(\Omega, F, P)$ と $F$ の増大する部分\mbox{\boldmath $\sigma$}-加法族 $(F_{t})_{t\geq 0}$を考える. つまり,
$0\leq s\leq t$ に対して, $F_{s}\subset F_{t}$となるとする. (厳密には, $(F_{t})$ の右連続性などを
述べなければならないが, ここでは省略する.) 確率空間 $(\Omega, F, P)$ 上の R-値確率
過程 $w=(w_{t})_{t\geq 0}$を $(F_{t})$ に適合した Wiener 過程とする. つまり, (i) $w=(w_{t})_{t\geq 0}$
は (Ft)-適合. すなわち, $w_{t}$は Ft-可測. (ii) $w_{0}=0$. $t$ $arrow w$
,
は連続. (ili) 任意の$0\leq s<t$ に対して, $w_{t}-w_{s}$は $F_{s}$と独立で正規分布 $N(0, t-s)$ に従う.
(Ft)-適合有界確率過程 $(g_{t})_{t\geq 0}$が次の条件を満足するとせよ : ある点列 $t_{:}$,
$0=t_{0}<t_{1}<\cdots<t;<\cdotsarrow\infty$ が存在して, $t\in[t_{l-1}, t_{\dot{l}}$) に対して $g_{t}=g_{t_{i-1}}$.
このとき, $0\leq t<\infty$ に対して,
$I(g, t)= \sum_{i=1}^{\infty}g_{t_{i-1}}(w_{t\wedge t_{2}}-w_{t\wedge t_{i-1}})$
と定義する. このとき, 容易に $I(g, t)$ が2乗可積分マルチンゲールであることが
確かめられる :
(i) 各 $t\geq 0$ に対して $E[I(g, t)^{2}]<\infty$.
(ii) 確率過程 $tarrow I(g, t)$ は $(F_{t})$一マルチンゲール. っまり, $0\leq s\leq t<\infty$ に対
して,
$E[I(g, t)|F_{s}]=I(g, s),$ $a.s$.
さらに, (iii) 各 $t\geq 0$ に対して
であることがわかる. 性質 (iii) は $I$が $L^{2}(\Omega\cross[0, T], P\otimes dt)$ から $[0, T]$ 上の 2 乗
可積分マルチンゲールの空間への等長写像であることを表していると見なせるが,
これによって, 一般の $(F_{t})$一適合過程 $(g_{t})_{t\geq 0}$ で各 $t\geq 0$ に対して $E[ \int_{0}^{t}g_{s}^{2}ds]<\infty$
を満足するものに対して, 2 乗可積分マルチンゲール $(I(g, t))_{t\geq 0}$が定義される. こ の $I(g, t)$ は上の $(i),(ii),(\ddot{u}i)$ を満足する. $I(g, t)= \int_{0}^{t}g_{s}dw_{s}$ と表し, $g_{t}$の確率積分 (stochastic integral) という. 確率積分は次の性質をもっ. $( i)\int_{0^{0}}g_{s}dw_{s}=0$
(ii) $0\leq s\leq t<\infty$ に対して,
$E[ \int_{0}^{t}g_{u}dw_{u}|F_{s}]=\int_{0}^{s}g_{u}dw_{u}a.s$.
(iii) 各 $t\geq 0$ に対して
$E[( \int_{0}^{t}g_{u}dw_{u})^{2}]=E[\int_{0}^{t}g_{u}^{2}ds]$ .
また, $0\leq s\leq t<\infty$ に対して,
$E[( \int^{t}g_{u}dw_{u})^{2}|F_{s}]=E[\int_{s}^{t}g_{u}^{2}du|F_{s}]a.s$. F0一可測確率変数 $X_{0}$と各区間 $[0, t]$ 上可積分な $(F_{t})$一適合確率過程 $a_{t}$と上で定 義された確率積分によって, $X_{t}=X_{0}+ \int_{0}^{t}a_{s}ds+\int_{0}^{t}g_{s}dw_{s}$ と表される $(F_{t})$一適合過程 $(X_{t})_{t\geq 0}$を伊藤過程とよぶ. つまり, 伊藤過程は局所有 界変動な部分とマルチンゲール部分の和で表されている. 確率演算を行う上で最 も重要な公式の一つがっぎの 伊藤の公式. $F(x)$ を2回連続微分可能な関数とする. このとき, $F(X_{t})=F(X_{0})+ \int_{0}^{t}F’(X_{s})g_{s}dw_{s}+\int_{0}^{t}F’(X_{s})a_{s}ds$ $+ \frac{1}{2}\int_{0}^{t}F^{n}(X_{s})g_{s}^{2}ds$. ここで, プライムは微分を表す. 伊藤の公式は伊藤過程の関数による変換がまた伊藤過程で, その分解が右辺で与 えられることを示している. (厳密には, $t$ の停止時による” 局所化” を考えなけ ればならない).
$R$上の関数 $v(x),$$v_{0}(x)$ が次の条件を満足するとする.
定数 $L$ がとれて,
(i) 線形増大性 :
$|v(x)|^{2}+|v_{0}(x)|^{2}\leq L(1+|x|^{2}),$ $x\in R$
(ii)Lipschitz 連続性 :
$|v(x)-v(y)|^{2}+|v_{0}(x)-v_{0}(y)|^{2}\leq L|x-y|^{2},$ $x,$$y\in R$
が成り立っ.
定理1. 上の条件のもとで, 任意の F0一可測確率変数$\eta$に対して方程式
$X_{t}= \eta+\int_{0}^{t}v(X_{s})dw_{s}+\int_{0}^{t}v_{0}(X_{s})ds,$ $t\in[0, \infty$)
を満たす解 $(X_{t})_{t\geq 0}$が存在する. 上の確率積分方程式を微分形 $dX_{t}=v(X_{t})dw_{t}+v_{0}(X_{t})dt,$ $X_{0}=\eta$ で表し, これを確率微分方程式とよぶ. 確率微分方程式の解の定義はいろいろあ るが (渡辺 [108] ), 定理1で存在が保証される解は強い解 (strong solution) と 呼ばれるものである. また, この解の (ある意味での) 一意性も保証される. $(X_{t})$ は連続な (強) マルコフ過程であることが示され, $(X_{t})$ は拡散過程である. また, 上の確率微分方程式の右辺第 1 項を拡散項, 第2項をずれ項と呼ぶ.
3
拡散過程の母数推定
ずれ項にパラメータ $\theta$ が含まれる確率微分方程式を考える : $dX_{t}=v(X_{t})dw_{t}+v_{0}(X_{t}, \theta)dt,$ $X_{0}=\eta$. この方程式の解を $X_{t}^{\theta}$と書く. $X_{t}^{\theta}$によって $P$から誘導される $C([0, T])$ 上の確率測 度を $P_{\theta}^{T}$とする.$P_{\theta^{T}}$ の $P_{\theta^{T_{0}}}$に関する Radon-Nikodymの微分は次の公式で与えられる.
(Liptser-Shiryayev [71]).
$\frac{dP_{\theta}^{T}}{dP_{\theta}^{T_{0}}}=\exp\{\int_{0}^{T}\frac{v_{0}(X_{t},\theta)-v_{0}(X_{t},\theta_{0})}{v(X_{t})^{2}}dX_{t}-\frac{1}{2}\int_{0}^{T}\frac{v_{0}(X_{t},\theta)^{2}-v_{0}(X_{t},\theta_{0})^{2}}{v(X_{t})^{2}}dt\}$ .
この尤度比の公式により未知パラメータの最尤推定や Bayes 推定を行うこと
未知パラメータの空間$\Theta$は $R$ の有界開区間とし, 関数 $v_{0},$ $v$はそれぞれ $R\cross\ominus-$, $R$上で定義され, 滑らかであるとする. 以後任意に$\theta_{0}\in\Theta$を固定し, 真の値を表 し, $\theta_{0}$に対応する確率微分方程式の解を $X_{t}$とかく. $H(x, \theta)=\frac{1}{2}\frac{v_{0}(x,\theta)^{2}}{v(x)^{2}}-\frac{v_{0}(x,\theta)v_{0}(x,\theta_{0})}{v(x)^{2}}$ とおく. $\theta_{0}$に対して正値増大発散関数 $b_{T}$がとれて次の条件を満足するとせよ. 極 限は断わりがなければ $Tarrow\infty$ のもとで考える. また, $arrow p$ は確率収束を, $arrow^{d}$ は 分布収束を表す.
(C1) $b_{T}^{-2}E[ \int_{0\theta\in-}^{\tau_{\sup-}}|\dot{v}_{0}(X_{t}, \theta)v(X_{t})^{-1}|^{2}dt]arrow 0$.
(ドッ トはパラメータに関する微分を表す.)
(C2) $\sup_{\tau 0}b_{T}^{-1}E[\sup_{\theta}-|\int_{0}^{T}v(X_{t})^{-2}[v_{0}(X_{t}, \theta)-v_{0}(X_{t}, \theta_{0})]\dot{v}_{0}(X_{t}, \theta)dt|]<\infty$.
(C3) 各$\theta\in\ominus-$ に対して, ある確率変数$\tilde{\Gamma}(\theta)$ が存在して, $b_{t}^{-1} \int_{0}^{T}\frac{[v_{0}(X_{t},\theta)-v_{0}(X_{t},\theta_{0})]^{2}}{2v(X_{t})^{2}}dtarrow^{p}\tilde{\Gamma}(\theta)$ が成り立ち, 関数$\thetaarrow\tilde{\Gamma}(\theta)$ は$\theta_{0}$ でのみ $\ominus-$ の中の最小値 $0$ をとる. 上の条件 $(C1)-(C3)$ のもとで, $\Gamma$ が連続であり, $(A)$ $\sup_{\theta}|b_{T}^{-1}\log\frac{dP_{\theta}^{T}}{dP_{\theta_{0}}^{T}}+\tilde{\Gamma}(\theta)|arrow p0$, となることがわかる. (A) を示すとき我々はマルチンゲール項の一様収束
$(B)$ $\sup_{\theta}b_{T}^{-1}|\int_{0}^{T}v(X_{t})^{-1}[v_{0}(X_{t}, \theta)-v_{0}(X_{t}, \theta_{0})]dw_{t}|arrow p0$
を示さなければならないが, これは言い換えれば, Banach 空間 $C(\ominus, ||\cdot||_{\infty})-$ に値
をとるの確率変数
$b_{T}^{-1} \int_{0}^{T}v(X_{t})^{-1}[v_{0}(X_{t}, \cdot)-v_{0}(X_{t}, \theta_{0})]dw_{t}$
の分布の$\delta_{0}$( $0$ は恒等的に $0$ の値をとる関数, $\delta$はデルタ分布) への収束を示すこ とだが, これは確率積分の積率の評価に帰着される (たとえば, Billingsley [14]). マルチンゲールによる確率積分の項は元々$L^{2}$ の意味で定義された様に, モーメ ン トの評価は通常の Lebesgue-Stieltijes 積分による確率積分のモーメントの評価に 直せるので, パラメータに関する一様性の議論が可能となる. この評価のための 条件が上の (C1) である. (点過程でも事情は同じである. この場合は compensator
あるいは dual predictable projection と呼ばれるものによる確率積分のモーメン トの評価になる.) さて, (A) と $\tilde{\Gamma}$ の最小点の一意性から次の結果を得る. 定理2. $(C1)-(C3)$ を仮定する. このとき, 最尤推定量$\hat{\theta}_{T}$ は一致性をもつ. す なわち, $\hat{\theta}_{T}arrow^{P}\theta_{0}$. ここで, ひとっ例を上げる. 次の確率微分方程式で定義される拡散過程を考 える. $dX_{t}=dw_{t}+\theta_{0}X_{t}dt$ $X_{0}=x_{0}$.
この拡散過程は線形拡散過程と呼ばれる. $\Theta=(\alpha, \beta),$ $\beta<0$ のとき, この拡散過
程はエルゴード性をもち, 不変分布は正規分布 $N(0, - \frac{1}{2\theta_{0}})$ である. したがって, $b_{T}=T$ととると, $\tilde{\Gamma}(\theta)=\lim_{Tarrow\infty}\frac{1}{2T}\int_{0}^{T}(\theta-\theta_{0})^{2}X_{t}^{2}dt$ $=- \frac{I}{4\theta_{0}}(\theta-\theta_{0})^{2},$ $a.s$. ゆえに, 条件 (C3) が満足される. 条件 (C1), $C(2)$ も推移確率密度関数の形から 容易に示すことができる. $\alpha>0$ のときは $X_{t}$はエルゴード性をもたない. $e^{-\theta_{0}t}X_{t}$ が可閉マルチンゲールであることが 2 次積率の計算からわかり, マルチンゲール 収束定理によって, ある確率変数 $k$が存在して $\lim_{tarrow\infty}e^{-\theta_{0}t}X_{t}=k,$ $a.s$. であることが示される. このとき, $b_{t}=e^{2\theta_{0}t}$にたいして $\lim_{Tarrow\infty}\frac{1}{2}e^{-2\theta_{0}T}\int_{0}^{T}(\theta-\theta_{0})^{2}X_{t^{2}}dt$ $= \lim_{Tarrow\infty}(4\theta_{0})^{-1}(\theta-\theta_{0})^{2}\frac{\int_{n^{T}}e^{-2\theta_{0}t}X_{1}^{2}\cdot e^{2\theta_{0}t}dt}{\frac{1}{2\theta_{0}}\int_{0}^{T}e^{2\theta_{0}I}dt}$ $= \lim_{Tarrow\infty}(4\theta_{0})^{-1}(\theta-\theta_{0})^{2}k^{2},$ $a.s$. となり, (C3) が成り立っ. (C1), (C2) も同様にして示される. 確率変数 $k$は正規 分布に従い, この場合は$\Gamma$ が確率変数になる. っぎに最尤推定量の漸近分布を考えよう. それを導くために, 尤度比の漸近的
挙動, っまり, いわゆる局所漸近正規性 (local asymptotic normality) や局所漸近
混合正規性 (local asymptotic mixed normality) の概念は必ずしも必要ない. しか
量など尤度に関連のある統計量の漸近的挙動が統一的に導けることなどの理由で, ここでも尤度比の漸近挙動による方法をとる.
尤度比 $dP_{\theta^{T_{0}}+b_{\overline{T}}}\}_{u}/dP_{\theta_{0}}^{T},$ $u\in R$, は多くの場合, 指数の形の分布族で近似される :
$Z_{T}(u)$ $:= \frac{dP_{1\theta_{0}+b_{T}^{-T}u}^{T}}{dP_{\theta^{T_{0}}}}=\exp\{u\triangle_{T}(\theta_{0})-A_{T}(u, \theta_{0})\}$
.
もし,
$\triangle_{t}(\theta_{0})arrow^{d}N(0, I(\theta_{0}))$
$A_{T}(u, \theta_{0})arrow^{P}\frac{1}{2}I(\theta_{0})u^{2}$
ならば, このモデルは (厳密には” 実験 (experiments)” は) \mbox{\boldmath $\theta$}oで局所漸近正規性を
持つと言う. 局所漸近正規性は LeCam [69] によって導入された. 独立な観測でも
同一分布でなければ, $\triangle_{T}(\theta_{0})$ の法則極限$\Delta(\theta_{0})$ が無限分解可能分布に従うことも
ある. 確率過程の問題では大ざっぱに言って, エルゴード的なモデルでは局所漸近
正規となり, 上の例の後の場合のように, エルゴード的でない場合に局所漸近混合
正規性が現れる, Jeganathan [50], Basawa-Scott [9]. この場合には$\triangle\tau(\theta_{0})$ の分布
は$\Gamma(\theta_{0})^{\frac{1}{2}}N$
の分布に収束し, $A_{T}(u, \theta_{0})$ は$\frac{1}{2}\Gamma(\theta_{0})u^{2}$に確率収束する. ここで, $\Gamma(\theta_{0})$
は正値確率変数で, $N$はそれと独立な標準正規確率変数である. また, セミマルチ ンゲールに対して, $\triangle(\theta_{0})$ の分布が無限分解可能分布になる場合が Taraskin [104] によって示され, 無限分解可能分布の混合になる場合が Yoshida [109] にある. Ibragimov-Has’minnsk\"u [40] (それと [41], [42]) は独立同一分布に従う観測の 場合に $uarrow Z_{T}(u)$ を確率過程と見て, その弱収束を示し, その結果から最尤推定量 の漸近挙動を導いた. 稲垣-尾形はパラメータが多次元の場合に, 確率場 $uarrow Z_{T}(u)$ の弱収束を示し, AIC などへの統計的応用を示した. また, マルコフ過程にも適
用可能なことを示した, Inagaki-Ogata [44], Ogata-Inagaki [84]. Kutoyants はエ
ルゴード的な拡散過程と点過程に対して同様の結果を示した. ([65] をみよ). 局所 漸近混合正規の場合は Jeganathan [51] が議論している. Ibragimov-Has’minskii に始まるこの手法は理論の見通しの良いことが魅力だが, 統計量の積率の存在ま で保証するある種の強い分離性のための条件を仮定するため, 確率過程の複雑な パラメ トリックモデルに適用するのは困難のように思える. しかし, $Z_{T}$の弱収束 自身はこの様な場合にも検証が容易なより弱い条件のもとで成立することが示さ れる. 以下の議論は初めの拡散モデルで述べられるが, 一般的なモデル, とくに セミマルチンゲールでも同様の結果が得られる. 次の条件を考える. (C4) $\sup_{T}b_{T}^{-1}E[\int_{0}^{T}\sup_{\theta}|\dot{v}_{0}(X_{t}, \theta)v(X_{t})^{-1}|^{2}dt]<\infty$.
(C6) 正値確率変数\Gamma が存在して, $Tarrow\infty$ のとき,
$\Gamma_{T}$ $:=b_{T}^{-1} \int_{0}^{T}\dot{v}_{0}^{2}(X_{t}, \theta_{0})v^{-2}(X_{t})dtarrow p$F.
エルゴード的な場合を含めて, 非エルゴード的な統計モデルの漸近理論には
混合型のマルチンゲール中心極限定理とその収束の安定性が必要になる. ここで,
収束の安定性とは次の意味である. 確率変数列 $X_{n}$がある分布 $F$に分布収束する
とせよ. 確率変数 $Y$に確率収束する確率変数列臨があるとき, 同時分布 $(X_{n}, Y_{n})$
は一般に分布収束するとは限らない. 任意の $Y_{n},$ $Y_{n}arrow^{p}Y$, に対して, $(X_{n}, Y_{n})$ が
分布収束するとき, 確率変数列 $X_{n}$は分布 $F$に安定的に分布収束すると言い,
$X_{n}arrow dF$ (stably)
と表す. (Aldous-Eagleson [3]). 次の定理は一般のセ ミマルチンゲールの列に対し
て証明できるが, 最も簡単な形で述べておく.$\cdot$ 証明は Feigin [27], Yoshida [109].
定理3. $(\Omega, F, P;(F_{t})_{t\geq 0})$ を filtration のある確率空間とする. (だいたい増大
する\mbox{\boldmath $\sigma$}-代数 $F_{t}$があるということ.) $(F_{t})$ に適合する Wiener過程 $w$と確率過程 $g_{t}$に
対して, 正値発散増大関数 $b_{T}$ と正値確率変数 $K$があって,
$p- \lim_{tarrow\infty}b_{T}^{-1}\int_{0}^{T}g_{s}^{2}ds=K$
とせよ. このとき,
$b_{T}^{\frac{1}{2}} \int_{0}^{T}g_{s}dw_{s}\sim^{d}L\{K^{\frac{1}{2}}N\}$, (stably).
ここで, $N$は $K$と独立な標準正規確率変数である.
次の結果は局所漸近混合正規性と呼ばれるものである.
定理4. 条件 $(C4)-(C6)$ のもとで, 次の展開が成り立っ. 各$\theta_{0}\in\Theta,$ $u\in R$ に
対して,
$\log Z_{T}(u)=u\triangle\tau-\frac{1}{2}u^{2}\Gamma_{T}+\rho_{T}(u)$.
ここで, $\rho_{T}(u)arrow^{p}0,$ $\Gamma_{T}arrow p\Gamma,$ $L\{\triangle\tau, \Gamma_{T}\}arrow L\{\Gamma^{\frac{1}{2}}N, \Gamma\},$ $N$は$\Gamma$
と独立で $N(0,1)$
証明は 1 階のテイラー展開, 混合型のマルチンゲール中心極限定理とその収束
の安定性による.
$C_{0}(R)$ を $R$上で定義された連続関数で無限遠で $0$ になるものの全体とし, 一様
ノルムを入れて, Banach 空間と見る. $Z_{T}(u)$ をその最大値が $\{u;\theta_{0}+B_{T}^{\frac{1}{2}}u\in\ominus\}-$
に在るように $C_{0}(R)$ の元に拡張する. それを同じ記号で表す. $Z(u)= \exp\{u\Gamma^{\frac{1}{2}}N-\frac{1}{2}u^{2}\Gamma\}$ とおく. ここで, $N$は$\Gamma$ と独立で $N(0,1)$ に従う確率変数である. $Z(\cdot)$ は $C_{0}(R)$ に値をとる確率変数と見なせるが, 上の結果より, $Z_{T}(\cdot)$ の有限次元分布の $Z(\cdot)$ の対応する有限次元分布への収束は容易に示される. さらに, $\{Z_{T}(\cdot);T\geq 0\}$ の $C_{0}(R)$ 上の分布の tightness が証明できて, 結局 定理 5. 条件 $(C1)-(C6)$ のもとで, $L\{Z_{T}(\cdot)\}arrow L\{Z(\cdot)\}$. 任意の最尤推定量を$\hat{\theta}_{T}$ とし, $\hat{u}_{T}=b^{\frac{1}{T2}}(\hat{\theta}_{T}-\theta_{0})$ とおく. また, $Z(u)$ の最大 値を与える点を$\hat{u}$ とする. $C_{0}(R)$ 上の連続汎関数 $F(Z)= \sup_{x\leq a}Z(x),$ $G(z)=$ $\sup_{x>a}Z(x)$ に対して連続性定理 (たとえば, Billinsley [14]) を使えば, $P(\hat{u}\tau<a)$ $=P(F(Z_{T})>G(Z_{T}))+o(1)$ $arrow P(F(Z)>G(Z))$ $=P(\hat{u}<a)$. したがって, 最尤推定量の漸近分布は上の定理の系として得られる. 定理 6. 条件 $(C1)-(C6)$ のもとで, $L\{b^{\frac{1}{T2}}(\hat{\theta}_{T}-\theta_{0})\}arrow L\{\Gamma^{-\frac{1}{2}}N\}$. ここで, $N$は$\Gamma$ と独立で $N(0,1)$ に従う確率変数である. おわりに, さらに詳しく知りたい読者のために幾らかの文献を挙げておく.
確率微分方程式, 拡散過程については渡辺 [108], Ikeda-Watanabe [43],
Gihmann-Skorohad [33], Friedman [29]) Liptser-Shiryayev [71] , 国田 [62] など多数ある. 点
過程もセミマルチンゲールの立場から見れば, その統計に使われる手法が拡散過 程のときと同じであることは多い. セミマルチンゲールについては Jacod [45], Jacod-Shiryayev [48], Ikeda-Watanabe [43] など. 他にも非常に多い. セミマルチ ンゲールの理論の基礎となった論文に関してはここで紹介する余裕がないので, こ れらの本の文献を参照されたい. 寿命データの解析なども点過程として, セミマルチンゲールによる扱いが可
能である. Aalen [1], $GiU[34]$, Ramlau-Hansen [93], Prentice-Self [91], Karr [55],
Borgan [16], Mckeague [78], Fleming-Harrington [28].
統計のための基礎的な極限定理について. Mandl [75] は1次元拡散過程に対
する大数の法則, 中心極限定理など応用し易い形の結果を含んでいる. エルゴー
ド性などの確率過程の漸近挙動に関しては Maruyama-Tanaka [76],
Watanabe-Motoo [107], Khas’minskii [57], Az\’ema et al. [5], [6], Gihmann-Skorohood [33],
Friedman [29], Bhattacharya [11], Lepingle [70], Hall-Heyde [38],
Bhattacharya-Ramasubramanian [12], Kliemann [60], Arnord-Khemann [4]. など 非エルゴ
$-\text{ト^{}\backslash }$的な場合にはマルチンゲール収束定理が役にたつ.
これに関しては,
Keller-Kersting-R\"osler [56], Yoshida [109]. $\ovalbox{\tt\small REJECT}$ルチンゲールに対する中心極限定理などは
重要. Prokhorov [92], Brown-Eagleson [19], Scott [98], McLeish [79], [80], Eagleson
[24], [25], Rootzen [96], [97], Hall [37], Aldous-Eagleson [3], Rebolledo [94],
Liptser-Shiryayev [72], [73], Taraskin [103], Jakubowski [49], K}opotowski [61], Jacodet al.
[47], Bhattacharya [15], Grigelionis-Mikulyavichus [36], Jacod [46], Touati [105],
Feigin [27], Jacod-Shiryayev [48]. 拡散モデルの尤度比の公式は Liptser-Shiryayev [71]. この本は統計への応用も 幾らか含んでいる. また, 第 2 巻は点過程の基礎的な議論を含んでいる. セミマル チンゲールの尤度比に関しては Kabanov-Liptser-Shiryayev [53] , Jacod-Shiryayev [48]. カルマンフィルターや非線形フィルタリングの問題など数学的にも興味深い拡 散過程の統計的問題もあるが, ここでは主により狭い意味の統計的な問題である パラメータ推定の問題に限定する. 拡散過程の統計に関しては Basawa-Prakasa Rao [8] の第9章. エルゴード的
な場合では Brown-Hewitt [20], Prakasa Rao-Rubin [90], Prakasa Rao [86], [87],
[88], [89], Mishra-Prakasa Rao [81], [82], Bose [17], Basu [10].
尤度比過程の収束として最尤推定量, Bayes推定量の漸近的性質を導いたもの
は Kutoyants [63], [64], [65], Yoshida [110], [112]. McKeague [77] は真のモデルが
パラメトリックモデルに含まれない場合を議論した. コントラスト関数を最小に
する推定量の漸近的性質は Lanska [67], Yoshida [112].
によるものは Yoshida [112].
Novikov [83], Brown [18] は逐次解析を扱っている. Tsitovich [106] は拡散領
域に制限のある場合を議論している. そのほか Adke-Dharmadhikari [2])
Garman-Klass [31], Loges [74], Swensen [102], Stoyanov [101], Banon [7].
拡散係数の推定は Dhonal [23]. Dacunha-Castelle-Florens-Zmirou[22], Yoshida
[110]. 拡散係数が小さくなる場合は Kutoyants [64], Genon-Catalot [32]. 確率展開は Kutoyants [66], 漸近展開は Yoshida [111], [113]. セミマルチンゲールの立場では Greenwood-Shiryayev [35], Huton-Nelson [39], Taraskin [104], Yoshida [114].
参考文献
[1] Aalen, O.D.: Nonparametric inference for a family of counting processes.
Ann. Stat., 6, 4, 701-726 (1978)
[2] Adke, S.R., Dharmadhikari, S.R.: The maximum likelihood estimation of
coefficient of diffusion in a birth and diffusion process. Biometrika 67, 3,
571-576 (1980)
[3] Aldous,D.J., Eagleson,G.K.: On mixing and stability oflimit theorems. Ann.
Probab. 6, 325-331 (1978)
[4] Arnold, L., Kliemann, W.: On unique ergodicity for degenerate diffusions.
Stochastics 21, 41-61 (1987)
[5] Az\’ema, J., Kaplan-Duflo, M., Revuz, D.: R\’ecurrence fine des Processus de
Markov. Ann. Inst. Henri Poincar\’e 2, 3, 185-220 (1966)
[6] Azema, J., Kaplan-Duflo, M., Revuz, D.: Mesure invariante sur les classes
r\’ecurrentes des processus de Markov. Z. Wahrsch. Verw. Gebiete, 8, 157-181
(1967)
[7] Banon, G.: Nonparametric identification for diffusion processes. SIAM J.
Control and optimization 16, 3 (1978)
[8] Basawa, I.V., Prakasa Rao, B.L.S.: Statistical inference for stochastic
pro-cesses. New York: Academic Press. 1980
[9] Basawa,I.V., Scott,D.J.: Asymptotic $6ptimal$ inference for non-ergodic
[10] Basu, A.: Asymptotic theory of estimation in non-linear stochastic
differ-ential equations for the multiparameter case: $Sankhy\overline{a}45$, Ser. $A,$ $1,56- 65$
(1983)
[11] Bhattacharya, R.N.: Criteria for recurrence and existence of invariant
mea-sures for multidimensional diffusions. Ann. Probab. 6, 4, 541-553 (1978)
[12] Bhattacharya, R.N., Ramasubramanian, S.: Recurrence and Ergodicity of
Diffusions. J. Multi. Analysis 12, 95-122 (1982)
[13] Billingsley, P.: Statistical inference for Markov processes: University of
Chicago Press. 1961
[14] Billingsley, P.: Convergence of probability measures. New York: Wiley. 1968
[15] Bhattacharya, R.N.: On the functional central limit theorem and the law of
the iterated logarithm for Markov processes. Z. Wahrsch. Verw. Gebiete, 60,
158-201 (1982)
[16] Borgan, O.: Maximum likelihood estimation in parametric counting process Models with applications to censored failure time data. Scand. J. Statist. 11,
1-16 (1984)
[17] Bose, A.: Berry-Esseen bound for the maximum likelihood estimator in the
Ornstein-Uhlenbeck process. $Sankhy\overline{a}48$, Ser. $A,$ $2,181- 187$ (1986)
[18] Brown, B.M.: A sequential procedure for diffusion processes. In: E.J.
Williams (ed.) Studies in Probability and Statistics, 89-96, Jerusalem
Aca-demic Press (1974)
[19] Brown, B.M., Eagleson, G.K.: Martingale convergence to infinitely divisible
laws with finite variances. Trans. A.M.S. 162, 449-453 (1971)
[20] Brown, B.M., Hewitt, J.I.: Asymptotic likelihood theory for diffusion
pro-cesses. J. Appl. Prob. 12, 228-238 (1975)
[21] Brown, B.M., Hewitt, J.I.: Inference for the diffusion branching process. J.
Appl. Prob. 12, 588-594 (1975)
[22] Dacunha-Castelle, D., Florens-Zmirou, D.: Estimation of the coefficients of
a diffusion from discrete observation. Stochastics 19, 263-284 (1986).
[23] Dohnal, G.: On estimating the diffusion coefficient. J. Appl. Prob. 24,
[24] Eagleson, G.K.: Martingale convergence to mixture of infinitely divisible
laws. Ann. Probab. 3, 3, 557-562 (1975)
[25] Eagleson, G.K.: Some simple conditions for limit theorems to be mixing.
Theory Probab. Appl. 21, 637-643 (1976)
[26] Feigin, P.D.: Maximum likelihood estimation for continuous-time stochastic
processes. Adv. Appl. Prob. 8, 712-736 (1976)
[27] Feigin, P.D.: Stable convergence of semimartingales. Stoch. Processes Appl.
19, 125-134 (1985)
[28] Fleming, T.R., Harrington, D.P.: Counting processes and survival analysis. :
Wiley. 1991
[29] Friedman, A.: Stochastic differential equations and applications. I, II. New
York: Academic Press. 1975
[30] 福島正俊-石井一成 : 自然現象と確率過程. 数学セミナー. 1980
[31] Garman, M.B., Klass, M.J.: On the estimation of security price volatilities
from historical data. J. of Business, 53, 1, 67-78 (1980)
[32] Genon-Catalot, V.: Maximum contrast estimation for diffusion processes
from discrete observations. Statistics 21, 1, 99-116 (1990)
[33] Gihman,I.I., Skorohod,A.V.: Stochastic differential equations. New York:
Springer. 1972
[34] Gill,R.D.: Understanding Cox’s regression model: a martingale approach. J.
American Statistical Association, 79, 386 (1984)
[35] Greenwood, P.E., Shiryayev, A.N.: Contiguity and the statistical invariance
principle. : Gordon and Breach Science Publishers. 1985
[36] Grigelionis, B., Mikulyavichus, R.: On stably weak convergence of
semi-martingales and of point processes. Theory Probab. Appl. 28, 337-350 (1983)
[37] Hall, P.: Martingale invariance principles. Ann. Probab. 5, 6, 875-887 (1977)
[38] Hall, P., Heyde, C.C.: Martingalelimit theory and its application. : Academic
Press. 1980
[39] Hutton, J.E., Nelson, P.I.: Quasi-likelihood estimation for semimartingales.
[41] Ibragimov,I.A., Has’minskii,R.Z.: Asymptotic behavior of some statistical
estimators II. Limit theorem for the aposteriori densityand Bayes estimators.
Theory Probab. Appl. 18, 76-91 (1973)
[42] Ibragimov,I.A., Has’minskii,R.Z.: Statistical estimation. New York: Springer.
1981
[43] Ikeda,N., Watanabe,S.: Stochastic differential equations and diffusion
pro-cesses, second edition. Tokyo: North-Holland/Kodansha, 1989
[44] Inagaki,N. and Ogata,Y.: The weak convergence of likelihood ratio random
fields and applications. Ann. Inst. Statist. Math. 27, 391-419 (1975)
[45] Jacod, J.: Calcul stochastique et probl\‘emes de martingales. Lecture Notes in Math. 714, Berlin: Springer. 1979
[46] Jacod, J.: Processus \‘aaccroissementsind\’ependants: Unecondition n\’ecessaire
et suffisante de convergence en loi. Z. Wahrsch. Verw. Gebiete, 63, 109-136
(1983)
[47] Jacod, J., Klopotowski, A., M\’emim, J.: Th\’eor\‘eme de la limit centrale et
convergence fonctionnelle vers un processus \‘a accroissements ind\’ependants:
la m\’ethode des martingales. Ann. Inst. Henri Poincar\’e, 18, 1, 1-45 (1982) [48] Jacod, J., Shiryaev, A.N.: Limit theorems for stochastic processes. Berlin:
Springer. 1987
[49] Jakubowski, A.: On limit theorems for sums of dependent Hilbert space
valued random variables. Lect. Notes in Statist. 2, 178-187 (1980)
[50] Jeganathan,P.: On the asymptotic theory of statistical estimation when the
limit of the likelihood ratios is mixed normal. Sankhya, Ser. A. 44, 173-212
(1982)
[51] Jeganathan,P.: On the convergence of moments of statistical estimators.
Sankhya, Ser. A. 44, 213-232 (1982)
[52] Jeganathan,P.: A solution of the martingale central limit problem. I,
Sankhya, Ser. A. 44, 3, 299-318 (1982). II. Sankhya, Ser. A. 44, 3, 319-340
[53] Kabanov, Yu.M., Liptser, R.Sh., Shiryayev, A.N.: Absolute continuity and
singularity of locally absolutely continuous probability distributions. I. Math.
USSR-Sbornik, 35, 5, 631-680. II. 36, 1, 31-58 (1980).
[54] Karr, A.F.: Point processes and their statistical inference. New York: Marcel
Dekker. 1986
[55] Karr, A.F.: Maximum likelihood estimation in the multiplicative intensity
model via sieves. Ann. Stat., 15, 2, 473-490 (1987)
[56] Keller,G., Kersting,G. and R\"osler,U.: On the asymptotic behavior of
so-lutions of stochastic differential equations. Z. Wahrsch. Verw. Gebiete, 68,
163-189 (1984)
[57] Khas’minskii, R.Z.: Ergodic properties of recurrent diffusion process and
stabilization of the solution to the Cauchy problem for parabolic equations.
Theory Probab. Appl. 5, 2, 179-196 (1960)
[58] Khmaladze,E.V.: Martingale approach in the theory ofgoodness-of-fit tests.
Theory Probab. Appl. 26240-257 (1981)
[59] Khmaladze,E.V.: Some applications of the theory of martingales to statistics.
Russian Math. Surveys 37, 6, 215-237 (1982)
[60] Khemann, W.: Recurrence and invariant measures for degenerate diffusions.
Ann. Probab. 15, 2, 690-707 (1987)
[61] K}opotowski, A.: Mixtures of infinitely divisible distributions as limit laws
for sums of dependent random variables. Z. Wahrsch. Verw. Gebiete, 51,
101-113 (1980)
[62] 国田 寛: 確率過程の推定. 産業図書. 1976
[63] Kutoyants,Yu.A.: Estimation of the trend parameter of a diffusion process
in the smooth case. Theory Probab. Appl. 22, 399-406 (1977)
[64] Kutoyants,Yu.A.: Estimation ofa parameter of a diffusion processes. Theory
Probab. Appl. 23, 641-649 (1978)
[65] Kutoyants,Yu.A.:Parameter estimation for stochastic processes. Translated
and edited by B.L.S. Prakasa Rao. Berlin: Heldermann. 1984
[66] Kutoyants,Yu.A.: Expansion of a maximum likelihood estimate by diffusion
[67] L\’anska, V.: Minimum contrast estimation in diffusion processes. J. Appl.
Prob. 16, 65-75 (1979)
[68] Laredo, C.F.: A sufficient condition for asymptotic sufficiency of incomplete
observations ofa diffusion process. Ann. Statist. 18, 3, 1158-1171 (1990)
[69] LeCam, L.: Locally asymptotically normal families ofdistributions.
Univer-sity ofCalif. Publ. Statist. 3, 27-98 (1960)
[70] Lepingle, D.: Sur le comportment asymptotique des martingales localles.
Lect. Notes in Math. 649, 148-161: Springer. 1978
[71] Liptser, R.Sh., Shiryayev, A.N.: Statistics of random processes. I, II. :
Springer. 1977
[72] Liptser, R.Sh., Shiryayev, A.N.: A functional limit theorem for
semimartin-gales. Theory Probab. Appl., 25, 4, 667-688 (1980)
[73] Liptser, R.Sh., Shiryayev, A.N.: On a problem of necessary and sufficient conditions in the functional central limit theorem for local martingales. Z.
Wahrsch. Verw. Gebiete, 59, 311-318 (1982)
[74] Loges, W.: Girsanov’s theorem in Hilbert space and application to the
statis-ticsofHilbert space-valued stochastic differential equations. Stoch. Processes
Appl. 17, 243-263 (1984)
[75] Mandl, P.: Analytic treatment of one-dimensional Markov processes. Prague:
Springer. 1968
[76] Maruyama, G., Tanaka, H.: Some properties of one-dimensional diffusion
processes. Memo. Fac. Sci. Kyushu Univ., Ser $A,$ $11,2,117- 141$ (1957)
[77] Mckeague, I.W.: Estimation for diffusion processes under misspecified
mod-els. J. Appl. Prob. 21, 551-520 (1984)
[78] Mckeague, I.W.: Estimation for asemimartingale regression model usingthe
method of sieves. Ann. Stat., bf 14, 2, 579-589 (1986)
[79] McLeish, D.L.: Dependent central limit theorems and invariance principles.
Ann. Probab. 2, 4, 620-628 (1974).
[80] McLeish, D.L.: An extended martingale invariance principle. Ann. Probab.
[81] Mishra, M.N., Prakasa Rao, B.L.S.: Asymptotic study of the maximum
like-lihood estimator for non-homogenous diffusion processes. Statistics
&Deci-sions 3, 193-203 (1985)
[82] Mishra, M.N., Prakasa Rao, B.L.S.: On the Berry-Esseen bound for
maxi-mum likelihood estimator for linear homogenous diffusion processes. Sankhya
47, Ser. $A,$ $3,392- 398$ (1985)
[83] Novikov, A.A.: Sequential estimation of diffusion processes. Theory Probab.
Appl. 16, 391-393 (1971)
[84] Ogata,Y., Inagaki,N.: The weak convergence of the likelihood ratio random
fields for Markov observations. Ann. Inst. Statist. Math. 29, 165-187 (1977)
[85] 小倉久直: 確率過程論 2. コロナ社. 1985
[86] Prakasa Rao, B.L.S.: Maximum probability estimation for diffusion
pro-cesses. In: Kallianpur, P.R. et al. (eds.), Statistics and Probability, 575-590.
North-Holland. 1982.
[87] Prakasa Rao, B.L.S.: Asymptotic theory for non-linear least square estimator
for diffusion processes. Math. Operationsforsch. $u$. Statist., 14, 2, 195-209
(1983)
[88] Prakasa Rao, B.L.S.: Estimation of the drift for diffusion process. Statistics
16, 2, 263-275 (1985)
[89] Prakasa Rao, B.L.S.: Statistical inference from sampled data for
stochas-tic processes. In: Prabhu, N.U. (ed.), Statistical inference from stochastic
processes. Amer. Math. Soci., 249-284 (1988)
[90] Prakasa Rao, B.L.S., Rubin, H.: Asymptotic theory of estimation in nonhnear
stochastic differential equations. Sankhya, 43, Ser. $A,$ $2,170- 189$ (1981)
[91] Prentice, R.L., Self, S.G.: Asymptotic distribution theory for Cox-type
re-gression models with general relative risk form. Ann. Stat., 11, 3, 804-813
(1983)
[92] Prokhorov, Yu.V.: Convergence of random processes and limit theorems in
probability theory. Theory Probab. Appl. 1, 2, 157-214 (1956)
[93] Ramlau-Hansen, H.: Smoothing counting process intensities by means of
[94] Rebolledo, R.: Central hmit theorems for local martingales. Z. Wahrsch.
Verw. Gebiete, 51, 269-286 (1980)
[95] Ritov, Y.: Asymptotic efficient estimation of the change point with unknown
distributions. Ann. Statist. 18, 4, 1829-1839 (1990)
[96] Rootzen, H.: On the functional central limit theorem for martingales. Z.
Wahrsch. Verw. Gebiete, 38, 199-210 (1977)
[97] Rootzen, H.: A note on convergence to mixtures of normal distributions. Z.
Wahrsch. Verw. Gebiete, 38, 211-216 (1977)
[98] Scott, D.J.: Central limit theorems for martingales and for processes with
stationary increments using aSkorohod representation approach. Adv. Appl.
Probab. 15, 119-137 (1973)
[99] Shorack, G.R., Wellner, J.A.: Empirical processes with applications to
statis-tics. New York, Wiley. 1986
[100] Snyder, D.L.: Random point processes. : Wiley. 1975
[101] Stoyanov, J.M.: Problems of estimation in continuous-discrete stochastic
models. In: Iosifescu, M. (ed.), Proc. 7-th Conference on Probability Theory,
363-373. Editura Academiei Republicii Socialiste Rom\^ania, Bucuresti. 1984.
[102] Swensen, A.R.: A note on statistical inference for a class of diffusion and
approximate diffusions. Stoch. Proc. Appl. 19
[103] Taraskin, A.F.: On limit distributions of martingales. Soviet Math. Dokl.
22, 1, 41-45 (1980)
[104] Taraskin, A.F.: On behaviorofthe hkelihood ratio ofsemimartingales.
The-ory Probab. Appl. 29, 452-464 (1984)
[105] Touati, A.: Th\’eor\‘emes de limite centrale fonctionnels pour les processus de
Markov. Ann. Inst. Henri Poincar\’e, 19, 1, 43-55 (1983)
[106] Tsitovich, I.I.: On estimating the drift of a diffusion process from
observa-tions in a domain. Theory Probab. Appl. 22, 851-858 (1977)
[107] Watanabe, H., Motoo, M.: Ergodicproperty of recurrent diffusion processes.
J. Math. Soci. Japan, 10, 3, 272-286 (1958)
[109] Yoshida,N.: Asymptotic behavior of likelihood ratio in stochastic process
(in Japanese). Master Thesis: Osaka University. 1987
[110] Yoshida,N.: Estimation for diffusion processes with discrete data. Research
Memorandum 382, Institute of Statistical Mathematics. 1990. To appear in
J.M.A.
[111] Yoshida,N.: Asymptotic expansion for small diffusion -an apphcation of
Malliavin-Watanabe theory. Research Memorandum 383, Institute of
Statis-tical Mathematics. 1990
[112] Yoshida,N.: Asymptotic behavior of M-estimator and related random field
for diffusion process. Ann. Inst. Statist. Math. 42, 2, 221-251 (1990)
[113] Yoshida,N.: Asymptotic expansion for small diffusion-an application of the
theory of Malhavin-Watanabe: the general case and second order efficiency
of the maximum hkelihood estimator, Research Memorandum 392. Institute
of Statistical Mathematics 1990. To appear in P.T.R.F.
[114] Yoshida, N.: Conditional Fisher information and non-ergodic statistical
in-ference. Proceedings of the 13th Symposiumon Applied Functional Analysis.
H. Umegaki, W. Takahashi (eds.), 14-21 (1991)
統計モデルの構造の研究
京都大学数理解析研究所
1991.11.20-22
