対数周辺尤度の漸近挙動について
九州大学 江口 翔一
九州大学 増田 弘毅
ベイズアプローチにおける相対モデル記述評価においては,データの対数周辺尤度の漸近 挙動に基づいて最適モデルを決定する.すなわち,対数周辺尤度の主要項を使いやすい形で表 現することができれば記述的モデル評価規準として用いることができる.古典的なベイズ情 報量規準BICにおいては最尤推定量の漸近正規性およびラプラス近似に基づいてその形が 導出されるが,特に従属データモデルなどでは,BIC導出の数学的正当性が厳密に議論されな い場合がしばしばある.本発表では,漸近混合正規性やモデル誤特定の場合まで視野に入れた 枠組みで対数周辺疑似尤度の漸近挙動を表現するための正則条件を提示し,従来のBICの拡 張を提案する.
以下の対数周辺疑似尤度を考える:
Fn = − log
∫
Θ
exp(Hn(θ))ϕ(θ)dθ.
ここでパラメータ θ ∈ Θ ⊂ Rp とし,事前分布 ϕ: Θ → R+, Hn: Ω × Θ → R とする.最も 重要な条件として以下の多項式型大偏差不等式を仮定する:
∃C1, C2 >0, ∃L > 1, ∃const.D > d + q (q > 0) s.t. ∀n > 0, ∀r > 0,
sup
θ0∈K
Pθ0
[ sup
|u|≥rZ
n(u; θ0) ≥ C1 rD
]
≤ C2 rL.
ただし θ0 を Hn で推定される最適パラメータとし, an(θ0) → 0, K ⊂ Θ, Zn(u; θ0) := exp(Hn(θ0+ an(θ0)u) − Hn(θ0))とする. 適当な条件の下で,対数周辺疑似尤度Fnは以下 のように表現できる:
Fn = −Hn(θ0) − p log an(θ0) + 1
2log |Γ0| + p 2log
1 2π −
1 2∥Γ
−12
0 ∆n∥
2− log ϕ(θ0) + op(1)
= −Hn(ˆθn) − p log an(ˆθn) + Op(1). (∗)
ここで∆n := an(θ0)∂θHn(θ0), Γ0 = −an(θ0)2∂θ2Hn(θ0)+op(1)とし, ˆθnはan(θ0)−1(ˆθn− θ0) = Op(1), log an(ˆθn) − log an(θ0) = Op(1)をみたす推定量である.したがって, 例えば (∗) において主要項をみることにより,様々な統計モデルのベイズ型(モデル記述型)モデル 評価の正当性が示される.特に, Hn を対数尤度関数, an(θ) = n−12, ˆθnを最尤推定量とする
と, (∗) は古典的なベイズ情報量規準BICの形に帰着する.