九州大学学術情報リポジトリ
Kyushu University Institutional Repository
多重混合型漸近推測における正則化推定
清水, 優祐
https://doi.org/10.15017/1806828
出版情報：Kyushu University, 2016, 博士（数理学）, 課程博士 バージョン：
権利関係：Fulltext available.
（様式３）
氏 名 ：清水 優祐
論 文 名 ： Regularized estimation under multiple and mixed-rates asymptotics
（多重混合型漸近推測における正則化推定）
区 分 ：甲
論 文 内 容 の 要 旨
統計的手法で得られる推定量の裾確率評価を行うことで、統計的予測や情報量規準の理論的な計算、
漸近展開における高次項の評価などのモーメント（積率）の収束を必要とする様々な議論の正当性 を与えることが可能となる。本研究では、収束率が異なるパラメータそれぞれに正則化項を課した コントラスト関数の最適化により得られる M-推定量の、モーメントの収束を含む漸近挙動を解明 する。本学位論文は、Shimizu (2016, Annals of the Institute of Statistical Mathematics)と Masuda and Shimizu (2016, arXiv:1406.6751v4)に基づく。
正則化推定は、統計的パラメトリックモデルに含まれるパラメータのいくつかを0と縮小推定して、
現象の記述に非本質的な変数を取り除くことのできる推定手法である。近年の計算機システムや計 測・測定技術の高度な発展により、極めて多くの変数を持つデータの収集が容易になっており、正 則化推定の注目度が増してきている。例えば、独立データを用いた線形回帰モデルの平均パラメー タの最小二乗型正則化推定は、Bridge罰則（Frank and Friedman, 1993）や、 型罰則のLasso
（Tibshirani, 1996）、 型罰則のSeamless- （Dicker et al., 2012）などがあり、長年に亘って研 究されている。
本研究は最小二乗型に限らず、コントラスト関数を一般化しているため、従属データを用いた平均・
分 散 パ ラ メ ー タ の 同 時 正 則 化 推 定 を 行 う こ と が 可 能 で あ る 。 こ れ は 、 正 規 型 疑 似 尤 度 に
Adaptive-Lasso型の正則化項を課し、高頻度従属データを用いてエルゴード過程のドリフト・分散
パラメータの正則化推定を行った、Gregorio and Iacus（2012）の結果を部分的に拡張する。ここ で、Gregorio and Iacus（2012）は、正規型疑似尤度を二次近似し、初期推定量に疑似最尤推定量 を用いて凸解析を行っているが、本研究の結果はコントラスト関数の凸性を仮定しておらず、広く 一般のモデルに対して適用可能であることに注意されたい。
Radchenko（2008）は、統計的確率場が混合収束率を持つ M-推定量の漸近挙動を導出した。本研
究ではその結果を応用し、収束率が異なるパラメータの、同時最適化による正則化推定量の漸近挙 動を求めた。また、統計的確率場の一様裾確率評価を与えるYoshida（2011）の多項式型大偏差不 等式（PLDI）を応用して、正則化推定量の裾確率評価を行った。この際、正則化項の存在により、
正当性を保証
統計的確率場の局所漸近二次構造の仮定が崩れることに注意する。混合収束率を持つ確率場に対す るPLDIはこれまで研究されておらず、新たな知見が得られた。
さらに、事後分布の最適化から導かれる Adaptive-bridge型の正則化項を例に取り上げ、正則化項 に含まれるチューニングパラメータのレートに関する条件を導出した。また、推定量のモーメント の収束に基づくバイアス補正を施したAIC型の情報量規準の導出についても述べている。AICは構 築したモデルの良さを、予測の観点から情報量の概念で捉えた指標であり、医学・疫学、制御工学、
経済学、環境学など広範な分野において実用されている。一方で、その導出には漸近理論を用いて おり、厳密にはAIC はすべての統計的モデルに対して正当性が保証された指標ではないという問題 点を持つ。本研究の結果により、正則化推定に対してAIC 型の情報量規準を用いたモデル評価の妥 当性を理論的に保証することができる。
下図は本研究のフローチャートである。
方法：正則化項を含む確率場に対してPLDIの成立を保証 主眼：正則化推定量のモーメントの収束条件の定式化
予測・情報量規準・高次項の評価等 正則化推定量
モーメントの収束 PLDI
