2.3 逆行列法（Matrix Inversion Method）
2.3.4 Tikhonov の正則化法
前項で，アクセレランス行列の特異値分解によるノイズ除去について述べた．最小二乗 法における係数行列の悪条件回避の方法としては他にも Tikhonov の正則化法（Tikhonov regularization）が知られている[32][47]．
Tikhonov の正則化法では，最小二乗誤差だけではなく，解のノルムの最小化も行なう．
前者は解の精度を表し，後者はロバスト性を表す．この条件をまとめると
制約条件：
H f − a
2= Const .
(2.54){
2 2}
min H f − a + λ f
(2.56)と書ける．Tikhonovの正則化法は，ある正則化パラメータλ に対して汎関数
2
2
f
a f
H − + λ
=
J
(2.57)を最小化するベクトルfを悪条件線形方程式の近似解とする方法である．通常，悪条件とは Hの条件数が計算機イプシロンの逆数と同程度もしくはそれ以上のときを指す．Jを最小化 するfの求め方について以下に記す．
まず式(2.57)を以下のように書き直す．
( H f − a ) (
HH f − a ) + λ ( ) f
Hf
=
J
(2.58)次に式(2.58)をfについて微分する．
( ) ( ) ( )
( )
( )
H HH H
H H
2 2
2 2
2
f H f H df a
df f df H f H a
f df df
H f H a f H a df H
λ λ
λ +
−
−
=
+
−
−
=
+
−
−
−
−
=
dJ dJ
(2.59)
式(2.59)において右辺が0になる条件から次式を得る．
( H H I ) H a
f =
H+ λ
−1 H (2.60)式(2.60)を用いて入力同定を行なうのがTikhonovの正則化法である．
しかし正則化パラメータλ の設定に任意性がある．そこで以下に，フルランクの係数行 列をもつ最小二乗問題と，係数行列が悪条件である場合の最小二乗問題について，Tikhonov の正則化法と通常の方法で解いた場合の解について比較する．
(1) 解析方法
係数行列A（5 x 3）と解の真値x（3 x 1）を適当に用意する．そして観測値y（5 x 1）を y = A xとして求める．そして観測値yのみに誤差を与えて，yとAからxを求める．入力 同定においてはこの計算を周波数点数分繰り返すが，ここでは基礎検討を行なうため，最 小二乗問題を1回だけ解くものとする．ただし，誤差の混入を100回繰り返し，xの推定を 100回行なうことで解の誤差を平均化して評価を行なう．
(2) Aがフルランクの場合
正則化パラメータを10-4から103まで増加させてゆき，得られる解ノルムと最小二乗残差 を○でプロットした（図 2.6）．また，Tikhonov の方法を用いない，通常の逆行列法で解い
た場合を×で示している．ほとんどの場合で，Tikhonov の正則化法を用いない方が二乗残 差は小さくなっているが，正則化パラメータの影響で解ノルムは減少していることが分か る．図2.7には，正則化パラメータと得られた解の誤差ノルムの関係を示している．ここで も同様に，Tikhonovの正則化法を用いない方が解の精度が高いことがわかる．
図2.6 正則化パラメータによる 解ノルムと二乗残差の推移
10-3 10-2 10-1 100 101
10-2 10-1 100 101
Residue norm || y - Ax ||
Solution norm || x ||
図2.7 正則化パラメータと解誤差ノルムの関係
λ = 10-4
λ = 103
0 200 400 600 800 1000
10-3 10-2 10-1 100 101
Regularization parameter
Identification error norm
Tikhonov regularization Matrix inversion method Tikhonov regularization
Matrix inversion method
(3) Aが悪条件な場合（κ = 104）
ここでは，係数行列Aが悪条件な場合の結果について述べる．図2.8には，正則化パラメ ータを10-4から103まで増加させたときの，二乗残差と解ノルムの推移を示す．この場合に は，正則化パラメータを大きくするほど解ノルムは小さくなってゆくが，最小二乗残差は ある値へ収束する．しかし，パラメータをいくつに設定しても，従来の逆行列法よりも解 の精度は高い．図2.9には，正則化パラメータと解の誤差ノルムとの関係を示す．正則化パ ラメータは200以上にしてもほとんど誤差ノルムは変化していないことがわかる．
10-2 10-1 100 101
10-2 10-1 100 101 102
Solution norm || x ||
0 200 400 600 800 1000
10-1 100 101 102
Identification error norm
Tikhonov regularization Matrix inversion method
λ = 10-4
λ = 103 Tikhonov regularization Matrix inversion method
(4) まとめ
最小二乗問題において係数行列がフルランクの場合には，Tikhonov の正則化法による解 の精度向上は見られない．係数行列が悪条件（本検討ではκ = 104）な場合には，Tikhonov の正則化法を用いることで解の精度が向上する．