巴 /
3.2 問題の定式化
本節では,記号の定義と問題設定を行う.次いで,本論文で提案する子法の基礎 となる BlockLMS‑Newtonアルゴリズムについて述べる.適応システムの構成を図
3.1に示す.構成は一般的な適応フィルタモデルと同じであるが本手法はブロック信
x ; R Y
日システム
W
NY1¥L)
│
必 3.1:未知システムの│百j定モデル
u j L )
ejL)
号処珂に基づく }f式のため,各量はブロック化したものとなる.ブロ ック適応信号 処理の問題は,評価量 Jを誤差ベクトル ciL)
ciL)
全
zjL)‑dL)二 diL)十 件
L)̲ y~L) (3.1)のBMSE(BlockMean Square Error)
J 全 ;則的
TdL)│件
とし,その量を最小にする最適な係数ベクトル hN(OPt)を求めることである.ここ で diL)は未知システムの出力ベクトルであり
d~L)
=
X~:';J W N (3.3)で与えられる.但し ,WNは未知システムの係数ベク トル,
x J 3
は入力ベクトル X N(j)(L)(j=1,2,・・"r; L ‑1,2,・・・)を有限個でブロック化し,行列表現した入)J状態行列であ り,それぞれ次式で定義する.
WN
全
ω([0),ω(1),• • • ,ω(N ‑l)f'x);)(l)
全
[x(N‑1+
(L ‑1)γ), x(N ‑2十 (L‑1)γ) ,...,x((L‑1)γ)]T
x~) (2)
全
[x(N+
(L ‑1)γ), x(N ‑1+
(L ‑1)γ) ,...,x(1+(L‑1)γ)]T
(3.4)
(3.5)
(3.6)
zY)(γ)
全 [ x ( N + L r ‑
2), x(N + L
γ‑3),
,
x ( L r ‑
l)]Tx j タ 全
ld)(1)?ZV)(2)?JW)(γ)]T(3.7) (3.8) 但し,r, Lはそれぞれブロック長,ブロック番号,x(i){i = 1,2,・・・}は入)J信号で あ る . こ こ で 議 論 の 都 合 人 人 力 信 号 に つ い て 次 の よ う な 仮 定 を 行 う .
仮 定 3.1
x (
i)は定常かつエルゴード性を満たす.また,実際に得られる信号ベクトル zjL)は
zjL)三 diL)+
外
L)のように雑背 uiL)が付加されたものである.
(3.9)
万, h}!;), y~L)
は,それぞれ適応フィルタの係数ベクトルとその出力ベクトルで
あり
fbv)
全
[h(O)(L),
h(l)(L)・.,h(N ‑l)(L)]Td L ) = X J 2 吋)
で与えられる.
上記で定義した量を用いると,式 (3.2)を最小にする hN(opt)は hN(opt)二 RL1NPN
(3.10) (3.11)
(3.12)
で与えられる.但し, iiNN,fjNはそれぞれ入力信号の自己相関行列,入
J J
信号と所明信号の相互相関ベクトルであり,これらは
R
N.NP円F
ム
ム
;
E 叫川日]
γ(二以 ); E l x r d L ) l
‑ h 叫
T{d~
L)+
V~
L) } ]で定義される.また以下のような仮定をおく.
仮 定3.2
RN.Nは正則である.
(3.13)
(3.14)
仮 定 3.3
入力信号と観測雑音は無相関,すなわち
R l x J R T 外
L)j二 ONである.仮定 3.3,式 (3.13)及 び(3.14)より,h.,,'(opt)は
W
}¥lと‑致する.実際の適応過程では,統計量である評価量
J
を用いるのは閃難なため,以干下.でり えられる J1 L
J
全土
γc(z)Ye(z)L T ‑ C 7 T T
(3.15)を評価量とし,現在のブロックまでの二乗 誤差の平均値を最小にするような吋)を 逐次求める.
これは,式 (3.12)に対応する連立方程式を解くことにより求められる.本章では,
式 (3.12)の係数行安川N,Nの代わりに次式で与えられる
A j f L
Lr‑1
A
九
= α乞
(1‑α)ZxN(Lr ‑i)XN(Lr ‑i)Ti 0
+(1‑α)Lr A八r,N(O)(l) ( 3.16)
を対象として議論を行う.但し, α{O<α
: s ;
1}は忘却係数である.仮定 3.1より良川 二
jimA Y L
.L一→亡x)
の関係が成立する.
(3.17)
以上の準備の
F
に,表 3.1に式 (3.12)で与えられる hN(opt)を逐次的に求める,Block LMS‑Newtonアルゴリズムを示す.任意のブロック Lにおいて,まず予)llq(i)
を1ブロァク内で、γ回繰り返し
AU ‑ 1
を求める.次いでciL),97)の)11買に計算し,以上 の 量 を 用 い 手 順 8)に従いフィルタ係数を更新する.以ド,これらの手)11買を 1ブ ロック毎に繰り返す.
Block LMS‑N ewtonアルゴリズムでは,表3.1の手 順 8)でのステップゲイン uの 選択が収束特性に重要な影響を及ぼす .uの 一般的な値としては, 0.1三u
: s ;
1.0程 度の固定された値が用いられるが, 一般的にそれらの値は 11WN ‑ h( j ; ) "
を最小に するという規範のもとでは最適であるとは言えない.但し, "・"はユークリ ッドノ ルムである.そのため, Block LMS‑N ewtonアルゴリズムは収束速度が遅い.そこ で,良好な収束特性を得るために,上記の規範のもとでステップゲインを最適に選 定することが望まれる.表3.1:Block LMS‑Newtonアルゴリズム
(初期値) L=lに対'して
AN,N(O)(1)一1=C×IN,N?hQ)=ON
( 手
)11貢 )
ブロック Lにおいて
1 )
AN,N(O)(L)‑l二 A U )‑1(Cは大きなJI
数)
(i) i二 1から γに対して, 2), 3), 4)の手順を繰り返す.
2 )
sN(i)(L)二 AN,N(j‑1)(L)12N(t)(L) 3) AN,N(i)(L)一1二己 占 臼 Z ポ { 川
一げ r
lり
叩)戸r
円(仏川L刈)一1 )一 寸α 川川)戸ρ
仏 川 川(
叫川LS勾
川川州
N川
)(
ほ勺州1一 α+α
X N ( い
ωi)ド(仏ωLυ)TSN(0tけ)戸(仏ωL刈) Oく α<14) i→ t十1とし手順 2)に戻る.
(ii) i =γの場合,以下の手順を実行する.
5)A7L‑1=AN,N(γ)(L)一1
6 ) 斗
L)二zjL)‑xjhT
7 ) 吋
)=XJ3TdL)8)
寸
1)̲吋)十 ;A品川)
O<u<l 9) L→ L+1とし,手順
1 )
に戻る.3 . 3 提案するアルゴリズム
本章では,WNとhNとの距離を直接評価量とすることにより,係数史新毎にステッ プゲインを泣似的に準最適にするブロック適応アルゴリズムを導出する.以下,人
ノ
Jは仮定3.1に従う.また,仮定3.3に従い hN(OPt)=W
,,¥'とし議論を進める.図3.2にJの誤莞曲面である等高線を示す.現在の適応フィルタの係数がLブロ ッ ク番
H
の/ポ)であるとする 次のブロックでの係数 ft ll)は,ステ yプゲイン uを 用いてlL7ト1) 二 h~)+ 吋J) CN=A7L‑197)
(3.18) (3.19)
で与えられる.但し,CNはBlockLMS‑Newtonアルゴリズムの係数修正ベクトルで ある uニ 1の場合,h~1 1) は L ブロック番目での J を最小にする点ではあるが, j
を最小にする点
W
Nからみて,CN上で、一番近い点で、はない.ノゴ向ベクトル CN上で WNから最も近い点は ,WNから CNへ垂線を下ろした点,すなわちんT 1 )
で、ある.換言するとんTl)は, WN‑h7)のベクトルを CNへl直交射影して得られるベクトルの 終点である.従って,このl町交身、
I
影操作により ,Uの代わりとして係数更新俗に准 最適なステップゲイン Uoptを決定することができる.3 . 3 . 1 アルゴリズムの導出
はじめに任意のベクトルXN,YNの内積を,任意;の正定値対称行列 BN.Nを月]いて
(XN
,
YN)BN,N全
XNTBNArylV (3.20)のように定義する.(XN
,
YN)BN.N二 Oである場合,XN とめパま ßN.N に関してI~(うとであるという.
任意のベクトル αN,bN, CNに対して, αN =sCNのとき
(CNl bN ‑ s C
川
BN.N二 O (3.21)のような関係がある場合, αNは,bNをCNへ直交射影 (BN.Nに関して)して得られ るベクトルである.但し ,
s
はある実数である.式 (3.21)より,N一NN一N
B
‑ B
N一N
'h
U一
PU
N一NC一C
μ々 一 一 (3.22)
(L) ‑1 (L)
A N,N gN (a)
図 3.2:本手法の幾何学的解釈
h fLj
N
を得る.従ってαxは
β (CN
,
b,,¥,) BN.Nα入T f1r̲ /¥T •• ,υ r^,
1" r‑‑‑川 (C八T
,
C入r)BAN )川 (3.23)で表せる 上記の関係を│ヌ13.2に適用する.a,',¥I, b/¥" Csをそれぞれ(ん十1)̲ 1
々))
, (WN‑hF)),/1jtL‑19V)に対応させると,次プ(AU1d)7WN‑hV))A(L)
ん ザ十
1)̲ h~~) 二 噌 " N,~A 仔し-ln仔)川 ハ (AU‑197)7AVKr‑id))A(L) V川 .:;JjY
"N.N
を得る.さらに内積演算(‑)を式 (3.20)に従って計算すると式 (3.24)は
Il
( j ;
+l) =吋 ) 十J e ~L)
111AVL‑ld)9(L)I A(L)一品9(L) ト 川
N JJN.N !JN
となる.式 (3.18)と式 (3.25)より,準最適ステップゲイン Uoptは
Unrd
---~1 e~.L)
112opt ‑ ~(L)T A (L)一1~(L)
Y入 .L1cN八.lJ入「
(3.24)
(3.25)
(3.26)
で与えられることが分かる.式 (3.25)と式 (3.26)が本論文の主結呆のーつである.
本手法は式 (3.20)の内積の定義に基づき, B N=AVLとし導出されたものであ る すなわち本手法の直交関係は A Uに関して成立している BN.Nとして単位行 列IN,Nを選定することで通常の直交関係は成立するが,この場合演算量は多大にな り,かつ未知量
W
N が更新式に入ってしまうため実際には使用できない.そのため 本手法では B N,Nとして AVLを採用した また,付加雑音が存住する場合などでは 直交射影演算を行うと逆に収束特性が悪くなる場合があるため,いちがいに直交射 影演算が最適であるとはいえない • B N,Nの選定については更に考察が必要であり,今後検討すべき課題である.本手法の有効性については 3.4章の具体例により数伯 的に示す.
以上をまとめると本方式は衣3.2で与えられる.但し,表記の都合とん
7 4 匂
fLVl)とした.手順については BlockLMS‑Newtonアルゴリズムとほぼ同機であり, ;:主具 は手)11買p8)のUo併にあたる部分の計算のみである.
3 . 3 . 2 演算量の軽減
表 3.1中手)11貢8)のuを式 (3.26)の Uoptに置き換えたものを以下では, (本方式の) 手法 (i)と呼ぶ.手法 (i)は, Block LMS‑1'¥ewtonアルゴリズムと同じく, 1サンプ
表3.2:提案手法 (i)の手)11買
(初期値) L=lに対して
AN,N(O)(1)一l=C×fN,N?lA)二 ON
( 手
)11員 )
ブロック Lにおいて
p1) A N,N(O)(L)一1二
A7j)
一l( C
は大きなl E 数)
(i) i
=
1から γに対して, p2), p3), p4)の 手)11買を繰り返す.p2) sN(i)(L)二 A1V,N(i‑l)(L)一IZN(i)(L) p3) AN,N
( i
)(L)一1sN(i)(L) sN(i)(L)T
市 { 川 ̲
l)(L)一lー α1‑α+αXN(i)(L)T sN(i)(L)
。 く
α<1p4) i
→
i+1とし手)11買p2)に戻る. (ii) i = γの 場 合 , 以 下 の 手 順 を 実 行 す る . p5) A吹 い
‑1二 AN,N(γ)(L)一lP6)ciL)=zjL)‑xjhT p7) g
Y ; )
=x 勾
TeiL)¥ dL+1) ̲ z̲.(L)
I │ 斗
L)112 (L)‑1(L)p8)ノ hAパ; 二 fLN + T 1 A Nパ
9 7 ) i A j f L ‑ i d )
N 9 N パp9) L→ L+1とし,手)11貢p1)に戻る.
ル当たり O(N2)の演算量を有する.但し,演算量は1サンプル、!?たりの乗算同数を
IJミす. これらのアルゴリズズ、ムは,逆行列の補題に基づき白己キ相H関の逆行列の算J出1 ブロツク毎に γ回の反復計算により行つており,この計算がアルゴリズムの演算呈 の大半を占めている.
そこで,本章では演算量軽減のため,反復計算 (表3.,1 3.2'i1の手順 (i))をj二 γ
の場合にのみ行う手法をノ戸す.(以下,手法 (ii)と呼ぶ)手法 (ii)によると自己相凶 の逆行列の算出での演算量は従米法の 1/γになる.
次に手法(ii)の妥当性について考察してみる.表3.,1 3.2での A
ら 父
‑1は,式(3.16) でうえられるAU
の逆行列である.式 (3.16)の期待値をとるとE[A
川 =
E [xN(Lγ ‑i) 内 (Lr-i)T] α37(1-α)~
+(1‑α)LT AN,N (0)(1) 更に,L→ ∞ と す る と
J
! 早川
A弘 l
AN,Nα 乞
(1‑ α r
i 0
AN,N を得る.但し,任意の jに対して
AN,N = E [XN(j)XN(j)T]
を定義した.
方,提案手法での更新式
4 M
L‑l
(3.27)
(3.28) (3.29)
(3.30)
λ 九 二
α乞
(1‑αrXN((Lーか
)xN((L‑i)げ +
(1‑α)L AN,N(O)(l) (3.31)i 0
で表せる.式 (3.27)と同様に期待値をとり L→ ∞ と す る と
J ! 。 号 E [ A L l = A N
,N
(3.32)を得る.従って,有限の Lに対して
E [ A U 1 2 E [ A U l
(3.33) なる近似が成立すると考えて良く,この手法による精度の劣化は少ないと思われる.ノい略計算の有効性については,次章の計算機シミュレーションで数値的に示す.
表 3.3:演算 量の比較
アルゴリズム 乗 算rl11数 Block L::vIS‑:‑J ewtonアルゴリズム
Dinizらのアルゴリズム
内 1 .̲ 1
(2 +子)N乙+(3 +子)N
+ 干
+1手法 (i)
手 法 (ii)
3 . 3 . 3 演算量の比較
3N2
+
4N+
6 (2+;)N2+(3+;)N+2o) ,̲ ::L̲̲ 1
FN
乙+(2 +子)N+
干+1本章で は , 提 案 し た 手 法 (i)と (ii), お よ び BlockLMS‑N ewtonアルゴリズム,
Dinizらの可変ステップサイズ LMS‑Newtonア ル ゴ リ ズ ム と の 演 算量を比較する.
前章と同様に,演算 量は1サンプル当たりの乗算同数を意味する.
表 3.3に 各 ア ル ゴ リ ズ ム の 演 算量を示す.表 3.3より,手法 (ii)はア ニ
N
の 場 令。
(N)となる.例として N =ア二20の場合 Block LMS‑Newtonアルゴリズム Dinizらのアル ゴリズム,手法 (i),および手法 (ii)の演算量は,それぞれ882,1286, 884,および 104となり,手法 (ii)はBlockLMS‑Newtonアルゴリズムの約 11.8%,Dinizらのア ルゴリズムの約 8.1%の演算量である.
3 . 4 具体例
3 . 4 . 1 シミュレーション条件
本章では,本手法と従来のアルゴリスムとの性能比較を以下の条件のもとで行う.
・人力信号
x (
i)として, 3種類の信号を用いた.これらの信号は平均値零,分散 (1/12)の正規乱数を線形フィルタ Hi( Z ) (i=
1, 2, 3)に通した出 )j信号である.(i)信 号
#1
は低域通過フィルタ Hl( z ) :
Hl(z)= 1 1 を用いた. 1 ‑0.99z‑1
(ii)信 号
#2
は低域通過フィルタH
2( z ) :
H2(z)二[F(z)f を用いた.
但し
F(z) 1 + 0.445z‑1 + 0.202z‑2 + 0.0907z‑3 +0.0408z‑4
+
0.0183z‑5(iii)信 号 #3は帯域通過フィルタ H3
( z : )
H3(z)= 1 を別いた.
1 ‑1.35z‑1
+
0.99z‑2‑付 加 雑音 v(i)は, S/N比 30dBに設定した円色信号を用いた.
‑表 3.1,3.2中の定数C,αをそれぞれ C= 108.6,α= 0.1とした.
‑未矢JI系,推定系、は次数がともに
1 9
次 (N=
20)のF I R
型フィルタを用いた.‑未知l系のインパルス応答 WNは,次の周波数特性
A(ω) = 1 + 0.5 cos(0.5ω) 05(π2‑ω2)
ァ(ω)=1+
7了
を
t
、子つ信号をIDFT
したものを用いた.何し ,A(ω) ,ァ(ω)はそれぞれ振幅特 性,群遅延特性である.‑アルゴリズムの性能を評価する量としては,次式で与えられる正規化推定誤疋 NEE(Normalized Estimation Error)を用いた.
│1 WN ‑ h
V ; )
112NEE二 101og1o11
" 1 ; v
U1 :V(~2 11 [dB]
I W N I I
・結果はすべて 10回の試行を行い,その平均を示した.
3 . 4 . 2 シミュレ ーション結果
図3.3は,Uoptの値の変化を示したものである.人力信号に#1を用い,未知]系出 力に雑音を付加した結果であるが,他のいくつかの入力信号に対しても,問機の結 果が得られている.初期段階でUoptは,ある程度大きな値をとるが,その後は 0.05 付近の値を保っていることが分かる.