本節ではこのうち,ラジアル基底関
i数ネットワーク(Radia1旦asis
Eunc七ion囚e七work,以下, RBFNと 表記する)を用いる.ただしこの場 合,s≧2であるときには,出力y。の 各成分がト1,1]に正規化されている ことが前提となる.図一5.1にネット ワークの基本構造を示す.中間層の 各ユニットには,入力層からのデー タに対する出力を決める基底関数が 組み込まれている.基底関数として は,図一5.2に示すようなガウス関数 をベースにしたものを用いることが 多く,その重ね合わせ(線形結合)
で任意関数を近似する.このネット ワークモデルでは,出力値ア∫(j=1,
…,s)はつぎのように与えられる、
ア・一Σw幽(…鋤励
(5.3)
ここに,μkO:k番目の基底関数, m:
Wjk
aik bik
︵三三く
1
︸y 2一y 一y
0
出力層
中間層
入力層
図一5.1 ネットワークの基本構造
αik
図一5.2 ガウス関数
X
中間層ユニット数,w]k:k番目の中間層ユニットからj番目の出力層ユニットへの経路に 対する重み係数,x、:入力データのベクトル, ak:ガウス関数の中心値のベクトル, bk:
ガウス関数の幅を表すパラメータのベクトルである.さらに,基底関数は式(5.4),(5.5)
で与えられる、
μ、(κ。・α・・bの=nぴ・(x・・・…b・の
〜=1
(5.4)
一・妬)一{r)2} (5.5)
式(5.3)から(5.5)で,ネットワークを構成するパラメータは,重み係数w3k,ガウス関 数の中心値aikおよび幅のパラメータbikであり,与えられた入出力データ組に合うように
パラメータを調整することにより,ネットワークが構築される.このパラメータの調整過 程を学習とよび,そのためのデータを学習データ(あるいは教師データ)という.学習法 として一般によく用いられているのは,5.3で述べる誤差逆伝播法であるが,RBFNでは これよりも高速な学習が可能であると言われている.また,比較的少数の基底関数で必要 な近似精度を得られる可能性のあることがRBFNの特徴とされている.ネットワークを構 築するには,パラメータの学習の他に中間層ユニット数をいくつにするかということも問 題になる.従来のネットワークモデルでは,中間層ユニット数を変えてそのつど学習を行 い,誤差が最小となるユニット数を採用するという試行錯誤的な方法が用いられてきた.
ここでは,1回の学習過程の中で自動的に中間層ユニット数を増やす方法(片山ら,1992)
を用いて,必要な個数を決定する、これによる関数の同定は以下の2つの過程から構成さ
れる.
①中間層ユニット数が固定されたもとでのパラメータの学習過程
②パラメータの学習による誤差の低減が小さくなった段階で中間層ユニットを1っ増やし,
誤差の最大絶対値を与える入出力データを中心とする新たな基底関数を発生させる過程 以下に関数の同定の手順について述べる.中間層ユニット数がmの場合,学習の対象とな るパラメータベクトルをつぎのように定義する.
αえ=(α1え,α2斥,…,α。た)
α μ一(α1,α,,…,α,。)
み㌍(blた,b2ん,…,わ,放)
∂㌧(b1,カ2,…,b,η)
w左=(w1わw2κ,…,w,ル 〆=(wpw2,…,w 1)
(κ=1,…,〃2)
(え=1,…,m)
(ん=1,…,〃2)
(5.6)
このとき,N個の入出力データ組に対し,同定問題P(m)をつぎのように定式化できる.
=,眠朗一丁薯Σ(yターア了)2 (5・7)
ここに,Em:評価関数, y了:p組目の入力データx7に対する」番目の出力データ,万:
x!を入力したときのRBFNによるj番目の出力値である. P(m)の最適解を
Cα ∵ぴ∵w )すると,実現すべき誤差ε>0が与えられたもとでの全体の同定問題は,
ヰ ネ
E,。(α ∵ぴ㌧Tw )<ε (5.8)
を満足する最小の中間層ユニット数mと,そのときの(*α ∵∂∵ 〆)を求めることにな る.このような問題は一般に勾配法によって解くことができる.評価関数Emのパラメー タα炉加,Wに関する勾配は,式(5.9)から(5.11)で与えられる.
i撒一顯Σ副』・軌)(y7−;了)ぽ) (・・9)
霊一誤Σ胸(砲醐一ア了)ぽ)2 (5…)
∂」駕π 一一Σμ疋(x7,α左,b丘)(y7一アタ) (5・11)
∂w∫左 ρ=1
本節では,勾配法として最も基本的な最急降下法を用いるが,その場合の学習則は以下の ようになる.
∂E
η (5.12)
α∫え(悟1)=α∫え(り一α1、
∂αiえ ∂E
m (5.13)
b∫た(乃+1)ヲた(の一αノ、
∂bf旋 ∂E
η1 (5.14)
w∫、(由1)−w∫・(の一α・、
∂w∫斥
ここに,h:学習の繰り返し回数,αh:繰り返し回数hのときの学習係数である.最急降 下法において,αhは固定ではなく学習の繰り返しごとに値が変化する.αhの値は1次元探 索法により決定するが,ここでは1次元探索法として黄金分割法(たとえば,町田・小島,
1989)を用いる.つぎに,中間層ユニット数を固定して学習を進めても評価関数Emの減 少効果がほとんど見込めなくなった段階で,中間層ユニットを1つ増やしてそれに対応す る新規の基底関数を発生させる.N個の学習データのうち,ネットワーク出力値との誤差 の絶対値が最大となるデータに着目し,この学習データの入力値を中心とする基底関数を 発生させる方法をとる.この方法に基づいた全体の同定問題に対する手順を以下に示す.
①N個の学習データに対して,最急降下法により(α 1(の,ぴ:(の,ゾ(力))から
(〆〃ぴ+1),∂〃但+1),}〆;(乃+1))を計算する.ここで,hは中間層ユニット数がmのとき の学習回数を表す.
②学習回数が(h+1)のときの評価関数値がεより小さければ,そのときのmが式(5.8)を 満たす最小の中間層ユニット数であり,(α 1ぴ吐),ぴ∫(い1),}ジ 〜但+1))を (α ㌧ガz,w ∫)として採用し終了する.
③評価関数の減少率が許容値ε|より小さければ④へ進み,ε1以上であれば①へ戻る.
④入出力データ(κ,8,y〜)(P=1,..,N)のうち,すでにガウス関数の中心値として選択された もの以外で,絶対値誤差が最大となる入出力データを(x,三,yζ)とするとき,(m+1)個目 の基底関数を以下のように発生させる.
αiμ.]−x8 (‥1,…,η)
わ姻一b(} (」=1,…,η) (5・15)
w∫,m.1=yアーア1 (ゾー1,・ ・,5)
ここで,boは,ガウス関数のパラメータの初期値として与えられている定数である.
(m+1)個目の基底関数を上記のように設定し,①へ戻る.新規の基底関数以外の基底関 数に含まれるパラメータには,直前の学習過程で得られている値を使用する.
以上の手法による関数同定の基本性能を確認するため,片山ら(1992)にならってつぎの ような滑らかな1変数(非線形)関数の同定を行う.ここで用いる関数は
y=exp(0.4x)sin(4x) , 一π≦x≦π (5.16)
で与えられる.学習データは,まずxをト冗,π]の一様乱数で与え,それに対するyを式
(5.16)で求めて1組の入出力デー タとする.学習データ数を200とし,
上述の手順で関数の同定を行った 結果を図一5.3に示す。実線が式
(5.16)の関数を表し,十がトπ,π]
を等間隔に刻んだ値を学習終了後
のRBFNに入力したときの出力値
である.学習終了の条件はEm〈0.5 で,終了時の中問層ユニット数は9,
総学習回数は225であった.図より,
高精度な関数同定ができているこ
とがわかる.
3 2 1 ビ o
込 .1 −2 −3
一3 −2 −1 0 1 2 3
X
図一5.3 簡単な非線形関数の同定
5.2,2 RBFNを用いた自己回帰モデルによる予測
5.2.1で説明したRBFNを用いて,まず最も基本的な自己回帰モデルを作成する.この モデルにおいて時刻tでの出力y(t)は,それ以前の観測値をy(t−1),y(t−2),…,y(t−n)とする
と,次式で表される.
y(τ)=∫{y(ご一1),y(τ一2)デ・・,y( 一η)} (5.17)
この式の関数fをRBFNにより同定する.ここでは,有義波高データを対象とし,まず学 習データの作成を行う.
(a)学習データの作成
ここで用いるデータは,運輸省港湾局による全国港湾海洋観測資料のうち,鳥取港にお
ける1984年1月から1989年10月までの2時間毎の有義波高データである.この期間の
データ取得率は99.6%である.また,欠測の影響を小さくするために,連続8回以下の欠 測に対しては線形補間を行い,それ以上の欠測は観測波高をゼロとした.ここでは,自己 回帰予測モデルを考えているので,学習データの入出力データともに有義波高となる.一 組の学習データは,ある時刻tの有義波高データを申心に,それを含めた過去のn個を入 力データ,時刻tより後のs個を出力データとして構成される.また,5.2.1に述べたよう に,s≧2の場合,出力データは[−1,1]であることが前提条件となっている.そのため,有義波高の常用対数をとって学習データを作成する.有義波高が10mを越えることは稀で あり(鳥取港では1979年〜1996年の間に記録されていない),10cmを下回ることも少な いことが常用対数を採用した理由である.上述のデータから,欠測が少なく,10cm未満 の観測値がない期間を選択して以下の学習データを作成する.
① 87年12月ど88年1月, 88年3月と4月,6月と7月,9月と10月の各2ヵ月分の
データから500組の学習データまた,比較のためにつぎの2通りの学習データも作成する.
②有義波高データから周期変動成分を除いたものを用いた学習データ
③ 87年1月ど88年1月, 87年4月と 88年4月, 87年7月と 88年7月, 87年10月 と 88年10月の有義波高データから各500組の学習データ
②については,以下のように 考える.まず,図一5.4に有
義波高の全データの常用対
数値を示すが,はっきりとし た周期的な変動が見られる。日本海沿岸においては,冬期 の高波浪,夏期の低波浪とい うパターンが明確であり,図 一5.4はこの季節変動を示し ている.また,図一5.5で翻
1.0
α5
竺竺α0
亘那
一LO
一1.5
0 5 10
証03
15 20
図一5.4 有義波高の常用対数
付の実線は有義波高の常用 対数の月平均値を表してお り,その変動が周期的であ ることがわかる.このうち,
特に3月から4月と,年に よっては9月と10月にかけ
て,月平均値が大きく変化 している.これが予測モデ ルに影響を及ぼすかどうか を検討するために,この変 動成分を取り除くことを考α4§