一
・I ．・
， I ． （
ω。（1）、． 。
＼〃、 ぐソ、 ，・
ω（O）
図4．4：1−SLAと2−SLA（1回目の更新）．
以後，収束まで補空間の選択を同様に行うとすれば，1−SLAと2−SLAそれぞれ における結合荷重ベクトルの更新の過程は1回おきに反転と一致を繰り返すものと
なる．
ω（2）
・一・一一一一・■ 一
〇
Φ
ω。（1）一
ω。（1）
一一一・一 ＜t…・一…一……・一・・
、
、 、 、G
．！ 0
c③
図4，5：1−SLAと2−SLA（2回目の更新）
0。（1）
もちろん以上の説明は，パターン数Pが十分大きくてパターンが一様分布とみな せるような場合に，収束に至るまでの経路が1回おきに一致するようなトSLAと
（N一ん）一SLAを考えることができることを示しているにすぎない．実際のパターン 分類問題においてはパターンが一様分布ではないし，また，SLAの毎回の更新にお けるパターンの選択もランダムに行われるのであるから，たとえ同一の結合荷重ベ クトルから学習を開始したとしても，トSLAによる学習経路と（N＿ん）＿SLAによ る学習経路が必ず1回おきに一致するわけではない．しかし，多くの結合荷重ベク
80
トル初期値，多くのパターン提示順に関する平均的な収束速度に関しては，＾：一一SLA と（N一ん）一SLAは等価であるということができる・
これらは以下のようにまとめることができる．
．1−SLAと2一一SLAのように次数がある程度小さい場合には次数が大きいほど高 速である．
．ん一SLAと（N＿ん）一SLAは平均的な収束速度に関して等価である．
そしてこれらから，ん二N／2においてSLAの平均的な学習速度が最大になるも のと考えられる．すなわち，SLAの平均的な収束速度を最大にするためには，その 次数んをパターン次元Nの1／2に選べばよい．これは，APAの収束速度が次数と 単調な関係にある［19］ことと比較すると，SLAのきわめて興味深い特徴であると言
える．
4．5 計算機シミュレーション
4．5．1 SLAの次数たと学習以東性
4．3節における理論検討の結果を検証するために，SLAの次数たと学習収束性に 関する計算機シミュレーションを行った．
まず，次元N＝3，4，7，10，パターン数P＝2〜20で線形分離可能なパターン 集合を，それぞれ20組用意した．次にこれらの各パターン集合に対して，SLAの次 数んを1からPまで変えて収束性を調べた．いま，学習が大域収束する条件，す 81
P
2 3 4 5
6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
表4．1：SLAが収束する次数んの上限
N＝3
P P
1，P 2，P 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2
N＝4 P P P
2，3，P 2，3，P
3 3 3 3 3 3 3 3 3 3 3
3 3 3
ユV＝7
P P P P P P P P
5，6，P 5，6，P 5，6，P
6 6 6 6 6 6 6 6
N＝10
P P P P P P P P P P P P
9，P 8，9，P 7，8，9，P
8，9，P 8，9
9 9
なわち，結合荷重ベクトル初期値にかかわらずに収束する条件を調べることが目的 であるので，各パターン集合，次数んではランダムな結合荷重ベクトル初期値から の学習を100回行い，そのすべてで収束した場合を 大域収束する ，1個でも収束 しない初期値があった場合には 大域収束しない と判定した．なお，それぞれの試 行における判定は，1000回以下の更新で収束するかどうかで行った．
計算機シミュレーションの結果，どのパターン集合においても，ん二1の場合に は大域収束した．これは3，5節の証明を裏付ける結果である．また，んを大きくし てゆくとある値までは大域収束するが，それ以上のんでは結合荷重ベクトル初期値 によっては収束しなくなった．学習が大域収束する次数んの上限を表4，1に示す．
表4．1で，たとえば，。P＝18，N＝7の場合に 6 となっているのは，それぞれ が18個の7次元パターンからなる20組のパターン集合すべてが，1〜6次では大減 収東し，7次以上では大域収束しなかったことを表している．また，次数上限とし て複数の数字が書かれているのは，パターン集合により上限が異なることを意味し ている．たとえば，P＝15，N＝10の場合に 8，9，P となっているのは，それ ぞれが15個の10次元パターンからなる20組のパターン集合の中に，1〜8次での み大域収束したパターン集合，1〜9次でのみ大域収束したパターン集合，および 1〜15次すべてで大域収束したパターン集合の3種類のパターン集合が存在したこ
とを表している．
この表から，SLAの次数ん，パターン数P，パターン次元Nと収束性の間に，
4．3節の理論検討の結果を含む，以下のような興味深い関係があることがわかる．
．P＞2N，ん≧Nの場合には学習は大域収束しない・これは4・3節における理論 検討が正しいことを裏付ける結果である．
．P＞2N，ん＜Nの場合には学習は大域収束する．
．2≦P≦Nの場合にはSLAは次数に関係なく大域収束する．
・N≦P≦2Nの場合にはSLAが大減収東する次数んの上限はパターン集合に よってばらつく．しかも，2≦P≦N，P≧2Nの場合には必ず大域収束する
ような低い次数んでも大域収束しない場合がある．
4．5．2 SLAの次数たと収束速度
4．4節における理論検討の結果を検証するために，表4．1で行った計算機シミュレー ションの中から，（N，。P）＝（4，10），（7，16），（10，20）の3つの場合に関する学習以東 までの平均更新回数を図4．6〜図4．8に示す．これらの図の中の名折れ線は，ひと組 のパタ』ン集合に対して結合荷重ベクトル初期値を変えて行った100回の試行に関 する学習収束までの平均更新回数を表す．
これらの図から1学習が収束するまでの平均更新回数にはパターン集合による多 少のばらつきはあるものの，学習が収束する範囲内の次数だ，すなわちん＜Nな
るんと学習速度の問に以下の関係があることがわかる．
・次数んが大きくても小さくても平均的には学習は遅くなる．
・ん：N／2程度で平均的には学習はもっとも速くなる．
14