1
Q O
一1
2000
∫
1
0
50
τ
100
2100
D＝0．01
り 0
2 1 熟0
−1 −2
一1
2000
1
0
50
τ
100
2100
D＝α1
曳）0
2 1 AO
−1 −2
一1
2000
1
0
50
τ
100
2100
D＝1．0
L）0
4 2 眺0
−2 −4
一1
2000
1
0
50
τ
100
2100
㌦）0
一10
50
τ
100
図3．12 各ノイズ強度に対するニューロン挙動とその時間自己相関（α＝0．612，
一様乱数ノイズの場合）
1
10
0 10
＿4
10
110
α＝α611
0 10
＿4
10
110
＿2
10
D
0
10
α＝α612
1呼σ4
一2
10
D
0
10
0＝0．613
＿2
10
D
0 10
図3．13 固有相関量のノイズ強度依存性（α＝0．6付近，一様乱数ノイズの場合）
3．2 自己想起型最小サイズ（N＝3）ネットワークの
場合
3．2．1 モデルの構成とパラメータ設定
3ニューロン（N＝3）の場合，パターン状態（23＝8状態）空間は図3．14の
ようになる．記銘パターンとしての局所安定状態に｛ξ」｝＝（一1，1，一1），｛ξ2｝；
（1，一1，1）の2つのパターン（互いに反転関係）を埋め込むことにする．
（一1，1，1） （1，1，1）
局所安定状態｛ξi喚｝
（一1，1，一1）
（1，10）
バ
i （1，1，
…
（一1，デt1）
1）
アスパターン｛σi｝
局所安定状態｛ξi2｝
（t−1，1）
（一1，一1，一1） （1，一1，一1）
図3．14 パターン状態空間（N＝3）
結合荷重｛ω2ゴ｝は，2つの記銘パターン状態｛ξ〜｝＝（一1，1，一1），｛ξ多｝＝（1，一1，1）
がホヅプフィールド記憶の局所安定状態に一致するよう，逐次的学習則［7】［16］を 用いて決定した．3ニューロンの場合，結合荷重の関係は図3．15のようになる．逐 次的学習則のアルゴリズムの具体的フローについては付録Dを参照のこと．その 結果，結合荷重は
偶｝一州二鋤
となった．
W21
2
W12 1
脚ろ3
鵬1 W13
協2
3
図3．15 ニューロン問の結合荷重（N＝3）
のエネルギー値は，（2．20）式より
E（ξμ）一一1シ・鰐 （36）
となり，｛ξ」｝，｛ξ多｝のエネルギー値はともに一2である．また，その他の6パター ン状態のエネルギー値は全て2／3である．なお，2ニューロンの場合には自由度 が低すぎて複数の局所安定状態を構成できないので，3ニューロンの場合が本研 究で提案する2．2節のモデルスキームにおける最小サイズモデルとなっている．
以上のようにモデル化したネットワークにバイアス入力項とノイズ項を考慮す る．バイアス入力項としては，2つの記銘パターンの中間状態の1つである｛σ￠｝＝
（1，1，0）をバイアスパターンとし，
86＝8｛σ葛｝＝8（1，1，0） （3．7）
と設定する．ただし，8はバイアス強度である．また，バイアスパターン｛σ￠｝の エネルギー値は2／3である．ネットワークの発展方程式（2．17）は
瓦（オ十1）一！（窺（オ＋1）＋窃（孟＋1）＋島＋卿＋1）） （3・8）
に拡張される［171．瓦はノイズ項であり，（2．21）式を満たす．ノイズ存在下での 今の場合の自己想起型ニューラルネットワークを図示すると図3．16のように表さ
れる．
ネヅトワークの状態を評価するための尺度量として，重なり度，時間自己相関お
W13 W23
レレ12
W21
W32 W31
1
F1
／
∫
2
F
！
3
F3
図3．16 ノイズ存在下での自己想起型ニューラルネットモデル（N＝3）
3．1節での単一ニューロンのところで導入したものと同様であるが，それらを求める ためのネットワーク状態の時系列データについては外部状態ベクトル（X1，X2，X3）
自体ではなく，重なり度と呼ばれるスカラー量を用いることにする．重なり度と は，一般に，時刻オにおけるネットワーク状態｛X誰）｝と記銘パターン｛ξ狩との 内積量
m・（の一癖＆（孟）翻 （39）
琶＝1
で与えられる．ネットワーク状態｛蕩｝が記銘パターン｛ξf｝と一致（｛瓦｝＝｛ξ狩）
しているときにはmμ＝1，反転の関係（｛X￠｝＝一｛鍔｝）にあるときにはmμ＝一1と なる．ここでの3ニューロンの場合には｛ξ丹との重なり度m1（のを用いることと
し，以降その添字1を省略してm（Z）と記す．
そこで，時間自己相関については重なり度に対して
〈挽（孟）挽（舌十丁）＞
o（丁）一
（3．10）
〈而2＞
で与えられる．ただし，齢（孟） ＝m（オ） 一 くm（孟）〉であり，〈 〉は時間平均を意味す る．固有相関量は単一ニューロンの場合と同様に，この0（γ）に対して
レ
ら一Σ02（γ） （3．11）
である．
3．2．2 ネットワーク状態の時系列変化とそのノイズ依存性
コンピュータ実験を具体的に進めるうえでのネットワークに対する基本的なパ ラメータを次のように設定する．履歴性パラメータ梅＝0．5，ん．＝0．8，不応性 項のスケーリングパラメータα＝0．46，全ニューロンのしきい値θ6＝0（すなわ
ち，α＝0），シグモイド関数の傾きパラメータε＝0．015，バイアス強度パラメー タ8＝0．59である［18｝．
図3．17の上図はノイズを印加する前（すなわち，D＝0）のネットワーク状態 の時系列変化である．ネヅトワークの挙動は，一方の二二パターン状態にしばら
く停留した後に他方の記銘パターン状態に（m蟹1の｛ξ ｝状態とm望一1の｛ξ舞 状態の間を）切り替わり，そしてまたそこにしばらく停留した後に切り替わると いうことを繰り返している．一方の記銘パターン状態から他方の記銘パターン状 態への切り替わりの時間間隔は一定せず非周期である．また，複数回の切り替わ りに渡る長い時間間隔で見ても周期的な繰り返しは見られず，記銘パターン状態 に停留中の小さな（△m蟹0．1程度の）非周期的ゆらぎの存在も考慮すると，かな
り秩序性の低いものになっている．図3．17の下図は，このネットワーク挙動に対 する（3．10）式による時間自己相関のグラフであるが，時間差丁の増加にともなっ て速やかに相関が失われていくのがわかる．
次に，ネットワークにノイズを印加し，その影響を見たのが図3．18である．上か ら順にノイズ強度Dが0．001，0．01，0．1，1．0のときのネヅトワーク挙動とそれぞ れに対する時間自己相関のグラフを示している．D＝0．001のときはネットワーク の状態はノイズ無し（D＝0）のときとほとんど変らない．D＝0．01のときは，記 銘パターン状態間の切り替わりの頻度が増えており，一方の記銘パターン状態での 停留時間が短くなっている．時間自己相関はそれを反映し，時間差丁に対してやや 短い間隔（△7一：Σ50）でピークを形成し，その値もやや高くなっている．D＝0．1
においては，時間自己相関のピークはさらに高くなり，それが丁の大きい側でかな
り繰り返し持続している．ネットワークの時系列挙動を見ても，かなり整った切 り替わりであることがわかる．切り替わりの周期としては約338加p時間と見受け られ，時間自己相関グラフでのピーク聞隔（△τ鐸33）に対応している．ただし，
ネットワーク挙動が完全な周期性を持つというわけではないので，時間差τが大 きくなれば相関は減衰していく．D＝LOになるとノイズが強すぎて，ネヅトワー ク挙動はノイズに支配されてしまっており，時間自己相関が時間差丁に対して急 激に失われている．
さらに時間自己相関0（T）を用いて（3．11）式から固有相関量らを求めることに する・先の図3．18のD＝0．001，0．01，0．1，1．0の4つの場合には，ら値はそれ ぞれ13．5，18．1，40．1，4．1となり，時間自己相関の関する図3．18の結果が反映さ れている．ノイズ強度Dの値に対してさらに細かくら値を求め，その結果をグラ
フにしたのが図3．19である．ノイズ強度Dが大きくなるにつれて固有相関量（㌃
が上昇し，Dがある一定値を越えると再びらが下がっていく．すなわち，3．1節 での単一ニューロンの場合と同様，適度なノイズ（今の場合，D＝0．1程度の白色
ノイズ）の存在によりネットワーク挙動に秩序性が大きく誘起されることが確認
できた．
1