本論文では，相互結合ニューラルネットワーク型非線形回路における種々の仮定のもと で，回路の平衡点集合の特徴付け，所望平衡点集合を実現する回路の構成，といった問題に ついて理論的考察を行なった.これらは，相互結合型ニューラルネットワークの重要な応 用である，連想記憶，パターン分類，ノイズ除去等において最も基本的な問題である.ま た，回路の平衡点は
x=F(Wx+I)
という非線形方程式の解であるので，所望平衡点集合 の実現は，それらのベクトルだけを解とするような行列W
，およびベクトル Iを決定する 問題に帰着される.この種の非線形方程式は多数の解をもつが，その一般的解法が存在し ないことや，x
の次数が高くなるにつれて組合せの数(例えば， Tの次数を 10とすれば，すべての 2値ベクトルを 2つに分類する方法は 2210通りある)が急激に増加することなど から，上記の問題を一般の回路，すなわち一般の W お よ び 1， について考察することは極 めて難しいと考えられる. したがって，本章における種々の特殊な仮定のもとでの議論は，
この問題に対する出発点として重要である.以下に，各章で述べたことを要約して本論文 のまとめとし，最後に今後の課題について述べる.
第 2章では，まず相互結合型ニューラルネットワークの代表的な連続系モデル，離散系 モデルについて説明した.次に，これらのモデルを連想記憶回路に応用する際の基本的事 項を述べ，現在よく知られている連想記憶回路の構成法とそれらの性質および問題点につ いて概説した.連想記憶回路を構成することは，与えられた 2値ベクトルの集合を平衡点 とするようにネットワークのパラメータを決定することであるから，本研究で取り扱う問 題は，連想記憶への応用と密接な関係を持つ.
第 3章では，区分線形の飽和特性をもっオペアンプ，キャパシタ，線形抵抗，直流電流 源から構成される一種の相互結合型非線形回路について，所望の平衡点だけを実現する回 路構成法について考察した.ただし，この回路の結合は完全対称であると仮定した.この
第 6章 結 論 99
仮定は，回路の平衡点を与える方程式 :c= F(Wx
+
1)において，行列 W の対角項がすべ て等しい値をとり，非対角項もすべて等しい値をとることに相当する.は じ め に ， オ ペ ア ン プ が す べ て 正 相 で 用 い ら れ る 場 合 と す べ て 逆 相 で 用 い ら れ る 場 合 (通常の相互結合型ニューラルネットワークの連続系モデルではオペアンプはすべて正相で
用いられる)のそれぞれについて，回路の平衡点集合の特徴付けを行なった.その際，平衡 点集合を，各ベクトルに含まれる ‑1の個数の違いによって分類し それぞれの集合があ る特徴的な形で表現されることを示した.
次に，その平衡点集合の特徴をを利用することにより，オペアンプがすべて正相，すべ て逆相のそれぞれの場合について 与えられた 2値ベクトルだけが平衡点となるための必 要十分条件を簡単なアルゴリズムの形で与え，また その条件が満足されるときの回路パ ラメータの決定方法を示した.この結果は 特 殊 な 回 路 構 造 に 対 し て 得 ら れ て い る も の で あ る が ， こ れ ま で に な い ， 所 望 の 平 衡 点 集 合 だ け の 実 現 と い う 問 題 に 対 し て ， 厳 密 な 条 件 を与えることができたという点で意義のあるものだと考える.
最後に，正相，逆相のオペアンプが混在する場合(すべて正相，すべて逆相の場合も含 む)について，リアプノフ関数を定義することによって回路が大域的に安定であることを 証明し，飽和領域にあるすべての平衡点が漸近安定であることを示した.
第 4章では，結合行列が k重テイパ一行列である離散系ニューラルネットワークの平衡 点の最大個数を厳密に評価した.このネットワークは n個のニューロンが環状に配置され ている，各ニューロンはすぐ前方の k個のニューロンからのみ結合されており，それらの k個の結合の強さはニューロン聞の距離とともに小さくなる，自分自身との結合はもたな い，といった特徴をもっ.平衡点の個数は，連想記憶への応用においては，記憶容量に関わ る問題であり，また巡回セールスマン問題などの最適化問題への応用においては，目的関 数の局所最小点の個数に関わる問題である.はじめに， k=1，2，3，4のそれぞれの場合につ いて平衡点の最大個数を厳密に評価し，それがニューロンの個数 Tlと無関係に極めて少な いことを明らかにした.次にたが大きくなるにしたがって平衡点の最大個数がどのように 増加するかを調べるために，k=n‑1の特別な場合を考え，2n/2個の平衡点が存在するよ うなネットワークが具体的に構成できることを示した.このことより，一般に平衡点の最 大個数はニューロン数 η に関して指数関数的に増加することを明らかにした.
第 5章 で は ， 結 合 行 列 が 零 対 角 2値 行 列 で あ る 離 散 系 ニ ュ ー ラ ル ネ ッ ト ワ ー ク に 対 し て，一構成法を与え，その方法によって構成されるネットワークの平衡点の個数とその引 き込み領域について厳密な評価を行なった.相互結合型ニューラルネットワークの動作は
非常に複雑で、あるため，一般のネットワークに対して引き込み領域を評価することは極め て 難 し い . こ れ ま で に も ， 連 想 記 憶 へ の 応 用 に 関 連 し た 引 き 込 み 領 域 に 関 す る 理 論 的 結 果 が 発 表 さ れ て い る が ， そ の ほ と ん ど が ， あ る 特 殊 な 仮 定 の も と で 確 率 論 的 に 得 ら れ た も の である.これに対して，第 5章では，具体的にネットワークを構成し，平衡点の個数と引 き込み領域との関係を厳密に与えている.その結果，構成されたネットワークにはほぼ等 しい広さの引き込み領域をもっ平衡点が多数存在することを示した.
以 上 ， 本 論 文 の 各 章 の 結 果 を 要 約 し た が ， い ず れ の 議 論 に お い て も 特 殊 な 場 合 を 取 り 扱っており，これから上記の結果を一般化していくことが必要で、ある.今後の課題は，より 一 般 の ネ ッ ト ワ ー ク に 対 し て ， 平 衡 点 の 最 大 個 数 や 引 き 込 み 領 域 な ど の 特 徴 付 け ， 所 望 の 平 衡 点 集 合 だ け を 実 現 す る 回 路 構 成 法 の 提 案 ， 結 合 が 非 対 称 の 場 合 の 大 域 的 安 定 性 に 関 す
る条件の導出等を行なうことである.
謝 辞 101
謝辞
本研究に着手してから今日に至るまで，本学工学部情報工学科の西哲生教授には，懇 切丁寧な御指導と御討論を頂いた.また，本学工学部情報工学科の香田徹教授，電気工 学科の平津宏太郎教授には温かい御助言を頂いた.ここに謹んで諸先生方に感謝の意を 表します.
また，本研究を行なう上でさまざまな御討論，御協力を頂いた本学工学部情報工学科の 大濠助教授，柏木助教授，川根助手y 常田助手 ，Jl重助手および情報工学科目路研究室の大 学院生の皆様に対して心よりお礼申し上げます.
参考文献
[
山
1]J.J. Hopf制iee叶ld，''Neural Ne凶tWOl比s a加1凶 Physi比Cω叫ωa1Syst伐加e白111Sputa瓜tionalAbilities， " Proc. Natl. Acad. Sci. USA， Vo1.79， pp.2554‑2558， 1982.
[
問
2河]J.J. Hop 五お削e仕ωll仁dd，"Nぜeurollike those of two‑state neurons，" Proc. Natl. Acad. Sci. USA， Vo1.81 ， pp.3088 3092， 1984.
[3] L. Personnaz
，
1. Guyon，
and G. Drcyfus，Iぱorn1ationstorage and retrieval in spin‑glass like neural networks，" J. Phys. Lett.， vo1.46， pp.L359‑L365， Apr. 1985.[件凶4] L. Personnaz民，1.G 町on孔1，and G. D
Networks: New Learning Me伐chaniおsms
ピ
3Jう竹， PHYS訂ICALREVIEW A うvo叶1.34うpp.4217 一4228. 1986[5] A.N. Michel， J.A. Farrel， and W. Porod，勺ualitativeAnalysis of Neural Networks "， IEEE Trans. Circuits and Systellls、vo1.36，pp.229‑243， 1989.
[6] J.H. Li， A.N. Michel， and W. Porod，勺ualitativeAnalysis and Synthesis of a Class of Neural Networks，" IEEE Trans. Circuits and Systelns， vol. 35， pp.976‑986， 1988. [7] J.H. Li， A.N. Michel and W. Porod， Analysis and Synthesis of a Class of Neural
Networks: Linear Systems Operating on a Closed Hypercube，" IEEE Trans. Circuits and Systelns， vol. 36， pp.1405‑1422， 1989.
[伊例8針]A.N. Mi化cheland J .A. Fa引訂叩叩r口口、~l凶;
IEEE Control Sys. Mag.， vol. 10， pp.6‑17， 1990.
[9] J .A. Farrell
，
A.N. Michel， "A Synthesis Procedure for HOI泊eld's Continuous‑tIlnc A.s‑ sociative Memory，" IEEE Trans. Circuits and Systems， vol. 37， pp.877‑884 1990参考文献 103
[10] A. N. Miche1， J. Si， and G. Yen， "Ana1ysis and Synthesis of a C1ass of Discrete‑TIlllC'
Neura1 Networks Described on Hypercubes，" IEEE Trans. Neura1 Networks， vol. 2， pp. 32‑46ヲJan.1991.
[
ド
11]G. Yen九1，and A.N. Miche凶児叫e1，"A 1e閃 叩a創訂n、llThe eigenstructure meぱthodι，"IEEE Trans. Circuits and Syst.， vo.139， pp.212‑225， Ap1 1992.
[12] D. Liu， and A.N. Miche1，Sparse1y interconnected neu凶 networksfor associative 111児1白enIII
one白swith applications to cell叫uIla削r、ncura1ne抗tworks，"IEEE Trans. Circuits and Syst.， vo1.41， pp.295‑307， Apl. 1994
[13] F.M.A. Sa1am， Y. Wa時ぅ andM Choi， "On the Ana1ysis of Dyna1nic Feedback Neural Nets.'うIEEETrans. Circuits and Syst.， vo.138， pp.196‑201、Feb.1991.
[14] McE1iece， R.J.， Posner， E.C.， Rodenuch， E.R. and Ve此atesh，S.S.， 'The capacity of the Hopfie1d associative men1ory，" IEEE Trans. Infornlation Theory， vo.lIT‑33， pp.461‑482、
Jul. 1987.
[15] S. Amari，Learni時 Pattersand Pattern Sequences by Se1f‑Organizi時 Netsof Thresh‑ old E1ements，" IEEE Trans. Conlputers， vol.C‑21， pp.1197‑1206.
[16] Y. Uesaka， "Mathematical Aspects of Neuro‑Dyna111ics for Conlbinatorial Opti11山ation.
， IEICE Trans. vol. E‑74， pp.1368 1372、June1991.
[17] Abu‑Mostafa， Y.S. and Jacques， J.S.，Inforrnation capacity of the Hopfie1d 1110clel，"
IEEE Trans. Information Theory， vol.IT‑31， pp.461‑464うJul.1985.
[ ド
18司]Br白e1dmode札1，"IEEE Trans. Infor111ation Theory， vo1.36， pp.393‑397 Ma.r. 1990. [19司]Ka仙.1h叩
Tra.ns. Circuits and Syst.， vo.141うpp.608‑610，Sep. 1994.
[20] M. Fo出ぅ S.Manetti， and M. Marini， "Necessary and Sufficient Condition for Absolut SもabilityofNeura.l Networks，" IEEE Tra.ns. Circuits and Syst.， vo1.41， pp.491‑494う.July. 1994.
[21] Y. Kamp and M. Hasler， "Recursive Neural Netwo出 forAssociative Menlory
ぺ
JOHN WILEY & SONS.[22]甘 利 俊
‑Jt
神経回路網モデルとコネクショニズムJ ?
東京大学出版会 (1989) [23]松岡清和上 ニューロコンピューテイングf
朝倉書庖 (1992) .[24]麻 生 英 樹?44ニューラルネットワーク情報処理
f
産 業 図 書 (1988) [25]室賀三郎う茨木俊秀p北橋忠宏J t
しきい論理J ?
産業図書 (1976).[26] N. TakahashiうandT. Nishi， "Realization of equilibriulll points by nleans of a c0111pletely symmetrical nonlinear circuit，" Mell10irs of The Faculty of Engineering Kyushu Univ.、
vo.154
，
pp.141‑160，
Jun. 1994.[27] T. Nishi， and N. Takahashi， "On the NU111ber of Solutions of a Class of No凶near Equations Related to Neural Networks with Tapered Connections，" IEICE Trans. Fun‑ damentals of Electronics， Com111unications and Computer Sciences， Vol.E78‑A， No.10， 1995.
[28] N. Takahashi， and T. Nishi，Equilibriulll Points of Mutually Co叩 ledSynll旧 trical Neural Networks，" Proceedings of European Conference on Circuit Theory and Designう
1993.
[29] T. Nishi and N. Takahashi，On the Realization of Presc山 edSets of Equilibriulll Points of One‑Dimensional Neural Networks with Tapered Connecting Coe伍cients，"
Proceedings of International Symposiuln on N onlinear Theory and its Applications 1993.
[30] N. Takahashi and T. Nishi， "On the Equilibriunl Points of Hopfield‑Type N eural N et‑ works with the Cyclic Connection Matrix，" Proceedings of Sylnposiunl on Nonlinear Theory and its Applications， 1994.
[31] N. Takahashi and T. Nishi， "Realization of Certain Sets of Equilibriulll Points by a Sirn‑ ple Neural Network，" Proceedings of Joint Technical Coぱe悶
Computers and COln百11百nlUllr民C乱tions，1993.
参考文献
[32] L.O.Chua and L.Yang， Cellular Neural ~etworks : Theory， )1 IEEE Trm Syst.， vo.135， pp.1257‑1272， 1988.
[33司]L.O. Cαh凶 andL. Yan略ιg，'Cel日llu叫lllarNcu山1川1r札alう)Jetwoωr山 、lf占k王(s: Appμli氏ca山ttio cuits Syst.ぅvo1.35，pp.1273‑1290， 1988.
[34] L.O. Cαh凶 andC.W. Wu仏1う， 4tゆOnth児eeU山 'e
J. Circui t Theory and A pplicationsうvol.20うpp.497‑517，1992.
105
[35] M.Gilli， " Stability of Cellular Neural Networks and Delayed Cellular Neural Networks with Nonpositive Tenlplates and Nonnlonotonic Output Functions、 ) 1IEEE Trans. Cir‑ cuits Syst.， vol.41 ， pp.518‑528、1994.
[36] L.O.Chua and T.Roska， "Stability of a Class of Nonreciprocal Cellular Neural Networks，
" IEEE Trans. Circuits Syst.， vol.37， pp.1520‑1527， 1990
[37] F.Zou and J.A.No闘にい Stabilityof Cellular Neural Networks with Opposite‑Sign Tenlplates， " IEEE Trans. Circuits Syst.， vo.l38， pp.675‑677， 1991
[38] R.J. Du伍n，No凶nearnetworks， IIa，" Bull. Anler. Math. Socぅvol.53，pp.963‑971 1947.
[3
仰
3ω9]μ
I.W. S匂a釦n凶db悦er略gうand A.N. Willson 1.r.， "包Sおonl冗ee山th児 削eωorellls011 P戸ro叩pe白1巾es 0ぱfdc e刊q凶 ti011 of nonlinear networks，" Bell Syst. Tech. ， .1. vol.48， pp.1‑34， Jan. 1969.[40] I.W. Sandberg， and A.N. Willso11 J ，.r "Sollle networktheo凶 icproperties of 110凶 肘ar dc tra11sistor networks，" Bell Syst. Tech. J.パrol.48， pp.1293‑1311， May‑Jun. 1969. [41] R.O. Nielsen， and A.N. Willson J ，.r "Topological criteia for establishing the uni悶quel
of solution to the DC equaもtiOllSof transis坑tornetwork岱s，"IEEE Trans. Circuits and Syst.， vol. CAS‑24， pp.349‑362， Jul. 1977.
[42] R.O. Nielsen， and A.N. Willson Jr.， "A funda111antal result concerning the topology of transistor circuits with 111ultiple equilibria，" proc.IEEE， vol.68， pp.196‑208うFeb.1980. [43] T. Nishi， "Topological condition for the nonlinear resistive networksto have a uniqu
solution，" Trans.IECE， vol.J66‑A， pp.663‑670， Aug. 1983.
[44] T. NishiぅandL.O. Chuaぅ"Topologicalcriteria for nonlinear resistive circuits contaillillg controlled sources to have a unique solution，" IEEE TrallS. Circuits allcl Sys十、 ¥'0.1 CAS‑31ぅpp.722‑741， Aug. 1984.
[45] M. Hasler，No凶nearnon‑reciprocal resistive circuits with a stn川 町allyunique叫 u‑ tion，" Int. J. Circuit Theory ancl App、.1vo.114，pp.237‑262， Jul. 1986.
[46] T. Nishi
，
On the nU1nber of 叫 山onsof piecewise‑linear resistive circui比tsc∞
ont凶凶aむ叩仰iロ m
山n1日叫1controlled sou 悶 s，" Proc. 1988 Jo仇i凶 Te伐吋cl山 Cα叫a1Co ぱere恥nceon Circui比tωt
ザ
s//Systω加e引1ns puters and Conl1l刊1lunications丸，pp.529 -53~ う 1988.[47] T. Nishi， "On the nU1nber of solutions of 1印e白S白lS坑ti山veCUCl
pli白e臼r、~s with satur、ation，"Proc. 1992 IEEE ISCAS， pp.288‑291， 1992.
[48] T. Nishi， and Y. Kawane， "On the nUlnber of solutions of nonlinear resistive circuitsう'， IEICE Trans. Fundan1entalsvol.E74， pp.4 79‑487うMar.1991.
[49] L.O. Chua， and N.N. Wa時 ?いOnthe application of degree theory to the analysis of resistive nonlinear networks，" Int. J. Circuit Theory and App ，.1vo.15， pp.35‑68， 1977.