5.1 本研究のまとめ
本研究では,ニューラルネットワークの基本要素として重要な, パーセプトロン を対象とし,その学習に適応フィルタのアルゴリズムであるアフィン射影アルゴリ ズム(APA)を適用した直交射影学習アルゴリズムとして,等比学習アルゴリズム
(GLA),対称学習アルゴリズム(SLA)を提案した.また,種々の理論的,数値的 解析を行い,GLAとSLAの興味深い収束特性を解明した.
第2章において,パーセプトロンを中心にニューラルネットワークの歴史をふりか えるとともに,パーセプトロンの構造と動作,およびそのパターン分類能力につい て述べた.また,パーセプトロンの学習アルゴリズムとしてよく知られているパー セプトロン学習について述べ,さらに,線形分離可能なパターンの数に関する理論
と相互結合型ニューラルネットワークの確率的記憶容量について述べた.
第3章において,ハーセプトロンヘのAPAの適用として,等比学習アノレゴリズム
(geometric1earning a1gorithm:GLA)を提案した.また,学習中に発振状態が生 じる条件についての解析を行うことにより,2個のパターンに対して1−GLAが収束 するために,2パターンの角度θと学習係数λが満たすべき関係を理論的に導出し
89
た.また,パターンが3個以上の場合に 解領域の角度Ψmi、 を導入し,1−GLAが 収束するためのψ、i、、一λの関係が,2パターンの場合のθ一λの関係で近似できる
ことを計算機シミュレーションで示した.さらに,θ一λの関係においてθによら ずに収束する条件であるλ:2に対して,!−GLAがパターン数に関わらずに収束 することを証明した.これらにより,1−GLAの収束性が保証され,学習アノレゴリズ ムとしての有効性が確認された.また,1−GLAが収束するためのψmi、とλが分布 する範囲が近似的に明らかになった.
第4章においては,まず,GLAにおいて学習定数を2とした場合を特に区別して,
対称学習アルゴリズム(symmetric1eaming a1gorithm:SLA)を提案した.次にん 一SLAの収束条件について理論的な解析を行い,パターン数。Pがパターン次元N の2倍より大きいときにん一SLAが収束するためにはん<Nが必要であることを明
らかにした.さらに,トSLAの収束速度とパターン次元Nに関する理論的な解析 を行い,SLAの収束速度は,その次数んがパターン次元Nの1/2のときに最大に なるという興味深い結論を得た.ん_SLAの収束条件,収束速度に関するこれらの 理論解析の結果は計算機シミュレーションにより検証された.
5.2 今後の課題と展望
本研究においては,GLAとSLAの提案と,それらの興味深いいくつかの収束特 性の解明に取り組んだが,解明すべきすべての特性が明らかにされたわけではない.
まず1パターンが3個以上の場合にψm、、に代わり学習以東性を厳密に決定している
問題固有のパラメータが何であるのか,そして,収束のための厳密な必要十分条件 はどのようなものであるかについては現段階では未解明であり,今後さらなる検討 が必要である.また,パーセプトロン学習とGLA,SLAの収束速度に関する,定量 的,理論的比較も今後詳細に行う必要があろう.本研究においては収束までの更新 回数により学習速度の評価を行ったが,1回の更新に要する言十算量まで考慮した学 習速度も今後の興味深い課題である.さらに,線形分離可能でないパターン分類問 題を解くために,GLAやSLAを多層のニューラルネットワークに適用する方法に 関する検討も必要であろう.
ディジタルコンピュータによる逐次直列処理とニューラルネットワークによる並 列分散処理の関係は決して 競合 ではない.序論においても述べたように,現代 のディジタルコンピュータが人間の論理的思考に対応するのに対して,ニューラル ネットワークは人問の直感的思考に対応する情報処理を実現できる可能性を秘めて いる.人間の思考において,論理的思考と直感的思考がうまく組み合わさり,補い あって柔軟性と厳密性が実現されているように,今後の社会において科学技術が真 に人類の幸福と平和に貢献するためには,ディジタルコンピュータの技術とニュー ラルネットワークの技術が互いに補完する形で発展してゆくことが必要であろう.
謝辞
本研究を進めるにあたり終始あたたかいご指導と激励を賜りました金沢大学工学部 中山謙二教授に心から感謝の意を表します.金沢大学工学部西川清教授,船田哲 男教授,橋本秀雄教授,村本健一郎教授には研究あるいは授業科目に関して多大 なるこ指導をいただきました.深く感謝いたします.
金沢大学工学部中山研究室馬志強先生,王切華先生,池田和司先生には,研 究に向かう姿勢や研究に関する困難克服のための具体的な方策までていねいに教え ていただきました.心からお礼申し上げます.群馬職業訓練短期大学校原一之先 生,YKK株式会社研究開発本部富川義弘氏には金沢大学大学院自然科学研究科の 先輩として,研究の進め方や悩みについて親身になって相談にのっていただきまし た.深くお礼申し上げます.
大学学部学生,修士学生時代の私に,研究の楽しさと難しさを教えてくださいま した,京都大学名誉教授で現福山大学の卯本重郎教授,京都大学工学部電気工学科 石川本雄助教授に深くお礼申し上げます.私が日本電気株式会社在職中,研究開発
に向かう姿勢を厳しくご指導くださるとともに,新しいものを作り上げる楽しさを 教えてくださり,また,私が学術研究の道に進むことを許してくださいました,日
93
本電気株式会杜宇宙開発事業部部長冨家文穂氏,同課長前川勝則氏に心よりお
礼申し上げます.
神戸高専教務主事早ノ頼信彦教授には大学学部学生時代より永年にわたり多大 なるこ指導をいただいてまいりました.ここに深く感謝いたします.神戸高専電子 工学科前田修一主任教授,瀬川嘉一教授,宮井幸男教授,堀池伸和教授,林昭 博教授,尾崎道教授,若林茂助教授,笠井正三郎助教授,橋本好幸講師をはじめ 神戸高専の教職員各位には,日頃より教育および研究における多大なご協力とご支 援をいただきました.深く感謝いたします.
最後に,これまで私をあたたかく応援してくれた両親と祖母,私を明るく励まし 続けてくれた妻祐佳,息子悠太郎,娘里奈,そして新しく生まれてこようとして いるわが子に心から感謝します.
参考文献
[1]Turing,A.M一, On computab1e numbers,with app1ication to the Entshei−
dungsprob1em, Proc.London Mathematica1Society,vo1.42,pp,230−265.1963.
[21Haykm,S, Neura1Networks A Comprehens1ve Foundat1on , Macm111an Co11ege Pub1ishing Company,New York,1994。
[3]廿利俊一, 神経回路網の数理, 産業図書,東京,1978.
[4]中野馨編著, ニューロコンピュータの基礎, コロナ社,東京,1990。
[5]松岡清利編著, ニューロコンピューティングー基礎と応用一, 朝倉書店,
東京,1992、
[61小杉幸夫, 神経回路システムー基礎と応用 , コロナ社,東京,1995
[71喜多一, ニューラルネットワークの汎化能力, システム/制御/情報,vo1.36,
no.10,pp.625−633.1992.
[81臼井,岩田,久間,淺川編著, 基礎と実践ニューラルネットワーク, コロ ナ社,東京,1995.
[91Amari,S., Theory of adaptive pattern c1assi丘ers, IEEE trans. EC,vo1.16, [18]Hsia,T.C., ℃onvergence ana1ysis of LMS and NLMS a(1aptive a1gorithms,
pp299−307.1967。 Proc. IEEE Int. Conf.on Acoustics Speech,and SignaI Pr()cessing,Boston,
[!0]Rume1hart,D., McC1e11and.J.L、 and the PDP Research Group, Para11e1Dis一 NIassachusetts
, USA,pp,667−670.1983、
tributed Processing: Exp1oration in the NIicrostructure of Cognition, NIIT [19]尾関和彦,
梅田哲夫, アフィン部分空間への直交射影を用いた適応フィル
Press,Cambridge, 1986、 タ・アルゴリズムとその謝生質, 電子通信学会和文論文詩A分冊,vo1.J67−A.
[11]McCu11och,、V,S. and Pitts,、V、, A1ogica1ca1cu1us of the ideas immanent in no,2,pp.126−132.1984.
nervous activity, Bu11etin ofMathematica1Biophysics,vo1.5,pp.115−133.1943.
[201Miy・・hi,S. and Nakayama,K., A geometric1earning a1gorithm for e1ementary
[12]RosenbIatt,F., The perceptron: A probabiIistic mode1for information storage perceptron and its convergence ana1ysis, Proc.19971EEE Int.Conf.on Neura1 ando・gani・atio・inthebrain, Psycho1ogica工Review,vo1.65,pp.386−408.1958. Networks
, Houston,Texas,USA,pp.1913−1918,June1997.
[131Rosenb1att,F., Princip1es of Neurodvnamics J , Spartan Books
, 、Vashing一 [211三好誠司, 中山謙二, 基本パーセプトロンの等比学習とその収束条件, 電
ton,DC,1962. 子情報通信学会1997年総合大会,D−2−35,March1997.
f141H・yki・,S・, Ad・pti・・Fi1t・・Th…y(2・d・diti・・),・P…ti・・H・11, Eng1ewood [221三好誠司, 中山謙二, 池田末口司, 基本パーセプトロンの等比学習とその収
C1i茄s, 1991. 束特性, 電子情報通信学会技術研究報告,NC97−5,May1997.
[15]、Vidrow,B. and Ho任,M.E.Jr, Adaptive switching circuits,
IRE WESCON
[231Miy・・hi,S., Ikeda K、, and Nakayama,K., Convergence properties of symmetric Conv.Rec.,pt.4,pp.96−104.1960.
1earning a1gorithm for pattern c1assi丘。ation, Proc. 19981EEE Int.Joint Conf.
[161N・g・m・1J・1…dN・d・,A、, A1・・mi・gm・・h・df…。・t・mid。。ti丘。。ti。。,・1EEE on Neura1Networks,Anchorage,A1aska,USA,May1998. (・…pt・d)
Trans,on Automatic Contro1,vo1.AC_12,pp.282−287.1967.
[241三好誠司, 池田末口司, 中山謙二, 基本パーセプトロンの等比学習とその収
[17]A1bert,A.E. and Gardner,L.S.Jr., Stochastic Approximation and Non1inear 東条件, 電子情報通信学会和文論文詩A分冊,1998年5月掲載予定.
Regression, MIT Press,1967、
96 97
[251Miyoshi,S.,Ikeda,K.and Nakayama,K., Conditions for convergence of the nor一 [341 Cover,T.M., Geometrica1and statistica1properties of systems of1inear in一 ma1ized LMS aIgor廿hm in neura11eaming, Proc. 19971nternationa1Sympo一 ・q・・1iti・・with・pP1i・・ti…i・p・tt・m・…g・iti・・, IEEE Trans.on E1ectronic sium()n Non1inear Theory and its ApP1ications(NOLTA 97),Hono1u1u,USA, Computers,vo1.EC−14,pp.326・一334.1965.
Nov、一Dec. pp,743−746.1997。
1351 Miyoshi,S. and Nakayama,K、, A recurrent neura1network,vith seria1de1av
[261池田和司, 三好誠司, 中山謙二, 神経学習における正規化LMSアルゴリス e1ements for memorizing1imit cyc1es, Proc. 19951EEE Int. Conf.on Neura1
ムの収束条件, 日本神経回路学会誌, Vo1.4,No.4,pp.151−156.1997. Networks,Perth. Austra1ia
ラ pp.1955−1960,Nov. 1995.
[271 三好誠司, 池田末口司, 中山謙二, 対称学習によるパターン分類の収束特性, [36]Wアidrow,B., Se1f−Organizing Systems, Spartan Books,p.442.1962.
電子情報通信学会和文論文詩A分冊,1998年3月掲載予定.
[371 Hop丘e1d,J.J., Neura1networks and physica1systems with emergent coHective
[28]Hebb,D.O., The Organization of Behavior A Neuropsycho1ogica1Theory,
computationa1abi1ities,,, Proc. of the Nationa1Academv of Sciences of the Wi1ey,New York,1949.
U,S.A.
, vo工.79
, PP.2554−2558.1982.
[29]Minsky,M.L. and Papert,S.A., Perceptrons, MIT Press
, Cambridge,1969.
[38]Amit,D.J., Mode1ing Brain Function The Wor1d of Attractor Neura1Net一
[30]Widrow,B., Genera1ization and Information Storage in Networks of Ada1ine work, Cambridge University Press,1989、
Neuronsラ, Se1f Organizing Systems,Spartan Books,New York,1962,p.442,
[391 Miyoshi,S.and Nakayama,K., Probabi1istic memory capacity ofrecurrent neu一
[31]Brown,R., Logica1Properties of Adaptive Networks, Stanford E1ectronics ra1networks, Proc.19961EEEInt.Conf.on Neura1Networks,Washington,DC,
Laboratories Quarter1y Research Review No.1, SEL−62−109.1962. USA,pp.1291−1296,June1996.
[321W・・d・1,J・G・, ・へp・・b1・mi・g・・m・t・i・p・・b・bi1ity,・
Mathematica Scandinav一 [401 渡辺哲雄, 線形計画法入門, 槙書店,1972.
ica,11.1962,PP.109−111.
[411 0h H.
, and Kothari,S.C., Adaptation of the re1axation method for1eaming
[33]、Vinder,R.O., Theresho1d Logic, Ph.D. Dissertation,Princeton University, in bidir㏄tiona1associative memory, IEEE Trans. on Neura1Networks,vo1.5,
Princeton,New Jersey,1962.
no.4,pp.576−583.1994.