第 6 章 離散化勾配系モデルのカオスを用いた制約条件付大域的最適化 120
6.6 第 6章の結論
第 7 章 結論
本論文では，前半において制約条件付非線形最適化問題を解く勾配系モデルを，単な る計算手法ではなく，非線形力学モデルの一種と解釈し，その導出法から特性に至るまで を体系的に議論した．また，実用的な計算手法への利用例として，主成分分析をとりあ げ，計算モデルの設計方法を具体的に示した．さらに，後半では，前半で導出したこれら の力学モデルから発現する非線形性に着目し，大域的最適化手法としての利用を論じた．
その方法として，慣性項を加えたモデルによって局所的最適解からの離脱効果にも言及し たが，本論文の中心的な話題として，離散化勾配系モデルから生じるカオスを用いた有界 領域内での大域的探索，およびこの離散化力学系カオス徐冷法を適用した大域的最適化の 実現について，統一的に議論を行った．
制約条件付最適化は，数値計算上の都合から制約条件を緩和して取り扱うのではなく，
有界性を厳密に充足する力学的システムとしての数理モデルを構築することを目的とし て，2章において，2種類のモデル「非線形作用素勾配系」および「非線形変数変換勾配 系」を一般的な枠組みとして導入するとともに，2章，3章で具体的な制約条件に対する モデルの表現を与えた．非線形作用素勾配系は，勾配に非線形作用を施し，勾配を制約領 域内へ閉じ込める効果をもたせるものであり，非線形作用素は計量を考慮し，さらに必要 であれば射影法などを適用して導出される．一方，非線形変数変換勾配系は決定変数に非 線形変換を施し，決定変数を制約領域内へ閉じ込める効果をもたせるものであり，制約領 域を値域とするような自明な非線形関数を変数変換に利用する．なお，非線形作用素勾 配系には，新たに内部状態変数を導入することによって，等価な内部状態表現を与えるこ とができる．これらのモデルの基本的構造は，表7.1のように整理することができる．な お，内部状態表現は，表中の関数f を解析的に与えられるときに有用であり，いくつかの 特徴的な構造を有する制約条件に対して，非線形作用素勾配系の関数f や非線形変数変 換勾配系の関数φは，表7.2で与えることができる．これらの関数を通して決定変数を観 測する両モデルは，つねに決定変数を制約領域に閉じ込めることができ，その性質は離散 化勾配系のカオスを用いた大域的最適化にも利用される．なお，非線形作用素勾配系は，
ニューラルネットワークモデル，数理生態学のレプリケータモデルや，統計力学のスピン モデルにおける平均場近似などの現象論的数理モデルとの親和性が高い．他方，非線形変 数変換勾配系は，制約条件や非線形変換関数の選択によらず，つねに降下法モデルである ことを一般的に保証できる点が長所に挙げられる．
表 7.1: 勾配系モデルの基本的構造
非線形作用素勾配系 非線形変数変換勾配系
決定変数 x 決定変数 x
非線形作用素G(x)で勾配∇E(x)を制約 領域に閉じ込める
非線形関数 φ(x)で決定変数xを制約領 域に閉じ込める
dx(t)
dt =−cG(x(t))∇E(x(t)) 無制約化変数 y
y(t) =φ(x(t)) dy(t)
dt =−c∇yE(x(φ(y(t))))
（内部状態表現）
内部状態変数 u（無制約量）
x(t) = f(x(t)) du(t)
dt =−c∇E(x(t))
表 7.2: 制約条件と対応する非線形関数
制約領域 f(z)，φ(z)の成分表現
単位超立方体領域
0≤xi ≤1, i= 1,· · ·, n 1
1 + exp(−zi), i= 1,· · · , n 単位シンプレックス上領域
Pn
j=1xj = 1, xi ≥0, i= 1,· · · , n exp(zi) Pn
j=1exp(zj), i= 1,· · ·, n 単位超球面上領域（p >1）
Pn
j=1xpj = 1, xi ≥0, i= 1,· · ·, n
à exp(pzi) Pn
j=1exp(pzj)
!1p
, i= 1,· · · , n
第4章では，有界な勾配系モデルの実用例として，主成分分析への応用を取りあげた．
主成分分析の力学系モデルは様々なものが提案されているが，それらは本論文における非 線形作用素勾配系の立場から与えられたものである．ところで，主成分分析は制約が正規 直交条件として与えられるから，本論文では単位超球面上での回転演算に立脚した非線形 変数変換を考え，非線形変数変換勾配系としての力学モデルを導出し，計算手法としての
有用性を確認した．
第5章および第6章は，非線形力学系としての勾配系に不安定性をもたせ，大域的最適
化手法への応用可能性について議論を行った．第5章では，2章の2種類の勾配系モデル を畳み込み積分勾配系へ拡張した．それぞれのモデルは，非線形作用素勾配系の内部状態 変数，および非線形変数変換勾配系の無制約化変数に関する慣性系モデルと等価であるこ とを導いたうえ，慣性系で生じる振動現象が局所的最適解からの離脱効果を与えることを 示した．
第6章は，本論文の帰結として，連続時間力学系のEuler差分化で導出される離散時間
勾配系モデルにおいて，差分化ステップ幅を制御パラメータとするカオスが発現する現象 を勾配系モデルにも適用し，大域的最適化への応用について論じた．はじめに，2章で導 入したモデルを差分化した離散化勾配系が，多峰性目的関数に適用したときカオスを生 じることを確認したうえで，分岐特性を考慮してカオスの不変領域を発見する手法を与 えた．さらに，不変領域における軌道の挙動が，制約領域を大域的に探索する能力を与え ることに着目し，差分化ステップ幅を温度パラメータと解釈して徐冷することによる大域 的最適化の概念である「カオス徐冷法」を用いて大域的最適解の探索をおこなう，いわば
「カオス大域的最適化手法」の枠組みを統一的に論じた．このさい，2章で導入した勾配系 モデルを用いることで，制約条件の構造を意識することなく，カオス大域的最適化手法を 適用することができる．そのうえ，分岐構造によって局所的最適解への引き込みが強い場 合でも，解の選別操作を組み合わせて，高い割合で大域的最適解を発見できる可能性を高 めた「ハイブリッド型カオス徐冷法」の提案を，本研究の重要な成果として強調する．
本研究の最後として，今後の展望について言及する．本論文では，勾配系を非線形力学 系として解釈する立場から，既存の現象論的モデルとの関連性を論じてきた．次の段階と して期待されることの1つは，本研究の主旨に沿って定式化された数理モデルを起点とし て，新たな現象論的モデルが探し出されることである．特に，本研究でとりあげた現象論 的モデルは，いずれも非線形作用素勾配系に属していたが，非線形変数変換勾配系にも直 接的に，あるいは非線形作用素勾配系への等価変換可能性に着目して，現象論的モデルと して意味づけを与えられることもまた現実的にありうることと予感される．
次に，力学系モデルがもつ非線形性に関して，本研究でとりあげた勾配系に限らず，非 線形力学系に所望特性をもたせることは，引き続き重要な課題である．本研究は最適化分 野に閉じるものではなく，非線形力学系全般について，不安定性のなかに存在する特徴を 見出し，工学的に援用するというアプローチ，ひいては所望の現象を発現するため不安定 システムを創り出すというアプローチへの発展が期待される．
参考文献
[1] K.Aihara, T.Takabe and M.Toyoda: “Chaotic Neural Networks,” Phys. Lett. A, vol.144, no.6,7, pp.333-340 (1990)
[2] 合原一幸,相澤洋二（編）: “臨時別冊・数理科学：カオス研究の最前線–非線形科学 の世紀へ向けて,”サイエンス社(1999)
[3] 相吉英太郎, 志水清孝: “数理計画法演習,” 朝倉書店 (1985)
[4] S.Amari: “Natural Gradient Works Efficiently in Learning,” Neural Computation, vol.10, pp.251-276 (1998)
[5] P.Bak: “How Nature Works: The Science of Self-Organized Criticality,” Copernicus Books (1996)
[6] Y.Bar-Yam: “Dynamics of Chaotic Systems,” Westview Press (2003)
[7] D.P.Bertsekas: “Constrained Optimization and Lagrange Multiplier Methods,” Aca-demic Press (1982)
[8] S.Boettcher and A.Percus: “Nature’s Way of Optimizing,” Artificial Intelligence, vol.119, pp.275-286 (2000)
[9] D.G.Bounds: “New Optimization Methods from Physics and Biology,” Nature, vol.329, 215-219 (1987)
[10] T.Chen: “Modified Oja’s Algorithms for Principal Subspace and Minor Subspace Extraction,” Neural Processing Letters,” vol.5, pp.105-110 (1997)
[11] T.Chen, S.Amari and Q.Lin: “A Unified Algorithm for Principal and Minor Com-ponents Extraction,” Neural Networks, vol.11, pp.385-390 (1998)
[12] L.Chen and K.Aihara: “Chaotic Simulated Annealing by a Neural Network with Transient Chaos,” Neural Networks, vol.8, no.6, pp.915-930 (1995)
[13] L.Chen and K.Aihara: “Chaos and Asymptotical Stability in Discrete-Time Neural Networks,” Physica D, vol.104, pp.286-325 (1997)
[14] W.C.Davidon: “Variable Metric Method for Minimization,” Research and Devel-opment Report, no.ANL-5990 (revised), Argonne National Lab., Argonne, Illinois (1959)
[15] K.I.Diamantaras and S.Y. Kung: “Principal Component Neural Networks: Theory and Applications,” John Wiley & Sons (1996)
[16] S.C.Douglas, S.Amari and S.Y.Kung: “Gradient Adaptation with Unit-norm Con-straints,” Technical Repprt #EE-99-003, Southern Methodist University (1999) [17] A.Edelman, T.A.Arias and S.T.Smith: “The Geometry of Algorithms with
Orthog-onality Constraints,” SIAM. J. Matrix. Anal. Appl., vol.20, no.2, pp.303-353 (1998) [18] L.E.Faybusovich: “Dynamical Systems which Solve Optimization Problems with Linear Constraints,” IMA J. Mathematical Control and Information. vol.8, pp.135-149 (1991)
[19] L.E.Faybusovich: “Dynamical Systems that Solve Linear Programming Problems,”
Proc. IEEE Conf. Decision and Control, pp.1626-3631 (1992)
[20] A.V.Fiacco and G.P.McCormick: “Nonlinear Programming: Sequential Uncon-strained Minimization Techniques (Classics in Applied Mathematics),” SIAM (1990) [21] S.Fiori: “A Theory for Learning by Weight Flow on Stiefel-Grassman Manifold,”
Neural Computation, vol.13, pp.1625-1647 (2001)
[22] R.A.Fisher: “The Genetical Theory of Natural Selection,” Oxford University Press (1930)
[23] R.Fletcher: “Practical Methods of Optimization,” John Wiley & Sons, 2nd Edition (2000)
[24] 藤田得光，安田恵一郎，横山隆一: “散逸系カオスを用いた大域的最適化手法,”信学 論(A), vol.J77-A, no.6, pp.881-889 (1994)
[25] V.V.Gafiychuk and A.K.Prykarptsky: “Replicator Dynamics and Mathematical De-scription of Multi-Agent Interaction in Complex Systems,” J. Nonlinear Mathemati-cal Physics, vol.11, no.1, pp.113-122 (2004)
[26] P.E.Gill, W.Murray and M.H.Wright: “Practical Optimization,” Academic Press (1981)
[27] J.Gleick: “Chaos: Making a New Science,” Penguin Books (1988)
[28] J.C.Hart, G.K.Francis and L.H.Kauffman, “Visualizing Quaternion Rotation,” ACM Trans. Graphics, vol.13, no.3, pp.256-276 (1994)
[29] M.Hata: “Euler’s Finite Difference Scheme and Chaos in Rn,” Proc. Japan Acad., vol.58(A), pp.178-181 (1982)
[30] C.Hauert, S.D.Monte, J.Hofbauer and K.Sigmund: “Replicator Dynamics for Op-tional Public Good Games,” J. Theoretical Biology, vol.218, pp.187-194 (2002) [31] D.Hebb: “The Organization of Behavior: A Neuropsychological Theory,” Lawrence
Erlbaum Assoc (2002)
[32] U.Helmke and J.B.Moore: “Optimization and Dynamical Systems,” Springer-Verlag (1993)
[33] J.Hofbauer and K.Sigmund: “The Theory of Evolution and Dynamical Systems,”
Cambridge University Press (1988)
[34] J.Hofbauer and K.Sigmund: “Evolutionary Game Dynamics,” AMS, vol.40, no.4, pp.479-519 (2003)
[35] J.J.Hopfield and D.W.Tank: “‘Neural’ Computation of Decisions in Optimization Problems,” Biological Cybernetics, vol.52, pp.141-152 (1985)
[36] J.J.Hopfield and D.W.Tank: “Computing with Neural Circuits: A Model,” Science, vol.233, pp.625-633 (1986)
[37] 堀江亮太, 相吉英太郎: “力学モデルによる大域的最適化手法‐非線形ダイナミクス と非線形最適化,”システム/制御/情報, vol.45, no.4, pp.205-211 (2001)
[38] H.Ryota and E.Aiyoshi: “Variable Metric Gradient Projection Method and Replica-tor Equation,” 1999 IEEE Intl. Conf. on System, Man, and Cybernetics, pp.III-515-520 (1999)
[39] H. Hotelling: “Analysis of a Complex of Statistical Variables with Principal Com-ponents,” Journal of Educational Psychology, vol.24, pp.498-520 (1933)
[40] 井上政義, 秦浩起: “カオス科学の基礎と展開―複雑系の理解に向けて―,”共立出版 (1999)
[41] E.A.Jackson (田中訳): “非線形力学の展望(1),” 共立出版 (1994) [42] E.A.Jackson (田中訳): “非線形力学の展望(2),” 共立出版 (1995)
[43] J.Kennedy and R.Eberhart: “Swarm Intelligence,” Morgan Kaufmann (2001) [44] S.Kirkpatrick, C.D.Gelatt Jr. and M.P.Vecchi: “Optimization by Simulated
Anneal-ing,” Science, 220, pp.671-680 (1983)
[45] 熊田直樹, 相吉英太郎: “ニューラルネットワークを用いたカオスデータのモデリン グと周期解推定,”計測自動制御学会論文集, vol.40, no.3, pp.322-327 (2004)
[46] P.J.M. van Laarhoven and E.H.L.Aarts: “Simulated Annealing: Theory and Appli-cations,” D.Reidel Publishing Company (1987)
[47] A.V.Levy and A.Montalvo: “The Tunneling Algorithm for the Global Minimization of Functions,” SIAM J. Sci. Stat. Comput., vol.6, no.1, pp.15-29 (1985)
[48] T.Y.Li and J.A.Yorke: “Period Three Implies Chaos,” Amer. Math. Monthly, vol.82, pp.985-992 (1975)
[49] G.P.McCormick: “Nonlinear Programming,” Wiley-Interscience (1983)
[50] 増田和明, 相吉英太郎: “離散化カオス写像と悪化受理法によるハイブリッド型大域 的最適化手法,”電学論C, vol.122-C, no.5, pp.892-899 (2002)
[51] K.Masuda and E.Aiyoshi: “Solution to Combinatorial Problems by Using Chaotic Global Optimization Method on A Simplex,” Proc. SICE Annual Conference 2002，
pp.1026-1031 (2002)
[52] 増田和明, 相吉英太郎: “レプリケータ系にもとづくカオス力学系−ニューラルネッ トワーク実現からカオス最適化まで−, ” 第12回インテリジェント・システム・シン ポジウム講演論文集, pp.373-378 (2002)
[53] 増田和明, 相吉英太郎: “離散系勾配法モデルを用いたカオス的徐冷法の初期サンプ リングパラメータ設定,”計測自動制御学会 第30回知能システムシンポジウム講演論 文集, pp.79-84 (2003)
[54] K.Masuda and E.Aiyoshi: “Estimation of Periodic Points in Chaos of Discrete Gra-dient Models for Global Optimization,” Proc. SICE Annual Conference 2003 (2003) [55] 増田和明, 相吉英太郎: “シンプレックス上のカオス力学系と正規化制約付大域的最
適化手法,” 電学論C, vol.123-C, no.6, pp.1147-1154 (2003)
[56] 増田和明, 相吉英太郎: “シンプレックス内のカオス力学系を用いた正規化不等式制 約付大域的最適化,” 計測自動制御学会論文集, vol.39, no.7, pp.691-693 (2003)
[57] 増田和明, 相吉英太郎: “単位超球面上の制約付最適化に対する勾配法力学系モデル の検討,”平成15年電気学会電子・情報・システム部門大会講演論文集，pp.1087-1092 (2003)
[58] 増田和明: “離散化勾配系モデルのカオスを用いた制約条件付大域的最適化手法,”電 気学会技術報告書第983号, 電気学会 産業応用部門 計測制御技術委員会 最適化手法 の新展開とその産業応用調査専門委員会編, 第3章, pp.22-30 (2004)
[59] K.Masuda and E.Aiyoshi: “Recurrent Network Expression of Replicator Dynamics for Optimization,” Proc. IEEE SMC 2004，pp.3488-3493 (2004)
[60] A.Melon, K.Mehrotra, C.K.Mohan and S.Ranka: “Optimization Using Replicators,”
Proc. 6th Intl. Conf. Genetic Algorithms, pp.209-216 (1995)
[61] A.Melon, K.Mehrotra, C.K.Mohan and S.Ranka: “Alternatives to Schema Analy-sis: Applications of Replicators, Majorization and Probablistic Databases to Genetic Algorithm,” Proc. 4th Conf. Parallel-Problem Solving from Nature (1996)
[62] 宮澤さや香, 増田和明, 相吉英太郎: “シンプレックス上の結合系カオスモデルによ る大域的最適化,”計測自動制御学会システム・情報部門学術講演会2003講演論文集, pp.189-194 (2003)
[63] 村田秀樹,相吉英太郎: “カオス特性を持たせたシンプレックス上のPSO法,”計測自 動制御学会システム・情報部門学術講演会2004講演論文集，pp.281-286 (2004) [64] S.G.Nash: “SUMT (Revisited),” Operations Research, vol.46, pp.763-775 (1998) [65] J.Nocedal and J.Wright: “Numerical Optimization,” Springer-Verlag (1999)
[66] 野田勝之,増田和明, 相吉英太郎: “マイナー成分を並列的に求める主成分分析のため の超球面上の直交結合型カオス探索法, ” 平成15年電気学会電子・情報・システム部 門大会講演論文集, pp.1030-1035 (2003)
[67] H.Nozawa: “Neural Network model as a Globally Coupled Map and Applications Based on Chaos,” Chaos, vol.2, no.3, pp.377-386 (1992)
[68] M.Ohta, K.Matsumiya, A.Ogihara, S.Takamatsu and K.Fukunaga: “An Analysis on Minimum Searching Principle of Chaotic Neural Networks,” IEICE Trans. Funda-mentals, vol.79-A, no.3, pp.363-369 (1996)
[69] E.Oja: “A Simplified Neuron Model as a Principal Component Analizer,” J. Math-ematical Biology, vol.15, pp.267-273 (1982)
[70] E.Oja and J.Karhunen: “On Stochastic Approximation of the Eigenvectors and Eigenvalues of the Expectation of a Random Matrix,” J. Mathematical Analysis and Applications, vol.106, pp.69-84 (1985)
[71] E.Oja: “Principal Components, Minor Components, and Linear Neural Networks,”
Neural Networks, vol.5, pp.927-935 (1992)
[72] 岡本卓, 相吉英太郎: “非線形散逸力学系の内部状態モデルを用いた制約条件付大域 的最適化手法,”システム制御情報学会論文誌, vol.16, no.12, pp.662-669 (2003) [73] 岡本卓, 相吉英太郎: “超球面上の連続散逸系カオスを用いた制約条件付き大域的最
適化,”電学論C, vol.124-C, no.9, pp.1888-1895 (2004)
[74] 小野功, 佐藤浩, 小林重信: “単峰性正規分布交叉UNDX を用いた実数値GAによる 関数最適化,” 人工知能学会誌, vol.14, no.6, pp.1146-1155 (1999)
[75] 大野豊，磯田一男（監修）: “数値計算ハンドブック’ ’, オーム社 (1990)
[76] K.M.Page and M.A.Nowak: “Unifying Evolutionary Dynamics,” J. Theoretical Biol-ogy, vol.219, pp.93-98 (2002)
[77] H.O.Peitgen and P.H.Richter（宇敷重広訳）: “フラクタルの美―複素力学系のイメー ジ,” シュプリンガー・フェアラーク東京 (2000)
[78] H.O.Peitgen, H.Jurgens and D.Saupe: “Chaos and Fractals,” Springer-Verlag (1992) [79] C.Peterson and J.R.Anderson: “A Mean Field Theory Learning Algorithm for Neural
Networks,” Complex Systems, vol.1, pp.995-1019 (1987)
[80] C.Peterson and J.R.Anderson: “Neural Networks and NP-Complete Optimization Problems: A Performance Study on the Graph Bisection Problem,” Complex Sys-tems, vol.2, no.1, pp.59-89 (1988)
[81] C.Peterson and B.Soderberg, “A New Method for Mapping Optimization Problems onto Neural Networks,” Int. J. Neural Systems, vol.1, no.1, pp.3-22 (1989)
[82] M.D.Plumbley, “Lie Group Methods for Optimization with Orthogonality Con-straints,” Proc. Int. Conf. Independent Component Analysis and Blind Signal Sepa-ration, pp.1245-1252 (2004)
[83] Y.A.Pykh: “Energy Lyapunov Function for Generalized Replicator Equations,”
Proc. Intl. Conf. Physics and Control, pp.271-276 (2003)
[84] I.Rechenberg: “Evolution Strategy - Nature’s Way of Optimization” in “Optimiza-tion: Methods and Applications, Possibilities and Limitations,” vol.47 of Lecture Notes in Eengineering, pp.106-126, Springer-Verlag (1989).
[85] J.B.Rosen: “The Gradient Projection Method for Nonlinear programming Part I, Linear Constraints,” SIAM J. Applied Mathematics, vol.8, pp.181-217 (1960)
[86] J.B.Rosen: “The Gradient Projection Method for Nonlinear programming Part II, Nonlinear Constraints,” SIAM J. Applied Mathematics, vol.9, pp.514-532 (1961) [87] D.Sanger: “Optimal Unsupervised Learning in a Single-Layer Linear Feedforward
Network,” Neural Networks, vol.2, pp.459-473 (1989)
[88] P.Schuster and K.Sigmund: “Replicator Dynamics,” J. Theoretical Biology, vol.100, pp.533-538 (1983)
[89] S.Shahshahani: “A New Mathematical Framework for the Study of Linkage and Selection,” Memoirs, AMS. 211 (1979)
[90] H.D.Sherali and C.H.Tuncbilek: “A Reformulation-Convexification Approach for Solving Nonconvex Quadratic Programming Problems,” J. Global Optimization, vol.7, pp.1-31 (1995)
[91] 志水清孝, 相吉英太郎: “数理計画法,”昭晃堂(1984)
[92] P.Singla, D.Mortari and J.L.Junkins, “How to Avoid Singularity for Euler Angle Set?,” Proc. 2004 Space Flight Mechanics Meeting Conference, AAS 04-190 (2004) [93] S.H.Strogatz: “Nonlinear Dynamics and Chaos,” Oxford University Press (2000) [94] 菅田裕之, 志水清孝: “疑似最急降下法におけるカオスを用いた大域的最適化,” 信学
論(A), vol.J79-A, no.3, pp.658-668 (1996)
[95] 谷淳: “カオス的最急降下法を適用したニューラルネットにおける学習および記憶想 起の動特性について,” 信学論(A), vol.J74-A, no.8, pp.881-889 (1994)
[96] 徳田功, 小野寺浩二, 徳永隆治, 合原一幸, 長島知正: “最適化問題を解くカオス的力 学系の大域的分岐のシナリオとその最適化手法の検討,”信学論(A), vol.J80-A, no.6, pp.936-948 (1996)
[97] I.Tokuda, K.Aihara and T.Nagashima: “Adaptive Annealing for Chaotic Optimiza-tion,” Physical Review E, vol.58,no.4, pp.5157-5160 (1998)
[98] L.Wang and K.Smith: “On Chaotic Simulated Annealing,” IEEE Trans. Neural Networks, vol.9, no.4, pp.716-718 (1998)
[99] A.Watt and M.Watt: “Advanced Animation and Rendering Techniques,” Addison-Wesley (1992)
[100] S.Wiggins (丹羽, 田中, 森,今井, 水谷訳): “非線形の力学系とカオス,”シュプリン ガー・フェアラーク東京 (2000)
[101] F.Y.Wu: “The Potts Model,” Review of Modern Physics, vol.54, no.1, pp.235-268 (1982)
[102] L.Xu: “Least Mean Square Error Reconstruction Principle for Self-Organizing Neural-Nets,” Neural Networks, vol.6, pp.627-648 (1993)
[103] M.Yamaguti and H.Matano: “Euler’s Finite Difference Scheme and Chaos,” Proc.
Japan Acad., vol.55(A), pp.78-80 (1979)
[104] 柳浦睦憲, 茨木俊秀: “組合せ最適化―メタ戦略を中心として,” 朝倉書店 (2001)
[105] 安田恵一郎: “進化論的計算手法とメタヒューリスティクス,”電学論(C), vol.122-C, no.3, pp.320-323 (2002)
[106] S.Yoshizawa, U.Helmke and K.Starkov: “Convergence Analysis for Principal Com-ponent Flows,” Int. J. Applied Math. Comput. Sci., vol.11, no.1, pp.223-236 (2001) [107] C.Zhou and T.Chen: “Chaotic Annealing for Optimization,” Phys. Rev. E, vol.55,
no.3, pp.2580-2587 (1997)
謝辞
本論文は，著者が慶應義塾大学大学院理工学研究科基礎理工学専攻博士課程在学中，同 教授相吉英太郎教授の御指導のもとに行ったものである．本学大学院理工学研究科基礎理 工学専攻修士課程，ならびに博士課程在学中の5年間にわたり，御指導を賜わりました相 吉英太郎教授に，謹んで感謝の意を表します．
また，同大学理工学部物理情報工学科在学中の御指導，および本論文の副査として有益 な御指摘を賜わった，同学科ならびに同大学院理工学研究科基礎理工学専攻教授，本多敏 教授に，厚く謝意を表します．同じく，本論文の副査として貴重な御意見を賜わった，同 学部システムデザイン工学科ならびに同研究科総合デザイン工学専攻 志水清孝教授，同 学部管理工学科ならびに同研究科開放環境科学専攻 西野寿一教授の両氏に，厚く謝意を 表します．
そして，博士課程在学中，2003年4月〜2004年3月に慶應義塾先端科学義塾研究セン ター（KLL）後期博士課程研究助成金，ならびに2002年4月〜2004年3月に慶應義塾大 学理工学部物理情報工学科リサーチアシスタント（RA）への任用にともなう支援を賜わ りましたこと，厚く謝意を表します．
本研究にあたり，最適化研究分野における有益な情報の御提供をはじめ，貴重な御意見 と有益な情報を賜わりました，東京都立大学工学部電気工学科，ならびに同大学院工学 研究科電気工学専攻助教授 安田恵一郎博士をはじめ，諸先生方へ謹んで感謝の意を表し ます．また，本論文に対する関連研究の展開をはじめ，貴重な議論その他全面的支援を賜 わった慶應義塾大学理工学部相吉研究室の学生諸君に，厚く御礼を申し上げます．
慶應義塾大学理工学部在学中から9年間，御指導ならびに御厚意を賜わりました，同物 理情報工学科の先生諸氏に，謹んで感謝の意を表します．また，この間に出会うことがで きた同学科の学生諸氏には幅広く支持を賜わり，有意義で貴重な時間を過ごすことができ ました．心より感謝いたします．