多点型 Evolution Strategy の調整則の進化結果

多点型

ES

に対して進化的に獲得された調整則の具体的な数式を，

GP

により進化的に獲 得された木構造を基に表現すると以下のとおりである．

GP

によって木構造の形で獲得さ れたパラメータ調整則のの表現型であり，

5

回の

GP

の試行により，各試行における最終世 代の木構造の個体数の中で，最良の目的関数値を与えるものである．結果を評価したとこ

ろ，

Table 4.8

^となり，

(b)

の設定において進化させた調整則がもっとも良いことがわかる．

(a)

探索点変位および最良点との距離による調整則

σ(k + 1) =(0.108486 × sig(sig(( − 0.255446 + (0.38825/((0.00871860/

((0.00884750 × ( − 0.0757776 − (σ(k) + || v(k) || )))) × − 1.111744)+

0.262112)) + 0.550570))))))

(4.15) (b)

イテレーション経過割合による調整則

σ(k + 1) =(sig(((((( − 0.230945 − ((sig((sig(((sig(t(k)) + (sig(σ(k)) + (( − 0.510822 − 0.0913668) × − (((t(k) + 0.288204) + 0.0568247)))))/( − ((0.362239 − t(k)))/0.134624))) + (t(k)/ − 0.230945))) − 0.143257) × 0.134624))×

0.012485) + 0.684864) − 0.130607) + ((t(k) + 0.684864)/ − 0.230945)))/

((( − 0.0666374 − (t(k) + t(k))) − (((0.0366189 − sig((((0.0969042+

sig((−0.827956 × ((−0.93084 − ((sig((((0.0 + exp((0.0 − t(k))))−

sig((t(k) + ( − 0.330026)))) × − 0.246373)) + ( − 0.230945 × t(k))) − ((((t(k) + 0.684864)/(sig(t(k)) + ((0.0 − (t(k) + 0.684864))))) ×

(t(k) − 0.493738)) × 0.67615))) × −0.323205)))) − (((t(k) + 0.203627)+

σ(k)) × (sig( √

t(k)(( − √

+0.439565))) + (sig(+(t(k))) − 0.152922)))) − (0.0 − (σ(k) × t(k)))))) − 0.143257) × 0.134624)) − √

t(k)(0.418429))) (4.16) (c)

目的関数改善割合による調整則

σ(k + 1) =((p

_s

(k) − ((0.110783 + ((p

_s

(k) + 0.0349683) − p

_s

(k))) + 0.0))+

((p

s

(k) + 0.0614613) − p

s

(k))) (4.17)

これらの木構造を獲得するまでの

GP

の世代更新に伴う目的関数値の進化過程を

100

世 代まで記した様子を

Fig. 4.5

^〜

Fig. 4.7

に示す．メタ最適化問題として多目的問題

(3.45)

を想定し，

PSO

に対するのと同様に目的関数

E

r

(x), r = 1, . . . , 4

^として，

Rastrigin

^関数，

Alpine

^関数，

Rosenbrock

^関数，

Levy

^{関数を用い，実際の}

GP

の更新では世代ごとにこの

順番で適応度とする関数を交互に交換する方式を採用し，

GP

の個体に対応する木構造で 記述されたパラメータ調整則のうち最良の個体に対する目的関数値をプロットしてある．

片対数グラフを使用しても，

Fig. 4.6

において目的関数値調整則

(b)

を用いた結果が顕著な

0 20 40 60 80 100 120

GP's Generation

10^-1 10⁰ 10¹ 10² 10³

E(x)

Rastrigin Alpine Rosenbrock Levy

Fig. 4.5: E(x) of Genetic Programming during evolving rule for ES on setting (a).

0 20 40 60 80 100 120

GP's Generation

10^-1 10⁰ 10¹ 10² 10³

E(x)

Rastrigin Alpine Rosenbrock Levy

Fig. 4.6: E(x) of Genetic Programming during evolving rule for ES on setting (b).

0 20 40 60 80 100 120

GP's Generation

10^-1 10⁰ 10¹ 10² 10³

E(x)

Rastrigin Alpine Rosenbrock Levy

Fig. 4.7: E(x) of Genetic Programming during evolving rule for ES on setting (c).

進化の過程を示しており，

(b)

の構造を有する調整則が多点型

ES

に適しているものと判断 される．

(b)

の構造の調整則を有する多点型

ES

では，更新則中のステップ幅といえる分散共分散 行列の大きさ

σ(k + 1)

の調整だけに限定し，しかも複数の探索点でこのパラメータを共有 している．複数探索点がこのパラメータを共有することで，それらが干渉しているといえ るが，パラメータの種類もそれを与える関数の引数も

1

種類のため，その大域的探索能力 は限定的といえる．著者らの文献

[34]

では，

(a)

と

(b)

の構造を同時に考慮した

3

種類の引 数を有する関数による調整則

σ(k + 1) = F (σ(k), p

s

(k), ||v(k)||, ∆

g

(k)) (4.18)

を想定し，これを

GP

で進化させた調整則を有する多点型

GP

を得ることに成功している．

(a)

^〜

(c)

の調整則を比較検定したのが

Table 4.8

^{であり，この}

L

^と

R

^{の列からも，}

(b)

^の 手法が他の調整則と比べて良いことがわかるため，

(b)

の手法の近似を考える．

(b)

^の数式 は複雑であるが，この数式はイテレーション

k

とともに変化し，問題によらず一意の曲線 を描く．そこで近似においては，このグラフを対数スケールで直線近似する．対数スケー ルを用いるのは，

σ

が正規分布乱数の幅を決定するパラメータであるためであり，大域的 な探索と局所的な探索を同等に行うべきであるというフラクタル性を考慮してである．近 似した数式は

σ(k + 1) = 0.1102exp( − 5.629t(k)) (4.19)

となり，これを元の曲線と比較すると

Fig. 4.8

のようになり，良く近似できていると考え られる．

(b)

の手法を近似した

(4.19)

式によると，時間と共にパラメータを小さくしてい くと，本アルゴリズムでは調整が上手くいくと考えられる．これは「集中化と分散化」の 概念と異なるものであり，焼き鈍し法^[68]に使われるアニーリングの概念に近く，「継続的 な集中化」が本アルゴリズムに適した概念であると言える．

0 200 400 600 800 1000

k

−8

−7

−6

−5

−4

−3

−2

ln (| σ( k) |)

(b) approximated

Fig. 4.8: Scatter plot of (b) and approximated tuning rule.

T able 4.2: P airwise rank ed W elch’ s t-test for 30 dimensional functions with 20,000 function calls of ev olv ed ES

alg1alg2f1f2f3f4f5f6f7f8f9f10f11f12f13f14f15f16f17f18f19f20f21f22f23f24f25LR (a)(b)RRRNRRNRRRNRRRNRNNNRRRRRN017 (a)(c)RRLLNRNRRRNRRRLRLLLRRRRLN714 (b)(c)LNLLNNNNLNNLLLLLLLNNNNLLN130

ドキュメント内 メタヒューリスティクスに対する遺伝的プログラミングによる創発的パラメータ調整則の自動設計(本文) (ページ 91-96)