最大クリーク問題に対する地形解析
上野伸郎・片山謙吾*・南原英生*・成久洋之*
岡山理科大学大学院工学研究科情報工学専攻
*岡山理科大学工学部情報工学科
(2005年9月30日受付、2005年11月7日受理)
1.まえがき
メタ戦略に基づく高性能なアルゴリズムを構成するためには,対象とする最適化問題の構造をうまく利 用することが重要である['1.
特定の組合せ最適化問題に対して局所探索法などを用いた地形解析(landscapeanalysis)の研究が行われ ている.地形(landscape)[2,3]とは,探索空間における構造の複雑さの尺度である.その解析によって,対 象とする最適化問題を発見的に解くことの困難さをある程度見積もることが可能になり,さらにその構造 を利用した高性能なメタ戦略アルゴリズムの設計も可能と考えられている.現在までに,巡回セールスマ ン問題[4],グラフ分割問題[4,5],フローシヨツプスケジューリング問題[31,バイナリー2次計画問題[6]など に対する地形解析の研究が知られており,その多くでは「大谷構造」[4]が観測されている.大谷構造とは,
探索空間の地形が真の最適解に向かって-つの大きな谷となるような構造をしていることである.対象問 題が大谷構造として構造化された空間を持つならば,集中化と多様化の相反する探索戦略をバランス良く 有するメタ戦略アルゴリズムによって最適解への接近が可能であると考えられている.
本研究では,代表的な組合せ最適化問題の一つである最大クリーク問題(maximumcliqueproblemMCP)
に対して,我々がすでに提案しているh-opt局所探索法[7]を用いて,MCpの地形解析を行う.解析の結果,
大谷構造を観測できない問題例が多く,一般的なメタ戦略アルゴリズムにとって悲観的であることを示す.
2.最大クリーク問題
頂点(vertex)の集合V={11…'、}とそれらの頂点の対を両端とする無向辺(undirectededge)の集合 Ecv×vが与えられたとき,G=(ⅨE)を無向グラフという.特に,全ての2頂点間に,つの辺が存在す る無向グラフを完全グラフという.vの部分集合vにvによる誘導部分グラフG(v,)={v,,Env,×v,}
が完全グラフのとき,すなわち,w,JEV',j≠jiに対して(j,j)EEであるとき,v,をクリークと呼ぶ.
MCp[81とは,与えられたグラフGに含まれるクリークKの中で,次の目的(評価)関数
九。P(K)=|K’ (1)
を最大にするクリークを求める問題である.
MCPは実用上重要な問題であり,通信,符号理論,並列計算,パターン認識,等の分野の基本問題とし て頻繁にあらわれ,様々な組合せ最適化問題と等価であることがよく知られている[81.そのような組合せ最 適化問題として,最大独立集合問題,最小集合被覆問題がある.
MCPはNP-困難[91に属する問題であることから,多項式時間で厳密な最適解を求めるアルゴリズムは存 在しないと考えられている.さらに悲観的なことに,MCPにおいて,多項式時間で一定の近似度を保証す るアルゴリズムは存在しないと考えられている[10,11,121
MCPを厳密に解くために幾つかのアルゴリズムが提案されている.その多くが分枝限定法にもとづく 厳密解法であるが,実行可能時間内で厳密解を得ることができる問題のサイズは小さいグラフもしくは疎 なグラフである[13,14,15,16,171そのため,厳密解に近い解(近似解)を実用時間内に算出する近似解法の
研究が盛んに行われている[18,19,20,211
上野伸郎・片山謙吾・南原英生・成久洋之
983.MCPに対する舟opt局所探索法
MWCP-h-opt-Local-Search(CO,PA,OMde9G(pA))
begin
repeatOO…沙:=CO,D:=CO…妙,P:={1,…,、),g:=0,97…:=O;
repeat
iflPAnP|>Othen //AddPhase
ifmultipleverticeswiththesamemaximumdegreearefbundthenselectonevertexu amongthemrandomlyi
OO:=CCU{ひ),g:=g+1,P:=PW)};
if9>gnzQ⑩then9mQ⑰:=9,oO6esr=CO;
else
//DropPhase(if(PAnP}=O)
ifmultipleverticeswiththesamesizeoftheresultinglPAlarefbundthenselectonevertexu amongthemrandomly;
CO:=OOWj},g:=9-1,P:=P({U};
ifUiscontainedinCq,…thenD=D({u};
endif
updatePA,○M,anddegC(PA)(j),ViePAi untilD=伽
ifgma⑩>OthenOC:=OO6csfelseOO:=OOp7eu;
until9m…≦O;
returnCOi
end
1234567890123456711111111
図1MCPに対するAo-opt局所探索法の擬似コード
本節では,本研究で地形解析に用いるMCPに対するA-opt局所探索法(KLS)[71の概要を述べる.KLS は可変深度探索(VaJFiableDepthSearch,VDS)[221のアイデアにもとづいている.VDSとは,与えられた 解に対して比較的小さな近傍操作を連鎖的に適用することで到達可能な解の集合を改めて大きな近傍と捉 える近傍探索のアイデアである.
KLSの擬似コードを図1に示す.以下では,用語や記号の定義について記述する.KLSは外ループ(Linel‐
18)と内ループ(Line3-16)の処理を有する.以降,外ループに関しては「反復」,内ループに関しては「繰
り返し」と呼び区別する.
cc(z)は内ループの繰り返しlの時点における解(クリーク)である.PA(z)はCO(z)の全頂点に隣接す る,CO(【)に追加可能な頂点の集合
PA(【)={u:uEmCO(z)),(u,j)EE,VeOO(J)}
である.○M(z)はPA(z)の定義を若干緩和した1辺不足集合と呼ぶ辺集合
○M(z)={(仏j):UeWECO(z),(u,j)$E,(Wi)EE,V(jieOC(z),j≠j}
である.なお,○M(z)はCO(')に含まれる頂点群の中のいずれか一つの頂点jEOO(')だけに辺が存在し
ない頂点の集合と捉えることもできる(なお,COCOM).degG(pA(』))はPA(z)により誘導される部分 グラフG(PA(z))内の各頂点りEPA(z)の次数である.
次いで,KLSの各反復における基本アルゴリズム(ルーopt局所探索処理)について簡潔に説明する.まず;
与えられた初期クリーク(初期解)cc(o)を対象として,複数個の頂点を連鎖的に追加する操作(Add移動 操作)および削除する操作(Drop移動操作)により到達可能な近傍解の集合cc(1),…,CO(k),…,OCC)
を得る.(その生成途中では,移動候補頂点集合P(Line2)を利用することで,追加または削除された頂点
は再び追加・削除されることはない).その近傍解の集合から最良解CO(h)(1≦A≦γ)を選び(Line8),
次反復の初期クリークCO(o):=CO(ん)とする(Linel7).KLSは常に実行可能領域を探索空間としており,
各反復の初期クリークに応じて,ルーopt近傍のサイズ(上記のγに対応)が適応的に変動する.
上記のA-opt近傍探索処理は,Add移動操作を施す「Addフェーズ」(Line5-8)とDrop移動操作を施す
「Dropフェーズ」(LinelO-13)の二つのフェーズで構成される.
4.MCPの地形解析
地形解析は,一般に次のように行われる.
(i)真の最適解(もしくは,良く知られている最良解)が既知である問題例を選ぶ.
(ii)ランダム解を初期解として局所探索法によって算出される,異なった局所最適解を複数個得る.
(iii)得られた各局所最適解の目的関数の値と各局所最適解から他の局所最適解への距離を調べる.
(iv)各局所最適解の目的関数の値と各局所最適解から真の最適解への距離を調べる.
上述の準備に基づいて(iii)と(iv)のそれぞれの相関を調べる.また,多くの場合,(iii)と(iv)のそれぞ
れの関係図から視覚的に地形を観測する
本研究では,上述した研究[3,4,MIと同様に,地形をL=(X,f,。)で表現する.なお,Xは探索空間,ノ は目的関数,dは探索空間上で定義された距離である.これは,地形の複雑さと最適化の難しさとの関連付 けを可能にするが,対象とする最適化問題に対する探索法で扱う評価関数,解の表現,距離の定義に依存 する.
4.1評価関数
本研究では,MCPの目的関数式(1)を探索する解の評価関数とする.
42解表現
解はVの各頂点にクリークとして選択しているとき1,選択していないときOのビットを与えて1次元 ベクトルとして表現する.従って探索空間は,x={0,1}池となる.
4.3距離
距離dは探索空間X={0,1}”における二つの解のハミング距離(Hammingdistance)とする.
4.4MCPの地形解析結果
実験はMCPの代表的なベンチマークグラフであるDIMACSの問題例群に対して,ランダム解(Vから ランダムに-つの頂点を選択したクリーク)より開始するA-opt局所探索法の10万回の試行により到達可
能な複数の局所最適解を得て,探索空間の地形を解析する.
真の最適解(もしくは,既知の最良解)が複数ある場合は,その局所最適解に最も距離の近い真の最適解 (もしくは,既知の最良解)を選択する.
表1は,左から,問題例名,最適解値Opt,最適解の個数OptN,10万回のA-opt局所探索法により算
出された異なった局所最適解の数M4m,最適解と得られた局所最適解の平均距離面。pt,局所最適解同士の 平均距離凪肋,及び最適解と局所最適解の相関係数Oopt,局所最適解同士の相関係数○hJ。の結果である.
距離の定義(4.3節参)から,面。pt,Zibmの最大値は最適解値Optの2倍である.Zioj,t,魂Z・の値が最大値
に近づくほど最適解及び局所最適解同士の共通性が少ないと考えることができる.
MCPは最大化問題であるため,Copt,Cdzoの値が共に-1に近いとき最適解及び局所最適解同士に強い
正の相関があり,大谷構造が観測されると考えることができる.
表lで選択した35個の問題例中,8個の問題例で相関係数qp2,cdわが共に負の値となり,そのうち最
適解及び局所最適解同士に強い相関が確認でき,大谷構造が観測できた問題例は5~6個だけであった.残
りの約30個の問題例については,最適解及び局所最適解同士に強い相関が確認できず大谷構造は観測でき
なかった.
上野伸郎・片山謙吾・南原英生・成久洋之
100表1 DIMACSの問題例群に対してAD-opt局所探索法により得られた局所最適解の距離解析結果と相関係数
Num
uLUH組tⅧ0-J ILhⅧ500-J 固巨菖望』口ご胃〕
1111 64208642016
Ⅱ
、タ
●用、》△●、
←一・二制、。.、、)・・、
ヨヤ|▲『凸一合・・凹
邑nJ拙いいい日F己田
迂》ご〆乢.』殺軍一錘軍騨趨絶必、 幻》》》狂》》》
UFOも》(》》侭摩然〉野 ..〈(・斑〈。“・畷》〉。.〈 .、.》へ像γ螺〉に・ず魂 礼ロハーク・・・似乳似チダ凡へ .⑬》・〉卯〈‐翠一,〈
由叺‐。。一d0hO‐Pみ、』■●、胡轡へ強“
P巳。■S▲
・作凸ユハ。、。.》
208542011
85出室已宣豐〕
蕊〕笈窺〕2準>:悪人>(な(甚薙頚蕊率珍:v>、X塗?』
60708090100110020406080
A、.$mgeDisl血、心e Di1Btgmcet⑥ouDtiummn
(a)p-hatl500-3-avg (b)phatl500-3-opt 図2p-hatl500-3-avg
100120
§0 40
instance
Opt OptlV
Num 。OpZ 。α皿 ○。
ptCb
ルC125.9
C2509 C500、9
C1000.9 C2000.94478834567
393 363 3 48 11
0401123643689080029916999 09880483
●●●●71681479 89
0321 550277
●●●279357 1303
●●750211 6058875100ppDp0 04945630340 ●●●●0000
DSJC500.5
DSJC1000.5
3511 0851
9754 18843
1825 24.31
21.36 24.27
-0.05 0.23
0.96 0.98
C2000.5
C4000.5
6811 7171
31358 45734
25.90 31.47
26.88 2929
024 0.44
0.99 099
MANN-a27
MANN-a45 MANN-a81
126 345 1100
681 2 7
100000 100000 100000
96.55 437.76 1351.37
167.34 457.03 1465.33
-0.04 0.01 0.02
446998
●●●000
brock200-2 brock200-4 brock400-2 brock400-4 brock800-2 brock800-4
279346112322 111111
2705 6088 31057 31870 31470 31011
262278808842
●●●●●●988113124544 077249518364
●●●●●●648944123333 315576343355
●●●●●●000000 195751944589
●●●●●●000000
gen200-pO、944 gen200-pO、9-55 gen400-pO、9-55 gen400-pO、965 gen400-pO、9-75
4555545567 44111
47447 35995 93490 92167 92234
38174760
●●●●24966789 64
●701 1525950401
●●●●●6394344677
叫加Ⅱ鮒川
OD0ppⅡ加川町Ⅲ
●000一一 ■●00keller4 keller5 keller6
179125
444 673 14
16530 96271 100000
9.30 31.01 101.71
021944
●●●668149 417734pp0 190990●●●001
p-hat700-1 p-hat700-2 p-hat700-3 p」latlOOO-1 p上atlOOO-2 p上atlOOO-3 p上atl500-1 p-hatl500-2 p-hatl5003
142068254146146169 2 701412
価朗皿1
8643456853 '9974 54000 10736 45435 85660 17690 63407 94305
098477218999821801●●●●●●●●●733288016122125234 974224416214429290●●●●●●●●●583641814134146156
咀乃〃Ⅳ畑脳灯川Ⅶ
0ODpDD0pp096 -070 -0.35 096 -0.49 -0.28 0.97 -0.68 -076
最大クリーク問題に対する地形解析
101』一一@
MANNih81。-『ログ』|| {一マユエT》 rIl880P0I100Ⅱ0721;00Ib0009l0i0i000Lr00001I1I00Ir0I0lYI0I08lII0Ql00d00bII0III00I00ケーローⅡ■Ⅱ5-1■・△ロー『. ■一』》(亜}|「.,,。一一一二一函一一一」ニーロームロ一一一・、ZやP一一一ロエ’一ユロ■■■一一エエキ叩一■■■■一 一鯵 一一
-1
1468
1
1
。p〉 IIiIIII険1111トー’しILN rJグヘ〉P』ロ》。□■ロ七二℃》へ〃。■■ユの{叩)(叩「シ ②与昌⑰邑糾》」[岩S』湧色巳 E麹譲霞翻窺 、.~メタ
しご富む出色』窟S》輯◎{〕
R';喝
愚.<漆;
穀騨鰹蕊F鍾麹窪1蕊ロ窪轤璽寧蟻ug露$0璽鐸ス◆-bUc--.--
1-06$
D-c-c,---」c---.マーワー.----.-缶一一一一・--.------⑤」。..--------.-.-.L-…,-
1判41465M66l467 ATGrlDgeD態tiWBCoP
(a)MANN-a81-avg
---△PC~-
10(10
-⑤+己-0---,-----■-.L~-◆---.。-…--,-~▲←-..--.-----の‐●.・・6.L--.-.-.-PCS。。▲-.---.-
1100】ZOO130U140()1500
,捌汕lcet⑰⑪ID'|IlillIllII11lUmnl
(b)MANN-a81-Iopt
図3MANN181
611111111「II11J0-1
Aや》-4 □》一一一一一一一一一一一一一騨一》 -0-0-1-e’c-8n -9跡 6- -》咄
Ⅱ一七一 Ⅱ一 脳一 一無
」2-9
一色蟻
-8一心‐叺・q‐・昨fp
-8l6IIIIIIII「IIL30864208642Ⅱワー11111
日目閨当】署一選〕声〕
朏阯r6
 ̄---~アーーー ̄ ̄~7----~-F----.T---△・-。-丁-----一壱-----T--.---------
08642086420211111
’
,"1-
(.b(」/
巴U■④■臼罰宕ご』晩。{〕
タグ●■
j二LcGqUい▽B■》ひ■
把り■、00■●■LA少
(惨」・
グbL、、、‐シシ へ
■●■ロロ門し‐し’よqらjのり●
5■ひ■6d0B〃00lb■1げ。bログ
少」。
09$)▽谷。〆。?□祝・■もし00〆0。〆、■ず〆・‐0
,■ゲーバロ。
、ノ。■、ひ
々。、与少0P●もり0●け■』
fbや。6,F、。、◆、》
へ少●、、ケュ⑪L〃0|□d紋■■ゲーハL (□》’ ん‐〉
〆Olqか、。〃b0・
PⅡ。▲勺ムクロ▲。△も〃
b】、ひらPグロロ●。↑イ ロ、。〆、●▲。●P0 s‐|、β口q△■▽Qqq、けタ、▲口。■。▲幻。●リヴ0Pq、△PCLも夕?弘。・づ・pqロワー。LP・ロP●け
へ亜C
s□ず■β●■〆・‐.〃0可』Pも。Pa△Lヴい‐pQ-、▽。●‐■●qP▽《.、、一、■0P●DJ0,点・ゲロ0屯ア.。、
■qbr■bヴー■■。.■▲ワ、ロノト山へ》P●■。『Ⅱ●い■|己も供J‐缶
0F」▼
-$◇,'・UOL,-1-『」L
ザ’--.。"・ロ、グ.、・ハ!。、
10二DQj、P‐.’。。L〃机C
Qの〃-へ〉〆‐。。$06‐0△マミゲ■gh
C/ ヒワゴグ”も■●ご●十.▽PJシ6
凸,イ■FもじみC少一ト、。・・。。。、↓f|、|
曲】■‐》門|uザrクワ』凸 口T6dp〆■
。己△・〆’邪。っ典。。.▽、b
◇00J⑩ロい■。。F
■OqALT.。〃‐‐呵埒〆。》へ。》,・
・■r。P、.‐
●■
》〈〃》.}舟ヨハ..
」、ノ,、ゲグ ー・・も→。■▲『〈)0
J■6Fグu‐、耳βAC
巳■●げ むSSP●①、0、。・ケ
、〈}》
》》0ヤゴ・■
グ◆
鈩守ザ●●、‐F
q
Qf▲巳ロ
ハ・』
》6A
“ ̄J-Jw丘い]
---------一一一一一L一一一一」
758()85’095100105110115
,曲t8uncetlDoIDtmum
(b)keller6-opt
70
L
(a)keller6
avg図4keller6
特徴的な結果を得られた問題例を例に,局所最適解が探索空間内にどのように分布するかを視覚的に観 測する.図2,図3,図4は,異なる局所最適解同士の平均距離(a)と最適解との距離(b)をそれぞれ目的
関数値との関係でプロットした図である.(a),(b)どちらの図も縦軸は,最適解の値と目的関数値との差で 表示しているため,縦軸の値が0に近づくほど,良質な局所最適解である.
図2において,p-hatl5003は,(a),(b)のともに局所最適解がクラスタとして分布していることが確認 できる.さらに相関係数が共に-0.7以下であることから強い正の相関がある.すなわち,p」atl500-3は
大谷構造として構造化されている.
一方で,図3のMANN-a81,図4keller6は共に,大谷構造として構造化されていない問題例である.図 3の(a)のプロット図と,図4の(a)のプロット図から,MANN-a81,keller6共に,目的関数値が良くな るにつれて,各局所最適解同士の距離が大きくなっていくことがわかる.また相関係数の値qloはこのと き,MANNa81,keller6共に0.85以上と強い負の相関を示している.さらに最適解と局所最適解との間に
も正の相関は確認できない.
5.むすび
MCPに対する地形解析により,MCPの多くの問題例の探索空間は大谷構造として構造化されていない ことを示した.このネガティブな結果はMCPの問題構造自体,一般的なメタ戦略アルゴリズムにより最適
解を算出することが非常に困難であることを裏付けている.
上野伸郎・片山謙吾・南原英生・成久洋之
102
今後の課題としては,この悲観的な地形解析の結果を克服可能なメタ戦略アルゴリズムの設計が挙げら
れる.
参考文献
[1]柳浦睦憲,茨木俊秀,組合せ最適化-メタ戦略を中心として-,朝倉書店,2001.
[2]ORBeevesm,``Landscapes,operatorsandheuIFisticse虹ch,,,AnnalsofOperationsResea正ch,voL86,
pp473-90,1999.
[3]山田武士,ORBeeves,``フローシヨップスケジューリング問題の地形解析と遺伝的局所探索による解 法,,,情処学論,voL39,no、7,pp、2112-2123,July1998.
[4]KDBoese,A・BKahng,andSMuddu,``Anewadaptivemulti-stamechniquefOrcombinatorial globaloptimizations,,,OperationsReseaJechLetters,voLl6,pp,101-113,1994.
[5]P・MerzandBFreisleben,"Fitnesslandscapes,memeticalgorithms,andgreedyoperatorsfOrgmph bipartitioning,,,EvolutionaryComputation,vol8,no.’,pp、61-1,2000.
[6]片山謙吾,谷昌史,成久洋之,“バイナリー2次計画問題の地形解析と遺伝的局所探索の性能,,,電子情報
通信学会論文誌(A),volJ84-A,no、10,ppl258-l271,2001
[7]K・Katayama,AHamamoto,andHNarihisa,"AnEf][bctiveLocalSe麺chfOrtheMaximumClique Problem,,,InfbrmationProcessingLetters,VOL95,,05,pp、503-511,2005J
[8]IBomze,MBudinich,PPardalosandM・Pelillo,``TheMaximumCliqueProblem,,,ppl-74,I、
D-ZDu,PMPardalos(Eds.),HandbookofCombinatorialOptimizatio、(suppLh1.A),Kluwer,
Dordrecht(1999)
[9]MG麺eyandDJohnson,“Compute近sandlntractability:AGuidetotheTheoryofNPComplete- ness,,,Freeman,NewYork(1979)
[10]SArora,CLundandR、Motwani,MSudanandMSzegedy,``Proofverificationandthehard‐
nessofapproximationproblems,,,Proceedingsofthe33rdAnnualSymposiumonFbundationsof ComputeZScience,Pittsburgh,PA,ppl4-23(1992).
[11]U、Feige,SGoldwasser,LLovasz,S、SafraandMSzegedy,``ApproximatingcliqueisalmostNP- complete,,,Proceedingsofthe32ndAnnualSymposiumonFoundationsofComputerScience,San Juan,PuertoRico,pp2-12(1991).
[12]JHAstad,``Cliqueishardtoapproximatewithi、、1-`,,,ActaMathematica,VOLl82pp、105-142
(1999)
[13]亀田宗克,富田悦次,“最大クリークを抽出するより効率的な分枝限定アルゴリズム,,,信学技報
COMP2003-48(2003).
[14]EIbmitaandT・Seki,``AneHicientbranch-and-boundalgorithmfOrfindingamaximumclique,,,
ProcDiscreteMathematicsandTheoreticalComputerScience(DMTCS2003),pp278-289(2003)
[15]PRJOstergAI6d,``Afastalgorithmfbrthemaximumcliqueproblem,,,DiscreteAppliedMathemat‐
ics,VbLl20,pPl97-O7(2002)
[16]M・Labbe,P・MaJecotte,GSaバノardand]BOSewell,``AbranchandboundalgorithmfOrthestability numberofasparsegmph,”INFORMSJournalonComputing,Vb1.10,No.4,pp438-47(1998)
[17]』.-MBourjolly,P・Gil1,G.LaporteandHMeIcure,``AnexactquadraticO-1algomthmfbrthestable setproblem,'’1,J・AbelloandJVitter,editors,Externalmemoryalgorithmsandvisualization,
DIMACSSeriesonDiscreteMathematicsandTheoreticalComputerScience,VOL50,American MathematicalSociety,pp53-3-130(1996).
[18]J・Abello,PMPardalosandMGOResende,``OnmaximumcliqueproblemsinverylaJPgegraphs,'’
1,J・AbelloandJVitter,editors,Externalmemoryalgorithmsandvisualization1DIMACSSerieson DiscreteMathematicsandTheoreticalComputerScience,VOL50,AmericanMathematicalSociety,
ppll9-30(1999)
[19]RBattitiandM・Protasi,“ReactivelocalsearchfOrthemaximumcliqueproblem,,,Algorithmica,
VOL29,No.4,pp、610637(2001)
[20]D・SJohnsonandMA.'mck,`Cliques,Coloring,andSatisfability,,,DIMACSSeriesinDiscrete MathematicsandTheoreticalComputerScience,VOL26,AmericanMathematicalSociety)(1996)
[21]EMarchiori,``Genetic,iteratedandmultistartlocalseamhfOrthemaximumcliqueproblem,,,
ApplicationsofEvolutionaryComputing,LNCS2279,Springer,ppll2-121(2002).
[221s.Lin,andBKernighan,``AneectiveheuristicalgorithmfOrthetravelingsalesmanproblem,,,
OperationsResearch,V01.21,pp498-l6(1973)
上野伸郎・片山謙吾・南原英生・成久洋之
104
SearchSpaceAnalysisoftheMaximumCliqueProblem