数理計画法
(田地宏一)Introduction to Mathematical
Programming
2 2017/04/14 教科書:新版 数理計画入門,福島雅夫,朝倉書店 2 011 参考書:最適化法,田村,村松著,共立出版 2002 工学基礎 最適化とその応用,矢部著,数理 工学社 2006,Linear and NonlinearOptimization: second edition, I.Griba, S.G. Nash and A. Sofer, SIAM 2009 など多数 資料 http://www.uno.nuem.nagoya-u.ac.jp/~taji/lecture/lecture.html (またはhttp://133.6.190.133/~taji/lecture/lecture.html)
3 2017/04/14
内容と今後の予定
1. イントロ(例題と種類,機械系における例) 2. 線形計画法(定式化,図形的解法,シンプレックス法,二 段解法,双対性) 3. ネットワーク計画(ダイクストラ法,ネットワークシンプレック ス法) 4. 非線形計画(無制約最適化のアルゴリズム,KKT条件と SQP法) 5. 組合せ最適化(分枝限定法) 6. 内点法と錐線形計画(LPの内点法,半正定値計画(SDP) の理論,二次錐計画とSDPのアルゴリズム) 4 2017/04/141.数理計画モデル
数理計画の手順
5 2017/04/14 解きたい問題 数理モデル 線形モデル,非線形モデル,離散モデル, グラフ・ネットワーク,待ち行列, シミュレーション,統計モデル..... 解法・アルゴリズム 修正 問題の修正 答え 6 2017/04/14例題1(生産計画問題)
3種類の原料A,B,C,を加工して2種類の製品Ⅰ,Ⅱを作る. Ⅰを1単位作るには,Aが0.1単位,B 1.2単位,C 0.4単位必要 である. Ⅱを1単位作るには,A 0.3単位,B 0.5単位,C 0.3 単位必要で ある. 原料A,B,Cの在庫はそれぞれ,1.5,6,2.4である. Ⅰ,Ⅱの純益がそれぞれ 3, 6 であるとき,純益を最大とするよう なⅠ,Ⅱの生産量を求めよ.7 2017/04/14 Ⅰ Ⅱ 総量 A 0.1 0.3 1.5 B 1.2 0.5 6 C 0.4 0.3 2.4 純益 3 6
最大化
2 1 2 1 2 1 2 1 2 16
3
0
,
0
4
.
2
3
.
0
4
.
0
6
5
.
0
2
.
1
5
.
1
3
.
0
1
.
0
x
x
x
x
x
x
x
x
x
x
製品Ⅰを 製品Ⅱを 生産するものとする. 生産計画のデータ 生産量は非負 1x
x
2まとめると
最大化 3 + 6 制約条件 0.1 + 0.3 ≤ 1.5 1.2 + 0.5 ≤ 6 0.4 + 0.3 ≤ 2.4 ≥ 0, ≥ 0 線形計画問題(Linear Programming, LP) 8 2017/04/149 2017/04/14 2 1 , 6 3 , 4 . 2 6 5 . 1 , 3 . 0 4 . 0 5 . 0 2 . 1 3 . 0 1 . 0 x x x c b A とおくと,以下のように書ける (行列形式).
0
,
s.t.
max
Tx
b
Ax
x
c
10 2017/04/14数理計画問題
与えられた制約条件の下で,目的関数を最小 化(または最大化)する数学モデル. または S x x f 制約条件 最小(最大) 目的関数 ( )S
x
x
f
s.t.
)
(
min
11 2017/04/14
であり, 実行可能集合,feasible set (region)
実行可能解,feasible point (solution)
実行可能解の中で目的関数値が最小(または最大)と なる点を最適解 n n n
f
R
R
S
R
R
x
,
:
,
:
S
:
S
x
されることが多い のように数式の組で表 ) その他(整数制約など 等式制約 不等式制約 は X x l j x h m i x g S j i ) , , 1 ( , 0 ) ( ) , , 1 ( , 0 ) (X
x
l
j
x
h
m
i
x
g
R
x
S
j i n(
)
0
,
(
1
,
,
)
)
,
,
1
(
,
0
)
(
実行可能集合 (feasible set) solution) (feasible :実行可能解 S x 2017/04/14 1213 2017/04/14
数理計画問題(再掲)
X
x
l
j
x
h
m
i
x
g
x
f
j i)
,
,
1
(
,
0
)
(
)
,
,
1
(
,
0
)
(
s.t.
)
(
min
以下のように表現される問題応用
1.変分問題 懸垂線,最速降下線など 最適制御問題 T t U t u X t x t u t x dt dx dt u x t F T x T 0 ) ( , ) ( )), ( ), ( ( s.t. ) , , ( )) ( ( min 0 2017/04/14 142.学習,パターン認識,画像処理 ニューラル・ネットワーク,SVMなど 2017/04/14 15 3.統計学,統計分析 最尤推定:尤度関数が最大となる統計量 回帰分析:二乗誤差が最小となる直線(曲面) 4.ファイナンス,金融工学
最小二乗法
2017/04/14 165.構造・設計 トラスの構造・部材を決める ロボットアームの長さ,配置,把持位置 翼の形状 などなど 工学・経済学・医学・生物学・・・・などのあらゆ る分野にある 2017/04/14 17
数理計画問題のいろいろ(機械・
制御系を中心に)
連続的:変数が連続的な実数値をとる 離散的:整数値や0-1などの離散値をとる(そ のようなものを含む) 線形計画法は,両方の性質を持つ 2017/04/14 18線形計画 Linear Programming, LP 目的関数,制約条件がすべて一次式 最初の生産計画の例もLP 非線形計画 Nonlinear Programming, NLP 目的関数や制約条件の中に一次式でない ものを含む
0
,
s.t.
min
Tx
b
Ax
x
c
2017/04/14 19 二次計画 Quadratic Programming, QP 目的関数が二次関数 制約条件はすべて一次式 Qが半正定値のとき,凸二次計画という(非線 形計画の一つ)b
Ax
x
q
Qx
x
s.t.
2
1
min
T T 2017/04/14 20制御問題の例(LQR,モデル予測制御) ) 0 ( ) ( , s.t. ) ( ) ( ) ( ) ( ) ( ) ( min T 0 T T T t M t u m Bu Ax x dt t Ru t u t x Q t x T x Q T x f T 離散化 ) 1 , , 0 ( , s.t. min 1 1 0 T T T N k M u m Bu Ax x Ru u Qx x x Q x k k k k N k k k k k N f N Q :半正定値, R:正定値 → 凸二次計画 これは変分問題 2017/04/14 21 整数計画法 Integer Programming, IP 決定変数 の一部または全部に整数制約 が付いたもの. → 連続の場合より難しい(組合せ最適化) 混合整数計画
Mixed Integer Programming, MIP
組合せ最適化 Combinatorial Optimization
i
x
0 if 8 . 0 0 if 8 . 0 s.t. ) 0 , , ( min 1 1 0 2 2 2 t t t t t t t N k k t k t N t x u x x u x x r q p ru qx px 区分的アフィンシステムのモデル予測制御 0-1変数 と補助変数 をもちいて制約 条件を書き替える t
z
t 十分大を追加 ただし M 0: M x M t 2017/04/14 23 1 or 0 ) 1 ( ), 1 ( , , 6 . 1 8 . 0 s.t. ) 0 , , ( min 1 1 0 2 2 2 t t t t t t t t t t t t t t t t t t t N k k t k t N t M x z M x z M z M z M x M x M z u x x r q p ru qx px 0-1混合整数計画問題Mixed Integer Quadratic Programming, MIQP
は0,1以外の値をとらない
t
半正定値計画 Semidefinite Programming, SDP
制御系の解析: Linear Matrix Inequality, LMI
設計:Bilinear Matrix Inequality, BMI
:半正定値対称行列
n m i i iS
S
S
C
A
S
b
,
0
s.t.
max
1 T 2017/04/14 25 システムの安定性Ax
x
リヤプノフの定理より,0
s.t.
0
T TA
P
PA
P
P
ならば安定.これはLMI. n S P P PA P A I 0, 0, s.t. max T λ>0の解を持つことと,安定性が等価 等価なSDP 2017/04/14 26フィードバック安定化
Cx
y
Bu
Ax
x
,
出力フィードバック をもちいて安定化 変数 L と P のBMI→非線形(非凸)SDPとなる Ly u 0 s.t. 0 T T BLC A P P BLC A P P n S P P BLC A P P BLC A I 0, 0, s.t. max T 2017/04/14 27そのほかのモデル
ネットワーク計画 最短路問題(カーナビの基礎),最大流問題, 最小費用流問題,交通流割当問題など スケジューリング 均衡問題 などは,適宜説明します. 28 2017/04/14補足:簡単な問題と難しい問題
簡単な問題⇔凸計画 線形計画(LP),凸二次計画,半正定値計画(SDP) など 効率のよい商用・非商用プログラムがある(後日,紹 介します) 難しい問題(ただし難しさのレベルはいろいろ) 非凸最適化,組合せ最適化,均衡制約付き最適化 問題(MPEC)など 29 2017/04/14今後の進め方
資料は前日までにホームページに掲載しま す.当日持参することが望ましい. ほぼ毎回レポート課題がある(らしい). 数理計画に関して講義してほしいテーマ(例 えば卒論関係でとか)があれば,申し出てくだ さい. 30 2017/04/1431 2017/04/14