例(続)
凸関数の場合の 2 つの制約想定の同値性の証明
11. Gordan の定理
定理(講義pdf1既出).
−→a 1, . . . ,−→a m ∈ Rnについて,次の(1)と(2)は同値:
(1) −→p −→0 かつ−→p = −→0 なる−→p =
⎛
⎝ p1 ...
pm
⎞
⎠ ∈ Rm
(非負要素たちからなるn次元ベクトル)であって p1−→a 1 + · · · + pm−→a m = −→0 を満たすものがある.
(2) (−→a i, −→y ) < 0, i = 1, . . . , m, を満たす−→y ∈ Rnはない.
ここで(·, ·)は内積.
数学的に良い形への書き換え
行列表記のGordanの定理.Aがn × m行列のとき(1)(2)が同値:
(1) A−→p = −→0 , −→p −→0 , −→p = −→0 を満たす−→p ∈ Rmがある.
(2) tA−→y ∈ Rmが全成分負になる−→y ∈ Rnがない.tAは転置行列.
書き換えに過ぎないことの証明.行列Aが与えられたとき「列の小箱」にわけてA = (−→a 1 −→a m)と置くとA−→p = p1−→a 1+· · ·+pm−→a mとなるからこのページの(1)か ら前ページの(1)を得る.また,列ベクトルの内積を行列の積で書くと(−→a ,−→y ) =
t−→a i−→y だからtA−→y =
⎛
⎝ (−→a 1,−→y ) ...
(−→a m,−→y )
⎞
⎠ なので,このページの(2)から前ページ の(2)を得る.逆に前ページのように列ベクトル−→a 1, . . . ,−→a m ∈ Rnが与えられた とき,これらを列とする行列をA = (−→a 1 · · · −→a m)と置くと,同様に前ページの (1)(2)からそれぞれこのページの(1)(2)を得る(証明終わり).
Gordan の定理の注.
・ 小学校で鶴亀算,中学校で連立1次方程式と呼ぶ対象を大学でA−→x = −→b と書い て−→x = A−1−→b を得るように,Gordanの定理も前ページの行列表記が見通し良い.
・ 前ページの形は,前々ページの(中学の連立方程式と大学の行列表記と同程度の)
単なる書き換えであることが,前ページの証明で分かった.
・ よって,前ページと前々ページの定理を区別しない(断らずに前ページの形で定 理を証明し,FJ条件の導出では前々ページの形を使う).
・ 定理の主張は (1)⇔(2).この同値の気持ちは,方程式と解の同値(A−→x =
−→b ⇔ −→x = A−1−→b ) と類似のレベル:
・ (1)⇒(2)は証明容易(解を方程式に代入して成立を確かめるレベル)
・ (2)⇒(1)からFJ条件を得る(方程式から解を得るレベル.技が必要)
・ 技=分離定理.(1)の−→p が,方程式から見いだす解に対応.
− 見え見えのこと:分離定理の−→p がGordanの定理の−→p
− 注目点1:分離定理の2つの凸集合の選択が,昔の偉い人たちのアイデア
− 注目点2:分離定理は不等号しか結論しないが,Gordanの定理(1)は等号!?
Gordan の (1) ⇒ (2) の証明
注.やさしいけど使わない(解を方程式に代入して成り立つと言うような内容).
・ 解を方程式に代入して確かめるのと類似の価値はあるので証明を確認しておく.
(1)⇒(2)の証明.
(1)のA−→p = −→0 とどんなベクトル−→y ∈ Rnと内積を取っても0.行 列の積の表記でt−→y A−→p = 0.
内積は数だから転置を取っても同じ:t−→p (tA−→y ) = 0. 成分で書くとp1(tA−→y )1 + · · · + pm(tA−→y )m = 0.
どのiもpi 0で1つ以上正という(1)の仮定なので,背理法で,
(tA−→y )iたちが全部負とすると,左辺は負になって上記「= 0」と矛盾.
よって(2)のとおり,「tA−→y が全成分負」ということは どんな−→y ∈ Rnを持ってきても起きない.(証明終わり)
分離定理 から Gordan の (2) ⇒ (1)
Gordanの定理の(2)⇒(1)の証明.
分離定理(講義pdf10)のnをm,AをV ,BをT と書き直して 再掲:『V ⊂ RmもT ⊂ Rmも凸集合でV ∩ T = ∅を満たすならば,
−→x ∈ V ⇒ (−→x ,−→p ) α と−→x ∈ T ⇒ (−→x ,−→p ) α を満たす−→p ∈ Rmとα ∈ Rがある.』
Gordanの定理の行列表記のA = (−→a 1 . . . −→a m)を用いて,
V = {tA−→y | −→y ∈ Rn}とT = {−→x ∈ Rm | 全座標負} に上記分離定理を使う.
例.m = 2(平面)のときT は第3象限(軸を含まない).
・ V は(和とスカラー倍について閉じているので)線形空間.線形空間と第3象限 は凸集合(講義pdf6).
・ (2)の仮定『tA−→y ∈ Rmが全成分負になる−→y ∈ Rnがない』からV ∩ T = ∅. よって分離定理の仮定が成り立つからその結論が成り立つ(上記「再掲」参照).
(続) Gordan の定理の (2) ⇒ (1) の証明
前ページの結論(再掲):Gordanの(2)が成り立つ時V = {tA−→y | −→y ∈ Rn}と T = {−→x ∈ Rm | 全座標負}について,−→p ∈ Rmがあって,
−→x ∈ V ⇒ (−→x ,−→p ) α と−→x ∈ T ⇒ (−→x ,−→p ) α が成り立つ.
・ ここから:
線形空間と「第3象限」なので分離定理の一般論よりも強い結論.
− −→0 = tA−→0 ∈ V だから上記「−→x ∈ V ⇒ · · ·」を−→x = −→0 に適 用できて0 = (−→0 , −→p ) α.
− T(平面m = 2なら第3象限)は全成分負なすべての点を集めた ので,原点−→0 のいくらでも近い点について(−→x , −→p ) α よってα 0 でないといけない.
・ 以上から,α = 0と決まる.つまり,
−→x ∈ V ⇒ t−→x −→p = (−→x ,−→p ) 0.
(左辺は行列の式で中央の辺の内積を書き直したもの.)
Gordan の定理の (2) ⇒ (1) の証明(終わり)
前ページの結論(再掲):Gordanの(2)が成り立つ時V = {tA−→y | −→y ∈ Rn}に ついて−→p ∈ Rmがあって,−→x ∈ V ⇒ t−→x −→p = (−→x ,−→p ) 0.
・ V の定義(1行目の再掲)から−→x ∈ V とは−→x = tA−→y の形.
・ 合わせると, (−→y , A−→p ) = t−→y A−→p = t−→x −→p 0.
・ −→y ∈ Rnは何でも良いので−→y = −A−→p と選ぶと
−A−→p 2 = (−A−→p , A−→p ) = (−→y , A−→p ) 0
ノルムは非負なのでこれが成り立つのは等号の場合だけ.よって A−→p = 0.
ノルム(長さ)が0のベクトルは零ベクトルだけだから,A−→p = −→0 . よって(2)から(1)を得た(証明終わり).