6 月 11 日講義参考資料
• 次回は6月20日(水)です.18日(月)は創立記念日の為講義 はありません.
• 左に太い線(←)が引っ張ってある箇所は 発展的内容, そ れ以外は 基礎的内容 です.
• このノートはホームページ
http://www.kurims.kyoto-u.ac.jp/˜shimizu/LectLC2018.html
(google検索:「清水達郎」+「RIMS」+「線形代数」)から ダウンロードできます.
7. 最小多項式(つづき)
命題7.11. A∈Mn(C)について以下はすべて同値である.
(1) Aは対角化可能である.
(2) A の 最 小 多 項 式 を 因 数 分 解 し た も の を FA(x) = (x − α1)l1· · ·(x − αk)lk, αi ̸= αj(∀i ̸= j) と し た と き,l1=l2=· · ·=lk= 1である.
(3) CnはAの固有空間の直和である.
(4) Aの任意の固有値に対して,その一般固有空間はその固有空 間と一致する:W(αi) =Vαi(∀i).
略証. (1)⇔(2)は命題 7.8(前回)からわかる.(3)⇔(4)は,Vαi ⊂ W(αi)とCn =W(α1)⊕ · · · ⊕W(αk)からわかる.(1)⇒(3)はA が対角行列の時に具体的に固有空間を書き下せばわかる.(3)⇒(1) は固有ベクトルからなる基底をとり,それによる表現行列を考えれば よい.
復習 8. Hermite 内積と正規行列
この章の内容はすべて線形代数学ABの復習である.内積につい て不安がある人は適当な教科書を参照するか,次の9〜11回目のプ リントを参照してください:
http://www.kurims.kyoto-u.ac.jp/˜shimizu/LectLB2017.html 定義8.1. A∈Mn(C)に対し,その随伴行列A∗をA∗=AT で定め る.ここでAはAの各成分を複素共役に取り換えた行列を意味し,
Tは転置である.
注意 (線形写像としての理解). V をエルミート内積(,)の入ったC 上内積線形空間, f :V →V を線形写像とする.任意のx, y ∈V に 対し(f(x), y) = (x, f∗(y))が成立するような線形写像f∗:V →V
がただ一つ存在することが知られている.f をV の適当な正規直交 基底に関して行列表示したものをAとしたときf∗の同じ正規直交 基底による行列表示はA∗となる.
定義8.2. A∈Mn(C)がAA∗=Inを満たすとき,ユニタリー行列 という.言い換えれば,A−1=A∗ということ.
注意. Cnに標準内積(x, y) =xTyを入れたものを標準的な内積空間 と呼ぶ.Cnの正規直交基底*1b1,· · ·, bn ∈ Cn を縦ベクトルとして 並べて得られる正方行列(b1,· · · , bn)∈Mn(C)はユニタリー行列で ある.逆に,ユニタリー行列のn個の列は正規直交基底を与える.
命題 8.3. 任意のA∈Mn(C)に対し適当なユニタリー行列U が存 在しU∗AU は上三角行列となる.
注意(線形写像としての理解). U∗AU =U−1AU であることに注意 する.任意の線形写像f :V →V は,V の適当な正規直交基底によ る行列表示が上三角行列になる,ということ.
命題8.3の証明. 行列のサイズに関する数学的帰納法で示す.n= 1では明 らか.一般のnを考える.Aの固有多項式は複素係数多項式なので,解を持 つ.したがって固有値は必ず存在する.A∈Mn(C)の固有値λと固有ベク トルxをひとつとる:
Ax=λx.
ただしxは正規化して∥x∥= 1としておく.xを延長してCnの正規直交 基底
x, x2, x3, . . . , xn
をとり,ユニタリー行列Uを,
U := (x, x2, . . . , xn) と定める.このとき,
U−1AU=U∗AU
=
xT x2T
.. . xnT
A(x, x2, . . . , xn)
=
xTA xTA · · · xTA
x2TA x2TA · · · x2TA ..
. ... . .. ... xnTA xnTA · · · xnTA
(x, x2, . . . , xn)
*1すなわち(bi, bj) =δijなる基底.
=
xTAx xTAx2 · · · xTAxn
x2T
Ax x2T
Ax2 · · · x2T
Axn
..
. ... . .. ... xnT
Ax xnT
Ax2 · · · xnT
Axn
=
λxTx xTAx2 · · · xTAxn
λx2Tx x2TAx2 · · · x2TAxn
..
. ... . .. ... λxnTx xnTAx2 · · · xnTAxn
=
λ(x, x) xTAx2 · · · xTAxn
λ(x2, x) x2T
Ax2 · · · x2T
Axn
..
. ... . .. ... λ(xn, x) xnTAx2 · · · xnTAxn
=
λ xTAx2 · · · xTAxn
0 x2T
Ax2 · · · x2T
Axn
..
. ... . .. ... 0 xnT
Ax2 · · · xnT
Axn
n−1行n−1列正方行列A0を最後の行列の右下部分とする:
A0:=
x2T
Ax2 · · · x2T
Axn
..
. . .. ... xnT
Ax2 · · · xnT
Axn
∈Mn−1(C)
帰納法の仮定から,あるユニタリー行列U0があって B:=U0−1A0U0
は上三角行列となる.
U1:=
( 1 0
0 U
)
∈Mn(C) とおくと,
(U U1)∗A(U U1) =U1∗(U∗AU)U1
=U1∗
λ xTAx2 · · · xTAxn
0 x2T
Ax2 · · · x2T
Axn
..
. ... . .. ... 0 xnT
Ax2 · · · xnT
Axn
U1
=
( λ ∗
0 B
) .
よってAはユニタリー行列U U1によって上三角化される.
この証明は実際に上三角化するアルゴリズムを与えている:
例. A=
0 1 0 1 0 0 2 0 −1
を上三角化せよ.
命題8.4. 実正方行列A∈Mn(R)の固有値がすべて実数ならば,直 交行列によって上三角化できる.
Proof. Rnの正規直交基底x1, . . . , xnに対してP = (x1, . . . , xn)は 直交行列であることと,定理8.3の証明において,固有値が実数あれ ば帰納法が実数の範囲で進行することからわかる.
正規行列
定義 8.5. 正方行列A∈ Mn(C)がA∗A =AA∗ を満たすとき,A を正規行列という.
定理8.6. 正規行列はユニタリー行列によって対角化可能である.
Proof. 定理8.3により,Aはユニタリー行列によって三角化できる.す
なわち,あるユニタリー行列U があってU∗AU は上三角行列になる.
B= (bij) :=U∗AUとおく.bij= 0 ifi > jである.
BB∗= (U∗AU)(U∗AU)∗=U∗AU U∗A∗U=U∗AA∗U, B∗B= (U∗AU)∗(U∗AU) =U∗A∗U U∗AU=U∗A∗AU であり,Aは正規行列であるので,
BB∗=B∗B.
BB∗の(1,1)成分は
b11b11+· · ·+b1nb1n=|b11|2+· · ·+|b1n|2 であり,B∗Bのii成分は
b11b11+· · ·+bn1bn1=|b11|2 である.これらが等しいのだから,
b12=b13=· · ·=b1n= 0.
BB∗の(2,2)成分は
b21b21+· · ·+b2nb2n=|b22|2+· · ·+|b2n|2 であり,B∗Bのii成分は
b12b12+· · ·+bn2bn2=|b12|2+|b22|2=|b22|2 である.これらが等しいのだから,
b23=b24=· · ·=b2n= 0.
以下同様に(3,3)成分,(4,4)成分,· · · と順次確かめてば,すべてのi < j についてbij= 0がわかる.
この定理は逆も正しい:
定理8.7. A∈Mn(C)がユニタリー行列によって対角化可能ならば 正規行列である.
Proof. 対角行列は正規行列であることを用いればよい.
補題8.8. 正方行列A∈Mn(C)について以下は同値である.
(1) Aはユニタリー行列によって対角化できる.
(2) Aの固有ベクトルからなるCnの正規直交基底が存在する.
証明のアイデア.
(1)⇒(2)U∗AUが対角行列,U = (b1,· · ·, bn)のとき,b1, . . . , bnはA の固有ベクトルからなる正規直交基底である.
(2)⇒(1)B= (bij)ijを任意の対角行列とする.各biiは固有値であり,bii
に属する固有ベクトルとしてeiが取れる.したがって標準基底はBの固有 ベクトルからなるCnの正規直交基底である.ユニタリー行列は内積を保 つ.すなわち,正規直交基底を正規直交基底に変換する.
以上をまとめると,
Aが正規行列 ⇔ ユニタリー行列によって対角化可能
⇔ 固有ベクトルからなる正規直交基底が取れる
参考:Aが対角化可能 ⇔ 固有ベクトルからなる基底が取れる 実際に正規行列をユニタリー行列によって対角化するときは,各 固有空間の正規直交基底を集めた基底を取ればよい.
例. 次の行列がユニタリー行列によって対角化可能か判定し,対角化 可能なら対角化せよ.
(1) (
0 1
−1 0 )
(2)
( 1 1
0 2 )
復習:Hermite内積と直交直和分解
V をC上の線形空間とする.V の元2つの組に対して複素数を対応させ る写像
(·,·) :V ×V →C
がHermite内積であるとは次の条件をすべて満たすときをいうのだった.念
頭にCnとその内積x·y=xTyを思い浮かべながら読むとわかりやすい.
任意のx, y, z∈V と任意のα∈Cに対して,
(1) (x+y, z) = (x, z) + (y, z), (2) (αx, y) =α(x, y),
(1’) (x, y+z) = (x, y) + (x, z), (2’) (x, αy) =α(x, y),
(3) (x.y) = (y, x),
(4) (x, x)∈Rであり,(x, x)≥0, (5) (x, x) = 0⇔x= 0.
内 積 は計量と も い う .(1),(2) を ま と め て ,第1成分に関する線形性と い
う.(1’),(2’)をまとめて第2成分に関する共役線形性という.(3)の性質は
歪対称性という.また,(4),(5)の性質を非退化正定値性という*2.まとめ ると,
(複素)内積= 半 双線形+歪対称+非退化正定値
定義8.9. V =W1⊕ · · · ⊕Wkを直和分解とする.任意のi̸=jと任意の
wi∈Wi, wj∈Wjについて
(wi, wj) = 0
を満たすとき,V =W1⊕ · · · ⊕Wkを直交直和分解という.
参考
正規行列が対角化可能であることを,行列表示を用いずに証明するこ ともできる:
Aを正規行列とする.A の固有値λをひとつとり,Vλ を λの固
有空間,x ∈ Cn\ {0} を λのノルムが 1 の固有ベクトルのひとつ
とする.AA∗x = A∗Ax =λA∗xよりA∗x ∈ Vλ であるからA∗ は 線形写像 A∗ : Vλ → Vλ を誘導する.A∗|Vλ の固有ベクトルを一つ 取 り v ∈ Cn と す る .v は ,A, A∗ 共 通 の 固 有 ベ ク ト ル で あ る(固 有値は一般に異なる).v⊥ = {y ∈ Cn | (v, y) = 0} ⊂ Cn とおく と ,A, A∗ は A(v⊥) ⊂ v⊥, A∗(v⊥) ⊂ v⊥ を 満 た す こ と が わ か る . dimv⊥= dimCn−1なので帰納的にAの固有ベクトルからなる正規 直交基底が求まる.
9. Hermite 行列の固有値
H∗=Hとなる複素正方行列をHermite(エルミート)行列,ST = Sとなる実正方行列を対称行列というのだった.対称行列は複素行 列と見たときHermite行列である.
Cnの標準内積は
(x, y) =x∗y で与えられるから,任意のA∈Mn(C)に対し
(Ax, y) = (Ax)∗y=x∗A∗y=x∗(A∗y) = (x, A∗y) が成立する.AがHermite行列なら,
(Ax, x) = (x, A∗x) = (x, Ax) = (x, Ax) よりx∗Ax= (Ax, x)∈Rが成り立つ.関数
Cn→R, x7→x∗Ax
はAが定めるHermite形式と呼ばれ,このプリントでは A[x] =x∗Ax
*2第1成分に関して共役線形,第2成分に関して線形,とすることもある.たと えば物理ではそれが一般的.
と書くことにする.
v∈Cnに対して,
∥v∥=√
(v, v) =√ v∗v≥0 をvのノルムというのだった.
v= 0⇔ ∥v∥= 0 が成立する.
同様にRnの標準内積は
(x, y) =xTy で与えられるから,任意のA∈Mn(R)に対し
(Ax, y) = (Ax)Ty=xTATy=xT(ATy) = (x, ATy) が成立する.対称行列Sに対し,関数S:Rn →Rを
S[x] =xTSx で定める.
補題9.1. Hがエルミート行列ならユニタリー行列で対角化でき,そ の固有値はすべて実数である.
Proof. エルミート行列は正規行列であるのでユニタリー行列で対角
化できる.λ∈ CをH の固有値とすると,ある0でないベクトル v∈CnがあってHv =λvとなる.H[v] =v∗Hv=λ∥v∥2∈Rと
∥v∥ ̸= 0よりλ∈Rである.
集合S(Cn) = {x ∈ Cn | ∥x∥ = 1} = {(x1,· · ·, xn) | ∥x1∥2+
· · ·+∥xn∥2= 1} ⊂Cn をCnの単位球面という.
H[·]|S(Cn):S(Cn)→R
は単位球面上の連続関数(さらにいえば連続微分可能関数)である.
定理9.2. Hermite行列H ∈Mn(C)に対して max
x∈S(Cn)
H[x] = sup
v∈Cn\{0}
H[x]
∥x∥
はHの最大の固有値であり,最大値を与えるベクトルは対応する固 有ベクトルである.
Proof. 前 半 (最 大 固 有 値 で あ る こ と) の み 示 す .U∗HU =
λ1
. .. λn
, λ1≤ · · · ≤λnとすると,
H[U x] =x∗U∗HU x=λ1∥y1∥2+· · ·+λn∥yn∥2
である.ここでy= (y1,· · ·, yn)T =U xとおいた.∥U x∥=∥x∥= 1であり,x=U−1yであるから,U|S(Cn):S(Cn)→S(Cn)は全単 射である*3.よって
max
y∈S(Cn)
H(y) = max
x∈S(Cn)
H(U x) =λn.
注意. この定理はさほど非自明なことは言っていないが,重要なのは
「固有多項式を解く」という代数的な問題を「連続微分可能関数の最 大値を求める」という解析の問題に帰着させている点である.
上の定理を用いてHの固有値と固有ベクトルを一つ求める.固有 ベクトルをvとする.
v⊥={w∈Cn|(v, w) = 0} はCnのn−1次元線形部分空間となり,
H(v⊥)⊂v⊥
が確かめられる.よって次はH|v⊥ に定理を適用すれば,H の固有 値が1つもとまる.以下これを繰り返せば,H の固有値が固有多項 式を解くことなくすべて求まるのである.
H[x]の最大値のひとつの求め方:Lagrangeの未定乗数法 連続微分可能関数f :RN → RのS(RN) = {∥x∥ = 1}上で の最大値を求めたい(N = 2n, f(x) = H[x]を想定している). g : RN →Rをg(x) = ∥x∥2で定めると,S(RN) = g−1(1)で ある.
x∈RN に対し,
gradf(x) =
(∂f(x)
∂x1
, . . . ,∂f(x)
∂xN
)
とおく(勾配ベクトルと呼ばれる).x0 における勾配ベクトル gradf(x0)は,幾何学的には次のような意味を持っている:x0か らRN のどの方向に移動すれば最も速くf(x)が増加するか?と いう問いの答えが『勾配ベクトルの方向』である.すなわち,任 意のv∈RN \ {0}に対し,
limε→+0∥f(x0+εv)−f(x0)∥/∥εv∥
≤limε→+0∥f(x0+εgradf(x0))−f(x0)∥/∥εgradf(x0)∥ が成り立つ.
補 題 9.3. v ∈ g−1(1) が f|g−1(1) の 最 大 値 な ら ば gradf(v),gradg(v)∈RN は一次従属(すなわち平行)である.
*3要はxがS(Cn)を走るとき,y=U xもS(Cn)を走る,ということ
証明は省略するが,先述の勾配ベクトルの幾何学的意味を考え れば納得できるはず.なお,gradg(x) = 2xである.
この補題を用いて,最大値を与えるvの候補を探すのがLa- grangeの未定乗数法である.
例. 対称行列S =
( 1 2
2 1 )
の最大固有値を上のレシピに従っ て求める.(もちろん固有多項式を解いたほうがずっと早いが.) f(v) =S[v]とおくと,f((x, y)T) =x2+4xy+y2である.よって
gradf(x, y) = (2x+ 4y,4x+ 2y)T.
(2x + 4y,4x + 2y)//(2x,2y) を 解 く と (x, y)T = (±1/√
2,±1/√
2)T の 4 点 が S の 最 大 固 有 値 の 固 有 ベ ク ト ル の 候 補 で あ る .し ら み つ ぶ し に 試 す と ,最 大 固 有 値 が 3, (x, y)T = (1/√
2,1/√
2)T がその固有ベクトルであることがわ かる.
最大固有値の近似的求め方:べき乗法
せっかくなのでHermite行列でなくても使えるノルム最大固有 値の近似的求め方を一つ挙げておく.A ∈ Mn(C)を固定する.
適当なベクトルv∈Cn\ {0}をとり,ベクトル列 v0=v, v1=Av, v2=A2v,· · ·, vk =Akv,· · · またはこれを正規化して得られるS(Cn)内の列
w0=v/∥v∥, w1=Av/∥Av∥, w2=A2v/∥A2v∥,· · · , wk =Akv/∥Akv∥,· · · とそこから定まる数列
ak = (vk, Avk)/∥vk∥2= (wk, Awk) を順次計算する.
命題9.4 (べき乗法). Aの固有値がλ1,· · · , λlで,∥λ1∥<· · ·<
∥λl∥を満たすとする*4.このとき,limk→∞akは,Aの固有値*5 に収束する.
注意. *4 実際はもう少し緩い条件でも命題は成り立つ.
*5 ほとんどの場合Aのノルム最大固有値λlに収束する.
証明のアイデア. まずは Aは対角行列の場合を考える.固有空 間分解をもちいてv = v(1)+· · ·+v(l)(v(i)はそれぞれ固有値 λ1,· · · , λlに属する固有ベクトル)とあらわしたうえでakを評価 するとよい.
次にAがJordan細胞の場合を考える.この場合もakはAの 固有値に収束し,Akvは固有空間に 近づいていく .
最後にAがJordan細胞の直和になっている時を丁寧に評価す ればよい.
例. S =
( 1 2
2 1 )
を考える.v =v0= (1,0)T とおくとa0=
√5であり,
v1= (1,2)T, a1∼2.6077, v2= (5,4)T, a2∼2.9837, v3= (13,14)T, a3∼2.9982,
v4= (41,40)T, a4∼2.9998 のように計算される.
一方v= (1,−1)T ととると,
w0= (1,−1)T/√
2, a0=−1, w1= (−1,1)T/√
2, a1=−1, w2= (1,−1)T/√
2, a2=−1, w3= (−1,1)T/√
2, a3=−1
のように{vk}kや{wk}kは収束せず振動するが,limk→∞ai= 1 は収束し固有値を与える.
A =
( 1 0
0 −1 )
,v = (3/5,4/5)T と す る と き Akv = (3/5,(−1)k4/5)T よりlimkak = −7/25 であり固有値に収束 しない.
次回:このプリントの残りと2次形式
暇な人へのクイズ(講義とは関係ありません)
次の正方行列が正則行列かどうか,できるだけ少ない計算で判定 せよ.
A=
2 7 −2 0 4 4
6 0 3 −8 −2 −2
5 −2 8 −2 2 8
2 −4 −4 −2 −1 0 4 −2 2 −3 8 −6
−2 0 6 2 2 9
∈M6(R).