実効的双曲型特性点での Hamilton 写像

QをHesse行列∇²p(ρ)から定まる2次形式とするときp(ρ+ϵX) =−ϵ²ξ₀²+ a(ρ^′+ϵX) +O(ϵ³) = ϵ²Q(X)/2 +O(ϵ³) (ϵ →0)であるがa(x, ξ^′)≥ 0よ り∇²a(ρ^′)は半正定符号で，したがってQの符号は(r,1), r ∈ Nである．

a(x, ξ^′)がρ^′の近傍で非負であることよりMorseの補題からρ^′の適当な錐近 傍でa(x, ξ^′)は次のように書くことができる([7, Lemma C.6.2]を参照)．

a(x, ξ^′) = Xr j=1

ϕ²_j(x, ξ^′) +g(x, ξ^′). (4.2.2) ここでϕ1, . . . , ϕrはρ^′で0，ρ^′の錐近傍でξ^′について斉次1次のC^∞関数 で∇ϕ1, . . . ,∇ϕrはρ^′で１次独立，またgはρ^′で0，ρ^′の錐近傍でξ^′につい て斉次2次のC^∞関数でg≥0,∇²g(ρ^′) =Oを満たす．ξ₀=ϕ₀とおくと

Q(X, Y) =−h∇ϕ₀, Xih∇ϕ₀, Yi+ Xr j=1

h∇ϕ_j, Xih∇ϕ_j, Yi (4.2.3)

と書ける．H_ϕj =σ∇ϕ_jをϕ_jのHamiltonベクトル場とするとh∇ϕ_j, Xi= σ(X, Hϕ_j)なので

Q(X, Y) =σ X,−σ(Y, Hϕ₀)Hϕ₀+ Xr j=1

σ(Y, Hϕ_j)Hϕ_j

が成り立つ．よってFpY =−σ(Y, Hϕ₀)Hϕ₀+Pr

j=1σ(Y, Hϕ_j)Hϕ_j．これよ りF_pの核KerF_pと像ImF_pは

KerFp={X ∈V;σ(X, Hϕj) = 0, j= 0, . . . , r}, ImFp={X ∈V;X =

Xr j=0

αjHϕ_j, αj∈R} (4.2.4)

で与えられる．つぎに

Γ ={(x, ξ) =X∈V;Q(X) =Q(X, X)<0, ξ0>0} (4.2.5) でΓを定義するとこれはV 内の凸開錐で{X ∈V;Q(X)6= 0}の正のξ0 軸 を含む連結成分である．Γのσに関する双対錐Cを

C={X ∈V;σ(X, Y)≤0,∀Y ∈Γ} で定義する．ここで次の補題に注意しよう．

補題 4.2.1. F_p(ρ)が0でない実の固有値をもつとするとΓ∩ImF_p6={0}で ある.

証明. まずλ6= 0を実の固有値とするとき−λもFpの固有値となることを示 す．F_pは実行列ゆえF_pX₊=λX₊, 06=X₊∈V とするとQは対称，σは反対 称2次形式であることからFpはσに関して反対称で0 =σ((Fp−λ)X+, Y) = σ(X₊,(−F_p−λ)Y),Y ∈V が成り立ちF_p+λが全射でないこと，したがっ て−λが固有値であることが分かる. FpX_±=±λX_±, 06=X_± ∈V とすると λ6= 0よりX_±∈ImFpである．以下X+とX₋の適当な1次結合がΓに属 することを示めそう．最初にQの符号が(r,1),r≥1であることに注意する．

実際r= 0ならQ(X) =−ξ₀²となってFpは0以外の固有値を持たない．次に Q(X, Y) = σ(X, F_pY) = −σ(F_pX, Y)よりQはV₀=V /KerF_p上の2次形 式であるからそれをQ¯と表すとQ¯はV0上非退化である．今σ(X+, X₋) = 0 と仮定すると任意のα, β∈Rについて

Q(α[X¯ +] +β[X₋]) =Q(αX++βX₋)

=σ(αX++βX₋, αλX+−βλX₋) = 0

が成立する．[X+], [X₋]がV0上1次独立であることは明らかでありQ¯は[X+], [X₋]で張られる2次元ベクトル空間上で0となるのでQ¯がV0上の非退化な 2次形式で負の慣性指数が1であることに反する．これよりσ(X₊, X₋)6= 0 が従う．X =αX++βX₋とすると

Q(X) =σ(αX++βX₋, λαX+−λβX₋) =−2αβλσ(X+, X₋)

より，α,βをαβλσ(X₊, X₋)>0と選べばQ(X) =Q(−X)<0とできる．

したがってXあるいは−XのいずれかはΓに属すことがわかる．

Q¯= 0 α[X+] +β[X₋]

[X+] Q <¯ 0 [X₋]

KerFp

=⇒ V0=V /KerFp

Q= 0

KerFp

X+

X=αX++βX₋

X₋ Γ

以下V の部分空間Sに対してそのσ-直交空間をS^σ ={X ∈V;σ(X, Y) = 0,∀Y ∈S}で定義する．σは非退化なので(S^σ)^σ=Sが成り立ち，したがっ てImFp= (KerFp)^σである． またX ∈V に対してhXiでXを含む直線を 表すことにする．次の補題が実効的双曲型特性点を幾何的に特徴づけるとき の鍵となる．

補題 4.2.2. θをξ0軸の正方向の単位ベクトルとする．次の3条件は同値で

ある;

(i) Γ∩ImFp6={0},

(ii) H∩C={0}かつKerF_p+hθi ⊂Hをみたす超平面H ⊂V が存在する，

(iii) Γ∩ImFp∩ hθi^σ6={0}.

証明. この証明ではKerF_p= Λと書くことにする．最初に

X ∈Γ =⇒ hXi^σ∩C={0} (4.2.6) に注意する．実際Γが開集合であることより|Z|が十分小さければX+Z∈Γで ある．一方hXi^σ∩C3Y 6= 0なるYが存在すればσ(X+Z, Y) =σ(Z, Y)≤0 が成立しY 6= 0に矛盾する．

(i) =⇒(ii). まずθ∈Λ + Λ^σの場合を考えよう．(4.1.1)よりΓ∩Λ =∅お よびΓ + Λ⊂Γは明らか．したがってθ =X1+X2, X1 ∈Λ, X2 ∈Λ^σと 書くときθ∈Γより0 6=X2 ∈Γである．Λ ⊂ hX2i^σおよびX2∈ hX2i^σよ りθ ∈ hX₂i^σも明らかである．(4.2.6)よりこのH =hX₂i^σが求めるもので ある．

次にθ 6∈ Λ + Λ^σ の場合を考えよう．したがって(Λ + Λ^σ)∩ hθi = {0} でまた仮定より0 6= Z ∈ Γ∩Λ^σが存在する．Λ ⊂ hZi^σ は明らかである．

(4.2.6)よりhZi^σ∩C={0}であるが一方Γ + Λ⊂ΓよりC⊂Λ^σであるから Λ+Λ^σ6⊂ hZi^σを得る．hZi^σはVの超平面なのでhZi^σ+(Λ+Λ^σ) =V となり dimhZi^σ∩(Λ+Λ^σ) = dim(Λ+Λ^σ)−1が従う．そこでV = (Λ+Λ^σ)⊕hθi⊕W と直和に書くとH = (hZi^σ∩(Λ + Λ^σ))⊕hθi⊕Wが求めるものになっている．

(ii) =⇒(iii). 06=X ∈V をhXi=H^σとなるよう選ぶとΛ +hθi ⊂Hより hXi ⊂(Λ +hθi)^σ= Λ^σ∩ hθi^σである. Xまたは−X のいずれかはΓに属す ことを示そう．そうでないとするとhXi ∩Γ =∅であるが，このときHahn- Banach の定理によってσ(Z, Y)≤0,∀Y ∈Γおよびσ(Z, Y)≥0,∀Y ∈ hXi (したがってσ(Z, Y) = 0,∀Y ∈ hXi)をみたす0 6=Z ∈V が存在しZ ∈C かつZ∈ hXi^σ =H となってH∩C={0}に反する．

(iii) =⇒(i)は自明．

系 4.2.1. Fp(ρ)が0でない実の固有値をもつとするとC∩KerFp={0}で ある.

証明. 補題4.2.1と補題4.2.2の(ii)から明らか．

本書では必要としないので証明しないが，補題4.2.2の同値な3条件は，ρ が実効的双曲型特性点であるための十分条件にもなっている ([5], [32])．