9
ベールのカテゴリー定理とその応用
(2011年1月28日更新)
9.1
ベールのカテゴリー定理
まず抽象的な定義から始める:
定義
9.1.1 Xは距離空間,
S ⊂Xとする.
I S
が内点を持たない閉集合の可算和に含まれるとき
Sを
Xで第一類
(of the first category)であると言い、そうでないとき、X で第二類
(of the second category)である と言う.特に
Xが
Xで第一類(第二類)なら,単に
Xが第一類(第二類)という.
感覚的に言うと,第一類集合は位相的に見て退化した集合,第二類集合はそうでない 集合と言える.
問
9.1.1次の
S ⊂X ⊂Rについて,
Sは
Xで第何類か?但し
Xに距離
|x−y|,x, y ∈Xを付与する.i)
X =R,S =Q. ii) X =S=Q. iii) X =S=Z.問
9.1.2 Xを距離空間,S
⊂Xとする.以下を示せ.i)
Sが内点を持たない閉集合な
ら
X\S ̸=∅. ii)Xが第二類,S が
Xで第一類なら
X\Sは
Xで第二類.
問
9.1.3 (X, ρ)を距離空間,
S ⊂Xとする.以下を示せ.
i)G⊂Xが開かつ
S∩G=∅なら
S∩G=∅. ii)F ⊂Xが閉かつ
S∩F◦ =∅なら
(S∩F)◦ =∅. iii) (S, ρ)が第一類 なら
Sは
Xで第一類.
問
9.1.4 (⋆)以下を示せ.但し
µは一次元ルベーグ測度.i )
S ⊂Rが内点を持たない 閉集合なら
µ(R\S)>0. ii)内点を持たない閉集合の増大列
Sn⊂Rで
µ(R\Sn)n−→→∞ 0なるものが存在する.またこのとき,S
=∪n≥1Sn
は
Rで第一類かつ
µ(R\S) = 0.X
がある程度「良い」距離空間なら,内点を持つ部分集合は
Xで第二類である.こ の意味での「良さ」を保障する条件のひとつが完備性である:
定理
9.1.2 (ベールのカテゴリー定理
47)完備距離空間
Xで内点を持つ部分集合は
Xで 第二類である。
証明:X の距離を
ρ,また
A⊂Xに対し
dis(x, A) = infy∈Aρ(x, y) (x∈X)と書く.第 一類部分集合は内点を持たないことを示せばよい.そこで,任意の開球
B ⊂ Xに対 し次を言えばよい:
1) A0, A1, ... ⊂X
は内点を持たない閉集合
=⇒ B ̸⊂ ∪n∈N
An.
まず次のような開球
Bn ={x∈X ; ρ(xn, x)< rn} ⊂X, n∈Nの存在を言う:
47Baire, Ren´e Louis (1874–1932).
2) B ⊃B0 ⊃Bn ⊃Bn+1, Bn∩An=∅, rn ≤2−n, n∈N
まず
x0 ∈B\A0を任意
(仮定より B ̸⊂A0)とすると
A0, Bcは共に閉,
̸∋x0より
a0 def= dis(x0, A0)>0, b0 def= dis(x0, Bc)>0そこで
r0 = min(1, a0/2, b0/2)とすると
B ⊃B0,B0∩A0 =∅.次に
B0, ..., Bnが
2)の ように構成できたとする.
xn+1 ∈ Bn\An+1 ̸=∅を任意
(仮定より Bn ̸⊂An+1)とする.
An+1, Bnc
は共に閉,
̸∋xn+1より
an+1def= dis(xn+1, An+1)>0, bn+1
def= dis(xn+1, Bnc)>0.
そこで
rn+1 = min(2−(n+1), an+1/2, bn+1)とすると
Bn ⊃Bn+1, Bn+1∩An+1 =∅, rn+1 ≤2−(n+1).
これで
2)の
{Bn}が構成できた.次に
{Bn}を用い
1)を言う. 中心の列
(xn)はコー シー列. 実際,
m < nなら
xn ∈Bn ⊂Bmより
ρ(xm, xn)<2−m.従って
xnn−→ ∃→∞ xか つ任意の
nに対し
x∈Bn ⊂B\An.よって
x∈B\∪n∈NAn.
これで
1)が言えた.
2注:
1)完備でなくても,それに近い距離空間なら定理
9.1.2の結論は正しい(問
9.1.6参照).また,完備性の代わりに局所コンパクト性を仮定しても定理
9.1.2の結論は正 しい(証明の方針も同様).
2)
完備距離空間の第二類部分集合が内点を持たないこともある(例えば
Rでの
R\Q;問
9.1.1,問
9.1.2参照). その意味で「定理
9.1.2の逆」は不成立.
問
9.1.5距離空間
Xに対する次の二の命題の同値性を示せ:a) 内点を持つ部分集合は
X
で第二類である. b) 可算個の稠密な開集合の交差は稠密.
問
9.1.6 Xが完備距離空間,S
⊂Xが
Xで第一類とする.X
\Sに
Xの距離を制限し て得られる距離空間で, 内点を持つ集合は
X\Sで第二類であることを示せ.
9.2
一様有界性原理
以下, ノルム空間
X = (X,∥ · ∥)において
BX(r) ={x∈X ; ∥x∥< r}, r >0 (9.1)
と記す. まず半ノルムの連続性に対し便利な同値条件を与える.
補題
9.2.1ノルム空間
(X,∥ · ∥)上の半ノルム
sに対し以下の
a),b)は同値:
a) s
は連続, 即ち
∃M ∈[0,∞),∀x∈X, s(x)≤M∥x∥(問 4.1.4参照).
b)
次の性質を持つ
x0 ∈X, ε, r∈(0,∞)が存在する:
supx∈x0+BX(ε)
s(x)≤r.
証明:a)
⇒ b)は明らかなので逆を示す.y
∈BX(ε)とすると仮定より、
1) s(x0+y)≤r.
よって、
2) s(y)≤s(−x0)
| {z }
=s(x0)
+s(x0+y)
≤1) 2r.
ここで、改めて
x∈X\0を任意、c
= 2∥εx∥とすると、∥
cx∥=ε/2なので、
s(x) = c−1s(cx)
≤2) c−12r= 4rε−1∥x∥.
従って
sは連続。
2次の定理は一様有界性原理(系
9.2.4)に対し,「更にその原理」となる事実である.定理
9.2.2,系
9.2.3,系
9.2.4で「X は第二類のノルム空間」という仮定をおくが,その
ためには
Xがバナッハ空間なら十分である(定理
9.1.2).一方,全てのノルム空間が第二類というわけでもない(例
9.2.6,問
9.2.3,問
9.2.4参照)
定理
9.2.2第二類のノルム空間
X, X上の半ノルム
sに対し以下の
a),b)は同値:
a) s
は連続.
b) {x∈X, s(x)≤r}
が閉集合となるような
r >0が存在する.
証明:a)
⇒ b)は明らかなので逆を示す.r, r
′ >0に対し
Frdef= {x∈X ; s(x)≤r}=rF1 = (r/r′)Fr′.
従って
Frがある
r >0で閉集合なら全ての
r >0でそう.また,
X =∪r∈NFr, X
は第 二類だから
∃x0 ∈X, ∃ε >0, ∃r ≥1, x0+BX(ε)⊂Fr.
よって補題
9.2.1より
sは連続.
2系
9.2.3 Xは第二類のノルム空間, 集合
Sの各元
sは
X上の連続半ノルム, 全ての
x∈X
に対し
s0(x) = sup
s∈S s(x)<∞
とする.このとき、s
0は連続.
証明:s
0は
X上の半ノルム
(容易に分かる)。一方、各s ∈ Sに対し
sは連続だから
Fs def= {x∈X ; s(x)≤1}は閉, 従って
{x∈X ; s0(x)≤1}= ∩
s∈S
Fs
も閉.
以上と定理
9.2.2より、s
0は連続.
2系
9.2.4 Xは第二類のノルム空間,
Yはノルム空間,
{Tn}n∈N⊂B(X →Y)とする.
a) (
一様有界性原理
48)全ての
x∈Xに対し
supn∈N∥Tnx∥Y <∞ =⇒ sup
n∈N∥Tn∥X→Y <∞. (9.2) b) (
バナッハ
-シュタインハウスの定理
49)全ての
x∈Xに対し
T xdef= limn→∞Tnx
が存在 すれば
T :x7→T xは
B(X →Y)の元を定める. 更に
∥T∥X→Y ≤ limn→∞∥Tn∥X→Y.
証明:a):x
7→ ∥Tnx∥Yは
X上の連続な半ノルムで, 系
9.2.3の条件を満たす. よって,
∃C ∈[0,∞), ∀x∈X, supn∈N∥Tnx∥Y ≤C∥x∥X.
故に
supn∈N∥Tn∥X→Y ≤C.b):T
の線型性は明らか. また
{Tn}n∈Nは
a)の仮定を満たし, かつ
∥T x∥Y ≤supn∈N∥Tnx∥Yだから 系
9.2.4より
T ∈B(X→Y).最後の不等式は問
4.1.3による.
2系
9.2.4は
S.バナッハ, H. ハーン, T.H. ヒルデブラント
50達により得られた
(1922–1923).系 9.2.4b
には後に
S.バナッハと
H.シュタインハウスの論文
(1927)に因んだ
名が付けられた.
問
9.2.1 Xはヒルベルト空間,
x1, x2, ...∈ Xは互いに直交,
sn=x1+...+xn,また任 意の
y∈Xに対し
supn|⟨sn, y⟩|<∞とする. このとき, (s
n)n≥1の収束を示せ.
例
9.2.5 (S,A, µ)を
σ-有限測度空間、1 ≤p < ∞, 1p +1q = 1, y: S →Cを可測とす る. このとき,
y ∈Lq(µ) ⇐⇒
全ての
x∈Lp(µ)に対し
xy∈L1(µ).証明:
⇒はヘルダーの不等式から分かる.そこで
⇐を示す.σ-有限性より次を満たす
Sn∈Aが存在する:
S1 ⊂S2 ⊂..., S = ∪
n≥1
Sn, µ(Sn)<∞, ∀n≥1. (9.3)
そこで,e
n(s) =1{s∈Sn,|y(s)| ≤n}, f(x) =∫
S
xydµ, fn(x) =
∫
S
xyendµ, x∈Lp(m).
とすると,
|fn(x)|ヘルダー≤ ∥x∥p∥yen∥q ≤ ∥x∥pnµ(Sn)1/q,
よって
fn∈Lp(µ)∗.また,
∀x∈Lp(m)に対し
fn(x)n−→→∞f(x)(ルベーグの収束定理).以上と系
9.2.4bよ り
f ∈Lp(µ)∗.これと定理
4.3.6より
∃z ∈Lq(µ), f(x) =∫Sxz∗dµ.
従って
∀x∈Lp(m)に対し
∫Sxydµ=∫
Sxz∗dµ.
よって
y=z∗ ∈Lq(µ). 248共鳴定理と呼ばれることもある.
49Steinhaus, Hugo (1887–1972).
50Hildebrandt, Theophil Henry (1888–1980)
問
9.2.2 (⋆) y:N →Cが全ての
x ∈c0(N)(例 2.3.6参照) に対し
xy∈ℓ1(N)を満たす とき
y∈ℓ1(N)を示せ.ヒント:例
4.3.7.X
をノルム空間とする.もし,(9.2) が成立しないような
Tn∈ B(X →Y)(Yは適当 なノルム空間,例えば
Y =Cでもよい)が存在すれば,系
9.2.4より
Xは第一類と結 論される.その具体例を述べよう:
例
9.2.6 I = [0,1], 1 ≤p < q ≤ ∞とする.このとき,L
q(I)に
Lp-ノルムを付与したノルム空間
X = (Lq(I),∥ · ∥p)は第一類.
注:例
9.2.6と問
9.1.3から
Lq(I)は
Lp(I)で第一類であることもわかる.L
p(I)自身は 第二類(定理
9.1.2)だから,Lp(I)の中で
Lq(I)は「少数派」ということになる.
証明:y
n(s) =n1/p1[1,1n], Tnx=∫
Ixyn (x∈X)
とする.∥
yn∥q=n1p−1q <∞かつ
|Tnx|ヘルダー≤ ∥x∥p∥yn∥q,
よって
Tn∈B(X →C).一方
1) |Tnx|ヘルダー≤ ∥x∥q∥yn∥p =∥x∥q.
また,L
q(I)は
Lp(I)で稠密だから,
∥Tn∥X→C = sup{|Tnx|x∈Lq(I),∥x∥p = 1}
= sup{|Tnx|x∈Lp(I),∥x∥p = 1}=∥yn∥q =n1p−1q n−→ ∞→∞ .
これと
1)より
(9.2)は不成立.従って系
9.2.4より
Xは第一類.
2別証明
(⋆)系
9.2.4を用いない証明も, ついでに紹介する.L
q(I) = ∪n∈NFn,
但し
Fn ={x∈Lq(I), ∥x∥q ≤n}.そこで∀n ∈Nに対し次を言えばよい:
1) Fn
は
Xで閉.
2) X
で
Fn◦ =∅.1)
を言うため
xm ∈ Fn, x ∈ Lq(I), ∥x−xm∥pm−→→∞ 0
とする. このとき,
xm(k) k−→→∞ x a.e.となる部分列が存在し, ファトウの補題から,
∥x∥q ≤limk→∞∥xm(k)∥q ≤n.2)
は
Lq(I)\Fn=Lq(I)と同値. 従って
∀x∈Lq(I)に対し
xm ∈Lq(I)\Fn, m= 1,2, ...を
∥x−xm∥pm−→→∞0
なるようにとれればよい.
ym = 2m1/q1[0,1/m], xm =x+ {
nym|xx| {s ; x(s)̸= 0}
上で,
nym {s ; x(s) = 0}
上で, とする. このとき,
xm ∈Lq(I),|xm|=|x|+nym,|x−xm|=nymより
∥xm∥q ≥n∥ym∥q = 2n > n, ∥x−xm∥p =n∥ym∥p = 2nm1q−1p m−→→∞0. 2
問
9.2.3 (⋆) 1≤p < q ≤ ∞なら
(ℓp(N),∥ · ∥q)は第一類であることを示せ.
問
9.2.4 (⋆) (S,A, µ)を
σ-有限測度空間,µ(S) =∞,Sn∈Aは
(9.3)を満たすとする.
更に
X = ∪n≥1{x ∈ L∞(µ) ; S\Sn
上
a.e.で
x= 0}, Tnx = ∫Snxdµ (x ∈ X)
とする.
以下を示せ.i) 全ての
x∈Xに対し
supn|Tnx| ≤ ∥x∥1 <∞.ii) sup∥x∥∞=1|Tnx|=µ(Sn). iii) (X,∥ · ∥∞)
は第一類.ヒント:系
9.2.4a.9.3
開写像定理と閉グラフ定理
まず次の命題で,線形作用素が開写像であることの定義と,その性質を述べる.これ は開写像定理(定理
9.3.2)の証明を実質的に含む:命題
9.3.1 X, Yはノルム空間, (T,
D) :X →Yを作用素, また
B ⊂Xに対し
T B ={T x; x∈D∩B} (9.4)
とし,以下の条件を考える:
BY(δ)⊂T BX(1)
なる
δ >0が存在する.
(9.5) BY(δ)⊂T BX(1)なる
δ >0が存在する.
(9.6)(9.5)
が成立するとき,T を開写像という
51.このとき:
a) (9.5) ⇒ T X =Y.
b) X
がバナッハ空間,
Tが閉作用素なら
(9.5) ⇔ (9.6).c) T X
が
Yで第二類
⇒ (9.6).証明
: a): (9.5)の
δ >0をとると, 任意の
r >0に対し
BY(r)⊂T BX(rδ−1).b):(9.5)⇐ (9.6)
を言えばよい
(⇒は明らか).(9.6) の
δに対しまず次を言う:
1) ∀y∈BY(δ/3), ∃xn∈D∩BX(3−n), n= 1,2, ..., y=
∑∞ j=1
T xj.
(9.6)
より
2) BY(δj)⊂T BX(3−j),
但し
δj = 3−jδ.2)
で
j = 1とし
∀y∈BY(δ1)に対し
∃x1 ∈D∩BX(3−1), ∥y−T x1∥Y < δ2.
上で、y
−T x1 ∈BY(δ2)なので, 次に
2)で
j = 2として
∃x2 ∈D∩BX(3−2), ∥y−T x1−T x2∥Y < δ3.
これをくり返すと,
n= 1,2, ..に対し
∃xn∈D ∩BX(3−n), ∥y−
∑n
j=1
T xj∥Y < δn+1
が言え, 1) が成立する. 次に
1)から
(9.5)を出す.
Xはバナッハ空間だから絶対収束 級数は収束する.今,
∥xn∥X <3−nより
∑n≥1∥xn∥X ≤∑
n≥13−n= 1/2.
よって
zndef= x1+...+xn−→ ∃z ∈BX(1/2)⊂BX(1).51位相空間論における「開写像」と同じ概念.問9.3.1参照.
また,1) より
T zn →y. Tは閉だから,
z ∈D∩BX(1),y =T z. y∈BY(δ1)は任意だっ たから
BY(δ1)⊂T BX(1).c):
証明の準備として
(9.6)と次の条件との同値性を示す:
(
T BX(r) )◦
̸
=∅
なる
r >0が存在する.
(9.7) (9.6)⇐(9.7)を示す
(⇒は明らか).次に注意:T B
X(r) =rT BX(1) =rT BX(1)より
3)集合
T BX(r)が内点を含むか否かは
r >0の値によらない.
(9.7)
と
3)より任意の
r >0に対し
(T BX(r) )◦
̸
=∅.
特に
B =BX(1/2)に対し
( T B)◦̸
=
∅.
故に
∃y0 ∈Y, ∃δ > 0, y0+BY(δ)⊂T B.
従って任意の
ε >0, y∈BY(δ)に対し
xy ∈B∩Dを
4) ∥y0+y−T xy∥Y ≤ε/2なるようにとれる. このとき、y
= 0に対する
xyを
x0と書くと,
xy−x0 ∈ (B−B)∩D ⊂BX(1)∩D,∥y−T(xy−x0)∥Y = ∥(y0+y−T xy)−(y0+ 0−T x0)∥Y
≤4) ε 2+ ε
2 =ε.
よって、B
Y(δ)⊂T BX(1),即ち
(9.6)を得る.
T X =∪
r≥1T BX(r)
かつ
T Xは
Yで第二類だから
(9.7),よって
(9.6)を得る.
2問
9.3.1記号は命題
9.3.1通りとする.次の条件と
(9.5)の同値性を示せ:
U ⊂X
が開なら
T Uは開.
(9.8)次の定理は
J.シャウダーによる
(1930):定理
9.3.2 (開写像定理
)Xはバナッハ空間,
Yは第二類のノルム空間
(Yがバナッハ空 間なら定理
9.1.2より
Yは第二類),
T :X →Yは閉作用素とする. このとき,
T X =Y ⇐⇒ T
は開写像.
証明:
⇒:命題
9.3.1cより
(9.6),更に命題
9.3.1bより
(9.5)を得る.
⇐:
命題
9.3.1aによる.
2閉グラフ定理
(定理 9.3.5)の前に補題を二つ準備する:
補題
9.3.3 X, Yはノルム空間, (T,
D) :X →Yを作用素とするとき
Tは単射かつ開写像
⇐⇒ Tは全単射かつ
T−1 ∈B(Y →X).証明:
⇒:命題
9.3.1aより
Tは全射. また, (9.5) の
δをとると
BY(1)⊂T BX(δ−1).よっ て
T−1BY(1) ⊂BX(δ−1)より
T−1は有界.
⇐: ∥T−1∥ ≤ δ−1, y ∈ BY(δ)
とする. 全射性より
∃x ∈ D, y = T x.また,
∥x∥X =∥T−1y∥Y ≤ ∥T−1∥∥y∥Y <1.
よって
BY(δ)⊂T BX(1). 2定理
9.3.2と補題
9.3.3より線形空間上に完備なノルムが二つあるとき,一方が他方
に関し連続なら両者は同値であることがわかる:
補題
9.3.4 ∥ · ∥j,j = 0,1は線型空間
X上のノルム,
Xj = (X,∥ · ∥j)は共にバナッハ空 間とする. 更に
∥ · ∥1が
X0上連続なら,
∥ · ∥0は
X1上連続, 従って
∥ · ∥0,∥ · ∥1は同値.
証明: 仮定より
J : X0 → X1 (x 7→ x)は全単射連続. 故に 定理
9.3.2より
Jは開写
像. 従って, 補題
9.3.3より
J−1 :X1 →X0 (x7→x)も連続.
2次の定理は
S.バナッハによる
(1932):定理
9.3.5 (閉グラフ定理
) X, Yをバナッハ空間, (T,
D) : X → Yを閉作用素かつ
D ⊂Xは閉集合とする
(特に D =Xならそう). このとき,
Tは
(D,∥ · ∥X)上有界.
証明:D にノルム
∥ · ∥X,及び
∥x∥D =∥x∥X +∥T x∥Yが定義され, (
D,∥ · ∥X)は仮定 より, (
D,∥ · ∥D)は命題
5.2.1よりバナッハ空間. また,
∥ · ∥Xは
(D,∥ · ∥D)上連続. 以 上と補題
9.3.4より
∥ · ∥Dは
(D,∥ · ∥X)上連続. よって
Tは
(D,∥ · ∥X)上有界.
2例
9.3.6 (射影の連続性
) Xはノルム空間,P
:X →Xは
P2 =Pを満たす線形写像と する.P を
D(P) = Xなる作用素と見なすとき,
P ∈B(X →X) =⇒ P X,(1−P)X
は共に閉集合 更に,X がバナッハ空間なら逆も真.
証明:⇒ は例
5.2.4からわかるので
⇐を示す.例
5.2.4より
Pは閉作用素.更に
Xが
バナッハ空間なら定理
9.3.5より
Pは有界.
2例
9.3.7 (⋆)例
4.1.8で述べた
Te:X →Kはバナッハ空間
X全体で定義された非有界 線形作用素.従って定理
9.3.5より
Teは閉でない(それ以上拡張できないので可閉で もない).
問
9.3.2 (S,A, µ)を測度空間,X
=Lp(µ) (1 ≤p≤ ∞)とする.このとき,次の性質 を持つ線形写像
T :X →Xの有界性を示せ:
xn, x∈X,xn →x,µ-a.e.なら
T xn→T x, µ-a.e.問
9.3.3 X, Yをバナッハ空間,
S, T : X → Yを共に閉作用素かつ
D(S) ⊂ D(T)と する. このとき,
∃C ∈[0,∞), ∀x∈D(S),∥T x∥Y ≤C∥x∥X +∥Sx∥Yを示せ.
問
9.3.4 Xをヒルベルト空間とする. 自己共役作用素
T :X →Xで
D(T) = Xなる ものは有界作用素に限ることを示せ.
出典:問 9.1.1:[Kreyszig, 254頁,問 1–2]による.問 9.1.3,問 9.3.2:[Megginson, 36頁,命題 1.5.3; 48頁,問1.70]による.問9.2.1,例 9.2.6(別証明):[Rudin, 309頁,12.6; 53頁,問4]に よる.