コンパクトリー群に対する一般化カルタン分解について

コンパクトリー群に対する一般化カルタン

分解について

東京大学大学院数理科学研究科 田中雄一郎

2011

年 11 月 7 日

概 要 無重複表現の統一的扱いをその目的として、小林俊行氏は複素多様 体における可視的な作用の理論を導入しました。この理論を用いること によって、リー群の無重複定理が得られるだけでなく、既知の無重複定 理に対してリー群自身の何がしかの（複素）幾何学的性質の存在を期待 することができます。本稿では、一般旗多様体にコンパクトリー群のレ ビ部分群がいつ可視的に作用するかを分類し、さらに可視的作用に対応 した「Cartan分解の一般化」を与えます。ここで得られる分類表は，無 重複なテンソル積表現を動機としてP. Littelmann氏が与えた（極大放 物型の）分類表を特別な場合として含み、またその（分類を得るための） 手法も異なります。 本稿ではまず第 1 節において、動機付け及び背景から主結果の紹介までを 一気に述べ、第 2 節で言葉の定義を紹介します。続いて第 3 節で一般化カル タン分解から無重複表現を得ることの説明を行い、第 4 節において具体的に コンパクトリー群の分解を得るための手法について述べます。また、一般化 カルタン分解の分類表は最後の節に挙げます。

1

導入∼主結果

今回の講演の主結果はコンパクトリー群の分解及び無重複表現に関するも ので、小林俊行氏による複素多様体における可視的な作用の理論をその動機 付けとしています。主結果に関連する無重複表現は全て有限次元ですが、可 視的な作用の理論は無限次元表現にも有効な理論です。そのため、本稿では 無重複（ユニタリ）表現を以下のように解釈します： 定義 1.1. G を局所コンパクト群、H を G のユニタリ表現とする。このとき、 H は無重複表現 ⇔ EndG(H) は可換 このように定義すると，ユニタリ表現H が無限次元で連続スペクトラムを 含む場合にも通用します。H が有限次元である場合には，「H の既約分解に各 既約表現が高々一度しか現れない」という通常の定義と同値になります。現

在までに、コンパクトリー群に対する Peter-Weyl の定理をその初めとして 様々な無重複表現の例が得られており、それらの無重複性の証明法もまた個々 の表現に応じて多種多様です。このような状況に対し、無重複表現を統一的 に扱うことを目的として小林氏は複素多様体への可視的な作用の理論を導入 しました（[Ko3]）。実際この理論を用いることで、散在して知られていた無 重複表現の無重複性の証明を系統的に与えることができるのみならず、新た な無重複表現の発見もなされています（[Ko2]、[Ko6]、[Ko7]、[Sa2]）。（可視 的な作用の定義は次節で述べます。）この理論の枠組みで具体的な表現の無 重複性を示す際には小林氏の 2006 年の論文（[Ko4]）の結果が用いられます が、この論文の主定理の弱い形として次が得られます。 定理 1.2. 連結な複素多様体 D にリー群 G が双正則に作用しているとする。 このとき、G の作用が強可視的であるならば、正則関数の空間O(D) に連続 に埋め込まれる任意の G のユニタリ表現は無重複表現である。 この定理はユニタリ表現が無限次元である場合や、既約分解に連続スペク トラムが現れる場合にも適用でき、「無重複」は定義 1.1 において定められた 意味と解釈します。定理 1.2 から、リー群の複素多様体への可視的な作用が あれば無重複表現の存在が期待できます：

可視的作用

小林 [Ko4]

無重複表現

これに対し、それではこの逆は成り立つのか？というのがこの講演での主た る問題意識です。即ち、 問題 無重複表現があれば、複素多様体への可視的な作用が存在するか？ 今のところ、一般的な設定における「無重複表現に対して可視的な作用が伴 うための十分条件」は知られていません。

無重複表現

??

可視的作用

(

3)

しかし、(3) が成り立つ例は存在します。具体的には、ユニタリ群の有限次 元テンソル積表現に対しては (3) が成り立つことが、以下に紹介する J. R. Stembridge氏の結果と小林氏の結果とから分かります（これ以降、この節で 扱う表現は全て有限次元です）。 定理 1.3. Stembridge 氏は 2001 年の論文 ([St1]) において、A 型の複素単純 リー環の有限次元既約表現の最高ウェイトの組 (λ, µ) であって、それらのテ ンソル積表現 λ⊗ µ が無重複表現となるような組を全て決定した。 定理 1.4. 小林氏は 2007 年の論文 ([Ko5]) において、ユニタリ群 U (n) =: G のレビ部分群の組 (L, H) であって，積写像 L× B × H → G が全射となるよ うな直交群 O(n) のある部分集合 B が存在する組を全て決定した。

ここで両氏の結果に関して少し説明をします。Stembridge 氏は上記の結果 を組み合わせ的手法によって与えました。他方、小林氏は上記の結果を用い て A 型の有限次元テンソル積表現の無重複性の幾何学的証明を与えました （[Ko2]）。Stembridge 氏の論文 [St1] は組み合わせ的観点から無重複テンソル 積表現の分類を扱った最初の論文であり、小林氏の論文 [Ko2] は幾何学的観 点から無重複テンソル積表現を統一的に扱った最初の論文となっています。 定理 1.3 と定理 1.4 を比較するためには小林氏の与えた分解 G = LBH か らどのようにリー群の可視的な作用が得られ、そして無重複テンソル積表現 が得られるかを説明する必要がありますが、その説明は次々節に回して話を 続けます。分解 G = LBH から無重複テンソル積表現が得られることを認め ると、逆に無重複でなければ分解は存在し得ないので、Stembridge 氏の分類 表から分解可能な組 (L, H) の候補を絞ることができます。一方で小林氏の分 類表を見ると、分解の有り得るような組に対しては実際に分解が与えられて いることが分かります。このようにして二氏の結果（定理 1.3、1.4）から、ユ ニタリ群のテンソル積表現に対しては (3) が成り立つことが分かります。 さらに、2001 年の結果に続いて Stembridge 氏は次の結果を得ました： 定理 1.5. Stembridge 氏は 2003 年の論文 ([St2]) において、A 型の他の全て の複素単純リー環に対して、有限次元テンソル積表現が無重複に分解するよ うな最高ウェイトの組を全て決定した。 この結果と我々の問題意識より、次を考えるのは自然と思われます。 問 定理 1.5 に対応するコンパクトリー群の分解（特に可視的作用）は 存在するか？ 問中の「対応するコンパクトリー群の分解」を本講演では “一般化カルタ ン分解”と呼びます。この分解の（可視的な作用の理論を動機付けとする）定 義の紹介も次節に回して先に進むことにします。 問に対する答えは「存在する」であり、これが本講演における主結果です。 即ち、 主結果 1.6. 定理 1.4 と合わせて，我々は全ての連結単純コンパクトリー群に 対する一般化カルタン分解の分類を得た。また、(3) は任意の連結コンパク トリー群のテンソル積表現に対して成り立つ。 上記の結果の第 1 文は次のように言い換えることもできます。 主結果 1.7. 定理 1.4 と合わせて，我々は一般旗多様体に可視的に作用するレ ビ部分群の分類を得た。 最終節において一般化カルタン分解 G = LBH が可能なレビ部分群の組 (L, H)の分類表を挙げますが、具体的なスライス B の取り方に関しては記述 が繁雑になりますため省略します。

2

定義

この節では、第 1 節において使われた言葉の定義を紹介します。

2.1

複素多様体への可視的な作用の定義

定義 2.1. ([Ko3]) リー群 G が複素構造 J を持つ連結複素多様体 D に双正則 に作用しているとする。ある D の全実部分多様体 S であって次の条件を満た すものが存在するとき、G の作用は可視的であるという。 ・D′:= G· S は D の開集合である。 ・任意の S の元 x に対して、Jx(TxS)⊂ Tx(G· x) が成り立つ。 さらにある D′の反正則な微分同相写像 σ が存在して次の条件を満たすとき、 Gの作用は強可視的であるという。 ・σ の S への制限は恒等写像である。 ・D′上の各 G 軌道は σ で安定である。

2.2

コンパクトリー群に対する一般化カルタン分解の定義

定義 2.2. G を連結なコンパクトリー群、t を G のリー環のカルタン部分環、 Πを基本ルート系、σ : G→ G を G の t に関する Weyl 対合とする。G の レビ部分群の組 (L, H) に対し、ある σ 固定部分群 Gσ_{の部分集合 B であっ} て、積写像 L× B × H → G が全射となるようなものが存在するとき、分解 G = LBHを G の一般化カルタン分解という。

3

一般化カルタン分解

;

可視的作用

;

無重複表現

この節では連結コンパクトリー群 G の一般化カルタン分解 G = LBH が 1つ得られたとき、そこから 3 つの無重複表現が得られることを説明します （c.f. [Ko2])）。 コンパクトリー群 G の一般化カルタン分解 G = LBH が 1 つ得られたとし ます。L, H がともに G のレビ部分群であることにより、G/H, G/L, (G× G)/(L× H) は全てコンパクトな複素多様体（一般旗多様体）となります。σ （積多様体の場合は σ× σ）が各複素多様体の反正則微分同相写像となってい るので、Gσ_{· o, G}σ_{· o, (G}σ_{× G}σ_{)· o はそれぞれの全実部分多様体となり（o} は単位元の剰余類とします）、以下の 3 つのリー群の左作用は全て強可視的 であることが分かります。 Ly G/H, H y G/L, diag(G) y (G × G)/(L × H).

このように、1 つの一般化カルタン分解から 3 つのリー群の強可視的な作用 を得ることができます。さらに、小林氏がその 2006 年の論文 [Ko4] におい て証明した無重複性の伝播定理と Borel-Weil 理論を用いることによって、今 得られた 3 つの強可視的な作用のそれぞれから無重複表現を得ることができ ます：

IndGHχ|L, IndLGχ|H, IndGHχ⊗ Ind G Lχ′. ここで Ind は誘導表現を、χ はユニタリ指標を表します。これを [Ko4] では 「可視的作用の triunity（三位一体）が無重複性の triunity（三位一体）を引 き起こす」と言い表しています。 このようにして、1 つの分解から 3 つの強可視的な作用を得て、さらに 3 つの無重複表現が得られます。

4

分解に用いる手法について

この節では、非対称対に関する一般化カルタン分解を求める手法について 述べます。分解には小林氏の導入した “編み上げの手法”を用います（[Ko5]、 [Sa3]）。ここでは簡単な例を通してこの手法の説明を行いますが、その前に 編み上げの手法を用いる中で幾度となく使われる B. Hoogenboom 氏（[Ho]） と松木敏彦氏（[Ma2]）の結果を以下に紹介します。（これは対称対の場合の 分解についての一般的な結果です。） 定理 4.1. G を連結コンパクトリー群、g をそのリー環、τ, τ′: G→ G を G の対合とする（この定理は τ, τ′が可換の場合を Hoogenboom 氏が示し、そ の後松木氏が可換と限らない場合に一般化した）。また、a を g−τ,−τ′の極大 可換部分空間とする。このとき、τ τ′の g の中心への作用が半単純であるな らば G は次のように分解される。 G = Gτexp(a)Gτ′. それでは編み上げの手法の使用例を紹介します。3 つ組 (G, L, H) を (U (4), U (1)×U(3), U(1) × U(1) × U(2)) と取ります。ただし、カルタン部分環を対 角行列に、Weyl 対合を複素共役写像に取ります。また L, H は自然に（block diagonalに）G 内に実現されているものとします。a :=R(E1,2− E2,1)とお

くと、定理 4.1 より

G = L exp(a)L

を得ます。このとき具体的な計算によって ZL∩H(exp(a))≃ U(1) × U(2) で

あることが分かります。すると、a′ :=R(E2,3− E3,2)とおいて定理 4.1 を L

に対して用いることにより

を得ます。ゆえに

G = L exp(a)L

= L exp(a)(ZL∩H(exp(a)) exp(a′)H)

= L exp(a) exp(a′)H. exp(a) exp(a′)は複素共役写像で固定されるので、これで一般化カルタン分解 が得られたことになります。ほとんどの場合はこのようにして分解を得るこ とができますが、編み上げの手法を用いた分解が（筆者には）できなかった例 があります。最後にこの例を紹介して、この小文を終わりにします。扱うの は (G, L, H) = (SO(2n + 1), U (n), U (n)) の場合です。まず、SO(2n + 1)⊃ SO(2n)⊃ U(n) という関係に注意します。(SO(2n + 1), SO(2n)) という組 に注目してリー環を分解します： so(2n + 1) = so(2n)⊕ q 組 (SO(2n), U (n)) が対称対であることよりこれは次のように変形できます。 = u(n)⊕ ∪ g_∈U(n) Ad(g)(a)⊕ q ただし、a は対称対 (SO(2n), U (n)) に対応する極大可換部分空間であって、 Weyl対合（例えば複素共役写像）で固定されるものです。行列計算によって、 これをさらに次のように変形できます。 = u(n)⊕ ∪ g_∈U(n) Ad(g)(a⊕ q0) ただし q0は q の（非可換）部分空間であり、Weyl 対合で固定され、さらに dim(a) + dim(q0) = nを満たすものです。指数写像を考えることで、最後の 式から G = L exp(a + q0)Lを得ます。

5

一般化カルタン分解の分類

この節では、G を連結単純コンパクトリー群、t を G のリー環のカルタン部 分環、σ を G の t に関する Weyl 対合、Π を基本ルート系、Π′, Π′′を Π の部 分集合とし、LΠ′, LΠ′′によってそれぞれそのルート系が Π′, Π′′で生成される Gのレビ部分群を表すこととします。例えば、Π′= Πである場合は LΠ′ = G であり、(Π′)c_{:= Π\ Π}′_{が 1 つの元よりなる場合は L} Π′は極大放物型部分群 の（極大）レビ部分群に対応します。 以下に、G = LΠ′GσLΠ′′を満たす (Π′, Π′′)の組の分類表を挙げます。（ただ し、レビ部分群が G 自身になる自明な場合を除きます。また，表中で Π′と Π′′ を入れ替えても分解は成り立つことに注意して下さい。）表中では (LΠ′, LΠ′′)

が共に G の対称部分群である場合を “エルミート型”として扱っています。エ ルミート型に対して可視的な作用のあることは、[Ko6] においてコンパクト と限らない一般的な枠組みで証明されています。（エルミート型の場合の作用 はリーマン多様体における polar にもなっていますが ([Her])、非エルミート 型の場合には polar とは限らないことが知られています。）

5.1

A

型の分類（[Ko5]）

α1 α2 α3 Type A αn−2 αn−1 αn • • • • • • 以下で、1≤ i, j, k ≤ n とする。 エルミート型： I. (Π′)c_={α i}, (Π′′)c={αj}. 非エルミート型： I. (Π′)c_={α i, αj}, (Π′′)c={αk}, min p=i,j{p, n + 1 − p} = 1, or i = j± 1. II. (Π′)c_={α i, αj}, (Π′′)c={αk}, min{k, n + 1 − k} = 2. III. (Π′)c_={α i}, Π′′: anything, i = 1 or n. ※ III で，(Π′′)c_{が 1 つの元からなる場合はエルミート型になります。}

5.2

B

型の分類

α1 α2 α3 Type B αn−2 αn−1 αn • • • • • •+3 エルミート型： I. (Π′)c_={α 1}, (Π′′)c ={α1}. 非エルミート型： I. (Π′)c_={α n}, (Π′′)c ={αn}. II. (Π′)c_={α 1}, (Π′′)c ={αi}, 2 ≤ i ≤ n.

5.3

C

型の分類

α1 α2 α3 Type C αn−2 αn−1 αn • • • • •ks • エルミート型： I. (Π′)c={αn}, (Π′′)c={αn}. 非エルミート型： I. (Π′)c_={α 1}, (Π′′)c={αi}, 1 ≤ i ≤ n.

5.4

D

型の分類

α1 α2 α3 _{Type D} αn−3 αn−2 αn αn−1 • • • • • • A A A A • } } } } エルミート型： I. (Π′)c _={α i}, (Π′′)c={αj}, i, j ∈ {1, n−1, n}. 非エルミート型： I. (Π′)c_={α 1}, (Π′′)c={αj}, j̸= 1, n − 1, n II. (Π′)c_={α i}, (Π′′)c={αj}, i∈ {n − 1, n}, j ∈ {2, 3}. III. (Π′)c={αi}, (Π′′)c={αj, αk}, i ∈ {n − 1, n}, j, k ∈ {1, n − 1, n}. IV. (Π′)c_={α i}, (Π′′)c={αj, αk}, i ∈ {n − 1, n}, j, k ∈ {1, 2}. V. (Π′)c={α1}, (Π′′)c={αj, αk}, j ∈ {n − 1, n} or k ∈ {n − 1, n}. VI. (Π′)c_={α i}, (Π′′)c={α2, αj}, n = 4, (i, j) = (3, 4) or (4, 3).

5.5

E6

型の分類

α1 α3 α4 Type E6 α5 α6 α2 • • • • • • エルミート型： I. (Π′)c={αi}, (Π′′)c={αj}, i, j∈ {1, 6}. 非エルミート型： I. (Π′)c_={α i}, (Π′′)c={α1, α6}, i = 1 or 6. II. (Π′)c={αi}, (Π′′)c={αj}, i = 1 or 6, j̸= 1, 4, 6.

5.6

E7

型の分類

α1 α3 α4 Type E7 α5 α6 α7 α2 • • • • • • • エルミート型： I. (Π′)c_={α 7}, (Π′′)c ={α7}. 非エルミート型： I. (Π′)c={α7}, (Π′′)c={αi}, i = 1 or 2.

5.7

E

8

,F

4

,G

2

型の分類

非自明なものは存在しない。 注意 5.1. 表中の非エルミート型の中で、(Π′)cと (Π′′)cの内少なくとも一方 が 2 個以上の元からなる場合が論文 [Li] で扱われていない無重複表現に対応 します。

参考文献

[Hel] S. Helgason, Differential geometry, Lie groups and symmetric spaces, Pure and Appl. Math. New York, London: Academic Press, (1978). [Her] R. Hermann, Variational completeness for compact symmetric spaces,

Proc. Amer. Math. Soc., 11, (1960), 544–546.

[Ho] B. Hoogenboom, Intertwining functions on compact Lie groups, CWI Tract, 5. Stichting Mathematisch Centrum, Centrum voor Wiskunde en Informatica, Amsterdam, (1984).

[Kn] A. W. Knapp, Lie groups beyond an introduction, 2nd ed., Progr. Math. 140, Birkh¨auser, Boston, (2002).

[KO] 小林俊行、大島利雄, リー群と表現論, 岩波書店, (2005).

[Ko1] 小林俊行, Multiplicity free theorem in branching problems of unitary highest weight modules，表現論シンポジウム 1997 報告集，(1998), 9–17. [Ko2] T. Kobayashi, Geometry of multiplicity-free representations of GL(n), visible actions on flag varieties, and triunity, Acta Appl. Math.,

81, (2004), 129–146.

[Ko3] T. Kobayashi, Multiplicity-free representations and visible actions on complex manifolds, Publ. Res. Inst. Math. Sci., 41, (2005), 497–549, special issue commemorating the fortieth anniversary of the founding of RIMS.

[Ko4] T. Kobayashi, Propagation of multiplicity-freeness property for holo-morphic vector bundles, to appear in the volume in honor of J. Wolf for his seventy-fifth birthday, math. RT/0607004.

[Ko5] T. Kobayashi, A generalized Cartan decomposition for the double coset space (U(n1) ×U(n2)× U(n3)) \U(n)/ (U(p)×U(q)), J. Math.

[Ko6] T. Kobayashi, Visible actions on symmetric spaces, Transform. Groups, 12, (2007), 671–694.

[Ko7] T. Kobayashi, Multiplicity-free theorems of the restriction of uni-tary highest weight modules with respect to reductive symmetric pairs, in: Representation Theory and Automorphic Forms, Progr. Math., Birkh¨auser, Boston, (2007), 45–109, math. RT/0607002.

[KT1] K. Koike and I. Terada, Young diagrammatic methods for the repre-sentation theory of the classical groups of type Bn, Cn, Dn, J. Algebra,

107, (1987), 466–511.

[KT2] K. Koike and I. Terada, Young Diagrammatic Methods for the Re-striction of Representations of Complex Classical Lie Groups to Reduc-tive Subgroups of Maximal Rank, Adv. Math., 79, (1990), 104–135. [Li] P. Littelmann, On spherical double cones, J. Algebra, 166, (1994),

142-157.

[Ma1] 松木敏彦, 代数群の 2 つの involution に関する両側剰余類分解 II, 等質 空間上の非可換解析学 (京都, 1994), 数理解析研究所 講究録, No. 895, (1995), 98–113.

[Ma2] T. Matsuki, Double coset decomposition of algebraic groups arising from two involutions. I, J. Algebra, 175, (1995), 865–925.

[Ma3] T. Matsuki, Double coset decompositions of reductive Lie groups arising from two involutions, J. Algebra, 197, (1997), 49–91.

[Sa1] A. Sasaki, A characterization of non-tube type Hermitian symmetric spaces by visible actions, Geom. Dedicata, 145, (2010), 151–158. [Sa2] A. Sasaki, Visible action on irreducible multiplicity-free spaces, Int.

Math. Res. Not. IMRN, (2009), no. 18, 3445–3466.

[Sa3] A. Sasaki, A generalized Cartan decomposition for the double coset space SU(2n+1)\ SL(2n+1,C) / Sp(n,C), J. Math. Sci. Univ. Tokyo,

17, (2010), 201–215.

[St1] J. R. Stembridge, Multiplicity-free products of Schur functions, Ann. Comb., 5, (2001), 113–121.

[St2] J. R. Stembridge, Multiplicity-free products and restrictions of Weyl characters, Represent. Theory, 7, (2003), 404–439 .

[Wo] J. A. Wolf, Harmonic Analysis on Commutative Spaces, Mathematical Surveys and Monographs, Amer. Math. Soc., (2007).

東京大学大学院数理科学研究科 東京都目黒区駒場 3-8-1 〒 153-8914