可解リー群のユニタリ表現に関連する幾つかの話題 藤原英徳 §1. 軌道の方法 以下全体を通して有限次元の実リー群（リー環）のみを扱う。冪零リー群に対 するユニタリ表現の研究は 1950 年代に Dixmier により低次元の個々の群に対し て始められ、その数年後 Kirillov により軌道の方法と呼ばれる統一的な理論が 発表された。この理論はその後 Bernat、Pukanszky により指数型可解リー群に、 Auslander、Kostant により I 型の可解リー群に、Pukanszky により一般の可解 リー群に拡張され、可解リー群のユニタリ表現に関する基本理論となっている。 そこでまずこの理論の説明から始めよう。 可解リー群は基本的には R から出発して半直積を繰り返し構成して得られ る。したがってそのユニタリ表現の考察における土台は Mackey 理論である。 G を第 2 可算公理を満たす局所コンパクト位相群、A を G の可換正規閉 部分群とする。G は A のユニタリ指標の空間 ˆA に 1 ˆ (g)( )a (g ag ) (gG, A a, A) により作用する。 定理 1.1. （１）G( ) を G における の固定化群とする。 １． を G( ) の既約ユニタリ表現で A への制限 が の何倍か|A であるようなもの、つまりある m N { } が存在して |A m となるよう なものとする。すると、誘導表現 indG( ) G は既約である。 ２． を 1, 2 G( ) の２つの既約ユニタリ表現で 1| , A 2|A が の何倍 かであるようなものとする。すると、1 なるとき、かつそのときに限り 2 ( ) 1 ( ) 2 indG indG G G である。 （２）任意の ˆA に対してG 軌道 G が ˆA の局所閉集合であると仮定
する。このとき、A への制限が自明でないような G の任意の既約ユニタリ 表現 に対し、ある ˆA と G( ) の既約ユニタリ表現 で で A への 制限 が の何倍かであるようなものが存在して |A ind ( ) G G となる。 定義 1.2. リー環 g をもつ可解リー群 G が指数型であるとは、指数写像 exp : gG が微分同相写像であることをいう。また、リー環 g が指数型で あるとは、任意の X g に対し、adX が 0 以外の純虚数の固有値をもたない ことをいう。 この定義より、単に指数型可解リー群と言えば常に連結かつ単連結なものを 考えている。また、次の命題は定義の言い換えに過ぎない。 命題 1.3. 可解リー環 g が指数型であることは次の条件と同値である。g－加 群 gC の任意のルート は (1 i ) (i 1), R, g の形である。 例 1.4. （１）連結かつ単連結な冪零リー群は指数型である。 （２）リー環 g にイデアル列 が存在するとき、g は完全可解であるという。完全可解リー環は指数型であ る。 （３）指数型リー環の部分リー環、商リー環は指数型である。 このとき、次が成立する。 定理 1.5. リー環 g をもつ連結かつ単連結な可解リー群 G に対し、次は同 値である。 （１）G は指数型である。 （２）指数写像 exp は単射である。 （３）指数写像 exp は全射である。 （４）リー環 g は指数型である。 exp G gをリー環gをもつ指数型可解リー群とする。Kirillov が考案した軌 道の方法によると、Gのユニタリ双対 ˆG 、つまりGの既約ユニタリ表現の同値 類の集合はGの余随伴表現の軌道空間により与えられる。その事情は具体的に 0 1 1 {0}g g gn gn g, dim gj j (0 j n)
は以下のようなものである。gをgの双対ベクトル空間とする。 f gに対し、 g g上の双線形形式B をf B X Yf( , ) f([ , ])X Y で定義する。gの部分リー環hで ( , ) {0} f B h h と な る も の の 集 合 をS f g( , )で 表 す 。hがS f g( , ) の 元 な ら ば 、 ( ) (exp ) if X , f X e X h ,により、Gの連結閉部分群H exp hのユニタリ指標 f が定義される。そこでこの からf Gの誘導表現 indGHf を構成する。この ように閉部分群のユニタリ指標から誘導された表現を単項表現という。 は一般 に既約ではないが、H が十分大きくて誘導行程が十分近ければ、既約になる可 能性は高まるであろう。Hが最も大きくなるのは次の場合である。双線形形式 f B の根基を で表すとhS f( , )g ならば、 1
dim (dim dim ( ))
2 f h g g である。ここで等号が成り立つようなhS f( , )g を f gにおけるgの（実） polarization といい、それらの集合をM f g( , )で表す。1962 年に Kirillov が軌 道の方法を発表したときの対象は冪零リー群であった。実際、G exp g が冪零 ならば、hM f( , )g となるときかつそのときに限り は既約である。しかし一般 の指数型可解リー群ではhM f( , )g であっても は既約とは限らない。 が既約 となるようなhS f( , )g の集合をI f g( , )で表す。 定義 1.6. hS f( , )g が Pukanszky 条件を満たすとはH f hf となることで ある。 すると が既約となるための必要十分条件がこの Pukanszky 条件である。そのよ うなhI f( , )g の構成法として次の Vergne の方法がよく知られている。 0 {0} 1 2 n1 n , dim j j (0 j n) g g g g g g g をgの部分リー環の良き列とする。つまり各 j (1 j n 1)に対して、もしgjがg ( )f {X ; B Xf( , ){0}} g g g
のイデアルでなければ、gj 1は共にgのイデアルでgj1/gj1上へのgの作用は既 約である。このような列を１つ取り固定しておく。このとき
1 | j n j j f
g h g とおけば、hは f gにおけるgの polarization で Pukanszky 条件を満たす。こ のような polarization を Vergne polarization と呼ぶ。定理 1.7. (Bernat) G exp g をリー環gをもつ指数型可解リー群とする。任意 の f gにおいて I f( , )g M f( , )g であり、hI f( , )g から構成された単項表 現 indGHf の同値類は f gおよびhに依らずGの随伴軌道G f にのみ依存 する。更に、Gの任意の既約ユニタリ表現はある単項表現 に同値である。 定義 1.8. こうして得られるgからGˆ上への写像 : f [ ] およびそれが導く 軌道空間g/ Gと ˆG の間の全単射 G を Kirillov-Bernat 写像という。 可解リー群に関する様々な主張の証明において基本的な手法は群の次元に関 する数学的帰納法である。例えば定理 1.7 の証明において、Gの次元が１なら 主張は明らかである。そこでGの次元が 2 以上と仮定する。証明の古典的な手 順は次の通りである。gのあるイデアルa{0}の上で f gが消えていれば、商 リー環 g / a に移って帰納法を適用する。そのようなa{0}が存在しないときは、 gの中心に含まれないイデアルの中で包含関係に関して極小なものを 1 つ取り
a とする。Aexp a, af {Xg ; Bf( , )X a {0}}, Af exp(af)とおき、Gの ˆAへの
作用を考えると、f |A のAˆ Gにおける固定化群はAf に他ならない。Mackey 理 論を用いて f A に移行すると、これはGの真部分群ゆえ帰納法が適用できる。 §2. 既約分解 さて一般のhS f( , )g から誘導表現 indGHf を構成しよう。Pukanszky 条件 が示唆するように、 の既約分解の舞台はgのアフィン部分空間 hf であ る。 上の正の有限測度でルベーグ測度に同値な を取りg上の測度とみなし
( ) とおく。 定理 2.1. の既約分解は ˆ ( ) ( ) G m d
で与えられる。ここで の重複度 ( )G m は 1 ( ) に含まれる H 軌道の数 である。 ここでもし G が冪零ならば、 が有限重複度を持つ、つまり ( )m (a e. .) となることと、に関して殆どすべての に対し、G 1( )の各連結成分が １つの H 軌道となることは同値である。しかし、一般の指数型可解リー群の場 合には前者から後者は導かれても逆は言えない。 定義 2.2. に関して殆どすべての に対し、Gˆ 1( )の各連結成分が１ つの H 軌道となるとき、 は離散型重複度をもつという。 表現の誘導と制限はある意味で双対的な操作である。既約表現の部分群への 制限を考えよう。G を指数型可解リー群、K exp k をその解析部分群、 とGˆ して、の K への制限 | Kを既約分解しよう。に対応する G 軌道を ( ) とし、 : p g k を制限写像とする。 を ( ) 上の G 不変測度に同値な有限測度と し、
K p
() とおく。次に、K に対応するK 軌道を とし、( ) 1 ( ( )) ( ) p に含まれるK 軌道の数をm( ) で表す。 定理 2.3. |K ˆ ( ) ( ) Km d
§3. 不変微分作用素環 G exp gを指数型可解リー群とし、 f g , h S f( , )g から G の単項表現G H f ind を構成する。 次にデータ ( , )H に伴うG H/ を底空間とする直線束 上への不変微分作用素環D G H( / )を考えよう。U(g)をgCの普遍包絡環とする。 (g) U の元は左不変微分作用素として右から作用する。aをU(g)の部分空間 1 ( ) tr ad ; 2 Y if Y Y Y g/h C a h とおく。U(g)の元の右作用のもと環D G H( / )はU( ,g )/ U(g)aに同型である。 定理 3.1. G を冪零とする。 が有限重複度をもつとき、かつそのときに限り環 ( / ) D G H は可換である。 表現の制限に対しても同様な問題を考えよう。K exp kを G の解析部分群 ˆ G とする 。U( )g k {XU( ) ; [ ,g k X]ker } とおき 、その による像を ( )K D G で表す。 定理 3.2. G を冪零とする。 が有限重複度をもつとき、かつそのときに限り|K 環D G( )K は可換である。 ここでこれまでの記号を用いて未解決な予想を記しておく。 G は冪零と仮定 する。 多項式予想（誘導の場合）： f h gとおき、 上のH 不変な多項式関 数のなす環をC[ ] Hで表す。 が有限重複度をもつならば、D G H( / )はC[ ] Hに 同型である。 多項式予想（制限の場合）： ( ) 上のK 不変な多項式関数のなす環を [ ] K C で表す。 が有限重複度をもつならば、|K D G( )KはC[ ]Kに同型である。
§4. Plancherel 公式 離散型重複度をもつ単項表現 に対し、Penney の Plancherel 公式を求め、不 変微分作用素環を調べよう。 G のユニタリ表現 に対し、その Hilbert 空間を H で、 C ベクトルの空間をH で表し、 H の反双対空間を H で表す。 , aH bH に対して , a b により、a が点 b で取る値を表す。 G の閉部分群 K とK の指標が与えられたとき、
,
; ( ) ( ) , K a k a k a k K H H とおく。 G の単位元を e で表すとき、Dirac 測度 : ( ), e H は
1/2 , , f H G H H の元である。ここでG H, のモジュラー関数 を用いてG, H , H H G G とおいた。すると定理 2.1 における の分解に即して、少なくとも が有限重複度をもつ場合、が
1/2 , , (1 ( )) f H G H k a H k m を用いて ( ) ˆ 1 ( ) m k G k a d
と分解されるというのが に対する Penney の Plancherel 公式である。これは任 意のC Gc( )に対して とおけば ( ) ˆ 1 ( ) ( ) , ( ) m f k k H G k e a a d
とも書ける。 Duflo の問題：次は同値か？ (1)測度 に関し 上殆ど至る所部分空間h g ( )はB に関して極大等方的であ る。すなわち、 は離散型重複度をもつ。
1/2 , ( ) ( )( ) ( ) ( ) ( ) ( ) ( ) f H g g H gh f h H G h dh g G
H (2)環D G H( / )は可換である。 先に進む前に誘導表現 indGHf のここでの定義を述べておこう。K( ,G H) で G 上の複素数値連続関数で H を法としてコンパクトな台をもち、関係式 , (gh) H G( ) ( ) (h g g G h, H) を満たすものの空間を表すと、G はこの空間に左移動で作用し、そこには G 不 変な正の線形形式 G H, が定数倍を除いて唯１つ存在する。これを , / ( ) ( ) ( ) G H G H g d g
と積分の形に書こう。同様に、 ( ,K G f)で G 上の複素数値連続関数で H を法と してコンパクトな台をもち、関係式 1/2 , (gh) f( )h H G( ) ( ) (h g g G h, H) を満たすものの空間を表すと、そこには G 不変な内積 / , ( ) ( ) ( ) G H g g d g
が存在する。そこでこの内積からくるノルムでK( ,G f)を完備化した空間 2 ( / , f) L G H への左移動により、誘導表現 indGHf を実現する。 以後 indGHf は離散型重複度をもつとする。 に関する殆どすべてのG に対し 1 ( ) は ( ) 1 1 ( ) m k k C と連結成分に分解され、各Ckは１つのH 軌道で1dim 1( ) 2 次元である。 に 対応するGの余随伴軌道 1( ) gの１点 を固定し、 におけるgの Vergne polarization b b [ ] を 用 い て indGB , Bexp b, を 実 現 す る 。(1 ( ))
k
Plancherel 公式に現れる
1/2 , , (1 ( )) f H G H k a H k m の候補として が考えられる。 定理 4.1. G を冪零とする。このときak
H
H,f (1 k m( )) であり、 に 対する Penney の Plancherel 公式を満たす。つまり任意のC Gc( )に対して ( ) ˆ 1 ( ) ( ) , ( ) m f k k H G k e a a d
が成り立つ。 G が冪零のとき、これらの k a はU( , )g の元の同時固有超関数になっており、 Plancherel 公式を通してD G H( / )の作用が対角化されその可換性が導かれる。 G が指数型のとき、最初の問題点は次の２点である。 (1)この積分は定義可能か？ (2)この積分は収束するか？ 命題 4.2. に関して殆どすべての点 において [ ]/( [ ] ) /( [ ] ) tr adb b h Xtr adh b h X 0 が成り立ち、上記積分は定義可能である。 命題 4.3. に関して殆どすべての点 において上記積分は絶対収束する。 残念ながら空間H の決定は難しく、 k aがH に属することは示せない。にも かかわらず帰納法を用いて次がいえる。 定理 4.4. 測度を適当に選ぶと、任意のCc( )G に対し 1 1/ 2 , /( ) , ( ) ( ) ( ) ( ) k k k k f H G H H g Bg a hg h h d h
( ) ˆ 1 ( ) ( ) , ( ) m f k k H G k e a a d
が成り立つ。 この結果を利用すると次がいえる。 定理 4.5. indGHf が離散型重複度をもつならば、環D G H( / )は可換である。 最後に Duflo の問題に否定的に答えよう。 例題 4.6. G exp gが冪零でないとき、環D G H( / )は非常に小さい可能性があ る。g T X Y Z, , , R, [ ,T X]X, [ , ]T Y Y, [ , ]T Z 2 , [ , ]Z X Y Z とし、f 0 g, h RTとおくと、( )Z 0なる gに対しg( ){0}で単項表現 ind 1GH は連続型の重複度をもつ。にもかかわらずD G H( / ) C 1である。 §5. 指数型可解リー群を超えて 指数型でない可解リー環gをもつ可解リー群 G に対しては様々な問題が生じ る。軌道の方法の枠組においても、 f gとして、I f( , )g となりうる。そこ で一般に複素 polarization を考え、Auslander-Kostant による正則誘導表現を 考える必要がある。また、一般にG f( )は連結でなく、そのユニタリ指標で微分 が 1 |f g(f)となるものの存在や一意性も問題となる。Auslander-Kostant 理論 からまもなく半世紀、単項表現の既約分解や既約ユニタリ表現の部分群への制 限の既約分解など基本的な問題に対してもいまだに統一的な結果は得られてい ないようである。 参考文献 [1] 藤原英徳 指数型可解リー群のユニタリ表現－軌道の方法－、数学出版、 2010[2] H. Fujiwara and J. Ludwig, Harmonic analysis on exponential solvable Lie groups, Springer, 2014
