本章では，写像の族に対し同程度連続性の概念を導入する。そして，非定数有理 写像Eの反復族｛Eπ｝の同程度連続性によって，ファトゥ集合とジュリア集合を形 式的に定義し，解析写像の族は領域において同程度連続である（または，正規族で ある）であるための条件を考察する。更に，ジュリア集合とファトゥ集合の特性を調
べる。
2．1 ファトゥ集合とジュリア集合の定義と例
距離空間（X，d）から距離空間（X1，ゴ1）への写像！がXの点物で連続とは，任 意の正数εに対して，ある正数δが存在して
dゆ0，のくδ ならばd1げ（の0），！＠））〈ε （2．1）
の時いう。ここで，δは，！，￠oそしてεに依存する。特に，xからyの中への写 像のある族魯の中のすべての∫に対して，（2．1）が成り立つようにδが見つけられ
るならば，その族9は￠oで同程度連続であるという。実際には，そのことは，9
の中のすべての関数は，物を中心としδを半径とする開球を半径が高々εの球の中へ写像するということを意味する。また，領域Dで定義された関数族鰹がDの任 意の点で同程度連続のとき，鰹はDにおいて同程度連続であるという。
その族9がXの部分集合1）αのそれぞれにおいて同程度連続であるならば，1き は自動的に和集合UDαにおいて同程度連続である。9がそこで同程度連続となる
Xのすべての開部分集合の族となるように集合｛Dα｝を考えることにより，次の一 般的な原理を得る。29
定理2．1．1 鰹を（X，d）から（X1， d1）の中へと写像する任意の写像の族とす
る。この時，9が同程度連続であるXの最大開部分集合が存在する。特に，∫
を距離空間（X，のからそれ自身の中への写像とするならば，反復｛！η｝の族が 同程度連続であるXの最大開部分集合が存在する。
定義2．1．2 Rを非定数有理写像とする。Rのファトゥ集合は，｛Rη｝が同程度
連続である（フ。。の最大開部分集合である。そして，Rのジュリア集合とは，0∞の中におけるその補集合である。
有理写像Rのファトゥ集合をFで表す。そして，ジュリア集合を」で表す。特
に，Rについて明白に言及する必要があるときには， F（R）と」（R）と書くことに する。定義により，F（R）は開集合で， J（R）はコンパクトである。例2．1．3（メービウス（Mδbius）変換の場合）
Rが恒等変換でないメービウス（M6bius）変換のとき， Rは，単一不動点をもつか，
または，2つの異なる不動点をもつのうちのどちらかである。
【単一不動点をもつ場合】
Rが単一不動点ζをもっとき，すべてのgに対して，R縦2）→ζとなる。共役性
を考えれば，L4節の例し4．1より， R（の＝2＋1としてよい。この時，ζ＝Ooで あり，Rπ（2）＝2＋ηとなり，すべてのzに対して，η→Ooのとき， Rπ（の→○○となる。従って，J（R）＝の。
【2つの異なる不動点をもつ場合】
Rη（2）は，Rの不動点のうちの1つへ収束するか，または，点のある有限集合全 体を巡回するように動くか，または，ある円の稠密な部分集合を形成するのうちの どれかである。共役性を考えれば，1．4節の例1．4．1より，R（2）＝肱佛≠1）とし てよい。この時，Rの不動点は0とOoであり， R箆（2）＝好2となり，
｛
Rπ（2）→O q例〈1，之≠Oo，のとき）
lRη（z）i＝121（1ん1＝1のとき）
Rπ（2）→Oo （i制＞1， z≠0，のとき）
となる。従って，
｛
1制〈1のときJ（R）＝｛Oc｝
圃瓢1のときJ（R）＝の
圃＞1のとき」（R）＝｛0｝となる。
例2．1．4 P（之）＝之d，d≧2のとき， J（P）＝単位円周。
例2．1．5 P（之）＝之2−2のとき，J（P）＝［一2，2】となる。このことについては，
2．3節で詳しく述べる。
有理写像，そして特に，メービウス（M6bius）写像とその逆写像は，0。。上の球面 計量（そして弦の計量）に関してリプシッツ（Lipschitz）条件を満たす（定理1．3．1）。
従って，Eのメービウス（M6bius）写像に関する共役化に対し，次が成り立つ。
定理2．1．6 Rを非定数有理写像とし，gをメービウス（M6bius）写像とする。
θ＝gRg−1とすると，
F（θ）＝9（F（R）） カ、つ J（θ）＝9（J（R））
定理2．1．7 任意の非定数有理写像Rと任意の正の整数pに対して，
F（RP）＝」F（R）かつJ（RP）＝J（R）
【証明】
5こBPとする。まず，｛5η：η＞1｝は｛一Rπ：η≧1｝の部分族であるので，
｛θη：π＞1｝は，｛甜：η≧1｝が同程度連続であるところではどこでも同程度連続 である。従って，F（5）⊃F（R）である。次に，各餅はリプシッツ（：Lipschi七z）条 件を満たすので，族瓢＝｛R鳶3π：η＞0｝は，｛5π：η≧1｝が同程度連続であると
ころではどこでも同程度連続である。特に，εのファトゥ集合∬（3）上では，各蹴
は同程度連続である。よって，有限な和集合90U91 U…Ugp−1もそうである。こ
の和集合は｛Rπ：π≧0｝であるので，族｛Rη：π≧1｝は，F（5）上で同程度連続で ある。従って，F（5）⊂F（R）となり， F（5）＝F（R）が従う。 □2．2 完全不変集合
ここでは，写像のもとで不変である集合の結果を吟味する。
まず，不変性の異なる型を定義する。gが集合Xからそれ自身の中への写像であ
るとする。Xの部分集合Eは，
（1）g（E）＝Eならば，前進不変である，
（2）g−1（E）＝Eならば，後進不変である，
（3）g（E）＝E縦g−1（E）ならば，完全不変である
という。
定理2．2．1 Rを次数が少なくとも2の有理写像とし，有限集合EはRの
もとで完全不変であると仮定する。この時，Eは高々2つの元をもつ。【証明】
Eがた個の元をもつと仮定する。Eは有限であり， RはEをEの上へ写すの
だから，Rは， Eの置換のようにふるまわなければならない。よって，適当な整数qに対して，Rqは， Eからそれ自身の中への恒等写像である。今，那は次数dを もっと仮定する。Eの中のすべてのωに対して，方程式Rq（の＝卿は，ωでの解
を全部で4個もつことになる。その結果，Rqに適用されたリーマン・フルヴィッツ（Riemann−Hurwitz）の関係（定理1．7．1）により，
鳶（dl−1）≦2d−2
となる。d≧2なので，鳶≦2を得る。 □
完全不変集合のいくつかの一般的ではあるが，基本的な性質をまとめておく。完全不変性と後進不変性を互換的に用いるために，ここでは，g：X→Xは全射であ
ると仮定する。
まず，完全不変性は，共役化のもとで変わらない。例えば，Eがgのもとで完全
不変であり，んがXからそれ自身の上への全単射であるならば，ん（E）もんgん㎜1のもとで完全不変である。
次に，例えば，部分群，部分空間，そして位相を生成するのに用いられる標準的 な構成を適用する。作用素g−1は集合たちの交わりをとる作用と可換である。すな わち，任意の集合族｛一Eα｝に対して，
9−1（∩E・）一∩9−1（E・）
である。このことより，今，｛Eα｝を完全不変集合の族とすると，
9…1（∩E・）一∩9−1（E・）一∩E・，
9（∩四一9（∩9−1（E・））一99−1（∩耽）一∩瑞
となり，完全不変集合の族の交わりは，それ自身完全不変であることがわかる。こ れは，任意の部分集合Eoをとることができ，そして， Eoを含むすべてのそれらの 完全不変集合の交わりEを形成することができるということを意味している。明ら かに，Eは，その時， Eoを含む最小の完全不変集合であり， EoはEを生成すると
いう。
ここで，完全不変集合の論議を非常に容易にする同値関係を導入する。Xの中の 任意の∬とッに対して，
9η（偲）＝gm（〃） （2．2）
となる非負の整数ηとmが存在するときかつそのときに限り，X上での関係〜を
∬〜〃により定義する。明らかに，関係〜は，反射的であり，対称的である。そし て，関係〜は，推移的でもある。なぜならば，式（22）とgP（〃）＝gq（z）により，
9π＋P（の）＝g叫q（β）
が導かれるからである。従って，〜は，X上での同値関係である。のを含む同値類
を囮で表し，これを灘の軌道と呼ぶ。
定理2．2．2 g：X→XをXからそれ自身の上への任意の写像とする。この
時，岡は，単集合勧｝によって生成された完全不変集合である。【証明】
今のところ，〈z＞は，勧｝によって生成された完全不変集合を表すとする。まず，
国の中の任意のッをとる。この時，あるmとηに対して，gm（ッ）＝gη＠）であ
る。従って，＠〉は完全不変であるので，次の等式を成り立たせながら，ツ∈9−mgπ（｛z｝）⊂9｝鵬gη（〈灘〉）＝〈z＞
となり，囮⊂〈のが従う。
次に，囮が完全不変であるということを示すことだけが残っている。なぜならば，
ひとたび，このことが示されれば，〈のの極小性により，〈￠〉⊂囮が導かれ，等式が 成り立つからである。ッ・＞g（y）なので，ω〜g（〃）のときかつそのときに限り，￠〜〃
であり，言い換えれば，
g（g）∈回 のときかつそのときに限り 〃∈囮
であるとわかる。このことは，汐∈ρ一1（国）のときかつそのときに限り，㌢∈囮と
いうことを示しており，よって，国の完全不変性を示した。 □
集合Eが同値類囮の和集合であるときかつそのときに限り，集合Eは完全不変
であるということは，定理2．2．2から直接に得られる。このことが成り立つ場合で あるならば，その補集合もまた同値類の和集合でなければならないし，それゆえに，完全不変でもなければならない。次に，集合Eの内部，閉包，そして境界作用素に 関して吟味する。
定理2．2．3 gを位相空間Xからそれ自身の上への任意の連続な開写像とし，
そして，Eは完全不変であると仮定する。この時， Eの補集合X−E，Eの 内部EO，Eの境界∂E，Eの閉包万も完全不変である。
【証明】
Eの補集合X一．Eが完全不変であることはすでに示した。 gはX上で連続であ
るので，g−1（EO）は， g−1（E）の開部分集合であり，ゆえに，（不変性により）Eの開 部分集合である。従って，g−1（．EO）⊂EO。同様に， gは開写像であるので， g（EO）
はEの開部分集合であり，よって，g（Eo）⊂．EO。従って，
EO⊂9−19（EO）⊂9−1（EO）
となり，よって，EOは完全不変である。
Eの完全不変性により，X−EとEOの完全不変性が導かれた。また， Eの閉包 万とEの塊界∂Eもまた完全不変であるということは，
万一（（EC）o）c，∂E一万∩て珂
より従う。ここで，cは補集合をとることを表し， oは内部をとることを表し，は 閉包をとることを表す。 □ 今，ファトゥ集合とジュリア集合への球面の分割は完全不変であるということを 証明する。
定理2。2．4 Rを任意の有理写像とする。この時，ファトゥ集合Fとジュリ
ア集合」は，Rのもとで完全不変である。【証明】
定理2．2．3より，Fが完全不変であることを証明すれば十分である。更に， Rは 全射であるので，Fが後進不変であることを証明しさえずればよい。まず， R『1（F）
の中の任意の％をとり，ωo；R（Zo）とする。この時，ωoはFに含まれる。1．1節