再帰的#再帰時間が..に有限

全文

(1)#. $. 確率数理 -. !. ❤. 再帰性と到達の一咀（平均到達時間と平均再帰時間） mini。）=状態iからjへの平均到達日跳上. t. |EたP（だたX I. ）=E1万1X。=i. ］. （if P（なくかどう）=1）. wiythnhhhi fには）. （other. （Tj=int Inの1Xn=j｝） main）を平均再帰日ーー寺間. 品. 甠（正再帰性）. が再帰的なとき、うが正再帰的. と呼ぶ. 岬やmini）<o. |iが零再帰的なman=。. （非再帰的なら自動的にmに. にaである. ）. 再帰的再帰時間が..に非再帰的：再帰時間が無限になりう有限𣟧蟵が再鱜熈一纃！る. 灥_. 確率数理工学12. 1 / 12.

(2) % 平均到達時間の計啠. .it？時刻にた倒長との後にえへ到達 mには）=P（うま）×1. +. 高P（うた）|It mlk. t. t. んかうたに行ってから. うからyへI stepで. 到達. mいう）. jに到達するのに必要な知数. t㐂P（うた）m（たま）. 1. =. う））. じがっ）t臿P（うた）=臿Hi.た）= 1 ）この方程式を各jごとに解く.. iうとすれば平均再帰時階でも求まる。. 解が一意でなければ最小の非負解はいい）がそれになる-_⑧. （証明は与えないが、補足資料の吸収確率の計算と同様に示せる.）. （吸収確率）. I I. i：非再帰的な状態で再帰的な状態. も分解定理より、ある再帰的な既約成分に含まれる）. えからすへの吸収石屋-.-率d からのを含む再帰的な同値類への. 到達確率. まが再帰的かつj→j'なら. I I. 照. fは、お）=1. である。. 前田の講義資料より.Hi,if Iですが再帰的になることは示せているよって、. ニ）. j'→なかっ.では再帰的なので、再び同じ議論により、fはなに1でも. このことから、. ある，. ぼには）で.. Hi.う）=f（うか）がわかる。（まに到達すれば必ずおにも到達するし、逆もしかり）. は" な隨再帰的製シズ前同値に ○. はページに証明. 類. 確率数理工学12. 2 / 12.

(3) （参考）. にだしは）について.Hi，た）=f（うら）になることの証明. Ht.た）=P(To Nii）？ftp.eETeegglなくせ. ）P（なくかい=i）い. さ. い. 名を通ってから左に到達するがん =. ※な籅）哬くかどう）= がい. たとかを逆にすれば、 f（う.た）Efは.た）も得るので、. ー. fhた）=fはy. 吸収確率の計算方法ー. C（がまを含む再帰的な同値十選. 非再帰的な元の集合. T：. f（のう）=. （閉かつ既約）. E Yimf（たの十岳pay f（たま）+EPに.た）性は）. ーー；......、騃！！この方程式を解けばたが、良臿、，Ri.た）tE,Hi.た）f（あま）い...................！！！！たEC（ま）. ここで. fは、う）=1. fair，=u. （分解定理）. なので、. f（うう）=. 解が一意でない場合は最小の非負解がそれ2なる.. 確率数理工学12. 3 / 12.

(4) ❤. 亜. ギャンブラー. の破産確率. でた。 . . . 式確率所持金た産 8で. 雚万円. （破産）. 十. 万円. 資産iから始めて破産する確率を求めるにtho））. a(i）：んから始めて破産する確率. doに1，. 方程式：. a(i）= p a l m ). do）. =. （には、-.-）. q aにり. t. 1. plan）-a（う）］=q[a(i）-aにリ］. f. |. aに）. =. a(i）. =. a t. p信）「. （P#9）. した9=主）. ftp.i. k . あるd.PERを用いて書ける.. （i). p. のとき. o. （とう）. Each)El. より. P=0. よってdo）=1 から d = 1 なので91う）=1. にもなくば9た）で言い（もう）. we必ず破産する. （ii) P = 9 のとき. やはり. do）=1 w. （III). P > 8 のとき. より. O f a（う）E I. i →. 一方、よって. つまり'. f=0 より. の二I. aに）=1. 必ず破産する.. e. でaに） → 人. （h). である。. i=0で a（ 0） =ド f=1. 最小の非負解は d=0， P=1 で達成される。. am=（が e. 確率数理工学12. で. t. 運が良ければ破産しない 4 / 12.

(5) %. #. 直（平均再帰時間の性質と正再帰性の条件）任意のでるに対し、. 橋. 市 e P"では. 特にうが正再帰的な Tmは、かくか）. 直感的な興. ）. =. -_-到達確率いる） m. はま）が平均再帰時間. 品方言P"'は、j ) > 0 （湖はCornF ). で郎"どう1は"から出発してのステップ目までに平均的にまに滞在していた時間の割合"である. →. mなの時間後にまに戻るので、. まず、うからうへ到達する確執（うら）.うに到達したら、. 平均的に高いの割合でるに滞在していることになる。. I. y. が既幽あるとする... （I) まが正再帰的ならはE I に対. 想え部になる） .した。>o =. （ii) うが零再帰的なら. h e I において. O. 橋. が（こう）. -. 二. （うまに1であることはすでに示している. ( H : I が既約で.うが再帰的なi f I n C i ) は T h mより示せる. i ). は自明ではない. 証明は省略 .. (Thanの Proof). {b. Z n=. E l N j( n ) I X。=i. ]. =. E. 毖望ら. ）. ←. とする.. E l Z E N . =i. ] =. 時刻hまでにうにいた. N j（が臿Z た. 臿Pは'(i.う）. 回数. とする.. に注意する.. （l) まずえこうて考える (X。こうこう）なん）. を状態うたを固めに訪れた時間とする（だなint{に11NjmZED. Tj'"=0 とする、確率数理工学12. そんなんが無ければ. とする. 5 / 12.

(6) theだただたり. とする. すると.tkは独立同一分布に従う. （Mark.性）. 大数の強法則より. よって、. 聖=. t.tht-fglEH.EE[THEう］た. =mは、ま）. と舞。，_. なかの定義よりだが川）En<な姑は川. また、. なので、礜晶く瑫礜、"噐" 壬である。. （a）ここでるが再帰的であると仮定するとよって・. （b）一方、. 品川_，表明ーーつ. Fg(jig）. （a.S.）. か. +. -. 嶤. （i）.（i）より、. でもあるので. がえきた _. -. 出しない. （なか（たい）. いずれにしても. 炭，. _. >. ｛M（えう）. （ifT e a ）（otherwise,. Na t ' s m1が11万人か確率数理工学12. 、. mは.j）（as.）を得る.. （ii) i t jのとき、. 聖= 芸. なので.. PCGNj(n）は1X。こう）=1. である。一方、うが非再帰的なら、mは、う）=. 君川 →. T！資料は. （GS）. m（まる）. うが非再帰的なら. Njcn）→ 毖らに". （零再帰的なと.）. MS.）. （as). 6 / 12.

(7) % 両辺の期待値をとればルベーグの優収束定理より. 格すだがいる）= 1機三ハ興Nii］ =. =. E傴興lx。=i］. E1. =一. ，高，11なくがけ。こう］. .P何かX。こう）. =. の礜. 定常分布と極. y. 咀（定常分布）. T=（なり、TH....）： I上の分布. 下が定常分布 ※. 咀. が坿. た. 平衡方程式. には者がいたうり x. Markov連鎖で更新しても分布が変わらない.. （定常分布が存在するとは限らない）. （極限分布）. （石は初期分布）. た（うに Eた。（d）がいる）. はステップ目にどの状態にいやすいかを表した分布）. 下が t d t. 任意のーーなに対し、. htn（う） =Tは）. 4離散分布なので法則収束）/. （極限分布が存在するとは限らない）. h P"'=IP. 'た. 極限分布確率数理工学12. （なE I）. ）. という形をしていなければいけない. 4石（う）=（Oo....，0.1，0，0，-_-）. とすればわかる. 7 / 12.

(8) # 。極限分布が存在すれば、それは一意的な定常分布である.. N I. i. t チェックせよ.. 定常分布が存在しても極限分布が存在するとは限らない.. 。. な例. た（註）， p =(Y'。）下1になり、不は定常分布. の、。. しかし、昨 1！。，！！蠶，周期性がある. →. T o =（10）. とすると、. 大にしたり、. ー. 鼺鬱ー. で収束しない、極限分布は存在しない. .. -. T I （マルコフ連鎖の定常分布）. マルコフ連会員は既通であると仮定する。. すると、以下は同値（I). ある j. が正再帰的が正再帰的. E I. に）全てのー E I ーま. （ろ）. で、何より正再帰性は. クラスの性質）. 定常分布たが存在する。. （l).に1.13）のもと、定常分布は一意に定まり、. h t &. たま）= で与えられる.. 凸. P"（する）= '。。不，. （まからすに戻ってくるまでの平たる時なる） m t 間. 正再帰的なまに対し、 M(i)= とすると.. & n. =. たのに. O. P( X n= ☹ ，な >n | x. 器， m. =. うに平均的に痾の. 割合で滞在）. j)まるを出発に. 再び2に戻るまでに. どれくらいえにいたか. は定常分布になる。. （工の既知性は仮定していない、定常分布は一意とは限らない）確率数理工学12. （た（う）はまを出発してるに戻るまでに、どれくらいにに滞在していたかを. 表す）. 8 / 12.

(9) (Lem のProof）まずµ（う） = p （どう，な>o l X。=j）=1 である. （P（たくかたう）=1にも注意）. また、. 垚Mi）. =. E EP（たん.な>n|Xi j ）. = I N T > n Mir） = & H T z n Iがる） =. E [ T . g l X。=j］ =m（おう）. なので . では確率分布になる.FM？.i）. =PNe=i.Tj7llXo=ま） F M ( N P(i,k）. =. とすると、 Mの定義より. E. FT'か（うん）Pいた）. である。右辺=M（た）ならではµ）は定常分布になる. （i）. （たキシのとき）. ET"'（う、i)Mink）. = =. = =. ここで. （ii）. E H X i n ，た > l . Xe i た I X。こう） P（た>l、 X e i た I X。こう）. P(T.pl+1， X e いた I X。こう）. FM"（うた）. （右辺）= M k ）. E. はすぐわかる。. ぐうきた）（うきたに注意）. （たまのとき）. 上と同様に ET）は.'d)P(i.た）. EP(Xii，な>e,Xen=！Iがる） = =. このとき、. 確率数理工学12. P（た=1+1 1X。=j）. ☆（右辺）= P（な<o |X。=ま）=1 =1（う）. y. 9 / 12.

(10) #. (Proof of Thin）. （2）→ （ 1 ）. !. は明らか.. （I） -）（2）. Iを任意に取る. るEIは正再帰的であるとする. i E. 既約性より.. i. よって、ヨを，m E. INで. t. jである。 PG）（う.う）>0.PCM）（すえ）>0 より、. だれに f i s t EP"（iii) E f i s F i E 𥫣とのがないが =. >. 𤇾での器はいhtfneie. 礐. e. 痴'Tjは正再帰的.. o. なりえは正再帰的.. mの性質より）. なが正再帰的なう。直前のLemよりある定常分布が存在する.. （2）→（3）. （3）一つに）. 既約性より、定常分布のに対し.た（う）>0なようについて.. にGIでないんであるよって、あるMEI N で M Yj , i D o とできる. よって. 下に）= FT（う'）が）は！iに大（ま）がない）70. となる.. t.ci 答. 熱熱！な？な EI. において. 分ば布なので）. た。元は）にEPM(kia））. 表にした）fm 優骨着は、う） e e. 確率数理工学12. 10 / 12.

(11) ! これとたくう）>0を合わせると. Fj>0である。. よって、mは、かくか、つまりまは正再帰的.. 特にまは再帰的.. 既約性と再帰性より、tした。また1作）となり、T（うに. なるか）. が成り立つ. （一意性）上の議論で、たまになるか）が言えてしまっているので、. 一意性も示されている。. 咀（周期性）. x. なるMIIの最大公約な久しまこの周期d（う）=. ド（in)so. （周期はクラスの性𥫣. え←>jならdに）=d（う）. T I. （極限分布の存在条件）. マルコフ連全員が既約であるとする。. 連鎖が｛正再帰的非周期的 N I. この極限分布は定常分布で t. 極限分布. な. 不は）=t で与えられる.. 正再帰的なら定常分布が存在.. 凸. 既約で正再帰的なマルコフ連鎖が非周期的ならもう.うEI で. f i g PG）（i.ま）= 周期的（dには2）なら.. _. たくう）. （定常分布）.. =. PG）（i.う）は収束しない. （証明は、カップリング法による.補足資料を参照のこと）確率数理工学12. 11 / 12.

(12) (Proof o f Thin). (い）. Lem による.. に）極限分布が存在すれば、定常分布が存在するので、正再帰的また、先の Lem より周期的ならがいる）は収束せず極限分布が存在しなくなるので、非周期的でなくてはいけない. a. T d （大数の強法則）. 既約かつ定常分布たが存在するとき、（極限分布の存在は仮定しない） f : I → R が炁 I f（りけい） < e （つまりた、[If( i ) 1 ] < a ) なら、. 六点f (Xた） - ） E T H 品連鎖. 「1積分. ]. （9.. x. ※ 大数の強法則により、 MCMC法が正当化される.. 確率数理工学12. 12 / 12.

(13)