ロジスティック回帰・直線回帰

ロジスティック回帰・直線回帰

樋口さぶろお

龍谷大学大学院理工学研究科数理情報学専攻

理論物理学特論

L03(2016-10-05 Wed)

最終更新: Time-stamp: ”2016-10-02 Sun 17:47 JST hig”

今日の目標

1 ロジスティック回帰を

,

2 線形回帰を

,

http://hig3.net

樋口さぶろお (数理情報学専攻) L03ロジスティック回帰・直線回帰 理論物理学特論(2016) 1 / 6

略解:最尤推定・一般化線形モデル・ポアソン回帰

L02-Q1

Quiz

:

log L(µ, σ

) = ∑

i

−

(2πσ

) −

(x

− µ)

,

∂

∂µ

log L =

log L = 0

.

1

µ = 1

2 (x

+ x

), σ

=

( x

− x

2

)

.

2

µ = 1

N (x

+ · · · + x

), σ

= 1 N

∑

(x

− 1

N (x

+ · · · + x

))

.

(1/(N − 1)

).

略解:最尤推定・一般化線形モデル・ポアソン回帰

L02-Q2

Quiz

:

log L = log (

e

1! e

)

+ log (

e

3! e

)

+ log (

e

5! e

)

+ log (

e

8! e

)

=(β

+ β

+ β

) · 1 − e

+ (β

+ 2β

) · 3 − e

+ (β

+ 2β

) · 5 − e

+ (β

+ 3β

+ β

) · 8 − e

+

.

樋口さぶろお (数理情報学専攻) L03ロジスティック回帰・直線回帰 理論物理学特論(2016) 3 / 6

ロジスティック回帰・直線回帰 ロジスティック回帰

ここまで来たよ

1 略解

:

2 ロジスティック回帰・直線回帰 ロジスティック回帰

ロジスティック回帰・直線回帰 ロジスティック回帰

L03-Q1

Quiz(ロジスティック関数)

微分可能であり

,

, lim

q(x) = 0, lim

q(x) = 1

,

.

L03-Q2

Quiz(

)

ロジスティック関数の逆関数を求めよう

. L03-Q3

Quiz(

)

ロジスティック回帰の一定モデル

logit(q) = β

,

{ y

, N

}

β

.

いまは

β

,

1

= 0

= 0

,

.

樋口さぶろお (数理情報学専攻) L03ロジスティック回帰・直線回帰 理論物理学特論(2016) 5 / 6

ロジスティック回帰・直線回帰 ロジスティック回帰

L03-Q4

ロジスティック回帰

ロジスティック回帰で

,

1

logit(q) = β

+ β

d, d = 0, 1

,

{ y

, N

, d

}

β

, β

.

ここで

, y

= ∑

di=a

y

, N

= ∑

di=a

N

. L03-Q5

直線回帰

直線回帰で

,

, ‘

2

’

.

{ y

, N

}

q

.