• R
…
•
•
•
3
線形回帰モデル
一般化線形モデル
一般化線形混合モデル
階層ベイズモデル
推定方法 最小二乗法
最尤推定法
確率分布
ベイズ推定
正規分布
正規分布 以外の分布 も可能
個体差/地域差
あり なし
自由に設定可能
マルチレベルモデル
0.0 0.2 0.4 0.6 0.8 1.0
01234
密度
確率
事前分布尤度関数 事後分布
0 2 4 6 8 10
0.00.10.20.30.40.50.6
得点
確率
事前分布尤度関数 事後分布
-40 -20 0 20 40 60
0.000.010.020.030.040.050.06
得点差
確率
事前分布尤度関数 事後分布
0 20 40 60 80 100
5.425.445.465.485.505.525.545.56
Index
post.mu
0 20 40 60 80 100
5.425.485.54
更新回数
事後平均
0 20 40 60 80 100
1357
更新回数
事後標準偏差
• B ()
• )
) (
•
データ
事前分布 尤度関数 事後分布
ベイズ更新
(precision)
•
! = 1
$%
•
• ⇔
•
•
τ = 1 σ2
•
!
"#$
%
& '"|), +, ∝ !
"#$
% 1
20+,1'2 − '" − ) , 2×+,
∝ 1 +,
%,
1'2 −∑"#$% '" − ) , 2×+,
• α − 1 = ⁄9 2, : = ∑"#$% '" − ) ,⁄2
!
"#$
%
& '"|), +, ∝ 1 +,
;<$
1'2 − : 2×+,
• ! = $#%
&
'(#
)
* +'|-, /0 ∝ ! 23#4+5 −7 8 !
• 9: α, 7
9: α, 7 ∝ ! 23#4+5 −7 8 !
• !
• Γ "
Γ " = $
%
&
'()*+),-'
" > 0
• Γ "
Γ " = " − 1 ! Γ " + 1 = "Γ "
Γ ⁄1 2 = 6
• ! "
! " = $% &, ( = ()
Γ & ")+,-+./, " ≥ 0
• 2 3 2 4 2
3 2 = &
( 3 2 = &
(5
• !"
•
•
=
•
!"#$ %, '
•
• ' % − 1⁄ , % > 1
• ',
% − 1 , ' − 1 ' > 1, % > 2
Γ−1(0.1, 5.0)
• (hierarchical Bayes)
•
• ( )
超パラメータ
事前分布 尤度関数 事後分布
ベイズ更新 Γ(α,λ)
N(μ,σ
2)
正規分布の 平均と分散
•
•
•
データ X
1データ X
2データ X
n :パラメータ
θ
2尤度関数f
1=P(X|θ
1)
パラメータ
θ
1尤度関数f
2=P(X|θ
2)
• !
•
•
• 6 9
• 1 !"
!" #|% = "'()%) 1 − % , ∝ %) 1 − % ,
• 6 9 0 0
!.
!. #|% = 10 − 1
6 − 1 %)1" 1 − % , ∝ %) 1 − % ,
• 1 1 0
!" #|% ∝ !. #|%
• !" !#
!": % = 0.5, !#: % > 0.5
• !" 5%
, - ≥ 6|!" = 1
234
#"
#"52 6 0.52 6 1 − 0.5 #"92
= 210 + 120 + 45 + 10 + 1
2#" ≈ 0.377 > 0.5
• h d ( ( ( (
• ! ∀! ∈ Ω g %&, %(
b ) !|%& = ) !|%( el
h %& ≡ %(
• d ()(
• - e c. h
e i f a h
•
•
• 1 2⁄
• $
•
• 1 $ + 1⁄
•
• ! = 1
• ! > 1 ! + 1 & & = 0, … , ! + 1
! & ! + 1
[(! − &) + 1]/[(! + 1)(! + 2)]
• & − 1
[(& − 1) + 1]/[(! + 1)(! + 2)]
• 1/(! + 2)
• 2
•
•
1
• /
• ! "
• # $
•
% $|" = % "|$ % $
% " = 1 ! + # + 1⁄
1 ! + 1⁄ = ! + 1
! + # + 1
• ! → ∞ $ → ∞ %('|)) → 0
•
• )
•
•
(Principle of insufficient reason)
•
•
• = 1/2
• = 1
• )= 5
! "#, "%, "&, "', "(
∝ ℓ "#|, - ℓ "%|, - ℓ "&|, - ℓ "'|, - ℓ "(|,
∝ .
/
#
,( 1 − , (2(! , 3,
• ) (
! "#, ⋯ , "5 ∝ .
/
#
,5 1 − , 526! , 3,
•
• 5 4 ℓ "|$ = $
• 5 ℓ &"|$ = 1 − $
•
• ) $ = 1
• ℓ "*|$ + ) $ ∝ $×1 = $
•
• ) $|"* = 2$ ∵ ∫1*2$2$ = 2 + 1 2 $⁄ 4 1* = 1
• ℓ "4|$ + ) $ = $ + 2$ = 2$4
•
• ! "|$% = 3"% ∵ ∫*+3"%," = 3 - 1 3 "⁄ 0 *+ = 1
• ℓ $0|" - ! " = " - 3"% = 3"0
•
• ! "|$0 = 4"0 ∵ ∫*+4"0," = 4 - 1 4 "⁄ 3 *+ = 1
• ℓ $3|" - ! " = " - 4"0 = 4"3
•
• ! "|$3 = 5"3 ∵ ∫*+5"3," = 5 - 1 5 "⁄ 5 *+ = 1
• ℓ $5|" - ! " = 30 1 − " - "3
€
(y3 |θ)× p( )θ =θ ×3θ2 =3θ3
• ! > 0.5
&
'.(
)
30 1 − ! - !./! = 30 - 1 5 !⁄ ( − 1 6 !⁄ 3 )'.(
= 6!( − 5!3 )'.( = 1 − 7
64 = 57
64 ≈ 0.89
•
( )
• 1 1 2⁄
•
• $
1 2
%
= 1
32 = 0.03125
•
1 − 1 2
%
≈ 0.9697