[配布資料] CV 草薙邦広のページ LET2017 ベイズワークショップ

(1)

1

外国語教育研究者のためのベイ統計入門

草薙邦広

広島大学外国語教育研究ンター kusanagi@hiroshima-u.ac.jp

. ベ統計聞く …

2. ^私 ^ベ

■2010 年代 ^統計改革

・効果量，検定力，信頼区間，標本設定

・^{統計的帰無仮説検定} ^NHST へ疑念

- QRP，え-hackぁng，事後分析，HARKぁng，心理学再現可能性問題…

- 頑張勉強検定一気悪者！

- 圧倒的検定力不足標本いう外国語教育研究問題

- 研究 … 統計難い結局ういい募不安

- ^帰無仮説 ^支持 ^生 ^理論へ疑念

・交絡変数 ^因果推論へ関心高

■^定数 ^あ ^こ ^母数理解

・私教育的指導法施集団⺟集団？

- い子！何 ^推測？

・指導法効果量，，真値？

- 発音指導効果量 0.81！神様決！ - ⾝⻑⺟平均永遠変わ続う

- 真値定数⺟数話途端ン

- 名探偵 K 年齢詐称疑惑 ^真実 ^常 ^ひ ^必 ^真実 ^明白 ^予定調和 ^中

・⺟数いう，いい ^得 ^観測 ^対し ^確率的 ^整合的 ^値？

・頻度主義 ^信 ^区間 ^解釈わ

- 実今わい，同状況観測？

■^従来 ^統計解析 ^解析困出わ

(2)

2

・最小二乗法最尤法解い

- e.g.,変量効果多い一般化線形混合効果，複雑混合分布

図_1. うわ複雑観測得し

・色々考方程式う！←7 ⺟数い，精度怪い(^解析限界)

| , , , , , ,

= 2 ^erfc ⁺2 ⁻ + ^{1 −}₂ erfc ⁺₂ ⁻

1

■ 私 ^度主義 ^く理解し ^い ^わけ

・統計難わい頻度主義簡単わ？

■2017 年現在，従来統計統計 ^手間 ^変わ ^い

■就職職場変同僚い

・深夜延々ビー片手 ^く ^，ベ ^し ^♡ 満面笑投 ^鬼田崇作先生

■ ，^{頻度主義も素晴} ^い，う統計 …

・^{統計的帰無仮説検定} ^一部 ^問題 ^無縁

- 帰無仮説含意主張

- え値由来問題独立 e.g.,え = .049 え = .050 変わい

・^{自然，柔軟，} ^し ^人間 ^{しい意思決定}

- ^主観 ^タ ^組 ^合わ ^，母数 ^布考

- いい，信頼区間誤差解釈 100 回同条件実験繰返 … いわい

・ ^解析困 ^あ ^グ ^可能

・統計高い，^埋没費用 ^少 ^い

3. ^ベ ^定理

■ 定理前い

・^確率 P 書えおobabぁlぁがけ P

・事象 eぎenが A 起確率 ^P(A) 書，^{事象 A} ^確率読

value

Density

160 165 170 175 180 185 190

0.000.050.100.150.200.25

(3)

3 - 6 面 6 出いう事象事象 A

# $ =¹₆ ²

・二回降，1 回目 6，2 回目 6 確率？ - 確率積

# $ # $ =₃₆¹ ³

・事象起いう条件下，別事象起確率 ^条件付 ^確率いう

・^P(A|B) ，事象 B 起条件下事象 A 起確率

- 数学ずー，右下いう意味

・P(A) P(B) 同時起確率 ^合同確率いう: ^P(A^∧^B) ^P(A^,^B)

・合同確率以下う求

# $ ∧ ( = # $|( # ( 4

- 事象 B 起，事象 B 条件下事象 A 起確率 - ，条件持い確率^P(B) ^周辺確率いう

- 条件付確率合同確率混同う注意

合同確率₌周辺確率_×条件付確率 ₅

P $|( =_{# $ ∧ (}^{# (} ⁶

P B =^{P A ∧ B}_{# $|(} ⁷

■ 定理導出

・， 4 式着目

・ 4 式う書い同

# $ ∧ ( = # (|$ # $ 8

# $ ∧ ( = # $|( # ( 4 = (9)

・，

# (|$ # $ = # $|( # ( 10

・整理

(4)

4

# (|$ =^{# $|( # (}_{# $} ¹¹

・ ^ベ ^定理 ^超簡単

？こ美味しい？→統計的推論応用

■ 定理統計

# (|$ =^{# $|( # (}_{# $} ^{11 = 12}

・A ^タ D 考

・B ^仮説 H 考，⺟数 θ

# -|. =^{# .|- # -}_{# .} ¹³

・P(HずD) ー下仮説正い確率 ^事後確率いう分布 ^事後 ^布いう

・P(DずH) 仮説下ー得確率 ^尤度いう

・P H 仮説正い確率 ^事前確率，^事前 ^布いう主観的確率

・P(D) ー得確率無視，^{正規化定数} いう

・事後確率∝尤度×事前確率 _考

- ∝ 比例，読

■ ，事後分布？

・ー既得，う変わい ^定数見

・ ^タ ^{いう条件下} ，仮説正い確率， ^母数 ^布い

・有意う，⺟数誤差平均的⼤，，⺟数分布直接考

・⺟平均 50 ⼤い確率 50% う！⺟平均 95% ，10 70 ！

タ母数

度主義布定数

ベ統計定数布

・頻度主義 ^ひ ^{母数→確率的} ^タ発生

・統計 ^ひ ^{タ→確率的} ^母数 ^推測

(5)

5

・こ54,58,45,34,46,57,67,45,76さいうー下⺟平均事後分布得ン分布

図 . 観測下母数事後布

■ うい，尤度？

・仮説下ー得確率

・観測図 3 ，平均 20 いう仮説ー生確率低いう

- 平均 50 ，ー生確率高う

- ー⺟数下得確率総積対数和＝^対数尤度

図 . あ観測

・^尤度関数

図 .尤度関数

■ 事前確率？

・ー得前仮説へ信念 ^{主観的確率} 考

・分布⺟数分布いう ←^背景知識重要

20 30 40 50 60 70 80

0.000.020.040.060.08

N = 10000 Bandwidth = 0.6389

Density

Value

Density

20 30 40 50 60 70 80

0.000.010.020.030.04

9.8 10.0 10.2 10.4

-3733.5-3733.0-3732.5-3732.0

SD

sd

loglikelihood

49.0 49.2 49.4 49.6 49.8 50.0 50.2

-3733.5-3733.0-3732.5-3732.0

Mean

mean

loglikelihood

49.0 49.2 49.4 49.6 49.8 50.0 50.2

9.810.010.210.4

mean

sd

-373

5 _-37³⁵

-³⁷ 34^.5

-373 4.5

-37₃₄

-3⁷³⁴ -3733.5

-3733 -3732.5 -3732

(6)

6

・背景知識い場合，^{無情報事前} ^布弱情報事前分布使用

・主観的い，取う ^符号 ^{最小値，最大値} 与客観的いわい

4. ^エ ^男性遍歴

■ ンわうわいう例話好

高校生，ンカ首。高校生い幸帰結生

わい知好奇心，カ男性遍歴知い思

。いい，給食最中カ含女子ー会話

聞耳立い。

カうい，私 3 人目彼 …

ういう！ン！心臓鼓動止い。，冷静取戻，心

中うぶい。 ^こ ^観測 ^下 ^，エ ^元 ^数 ^布し ^い ^…

・，事前分布考う

- 彼氏数カンー！^離散分布考う

- カ知い，今情報い知い

- 女子高生男性遍歴い，彼氏 10 人以上いいういう - 以上情報い → 最小値 0，最⼤値 10 ^散一様 ^布考う

図 .エ元数関事前布散一様

・次，尤度考う

- 全彼氏数，ン均等確率三番目彼氏得考筈い

- 三番目いいう，0 人，1 人，2 人，3 人いう確率 0 最低 4 人い

- 4 人い，3 人目話題確率 1/3，5 人い，4 人目話題確率 1/4…

0 2 4 6 8 10

0.060.080.100.12

彼彼彼

確確

(7)

7 / =0 0 > 2¹

14

/ = 0 0 < 2

図 .エ元数関尤度

・事後確率考う！

- ^前分布 ^尤度 ^積正則化定数揃

図 .エ元数関事後布

・三番目彼氏いう観測下，カ元カ数分布い！

・期待値求統計推定値

- 6.34 人！^エ ^. ^人く ^い元 ^い - ^一方 ^度主義 ^人 ^最尤推定 ^？

■事前分布変！？

・事前分布設定最⼤値期待値規定い

・仮 100 人，事後分布 …

・期待値 20 人台！

0 2 4 6 8 10

0.000.050.100.150.200.25

彼彼彼

確確

0 2 4 6 8 10

0.000.050.100.150.20

彼彼彼

確確

(8)

8

図 .エ元数関事後布ばい

・，い事前分布設定女子高生平均的元カ数分布？ …

図 .エ元数関事前布

・事後分布，

図 .エ元数関事後布しい

・元カ 4 人今彼 5 人目確率 90% い

・95% 確率 4 人 5 人い ^ベ ^信用区間

■ ー増

・計算終耳 4 人目 … いう可愛いカ声

・ー，^ベ ^更新 4 死 5 確率上！

- 事前分布図 10 ^昨日 ^事後 ^布 ^今日 ^事前 ^布！

- ー増事前分布影響小い

0 10 20 30 40 50

0.000.020.040.060.08

彼彼彼

確確

0 2 4 6 8 10

0.00.20.40.60.8

彼彼彼

確確

0 2 4 6 8 10

0.000.100.20

彼彼彼

確確

(9)

9

図 .更新さエ元数事後布

5. ^マ ^コフ連鎖 ^法 MCMC ^基本

■^{数値解析的} ^推定方法

・何回何回乱数発生，⺟数事後分布計算

■ ^後分布 ^比例す ^分布乱数ン⼤量作

・得事後分布い

■ 経験分布扱う，⺟数い豊推測

■最近，三種類知い

ポグ法

ギサグ

ニ法

■数値解析 ^初期値必要

■研究者決

・ ^区間 ^焼却区間

- ューョン，初期安定い。程度量ューョン捨

・^間引 ^区間 thinning interval

- 途中間引行う，安定結果得う

・^MCMC^サ ^数

- 行うューョン数，多いう安定い

・ ^前分布

・^チ ^数

- 初期値ューョン行う一連

■ ^束診断

・ューョン，毎回結果違う

・程度，事前分布安定い示必要 ^定常分布

・Gelman 収束診断，Geくke 収束診断使，収束示

■ ^M（M（ン示

■⺟数推定値 ^信用区間報告

・MCMC ン平均中央値，^母数 ^推定値 ^け ^代表値

・MCMC ン 2.5%点 97.5%点 95% ^信用区間

- ^タ ^法

0 2 4 6 8 10

0.00.20.40.60.8

彼彼彼

確確

(10)

10 - ^{最高確率密度区間} ^τP）いう考

6. ^事例 1 ^{：反応時間} ^布 ^け ^母数 ^ベ ^推定

■反応時間分布正規分布い

・実験操作個人差反応時間分布及影響，正規分布下わい

図 . 反応時間布例

・感分布

・対，^{指数正規合成分布} 考

| , , = 2 ^erfc ⁺ 2 ⁻

15

・，⺟数 μ，σ，τ 事後分布い考

■MCMC 推定

・⺟数い無情報事前分布

・MCMC ン数 = 20,000，間引，ーンン区間 = 0〜500，ン数 = 1

・・ン法

図 . 図 MCMC サプ布例

0 5 0 0 0 1 0 0 0 0 1 5 0 0 0 2 0 0 0 0

3.73.9

T r a c e o さ μ

I っ e r a っ i o n s

Valつe

3 . 7 3 . 8 3 . 9 4 . 0

02468

） e n s i っと o さ μ

N = 2 0 0 0 0 B a n d て i d っし = 0 . 0 0 5 9 8 1

）ensiっと

0 5 0 0 0 1 0 0 0 0 1 5 0 0 0 2 0 0 0 0

1.601.75

T r a c e o さ

Valつe

1 . 5 5 1 . 6 0 1 . 6 5 1 . 7 0 1 . 7 5 1 . 8 0 1 . 8 5

048

） e n s i っと o さ

N = 2 0 0 0 0 B a n d て i d っし = 0 . 0 0 4 5 9 9

）ensiっと

0 5 0 0 0 1 0 0 0 0 1 5 0 0 0 2 0 0 0 0

4.34.54.7

T r a c e o さ

Valつe

4 . 3 4 . 4 4 . 5 4 . 6 4 . 7 4 . 8

0246

） e n s i っと o さ

N = 2 0 0 0 0 B a n d て i d っし = 0 . 0 0 8 0 8 4

）ensiっと

(11)

11 表_1.

各母数い _MCMCサけ平均標準偏差分位点

平均標準偏差 _2.5% _25% _50% _75% _97.5%

μ 3.84 0.05 3.74 3.80 3.84 3.87 3.93

σ 1.72 0.04 1.64 1.69 1.72 1.74 1.80

τ 4.56 0.07 4.43 4.52 4.56 4.60 4.64

図 . 推定さ母数フッしい

・応用，^条件間 ^{応時間分布} ⺟数分布比較

図 . 複数母数事後布比較ァプッ例

7. ^事例 2 ^：従来 ^重回帰

■読解成績応答変数，説明変数文法成績語彙成績重回帰

・

5 67809:= ;<+ ; =>6??6>:+ ; @AB6CDE6>F: ¹⁶

・β 事後分布考

図 . 観測

Second

）ensiっと

0 20 40 60 80

0.000.050.100.15

2 3 4 5

(a)(b)(c)(d)(e)(さ)

(12)

12

図 . 片回帰係数け MCMC サプ布

8. ^事例 3 ^：ベ ^因子

■^母語話者 ^顕著 ^効果 ^学習者 ^見 ^いいう証拠

■帰無仮説寄経理論多！？本当⼤丈夫！？

・形態統語的鈍感性 moおえhologぁcal ぁnかenかぁがぁぎぁがけ

■ 統計， ^因子 ^BF いう方法使う

・従来統計いう帰無仮説対立仮説 ^も ^も ^比考

(G =^{# .|-}_{# .|-} ¹⁷

・，二群平均値比較い，標準化平均差d

7 = ⁻

HIIJKL

18

い，

- : 7 = 0 19

- : ∞ < 7 < 0 20 -O: −∞ > 7 > 0 21

い仮説値域表立，

(G =# .|- 7 ≠ 0

# .|- 7 = 0

22

# .|- 7 = 0

# .|- 7 ≠ 0 = Q R|S LT<¹ Q R|S LU<

23

・ ^帰無仮説 ^も ^も ^{を示す証拠}

0 2 4 6

0.00.10.20.30.4

B e っ a 0

N = 1 0 0 0 0 B a n d て i d っし = 0 . 1 3 8 9

）ensiっと

0 . 5 5 0 . 6 0 0 . 6 5

051015

B e っ a 1

N = 1 0 0 0 0 B a n d て i d っし = 0 . 0 0 2 9 8 2

）ensiっと

0 . 2 5 0 . 3 0 0 . 3 5 0 . 4 0

051015

B e っ a 2

N = 1 0 0 0 0 B a n d て i d っし = 0 . 0 0 3 0 3 6

）ensiっと

(13)

13

・，場合帰無仮説，事前分布い ^{0 を中心} ^分布 ^い，いう過い

→厳密意味帰無仮説うい

■帰無仮説含意主張！

図 . 題材関観測

3.13 … =# .|- 7 ≠ 0

# .|- 7 = 0

24

・帰無仮説正い方 3.13 倍いい… ^こ ^証拠 ^弱い

・因子値適用 ^情報仮説

- _{情報仮説：}^条件間 ^平均差 ^値 ^大小関係 _{仮説置}

9. ^事例 4 ^：階層ベ

■^応答変数 ^正規分布 ^いいう外国語教育研究

・カカ

・歪分布

■ タ複雑階層構造を成い

・個人，，学校…

・時系列

■ 統計

一般線形従来

一般化線形正規分布以外をサポ線形混合効果変量効果をサポ一般化線形混合効果

■ 全⺟数分布い！

・階層

- 一般化線形混合効果化

■草薙執筆中

・200 人 48 試行文法性判断課題従事

・判断結果，反応時間，主観的測度規則反応，直観反応記録

・判断結果反応時間主観的測度選択及影響知い

・各施行生 3 変数 200 人個人ネい実項目

（ o n っ r o l

S c o r e

Freqつencと

0 2 0 4 0 6 0 8 0 1 0 0

05101520

T r e a っ m e n っ

S c o r e

Freqつencと

0 2 0 4 0 6 0 8 0 1 0 0

05101520 （onっrolTreaっmenっ

3 0 4 0 5 0 6 0 7 0

（ o m p a r i s o n

(14)

14

・個人， a 主観的測度反応選， b 判断結果影響， c 反応時間

影響異考

■ 略式図

E0 X_{1 − /}^/^:

:^{Y = ;}^<^{+ ;} ^,:^{+ ; log} ^,: ^{+ >}^]

25

・主観的測度二値， ^項分布発生 → 回帰

・固定効果切片，判断結果，反応時間

- 事前分布 ^{多変量正規分布} 事実上無情報

・変数効果，切片分散，判断結果傾分散，反応時間分散

- 変量効果分散共分散行列 ^逆 ^シ ^分布従う事実上，無情報

図 . 母数け MCMC サプ布固定効果

図 . 母数け MCMC サプ布変量効果

10. ^ベ ^統計 ^行 ^う環境

■ ^ま ^ま ^環境 ^実行

・R MCMCえack, BaけeかFacがoお, coda, BEST... 莫⼤ー

0 2 4 6 8 10

Beっa0Beっa1Beっa2

4 0 6 0 8 0 1 0 0 1 2 0

0.0000.0150.030

N = 2 0 0 0 B a n d て i d っし = 2 . 3 4 5

）ensiっと

1 2 3 4

0.00.20.4

N = 2 0 0 0 B a n d て i d っし = 0 . 1 1 8

）ensiっと

- 1 2 - 1 0 - 8 - 6 - 4

0.000.150.30

N = 2 0 0 0 B a n d て i d っし = 0 . 2 4 6 1

）ensiっと

1 2 3 4

0.00.20.4

N = 2 0 0 0 B a n d て i d っし = 0 . 1 1 8

）ensiっと

0 . 0 0 0 . 0 5 0 . 1 0 0 . 1 5 0 . 2 0

02468

N = 2 0 0 0 B a n d て i d っし = 0 . 0 0 5 9 7 1

）ensiっと

- 0 . 5 - 0 . 4 - 0 . 3 - 0 . 2 - 0 . 1

012345

N = 2 0 0 0 B a n d て i d っし = 0 . 0 1 2 4

）ensiっと

- 1 2 - 1 0 - 8 - 6 - 4

0.000.150.30

N = 2 0 0 0 B a n d て i d っし = 0 . 2 4 6 1

）ensiっと

- 0 . 5 - 0 . 4 - 0 . 3 - 0 . 2 - 0 . 1

012345

N = 2 0 0 0 B a n d て i d っし = 0 . 0 1 2 4

）ensiっと

0 . 4 0 . 6 0 . 8 1 . 0 1 . 2 1 . 4

0.01.02.03.0

N = 2 0 0 0 B a n d て i d っし = 0 . 0 2 5 8 2

）ensiっと

β0 β1 β2

β0

β1

β2

(15)

15

・Pけがhon NきmPけ, PけMC...

■MCMC ンー仲間

・WぁnBUGS ・ンン

・JAGS ・ンン

・Sがan ン・ンカ法

■R MCMC ンー連携

・おあagか, おかがan...

■Web 上因子計算

・Dぁeneか方法 hががえ://くくく.lぁfeかcぁ.かきかかeぐ.ac.きk/home/Zolがan_Dぁeneか/ぁnfeおence/Baけeか.hがm

・Roきdeお方法 hががえ://えcl.mぁかかoきおぁ.edき/baけeかfacがoお

■高度 UI ソ

・JASP hががえか://あaかえ-かがaがか.oおg/

11. ^{総括：外国語教育研究} ^け ^ベ ^統計 ^こ

■^{統計改革後} ^{大本命，今後} ^研究 ^け ^突破口 ^ひ

■ 前途多難

・外国語教育研究い ^確率分布 ^{いう概念へ} ^理解浅い

・^統計いう概念未根付いいい

・ー ^合理主義 ^{素朴実在論}

・ ^意思決定，^真実 ^判定機い

・意思決定いう視点重要

・流行い！関係ワーョ 2 件！

→草薙ワーョ行！！

■ ^を起こす ^今 ^い

＊関連図書，参考文献，ー問い合わ応

[配布資料] CV 草薙邦広のページ LET2017 ベイズワークショップ

外国語教育研究者のためのベイ 統計入門

草薙邦広

. ベ 統計 聞く …

2. 私 ベ

3. ベ 定理

4. エ 男性遍歴

5. マ コフ連鎖 法 MCMC 基本

6. 事例 1 ：反応時間 布 け 母数 ベ 推定

7. 事例 2 ：従来 重回帰

8. 事例 3 ：ベ 因子

9. 事例 4 ：階層ベ

10. ベ 統計 行 う環境

11. 総括：外国語教育研究 け ベ 統計 こ

外国語教育研究者のためのベイ統計入門

. ベ統計聞く …

2. ^私 ^ベ

3. ^ベ ^定理

4. ^エ ^男性遍歴

5. ^マ ^コフ連鎖 ^法 MCMC ^基本

6. ^事例 1 ^{：反応時間} ^布 ^け ^母数 ^ベ ^推定

7. ^事例 2 ^：従来 ^重回帰

8. ^事例 3 ^：ベ ^因子

9. ^事例 4 ^：階層ベ

10. ^ベ ^統計 ^行 ^う環境

11. ^{総括：外国語教育研究} ^け ^ベ ^統計 ^こ