files HANADA, Shinichi HomePage

第12回

最小2乗法 諸性質

本日 内容

• ^{最小2乗法 性質}

• ^{単回帰 性質}

• ^{最小2乗法 望 さ}

• ^{回帰 結果 用い 予測}

前回 復習

• ^{ア ～ ウ} → ^{く い}

• ^{エ :t-値 計算}

6

.

5

)

ˆ (

0

_{ }

 

標準誤差



t 

推定さ 値＝ _{− .} 帰無仮説 こ 場合 _{� =}

2.6

前回 復習

• →t- ^検定

– t- ^{布表 、P=0.005 t-値 2.58}

– 5.6>2.58 ^{、帰無仮説} _{� =} ^{有意水準1%} 棄却

– ^{、新生児 体重 母親 喫煙本数 負} 関係 あ

前回 復習

-14.6

こ 確率 0.5％

t-値 測 距 =2.58

0 t-値 測 距 =5.6

→^{本当 0 、-14.6 いう結果 出 確率 1％以}

前回 復習

• ^{:信頼区間}

� = − .

こ 範囲 入 確率 99％

t-値 測 距 =2.58

t-値1あ 標準誤差=2.6

、 _{. × . ≒ .}

-21.3 -7.9

前回 復習

• ^{、ｔ-値 いう ノ 使う ？}

– � ^{値 、説明変数 被説明変数 単 大} さ 変わ

• ^{平均 命 GDP あ ば、0.000278}

• ^{新生児 体重 母親 喫煙本数 あ ば14.6}

– ^{、こ 大 さ 差 、単 差 あ 、関係}

確 さ 差 い

• 0.000278 14.6 ^{小さい 、平均 命 GDP 関係 、} 新生児 体重 母親 喫煙本数 関係 弱いわけ

い

– ^{こ 、t-値 いう距 基準化 、一般的 断} う い

• ^{ば 、 く い い 測定}

前回 復習

0 1

目 1

、ば 小さい_→ 範囲内 あ ば、

ば 0 1 距 広い

→^{ば い 結果、偶然本当 0 1} 考え くい

ば 大 い_→ 範囲内 あ ば、

ば 0 1 距 い

→^{ば 結果、本当 0 1}

可能性 高い

こ 、ば 方 表

ｔ-値

→^{ｔ-値 直 えば、単 う}

基準 1.96 大 い 、等 断

最小2乗法 性質

1. 残差和 0

– ^{イ ：最小2乗法 、残差 2乗 和 一番} 小さく う 線 引く

– ^{、 けデ タ 真 中}

通 ほう 良い

– ^{デ タ 真 中 通 場合、プラ マ}

イナ 相殺さ 、残差

足 算 合計 0

ˆ 0

1



最小2乗法 性質

2. 残差 説明変数

直交

– ^{イ ：残差 説明変数 立 仮定}

– ^{場合、 互い 特 影響 合わ ば ば} あ

– ^{、バラバラ 平均0 残}

差 け 、0

ˆ 0

1



最小2乗法 性質

3. 観測値 和 、予測値 和 等 い

– ^{イ ：個 デ タ 細 い あ}

、全体 ば い い一致 い い 良い予測 い

– ^{定義 、} _�=^� _{�� = �=}^� _{� − � =} ^、 観測値 和 予測値 和 等 く





最小2乗法 性質

4. 観測値 平均 、予測値 平均 等 い

– ^{イ ：平均 い 良い予測 言} え い

– ^{計算 、前 性質 自明}





i

i

i

^y

y n

1

1 ˆ

最小2乗法 性質

5. 残差 予測値 直交

– ^{イ ：残差 予測値 関係 い 残差}

偶然 、予測値 影響さ い

– ^{足 0 、バラバラ 数 け} 足 0

ˆ 0 ˆ

1



最小2乗法 性質

6. 標 _, 、回帰直線 置

– ^{イ ：回帰直線 、デ タ 最 合致 直} 線

– ^{直線 、デ タ 代表 平均 点 通}

い い

x

y _{  ˆ  } ^ˆ

最小2乗法 性質

7. 観測値 予測値 積和 、予測値 平方和

等 い

– ^{イ ：適 予測値 ば、 デ}

タ 相殺 合う 、観測値 予

測値 掛け算 、予測値 士 掛け算 合計 等 く

– ^{計算 、残差 予測値 積和 0 、} �_{� �} = _� − _{� �} = _{� �} − _� =





最小2乗法 性質

8. 決定係数 _� 、予測値

観測値

相関係数 こ 、重相関係数 いう 2乗

等 い

– ^{イ ： け当 いい 、}

け予測値 観測値 関係 強い 、 測

– 2 ^{変数 関係 強さ 測定 相関係数 、} 決定係数 強い関係 持

単回帰 性質

9. 決定係数 _� 、被説明変数

説明変数

�

^{相関係数 2乗 等 い}

– ^{イ ：被説明変数 説明変数 関係 強い} ほ 、説明変数 被説明変数 予測 や く – 2 ^{変数 関係 強さ 測定 相関係数}

決定係数 間 強い関係 あ

– ^{、こ 性質 単回帰 成立}

• ^{後期 扱う予定 重回帰 成立 い}

最小 散線形不偏推定量

• ^{最小2乗法 、最小 散線形不偏推定量 Best}

Linear Unbiased Estimator: BLUE あ

– ^{直線 表 線形 、偏 い 不偏 中 、最} ば 小さい 最小 散 、予測 推定 量

– ^{不偏：予測値 平均 母集団 平均 一致}

• ^{、 歪 い い}

– ^{最小 散：観測値 予測値 ば 一番} 小さい

• ^{平均 、 ば 大 い 、適 予測}

い

• ^{平均 一致 い 中 、観測値 予測値} け小さいほう 良い

予測

• ^{以 最小2乗法 性質 、回帰 析}

将来 予測 こ

1. 過去 デ タ 利用 、回帰係数 推定

2. 説明変数 将来値 代入 ば、被説明変数 予測値 得

• ^{予測 行う 、}

– ^{将来時点 い 、現在 関係 説明変数} 被説明変数 間 在 け ば い

– ^{誤差項 、過去 誤差項 平均 散 持}

、 立 布 い け ば い

予測

• ^{信頼区間 考え方 利用 ば、あ 程 幅}

持 将来予測 可能

– ^{起 可能性 高い範囲内 、一番高い場合 一番} い場合 程 計算

• ^{、適 将来値 定 こ 困}

– ^{予測 用い 将来値自体 予測 け ば} い

– ^{予測 ば、当然予測値 外 こ} – ^{予測 段階 、将来値 わ い こ ほ}

い