統計学:ガイダンス
高木真吾 北海道大学 経済学部
e-mail:[email protected]
URL: https://sites.google.com/site/hustat2017/
September 29, 2017
講義題目:統計学
. . . 2
統計学とデータサイエンス
. . . 3
データから何がわかるか?
. . . 4
ビッグデータ利用
. . . 5
データは何を表象
. . . 6
講義アウトライン
. . . 7
Schedule (tentative)
. . . 10
1
講義題目:統計学 (course title: Statistics)
■ 目的:統計学の基礎的な考え方を習得する
■ 結論:分析対象を表象するデータ から,対象に関する 情報を引き出す
◆ 分析対象を表象するデータ:「データ」の意味,標本抽出,確率変数
◆ 情報を引き出す:データの記述,推測統計(推定,検定)
Statistics (lec. 1) – 2 / 10
統計学とデータサイエンス
■ 統計学:データから情報を引き出す科学的技法
◆ 小規模の「質の良い」データが分析対象
◆ 積極的なコンピュータ利用をあまり前提としてこなかった
■ (最近の)データサイエンス:大規模データから情報を引き出し,その意味や傾向から科学的あるいはビ ジネス的価値を見い出すこと.データを操作するコードを書き,データを可視化
a
することにこそ真骨頂.
◆ データサイエンティストは,プログラマーよりも統計学が得意であり,統計学者よりもプログラミン グが得意な人のことである.
◆ 今日,データサイエンスは耳目を集めている.「21 世紀のもっともいかした職業」(HBR, NYT)
a
可視化(visualization):直接は見えない現象・関係などを見ることができる形(表・グラフ・画像など)に加工する. 単純集計表,グラフからインフォグラフィックまで多岐にわたる.
Statistics (lec. 1) – 3 / 10
データから何がわかるか?
■ 予測(未来への投影)
◆ Nate Silver の選挙予測(人口統計),Yahoo 選挙予想(検索量と投票率の相関)など
■ 異常検知(未来への投影)
◆ 通常状態とそこからの乖離
◆ 例)地震に先行する地下水位変化に関する分析
■ 効果計測(過去あるいは現状の把握)
◆ イベントの効果
■ The Olympic Effects
◆ 政策の効果
■ 開発援助の効果: 虫下し薬配布政策が子供たちの学校のパフォーマンス(出席率など)を「安価」 にかつ「劇的」に改善
Statistics (lec. 1) – 4 / 10
2
ビッグデータ利用
■ ビッグデータ利用にも二種類
◆ すべてのデータを集めて分析する
■ データを整理するだけ(古い用語では記述統計)
■ 可視化して,意味を見い出すことが必要なだけ(確率や統計の出番はあまりない)
■ EX) (検閲前の)SNS 全投稿 − (検閲後の)SNS 全投稿: 差分を見れば何が検閲対象かが判明
◆ 集まったデータで分析する
■ 規模が大きくても,データの性質(何を代表しているのか)は重要
■ EX) 大統領選挙予測における二つの雑誌社の競争
■ EX) Google Flu Trend(108 週のうち 100 週で過大評価,単純なモデルにも劣る)「注目を集める ビッグデータの多くは,科学的分析に適した有効で信頼に足るデータの生成を目的に開発された 装置から得られたものではない」
Statistics (lec. 1) – 5 / 10
データは何を表象
■ 美麗な視覚化の技術も重要である
■ 同時に,データが何を代表しているのか,という古典的な問題の再認識
◆ 通常の入門的な統計学では,「無作為標本」によって母集団を代表させる質の良い小集団から情報を得 ることが前提.
Statistics (lec. 1) – 6 / 10
講義アウトライン
■ 講義と問題演習を通じた統計学の基本の理解
◆ 記述統計
◆ 確率変数
◆ 推定問題
◆ 検定問題
■ 一回ごとに内容概説と演習がペア
■ 演習時には,黒板等に回答を描いてもらうこともある
◆ チョークやマーカーで汚れることもあるので注意
Statistics (lec. 1) – 7 / 10
講義のローカルルール
■ 演習時間の前に課す問題は必ず提出
■ 提出物は返却しませんので,コピーを取っておいてください
■ メール等での質問の際には,自身の名前を記入してください
■ 講義・演習の進行方法は受講者数に応じて変動します
■ オフィスアワーは,月曜昼休みと木曜昼休み時間帯ですが,必要に応じて担当者を捕まえてください.
■ 飲食は(常識の範囲で)自由.
3
Statistics (lec. 1) – 8 / 10
その他
■ 参考図書
◆ 統計学の入門書なら何でも
◆ 例)『統計学入門』東京大学出版会
■ 現時点での採点基準
◆ 宿題+中間試験:合計30 点
◆ 期末試験:合計70 点
Statistics (lec. 1) – 9 / 10
Schedule (tentative)
内容 キーワード
9 月 29 日 ガイダンス・記述統計 ヒストグラム・ジニ係数 10 月 6 日 記述統計2 平均・分散・共分散・相関係数 10 月 13 日 確率 乗法公式・条件付確率・ベイズの定理 10 月 20 日 確率変数1 一変量確率変数
10 月 27 日 確率変数2 多変量確率変数・独立と相関 11 月 10 日 確率変数まとめ 二項分布・正規分布
11 月 17 日 確率変数まとめ 大数法則・中心極限定理 11 月 24 日 母集団と標本 無作為抽出
12 月 1 日 正規母集団の理論 t分布,カイ二乗分布 12 月 8 日 母数の推定 信頼区間
12 月 15 日 母数の検定1 母集団平均の検定
12 月 22 日 母数の検定2 分散・平均差・分散比の検定 1 月 5 日 休講
1 月 19 日 分割表の検定 カイ二乗検定
1 月 26 日 全体のまとめ 「母集団と標本」以降 2 月 2 日 学期末試験