スライド 1

データ解析特論 第１回～(全15回）

情報エレクトロニクス専攻

横田孝義

主成分分析を先に

集中してやります。

データマイニングの分野ではマクロ（巨視的）な視点

で全体を捉える能力が求められる。

主成分分析

1. コンピュータは数値の集合として全体を把握していますので、意味

ある情報として全体を見ることが不得意。

2. 逆に人間には、もともと空間的に全体像を捉える能力が得意。

人間はこういう写真を見ると

瞬間的に内容が理解できる。

青空、木、草地、傾斜、紅葉、季節は秋など

空間をうまくグループ化して認識している。

コンピュータでそれを行うのは非常に大変。

主成分分析

• 主成分分析(PCA: Principal Component Analysis)

• 別名：KL展開(Karhunen-Loeve展開)

• データを少ない成分であらわすこと

例：100次元空間のデータを10次元空間のデータで表したい

• これによって

– データ圧縮が可能

• 少ない次元で表せれば保存するデータが少なくて済む

• データの見通しが良くなる。 分析が進む。

例えば、セ・リーグ打撃ランキング

OPS:

On-base plus slugging

長打率＋出塁率

RC27(Runs Created per 27

outs)はRCを元にある特定の

選手1人で構成された打線

で試合を行った場合、27ア

ウト（9イニング×3アウト=1

試合）で平均何点とれるか

を算出した指標。

XR27 (eXtrapolated Runs per

27 outs)

ある打者が一人で打線を組

んだ場合の1試合（27アウト）

あたりの得点数。

アウトにならない間にいか

に得点数を稼ぐかという野球

の形式が表されており、アウ

ト数で標準化されているので

出場数の異なる複数の打者

の得点創出能力を比較する

ような場合XRの値そのままよ

例えば、セ・リーグ打撃ランキング

1)どの選手がどんな能力があって、どんなタイプの選手か

全要素を使って説明できるか？

2)似た選手を探したり、グループ分けできるか？

打撃成績（規定打席以上）のデータは24サンプルで１８要素に過ぎない。

無理やり画像に

するとこのような画像に対応。

こちらは800x600画素

24x18の画像と言ったら

432画素

48万画素

100倍以上の画素があるが、

人間は内容が理解できる。

青空、木、草地、傾斜、紅葉など。

人間にはさっぱりわからない。

コンピュータなら空間に分けてもらう。

例えば、セ・リーグ打撃ランキング

OPS:

On-base plus slugging

長打率＋出塁率

RC27(Runs Created per 27

outs)はRCを元にある特定の

選手1人で構成された打線

で試合を行った場合、27ア

ウト（9イニング×3アウト=1

試合）で平均何点とれるか

を算出した指標。

XR27 (eXtrapolated Runs per

27 outs)

ある打者が一人で打線を組

んだ場合の1試合（27アウト）

あたりの得点数。

アウトにならない間にいか

に得点数を稼ぐかという野球

の形式が表されており、アウ

ト数で標準化されているので

出場数の異なる複数の打者

の得点創出能力を比較する

ような場合XRの値そのままよ

主成分の例

この２つの重みベクトル（主成分）

で全現象の58％が説明できる。

固有値の分布

主成分分析

第1主成分

第2主成分

各主成分を用いて各データ（各選手）

を表現。

傾向がわかりやすくなる。

打撃能力？

着実度？

コツコツ度

主成分 z1軸:

身長と体重がともに動く成分 ⇒ 体の大きさの軸（これでかなり説明できる。）

主成分 z2軸:

z1軸で説明しきれない成分を説明 ⇒ 肥満度の軸

身長 h

体重 w

高い

低い

重い

軽い

z1

z2

主成分分析

主成分分析

情報の損失を出来るだけ小さいまま、データの持つ特徴を主成分で表す。

例えば、主成分２の情報を無視して主成分１の情報だけにすれば肥満度

の情報が失われる。そこで、情報量損失を最小に抑えるような主成分の

ベクトルを決定していくのが主成分分析である。このような主成分のベクト

ルは各々が直交する。

身長

体重

高い

低い

重い

軽い

z1

z2

情報損失量

主成分分析

多変数の場合も同様。 主成分分析とはP個の変数

の持つ情報を情報の損失を最小に抑えながら、

の一次結合として与えられる互いに独立なM（M＜P）個の主成分、すなわち、

総合的指標

を用いて表現する手法である。

は、第m主成分と呼ばれる。

結合係数

これをどうやって求めるか？

主成分分析

結合係数

これをどうやって求めるか？

第m主成分

第１主成分 z

₁

の分散は のあらゆる一次式の持つ

分散の中で最大であること。

そして、第m主成分 z

_m

の分散は、

の全てと

無相関な一次式の持つ分散の中で最大である。

ただし、

とする。

---条件---

主成分分析

身長

体重

z

₁

=

_{身長x0.8+体重x0.6}

この主成分の分散が

最も大きいので

第一主成分である。

例えば

主成分分析 主成分の導出

P個の変数についてN個のサンプルがある場合を考える。

主成分の分散が最大になるように主成分を決定する。

各変数の平均値を

_として、

平均値からの偏差を導入する。

観測データ全体は以下の行列で表される。

n サンプル

主成分分析 主成分の導出

第１主成分は

その結合係数を

とし、データサンプルのベクトルを、

で表される。

とすると。

すなわちn番目のデータサンプル に対応する第１主成分Z

₁

の値t

_n1

は

主成分分析 主成分の導出

これを第１主成分得点

これをN個のサンプル分のベクトルとしてまとめると、

となる。

主成分分析 主成分の導出

ここで、第１主成分得点の平均値

を計算してみると、

なので、

第１主成分z

₁

の分散は、

ここで、

共分散行列で

非負定値行列

Positive Definite

要素は

主成分分析 主成分の導出

第１主成分は分散を最大にするように決めなければならない。

Lagrangeの未定定数法の登場

とおき、これを最大化するような

主成分分析 主成分の導出

すなわち、J1をw1で偏微分してそれを0とおく、

主成分分析 主成分の導出

なので、

を解く。

とした場合の対応する固有ベクトルが

最大固有値を

である。 以下、固有値の降順に固有ベクトルを求めていく。

主成分分析

データの標準化

単位の異なる変数

大きく分散の異なる変数

分散の大きな変数の影響を受けやすい。

各変数の分散が１、平均値が0となるように標準化する。

観測値

をそのまま使うのではなく、

を使う。

標準偏差

平均値

主成分分析

データの標準化

このようにして標準化を行った後に共分散行列は相関行列になる。

ここで

主成分分析

寄与率と因子負荷量

寄与率

主成分分析とは：

少ない数の総合的指標（主成分）を用いて変数間の関係や

特徴を把握するための統計的手法。

1. 各主成分が、元のデータに含まれる特徴をどの程度表現しているか？

2. 何個の主成分を採用すれば元のデータに含まれる特徴を十分に表現できるか？

寄与率、および 累積寄与率

主成分分析

寄与率と因子負荷量

P個の変数の分散の和は共分散行列をVとすれば、Vの主体対角要素

すなわち(p,p)要素であるv

_pp

が変数x

_p

の分散であるから、

一方で、第m主成分の分散

は、共分散行列Vのm番目に大きい

固有値 に等しいから、

も成り立つ。

主成分分析

寄与率と因子負荷量

第m主成分の分散が分散の総和に占める割合を以下のように

寄与率として定義する。

また、第m主成分までの分散の和が分散の総和に占める割合を

累積寄与率と呼ぶ。

主成分分析

寄与率と因子負荷量

主成分分析の結果の解釈

主成分（総合的指標）の意味解釈

主成分とは、各変数の線形結合で与えられる。

主成分に強く影響している変数を特定することが有効。

主成分と変数との相関係数：因子負荷量(factor loading)

主成分分析

寄与率と因子負荷量

第m主成分z

_m

と、p番目の変数x

_p

との間の因子負荷量は、

z

_m

の標準偏差

x

_p

の標準偏差

主成分分析

寄与率と因子負荷量

データのサンプル数をＮとする。（野球選手の人数に相当）

は、第p列のみを取り出すベクトルである。

主成分分析

寄与率と因子負荷量

一方、

であるので、

（m番目の主成分の分散は共分散行列Vのm番目の固有値）

で標準化されている場合は、

因子負荷量

主成分分析

演習

講義を聞いているだけでは身につかない。

34

順 位 選手名 チーム 打 率 試 合 打 席 数 打 数 安 打 本 塁 打 打 点 盗 塁 四 球 死 球 三 振 犠 打 併 殺 打 長 打 率 出 塁 率 O P S R C 2 7 X R 2 7 1 マートン 阪神 .466 16 69 58 27 6 29 2 9 1 6 0 2 .862 .536 1.398 16.87 15.72 2 上本 博紀 阪神 .389 16 65 54 21 1 8 1 11 0 14 0 0 .481 .492 .974 9.83 9.32 3 エルドレッド 広島 .373 14 57 51 19 4 8 0 5 1 17 0 1 .667 .439 1.105 10.87 10.21 4 川端 慎吾 ヤクルト .370 14 62 54 20 0 3 1 5 0 5 2 1 .444 .417 .861 7.30 6.92 5 アンダーソン 巨人 .358 14 59 53 19 3 11 0 5 1 8 0 0 .566 .424 .990 9.74 9.28 6 相川 亮二 ヤクルト .349 11 45 43 15 1 9 0 1 0 6 1 0 .442 .364 .805 6.37 6.02 7 平田 良介 中日 .345 15 65 58 20 2 10 1 7 0 9 0 1 .500 .415 .915 8.22 7.78 8 ゴメス 阪神 .333 16 72 63 21 0 16 0 8 0 19 0 1 .444 .403 .847 7.02 6.65 8 ルナ 中日 .333 15 67 63 21 1 9 2 4 0 9 0 3 .460 .373 .833 6.03 5.58 8 荒木 雅博 中日 .333 15 67 60 20 0 7 0 2 0 9 5 0 .433 .355 .788 5.64 5.18 8 菊池 涼介 広島 .333 14 61 51 17 1 7 6 3 0 6 6 1 .431 .364 .795 5.24 5.20 12 大島 洋平 中日 .328 15 67 61 20 0 2 3 5 0 6 1 0 .377 .379 .756 6.31 5.98 13 橋本 到 巨人 .327 15 58 52 17 1 9 2 3 1 11 2 2 .462 .375 .837 6.04 5.64 14 ブランコ DeNA .326 12 48 46 15 2 9 0 2 0 11 0 0 .543 .354 .898 7.47 7.02 15 ロペス 巨人 .323 15 67 62 20 6 17 0 3 1 7 0 2 .661 .358 1.019 8.08 8.07 16 畠山 和洋 ヤクルト .317 14 61 60 19 0 7 0 1 0 2 0 2 .383 .328 .711 4.30 3.94 17 鳥谷 敬 阪神 .297 16 76 64 19 0 3 1 10 1 7 1 0 .359 .400 .759 6.30 6.00 18 大和 阪神 .288 16 75 59 17 0 8 1 8 0 7 7 2 .322 .368 .690 4.11 4.11 18 バルディリス DeNA .288 14 57 52 15 2 8 0 4 0 7 0 2 .462 .333 .795 5.11 5.16 20 坂本 勇人 巨人 .283 15 65 53 15 2 6 4 7 1 10 3 1 .396 .371 .767 5.77 5.93 21 長野 久義 巨人 .281 15 71 64 18 1 5 2 7 0 9 0 1 .344 .352 .696 4.55 4.50 22 山田 哲人 ヤクルト .276 14 68 58 16 1 10 3 7 2 10 0 1 .397 .368 .764 5.54 5.54 23 片岡 治大 巨人 .275 13 49 40 11 1 5 3 5 1 6 3 2 .375 .370 .745 4.83 4.73 24 梶谷 隆幸 DeNA .268 14 62 56 15 2 5 3 5 1 16 0 1 .482 .339 .821 6.13 5.84 25 村田 修一 巨人 .263 15 67 57 15 2 5 0 9 1 11 0 5 .404 .373 .777 4.33 4.31 26 森野 将彦 中日 .250 14 54 48 12 0 5 0 4 0 4 0 2 .292 .296 .588 2.69 3.06 26 阿部 慎之助 巨人 .250 11 47 36 9 0 2 0 8 2 6 0 1 .333 .404 .738 5.00 5.10 28 和田 一浩 中日 .245 14 58 49 12 3 11 0 9 0 3 0 1 .469 .362 .831 6.09 6.11 28 雄平 ヤクルト .245 13 55 49 12 2 8 1 5 0 8 1 2 .367 .315 .682 3.72 3.83 30 バレンティン ヤクルト .240 14 63 50 12 6 12 0 12 0 17 0 2 .600 .381 .981 7.35 7.70 31 筒香 嘉智 DeNA .233 12 48 43 10 1 5 0 5 0 11 0 2 .349 .313 .661 3.30 3.23 32 丸 佳浩 広島 .231 14 64 52 12 2 4 2 11 1 11 0 1 .404 .375 .779 5.51 5.54 32 ミレッジ ヤクルト .231 10 47 39 9 1 6 0 6 0 6 0 4 .359 .319 .678 2.83 3.32 32 梵 英心 広島 .231 12 46 39 9 1 1 0 5 0 10 2 2 .333 .318 .652 2.33 2.46 35 山崎 憲晴 DeNA .216 14 60 51 11 1 5 2 3 1 13 4 0 .314 .268 .582 3.04 3.32

http://baseball-data.com/stats/hitter-ce/

What to do

教室のメンバーを数班に分けます。

来週の講義までに

(1)このデータをまず標準化して、相関行列を作ってくる。

(2) 固有値、固有ベクトルを算出する。

プログラムは作るか、探すか、自分たちで解決すること。

来週、班毎に発表してもらいます。（途中経過でOK)