目 次

平成

26

変数を見直したベイジアンネットワークによる 要注意学生の発見手法に関する研究

指導教員 舟橋 健司 准教授  伊藤 宏隆 助教

名古屋工業大学 工学部 情報工学科 平成

23

23115014

名前 稲垣 諒

i

目 次

第

1

1

第

2

4

2.1

. . . . 4

2.1.1

. . . . 4

2.1.2

CFS . . . . 5

2.2

. . . . 6

2.2.1

. . . . 6

2.2.2 k-means

. . . . 6

2.3

. . . . 7

2.3.1

. . . . 7

2.3.2

. . . . 9

2.3.3

. . . . 9

第

3

11 3.1

. . . . 11

3.1.1

. . . . 11

3.1.2

. . . . 12

3.1.3

. . . . 12

3.1.4

. . . . 12

3.2

. . . . 12

3.2.1

. . . . 13

3.2.2

. . . . 13

3.2.3

. . . . 13

第

4

17 4.1

. . . . 17

4.1.1

. . . . 17

4.1.2

. . . . 17

4.1.3

. . . . 20

4.1.4

. . . . 23

4.1.5

. . . . 33

4.1.6

. . . . 35

4.2

. . . . 35

ii

4.2.1

. . . . 36 4.2.2

. . . . 39 4.3

. . . . 43

第

5

46

謝辞

47

参考文献

48

1

第 1 ^{章 はじめに}

名古屋工業大学では

,

, IC

Course Management System

CMS

[1]. IC

,IC

,

IC

,

.

Web

,

れている

. CMS

,

e-Leaning

る

.

,

,

,

Web

. IC

CMS

.

,

.

,

.

,

,

,

.

 教育現場におけるデータマイニングの活用方法として

,

,

.

,

[2]

,

[3],

,

[4]

.

 近年社会の多様化により大学生の性質も大きく変わってきている

.

,

.

,

,

.

,

.

,

.

,

.

 現在

,

,

,

[5].

,

,

.

,

,

.

 そこで

,

,

,

,

[6].

,

.

,

第

1

2

された「要注意学生」であるので

,

.

,

Grade Point Average

GPA

. GPA

1

1

1.0

,

.

1

1

GPA

1.0

,

,

.

,

.

122

,1

81.4

,

338

3

1

,

.

 しかしながら

,

,

.

1

GPA

1.0

,

,

.

.

,

GPA

1.0

.

,

.

,

,

.

 本研究では成績データ

,

,

.

338

.

,

.

GPA

.

,

. GPA

GPA

,

,

,

GPA

.

,

IC

,

.

[4][6]

,

.

,

.

.

.

,

,

,

.

,

,

.

.

,

.

,

,

,

,

,

.

.

第

1

3

は

,

,

,

.

,

.

,

,

.

 本論文では

,

2

,

3

.

4

,3

.

5

.

,

,

,

.

4

第 2 ^章 本研究に用いる手法の理論

本研究では分析及び予測の手法を多く用いている

.

.

,

,

.

2.1

属性選択は

,

.[7]

.

,

.

,

,

.

Correlation based Feature Selection

CFS

.

2.1.1

主成分分析とは

,

,

.

x 1 , x 2 , . . . , x n

,

z 1

2.1

z 1 = a 1 x 1 + a 2 x 2 + . . . + a n x n (2.1)

,

a 1 , a 2 , . . . , a n

,z 1

.

a

1

.

∑ n i=1

a ² _i = 1 (2.2)

最大の分散が得られたとき

,

z ₁

1

.

1

z ₂

2.3

.

z ₂ = b ₁ x ₁ + b ₂ x ₂ + . . . + b _n x _n (2.3)

b 1 , b 2 , . . . , b n

z 2

z 1

.

b

1

,

a

第

2

5

b

.

∑ n i=1

b ² _i = 1 (2.4)

∑ n i=1

a _i b _i = 0 (2.5)

こうして得られた

z ₂

2

.

,

.

,

,

.

,

.

,

％を説明しているかを表している

.

λ α ,

σ i

C α

2.6

.

C α = ∑ _n λ α i=1 σ i

(2.6)

,

P

.

P =

∑ n i=1

C i (2.7)

一般的に累積寄与率が

60

80

.

2.1.2

CFS

本研究では多くの変数を定義している

.

,

,

.

,

.

.

,2

.

.

2

P

Q

,

2.8

.

D(P || Q) = ∑

x

P (x) log P(x)

Q(x) (2.8)

また

,

.

,

.

 また

,

,CFS

.

,

,

.CFS

2.9

.k

, Z

.

CFS

Y i

.

SU

H

D

第

2

6

めることができる

.

CF S =

∑ _k

i=1 SU (Y _i , Z )

√

k + ∑ _k

i=1

∑ _k

j ̸ =i,j=1 SU (Y _i , Y _j )

(2.9)

SU (Y, Z) = 2 ∗ D(Y || Z )

H(Y ) + H(Z) (2.10)

2.2

クラスタリングとは

,

,

.

.

,

1

,

,

.

1

.

,

,

.

Ward’s Method

（以下ウォード法）

,

K-means

.

2.2.1

ウォード法は

,

,

.σ(x)

x

,

2.11

.

E _i,j = σ(x _i ∪ x _j ) − (σ(x _i ) + σ(x _j )) (2.11)

E i,j

,

.

.

2.2.2 k-means

k-means

k-

,

ある

.

,

.

k

,

.

1. k

.

2.

1

,

,

.

3.

.

第

2

7

2

3

,

.

2

,

.

,

. k-means

,

,

.

,

k

,

,

.

2.3

ベイジアンネットワーク

[8][9]

,

.

,

,

[10].

 ベイジアンネットワークは確率変数

,

,

.

3

,

.

,

,

,

,

.

2.3.1

図

2.1

.

X 1

X 2

X 1 → X 2

と表されている

.

X 1

,X 2

.

X 2

P _a (X ₂ )

,X ₂

P _a (X ₂ )

P(X ₂ | P _a (X ₂ ))

.

2.1

4

X ₁ , X ₂ , X ₃ , X ₄

,

P (X ₁ . . . X ₄ )

2.12

.

P (X ₁ . . . X ₄ ) =

∏ 4 i=1

P (X _i | P _a (X _i )) (2.12)

すべての変数の事後確率は

,

,

.

,

n

n

.

,

.

.

2.2

.

X ₁ → X ₂ , X ₂ → X ₃

,

.

X 2

,

e

X 2

P(X 2 | e)

.

,X 2

, X 2

第

2

8

X1

X4

X3 X2

図

2.1:

X1

X3 X2

図

2.2:

それぞれ

e ⁺ , e ⁻

,

P (X ₂ | e)

2.13

.

P (X 2 | e) = P (X 2 | e ⁺ , e ⁻ )

= P (e ⁻ | X 2 , e ⁺ )P(X 2 | e ⁺ )

P(e ⁻ | e ⁺ ) (2.13)

e ⁺

e ⁻

X ₂

,

α = _{P (e}

¹ _{| e}

)

2.13

.

P (X 2 |e) = αP (e ⁻ |X 2 , e ⁺ )P(X 2 |e ⁺ ) (2.14)

X 2

P(X 2 | e ⁺ ) = π(X 2 )

. π(X 2 )

P (X ₂ | X ₁ )

P (X ₁ | e ⁺ )

.

π(X ₂ ) = ∑

X

P (X ₂ | X ₁ )P (X ₁ | e ⁺ ) (2.15)

X 1

,

,

. X ₁

,

X ₁

(2.14)

.

X ₂

P(e ⁻ | X ₂ ) = λ(X ₂ )

,

2.15

.

λ(X 2 ) = ∑

X

P (X 3 | X 2 )P (e ⁻ | X 2 , X 3 ) (2.16)

観測から得られた情報

e ⁻

X 2

λ(X ₂ ) = ∑

X

P (X ₃ | X ₂ )P (e ⁻ | X ₃ ) (2.17)

第

2

9

とすることができる

.P (X ₃ | X ₂ )

,

.

,

X ₃

,

X ₃

.

,X 3

,π(X 2 )

,

2.16

.

X 2

,

.

 しかし確率伝播法はどのようなグラフ構造でも厳密な値を算出できるとは限らない

.

,

,

singly connected

,

1

, multiply connected

.

singly connected

,

,

.

,

multiply connected

,

,

.

,

,

.

multiply connected

singly connected

,

.

Junction Tree

.

,

,

.

2.3.2

ベイジアンネットワークに用いられる確率変数は

,

.

.

,

,

,

.

 離散化の手法として

,

,

.

,

100

,33

,33

,34

.

,

,

1

1

.

2.3.3

ベイジアンネットワークのモデルは有効グラフで表されている

.

.

,

.

Naive Bayes

Naive Bayes

2.3

に置き

,

.

,

第

2

10

造をしている

.

,

.

,

,

.

.

Tree Augmented Network

Tree Augmented Network

TAN

,

2.4

Naive Bayes

,

.

.

X,Y

C

I(X, Y | C) = − ∑

X

∑

Y

∑

C

P (x, y, c) log P (x, y | c)

P (x|c)P (y|c) (2.18)

.

・・・

図

2.3: Naive Bayes

2.4: TAN

Free Network

Free Network

.

しあるノードに対する親ノードの数が増えていくと

,

.

.

11

第 3 ^章 本研究に用いるデータの概要とその拡 張及び変換

本研究では「要注意学生」の発見・予測の手法としてベイジアンネットワークを採用して いる

.

,

.

.

3.1

本研究では

,

338

.

338

2

,

171

167

.

4

,

,

,

,

,

,

（以下修学データ）である

.

3.1.1

学生の講義別成績データは

,

,

,

,

4

.

,

.

,

,

.

,

,

,

.

,

,

.

 講義の成績は

,

6

.

,

優・良・可・不可と成績の評価が悪くなっていく

.

,

.

,

,

,

,

.

第

3

12

3.1.2

打刻データは

,

1

,IC

,

.

,

,

/

/

,

3

.

,

,

.

3.1.3

打刻データと同様にレコード形式で保存されており

,

,

,

,

,

.

,

.

.

.

.

,

,

,

.

,

,

.

.

3.1.4

修学データは

,

338

,

,

.

, 4

.

,

.3

,

.

,

,

. 4

,

.

3.2

講義別成績データや打刻データ

,

,

70

.

.

.

,

.

.

第

3

13

3.2.1

本研究では

,

GPA

.GPA

不可・失格にそれぞれ

4

3

2

1

0

0

,

3.1

.

GP A =

∑

(

) ∗ (

)

∑

(

) (3.1)

,

GPA

,

,

GPA

.

. GPA

2

0

,

,

.

3.1

.

3.2.2

打刻データに関しては打刻の回数に着目した

.

.

3.2

.

3.2.3

打刻データから

,

.

.

.

,

,

,

.

,

,

.

,

.

.

,

.

,

,

.

IC

,

IC

.

,

.

.

,

,IC

,

.

.

.

.

,

IC

.

.

.

.

第

3

14

欠席回数は

,

,

.

3.3

.

第

3

15

表

3.1:

番号 変数名 意味

1 1

1

GPA 2 1

1

GPA 3 1

1

GPA

4

1

1

GPA 5

1

1

GPA 6

1

1

GPA 7

1

1

GPA 8

1

1

GPA 9

1

1

GPA 10

1

1

GPA 11

1

1

GPA 12

1

1

GPA 13

1

1

GPA 14

1

1

GPA 15

1

1

GPA 16

1

1

GPA 17

1

1

GPA 18

1

19

1

20

1

21

1

22

1

23

1

24

1

25

1

26

1

27

1

28

1

29

1

第

3

16

表

3.2:

番号 変数名 意味

30 1

4

1

4

31 1

5

1

5

32 1

6

1

6

33 1

7

1

7

34 1

8

1

8

35 1

9

1

9

36 1

10

1

10

37 1

11

1

11

38 1

12

1

12

39 1

1

1

1

40 1

2

1

2

41 1

3

1

3

表

3.3:

番号 変数名 意味

42 1

4

1

4

43 1

5

1

5

44 1

6

1

6

45 1

7

1

7

46 1

8

1

8

47 1

9

1

9

48 1

10

1

10

49 1

11

1

11

50 1

12

1

12

51 1

1

1

1

52 1

2

1

2

53 1

3

1

3

54 1

1

55 1

1

56 1

1