• 検索結果がありません。

評価実験

ドキュメント内 コンテクスト検索エンジンにおける (ページ 74-84)

4. 実験結果

4.1. 知見タグの導入とタグ・クエリの拡張に関する実験

4.1.2. 評価実験

72

73

なお,以下の4条件における検索件数を比較するため,実験時は「拡張タグあり/拡張ク エリあり」の条件で行い,実験で入力されたクエリを,他の条件で入力したクエリであると

仮定してData Jacket検索システムに適用し,検索結果を取得して比較する.「拡張タグな

し」の条件では,拡張タグのテーブルが存在しないものと仮定して,知見タグ,特徴的変動,

Data Jacketのテーブルのみにクエリを発行してData Jacket検索を行い,「拡張クエリな

し」の条件では,入力したクエリで検索した結果が存在しなかった場合でも,クエリを拡張 した再検索を行わずに終了する.

i. 拡張タグなし/拡張クエリなし ii. 拡張タグなし/拡張クエリあり

iii. 拡張タグあり/拡張クエリなし

iv. 拡張タグあり/拡張クエリあり

また,実験終了後に表 4.8のアンケートに回答してもらった.

表 4.8:アンケート内容

番号 質問内容 回答

実験タスクの難易度はどうでしたか? (簡単)1・2・3・4・5(難しい)

理由・意見(どのような点が難しかったか)

2 実験時間の長さについてどう思いますか? (短い)1・2・3・4・5(長い)

Data Jacket・知見は関係があるアイテム発見に役立ちましたか?

(コンテクスト検索エンジンやGoogle等で見つけやすくなりましたか?) (役に立たなかった)1・2・3・4・5(役に立った)

理由・意見(どのような点が役立ったか? or 不便だったか?)

知見タグから,その知見の内容が読み取れましたか? (読み取れなかった)1・2・3・4・5(読み取れた)

理由・意見(どのような点が読み取りやすかったか? or 読み取りにくかったか?)

Data Jacket・知見から,意外な関係のアイテムが見つかりましたか? (見つからなかった)1・2・3・4・5(見つかった)

理由・意見(見つかった場合,意外な関係だと思ったアイテムを記入)

DataJacket・知見から,自分の知らないようなアイテムが見つかりましたか? (見つからなかった)1・2・3・4・5(見つかった)

理由・意見(見つかった場合,自分の知らないようなアイテムを記入)

7 アイテム発見の際に参考にしたジャンルがあれば教えてください. 21個のジャンルから複数選択

8 意見・感想があれば記入してください 1

3

4

5

6

74 4.1.2.2. 実験結果・考察

条件ⅳにおいて実験を行い,発見したアイテムの組合せ数を表 4.9,図 4.8に示す.発見 した手段がA,B,Cのアイテムが含まれる場合,Data Jacket検索システムの知見を確認 せず見つけていると考えることができるため知見不使用(提案システム不使用)とし,D,

E,Fのアイテムが含まれる場合,知見を確認して見つけていると考えることができるため 知見使用(提案システム使用)として集計した.発見された知見の例を表 4.10に示す.ま た,条件ⅰ~ⅳにおいてクエリを入力した際の検索件数の累計を表 4.11,実験協力者がク エリに入力したアイテム数を表 4.12に示し,これらのグラフを図 4.9に示す.表 4.11の 箱ひげ図を図 4.10に示す.意外な知見であった際に「!」ボタンをクリックした回数を表 4.13に示す.アンケートの結果を図 4.11~図 4.16に示す.

表 4.9:発見したアイテムの組合せ数[個]

4.8:発見したアイテムの組合せ数

実験協力者ID 知見不使用 知見使用 計

B1 0 6 6

B2 0 5 5

B3 6 0 6

B4 2 5 7

B5 2 8 10

B6 9 0 9

B7 0 7 7

B8 3 3 6

計 22 34 56

0 1 2 3 4 5 6 7 8 9 10

B1 B2 B3 B4 B5 B6 B7 B8

発見したアイテムの組合せ数[]

実験協力者ID 知見不使用 知見使用

75

表 4.10:発見された知見の例

表 4.11:それぞれの条件における検索件数の累計[件]

表 4.12:クエリに入力したアイテム数[個]

アイテムA 手段 アイテムB 手段 理由・根拠

ドラゴンクエスト A DS C 2008年に急上昇、2009年にピークを迎えている。それぞれ、DS版のド ラクエが発売されたことが原因である。

参考URL:(省略)

能年玲奈 D あまちゃん D 能年玲奈が主演のドラマ「あまちゃん」の放送開始月に,能年玲奈が MAX,あまちゃんがPEAKになっているため.

参考URL:(省略)

参考知見No:55 参考知見No:

なし なし あり あり

なし あり なし あり

B1 59 59 62 62

B2 48 48 85 85

B3 0 0 0 0

B4 33 38 147 156

B5 141 141 268 268

B6 13 18 39 48

B7 96 97 230 231

B8 2 4 14 16

計 392 405 845 866

拡張タグ

拡張クエリ 実験協力者ID

実験協力者ID クエリに入力した アイテム数

B1 11

B2 18

B3 6

B4 56

B5 17

B6 41

B7 25

B8 25

計 199

76

図 4.9:それぞれの条件における検索件数の累計とクエリに入力したアイテム数

図 4.10:表 4.11の箱ひげ図

0 10 20 30 40 50 60

0 50 100 150 200 250 300

B1 B2 B3 B4 B5 B6 B7 B8

アイテム数[個]

検索件数[件]

実験協力者ID

拡張タグ なし 拡張クエリ なし 拡張タグ なし 拡張クエリ あり 拡張タグ あり 拡張クエリ なし 拡張タグ あり 拡張クエリ あり クエリに入力したアイテム数

77

表 4.13:「!」ボタンをクリックした回数[回]

図 4.11:(質問1)「実験タスクの難易度はどうでしたか?」に対する評価 実験協力者ID クリック数

B1 1

B2 3

B3 0

B4 8

B5 1

B6 2

B7 4

B8 2

計 21

0 1 2 3 4

1

(簡単)

2 3 4 5

(難しい)

人数[人]

評価

78

図 4.12:(質問2)「実験時間の長さについてどう思いますか?」に対する評価

図 4.13:(質問3)「Data Jacket・知見は関係があるアイテム発見に役立ちましたか?

(コンテクスト検索エンジンやGoogle等で見つけやすくなりましたか?)」に対する評価 0

1 2 3 4

1

(短い)

2 3 4 5

(長い)

人数[人]

評価

0 1 2 3 4 5

1

(役に立たなかった)

2 3 4 5

(役に立った)

人数[]

評価

79

図 4.14:(質問4)「知見タグから,その知見の内容が読み取れましたか?」に対する評価

図 4.15:(質問5)「Data Jacket・知見から,意外な関係のアイテムが見つかりました か?」に対する評価

0 1 2 3 4 5

1

(読み取れなかった)

2 3 4 5

(読み取れた)

人数[]

評価

0 1 2 3 4 5

1

(見つからなかった)

2 3 4 5

(見つかった)

人数[]

評価

80

図 4.16:(質問6)「DataJacket・知見から,自分の知らないようなアイテムが見つかり ましたか?」に対する評価

0 1 2 3 4

1

(見つからなかった)

2 3 4 5

(見つかった)

人数[]

評価

81

図 4.8より,8人中6人が提案システム(知見使用)によってアイテムの組合せを見つけ ることができたことがわかる.アンケートの質問 3 への理由で「他の人が関係のあると判 断したアイテムが出てくるので,調べやすかった」という回答や「自分の知らない共通点が 発見され,アイテム発見に役立った」という回答があったことから,過去に発見された知見 は他のユーザにとって有用であることがわかる.一方,B3は提案システムを1回も利用し ていないが,表 4.11を確認すると,Data Jacketの検索結果の件数が0であったことが原 因であることがわかる.図 4.9を見ると,B3がクエリに入力したアイテム数は0ではない ので検索は行ったが,他の実験協力者よりも少ないため拡張クエリによる検索や拡張タグ とのマッチングの効果が得られなかったと考えられる.また,B6も提案システムを利用し ていないが,アンケートの質問3における理由では,「Data Jacketでデータの関係性が完 結しており,Data Jacketを起点に新しい知見やデータを探すことができなかった」と回答 している.今回の実験では,過去に発見された知見におけるアイテムの組合せでも知らない 知識であれば,実験協力者が発見したものとしてカウントするが,B6はその点を理解して いなかったと考える.

図 4.9 について,拡張クエリの有無では検索件数に大きな変化はないが,拡張タグの有 無では大きく変化していることがわかる.そこで,条件ⅰとⅲについて両側t検定を行った

結果はp = 0.028,条件ⅱとⅳについて両側t検定を行った結果はp = 0.027であり,どちら

も有意差が認められた.この結果から,拡張タグはData Jacket検索システムの検索性能 向上に効果があったと考える.

図 4.14に示すアンケートの質問4に対する回答では,否定的な意見はData Jacketの検 索結果が取得できなかったB3のみであり,多くの実験協力者がタグから知見の内容が読み 取れていることがわかる.この結果から,知見を従来のような文章ではなくタグにしても,

知見の理解に大きな影響はないと考える.

82

ドキュメント内 コンテクスト検索エンジンにおける (ページ 74-84)

関連したドキュメント