• 検索結果がありません。

評価方法

ドキュメント内 Wiki Wiki Wiki... (ページ 41-44)

第 5 章 評価 40

5.1.1 評価方法

実験に参加したユーザは,20代前半の本学の学生10人である.約半分はPukiWikiを普段から 使用しており編集も行っているユーザであり,もう半分はPukiWikiを閲覧したことはあるが編集 はほとんど行ったことがないユーザである.本システムに関しては,全員ほぼ使用したことはない.

表データを複数持ったWikipediaドキュメントを2種類用意し,適度な文章量になるように予め 抜粋,編集しておいた.実際に準備したドキュメントは図5.1に示す.これをA4用紙に印刷した.

本システムと比較を行う従来のWikiシステムとして,関連研究でも挙げたPukiWiki10)を用い た.2種類のドキュメント内容をPukiWikiと本システムに記述し,ページを構築した.そして,

表データの部分を若干変更して「間違い」とし,印刷した紙の該当する場所に赤く印をつけた.

「間違い」とした場所の数と種類は,どちらのドキュメントも同じである.以下に,「正解」に修 正する際に必要となるタスクを挙げる.

行を追加する 1ヶ所

列を追加する 1ヶ所

セルの内容を編集する 2ヶ所

行の順番を規則正しい順番に並び替える 1ヶ所

以上の作業を行うことで「正解」となるページを2種類用意したことになる.事前に執筆者自身 で2つのシステムを用いて2種類のドキュメントを用いて編集した結果,どちらのドキュメントの 編集もPukiWikiでは2分前後,本システムでは1分50秒前後で行うことができたため,2種類 のドキュメントの編集はほぼ同じタスク量であると考えた.

次に,ユーザを2つのグループに分けた.2つのグループには,Wiki編集に慣れているユー ザと慣れていないユーザが満遍なく入るようにした.片方のグループは「爆風」ドキュメントを

図 5.1: 評価実験に用いたWikipediaドキュメント

PukiWikiで,「IntelCore2」ドキュメントを本システムで編集してもらい,もう片方のグループは

「IntelCore2」ドキュメントをPukiWikiで,「爆風」ドキュメントを本システムで編集してもらった.

同じドキュメントをPukiWikiと本システムで編集した場合,後に編集を行った方がそのドキュ メント内容に既に触れている分,かかる時間が短くなってしまう可能性がある.その不公平さを軽 減するためにドキュメントを2種類用意し,2つのシステムの実験を別々のドキュメントで行った.

では,実際の実験の流れを以下に示す.

1. PukiWikiにおける見出しと箇条書き,表データの構築の方法を教え,実際にページを作っ

てもらう.

2. ドキュメントを印刷した紙を渡し,PukiWiki内のページを印刷した紙の赤い印を参考に編 集してもらう.同時に編集にかかった時間を計測する.

3. 本システムの操作方法を教え,実際に作業してもらう.この時に行ってもらった作業を以下 に示す.

新規表データの作成,表データ内容の挿入

列の追加,行の追加

通常ページへ表データを挿入,通常ページ上で表データ内容を編集

通常ページに挿入された表データをソート

通常ページ→表データ単体ページ,表データ単体ページ→通常ページの移動

4. 先ほどとは異なるドキュメントの紙を渡し,本システム内にあるページを同じように編集し てもらい,編集にかかった時間を計測する.

5. 使用感に関するアンケートに答えてもらう.アンケートの内容は図5.2に示す.

'

&

$

% Q1.通常文の編集のしやすさ (表以外の部分の編集)

  PukiWiki 1 ・ 2 ・ 3 ・ 4 ・ 5 本システム

Q2.表データ内の内容の編集のしやすさ (表のセル内の編集)

  PukiWiki 1 ・ 2 ・ 3 ・ 4 ・ 5 本システム

Q3.表データ操作の編集のしやすさ (表のソートや,行・列の追加)

  PukiWiki 1 ・ 2 ・ 3 ・ 4 ・ 5 本システム

Q4.Wikiとしての総合的な編集のしやすさ

  PukiWiki 1 ・ 2 ・ 3 ・ 4 ・ 5 本システム

図 5.2: 編集ユーザサイドのアンケート  

最後に,かかった時間からそれぞれのシステムの平均編集時間を計算した.

PukiWkiで「爆風」を編集するのにかかった時間

PukiWikiで「IntelCore2」を編集するのにかかった時間

本システムで「爆風」を編集するのにかかった時間

本システムで「IntelCore2」を編集するのにかかった時間

以上の4項目の平均編集時間を算出し,そこからシステム別の平均編集時間を求めた.

ドキュメント内 Wiki Wiki Wiki... (ページ 41-44)

関連したドキュメント