• 検索結果がありません。

妥当性への脅威

ドキュメント内 template.dvi (ページ 38-43)

レ ーティ ン グ 本研究では, 参加者の熟練度にレ ーティ ン グを 指標と し て 用いて いる . プロ グラ ミ ン グコ ン テスト における レ ーティ ン グの高さ は, アルゴリ ズムを 適切に記述す る 能力が高いこ と を 示すが, プロ グラ ミ ン グ能力全般に通用する 指標ではない. こ の ため, 参加者の熟練度を 表す他の指標も 試すこ と で, 適切な熟練度の表現を 求める こ と が必要である .

正答率 問題の難易度と し て , 提出に対する 正答の割合である 正答率を 利用し て いる . し か し 問題の難易度が同じ でも , 解法に用いる アルゴリ ズムや, 提出する 参加者のレ ーティ ン グの偏り によ っ て は正答率が異なる 可能性がある . そのため, 問題に対する 解法や,

提出し て いる 参加者のレ ーティ ン グを 考慮し , よ り 適切な問題分類方法を 探る 必要が ある .

他のコ ン テスト 本研究において, プロ グラ ミ ン グコ ン テスト サイ ト Codeforcesへの提出の みを データ セッ ト と し て 用いた. し かし , 一つのコ ン テスト サイ ト を 用いる のみでは 問題の性質や参加者に偏り が生じ て し ま う 可能性がある . こ の問題に対し て は, 今後 他のコ ン テスト サイ ト も データ セッ ト と し て 利用する こ と で解決する こ と ができ る . 差分検出ア ルゴリ ズム 4.4.2節ではレ ーベン シュ タ イ ン 距離を , 4.4.3節ではGumTreeDiff

によ る ソ ースコ ード 差分を 差分検出アルゴリ ズムと し て利用し た. 差分検出方法によ っ

ᕎৼᅦ௬ྐྵ

W\SH FRQGLWLRQ LQGH[

FDOO H[SUBVWPW GHFO LI QDPH EORFN H[SU

$67ࢇࡦ࡭ࢧৼᅦᒿໟ

ધᔖᖲ

,16 '(/

83' 029

ᕎৼᅦ௬ྐྵ

H[SUBVWPW DUJXPHQW LI LQGH[

DUJXPHQWBOLVW FDOO GHFO EORFN QDPH H[SU

ॎᔖᖲ

,16 '(/

83' 029

図12: 正答率グループ0.4の問題におけ る 初級者・ 上級者の修正箇所度数分布の上位10件 て はソ ースコ ード 差分の結果が異なる 場合があり , よ り 実際の編集に近い差分を 取得 でき る 必要がある . そのため, 他の差分検出手法を 試し つつ, 目視でソ ースコ ード 差 分を 確認する こ と で, 適切な 編集作業の特徴抽出を 行え る と 考え ら れる .

5 ま と め

本研究では, プロ グラ ミ ン グコ ン テスト の提出ソ ースコ ード を 対象と し て , 編集作業の特 徴調査を 行っ た. 世界最大規模のコ ン テスト サイ ト Codeforcesから データ を 収集する こ と によ っ て 調査規模を 拡大する こ と ができ た. ま た, 参加者のレ ーティ ン グを 考慮する こ と に よ り , 上級者と 初級者と の間にある 編集作業の差異を 見つけ る こ と ができ た.

今後の研究課題と し て , さ ら に詳細な修正箇所の調査が挙げら れる . 本研究では修正さ れ た抽象構文木上のノ ード 名のみを 抽出し ていたが, 修正さ れたノ ード の構文木における 親を たど る こ と で, 修正がソ ースコ ード 上のど のブロ ッ ク で行われたかを 知る こ と ができ る . 修 正位置に関する 具体的な情報を 得る こ と で, 学習者への修正に関する 教育や, ツ ールによ る 修正推薦等に役立て る こ と ができ る . 本研究では, レ ーティ ン グが時系列情報である こ と を 利用し なかっ た. レ ーティ ン グが時系列と と も に変化する こ と を 利用し て , ソ ースコ ード の 特徴と レ ーティ ン グの変化と の関係を 調査する こ と ができ る . ま た, 本研究では修正/編集 作業の調査のみを 行っ たが, 本研究に用いたデータ セッ ト を 利用する こ と で, 主にアルゴリ ズムに関する ソ ースコ ード の書き 方と レ ーティ ン グと の関係を 調査し , 学習者へのプロ グラ ミ ン グ指導に役立て る こ と について も 検討し て いき たい.

謝辞

大阪大学大学院情報科学研究科コ ン ピュ ータ サイ エン ス専攻 井上克郎 教授には研究につ いて適切な御指導及び御助言を 賜り ま し た. 本論文を 井上教授のも と で完成さ せる こ と がで き , 心よ り 深く 感謝し て おり ま す.

大阪大学大学院情報科学研究科コ ン ピュ ータ サイ エン ス専攻 松下誠 准教授には研究につ いて 様々 なご意見を 賜り ま し た. いただいた御意見を 参考に, 論文を 適切に修正する こ と が でき ま し た. 松下准教授に深く 感謝し て おり ま す.

名古屋大学大学院情報科学研究科附属組込みシステム研究セン タ ー 吉田則裕 准教授には,

本研究の方針から 論文の構成に至る ま で直接の御指導及び御助言を し て頂き ま し た. 本論文 の完成は吉田准教授のおかげである と , 深く 感謝し て おり ま す.

奈良先端科学技術大学院大学情報科学研究科ソ フ ト ウ ェ ア設計学研究室 崔恩瀞 助教には,

研究及び研究生活について 様々 な御助言を 賜り ま し た. 崔助教の御助言によ り , 滞り なく 研 究を 行う こ と ができ , 深く 感謝し て おり ま す.

最後に, 大学院情報科学研究科コ ン ピュ ータ サイ エン ス専攻井上研究室の皆様には, 本論 文の執筆にあたっ て 様々 な場面で支え て 頂き ま し た. 皆様のおかげで本論文を 完成さ せる こ と ができ ま し た. 心よ り 深く 感謝し て おり ま す.

参考文献

[1] E. T. Chen. Program complexity and programmer productivity. IEEE Trans. Softw.

Eng., Vol. SE-4, No. 3, pp. 187–194, 1978.

[2] Jacob Cohen. Statistical Power Analysis for the Behavioral Sciences, 2nd edition.

Lawrence Erlbaum Associates, 1988.

[3] Arpad E Elo. The rating of chessplayers, past and present. Arco Pub., 1978.

[4] Jean-R´emy Falleri, Flor´eal Morandat, Xavier Blanc, Matias Martinez, and Martin Monperrus. Fine-grained and accurate source code differencing. In Proc. of ASE 2014, pp. 313–324, 2014.

[5] Claire Le Goues, Michael Dewey-Vogt, Stephanie Forrest, and Westley Weimer. A systematic study of automated program repair: Fixing 55 out of 105 bugs for $8 each.

In Proc. of ICSE 2012, pp. 3–13, 2012.

[6] Quinn Hanam, Fernando S. de M. Brito, and Ali Mesbah. Discovering bug patterns in javascript. ACM SIGCSE Bulletin, pp. 144–156, 2016.

[7] T. C. Jones. Measuring programming quality and productivity. IBM Systems Jour-nal, Vol. 17, No. 1, pp. 39–63, 1978.

[8] Vladimir I. Levenshtein. Binary codes capable of correcting deletions, insertions, and reversals. Soviet Physics Doklady 10, pp. 707–710, 1966.

[9] Thomas J McCabe. A complexity measure. IEEE Trans. Softw. Eng., Vol. 2, No. 4, pp. 308–320, 1976.

[10] Mikhail Mirzayanov. Codeforces rating system. http://codeforces.com/blog/

entry/102, 2010.

[11] Mikhail Mirzayanov. Codeforces: Statistics 2015. http://codeforces.com/blog/

entry/22618, 2016.

[12] Jordi Petit, Omer Gim´enez, and Salvador Roura. Jutge.org: An educational pro-gramming judge. InProc. of SIGCSE, pp. 445–450, 2012.

ドキュメント内 template.dvi (ページ 38-43)

関連したドキュメント