47
キーワード:program evaluation, assessment, utilization-focused
本書は,2005 年にこの本の筆頭編者であるJohn M. Norrisが代表を務め,ハワイ大学のスタッフが ホストしたプロジェクト「大学外国語プログラムの エヴァリュエーション・ニーズの特定と対応」を契 機としている。そのプロジェクトの後の様々な段階 を経て積み重ねられた研究・実践活動の成果をまと めたものである。本書は,プロジェクト全体の概要 とその第 1 期の成果である,エヴァリュエーション のニーズ分析の結果とデータ収集の手法をまとめ た第 1 章(Identifying and responding to evaluation needs in college foreign language programs)と,米 国のあちこちで展開されたエヴァリュエーションの 事例報告 7 編,および,それらの実践の特徴と価値 を総括し今後の課題をまとめた最終章の 9 章から成 る。 日本で「評価」というと,学習者本人に返す,個人 の到達度の指標としての成績を指すことが多い。そ うした学習者アセスメント(student assessment)に 対して,言語教育プログラム自体の効果検証活動を さす(program) evaluationの訳語として,「評価」以 外に特別な用語がないので,ここではカタカナ表記 で「エヴァリュエーション」と記しておく。プログラ ム・エヴァリュエーションの定義については,本書 12 ページに,2005 ∼ 6 年のニーズ分析調査の構造化 インタビューの参加者に,Patton(1997)の次の定義 を示したとあるので,それが編者らの一応の説明で あると受け止めることが可能である。つまり,「プ ログラム・エヴァリュエーションとは,プログラム の活動,特徴,成果について組織的に情報を収集す ることによって,プログラム自体やその効果につい て判断し,それに加えて(もしくは),今後のプログ ラムの行方について決定を下す資料とすることであ る」。 第 1 期の研究では,フォーカス・グループによる 情報収集,小規模調査,構造化面接,全国調査の 4 つ の段階を経て,大学の外国語教育のエヴァリュエー ションについて,次の 7 つのリサーチ・クエスチョ ンを問う研究がなされた。その 7 つとは,「エヴァ リュエーションを迫られる根拠」,「評価対象」,「エ ヴァリュエーションの目的」,「方法」,「エヴァリュ エーション実施のための能力」,「必要なリソース」, 「エヴァリュエーションを実施するための障害」で あった。 第 4 段階である全国調査(回収率 19%,336 名)か ら読み取れたことのうち,主なものをひろうと次の ような点が挙げられる。プログラム実践者は,外的, 内的両方からエヴァリュエーションを実施せねばな 書評
Toward useful program evaluation in college
foreign language education
Edited by John M. Norris, John McE. Davis, Castle Sinicrope, Yukiko Watanabe.
National Foreign Language Resource Center, University of Hawai’i at Manoa (2009).
湯川 笑子
*
『言語教育評価研究』第2号(2011) pp.47-50
*立命館大学文学部,
48 『言語教育評価研究』(2011)2,47-50/湯川笑子 らないという圧力を感じており,すでに必要な項目 のいくらかは焦点化されているが,調査参加者は, 教師教育など今よりももっとより広範囲な項目をと りあげる必要性を感じている。また,エヴァリュ エーション結果を,外部に対する説明責任を果たす ためだけでなく,プログラム自体の質の向上や大学 のプログラムに対する認知度の向上などに使用すべ きだという意見が強い。エヴァリュエーションの方 法としては,それぞれのプログラムに合致したツー ル,つまり妥当性が高い独自ツールを使用したいと いう意見が多いこと,実際のエヴァリュエーション の実行には,具体的ノウハウに関する知識など,能 力やリソースが足りないと感じられていることが分 かったとする。 2005 年度に第 1 期が始まり,その後このプロジェ クトでは,リソースの構築(第 2 期)や試行(第 3 期), および同時進行で行われた,ワークショップなどを 通じた公開・広報活動が展開される。本書の第 2 章 から第 8 章までは,こうしたワークショップをはじ め,このプロジェクトチームから援助をうけて実践 された,様々なタイプのエヴァリュエーション研究 の報告である。
第 2 章(The role of evaluation in curriculum development and growth of the UNM Portuguese program)は,ニューメキシコ大学のポルトガル語 プログラムの科目変更とその効果についてのエヴァ リュエーション実践である。このケースでは,本書 のプロジェクトに先んじてすでに,最初のニーズ分 析が行われ,それにもとづいてポルトガル語の入門 期に,目標言語と体系が似ているスペイン語を知っ ている学生用とそうでない学生用の 2 種類の科目を 設置することが決まっていた。そこで,2007 年秋学 期より,(1)学生は適切な科目に登録するために必 要な情報を得ていたかどうか,(2)学生の科目に対 する期待とその満足度,(3)どのような授業内活動 とアセスメントが最も学生にとって有効だったかの, 計 3 つの問いに答えるべくエヴァリュエーション研 究が実施された。方法としては,学期初めと終わり の学生へのサーベイ,およびフォーカス・グループ への面接が採用された。 エヴァリュエーション実践の結果,科目構築だけ でなく正しい登録のための広報の重要性や,スペイ ン語話者の言語干渉現象への対応など新たな問題も 見られたものの,究極の目的であったプログラムの 質の向上と科目履修者の大幅な増加が得られ,エ ヴァリュエーション実践がポルトガル語プログラム の教授陣と学生の間に,「エネルギー」と「興奮」を もたらした(p. 75)と結論づけている。
第 3 章(Coming to our senses: the realities of pro-gram evaluation)は,先にまとめたニューメキシコ の例と違い,新たなプログラム内容の評価ではなく て,これから実施する可能性のある変更(ここでは 学部のプログラムの名称変更)の妥当性を実施に先 んじて判断するために行われた。カリフォルニア州 立大学Monterey Bayでは,学生確保のために,それ までの「スペイン語重視の世界言語文化」という名 前の学士号から,「スペイン語」という名前の学士号 への変更を計画しており,このエヴァリュエーショ ンは,そのプログラムと名称変更を大学当局に許可 してもらうために十分な根拠を提供できるものでな ければならなかった。調査は専攻分野名がどの程度 検索エンジンで検索可能なのか(どの程度目につき 易くなっているのか)を調べる資料分析(document analysis)と学生へのサーベイの手法をとった。最終 的に,新たな学部の名称は当初の予定とは異なるも のにならざるを得なかったが,エヴァリュエーショ ンで得た情報がプログラムに関する重大な決定に大 いに貢献しこうした方法が将来への手本になったと する。 第 9 章で編者らがまとめているように,エヴァ リュエーションがプログラム内部の者にとって 「有用性があり実際運用(‘utility and actual use’,p.
210)」されるものである,つまり「実際運用を目的 としたエヴァリュエーション・アプローチ( utiliza-tion-focused evaluation approach,p. 210)」によるエ ヴァリュエーション実践であることが,この 2 つの ケースですでによく示されている。
第 4 章(Using evaluation to design foreign lan-guage teacher training in a literature program)は, 文学で博士号を取得しようとする大学院生が,その 履修プログラムの一部として,在学中もしくは将来 の仕事として教える可能性の高い専攻言語の外国語 の教員としての力量を形成するために,外国語習得 理論,応用言語学,外国語教授法関連の科目を設け
『言語教育評価研究』(2011)2,47-50/湯川笑子 49 るべきか否かの判断を下す資料を取得しようとした エヴァリュエーション研究の報告である。これから 設置しようとするプログラム設立の可否の根拠を発 見するための実践という意味で,第 3 章と同じ目的 をもった事例である。このケースでは,当該の大学 院のプログラムの責任者,外国語プログラムのコー ディネーター,TAを務める大学院生への質問紙調 査をデータとした。エヴァリュエーション・チーム は最終判断として,TAへの現在以上のトレーニン グの必要性があるとし,柔軟性のある,定期的な短 いワークショップの開催を提案した。
第 5 章(Developing and implementing an evalu-ation of the foreign language requirement at Duke University)は,ノース・キャロライナ州のDuke大 学での外国語プログラムの成果について,4 つの領 域において評価するためのプロジェクトの最初の段 階についてまとめたものである。その 4 つの領域と は,学生の言語達成度,文化面における学び,海外 研修,継承語としての背景,他の外国語学習歴など の学習への影響,この大学の必修外国語履修の制度 が学生の学びに与える影響である。プロジェクトは, 本章執筆時には,チームを作りエヴァリュエーショ ンのための適切な方法やツールを構築し,パイロッ ト調査をした段階なので,エヴァリュエーションの 結果そのものについては報告はない。しかし,すで に,このエヴァリュエーションは,大学の認定の資 料とするという目的を達成するだけの効用ではなく, エヴァリュエーション・チームを形成して作業を進 めることで 4 人の外国語プログラムのディレクター 間のコミュニケーションを促進するという大きなイ ンパクトを生んだとする。おそらく,第 5 章とこの 次の第 6 章で紹介されているエヴァリュエーション の用途や内容は,日本の通常の外国語プログラムの エヴァリュエーション・ニーズに最も似ているので はないかと思われる。その意味で,開発され資料と して添付されている多岐にわたる質問紙は,サンプ ルとして大いに役立つのではないだろうか。
第 6 章(Improving educational effectiveness and promoting internal and external information-sharing through student learning outcomes assess-ment)も,第 5 章と同様,大学の外国語プログラム 全体に関わる研究が実施された。インディアナ州 のEvansville大学の外国語学部のチームは,学部の 教育の質の向上,大学への要求のために根拠となる データを収集すること,学生の成果の把握,教員や 学生への情報提供に,エヴァリュエーション活動の 高いニーズがあるととらえ,次のようなステップで エヴァリュエーションを行った。まず,外国語プロ グラムにおける,学習の到達目標を述べたリストを 作成し,次に,それと現存のカリキュラムとの整合 性があるかどうかをチェックした。この時点ですで に足りない部分,過剰な部分を見出せたとする。次 に,到達目標の達成度を測るために,学生のアセス メント,プログラムのリソースの検討,他大学の学 生との比較を目指したが,この段階ではまず学生の アセスメントに焦点を絞り,そのアセスメントの方 法(面接,ウェブ上でのサーベイ,ポートフォリオ 等)を決定してパイロット調査を実施し,その結果 を生かして方法を改善した。この事例におけるエ ヴァリュエーションは,第 9 章で強調されている, 継続的なエヴァリュエーション,持続的に向上する サイクルを形成しているエヴァリュエーションのあ り様をよく示している。初期のこの段階で,すでに カリキュラムの見直しを行ったり,ポートフォリオ に入れるべきエッセイの数の統一化など具体的な成 果があり,それと同時に,次の段階でのエヴァリュ エーションで収集を予定されているデータがさらに 妥当なものへと改編されているからである。また, ここでも第 5 章と同じく,エヴァリュエーションを 通して関与した当事者間のコミュニケーションが密 になったことが大きなメリットの一つとして挙げら れている。
第 7 章(Study abroad and evaluation: Critical changes to enhance linguistic and cultural growth) は,オレゴン州Linfield大学のスペイン語プログラ ムのうちでも,特に海外研修プログラムを検証した。 ラテンアメリカでの研修成果に対してスペインに研 修にでかけたグループが目立ってスペイン語力の伸 びが乏しいことをきっかけに,海外研修プログラム の中身を評価し,特にスペインでのプログラムの有 効性を探った。採用した方法はプログラムの責任者 との懇談,授業観察,プログラム受講者の面接,教 材や学生の成果物などの資料の閲覧である。その結 果,有効性の乏しい,スペインでの委託契約研修プ
50 『言語教育評価研究』(2011)2,47-50/湯川笑子 ログラムの停止を含む大きな決定が下された。この エヴァリュエーションを通じてチームは自らが提供 しているプログラムへの質の高さを再確認するとと もに海外研修プログラムを成功させるためには想像 以上に多くの要因が関与していることを認識したと する。
第 8 章(Curriculum, learning and the identity of majors: A case study of program outcomes evalua-tion)は,ワシントンDCのGeorgetown大学におけ るドイツ語の履修者(主専攻,副専攻,その他の履 修者,および同窓生)からのフィードバックを収集 することで,主として,プログラム全体の評価,主 専攻者のアイデンティティ,必要な変更箇所,今後 のカリキュラム他の改革の根拠について情報を得た。 調査の結果は,どのタイプの履修者に対しても大い にプログラムの有効性を示すものであったが,エ ヴァリュエーション・チームは,海外研修の有効性 から,全ての学生にこうした海外経験が可能なよう に配慮すること,事前事後の指導との統合,難易度 が最も高いText in Contextという名称の科目の重 要性に鑑みた科目のさらなる充実,授業へのテクノ ロジー使用の可能性の模索という,具体的な 4 つの 改善案を提案した。
第 9 章(College foreign language program evalu-ation: Current practice, future directions)は,7 つの 事例をふり返って望ましいエヴァリュエーション実 践の要素をまとめている。すでに事例の報告で明ら かなように,本来エヴァリュエーションは,(1)プ ログラムの内部から求められ,自身で決定した目的 のために実行されることが望ましく,(2)エヴァリュ エーション実践が継続的に,変更を加えつつ,新た なサイクルを生み出しながらなされるとよいとする。 また,(3)エヴァリュエーションを経験する過程で 体得したエヴァリュエーション参加者の考え方や態 度の変化のゆえに,こうした活動が外国語教育分野 の文化として根付いていくことが重要であるとする。 日本の外国語教育においては,この本で指摘され ている以上にエヴァリュエーションを行うという伝 統が乏しい。それは,各学校の教育においても文部 科学省が主導する各種のプロジェクトや新しい教育 行政についても同じである。高校や大学の英語教育 ではかろうじてTOEFLやTOEICなどよく知ら れた標準テストの利用がトップダウン的に課せられ, 年度の前後での点数の伸びを英語教育プログラムの 成果検証とするケースが多々ある。しかし,担当教 員は,(特に伸びが少ない場合に)そのアセスメント スコアのみでエヴァリュエーションとするには不十 分であると感じつつも,この本の事例で挙げられて いるような複数の関係者(stakeholders)からのサー ベイ,面接,フォーカス・グループからの資料収集 等の多岐にわたるデータを収集するエヴァリュエー ションを実践するケースは非常にまれである。 第 1 章のニーズ分析に参加したインフォーマント と同様,日本の外国語プログラムの企画・運営担当 者にとっても,おそらくエヴァリュエーションをす る際の具体的な質問紙,面接項目,その他の情報の タイプの事例など,研究のリソース,および,実際 のサンプル事例が入手できないことが,本格的なプ ログラム・エヴァリュエーションの実施に踏み出せ ない理由のひとつだったのではないだろうか。その 点,本書はそうしたリソースの提供,タイプの異な る判断の根拠としてエヴァリュエーションが活用さ れた 7 つの事例を通して豊富なサンプルを提供して いる。本書は,データに基づいた外国語教育プログ ラムの向上,見直し,開始,廃止などを考えている 責任者には特に大変有用な本であると言えよう。 文献
Patton, M. Q. (1997). Utilization-focused evaluation (4th ed.). Thousand Oaks, CA: Sage.