Step 2 - Japan Advanced Institute of Science and Technology

Step 2 (tf)

図各ステップを経ることでの精度の移り変わり

正しい上位語を獲得するために有効に働いているかを確認するため，それぞれのステップ及びルールを抜いた場合での，上位下位関係の獲得実験を行い，本研究で提案した各ステップ及び各ルールが上位下位関係を獲得する際に有効に働いているかどうかの検証を行った．

そして最後に本研究で用いた上位語候補のスコア

の利用方法が妥当であることを確認するため，節で述べたようにスコアにより獲得された上位語候補の上位幾つかを，類似度考慮したこのスコアで改めてランキングし，そのトップを上位語候補として獲得する方法との比較実験を行った．

以下，本節では上で述べた評価実験の結果について述べる．

提案手法の精度の評価実験

最初の評価実験として，ステップ，，を経ることにより上位下位関係の獲得精度が変化することを確認するため，各ステップごとに獲得された上位下位関係の評価を行った．

表及び図に，ステップ，，を経ることによって変化する精度の様子を示す．各ステップでは，獲得された上位語候補と下位語候補集合の組のソートを行っている．ソートの基準として，ステップ，では獲得された上位語候補の

の値を，ステップではの値を用いている．

つまり，ステップまでで獲得された結果をソートする時は，上位語候補と下位語候補集合の類似度は考慮されていない．また，各ステップでは上位語候補と下位語候補集合の組

のソートを行った後，全体の割にあたる上位組を最終的に獲得された上位下位関係として評価対象にしている．残りの&4&,組は，前述したように間違った上位語候補が獲得されやすいという観点から評価対象から外した．

本研究では，上位下位関係獲得の精度を次のようにして求めている．まず，ソートされた上位語候補と下位語候補集合の組のうち，上位組を取り出す．そして，その中で正しい上位下位関係が獲得されている割合を計算し，それを上位下位関係獲得の精度とした．

グラフの横軸は，ソートされた上位語候補と下位語候補集合の組の上位組中に含まれる下位語候補の数を示しており，縦軸は正しい上位語が獲得された下位語候補の割合を示している．つまり，グラフの各線は以下の式に従って描画されている．

ここではであり，は下位語候補集合の要素数である．さらに

は実際に獲得された上位語候補が正しい上位語である下位語候補集合中の要素数を表している．

図中で^$)^%と示した曲線が，今回提案した手法により獲得された上位下位関係の獲得精度を表している．この図より獲得された全上位下位関係数の約^'にあたる上位個（獲得された上位語の異なり数は個）の関係を取り出した場合，その精度はおよそ^'を示している．さらに，全関係数の約^'にあたる上位個（獲得された上位語の異なり数は個）の関係を取り出した場合，その精度はおよそ^'，約^'にあたる上位個（獲得された上位語の異なり数は個）の場合で^'と，獲得する上位下位関係数を多くするほど徐々にその精度が落ちていくことが図よりわかる．このことから，獲得された上位語候補のの値に基づいて，上位語候補と下位語候補集合の組をソートすることで，正しい上位語が獲得されている組に対しては高い順位を，誤った上位語が獲得されている組に対しては低い順位をつけることができていることがわかる．

節で述べたように，ステップにおいてではなく，

により各名詞のスコア付けを行い上位語候補を獲得した結果が図中の^$)

G%で示したグラフである．図より，に比べて

の方が上位語候補獲得の精度が高いことが確認できる．この結果から上位語候補獲得というタスクにおいては，よりの方が適していることがわかる．

表に実際に獲得された上位語と下位語候補集合の例を示す．下位語候補集合の幾つかの要素がその末尾に共通の語を持っている場合，その語が上位語になりやすいというのは自明であるため，表にそのような例は載せていない．また，この表はステップで獲得された最終的な結果ではなく，ステップにより獲得された上位語候補と下位語候補集合の組の結果を示している．表より，ステップの各ルールを適用することで，ステップで獲得された結果のうち幾つかが修正または削除される様子が確認できる．

0 20 40 60 80 100

0 200 400 600 800 1000 1200 1400 1600 1800 2000 2200

accuracy [%]

# of hypernym hyponym pairs Proposed Method

-Step 3 -Step 4 -Rule 1 -Rule 2 -Rule 3

図各ステップ及び各ルールの効果

各ステップ及び各ルールの有効性の評価

次にステップ，，およびステップで用いている各ルールがどのくらい精度の向上に貢献しているのかを確認するため，各ステップ，もしくは各ルールをそれぞれ抜いた時での，上位下位関係獲得の性能を評価した．ステップ，を抜いた時の結果を表に，

ステップの各ルールを抜いたときの結果を表に示す．さらに，これらの表から作成したグラフを図に示す．図において^$, ⁾ ^8%もしくは^$, ^6<! ^8%となっているものは，今回提案した手法から^$ステップ ^8%，または^$ルール ^8%を抜いた時の精度を表している．また，ステップを抜いた場合は，各上位語候補と下位語候補集合の組を獲得された上位語候補のの値に基づいてソートしている．

図より，どのステップやルールを抜いた場合でも，上位下位関係獲得の精度が低下しているため，どのステップやルールも精度の向上に有効に働いていることが確認できる．上位組の上位語候補と下位語候補集合の組を獲得した時，ステップを抜いた場合で^'，ステップを抜いた場合では^'程度の精度の低下が見られる．このことから，ステップよりもヒューリスティックなルールを適用することで精度の向上を図るステップの方が，精度の向上により働いていることがわかる．また，ステップの中でもとりわけ，地名を表す上位語を「地名」に変換するルールを抜いた場合が最も精度が落ちていることから，提案手法により獲得された上位下位関係の中には地名に関するものが多く含まれていると考えられる．実際，提案手法により獲得された正しい上位下位関係の数は個であり，ルールを抜いた場合では個に減少していることが表

0 20 40 60 80 100

0 200 400 600 800 1000 1200 1400 1600 1800 2000

accuracy [%]

# of hypernym hyponym pairs Proposed Method Re-ranking of top 2 hypernym candidates Re-ranking of top 3 hypernym candidates Re-ranking of top 4 hypernym candidates Re-ranking of top 5 hypernym candidates

図リランキングの効果

よりわかる．この数字から，正しく獲得された上位下位関係のうち，およそ^' は地名東京都のような上位下位関係で占められていることがわかる．

リランキングによる効果の評価

節で触れたように，ステップより獲得された上位個の上位語候補を

の値に基づき改めて順位付けを行い，そのトップを上位語候補として獲得した場合の，上位下位関係獲得実験の結果を表及び図に示す．図より，の値を用いて上位語候補をリランキングしても，有意義な精度の向上がみられないのがわかる．

表各ステップ終了時点での上位下位関係獲得の精度上位下位関係獲得の精度

順位正しく上位語が獲得された下位語候補数^$下位語候補の総数提案手法ステップステップステップステップ

N N N N

表提案手法により獲得された下位語集合とその上位語の例

で

ででの順位

で獲得された下位語候補集合獲得された

での順位のルール獲得された

上位語上位語

朗読者^<5オブジェクト指向入門^<5月の砂漠をさばさばと^<5

本 ⁽ ^& ^& ^& 本もこもこもこ^<5ソフトウェア職人気質^<5入門^{=> <}

テディベアチョウカイリョウガヨシフサキングプラントタイヨオーナスノホシヒメフローレスラインノーザンカピタンミヤビリージェントクラレットパンチ

!6 トーセンダンディアーサーズフェイムケイアイチャンス馬 ^& ^& ^& 馬

ロイスジュニアカナハラドラゴンウインシュナイトダイワサイレンスマチカネラッパマイネルグリズリー

ミスタードン

コオリガモビロードキンクロアカハジロクビワキンクロ

メジロガモアカハシハジロキンクロハジロコケワタガモ

鳥 ⁷⁽ ^& ^& ^& 鳥

スズガモホオジロガモシノリガモクロガモホシハジロケワタガモヒメハジロアラナミキンクロオオホシハジロ

殺人^<5放火^<5強姦^<5侵入盗^<5

犯罪 ^6$ ^& ^& ^& 犯罪侵入強盗^<5非侵入盗^<5非侵入強盗^<

将軍^<5宮本武蔵^<5羅生門^<5七人の侍^<5ミッドウェイ^<5

% 無法松の一生^<5太平洋の地獄^<5武士道ブレード^<5 映画 ^!! ^& ^& ^& 映画価値ある男^<5用心棒』『赤ひげ⁵大統領の堕ちた日^<

モスクワ^<5キエフ^<5タシケント^<5

ミンスク^<5トビリシ^<5ドゥシャンベ^<5

ロシア ^!6# ^& ^& ^? 地名ビシュケク^<5アスタナ^<5キシニョフ^<5

エレバン^<5バクー^<5アシハバード^<

福留宏紀^<5セギノール^<5藤井康雄^<5シェルドン^<5

選手 ^!#6 ^& ^& ^& 選手五島裕二^<5玉木朋孝^<5塩谷和彦^<5平野恵一^<5

ワイヤレスカード⁵小電力セキュリティ⁵

無線 ^& ^& ^& 無線ＰＨＳ陸上移動局⁵市民ラジオ⁵特定小電力機器⁵

大切なもの^<5もらい泣き^<5大きな古時計^<5星屑の街^<5

曲 ^! ^& ^& ^& 曲白い花^<5未完成のメロディ^<

踊る大捜査線^<5プロジェクトＸ⁵世紀を越えて⁵

ドラマ ^% ^& ^& ^& ドラマ彼女たちの時代^<

桑田真澄^<5上原浩治^<5ワズディン^<5武田一浩^<5木村龍治^<5

投手 ⁷ ^& ^& ^& 投手真田裕貴^<5鄭ミン台^<5趙成ミン^<

!!6

イワウメ^<5チシマザサ⁵キバナシャクナゲ^<5

花 ^$ ^& ^& ^& 花ミヤマナルコユリ^<

シイタケ^<5サンゴハリタケ^<5サンコタケ^<5

キノコ ⁽⁶ ^& ^& ^& キノコシロオニタケ^<5シロイボカサタケ^<

!(# 音楽⁵映画⁵マンガ⁵出会い⁵芸能人サイト ⁽ ^& ^& ^& サイト夏目漱石⁵芥川竜之介⁵鷹野つぎ⁵国木田独歩⁵

徳冨蘆花⁵菊池寛⁵若山牧水⁵梶井基次郎⁵夢野久作⁵

作品 ⁽⁽ ^& ^& ^& 作品宮本百合子⁵田中貢太郎⁵夢野久作海若藍平

ブレイクウィリアム⁵

新年⁵万聖節⁵主顕節⁵メーデー⁵クリスマス⁵イースター⁵

日本 ^(#! ^& ^& ^? 地名解放記念日⁵聖母受胎祭⁵聖ステファノの日⁵聖母昇天祭

銀河群⁵構成メンバー⁵局部銀河群

銀河 ^! ^& ^? ^& ^&

アンドロメダ銀河^<5銀河系^<5

ブラジル⁵フィリピン⁵韓国⁵インド⁵アメリカ⁵タイ

日本 ^$ ^? ^& ^? ^&

中国⁵ペルー⁵オーストラリア⁵アルゼンチン⁵スペイン

<が後についている下位語候補は，提案手法により妥当な上位語が獲得されたものを示す．

ドキュメント内 Japan Advanced Institute of Science and Technology (ページ 37-55)