• 検索結果がありません。

用例のクラスタリングに基づく単語の新語義の発見

N/A
N/A
Protected

Academic year: 2021

シェア "用例のクラスタリングに基づく単語の新語義の発見"

Copied!
3
0
0

読み込み中.... (全文を見る)

全文

(1)

Japan Advanced Institute of Science and Technology

JAIST Repository

https://dspace.jaist.ac.jp/

Title 用例のクラスタリングに基づく単語の新語義の発見

Author(s) 田中, 博貴

Citation

Issue Date 2009‑03

Type Thesis or Dissertation Text version author

URL http://hdl.handle.net/10119/8107 Rights

Description Supervisor:白井 清昭 准教授, 情報科学研究科, 修

(2)

用例のクラスタリングに基づく単語の新語義の発見

田中 博貴(0710043)

北陸先端科学技術大学院大学 情報科学研究科 2009年2月5日

キーワード: コーパス,新語義,辞書,クラスタリング.

本論文では、コーパスから新しい単語の意味を自動的に発見する手法について述べる。

ここでは、新しい単語の意味とは、既存の辞書に記載されていない語義を指す。提案手法 における処理の流れは以下の通りである。まず、コーパスから単語のインスタンス(用 例)をいくつか収集し、クラスタリングの手法を用いて同じ意味を持つインスタンスをま とめてクラスタを作成する。次に、作成した用例クラスタ、辞書の語義を特徴ベクトルで 表現し、ベクトル間の類似度を測ることで、用例クラスタに対応する語義をそれぞれ決定 する。最後に、語義の対応付けの際に計算したクラスタと語義の類似度から、用例クラス タの意味が既存の語義である度合いを示す既存語義近接度を計算し、その値を基に新語義 の判定を行う。

単語の用例のクラスタリングは、九岡らによって提案された手法を用いる。ここでは、

用例をベクトルで表現する際、九岡らが提案する隣接ベクトル、連想ベクトル、LDA 拡 張文脈ベクトル、トピックベクトルの4種類のベクトルとこれらを組み合わせる2通りの 手法を試した。また、クラスタリングアルゴリズムとして、九岡らが採用したK-means 法の他に、初期クラスタをKKZ法で決めるK-means法(K-means+KKZ法)やトップダ ウン分割法を適用した。実験の結果、1つのクラスタに同じ意味の用例がどれだけ集まっ ているかというpurityの指標ではK-means+KKZ法が、新語義の用例がまとまったクラ スタがどれだけ作成されたかという新語義識別率の指標ではトップダウン分割法が優れて いた。

次に、用例クラスタに対し既存の語義を対応づける手法について述べる。まず、用例ク ラスタを特徴ベクトルで表現する。始めに、単語間の共起の強さを表わす共起行列を作成 し、行列の1つの列をある単語の共起ベクトルとする。次に、用例クラスタにおいて、対 象語の周辺に現れる自立語に対し、それに対応する共起ベクトルの和をクラスタの特徴ベ クトルとする。次に語義の特徴ベクトルの作成方法について述べる。ここでは、辞書にお ける語義の語釈文を用いる。本研究では、辞書の語釈文を定義文、例文、参照見出し、そ の他の4つのタイプ分類し、この中で単語の意味を表わしていると思われる定義文と例文 を特徴ベクトルの作成に用いる。具体的には、定義文または例文に出現する自立語につい

Copyright c2009 by Tanaka Hiroki

1

(3)

て、共起ベクトルの和を求め、語義の特徴ベクトルとする。また、この手法で作成された 語義の特徴ベクトルは、定義文や例文の長さに応じて特徴ベクトルのスパースネスの度合 いが語義毎に大きく異なり、語義の対応付けの精度を著しく低下させるという問題がある ことがわかった。これに対し、本研究では、辞書定義文の特徴ベクトルの構築方法を改良 する方法、用例クラスタと辞書定義文との類似度の計算方法を改良する方法、特徴ベクト ルに対する補正を行う方法の3つの案を提案する。この中で最も効果があったのは特徴ベ クトルに対する補正を行う方法であった。評価実験では、コーパスから抽出された用例に 対し人手で語義を付与し、同じ語義を持つ用例をまとめてクラスタを作成した完全に正し い用例クラスタと、提案したクラスタリング手法を用いて自動的に作成した用例クラスタ とを用いた。一番高い対応付けの正解率は、正しい用例クラスタを用いた場合で61.9%、 自動作成したクラスタを用いた場合で59.5% であった。

最後に、用例クラスタが新語義であるかを判定する手法を提案する。ここでは、用例 クラスタが既存の語義である度合いを既存語義近接度と定義し、この値を基に判定する。

本研究では次の3種類の既存語義近接を比較した。1つ目は用例クラスタと既存語義との 類似度の分散、2つ目は用例クラスタと既存語義との類似度の最大値と最小値の差、3つ 目は用例クラスタと既存語義との類似度の最大値であり、それぞれをK-V ar、K-Dif f、

K-M axとした。基本的には、既存語義近接度が小さい用例クラスタは新語義であると判

断する。しかし、予備実験の結果、既存語義近接度に対して閾値を設けて新語義か否か を判定する手法は見込みがないことがわかった。そこで、用例クラスタを既存語義近接度 の大きい順に並べ、その差が一番大きく、かつ差が十分に大きい所で、用例クラスタを既 存語義と新語義に弁別する手法を考案した。実験の結果、3つの既存語義近接度の中では K-M ax が新語義の判定に一番有効であることがわかった。また、そのときの新語義判定 のF値は、正しい用例クラスタを用いた場合で0.615であった。

2

参照

関連したドキュメント

 さて,日本語として定着しつつある「ポスト真実」の原語は,英語の 'post- truth' である。この語が英語で市民権を得ることになったのは,2016年

 以上のように,無断欠席を善用し,道徳的教 訓や神道の教義に接触したことで,築地外人英

石綿含有仕 上塗材の使 用面積が 1,000 ㎡以上 の場合、大阪 府生活環境 の保全等に 関する条例

都市計画法第 17 条に に に基 に 基 基づく 基 づく づく づく縦覧 縦覧 縦覧 縦覧における における における における意見 意見 意見に 意見 に に に対 対 対 対する

語基の種類、標準語語幹 a語幹 o語幹 u語幹 si語幹 独立語基(基本形,推量形1) ex ・1 ▼▲ ・1 ▽△

Regional Clustering and Visualization of Industrial Structure based on Principal Component Analysis for Input-output Table Data.. Division of Human and Socio-Environmental

用 語 本要綱において用いる用語の意味は、次のとおりとする。 (1)レーザー(LASER:Light Amplification by Stimulated Emission of Radiation)

国内の検査検体を用いた RT-PCR 法との比較に基づく試験成績(n=124 例)は、陰性一致率 100%(100/100 例) 、陽性一致率 66.7%(16/24 例).. 2