無限関係モデルを用いた対話における概念獲得手法に関する検討
–
主観的意見のやり取りを行う自律対話アンドロイド
–
A Study on Concept Acquisition Method in Dialogue Using Infinite
Relational Model
–An Autonomous Conversational Android Which Exchanges
Subjective Opinion with Users–
内田貴久
1,2∗港隆史
1中村泰
2石黒浩
1,2Takahisa Uchida
1,2Takashi Minato
1Yutaka Nakamura
2Hiroshi Ishiguro
1,21
国際電気通信基礎技術研究所
1
Advanced Telecommunications Research Institute International
2大阪大学
2
Osaka University
Abstract: The purpose of this study is to propose a method to estimate the users’ subjective
con-cept (e.g., preferences and interest) through non-task-oriented dialogue like a casual conversation. Estimating the subjective concepts enables the dialogue system to express a deep understanding about the users. The previous methods of concept estimation need large amount of learning data; therefore, the users need to have cumbersome interactions and might decrease their motivation to talk. On the other hand, people can estimate many things on the partner from less information in conversations. In this paper, we propose a dialogue system that can quickly estimate the subjec-tive concept of the users by referring the other people’s subjecsubjec-tive concepts that are acquired in advance of the dialogue.
1
はじめに
本研究の目的は,意見のやり取りを行う対話におい て,ロボットと対話するユーザが持つ選好をモデル化 する手法を確立することである.選好とは,複数の選 択肢の中から好みに応じてあるものを選ぶことである. ユーザと意見のやり取りができるロボットは,ユーザ の対話する意欲を喚起することができる.したがって, 例えば,高齢者のコミュニケーション支援などの現場 での応用が期待される [横山 10]. 意見のやり取りを対話に取り入れるためには,シス テムがユーザの意見を理解していると思えることが必 要であると考えられる.意見の理解を示す1つの手段 は,聞いた意見を別の言葉で言い換えたり,別の言葉で 例えたりすることである.すなわち,その意見で表現 されていることの概念を持っていて,概念を用いて異 なる表現ができることを示すことである.例えば,食べ 物の選好に関する意見をやり取りしている際に,相手 ∗連絡先: 国際電気通信基礎技術研究所 京都府「けいはんな学研都市」光台 2-2-2 E-mail: [email protected] の「ラーメンやうどんが好き」という発言に対して,シ ステムが“ 麺類 ”という概念を持っていて,麺類が好き なら蕎麦も好きではないかという発言を行えば,ユー ザにシステムが意見を理解していると思わせることが できると考えられる. 意見のやり取りで,各対話参加者が意見を形成する 際に参照する概念には,社会的に共有されているもの (例えば,先に例示した“ 麺類 ”など)もあれば,主観 的に形成されたもの(例えば,“ その人にとって高級な イメージのある食事 ”)もある.言い換えれば,意見 のやり取りは互いに相手の主観的な概念を理解する過 程と言える.ここで,主観的概念とは個々に依存した 情報のクラスタリングによって形成されたカテゴリの 集合と定義する.ユーザの主観的概念を理解できる対 話ロボットは,より深い理解をユーザに示すことが可 能になる.その結果,ユーザの対話する意欲をかき立 てることができ,継続的な対話が可能になると考えら れる. 人工知能学会研究会資料 SIG-SLUD-B801-032
関連研究
主観的概念を用いた意見のやり取りは,例えば,選好 に関する意見のやり取りに見られる.本研究では,選好 に関する意見のやり取りを例題として,システムが主 観的概念を用いてユーザの選好を推定,すなわちユー ザの好みに関する主観的概念(好みのカテゴリ集合)を 推定し,ユーザの意見に対して,システムの意見を述 べながら対話を行うシステムについて検討する. ユーザの選好を推定する研究として,ユーザの好み と推定されるアイテムを提示する推薦システムがある. 推薦システムの代表的な手法としては協調フィルタリ ング [Shardanand 95] がある.この手法は,多数のユー ザの情報をもとに対象ユーザがどのユーザに近いのか を計算し,選好推定を行う.しかし,多くの情報フィル タリング手法では,ユーザのプロファイルが有効にな るのに膨大な情報・時間を必要とする [土方 04].つま り,これらの手法を対話システムに組み込めば,ユー ザの選好を推定するために煩雑なインタラクションを 行う必要がある.その結果,ユーザの対話意欲を減退 させ,対話が継続されないということが考えられる. 一方,対話を通して抽象化された概念レベルで関連 性を判断し,情報提供を行うシステムに関する研究 [Sumi 00] が存在する.この研究では,複数人の主観 的概念の空間(複数概念の集合)をもとにユーザの概 念空間を推定することで,個人の概念空間を利用した興 味の推定による情報提供を行っている.すなわち,ユー ザがある概念について興味があるなら,その概念と意 味的に近いと他人が判断している概念についても興味 があるだろうと推定する.本研究もこの手法の方針を 採用する.複数人の主観的概念を予め保持しておき,そ れを用いて対話相手であるユーザの好みに関する主観 的概念を推定する.このようにすれば,ユーザの選好 に関して推定を行うことができるため,例えば,ユー ザの「ラーメンが好き」という発言から,麺類を好む ということを推定し,蕎麦も好むのではないかという 推定が可能になる. 上述の先行研究 [Sumi 00] では,主観的概念の複数の 提供者が関連があると主観的に思うアイテムのペアの 集合及び関連度合いの値を作成することによって,事 前に用意する概念空間を得る.しかし,アイテム数が 膨大になると,人が全アイテム間で整合性のとれた全 ての関連性・関連度合いを評価することは困難である と考えられる.また,この先行研究の手法では,ユー ザがどのような視点から選好を判断しているのかを特 定することができない.例えば,好きな有名人と言っ ても,友達にしたいと思うから好きなのか,恋人にし たいと思うから好きなのかは,ユーザに依存するもの と考えられる.対話において,ユーザがどのような視 点から選好を判断しているのかを特定することができApproach
Infinite Relational Model (IRM)
[Kemp+ 06]
A method of clustering relationship between items
Estimate the user's subjective relationship model
(concept model) from IRM
1
Cluster Topic
(e.g., game, anime)
Android can express the deeper understanding with less data
without complex natural language processing (NLP)
図 1: 無限関係モデルれば,ユーザに対するより深い理解を表現することが 可能になる.
3
提案手法
本研究では,意見のやり取りとして選好に関するや り取りをする中で,主観的概念を用いてユーザの選好 を推定し,それを用いてユーザの選好を予想したり,選 好の視点に言及したりするための対話システムを提案 する.ユーザの選好を推定するために,複数人の主観 的な概念を用いてユーザの選好を推定する方針を採用 し,下記の2点を実現するための手法を提案する. • 事前に用意する複数人の主観的概念を獲得する手 法の改良 • ユーザが選好を判断している視点の特定3.1
概念を表現する無限関係モデル
本研究では,個人の主観的概念をクラスタリング手 法である無限関係モデル(Infinate Relational Model: IRM)を用いて表現する.無限関係モデルは,アイテ ム間の関連性データからアイテムをクラスタリングす る手法であり,事前にクラスタ数を設定する必要がな い点が特徴である.Kemp et al. [Kemp 06] はこの手 法によって概念学習が可能であることを報告しており, 本研究でもこの手法を用いる.図 1 は無限関係モデル によるクラスタリングの例である.左図でアイテム間 の関連があることが,黒のブロックで表現されている. 右図はクラスタリング結果で,(1,7,8), (2,3,5,9), (4,6) の 3 つのクラスタが形成されている.ここで,アイテ ム 2 と 7 の関連性が未知であったとしても,クラスタ リング結果から関連性があることが推定できる.この ように無限関係モデルを用いることにより,関連が未 知のアイテム間の関連度合いを推定することが可能に なる.1 図 2: 関係性データ収集用インタフェース
3.2
事前に保持する主観的概念の取得
先行研究 [Sumi 00] では,事前に用意する複数の概 念空間は,提供者にとって関連があると判断されたア イテムのペアの集合で作成されたものである.しかし アイテム数が大きくなるにしたがって,提供者が全て の組み合わせに関して関連性を判断することは困難で ある.そこで本研究では,概念構築に必要なアイテム 間の関連性データを取得する方法として,Gomes et al. [Gomes 11] の研究で提案されている Human Intel-ligent Task(HIT)を採用した.図 2 のようなインタ フェースを用いて,関連していると思う複数アイテム をボタンを押すことで選択する.本研究では,類似し ているアイテムに対する選好は一致している(好きな アイテムに類似したアイテムもまた好きだろう)との 考えに基づいて選好を推定することを想定し,類似し ていると思うアイテムを選択させる.インタフェース は類似性の特徴が複数ある場合にも対応できるように なっている.図 2 の例は人物間の関係性データの収集 例であるが,例えば B,H,F は可愛らしさで類似してい る,F,D はスタイルの良さで類似している,などのよ うに異なる視点で類似性が判定された例である.この ように全 N 個のアイテムの中からランダムに n 個を取 り出して上記のインタフェースで類似性を判定させる ことを複数回繰り返す.これにより,主観的概念の提 供者は膨大なアイテムの組み合わせを考慮する必要な く,少ないアイテムの組み合わせにおいて関連するも のを選択することを繰り返すだけでよい.無限関係モ デルでは,こうして得られたデータから,各提供者の 類似性に基づいた主観的概念を取得することができる.3.3
選好モデルの推定方法
ここでは,無限関係モデルによって構築された複数 人の主観的概念から,ユーザがどのようなカテゴリを 好むのか(選好モデル)を推定する方法について述べ る.個人がある概念について興味があるならばその概 念と意味的に近いと他人が判断している概念について も興味がある可能性がある [Sumi 00].そこで,現在のMethod for Concept Acquisition
1
Estimate User’s Concept Model
Recognition of User’s Utterance
Subjective Concepts on Items
ARI Utterance Based on User’s Model ROBOT USER 図 3: 選好モデルの推定システム ユーザ(対話相手)との対話から得たユーザの選好事 例に基づいて,どのようなカテゴリを好むのかを保持 している主観的概念に当てはめて推定する.得られた 選好事例からユーザの好むアイテムと好まないアイテ ムのクラスタが部分的に判明する.そのクラスタ分け と同様にクラスタが分かれている主観的概念を,保持 しているものの中から選択し,それをユーザの選好モ デルとして用いる.選択の際の指標として,クラスタ リングされた結果の類似度を評価する調整ランド指数 (Adjusted Rand Index: ARI) [Hubert 85] を採用し た.ARI はクラスタの正解ラベルに対するクラスタリ ング結果の一致度を評価する指数であり,1 に近づく ほど一致度が高い.本研究では,対話中にユーザから 選好の事例が得られる度に,それまでに得られた事例 における選好クラスタ(好むアイテムと好まないアイ テムのクラスタ)と事前に用意したユーザ以外の複数 人の主観的概念(類似アイテムのクラスタリング結果) 間の ARI を計算し,ARI が高い主観的概念をユーザの 選好モデルとして選択する.これにより,あるアイテ ムと同一クラスタに存在するアイテムに対する選好が 同じであると推定することが可能になる.本研究で提 案する選好推定のためのシステムを図 3 に示す.対話 中にユーザから選好事例が得られる度に,それまでに 得られた全ての選好事例に無限関係モデルを適用して, 選好に関する主観的概念を推定する方法も考えられる. しかし,無限関係モデルの計算時間を考慮すると,相 手の発話ごとに更新することは現実的でない.そのた め本研究では,複数人の主観的概念からユーザの選好 に関する概念に近いものを選択することで選好モデル を推定する方法を採用した.
3.4
概念の階層モデル
ここで,ユーザがどのような視点から選好を判断し ているのかを特定することを考える.例えば,有名人Apply pre-learned IRM data to the topics
Preference Estimation
1 Famous Woman Famous Man Famous Woman for Lover Famous Person Famous Woman for Boss Famous Woman for Friend Generic Specific IRM Data 図 4: 選好の階層モデル を好む基準は,友達にしたいと思えるか,恋人にした いと思えるかどうか,などユーザやアイテムによって 変化すると考えられる.本研究では,選好対象の意味 的な階層構造に上述の無限関係モデルで推定した主観 的概念を当てはめることによって,ユーザがどの階層 の意味(どのような視点)で選好を判断しているのか を推定する手法を提案する.話題の意味的な階層構造 とは,例えば,有名人→女性有名人→恋人にしたい女 性有名人のように,下位層になるほど,対象のカテゴ リが具体的に限定されるような階層構造である.提案 する手法の概念図を図 4 に示す.ユーザとの対話を通 して,下位のある階層の意味での選好事例を収集し,そ れから形成されるクラスタが,上位階層でのユーザの 選好モデルと一致していれば,その上位階層での選好 が現階層の意味で判断されていると特定することがで きる.ユーザの選好の視点が分かれば,ユーザに対す るより深い理解を表現することが可能になる.3.5
選好がない(関心がない)場合の対処
選好を問う場面では,あるアイテムに対してユーザ の選好が存在しない,つまり,好きでも嫌いでもない 場合が存在する.本研究では,ある階層の話題で,ユー ザの選好が存在しないアイテムが一定数以上ある場合, ユーザはその話題に関心がないものと判断する.選好 のない(関心のない)話題に関してユーザに選好を問 うことは,ユーザの対話意欲を減退させると考えられ るため,システムは別の話題へ遷移する.具体的には, ある話題(例えば,女性有名人)に関して関心がない と判断すると下位話題(例えば,恋人にしたい女性有 名人)へ遷移し,その話題でも関心がないと判断すれ ば,別の話題(例えば,食べ物)へ遷移を行う. 1 「好きなTopic[i]は?」 NO START アイテムがDBにある YES 「そのItem[j]は知らないですね」 Nu++ あり NO YES 話題遷移 (i++) 好きなアイテム(Item[j+1])を推定 「それじゃあ,Item[j+1] も好きでは?」 モデル推定 NO YES 推定が正解 Nc++ モデル推定 「他に好きなTopic[i]は?」 対話データ更新 対話データ更新 対話修復部 選好推定部 話題制御部 Nc > const YES 「 Topic[i]とTopic[k]は同じ/違う 考え方なんですね」 Topic[i]と同じ選好モデル を持つTopic[k]を探索 ランダムにItem[j]を選択して 「 Item[j]は好きですか? Nu > const NO Nt > const NO YES 図 5: 対話フロー3.6
選好推定を利用した発話生成
ここで,上述の選好推定手法を用いて対話を行う方 法について説明する.対話ロボットがユーザにある話 題のあるアイテムに関する選好を尋ね,選好事例デー タを蓄積する.そして,その選好データを基に対話の 中で出現していない未知のアイテムに対する選好を推 定する.未知アイテムの中で,同様の選好を持つと推 定されるアイテムについてユーザに同様の選好である かを尋ねる.その正解・不正解から,さらに選好データ を更新し,次の未知アイテムに対する選好の推定を行 う.また,ユーザの選好モデルが獲得できた場合(未 知のアイテムに対する選好が正しく推定できるように なった場合)には,階層構造を参照して,ユーザがどの ような意味で選好を判断しているのかを特定する.例 えば,女性有名人に対する「好き」(上位話題)という のは「友達にしたい」(下位話題)という意味で判断し ているのかを尋ねる. 本研究で提案する主観的概念を用いたユーザの選好 推定のための対話フローを図 5 に示す.この対話フロー では,大きく 3 つの要素(話題制御部,選好推定部, 対話修復部)から構成される.話題制御部では,話題 を遷移すべきかどうかの判断を行う.話題遷移の判断 基準は,以下のように設定した. • 推定した選好モデルを用いて,選好が未知のアイ テムに対するユーザの選好を正しく推定(正解) できた回数が一定回数 (N c) 以上に達した(ユー ザの選好モデルが獲得された) • システムが知らない(データベースにない)アイ テムに関してユーザが一定回数 (N u) 以上言及する(システムが理解できない選好をユーザが持っ ている) • 一定ターン数 (Nt) 以上対話しても,選好が未知 のアイテムに対するユーザの選好を正しく推定し た回数が N c に達しない(ユーザの選好をモデル が獲得できない) • ユーザの選好がないアイテムが一定数 (Ni) 以上 存在する(本話題に関してユーザの関心がない) 選好推定部では,選好事例を得てユーザの選好を予想 する発話を行う.対話データ更新では,ユーザに対し て選好を尋ねたアイテムに関して,好き・嫌い・好きで も嫌いでもないものをそれぞれ同一のクラスタに分類 する.対話データの初期値はどのアイテムもクラスタ リングされていない状態である.モデル推定では,ま ず,対話データと事前に取得した複数人の主観的概念 との類似度を ARI によって計算する.そして,ARI の 数値が最も大きい主観的概念を現在対話しているユー ザの選好モデルとして選択する.好きなアイテムの推 定では,選択された主観的概念を参照し,ユーザが好 きだと述べたアイテムと同一のクラスタの中で未出現 のアイテムを選択する.対話修復部では,ユーザある いはシステムが知らないアイテムが対話で現れた際に 対処発話を行う.
4
実装例
4.1
選好対象と主観的概念の取得
対話する話題(選好の対象)として,本実装では「有 名人」を設定し,有名人の下位話題として女性有名人・ 男性有名人, さらにその下位話題として恋人にしたい 女性/男性有名 人・友達にしたい女性/男性有名人・上 司にしたい女性/ 男性有名人を設定した.ユーザが知ら ないアイテムが少ないことと,選好が個々のユーザに 大きく依存することを考慮して,話題を有名人に設定 した.話題におけるアイテムとして,システムは女性 有名人 50 名,男性有名人 47 名の名前をデータベース に保持する.そして事前に女性有名人に関する主観的 概念,男性有名人に関する主観的概念を用意した.各概 念提供者が ランダムに抽出した 8 アイテム組み合わせ に対して HIT を 20 回繰り返して収集した関係性デー タから,IRM により各人の主観的概念を取得した.女 性有名人に関して 5 名分, 男性有名人に関して 5 名 分の主観的概念を取得した.4.2
対話実行例
本システムを使用した場合の対話例を以下に記す. System: 好きな女性有名人は誰ですか? User: A が好きです. System: A が好きなんですね.それじゃあ,B も好 きなんじゃないですか? User: はい.好きです. System: やっぱり.えーっと,友達にしたい女性有 名人は誰ですか? User: C です. System: それじゃあ,D も友達にしたいと思います か? User: D は友達にしたいと思わないです. System: あっ,そうなんですね.E は友達にしたい と思いますか? User: はい.友達にしたいですね. System: やっぱり.それじゃあ,F も友達にしたい と思いますか? User: F も友達にしたいですね. System: 何となく,あなたのことが分かった気が します.ところで,好きと友達にしたいというのは 違った考え方を持っているんですか? User: まあそうですね.そうかもしれないです. (注)A∼F には女性有名人の名前が入る5
考察
本稿では,意見として選好に関するやり取りをする 中で,主観的概念を用いてユーザの選好を推定するた めの対話システムを提案した.ユーザの選好に関する 推定では,話題の意味的な階層構造を利用して,ユー ザがどのような視点から選好を判断しているのかにつ いて推定する手法を検討した.さらに,選好に関する対 話から,その話題に対するユーザの関心推定に関する 可能性を示した .このように,ユーザの選好を理解し ていると感じさせることができる対話ロボットは,意 見をやり取りする相手として見なされる効果が期待さ れる.今後は,本研究の提案手法を備えた対話ロボッ トが,ユーザが意見をやり取りしたい相手と見なされ るかどうかを評価する必要がある. 人間は過去の経験等を参照することで,少ない情報 から様々な推定を行っていると考えられる.今回実装し たシステムにおいて,複数人の主観的概念や話題の階 層構造及び話題のアイテムに関する知識は宣言的知識, 対話フローに関しては手続き的知識と捉えることがで きる.少ないデータから様々な推定を可能にするシス テムを構築することで,人間の対話における認知モデ ルに関する考察を深めることができると考えられる. 今回の実装例では,人間の選好をモデル化すること を目的としたため,ユーザの選好に関する発話のみで 対話を構成さした.しかしこのままでは,対話としてユーザに一方的に質問することになり, ユーザの対話 意欲を減退させてしまうことが考えられる.自身の選 好について述べることは自己開示の一種と考えられ,自 己開示の返報性に関しては様々な研究で指摘されてい ることから,選好について述べる機会が対話者同士で バランスされている必要があると考えられる.したがっ て,ロボット自身の選好について述べながら,ユーザ の選好について推定・言及することが対話意欲を維持 するために必要になると考えられる.今後は,ユーザ とロボットの両者の選好を基に発話生成を行う対話シ ステムを検討することが課題となる.
謝辞
本研究は JST ERATO 石黒共生ヒューマンロボット インタラクションプロジェクト(グラント番号:JPM-JER1401)の一環として行われたものです.参考文献
[Gomes 11] Gomes, R. G., Welinder, P., Krause, A., and Perona, P.: Crowdclustering, in Advances in neural information processing systems, pp. 558–566 (2011)
[Hubert 85] Hubert, L. and Arabie, P.: Comparing partitions, Journal of classification, Vol. 2, No. 1, pp. 193–218 (1985)
[Kemp 06] Kemp, C., Tenenbaum, J. B., Grif-fiths, T. L., Yamada, T., and Ueda, N.: Learn-ing systems of concepts with an infinite relational model, in AAAI, Vol. 3, p. 381–388 (2006)
[Shardanand 95] Shardanand, U. and Maes, P.: So-cial information filtering: algorithms for automat-ing“word of mouth”, in Proceedings of the SIGCHI conference on Human factors in computing sys-tems, pp. 210–217 (1995)
[Sumi 00] Sumi, K., Sumi, Y., Mase, K., Naka-suka, S.-i., and Hori, K.: Information presentation by inferring user’s interests based on individual con-ceptual spaces, Systems and Computers in Japan, Vol. 31, No. 10, pp. 41–55 (2000) [横山 10] 横山祥恵, 山本大介, 小林優佳, 土井美和 子 他:高齢者向け対話インタフェース-雑談継続を 目的とした話題提示・傾聴の切替式対話法, 研究報告 音声言語情報処理 (SLP), Vol. 2010, No. 4, pp. 1–6 (2010) [小林 10] 小林優佳, 山本大介, 土井美和子:高齢者対話 インタフェース-ユーザの聴き手になる音声対話イン タフェース, 人工知能学会研究会資料. SLUD, 言語・ 音声理解と対話処理研究会, Vol. 59, pp. 1–6 (2010) [土方 04] 土方嘉徳 他:情報推薦・情報フィルタリン グのためのユーザプロファイリング技術, 人工知能 学会誌, Vol. 19, No. 3, pp. 365–372 (2004)