信頼感の醸成手法に関する従来研究

本節では，従来の家電操作の実行判定方法とPattie Maesが提案した信頼感の醸成方 法でのしきい値の調整を説明する．次に，信頼感の醸成方法をユーザにとってより扱い やすい方法にするためのアプローチを示す．

4.2.1 操作代行の実行判定方法

従来のホームエージェントによる学習では，学習した行動パターンが過去にどれだけ 行われたかどうかを確率で示している．この確率を予測確信度と呼ぶ．そのため，行動 パターンに基づいて予測した家電操作を操作代行するかどうかは，予測確信度によって 予測の正しさを計り，基準（しきい値）を上回るかどうかによって，操作代行の実施の 可否を決定している．たとえば，予測確信度と予測した時間，その家電操作が正しいか どうかを図4.1に示すような形で表す．予測確信度は0~1の範囲とし，予測した家電操作 が正しければ○，間違っていれば×で記す．エージェントが月曜朝7時に「ユーザが出 かけるときにエアコンを消す」を予測確信度0.8で予測したときに，予測した家電操作 が正しい場合には○で記す．多くの場合，しきい値は開発者が図4.1のような予測確信 度とその予測結果の関係から，正しく家電操作を実行できるように決める．

しかし，過去の行動パターンを用いて家電操作を予測しているため，完ぺきに予測す ることは不可能である．ユーザが毎日繰り返し行う家電操作以外に週数回行う行動や，

以前に行ったことのない行動を１度だけ行うこともあるためである．さらに，予測確信 度とその予測結果の関係は変化する．学習初期は過去の行動パターンが少ないため，予 測できる家電操作が少なく，予測確信度が低い予測でも正しい家電操作である場合があ る．その後，過去の行動パターンが増えるに従い，予測確信度が高いほど予測した家電 操作が正しい傾向が明確になっていく．正しい予測の予測確信度は比較的大きく，間違 った予測の予測確信度は比較的小さくなる．しかしながら，それぞれがどのように分布 するかは学習によって変わるため，予測確信度に応じて予測が正しいかどうかの割合が 変わるわけではない．つまり，予測確信度は絶対値ではない．さらに，季節の変化や新 しい機器の導入などによって，ユーザの行動嗜好が変化した場合，予測確信度が高いほ ど予測した家電操作が正しい傾向ではなくなってしまう．

予測確信度によって操作代行を行うかどうかを決める場合，操作代行の正しさが変動 する．この変動に合わせてしきい値を相対的に調整する必要がある．しかし，しきい値 の調整は過去の結果に基づいて行うため，操作代行の正しさは変動する．この変動をユ

41

ーザが理解し，操作代行をホームエージェントに任せるかどうかを決めることが必要に なる．

4.2.2 Do-it ・ Tell-me の 2 つのしきい値を用いた信頼感の醸成

方法

Pattie Maesが提案したDo-itとTell-meの2つのしきい値によって，エージェント

が行う行動の決定方法[72]を図4.2に示す．予測した家電操作の予測確信度がDo-itよ りも大きい場合，エージェントは予測した家電操作を代行する．Do-it より小さいが

Tell-me より大きい場合，エージェントは予測した家電操作を説明する．Tell-me より

小さい場合，エージェントはなにもしない．もし，ユーザがエージェントの説明した家 電操作に対して実行を指示すれば，エージェントはその家電操作を実行する．

ユーザによるTell-meとDo-itの調整例を示す．はじめ，ユーザはエージェントが正

図4.2 Pattie Maesが提案した信頼感の醸成方法における

エージェントの行動決定方法 図4.1 実行する家電操作の判定方法

Do-it Tell-me

0

1 代行

説明

なにも しない

なにも しない 代行

○

× 予測確信度

1

0

○

×

○

×

×

×

×○

×

×

○

○

○ ○

○

○ ○

× ××

×× ×

×

×

○ ×

○

○

○

×

○ ○

○

○

時間 予測

確 信度

しきい値 ○：予測行動 が正しい

×：予測行動 が間違い

日 月 火 水 木 金 土 日 0.8

42

しく操作代行をするかどうかがわからない．そのため，ユーザはエージェントに操作代 行を任せられない．そこで，ユーザはDo-it を予測確信度の最大値とし，Tell-meのみ を下げ，予測内容の説明を確認する．たとえば，Do-itを1.0，Tell-meを0.8にしたと する．予測した家電操作の予測確信度が0.8よりも大きい場合，エージェントはユーザ に説明する．ユーザはエージェントによる説明を読むことで，予測した家電操作が正し いかどうかや予測の正しさと予測確信度との関係を把握する．たとえば，ホームエージ ェントが操作代行を行う際に用いる操作ルールや，予測確信度が0.9だと正しいことが 多いことや，0.8だと間違うことがあることなどをユーザは把握する．

もし，ユーザが操作代行を任せていいと判断できれば，Do-it を下げる．もし，ユー ザが操作代行に満足できなければ，Do-itを上げることができる．また，ユーザはTell-me をさらに下げ，どの予測確信度までであれば操作代行を任せられるかどうかを探ること ができる．

以上のように，ユーザがエージェントによる予測を確認し，Tell-meとDo-itを繰り 返し調整することで，操作代行を任せてもいい予測確信度を決める．予測確信度は絶対 値でなく，過去の学習経過によって変動するような値であるが，ユーザが Tell-me と

Do-it を調整することで予測確信度に対する信頼感をもち，操作代行をホームエージェ

ントに任せることができる．

しかし，ユーザはエージェントの予測を説明によって確認しなければならない．毎日 多くの操作を行っているため，その１つ１つ説明を確認することは大変である．また，

エージェントは繰り返す操作を学習するため，ユーザは繰り返し同じ説明を何度も確認 することにもなる．さらに，ユーザは操作代行をホームエージェントに任せた後，操作 代行を行った報告をユーザにしない．ユーザはホームエージェントが正しく操作代行を 行ったかどうかがわからない．

また，ユーザはTell-meとDo-itを何度も微調整しなければならない．まず，予測確 信度は絶対値ではなく，学習によって予測確信度と予測した家電操作が正しいかどうか の関係が変わる．ユーザがTell-meとDo-itを調整する際に，どの予測確信度が適切か を微調整しなければならない．さらに，学習経過によって予測確信度と予測が正しいか どうかの関係性が変動するため，この変動に合わせてユーザがTell-meとDo-itを調整 する必要もある．

4.2.3 問題点とアプローチ

Pattie Maesの提案した信頼感の醸成方法はユーザがエージェントの予測を把握する

ことで信頼感を持つことができる方法である．しかし，以下に示す問題がある．

43 (1)詳細な説明による確認のみしかない

ユーザはホームエージェントに操作代行を任せるかを判断するために，何度も同じ説 明を読んで確認しなければならない．また，ホームエージェントが行った操作代行につ いては報告がないため，ユーザは正しく操作代行が行われたかどうかがわからない．

(2)しきい値を何度も調整しなければならない

予測確信度の大小関係で予測した家電操作の正しさを表すが，予測した家電操作の正 しさを表す絶対値ではない．ユーザは予測確信度と予測した家電操作が正しいかどうか の関係を確認し，しきい値を調整しなければいけない．

まず，問題点(1)に対して，ユーザがホームエージェントの学習状態が段階的に確認 できるようにする．ただし，ユーザによる確認作業が増えてしまう．そこで，作業を任 せる相手の理解状態を確認する際の人間をモデルとして，多段的な対話方法を示す．次 に，問題点(2)に対して，ユーザが絶対値でホームエージェントに操作代行を任せるか どうかを示せるようにする．そこで，ホームエージェントの予測能力を示す客観的な指 標を絶対値として取り入れ，ユーザがホームエージェントに対する信頼感を醸成できる ようにする．この場合，ユーザがしきい値を調整するわけではないため，ユーザが指示 した客観的な指標に合わせてしきい値を調整する方法が必要になる．

本章では，以下の3点を課題とする．

(a) 人間をまねた対話方法

(b) 客観的な指標を取り入れた信頼感の醸成 (c) (a)(b)を実現するためのしきい値調整方法