納得性(<特集>編集委員会企画-社会とAIの羅針盤2015-)

14 人 工 知 能  30 巻 1 号（2015 年 1 月） 「編集委員会企画─社会と AI の羅針盤 2015 ─」 最近，人工知能に基づく計算機の知的能力の向上が社 会的に認知されてきたことに伴って，一般の人から期待 とともに不安や恐れを感じていることを聞かされる機会 が増えた．ここでは，人工知能システムが人間に受け入 れられるための条件について，筆者自身が一人の AI 研究 者として日頃，素朴に感じていることを述べてみたい． まず，議論の前提として，人間の行っている高度で 専門的な知的活動における意思決定（例えば工学設計や 医療診断など）を，人工知能が，人間の関与なしで自動 的判断を行うのではなく，人間に案を提示しインタラク ションすることで協調的に意思決定を支援する，という 状況を想定する．これはいわゆる Intelligence Amplifier （IA）であり，AI ではないという主張も承知しているが， 筆者としては高度な意思決定への計算機の関与には，以 下のような条件を満たすIAが重要であると考えている＊1_． 満たすべき条件を一言でいうと「人間が人工知能の考 えに納得できる」ことである．人間が「データに基づく客 観的な自動的判断を疑義をはさむことなく採用する」傾 向の広がりには Weizenbaum も警鐘を鳴らしている [西 田 14]．人間が，人工知能の提示した案に盲目的に従う のではなく，それを自己の思考で吟味・検証して根拠・ 思考過程・結論に納得したうえで，自分の意見を人工知 能に伝え，知的な相互作用に基づいて意思決定を行える ことが重要である．そのためには，人工知能が自己の思 考を説明し人間を納得させられる能力をもつことが必要 である．これはメタ認知能力 [溝口 13] であり，[堀 13] でも「自らが自らを語れるように新しい知能の世界を構 成すべし」ことが人工知能の規範として述べられている． そのような「納得を得る」ためには，例えば，以下の ような項目を人間に説明できることが重要であろう． ● 判断の根拠となった情報のソースと範囲 ● モデルや理論の仮定や前提と能力の限界 ● _{入力から出力を生成する思考の過程} ● ユーザとのインタラクションにおける反応の理由 始めの 2 項目は，人工知能システムが工学的人工物で あり，特定の観点・仮定・前提に基づいた現実世界の「概 念化」であるモデルに基づく以上，必然的に内在する仮 定や前提条件と能力の限界について，人間が，信頼性と リスクを評価でき，個人的かつ社会的に理解され受け入 れるために重要なことである． 後の 2 項目は，人工知能システムの思考の筋道の確 からしさを検証し，思考の内容に人間が（相互的に）影 響を与えることができる（という感覚を人間がもつ）た めに重要なことである．思考過程がブラックボックスに なっていて，例えば，機械学習を用いた場合に「学習の 結果，このような解が出ました」という説明でユーザが その解を納得して受け入れられるであろうか？ このような納得の仕方は，人間の思考の「明示的理解」 [元田 99] に基づくものであり，必ずしも「客観的理解」 ではないことに注意が必要である．例えば，人間の物理 的事象の理解は因果性に基づくことが多いが，数学的に は定義されない平衡状態式内の変数間にも因果関係を見 いだすことがある [元田 99]．AI 応用の現場では，客観 的相関性では納得されず，因果的説明が求められる [山 口 14]．このように，人間は主観的で概念的な自分自身 の理解の仕方に寄り添った説明を求めているのであり， 人間の対象の捉え方を表す概念体系 [溝口 13] に基づい て捉え方の多様性に対応できることが求められる． これは人間の自己認識の問題であり，人間の自然知能 の方法と同じとは限らないし，人工知能の実現機構とも 違っていてもよいが，人間の納得性のためには，人間が 自己で認識しているやり方に合わせて説明できる必要が ある．その一方で，計算機が人間とは違う思考特性をも つことは工学的に有用である．例えば，人間の意思決定 は仮説空間の絞り込みが素早い傾向があるが，逆に前例・ 先入観・思い込み・分野にとらわれた見落としが起こる 可能性がある．仮説空間を管理し網羅性をもつ計算機の 特性に基づいた協調的な知のインタラクションによっ て，そのような見落としを防げる可能性がある． 人工知能がこのような条件を満たすことで人間の「納 得」を得ることが，人工知能と人間の知的な協調による， 単独で行うよりも「より良い意思決定」の実現と，実社 会への普及と貢献に重要であると思う．

◇ 参 考 文 献 ◇

[堀 13]　堀 浩一：人工知能研究の方法，人工知能学会誌，Vol. 28, No. 5, pp. 689-694（2013） [溝口 13] 溝口理一郎：人工知能とは（3），人工知能学会誌，Vol. 28, No. 3, pp. 486-494（2013） [西田 14] 西田豊明：人工知能の社会実装がもたらし得ること，人 工知能，Vol. 29, No. 5, pp. 524-532（2014） [元田 99] 元田 浩：明示的理解に魅せられて，人工知能学会誌， Vol. 14, No. 4, pp. 615-625（1999） [山口 14] 山口高平：人工知能とは（11），人工知能，Vol. 29, No. 6, pp.690-695（2014）

納　得　性

來村　徳信

大阪大学 ＊1 このような条件は実現する知的能力のレベルや種類によって 異なる．例えば物体の認識などは，自律型自動実行でもよいと 思う．