機械参加型（machine-in-the-loop）意思決定プロセス

第5章 機械参加型リスクマネジメントの提案

⼈間の意思決定プロセスを⼀般化すると、（１）環境からの⼊⼒情報に基づく現状把 握や気づきに始まり、（２）仮説を⽴てて可能な⾏動を計画し、（３）複数の選択肢を 評価して、（４）意思決定して⾏動し、（５）環境からのフィードバック結果を確認し て（必要に応じて）知識を更新する、という⼀連の流れになる。⼈間の⽇常的な思考 を⽀配するシステムⅠは、上記⼿順を踏みつつもさまざまなショートカットを⽤意し て意思決定を短絡化しようとする。例えば、特定の状況と結びついた単純化した⾏動 ルールの設定、個⼈の嗜好に基づく主観的な選択肢の評価、などが挙げられる。これ らは、意思決定プロセスを⼤幅に効率化する⼀⽅、思考の偏りの温床にもなるため、

客観的かつ論理的なシステムⅡを意図的に起動して、定常的にシステムⅠをモニタリ ングする仕掛けが必要となる。本博⼠論⽂においては、ここに機械学習モデルの活⽤

を試みる。

⼀般に、⼈間が機械学習モデルの予測・推定結果を活⽤するには、以下の３つのパ ターンが考えられる。

A) 気づきの⽀援

 予測・推定結果を⼈間の気づきに活⽤

B) ⼈間が解釈して利⽤

 予測・推定結果を⼈間が解釈して意思決定 C) 機械的に利⽤

 予測・推定結果から⾃動的に意思決定

このうち、C）は機械が主役であり⼈間が介在する余地はないが、A）、B）について はあくまで⼈間が主役となる。そこで、⼈間の意思決定プロセスを中⼼に置き、それ と機械学習モデルが相互作⽤する“機械参加型（machine-in-the-loop）意思決定プロセ ス”が考えられる（図 5.1）。図の左側は⼈間の意思決定プロセスを表し、図の右側は機 械学習モデルの予測・推定とモデル更新のサイクルである。実線の⽮印は制御フロー、

点線の⽮印はデータフローを表す。機械学習から⼈間への⽮印（データフロー）は、

新たな情報の提⽰による気づきの⽀援（A）や予測・推定結果に基づく判断材料の提供

（B）を⽰している。特に、後者（B）においては、予測・推定結果を⼈間が解釈して 意思決定に反映させる必要があり、機械学習モデルの解釈可能性がきわめて重要とな

5.2機械参加型（machine-in-the-loop）意思決定プロセス 83

る。⼀⽅、⼈間から機械学習への⽮印（データフロー）は、意思決定・⾏動の結果や 予測・推定と現実とのギャップを機械学習モデルにフィードバックすることによるモ デル更新を⽰し、機械学習モデルの継続的な予測精度向上に貢献する。

このような⼈間と機械学習の協調の枠組みは、システムⅠとシステムⅡを効果的な 連携を促進する。すなわち、⼈間の意思決定プロセスはデフォルトではシステムⅠが 起動しているが、機械学習の介⼊によりシステムⅡが喚起され、⼈間と機械学習が協 調した合理的な意思決定が促される。その結果、⼈間の意思決定における認知バイア スの影響の低減が期待できる。Bengio（2019）は、「⼈⼯知能（AI）・機械学習は、現 状、システムⅠの役割しか果たせておらず、今後、システムⅡの能⼒を獲得していく 必要がある」と述べている。しかし、これはあくまで、C）“機械が主役の世界”での話

であり、A）、B）“⼈間が主役の世界”においては、必ずしも、機械がシステムⅡの能⼒

も獲得せずとも、⼈間の中にあるシステムⅡを喚起するという役割を果たすことは⼗

分に可能であるというのが、本博⼠論⽂の主張である。

図 5.1：機械参加型（machine-in-the-loop）意思決定プロセス

機械参加型意思決定プロセスは、限定合理的な利害関係者間の合意形成にも役⽴つ と考えられる。すなわち、同⼀の機械学習モデルを利⽤する machine-in-the-loop の環 境の中に複数の限定合理的な⼈間が存在する場合、最初は、各⼈間の知識および機械 学習モデルにはさまざまなバイアス（偏り）や不整合が存在する可能性がある。しか しながら、機械学習モデルに対する⾏動結果のフィードバックやドメイン知識の教⽰、

および機械学習モデルからの継続的なバイアス補正を通じて、徐々に machine-in-the-loop の環境の中に共通的な知識が蓄積・共有されていくことが期待される。これは、

限定合理的な利害関係者間の合意形成に役⽴つと同時に、組織内の有識者がもつ知識・

ノウハウの蓄積や継承にもつながり、若⼿・中堅実務者の⼈材育成という観点からも 有効である。