自己・他者認知と意識の脳内メカニズム：自由エネルギー原理の観点から

自己・他者認知と意識の脳内メカニズム：自由エネルギー

原理の観点から

Brain mechanisms of self-other identification and self-consciousness: from the

perspective of free-energy principle

乾 敏郎

Toshio INUI

追手門学院大学

Otemon Gakuin University

Abstract: 一時的自己は、自己主体感、自己所有感、自己存在感から構成される。特に自己主体 感は、多くの実験的研究に基づき、その脳内メカニズムが明らかになりつつある。本稿では、最 近急速に発展しつつある自由エネルギー原理について述べた後、我々が提案した運動予測に関 するカルマンフィルタモデルを紹介し、あわせて自己意識の機構について考察する。自己主体感 や意識に関しては、自由エネルギー原理から導出された能動的推論という概念が重要であり、こ の新しい観点で運動と自己主体感について議論する。最後に、自己や自己意識に関して最近の展 開にもふれる。 キーワード：自由エネルギー原理 無意識的推論 能動的推論 制御状態 サプライズ 自己主体感 自己・他者認自己意識 自己証明 マルコフブランケット 本稿では、自己・他者認知に関する脳内メカニズ ムを自由エネルギー原理に基づいて考察する。 1. 自己認知に重要な 3 つの機能 自己は永続的自己と一時的自己に分けられる。永 続的自己は主としてエピソード記憶に基づいており、 フィクションである場合も多いと言われる。また、 この永続的自己に関してはメンタルタイムトラベル という機能があり、私たちの自伝的記憶の中で自己 を様々な時点に戻ることが可能である。一方、一時 的自己は、自己主体感、自己所有感、自己存在感か ら構成される。特に自己主体感と自己所有感は、多 くの実験的研究に基づき、その脳内メカニズムが明 らかになりつつある。これらの機能において重要な のは、Helmholtz の研究に端を発して発見された随伴 発射が重要な役割を果たす。随伴発射（コロラリ放 電）は運動制御信号を出すと同時にどのような感覚 フィードバックが生じるかを予測する信号である。 すなわち、感覚予測信号である。これが実際のフィ ードバック信号と照合されることによって、これら の機能が生まれると考えられている。以下ではこれ らの脳内メカニズムについて多面的に検討する。 連絡先：追手門学院大学心理学部 〒567-8502 大阪府茨木市西安威 2-1-15 E-mail: [email protected] 2. 自由エネルギー原理 我々は 1990 年に大脳視覚皮質の計算理論を提案 した（川人・乾, 1990）。これは網膜に与えられたデ ータから順光学と逆光学のループによって、短時間 に正しく外界の構造が推定できることを示すもので あった。Karl Friston はこれらの研究を基礎に自由エ ネルギー原理を提案した。ここで外界で生じた事象 を



とし、感覚信号をsとする。脳は感覚信号sか ら外界の事象



を推論する。脳が使える情報は、外 界の事象



が生じる事前確率と事象



が生じたと きに感覚信号sが生じる条件付き確率である。通常 生理学的に得られる神経反応はこの条件付き確率に 対応するものである。そこでこれらの情報を用いて 事後確率である

p

( | )



s

を求めればよい。しかしこ こで直接事後確率を計算するのは難しい。そこで次 のように考える。 それは事後確率をそのまま計算するのではなく、 ある分布

q

( )



を考え、実際の事後分布

p

( | )



s

にで きるだけ近い

q

( )



を求めるという方法である。この 2 つの分布の距離は、次のように定義される。

( )

( ( )

( | ))

( ) log

( | )

KL

q

D

q

p

s

q

d

p

s





















人工知能学会研究会資料 SIG-SLUD-B803 [招待講演4]

KL

D

はカルバック・ライブラー情報量で、この値が 最小になる

q

( )



を求めればよい（乾, 2018, p.123）。

 

   

,

/

p



s



p



s

p s

を用いて式を変形すると、

 

 









 



_{ }

 





 







 || ln ln , KL q D q p s q d p s p s が得られる。右辺第1 項が Helmholtz の自由エネル ギーF と同じ式、第 2 項は

q

( )



に関係のない項であ り、

p s

( )

の（負の）サプライズである。すなわち、

 

 











_KL

||



ln ( )

F

D

q

p

s

p s

と書ける。右辺第1 項だけが



の関数であり、F を 最小化することはこの

D

_KLを最小化する

q

( )



を求 めることである。これが Helmholtz の無意識的推論 の計算論的意味である。さらに右辺第2 項の感覚信 号s自体を変化させてのサプライズ



ln( )

p

を最小 化することによっても、自由エネルギーを最小化で きる。これは感覚のサンプルの方法を変えて、最も 期待できる感覚をサンプルするという意味で、行動 や注意によってs 自体を変えることに対応する。こ れが以下に述べる能動的推論である（以上、乾, 2018, pp.153-154）。 3. 予測誤差最小化 Helmholtz の無意識的推論は自由エネルギーを最 小 化 す るq( ) を 求 め る こ と で あ っ た 。 こ こ で Laplace近似を行う。すなわち事後確率がガウス分布 であると考える。すると自由エネルギー最小化によ ってq( ) を求めるのは予測誤差最小化と等価にな る。ここで乾（2018, pp.72-73）の例を引用する。 『ここで眼前にある対象の大きさ を推論すると しよう。図1を使って詳しく説明すると、まずこの システムには対象を見たときsが入力される（入力 にはノイズが含まれている）。 また上位中枢からは対象の大きさの平均値（事前 知識）V_pが入力される。そして図のように予測誤差 ε を最小化することによって脳内で外界に存在する 対象の大きさ を推定することができる。すなわち 無意識的推論によって知覚されるのである。なお図 1では

 

_{ }

1 2

,

2 2

,

p u p

V

s

g

g



























とした。よ り一般的なネットワーク構造は、図2を参照。図中 の矢印は興奮性のシナプスを、黒丸は抑制性のシナ プスを表す。 は大きさを推定する信号である。 Level 2からLevel lへ、大きさは ではないかとい う予測信号を送り、



₁では入力との誤差を計算し Level 2 に送り返す。この誤差が、 トップダウンの （上から一下への）信号 によって完全に抑制でき ると正しい推定ができたことになる。これは誤差信 号の抑制とよばれ、脳内では至るところで見られる。 また、脳波でもミスマッチ陰性電位として知られる。 p V は事前知識であり、



₂は平均的な物体の大きさ から眼前の物体の大きさがどれだけ外れているかを 計算している。これを一般化すると、知覚と認知が どのように（切れ目なく）関係しているかがわかる だろう』（図2：著書では、図Ⅳ-3）。 図1 眼前にある対象物の大きさを推定（知覚）する ネットワーク 図 2 予測誤差を最小化する階層的ネットワークの 構造。各階層にそれぞれ予測ユニットと予測誤差ユ ニットが存在する。 4. 能動的推論 自由エネルギー最小化は （4）式の右辺第2項の Shannon のサプライズを最小化することによっても 可能である。Shannon サプライズは感覚信号 s の関 数である。したがって、サプライズが小さくなるよ うにすなわち予測どおりに行動や注意をはらうこと

s

によって自由エネルギーを最小化することも出来る。 これがFriston の能動的推論である。言い換えると予 測を実現するように効果器を動かすということであ る。したがって、自由エネルギーを最小化する s を 探索して行動 a を決める。すなわち、









 

 









T S S

F

a

a

a

S S S



  



( )

( )

S

s a

g













ここで、g( )



は、自己受容感覚の事前の期待であり、 ( ) s a は運動

a

によって筋紡錘から生じる自己受容 感覚フィードバックであり、



_Sは、信号の精度（分 散の逆数）の行列である。これは行為は感覚予測誤 差





_S



s a



( )



g

( )



を抑制することであり、重み づけられた感覚予測誤差の分散

 



_{S S}T

 





_ST _{S S}





を抑制することができるだけだということを意味し ており、予測符号化の創発的特性なのである。この 分散は、軌道、速度、加速度、加加速度（ジャーク） などを考慮することができる（Friston, Daunizeau, and Kiebel, 2009）。 5．随意運動でも反射を使う 自由エネルギー原理では、運動も能動的推論だと 考える。能動的推論の基本思想は、サプライズを最 小化するように人間は振る舞うということである。 最小化するには自己が期待した状態を作り出せばよ い。したがって、運動野から出力される信号は、ゴ ールとなる望ましい姿勢をとったときの自己受容感 覚（筋感覚）である。すなわち脳内から筋肉に送ら れる信号も感覚予測信号だというのである。もう一 つの重要な点は、この感覚信号を正確に実現するた めに「反射」を利用するということである。すなわ ちこの新しい運動理論では随意運動もまた反射によ って作られていること考える。筋肉と脊髄の間には、 反射弓と呼ばれるループが存在する。筋肉には筋肉 の状態を中枢に伝えるための自己受容器が存在し、 この信号を脊髄のα運動ニューロンに伝達する。α 運動ニューロンには脳から脊髄を経て、（自己受容） 感覚予測信号が伝えられるのでここで予測誤差が生 じる。この予測誤差はαニューロンの出力が筋肉に 伝わることによって、筋収縮が起こり、予測誤差が ゼロになるまで収縮が起きる。このようにして、運 動予測が実現され、望ましい運動が生成されるので ある（Adams, Shipp, and Friston, 2013; Friston, 2012）。 6．予測、感覚減衰、自己主体感 すでに述べたように知覚においては予測誤差によ って内部モデル（信念）を更新し、外界を適切に捉 えられる。一方、運動皮質（や内臓運動皮質）から でた感覚信号はターゲットとなる運動を作るための ものなので、フィードバック信号である感覚信号に よって修正されないように作られている。これは解 剖学的には運動皮質の第4 層と呼ばれる入力部が欠 落しているか、もしくは非常に貧弱な構造になって いること、さらに予測誤差が伝搬するのを途中で抑 制していると考えられる（Shipp, Adams, and Friston, 2013: 感覚減衰, Brown et al., 2013）。一般に、予測信 号が出力されると、予測誤差が測定される。運動実 行の場合も、体性感覚野には予測信号（コロラリ放 電）が伝えられる。Adams, Shipp, and Friston （2013） によれば、一次体性感覚野は時々刻々の身体状態を モデル化し、運動野は未来の（意図された）身体状 態をモデル化する。同様に他の感覚野にもコロラリ 信号が伝達されている。 それでは、自己主体感はどこから来るのだろうか。 すでに述べたように、何かある行為を起こす、すな わち運動指令を出すときは、それと同時にどのよう な感覚フィードバックが返ってくるかを予測してい る。そしてこの予測と実際の感覚フィードバックが 照合される。これらが近似的に一致すれば、予測誤 差はないか小さいものになるはずである。このとき 自己主体感を感じる。一方、何らかの理由によって、 この予測誤差が大きくなる場合は、自己主体感がな く、させられ体験（delusion of control）が生じると考 えられる。具体的に統合失調症では、感覚フィード バックの予測機構に問題があり、正しく感覚フィー ドバックを予測できないために予測誤差が大きくな り 、させ られ 体験が 生ず るとさ れて いる（Frith, Blakemore, and Wolpert, 2000: Blakemore, Oakley, and Frith, 2003）。 一方、自己存在感とは、自分が自分の物理的身体 の中に存在し、自分がまさにその環境の中に存在し ているという実感である。この自己存在感を作り上 げている要因はいくつか存在するが、すでに述べた 内受容感覚の予測と実際の内臓感覚のフィードバッ クとの聞の予測誤差が小さい場合に、高い自己存在 感が得られると考えられている（Seth, Suzuki, and Critchley, 2012）。

7．予測、運動意図と意識

Ogawa and Inui（2007）はコンピュータマウスを用 いて、自分が生成した運動と、自分の運動とは関係 ない外部運動に対する内的推定の違いを検討した。

実験協力者は、マウスカーソルを使ってスクリーン 上を動くターゲットの追随運動を行った。その際に カーソルあるいはターゲットの動きを一時的に視覚 遮断した。遮断中には、見えないカーソルまたはタ ーゲットの動きを推定しながらトラッキングを続け てもらった。動く点をトラッキングする場合や曲線 をトレースする場合などにおいては、まず、現在の 効果器の状態と目標状態とを比較し、運動信号が運 動野や小脳で生成される。この運動信号が効果器に 送られ、実際の運動が実現されるのと並行して、頭 頂葉にもコロラリ放電として送られる。この運動指 令と現在の効果器の状態推定を入力として、運動に よって変化する効果器の状態予測が行われる。この 実験結果から、左下頭頂小葉（IPL）では、この状態 予測、および体性感覚野からの自己受容感覚フィー ドバックに基づく状態推定が行われると考えられる。 また我々の先行研究から、この状態推定と視覚フィ ードバックとの誤差が右頭頂間溝（IPS）において評 価され、右側頭頭頂接合部（TPJ: Temporo-Parietal Junction） が視覚的運動誤差と状態推定との適切な 統合に関連していることが示唆されている（Ogawa, Inui, and Sugio, 2006; Ogawa, Inui, and Sugio, 2007）。

さらに外部（外界）運動の推定の際には、右上/下

頭頂小葉（SPL/IPL）が過去の視空間情報を利用した 運動予測・推定に関連すると考えられる。自己か外 部かという動作主に関わらない視覚運動イメージ化 には、前補足運動野（pre-SMA）が関連すると考えら

れる（Ogawa and Inui, 2007）。

以上の結果を統合し、手の運動制御において、予

測制御機構がどのように働いているかを図3に示す。

Desmurget, and Sirigu （2009）は、電気刺激を用いて、 運動意図に関する実験を行った。彼らの報告による と、右TPJを電気刺激すると「自分は手を動かそう とした」という内因的な運動意図が生じた。ところ が実際にはその被験者の手は動いておらず、筋電図 を計測した結果でも筋収縮は見られなかった。一方、 運動系の脳部位を刺激した場合には、実際に手は動 くが、このとき被験者が「自分の意図に反して運動 を制御できない」と感じたことを報告している。こ の実験で刺激された右TPJは角回という領域に相当 することから、角回の活動が、自らが行う運動の意 図や気付きに繋がると考えられる。以上のことから、 運動結果の予測が運動意図という意識に繋がること が示唆された。さらに乾（2018）は、一般に予測信 号が意識されるのではないか考えている。これによ りいくつかの心理現象が説明可能である。最近、

Friston（2018）は、深層生成モデル（deep generative

model）も持つことが意識に繋がるのではないかと考

えている。

8．自己主体感について考慮すべき他の要因 能動的推論では、実行される行為と制御状態と呼 ぶ隠れ状態

u

を区別する（Friston, Samothrakis, and

Montague, 2012）。

u

は運動を起こした結果の予測 ↑ L IPL 運動指令と自己受容感覚 による状態予測 / 推定 R TPJ 視覚情報との統合 運動野 / 小脳 自己運動の状態予測制御機構 外部運動 効果器 フィードバック情報

Kv

Kp

運動前野？ 推定・予測の更新 指間距離推定・手の位置推定 (推定誤差分散情報も含む) 推定・予測の修正 現在・未来の 状態推測・予測 対象の状態 予測 / 推定 R SPL / IPL 過去の視覚情報を 使った予測 / 推定 pre-SMA 視覚運動 イメージ化 運動計画 カルマンフィルタ 運動予測と 感覚の統合 対象物体のサイズ・ 位置の推定・予測 （遠心性コピー） 運動指令 実際の運動 状態予測 予測誤差 予測される 自己受容感覚 フィードバック 予測される視覚 フィードバック 視覚 フィードバック 自己受容感覚 フィードバック 予測誤差 R IPS 体性感覚 視覚野 ↑ 網膜 視覚座標 での差分 ベクトル 自己受容器 図3 運動の予測制御機構を構成する脳内ネットワーク（Inui, et al.2009）

である。行為は実世界の物理的・生理的変化であり、 それに対応する隠れ状態が制御状態である。そして 彼らはこの制御状態の確率的表現を主体感と呼んで いる。これは、制御に関する事後信念であり、必ず しも行動と結びついているわけではない。行為はこ の確率分布から選択される。生成モデル（generative model）は、

m

をモデル（エージェント）、 _{ をモデルパラメー} タ、

s

をエージェントの隠れ状態、

o

は観測また は 成 果 （outcome ） と し 、

s





{ , , }

s

₀



s

_T 、 0

{ , , }







_t

o

o

o

、

u





{ , , }

u

₀



u

_T として、以下 の尤度と事前確率で記述できる。

( , , , | )

( | , ) ( , | ) ( | )

P o s u

m

P o s

P s u

P

m











  

 

 

0 0 1 1

( | , )

( | , ) ( | , )

( | , )

_{t t}

P o s

P o

s

P o s

P o s















1 1

( , | )

( | )

(

| , , ) ( | )

T T t t t t t

P s u

P s

P s

s u

P u

















 

これらを前提に、知覚と運動のサイクルは次のよう に定式化可能である。

arg min

( , )

t 

F o









Pr(

a

_t



u

_t

)



Q u

( | )

_t



_t ここで、 t

a

は時刻t における行為、



_tは隠れ変数（原 因、状態）、

Q

は事後確率である。この時、自由エネ ルギーは







_





_







_



_



 

 

  

( , )

( , | ) || ( , | )

ln ( | , )

KL Q

F o

D

Q s u

P s u m

E

P o s u

これは限定合理性（bounded rationality）が自由エネル ギー最小化から創発し、一つの状態（または行動） の価値は、その原因ではなく行動の結果であるとい うことを意味している。この行動は彼らが経験する 成果に対する分布のシャノンエントロピーを最小化 することと等価である。状態s で取り得る行動系列 の 確 率 分 布 を ポ リ シ ー と 呼 ぶ 。 未 来 の ポ リ シー

( ,..., )

_{t T}

u





u

u

の対数尤度は下記のように表され る。 ln ( | )P u s _t   



D_KLP s( | , ) || ( | )_T s u_t  P s_T m _ これは、制御系列またはどの行為が選択されるかを 決定するポリシーについての事前信念を記述してい る。この信念はボルツマン分布の形をとっており、 この場合、最も大きい事前確率を持つポリシーが、 現在の状態とポリシーが与えられたときの最終状態 に対する分布と最終状態に対する周辺分布の間の相 対エントロピーまたはダイバージェンスを最小化す る。この周辺分布はエージェントが現在の状態から 訪れるはずだと信じる（望ましい）状態という観点 からゴールを符号化する。また、ポリシーについて の信念の精度は推論されなければならない隠れ変数  _{  によって決定される。ポリシーの決定につ} いては、未来の期待自由エネルギーを導入しきわめ て興味深い知見が種々報告されているがここでは割 愛する。 エージェントはサプライズを最小化する（負の対 数モデル証拠を最大化する）ことによって自由エネ ルギーを最小化するように振る舞う。すなわち、エ ージェントは、事後信念によって期待される感覚を サンプルするように行動するだろう。言い換えると、 能動的推論においては、事後信念の感覚の期待を実 現しようとするのである（4、5 章を参照）。なお、

u

については、Mushiake et al.（2006）が前頭前野で発 見したニューロンが候補になるであろう。 9．自己証明する脳、マルコフブランケットと自己 前章で述べたように、サプライズは負のベイズモ デル証拠なので、自由エネルギーを最小にすること は感覚の原因の潜在的モデルの証拠を最大にするこ とになる。すなわち、システムは環境のモデルをも ち（生成モデル）、その存在の証拠を集めようとする。 これは、自己証明self-evidencing と呼ばれる（Hohwy, 2016: Palacios et al., 2017）。自己証明する過程は、熱 力学第二法則（エントロピーの増加）に抵抗するこ とを意味する。環境の隠れ原因を能動的にサンプリ ングし、変化させることによって、エージェントは サプライズを最小化する。これは、十分な時間が与 えられれば、エージェントは環境の創造者となるこ とを示唆する（Kirchhoff et al. , 2018）。 また、期待されるサプライズは、エントロピーま たは不確定性として知られており、最適な行動は不 確定性を解消するために実行される。またサプライ ズな事象を回避する。したがって自由エネルギー原 理に従えば、自然に楽観主義バイアス（optimism bias） が説明できる。 因果ネットにおいて、あるノードに対するマルコ フブランケットはそのノードの親ノード、子ノード とその子の親ノードを指す。マルコフブランケット の中心のノードのふるまいは、ブランケットの状態 の観察から予測可能である。自由エネルギー原理に

おいては、マルコフブランケットを通じて外部の隠 れ原因を推論する（Kirchhoff et al. , 2018）。モデルの 子ノードは能動的推論の予測誤差最小化を通して行 動を駆動する能動的状態であり、感覚状態は推論を 駆動するモデルの親ノードである。このような観点 からマルコフブランケットによって自己と外界との 境界を定義することができる。 謝辞 本研究は、 科学研究補助金基盤研究 A「身体的表象 から自他分離表象にいたる発達プロセスの解明（代 表 明和政子）」（課題番号 17H01016）および基盤研 究 B「生体情報の統計科学（代表 狩野 裕）」（課題 番号 15H02669）の一環として行われたものである。 参考文献

Adams, R.A., Shipp, S., and Friston, K.: Predictions not commands: active inference in the motor system, Brain Structure and Function, Vol.218, No.3, pp.611-643, （2013）

Blakemore, S. J., Oakley, D. A., and Frith, C. D.: Delusions of alien control in the normal brain, Neuropsychologia, Vol.41, pp.1058-1067（2003）

Brown, H., Adams, R. A., Parees, I., Edwards, M., and Friston, K.: Active inference, sensory attenuation and illusions. Cognitive Processing, 14, pp.411-427,（2013） Desmurget, M., and Sirigu, A.: A parietal-premotor network for

movement intention and motor awareness, Trends in Cognitive Science,Vol.13, No.10, pp.411-419,（2009） Friston, K.: The free-energy principle: a rough guide to the

brain?, Trends in Cognitive Sciences, Vol.13, 293-301, （2009）

Friston, K.: Prediction, perception and agency, The

International Journal of Psychophysiology, Vol.83, 248-252, (2012)

Friston, K.: Am I self-conscious? (Or does self-organization entail self-consciousness?), Frontiers in psychology, Vol. 9, （2018）

Friston, K. J., Daunizeau, J., and Kiebel, S. J.: Reinforcement learning or active inference? PLoS ONE, 4e6421, （2009）

Friston, K., Kilner, J., and Harrison, L.: A free energy principle for the brain, Journal of Physiology Paris, Vol.100, No.1-3, pp.70-87,（2006）

Friston, K., Rigoli, F., Ognibene, D., Mathys, C., Fitzgerald, T., and Pezzulo, G.: Active inference and epistemic value, Cognitive Neuroscience, Vol.6, No.4, pp.187-214, （2015）

Friston, K., Samothrakis, S., and Montague, R.: Active inference and agency: optimal control without cost functions, Biological Cybernetics, Vol.106, No.8-9, pp.523-541,（2012）

Friston, K., Schwartenbeck, P., FitzGerald, T., Moutoussis, M., Behrens, T., and Dolan, R.J.: The anatomy of choice: active inference and agency, Frontiers in Human Neuroscience, Vol.7, doi:

10.3389/fnhum.2013.00598598,（2013）

Frith, C. D., Blakemore, S. J., and Wolpert, D. M.: Explaining the symptoms of schizophrenia: Abnormalities in the awareness of action, Brain Research Reviews, Vol.31, pp.357-363,（2000）

Hohwy, J.: The self-evidencing brain, Noûs, Vol.50, 259-285, （2016）

Inui, T., Nagai, C., Ogawa, K., Takemura, N., and Tarasenko, S. S.: Synergistic intelligence mechanism: modeling cognitive development, The 2009 IEEE/RSJ International Conference on Intelligent Robots and Systems, St. Louis, Missouri, USA,（2009） 乾 敏郎：脳科学からみる子どもの心の育ち－認知発達の ルーツをさぐる，ミネルヴァ書房，（2013） 乾 敏郎：感情とはそもそも何か―現代科学で読み解く感 情の仕組みと障害―，ミネルヴァ書房，（2018） 川人 光男，乾 敏郎：視覚大脳皮質の計算理論, 電子情 報通信学会論文誌D, Vol.73, No.8, pp.1111-1121, （1990）

Kirchhoff, M., Parr, T., Palacios, E., Friston, K., and Kiverstein, J.: The Markov blankets of life: autonomy, active inference and the free energy principle, Journal of the Royal Society Interface, 15, 20170792,（2018） Mushiake, H., Saito, N., Sakamoto, K., Itoyama, Y., and Tanji,

J. (2007) Activity in the lateral prefrontal cortex reflects multiple steps of future events in action plans. Neuron, vol.50, pp.631-641.

Ogawa, K., Inui, T., and Sugio, T.: Separating brain regions involved in internally guided and visual feedback control of moving effectors: an event-related fMRI study, Neuroimage, Vol. 32, No. 4, pp.1760-1770,（2006） Ogawa, K., and Inui, T.: Lateralization of the posterior parietal

cortex for internal monitoring of self-versus externally generated movements, Journal of Cognitive

Neuroscience, Vol. 19, pp.1827-1835,（2007） Ogawa, K., Inui, T., and Sugio, T.: Neural correlates of state

estimation in visually guided movements: an event-related fMRI study, Cortex, Vol. 43, No. 3, pp. 289-300, （2007）

Palacios, E. R., Razi, A., Parr, T., Kirchhoff, M., and Friston, K.: Biological Self-organisation and Markov blankets. BioRxiv, doi: https://doi.org/10.1101/227181,（2017） Seth, A. K., Suzuki, K., and Critchley, H. D.: An interoceptive predictive coding model of conscious presence. Frontiers in Psychology, doi: 10.3389/fpsyg.2011.00395（2012） Shipp, S., Adams, R. A., and Friston, K.: Reflections on

agranular architecture: Predictive coding in the motor cortex, Trends in Neurosciences, Vol.36, No12, pp.706-716,（2013）