通信理論に特化した深層学習第６回ゼミ資料誤差逆伝播法

(1)

通信理論に特化した深層学習第６回ゼミ資料

誤差逆伝播法

豊橋技術科学大学電気・電子情報工学系

准教授竹内啓悟

(2)

勾配の計算

損失関数を局所最小化するためには、順伝播型ネットワークに含まれるすべてのパラメータに関する損失関数の偏微分を効率的に計算する必要がある。

「深層」合成関数のパラメータに関する偏微分を効率的に計算する問題

「深層」合成関数

𝒈𝒈 ^𝑡𝑡 ⋅, 𝜽𝜽 ^𝑡𝑡 : ℝ ^𝑁𝑁

^𝑡𝑡−1

× ℝ ^𝑁𝑁

^𝑡𝑡をパラメータ

𝜽𝜽 ^𝑡𝑡

を持つ微分可能なベクトル値関数とし、

𝑮𝑮 _𝑡𝑡 ^𝑡𝑡

₁²

𝒛𝒛, 𝚯𝚯 _𝑡𝑡 ^𝑡𝑡

₁²

= 𝒈𝒈 ^𝑡𝑡

²

∘ 𝒈𝒈 ^𝑡𝑡

²

⁻¹ ∘ ⋯ ∘ 𝒈𝒈 ^𝑡𝑡

¹

(𝒛𝒛, 𝜽𝜽 ^𝑡𝑡

¹

), 𝚯𝚯 _𝑡𝑡 ^𝑡𝑡

₁²

= 𝜽𝜽 ^𝑡𝑡

¹

, … , 𝜽𝜽 ^𝑡𝑡

²

.

注意

𝑁𝑁 _𝑇𝑇 = 1

として、スカラー関数

𝑔𝑔 ^𝑇𝑇 ⋅, 𝜽𝜽 ^𝑇𝑇 : ℝ ^𝑁𝑁

^𝑇𝑇−1

→ ℝ

に損失関数を含める。

(3)

偏微分の計算偏微分の連鎖測

𝜕𝜕

𝜕𝜕𝜃𝜃 _𝑖𝑖 ^𝑡𝑡 𝐺𝐺 ₁ ^𝑇𝑇 𝒙𝒙, 𝚯𝚯 ₁ ^𝑇𝑇 = �

𝑛𝑛=1 𝑁𝑁

_𝑡𝑡

𝜕𝜕 _𝑛𝑛 𝐺𝐺 _𝑡𝑡+1 ^𝑇𝑇 𝒛𝒛 ^𝑡𝑡 , 𝚯𝚯 _𝑡𝑡+1 ^𝑇𝑇 𝜕𝜕𝑔𝑔 _𝑛𝑛 ^𝑡𝑡

𝜕𝜕𝜃𝜃 _𝑖𝑖 ^𝑡𝑡 𝒛𝒛 ^𝑡𝑡−1 , 𝜽𝜽 ^𝑡𝑡 , 𝑔𝑔 _𝑛𝑛 ^𝑡𝑡 = 𝒈𝒈 ^𝑡𝑡 _𝑛𝑛 . 𝐺𝐺 ₁ ^𝑇𝑇 𝒙𝒙, 𝚯𝚯 ₁ ^𝑇𝑇 = 𝐺𝐺 _𝑡𝑡+1 ^𝑇𝑇 𝒈𝒈 ^𝑡𝑡 𝒛𝒛 ^𝑡𝑡−1 , 𝜽𝜽 ^𝑡𝑡 , 𝚯𝚯 _𝑡𝑡+1 ^𝑇𝑇 , 𝒛𝒛 ^𝑡𝑡 = 𝑮𝑮 ₁ ^𝑡𝑡 𝒙𝒙, 𝚯𝚯 ₁ ^𝑡𝑡 .

上記の表現の両辺を

𝜃𝜃 _𝑖𝑖 ^𝑡𝑡 = 𝜽𝜽 ^𝑡𝑡 _𝑖𝑖

に関して偏微分すると、

後者の因子は順伝播時に計算可能

𝐺𝐺 _𝑡𝑡+1 ^𝑇𝑇 ⋅, 𝚯𝚯 _𝑡𝑡+1 ^𝑇𝑇 𝒈𝒈 ^𝑡𝑡 (⋅, 𝜽𝜽 ^𝑡𝑡 )

𝑮𝑮 ₁ ^𝑡𝑡−1 ⋅, 𝚯𝚯 ₁ ^𝑡𝑡−1

𝒙𝒙 𝒛𝒛 ^𝑡𝑡−1 𝒛𝒛 ^𝑡𝑡

𝑡𝑡

番目の関数のパラメータ

𝜽𝜽 ^𝑡𝑡

に注目する。

(4)

𝐺𝐺 _𝑡𝑡 ^𝑇𝑇 𝒛𝒛, 𝚯𝚯 _𝑡𝑡 ^𝑇𝑇 = 𝐺𝐺 _𝑡𝑡+1 ^𝑇𝑇 𝒈𝒈 ^𝑡𝑡 𝒛𝒛, 𝜽𝜽 ^𝑡𝑡 , 𝚯𝚯 _𝑡𝑡+1 ^𝑇𝑇

𝜕𝜕 _𝑛𝑛 𝐺𝐺 _𝑡𝑡 ^𝑇𝑇 𝒛𝒛 ^𝑡𝑡−1 , 𝚯𝚯 _𝑡𝑡 ^𝑇𝑇 = �

𝑁𝑁

_𝑡𝑡

𝜕𝜕 _𝑛𝑛 𝑔𝑔 ^𝑡𝑡

^′

𝒛𝒛 ^𝑡𝑡−1 , 𝜽𝜽 ^𝑡𝑡 𝜕𝜕 _𝑛𝑛

^′

𝐺𝐺 _𝑡𝑡+1 ^𝑇𝑇 𝒛𝒛 ^𝑡𝑡 , 𝚯𝚯 _𝑡𝑡+1 ^𝑇𝑇

逆伝播

𝐺𝐺 _𝑡𝑡+1 ^𝑇𝑇 ⋅, 𝚯𝚯 _𝑡𝑡+1 ^𝑇𝑇 𝐺𝐺 _𝑡𝑡 ^𝑇𝑇 ⋅, 𝚯𝚯 _𝑡𝑡 ^𝑇𝑇

𝒈𝒈 ^𝑡𝑡 (⋅, 𝜽𝜽 ^𝑡𝑡 ) 𝒛𝒛 ^𝑡𝑡−1

上記の表現の両辺を

𝑧𝑧 _𝑛𝑛 = 𝒛𝒛 _𝑛𝑛

に関して点

𝒛𝒛 = 𝒛𝒛 ^𝑡𝑡−1

で偏微分すると、

𝒛𝒛 ^𝑡𝑡

表記法

関数

𝑓𝑓

の

𝑛𝑛

番目の変数に関する偏微分を

𝜕𝜕 _𝑛𝑛 𝑓𝑓

と書く。

(5)

誤差逆伝播法（

Back propagation

）

𝐺𝐺 _𝑡𝑡+1 ^𝑇𝑇 ⋅, 𝚯𝚯 _𝑡𝑡+1 ^𝑇𝑇 𝒈𝒈 ^𝑡𝑡 ⋅, 𝜽𝜽 ^𝑡𝑡

𝑮𝑮 ₁ ^𝑡𝑡−1 ⋅, 𝚯𝚯 ₁ ^𝑡𝑡−1

𝒙𝒙 𝒛𝒛 ^𝑡𝑡−1 𝒛𝒛 ^𝑡𝑡

𝜕𝜕 _𝑛𝑛 𝐺𝐺 _𝑡𝑡+1 ^𝑇𝑇 𝒛𝒛 ^𝑡𝑡 , 𝚯𝚯 _𝑡𝑡+1 ^𝑇𝑇 {𝜕𝜕 _𝑛𝑛 𝐺𝐺 _𝑡𝑡 ^𝑇𝑇 𝒛𝒛 ^𝑡𝑡−1 , 𝚯𝚯 _𝑡𝑡 ^𝑇𝑇 }

逆伝播により、出力側から勾配を順に計算する。

𝜕𝜕

𝜕𝜕𝜃𝜃 _𝑖𝑖 ^𝑡𝑡 𝐺𝐺 ₁ ^𝑇𝑇 𝒙𝒙, 𝚯𝚯 ₁ ^𝑇𝑇

手順１

順伝播により、

𝒛𝒛 ^𝑡𝑡 , 𝜕𝜕𝒈𝒈 ^𝑡𝑡 𝒛𝒛 ^𝑡𝑡−1 , 𝜽𝜽 ^𝑡𝑡 /𝜕𝜕𝜃𝜃 _𝑖𝑖 ^𝑡𝑡 , 𝜕𝜕 _𝑛𝑛 𝒈𝒈 ^𝑡𝑡 𝒛𝒛 ^𝑡𝑡−1 , 𝜽𝜽 ^𝑡𝑡

を計算する。

手順２

(6)

計算グラフ

計算結果が誤差逆伝播法による計算結果と等価になるように、

ノード間でやり取りされるメッセージを定義する。

𝑔𝑔 _𝑛𝑛 ^𝑡𝑡−1 𝑔𝑔 _𝑛𝑛 ^𝑡𝑡

^′

𝑔𝑔 ^𝑡𝑡+1 𝑔𝑔 ₁ ^𝑡𝑡+1

𝛿𝛿 _{𝑛𝑛←𝑛𝑛} ^𝑡𝑡

^′

𝛿𝛿 _𝑛𝑛 ^𝑡𝑡+1

^′

_←1

𝛿𝛿 _𝑛𝑛 ^𝑡𝑡+1

^′

_←𝑁𝑁

_𝑡𝑡+1

𝛿𝛿 ^𝑡𝑡 = 𝜕𝜕 𝑔𝑔 ^𝑡𝑡 (𝒛𝒛 ^𝑡𝑡−1 , 𝜽𝜽 ^𝑡𝑡 ) �

𝑁𝑁

_𝑡𝑡+1

𝛿𝛿 ^𝑡𝑡+1 𝑔𝑔 ^𝑡𝑡−1

𝑔𝑔 ₁ ^𝑡𝑡−1

𝑧𝑧 ₁ ^𝑡𝑡−1

𝑧𝑧 _𝑁𝑁 ^𝑡𝑡−1

_𝑡𝑡−1

関数

𝑔𝑔 _𝑛𝑛 ^𝑡𝑡

を

𝑡𝑡

層

𝑛𝑛

番目のノードに対応付ける。

𝛿𝛿 _{𝑛𝑛←𝑛𝑛} ^𝑡𝑡

^′：

𝑡𝑡

層

𝑛𝑛 ^′

番目のノードから

𝑡𝑡 − 1

層

𝑛𝑛

番目のノードに送られるメッセージ

・・・

・・・・・・

(7)

計算結果の等価性

𝛿𝛿 _{𝑛𝑛←𝑛𝑛} ^𝑡𝑡

^′

= 𝜕𝜕 _𝑛𝑛 𝑔𝑔 _𝑛𝑛 ^𝑡𝑡

^′

𝒛𝒛 ^𝑡𝑡−1 , 𝜽𝜽 ^𝑡𝑡 𝜕𝜕 _𝑛𝑛

^′

𝐺𝐺 _𝑡𝑡+1 ^𝑇𝑇 𝒛𝒛 ^𝑡𝑡 , 𝚯𝚯 _𝑡𝑡+1 ^𝑇𝑇 .

誤差逆伝播法

𝜕𝜕 _𝑛𝑛 𝐺𝐺 _𝑡𝑡 ^𝑇𝑇 𝒛𝒛 ^𝑡𝑡−1 , 𝚯𝚯 _𝑡𝑡 ^𝑇𝑇 = �

𝑛𝑛

^′

=1 𝑁𝑁

_𝑡𝑡

𝜕𝜕 _𝑛𝑛 𝑔𝑔 _𝑛𝑛 ^𝑡𝑡

^′

𝒛𝒛 ^𝑡𝑡−1 , 𝜽𝜽 ^𝑡𝑡 𝜕𝜕 _𝑛𝑛

^′

𝐺𝐺 _𝑡𝑡+1 ^𝑇𝑇 𝒛𝒛 ^𝑡𝑡 , 𝚯𝚯 _𝑡𝑡+1 ^𝑇𝑇 .

計算グラフ

𝛿𝛿 _{𝑛𝑛←𝑛𝑛} ^𝑡𝑡−1

^′

= 𝜕𝜕 _𝑛𝑛 𝑔𝑔 _𝑛𝑛 ^𝑡𝑡−1

^′

(𝒛𝒛 ^𝑡𝑡−2 , 𝜽𝜽 ^𝑡𝑡−1 ) �

𝑛𝑛

^′′

=1 𝑁𝑁

_𝑡𝑡

𝛿𝛿 _𝑛𝑛 ^𝑡𝑡

^′

_←𝑛𝑛

^′′

= 𝜕𝜕 _𝑛𝑛 𝑔𝑔 _𝑛𝑛 ^𝑡𝑡−1

^′

𝒛𝒛 ^𝑡𝑡−2 , 𝜽𝜽 ^𝑡𝑡−1 𝜕𝜕 _𝑛𝑛

^′

𝐺𝐺 _𝑡𝑡 ^𝑇𝑇 𝒛𝒛 ^𝑡𝑡−1 , 𝚯𝚯 _𝑡𝑡 ^𝑇𝑇 .

帰納法による証明のスケッチ

∎

三つの添え字を持つメッセージ

𝛿𝛿 _{𝑛𝑛←𝑛𝑛} ^𝑡𝑡

^′（３階のテンソル）が計算グラフ上を流れる。

TensorFlow

の名前の由来

最後の等号は、帰納法の仮定と逆伝播の定義式から従う。

(8)

計算グラフによる勾配計算

𝑔𝑔 _𝑛𝑛 ^𝑡𝑡 ・・・

𝜃𝜃 _𝑖𝑖 ^𝑡𝑡

𝑔𝑔 ₁ ^𝑡𝑡+1

𝑔𝑔 _𝑁𝑁 ^𝑡𝑡+1

_𝑡𝑡+1

入力メッセージの和を取り、宛先ノードに関する偏微分をかける。

𝛿𝛿 _𝑛𝑛←1 ^𝑡𝑡+1

𝛿𝛿 _{𝑛𝑛←𝑁𝑁} ^𝑡𝑡+1

_𝑡𝑡+1

𝜕𝜕𝑔𝑔 _𝑛𝑛 ^𝑡𝑡

𝜕𝜕𝜃𝜃 _𝑖𝑖 ^𝑡𝑡 𝜕𝜕 _𝑛𝑛 𝐺𝐺 _𝑡𝑡+1 ^𝑇𝑇

𝜃𝜃 _𝑖𝑖 ^𝑡𝑡

𝑔𝑔 ₁ ^𝑡𝑡

𝑔𝑔 _𝑁𝑁 ^𝑡𝑡

_𝑡𝑡

・・・

𝜕𝜕𝑔𝑔 ₁ ^𝑡𝑡

𝜕𝜕𝜃𝜃 _𝑖𝑖 ^𝑡𝑡 𝜕𝜕 ₁ 𝐺𝐺 _𝑡𝑡+1 ^𝑇𝑇

𝜕𝜕𝑔𝑔 _𝑁𝑁 ^𝑡𝑡

_𝑡𝑡

𝜕𝜕𝜃𝜃 _𝑖𝑖 ^𝑡𝑡 𝜕𝜕 _𝑁𝑁

_𝑡𝑡

𝐺𝐺 _𝑡𝑡+1 ^𝑇𝑇

入力メッセージの和を取る。

通信理論に特化した深層学習 第６回ゼミ資料 誤差逆伝播法