table
ID 0 ID 1 ID 2
図 機能シフト法のによる結合重みの獲得例
表 機能シフト法で使用される変数図の例
6
いうことになる.物理1>は最上位ニューロンから順に( である.ま た,(のニューロンが故障しているものとすると,各ニューロンの状態フラグ は (のニューロンのみである( .このとき,故障数は(の ニューロンのみとなり(,それ以外のニューロンの故障数はとなる.
故障フラグと論理1>から,実行に使用されるニューロンは( のニューロ ンとなる.これらのニューロンには?<@から対応する結合重みが割り当 てられる.(の故障ニューロンには結合重みとしてが割り当てられる.表 に図の例の各ニューロンの物理1>,状態フラグ,故障数,更新後の論理1>を 示す.
故障補償能力を持つ階層型ニューラルネットワーク の設計とその評価
図に示したバス結合型をもとに,機能シフト法による故障補償が可能 な階層型の回路設計を行った.設計した回路の構成を図に示す.図中の
は機能シフト法による故障補償を実現するための制御回路 であり,の実行を開始する前に中間層と出力層の故障数の計算や,論理1>の 更新,各ニューロンへの結合重みの割り当て制御等を行う.入力層・中間層間に配 置した入力選択回路 は入力データを順番に中間層のニューロンへ送 る. とは異なり,中間層・出力層間に配置した入力選択回路
では中間層に存在する故障ニューロンの出力を取り除くための制御も行ってい る.これらの入力選択回路により,ニューロンの出力は一つずつ次層のニューロ ンに送られるので,入力層の出力階層型回路への入力データと中間層の出 力を一度レジスタに格納し,順番に次層へ送るものとした.この階層型 回路 には学習機能が含まれないため,外部のコンピュータ上で重み学習のためのプロ グラムを実行し,その結果得られた値を結合重みとして使用する.得られた結合 重みは?<@として予め回路に与えておく.また,この回路は故障検出回 路も実装していないため,ニューロンの状態を表す状態フラグも変数として予め 回路に与えておく.
Input data Output data Weight Table Weight
Controller
Variable Controller
reg reg
Selector A Selector B
Middle layer’s neurons
Output layer’s neurons
図 故障補償能力を持つ階層型の回路構成
表 故障補償有+無の回路構成
故障補償機能なし回路 故障補償機能付き回路
ニューロン ニューロン
入力層・中間層セレクタ 入力層・中間層セレクタ 中間層・出力層セレクタ 中間層・出力層セレクタ
? <@ ? <@
B 機能シフト制御回路
重み獲得回路 重み獲得回路
レジスタ レジスタ
バス結合型回路に機能シフト法による故障補償能力を追加することによる ハードウェア・オーバーヘッドを評価するため,故障補償機能付き階層型 と 故障補償機能なし階層型の回路規模を比較する.設計した回路は/<9'社 の回路合成ツールである"&8%- 11を用いて$%上にマッピングし,その 回路規模を見積もった.比較する 種類の回路構成を表 にまとめる.大きな違 いは,故障補償機能付き回路に機能シフト制御回路と機能シフト法で用いる 変数を保持するためのレジスタが追加されている点である.また,故障補償機能 付き回路の中間層・出力層間の入力選択回路は中間層に存在する故障ニューロ ンの出力を削除する機能を有する.故障補償機能なし回路では,中間層・出力 層間の入力選択回路は入力層・中間層間の入力選択回路と同じ構成となっている.
さらに,重み獲得回路には,故障ニューロンに結合重みとしてすべての値を割り 当てる機能を追加した.故障補償機能なし回路の重み獲得回路では,?
<@に格納されている結合重みを順番に各ニューロンに割り当てるだけである.
ニューロンの回路構成とネットワークアーキテクチャは故障補償の有無に関わらず 等しく,ニューロンは図に示した回路を使用し,ネットワークアーキテクチャ は図に示したバス型接続である.
図 に設計した つの階層型回路の回路規模を示す.縦軸は回路規模ゲー ト数を表し,横軸はネットワークサイズを表す.結合重みはビットとした.機 能シフト法に必要な回路の回路規模のみを評価するために,故障補償機能付き
0 10 20 30 40
(4,4,4) (8,8,8) (16,16,16) (32,32,32) NN without function shifting
NN with function shifting
Network size
Number of gates (Kgates)
4.12 4.22
7.72 8.72
14.82
19.96
28.82
35.14
図 階層型の回路規模
回路のネットワークサイズは予備ニューロンも含んだサイズとした.つまり,ここ で示した故障補償機能付き回路は縮退型であり,中間層,出力層で使用でき るニューロン数が予備ニューロンの分だけ少なくなる.を実装した 場合,故障補償機能なし回路は最大での実行が可能であるのに 対し,故障補償機能付き回路では の実行が可能であり,
故障補償機能の有無で実行に使用できるニューロン数が異なることになる.
図 より,故障補償機能付き回路の回路量は故障補償機能なし回路に 比べ,約 CからCの増加がみられる.両方の回路に含まれるニューロン数は等 しいので,この回路量の増加は機能シフト法のための追加回路によるものと考え られる.表に,,, の場合 の故障補償の有無による入力選択回路と機能シフト制御回路の回路規模を示す.故 障補償機能付き回路の中間層・出力層間の入力選択回路には論理1>と状態フ ラグ,故障数が制御用の信号として入力され,故障ニューロンの出力を取り除くた
表 セレクタと機能シフト法制御回路の回路規模
,-)) ))
$<なし $<あり $<なし $<あり
入力層・中間層セレクタ
中間層・出力層セレクタ
機能シフト制御回路 B B
)) ) )
$<なし $<あり $<なし $<あり
入力層+中間層セレクタ
中間層+出力層セレクタ
機能シフト制御回路 B B
めの制御を行っている.そのため,入力層・中間層間の入力選択回路よりも回路規 模が大きくなっている.また,ネットワーク規模が大きくなると制御用のデータ が増えるため,回路規模も増加する.同様に,機能シフト制御回路の回路規模も ネットワーク規模が大きくなるにつれて増加する.表に示した回路規模のデー タは各ユニットをそれぞれ回路合成ツールでマッピングした結果得られた回路規 模であり,階層型回路における各ユニットの実際の回路規模とは厳密には異 なる.
図 より,故障補償機能なし回路,故障補償機能付き回路ともに,ネッ トワーク規模に比例した回路規模の増加がみられる.故障補償機能付き回路で は,ネットワーク規模が倍になると回路規模はほぼ倍になる.ネットワーク構成を
から¼¼¼に変更した場合の回路の増加量は の回路規模をとすると
¼
(
¼
8
¼
8
¼
8 8
となる.ネットワークの大規模化に伴う回路の増加量を推定すると,各層に 個