大脳視覚野におけるV1野 - IT野を模した階層型SOMのパターン分類能力

全文

(1)数理モデル化と問題解決 42−７. （２００２．１１．２８）. 大脳視覚野における. Î½ 野¹ÁÌ 野を模した階層型 ËÇÅ のパターン分類能力聡Ý. 加藤. 下. 博ÝÝ. 平. 堀口. 進ÝÝ.

(2)

(3) . のは入力信号の集合におけるトポロジカル（位相的）な情報を可能な限り保存しつつ，多次元の入力信号をより低次元の空間に写像できる教師なしの神経回路網モデルであり，パターン認識や大脳皮質の様々な領野のモデル化等に応用されている．近年サ野と呼ばれる領野において中程度に複雑な図形に対しルを用いた生理学的実験により，視覚野のて選択性を持つ神経細胞が発見されたが，これらの神経細胞がどのようにして図形に対する選択性をを用いたモデル化の試みはなされていない．獲得するかについて，野と野の特徴抽出細胞および野から野，野本論文では，大脳視覚野における野に至る階層的な神経投射関係に着目し，を階層的に用いたを提案すを経てる．人工的な幾何学図形の分類実験では，階層化を行なわない基本と比較して，より自然な形態の分類が行なわれることが確認された．また，手書き数字を用いたパターン認識実験を行なった結は基本と比較して高い認識率が得られることが分かった．果，. . . . . . . . . . . .

(4)

(5) Ý

(6) ÝÝ

(7) ÝÝ

(8)

(9)

(10)

(11)

(12)

(13) ! " # #

(14) "

(15) "

(16)

(17) !

(18) !

(19) "

(20)

(21) #$

(22) ! #!

(23) !! # !

(24) "

(25)

(26) %!"

(27) "

(28) &

(29) $ ' #!%

(30) ! " #! # # % ! # (# " "! #

(31)

(32) !!

(33) # !

(34)

(35)

(36) "%

(37) # !) &% % #

(38) ) "!$ *. ! "

(39) &! ! #

(40) #+ #! !% ! # "! #

(41)

(42) !! $

(43) !

(44) " ! ! " #! # &! !

(45)

(46)

(47)

(48) !

(49) # #

(50)

(51) ,#! " !

(52)

(53) ! !

(54)

(55)

(56)

(57)

(58)

(59) # !)$ - #

(60) &!

(61)

(62) & !% #

(63) (#

(64) ! " "! #

(65)

(66) !! !

(67)

(68) &!

(69)

(70) & !%

(71) !! # ! &% !

(72) !! !$ . !

(73) ! !

(74)

(75) & ! #

(76) (#

(77) !

(78)

(79) !! . # ! #"

(80) ! &

(81) # $. アルゴリズムを段階的に適用した階層型（以下）を構築し，野における特徴抽出細胞と同様に，特定の慮して，階層型ネットワークに. まえがき. の自己組織化マップは，入力信号空間における個々の入力信号間の位相構造を反映した特. 幾何学図形に対して選択的に応ずるノードが自己組織的. 徴マップを，学習によって形成する事ができ，クラスタ. に形成されることを報告している．しかしながら，大. リング問題やパターン認識に応用されている．さらに，. 脳視覚野を模した. を大脳視覚野のモデル化に適用する試みも行なわれており，

(82) らは，第次視覚野（以下，野）における方位選択性カラム構造がによって再. 現されることを示した．. らによる生理学的実験により，サルの大脳の下部側頭葉皮質野（以下野）において，中程近年，. 度に複雑な幾何学図形に選択的に応答する神経細胞が多数存在することが報告されている．加藤らは，これらの細胞に対して，視覚野における各領野の階層的連絡を考. いては未だ十分な考察がなされていない．大脳視覚野における生理学的知見に基づく階層型の教師なし神経回路網モデルとしては，福島のネオコグニト. については，

(83) らによるクラスタリング問題への適用や，らによる文字認識への応用が報告されている．は，ネオコグニトロンと同じく大脳視ロンが挙げられる．また，階層型. 覚野における生理学的知見に基づいて提案された階層型の神経回路網モデルであるが，ネオコグニトロンとは異なり，. Ý 松江工業高等専門学校. .

(84)

(85)

(86) . ÝÝ 北陸先端科学技術大学院大学. のパターン分類能力につ. 野および野における特徴抽出細胞や，野および野を経て野に至るまでの階. 野から. 層的な神経投射等の事実に基づいて，より生体に近い構造で形態の知覚を行なう神経回路網を構築することを目. −25−.

(87) 的としている．本報告では，. における図形. j. 分類の特性およびパターン認識性能について議論する． i. 基本と . Response (Layer2’s Input). k. w ij. Image data. 基本の構成と学習アルゴリズム. が提案した基本は１つの入力層と１においておよび

(88) のみで構成される．競合層の各ユニッつの競合層を持ち，図. Input-layer. トをノードと呼び，入力層の番目のユニットと競合層の番目のノードの結合には，結合加重 . . competitive-layer1. られている．競合層のノードは入力層のユニットと完全結合しているので，ノードは結合加重ベクトルを持つとみなす事が出来る．以下に，ズムの手順を示す．. 入力ベクトルの呈示勝者ノードの決定：次式に従い，と最も良く一致する結合重みベクトルを持つ競合層のノードを決定する．ノードを勝者ノードと呼ぶ． . .

(89) . 重みベクトルの更新：勝者ノードおよびそ. の近傍に属するノードの重みベクトルの各要素 . # " ! $% & & " ' ここで，は学習率であり，! !

(90) ! の範囲で経 . . . . . 験的に決定される量である．.

(91) 学習時刻の更新：. . . 階で既に方位選択性を獲得しており，入力層に呈示された幾何学図形を構成する複数の線分に対して，. 層の. . ここで，は入力ベクトルであり，は層のノードにおける重みベクトルである．は層全体で出力ベクトルを構成し，層はを入力ベクトルとして学習を行なう．第段階の学習終了後，出力競合 . (% . . . 層の各ノードは特定の図形に対する選択性を持つようになる．. 対象図形およびの構成. を次式に従って修正する． . competitive-layer2. . . . jk. 各ノードが次式に基づいた出力値を出す．. が持つ重みベクトルを乱数によって初期化する．. . 図. 学習アルゴリ. ! において，各ノード. 初期化：学習回数 . w. が与え. & とし，学習時刻. を更新する．. から

(92) の操作を繰り返すことにより学. 分類実験には，入力集合として表. に示すような ) 種. 種類の三角形合わせて９種類のサンプル !* 個である．幾何学図形は '! '! 画素のビットマップ画像であるため，基本，共に入力層の大きさは '! '! とする．基本の競合層のノード数はサンプル数と同じ + 個とし，においては層のノード数を !! 個，層のノード数を + 個とした．また，類の四角形と. 図形を用いた．学習サンプルの合計は. 習が進められる．なお，近傍半径と学習率はの増. 競合層の各ノードは四角形格子状に結合しているものと. 加に対して単調減少させる．. する．さらに，. . による幾何学図形の学習. は基本に競合層を追加した物であり，図の様に構成される．の学習は階層型と同様，段階で行なわれる．まず第段階として，入力層に任意の位置および傾きを持つ線分図形を. 層の学習層への入力信号の伝達は行なわれない．第段階の学習によって，層の各ノードは，特定の位置および傾きに対する選択性を獲得する．が一般的な階層型と異なる所は，第段階の学習時に，第段階の学習に用いる幾何学図形の部分構造を層に対して学習させ. 呈示することにより，中間競合層以下，を行なう．この時，出力競合層以下，. る事である．第. 段階の学習では，入力層には任意の形状の幾何学層の各ノードは第段. 図形を呈示する．このとき，. 層には事前にランダムな中心位置と傾. きを持つ直線の画像を学習させた．学習時のパラメータ. !!!!! 回，近傍半径の初期値，学習率の初期値 ! とした．. は，学習回数. 分類結果の比較. およびにおいて，競合層の各ノードが受け持つ図形集合を表したものを表，表 ' に示す．いずれの場合も表と一致した分類を行なっていないことが分かる．次に，表における図形の分類を考基本. えずに，三角形，四角形の分類がどれだけ良く行なわれているかについて検討する．あるノードが受け持つ図形集合に含まれる図形の総数をとし，その図形集合に含まれる三角形と四角形のうち，多い方の個数を. . として，ノードにおける三角形と四角形の分離度を. に近いほど分離度は高く， !,- に近いほど分離度が低いと言える．. 次のように定義する．が . −26−. が.

(93) 表. ! " # $ % &. クラスタリング実験に用いた幾何学図形. ! " # $ % &. . ' ( 表. による幾何学図形の分類結果. . ' . 基本. . . (. による幾何学図形の分類結果. . . 表. . ! " # $. 基本離度. . および. . 表. & ' (. . における三角形と四角形の分. ) *&'. 分離度（平均値）. %. . + . 層の変換前後における + . . "$&'& %!%& !#%" !!"*&. の比較. + . . .. るクラス内分散の平均およびクラス間分散 . をそれぞれ以下のように定義する．. . . . . . . . . . . .. . . . . .. . - - 式によって求めた分離度をまとめたものを表に示す．は基本と比較して，三角形と . . 表. . . . . . . / ). ここで，はにおける総クラス数，はクラス. .. .. 四角形という大まかな図形特徴に関しては良く分離して. に属するベクトルの総数，およびはそれぞれクラ. いると言える．. スおよび.

(94) 層による変換前後の入力集合の性質. との幾何学図形の分離度の違層への入力ベクトルとなる層の出力ベクトルの性質の違いによってもたらされていると考えられる．そこで，表で基本. いは，入力層への入力ベクトルと，. . . に属するベクトルの平均ベクトルである．. .. / 式，) 式にお. におけるおよびは，. いてをに置き換えて，の場合と同様に定義するものとする．. 示される９種類の幾何学図形のそれぞれをクラスと見な. - に，とにおけるおよび . の値 . の値は共に減少しているが，を示す．および . の減少が特に著しく，結果として . の . し，入力層への入力ベクトル. 値が増加していることが分かる．すなわち，と比較し. の集合と層により変換を受けた層への入力ベクトルの集合の. 性質を比較する．. 表. てではクラス内分散がクラス間分散に対して相対的. 層によって元の入力集. に減少した事を意味しており，. いま，においてクラスに属するベクトルを，. においてクラスに属するベクトルをとし，におけ. −27−. 合が比較的分離しやすい状態に変換されたと考えられる．さらに，における場合とにおける場合とで入力.

(95) 図形に対しクラスタ分析を行なった．その結果，の場. 表. 合では四角形同士の局所的な併合がほとんど見られないのに対し，の場合では三角形および四角形がそれぞれ局所的に併合されていることが分かった．以上のことから，における元の図形集合が. 層に. " ) 位認識率 ,-. &'(* !位 (' "位 (#!$. 手書き数字に対する基本およびにおける位から位までの認識率. . . よってに変換されることにより，図形の持つ特徴がより正確に反映され，結果として. において. . ら，入力信号の部分的構造を利用した. にお. 層による入力信号の変換が，入力信号の分離. 構造の異なる図形の分類が正しく行なわれていると考え. いて，. られる．. の容易性を高める作用がある事が認識率の上からも確認. 手書き数字認識による基本とのパターン認識性能の比較. された．また，. いパターン認識性能を持つ事が分かった．. むすび. 手書き数字データベースおよびの構成. 認識実験には，手書き数字データベースである 0 1$ 1% 1 % を用いた．/!!!! 字分のデータベースから，'!!! 字を学習用としてランダムに抽出し，同様に !!! 字をテスト用として抽出した．基本，共に入力層には '! '! のユニットを配置し，の層には ! !，基本の競合層およびの層にはのノードをそれぞれ四角形格子状に配置した．学習回数は. 本論文では，大脳視覚野における. 野及び野の. 階層性と，それぞれにおける視覚情報処理の性質に着目し，視覚情報の部分的構造をあらかじめ学習させた上で特徴抽出器として用いる学図形の分類実験では，. を提案した．幾何層は入力信号のクラス内分. 散をクラス間分散と比較して相対的に低くする働きがある事を示し，. は基本と比較してより. 自然な図形の分類が出来ることを示した．さらに，手書. 線画像に加えて，ランダムな中心位置，直径および始点. に対する有効性を確認した．今回提案したでは，予め層に線分あるいは線分と円弧を学習させており，従って . による中心角. の学習結果は，未知の入力集合に対して入力信号の部分. いずれも. -!!!!! 回とし，近傍半径の初期値 '， ! とした．また， . は基本と比較して高. 学習率の初期値の. 層には事前にランダムな中心位置と傾きを持つ直. . *! 度の円弧を学習させた．. 学習終了後の文字認識手法. 行なうものとする．. ：学習終了後のに対して学習図形を . の出力. の基本. において入力信号の部分構造を適応的に学習させ構造を必ずしも正確に反映したものとはならない．. 本稿では以下に示す手順によって認識クラスの決定を. 呈示した時の，競合層のノード. き数字によるパターン認識実験を行ない，. . る手法の提案と実装が今後の課題である．. を次のよう. に定義する． . (% . . . . *. ：競合層の出力ベクトルを生成する． 2

(96) 3 + ここで，は競合層の総ノード数である．. ：クラスに属する図形群に対する出力ベ . を求める．. を以下ではラベルベク . クトルの平均トルと呼ぶ．. ：テスト図形の呈示に対して得られる出. 力ベクトルをとする．.

(97) ：ともっとも近いマハラノビス距離を持 . を求め，その時のを認識クラスつラベルベクトルとする．. 手書き数字に対する認識実験結果. / に基本およびそれぞれにお位から ' 位までの認識率を示す．表 / より，は基本に比表. ける，テスト用サンプルに対する. べて高い認識率が得られる事が確認された．このことか. −28−. 参. 考. 文. 献. , 4 5# 6 %7 81 4 ++-, ,

(98) 4 8,9 1 ,( : 5; ( # #

(99) # % % ( # ( ( #

(100) %74 < (, 0 , ;( 1, (, =;4 ,*)4 ,*'->*'+4 ++!, ' ? 4 #@ 1 @ A 5B( ((

(101) A #

(102) ( C 1 (

(103) 7 0 %(( 9% (4 ,'4 ,''>/4 ++*, 4 D

(104)

(105) 1 %

(106) 8 (4 5 1

(107) 1 $ ( ( % 1 7 < (,;00E+*4 ,4 ,!!'>!!*， ++*, - 福島邦彦4 5神経回路と情報処理7 朝倉書店4 +*+, / FA

(108) 1 G A @ ，5% % # (( %# 6

(109) %,7 F #

(110) (

(111) 1 %， ,，,/>)，++． ) <, 0, 4 58 (( 1 E% # ( %%H( ,7 GGG %, 0 0$ A%4 ,!4 0,4 ,+'>+/4 +++,.

(112)