砂時計型ニ ュー ラルネ ッ トワー クによる
時系列信 号の最大パ ワー周波 数成分 の抽 出
吉村
宏紀・ 菅田
一博 。井須
尚紀・ 清水
忠昭
知能情報工学科
(1995年9月 1日受理)
Extraction properties of frequency components in tilne series
signals for Sandglass Neural Network
by
Hiroki YosHIMURA,Kazuhiro SuGATA,Naoki lsu,Tadaaki SHIMIzu
Departmel■t of lnformation and Knowledge Engineering,Tottori Univer‐
sity
(Received September l,1995)
The multilayer perceptron called by Sandglass NeuraI Network,whose input layer and output layer have the same number of units and hidden layer has less units than
input and output layer,is considered to perform data compression for input signals.
We made clear the extraction properties of frequency components in time series signals for Sandglass Neural Net、vork This Sandglass Neural Network with two hidden units can extracts maxilnum poMrer component from the numerous frequency
components ln this extraction scheme,input signals are transformed by DF「 Γ betttreen
the input layer and the hidden layer and by IDFT between the hidden layer and the output layer Connection weights have the function of a revolvilag facter of DFT
Furthermore,M′ e proposed the cascade model of Sandgalss Neural Netlllorks with
t、vo hidden units to pick up the frequency components one after another in order of
their power
とは
,階
層型ニ ュー ラルネ ッ トワー クにお いて入力 層 と出 力層 の ユ ニ ッ ト数 を同数 と し,中
間層 のユ ニ ッ ト数 を入 出力層のユニ ッ ト数よ りも少な くした 構造 の もの をい う.ShlNは
,入
力信号 と教師信号 を 等 しく して学習 を行 う.学
習後 の学習誤差 を十分 に 小 さ くす る ことがで きれ ば,出
力信号 は入 力信号 と 同 じもの を出力す る ことが で きる。言 いか えれ ば, ShlNは,恒
等写像 を近似す るニ ュー ラル ネ ッ トワー クで ある.SNNを
用 いて,学
習 によ り学習誤差 を小 さ くす る ことができれ ば,情
報圧縮 を した ことにな る.また,学
習後の結合加重 を解析す る ことによ り, 入 力情報 をどのよ うに情報圧縮 して結合加重の中に 記憶 して いるか を解析できる. 訃Nは
提案 されて以来,音 声,画 像,脳 波な ど様 々 な信号 のデー タ圧縮 に利用 しよ うとす る試みがな さ れて きた00.ま
た,理論的考察や実験的検 証 も行わ れてお り,SNNの
情報圧縮能 力に関 して も明 らか に な って きた 。)。). 舟橋 ら161は,中間層ユニ ッ トN個
の 3層SNNに
つ いて,第 N番
目までの主成分分析 と情報圧縮 の能 力 は同等かそれ以下で ある ことを理 論的 に証明 して い る. Baldiら0は
,ユ
ニ ッ トの特性関数 を線形 にした 3層 SAINに お いて,結合加重 と学習パ ター ンの分散・ 共分散 との関係 を理論的 に解 析 した。 これ らによ り,3層
のSblNは,主
成分分析 と等価 な処理 を して いることが明 らか にな って いる. 3層 よ りも多い層数のSNNは
ネ ッ トワーク構造が 複雑なため に,ユ ニ ッ ト数 ,層 数 の変化 に ともな う情 報圧縮 能 力の違 いにつ いての理論 的解析 はほ とん ど 行われていな い。しか し,主 成分分析よ りも効率の良 い情報圧縮が行 えることが,様
々な予備的実験な ど で示 されて いる ① KO1 0ω。 しか し,入
力信号の幾 何学 的性質 に対 して,結
合加重 に どのよ うな形で特徴抽 出を行 い,出
力層のユニ ッ トが どのよ うな信号 を出 力す るか は明 らかでない. 本研 究では,時系列信号 に対 して ShlNが どのよ う に信号 の特徴 を抽 出す るか につ いて明 らかにするた ニ ッ トの個数が少なければ,入力信号 と同 じ出力信 号 を出す よ うに学習はできな く,入力信号 の持つ何 らかの特徴 を抽 出 して,結合力H重の中に記憶す る こ とが考え られ る. 我々は,時
系列信号が持 つ特徴 をSNNが
どのよ うに抽 出して中間層ユニ ッ トに記憶す るか を明 らか に した。つ ま り,中 間層 に2個 のユニ ッ トが あれば, 1つ の周波数成分 を抽 出 し,結
合加重の中にデ ジタ ル フー リエ変換の回転 因子 の形で記憶す る ことが分 かった。この とき,入
力信号 の中に含 まれているパ ワーの大 きい周波数成分か ら順番 に抽 出 され る。し たがって,中
間層のユニ ッ ト数が2個で あれ ば,最
大パ ワー の成分 が抽 出 され, 4個
で あれ ば最大パ ワーの成分 と2番目に大きいパ ワーの成分が抽 出さ れ る。以下,6個 ,8個
,…につ いて 同様 の結果が得 られた.2
学習データの作成及び学習法
本研究で用 いる SllNは,3層
の ShlNと す る。1層 目を入力層,2層
目を中間層,3層
目を出力層 と呼 び,本 研究では入力層及び 出力層 のユニ ッ ト数 を64 個に固定す る.中 間層ユニ ッ トの個数はいろいろ変 化 させて実験 を行 う. [定義11
入 力層及び出力層のユニ ッ ト数 を64個 と したので,時系列信号 を扱 う場合,64時
点 を時間の 単位 と考える.64時
点 の中に丁度F個の正弦波が含 まれ る場合,本
研究ではF(Hい
の正弦波 と呼ぶ. ニュー ラルネ ッ トワー クは,入 力信号を入力 した 時 に実際に出る出力信号 と教師信号 の学習誤差 を最 小にす るよ うに,結
合加重 を更新 して い く,この過 程 を学習 という.ここでは,入
力信号 とそれ に対す る教師信号 との対 を学習デー タ と呼ぶ.本研 究では ShlNに 入 力信号 を入 力 した時 の出力信号が,入 力信 号 と一致す るよ うに学習 を行 う。よ って教師 信号は 入 力信号 と同 じ信号である.図
1に,学
習方 法の模 式図を示す。鳥 取 大 学 工 学 部 研 究 報 告 第
26巻
学
習
デ
ー
タ｀
票
〒
∃
砂時計型 ニューラル ネットワーク 図1
学習の様 式図 学習 の対象 としては,時
系列信号 を与 える。SblN の入力層及び 出力層 のユニ ッ ト数がM個
の時,1つ の 学習デー タは学習対象の時系列信号x lnJ(n咄1',…) の連続 したM時
点 の系列 とす る.そして、1時点ずつ 時間 をず らした合計S組 の学習データを用意す る.学 習 アル ゴ リズムは誤差 逆伝搬学習法 とし,一
括学習 で学習 を行 う.学
習 の終 了条件 は,学
習誤差 の値が 零 にな るか,学
習回数が 3万 回 を超 えるまで とした。3
実験
3.1【
実験
1】単一正弦波の学習
実験1として,最も単純 な1つの正弦波による時系 列信号か ら学習データを作成 し,学 習 を行 った.正 弦 波の周波数 は,311zと した.本
実験 は,中 間層ユニ ッ トの数 を 1個 か ら3個 の場合 につ いて行 った,本実験 の 目的 は,学
習 データ に用 いた入力信号 を入 力 した 時の出力信号 が入 力信号 と一致す るには,中
間層ユ ニ ッ トの数が い くつ必要でかつ十分かを明 らかにす る ことで ある.以 下 に,実 験 に用 いた学習データを示 す。 入 力 信 号10知
30405060
(出力層のユニット番号) 出 力 信 号 (中 間 層 ユ ニ ッ ト1個) (c)出力 信 号 (中間層 ユ ニ ッ ト2個) 図2
学 習 後 の 入 出 力 信 号: n番
目の学習データ.: i番
目の入力層ユニットヘの入力信号,i番目の出 力層ユニットヘの教師信号,:
入力層,出力層のユニット数,M=64
:
全学習データの数。Sは 全位相の信号 が現われ るように決める.S≧ 64/FGり (この場合,Fは 3HzJな らばいくらでもよいが,我々はSを64と した。【
実験
1】学習結果
学習後のSNNの
入 力信号 と出力信号 の関係 を図2 に示す。ただ し,代
表的な 1つ のパ ター ンのみ を図 示 した。図 2に 示すよ うに,中
間層ユニ ッ ト2個の 時,全
入 力信号 に対 して,入
力信号 と同 じ位相 の正 弦波 を出力 した。中間層ユニ ッ トが 3個 の時 も同様い︶
畑
︲・
出早
︹︺
酬︲ｆ
る ﹁ つ 甲 Ｍ ｓ ω ， 。 ア ・ ω ｆ ・オ２ χ ・ １ １ 司 ｌ ｏ ， ω 〓 Ｘ ■ =。・
￨・層
:ひ署〉
=嚇
泌
1
・,S-1郁
鐙
ｌ ｌ (1と力層のユニット器号) (3)中円 層 ユ ニ ッ ト1から 出 力 層 へ の 結 合 加 重 (塩甲重噛
015 01 005 0 -005 ηl 015 02 (出力層のユニット番号) (b)中 間 層 ユ ニ ッ ト2から 出 力 層 へ の 結 合 加 重 (振棉) 0 3 6 9 12 15 18 21 2k服顧h涯段) (c)結合 加 重 の 振 幅 ス ペ ク トル ロ3
中 間 層 ユ ニ ッ ト2個の 時 の 結 合 加 重の結果となった。学習後の結合加重の値は
,入
力層
ユニット
i番目から中間層ユニット
j番目への値と中
間層ユニット
j番目から出力層ユニット
i番ロヘの
値とは,ほ ぼ同じ値となった。
中間層ユニ ッ トが 2個 の時の各 中間層ユニ ッ トか ら出力層ユニ ッ トヘの結合加重の値 を図 3-(a)(b) に示 す.さ
らに,各
中間層 ユ ニ ッ トか ら出力層ユ ニ ッ トヘの結合加重の振幅スペク トルを図3-(の に 示す 。図3-la),0),(C)よ
り,中
間層ユニ ッ トが2 1Elの時 の結合加 重は,学
習 に用 いた信号 と同 じ周波 数状 の値 をとる.ま
た,中
間層第 1ユ ニ ッ トか ら出 力層ユニ ッ トヘの結合加重 と中間層第 2ユ ニ ッ トか ら出力層ユニ ッ トヘの結合加重 は,位 相が90度 ずれ0 3 6 9 12 15 18 21 24(黒
敬周設数 ) 図4
結 合 加 重 の振 幅 スペ ク トル (中岡層ユニ ッ ト3個) た もの とな ってお り,デ
ジタル フー リエ変換の回転 因子 σyPA(Inlを構成 して いる. 中間層ユニ ッ トが 1個 の場合は,あ
る入 力信号 に 対 しては,入
力信号 と同 じ位相 の311zの正 弦波 を出 力 した。 しか し,入
力信号 と同 じ位相 の出力信号 を 出力できた入力に対 して,90度
位相 のずれた入 力信 号 の入 力に対 しては,出
力層ユニ ッ トの出力はほぼ 零 にな った。 中間層ユニ ッ トが3個 の場合,中 間層ユニ ッ ト2個 の場合 と同様 に,全
ての入 力信号 に対 して入 力 と出 力が一致 した。 しか し,中
間層ユニ ッ トか ら出力層 ユニ ッ トヘの結合加重の値は,雑
音がのった31‐Izの正弦波のようになっていた。中間層ユニット
j (■1,2,3)から出力層ユニットヘの結合加重の値の振
幅スペクトルを図
4に示す。
これ までの結果か ら単一の正弦波 を学習 させ る場 合 ,必 要でかつ十分な中間層のユニ ッ ト数 は2個 で あ る ことが分か った。3.2【
実験 2】 振 幅 の 異 な る2つ
の 同 じ周 波 数 の 正 弦波 の 学 習 実験1の結果よ り,中 間層ユニ ッ トの数が2個 で単 一の正弦波を学習によ り抽出することができる こと が分か った,実 験2以 降の実験は,中 間層ユニ ッ トを 2個 に限定 して学習 を行 い,SNNの
特徴抽 出の性質 を 調べる. ShlNは 中間層ユニ ッ ト2個 で 1つ の正弦波 を学習 によ り抽 出できるが,本
実験 では振幅の異な った信 号 に対 して どのよ うに振 る舞 うか を調べる。そ こで, 同一周波数ではあるが,振 幅の大 きさが異な る2つ の １ 結 ２ 結 卜 の 卜 の ツ ヘ ツ ヘ ニ 層 二 層 ユ カ ュ カ 層 出 重 層 出 重 問 ら 加 問 ら 加 中 か 合 中 か 合 ■ □鳥 取 大 学 工 学 部 研 究 報 告 第
26巻
(a)振幅1の3Hzの正 弦 波 を入 力 した 時 (出力 値) 6 4 (学習 パ ター ン) ― ・ ―一-11門用ユニット1 -―-0-中
阿肘ユニット2 (b)振幅06の311zの 正 弦 波 を 入 力 し た 時 図5
中間層 ユ ニ ッ トの 出 力値 正弦波の各々について,学 習データを作成し,1つ のSNNで
学習を行つた。以下に,311zの振幅1.0の正弦 波と振幅0.6の正弦波によって作成した学習データを 示す。 XP〃=F:り ￨テ Fり =。・
,・鱚
:a与
〉
=嚇
″
1
Xω
=PIガ P=a偽
中 層a暑
卜 嚇,>1
彗
デ
=:ユ権
宿
i,,こ
数
稜
1鎚
2重薯
憂
二
多
i子
・持
￨:1発
等
45踵
主
1送
蛭
7'i番
目
の
出
力
Sと
と
￡
岳
てこ
継
・
こ
こ
で
は
Sを“
と
し
た
ぃ
意
蜜
毛
嵐
R労
提
鼻
予
花
託
T卜
買
好
薯
暮
ご
吾
を
橿
雪
を出力 した。 図5‐(a)は ,学
習 デ ー タX(ln) Cn 12,'・ ・,64)を
■=0か
ら順番に入力した時の, 中間層ユニ ッ トの出力値 を表わ したグラフである。 同様に図5-(b)は ,学
習データX(あ)(■幻,1,…, 63)をn=0か
ら順番に入力 した時の,中間層ユニッ (入‖1カ層 のユニ ッ ト希 号) 図6
実験3(入
力信号 に対する出力信号) 卜の出力値を表わ したグラフである.これ らのグラ フより,振幅の大きさの大小は中間層ユニットの出 力の大小によって表わされていることが分かつた.3.3【
実験 制lHz未
満 の正弦波 の学習 実験 1, 実験2では,lIIz以 上の正弦波を学習の 対象とした。本実験では,lIIzを 満たない正弦波を 学習の対象とする.lIIz未 満の信号に対 しては,波
形の全体が入力層に入力されない。それでも,SNN
は学習できるかどうかを調べるのを目的とした実験 である。学習に用いた時系列信号を以下に示す。χω
=1労P
n=1,2,・ ・ ・,S‐ 1:
■番目の学習データ.IP : i番
目の入力層ユニットヘの入力信号, i番目の出力層ユニットヘの教師信号M :
入力層,出力層のユニット数,M64
s :
全学習データの数 ここではSを128とした。【
実験
3】学習結果
実験3につ いて,学
習後 の ShlNの 入 力信号 と出 力信号 との関係 を図6に示す 。(ただ し,1つ
のパ ター ンのみ示 した。)図6よ り明 らかなよ うに,ShlN は学習データで用いた全ての入力信号に対 して,入 力信号と同じ信号を出力できた。中間層ユニ ッ トか ら出力層ユニ ッ トヘの結合加重は,実
験1と同様に 学習データとして用 いた0.5周期の正弦波 となった。 さらに,中間層第 1ユ ニ ッ トか ら出力層への結合加 重 と中間層第2ユ
ニ ッ トか ら出力層への結合加重 は,位
相が90度ずれたものとなっていた.ガ
P=。
中π
a)与
1刺
島
Vl
(挙習′ヽター ン) ― ●――一―中阿用ユニット: ― ●-1'田 用ユニット2弦 波 を学 習 によ り抽 出で き る ことが分 か った。そ こ で2つ以 上 の周 波 数 成 分 を持 つ 時 系列 信 号 を学習 さ せ た 時,ShlNがどの よ うな もの を結 合 加 重 に抽 出す るか,また 出力信 号 は どの よ うな信 号 で あ るか を明 らか にす る。本 実 験 で は
,振
幅 の異 な る2つの周 波 数 の正弦波 の和 を学習 デー タに用 いて学習 を行 った. 以下 に,本
実 験 で用 い る学 習 デー タ を示 す 。 χ●)i n番
目の学習データ. Lω: i番
目の入力層ユニットヘの入力信号,i番目の出 力層ユニットヘの教師信号.:
入力層,出力層のユニット数.M64
:
全学習データの数,ここではSを64とした.【
実験
411学習結果
実験41こついて,学習後 のSNNの
入 力 と出力 との 関係 を図 7に 示す.(た
だ し,1パ
ター ンのみ示す.)SNNに
振幅 の異なる2つ の正弦波の和 を学習データ と して学習 させ た に もかかわ らず,SNNは
,学
習 データとして用いた全ての入力信号に対 して,振
幅 の大きい311zの正弦波を出力した。中間層ユニット か ら出力層ユニットヘの結合加重は,出
力した周波 数 と同じ311zの正弦波となっていた。ここでは示し ていないが,振
幅の異なる3つ 以上の正弦波の和に よ り作成 した学習データを学習させた場合も,中
間 層ユニ ッ トが2個 のShlNは 最大パワーの正弦波を出 力 した。4
中間層 ユ ニ ッ ト
2個
の
SNNの
カス
ケー ド接続 モデル
実験 4よ り中間層ユニ ッ ト数が 2個 の SblNは,学 習 に用 いた入 力信号の中で,最大パ ワー を持つ周波 数成分 を抽 出す る ことがわか った。そ こで,中間層 ユニ ッ ト2個 のShlNを カスケー ド接続 したモデルを 提案す る.図
8に モデルの構成 図を示す。このモデ ル を用 いる ことによ り,時系列信号か ら複数 の周波 数成分 を段階的 に抽 出できる ことを示す. (入出力旧 のユニ ッ ト番号) 図7
実験4(入
力信 号 に対 す る出力 信号) 0`‐…´ 05 05 ‐1 ‐15 ⊇ Ｍ Ｓ 入力層 1段 出 力 層 八カ層 2段 出力層 八カ層 3段 出力層 C↓ C:成 分Iを号2]lA-OJ C
D:成分1を号3 図8 SNNの
カス ケ ー ド接続 モ デル4.1【
実験5】 周 波 数 成 分 の 段 階 的 抽 出 本実験で用 いるShlNは 入力層及び 出力層のユニ ッ ト数 を64個,中
間層のユニ ッ ト数 を2個とす る。そ して,同
じ構造のSNNを
4段用意 した.成
分抽 出を 行 う信号 には,64時
点で 2周 期の方形波 (211z)を用 いた。この方形波 をカスケー ド1段 目のSNNの
学習 データとして学習 を行 った.1つの学習データは,方 形波の連続 した 64時 点 とした.全
学習データは,上
記の学習データに対 して 1時点ず つ時点 をず らして, 合計 64パ ター ン用意 した。 カスケー ド接続 したSNNの
各段 にお ける学習 は, 図 8に 示す よ うに 1段 目か ら順次行 った,1段
目の SblNは,方
形波 (信号A)を
学習データ と して用 い た.学
習終 了後,1段
目のSNNに
信号Aを
入 力 して 出力 (信号B)を
得た.信
号Aか
ら信号Bを
差 し引黄郭
↓(A-8){鳥 取 大 学 工 学 部 研 究 報 告 第
26巻
き,残
差信号 (信号A‐B)と
した,以
上の方法で,各
学習データ ごとに信号A―Bを
求めた。2段目のSNN
は,信号A―Bを学習データとした.以下,学習終了後 のSNNで
求めた残差信号を次の段の学習データとし 入 .出 力 層 の ユ ニ ク ト ''(a)1段
日の 入 出 力 波 形 ― 八 カFa, ―― 出 力 ほ = (1段日 の 及 笠 Fa,〕 八 出 力 層 の ユ ニ ッ トと,(b)2段
日の入 出 力波 形 図9
カ ス ケ ー ド各 段 の 入 出 力 波 形 I口や門,ユ ニットュロ 中r・BIユ ニット21 ´ノ″1段 日 図10 SNN各
段 の 中 間 層 か ら出 力層 へ か け て の 結 合 加 重 の パ ワ ー ス ペ ク トル 図11 8個
の 中 間 層 か ら出 力 層 にか け て の 結 合 加 重 の パ ワ ー ス ペ ク トル た。本実験では,上
記の処理 を4段目まで行 った。 4段 カスケー ド接続 したSNNの
モデル は,中
間層 ユニ ッ トを2(個
)×
4(段)=8(個 )用
いて いる. このモデル との比較対象 として,本
実験 では,中
間 届ユニ ッ ト8個,入
力層及び出力層のユニ ッ ト64個 の 1段 の ShlNに つ いて,提
案 したカスケー ド接続 し たSNNで
学習 させ た もの と同 じ方 形波 を学 習 させ た。4.2【
実験5】 実 験 結 果 学習終 了後 のカスケー ド1段 目と2段 目の SblNに つ いて,入
力信号 に対す る出力信号 をそれぞ れ 図 9 ① (blに 示す。図9に 示すよ うに,1段目の SblNは, 入 力信号 と同位相の正弦波 を出力 した。出力 された 正弦波は,211zで あった。他の位相 の方 形波 の入 力 に対 して も,SNNは
入 力信号 と同位相の2Hzの正弦 波 を出力 した。また,2段
目のSNNは ,1段
目の残差 信号の入力に対 して,6Hzの
正弦波 を出力 した.以
下,3段
目の ShlNは llltの 正弦波 を,4段
目のSNN
は 14Hzの 正弦波 をそれぞれ出力 した。カスケー ド接 続各段の出力信号 を足 し合わせ る と,方
形波 を近似 した波形 とな った。中間層ユニ ッ ト数 が 8個 の ShlN の場合 も,学
習終 了後 の SblNは,同様 の近似 波形 を 出力 した. カスケー ド接続 した各段のSllNに つ いて,中 間層 か ら出力層 にか けての結合加重の振幅 スペ ク トル を 図10に示す。図10より各段の結合加重の振幅 スペ ク トルは,各
段の出力信号である正弦波の周波数 と一 致 した。一方,中間層ユニ ッ ト数が 8個 の SblNに お いては,図
Hに
示す よ うに,そ
れぞれ の 中間層ユ ニ ッ トか ら出力層への結合加重の振幅スペク トルは, 複数の周波数成分 を持つ ことが分か る。5
ま とめ
5,l SNNに
よる周波数成分の抽出能力
実験
1から,1つ の正弦波を入力信号としたとき
,学習により入力信号と出力信号を一致させるには
, 中間層ユニ ッ トの数 は 2個 で必要かつ十分で ある こ とが分か った.そ
こで,実
験 2か らは,全
て 中間層 ユニ ッ トの数 を2個 に限定 し,実
験 を行 った。その 結果,中間層ユニ ッ ト2個 のSNNの
信号成分抽 出能 力及び結合加重 につ いて次のよ うな性質が明 らか と ￨―八加 ,(方 形演)一 出加 争 ￨トヘの結合加重 と中間層第2ユ ニ ッ トか ら 出力層 ユニ ッ トヘ の結合加重 は位相が 90 度ずれた もの とな る [性質
3]入
力信号 の振 幅 の大 き さ違 いは中間層ユ ニ ッ トの出力の大きさで表わされる. [性質4]成
分 として複数の正弦波 を持つ時系列信号 に対 して,最大パ ワーの正弦波 を抽出す る [性質5]1:乾
未満 の正弦波の描 出 も可能である これ らの性質か ら,SblNの 入力層か ら中間層,中 間層か ら出力層 の間で,フー リエ変換,フー リエ逆 変換 を行 い,信
号 を抽 出 して いる。[性質1][性質21 に示す よ うに,中
間層第1ユニ ッ トか ら出力層ユ ニ ッ トヘの結合加重 と中間層第 2ユ ニ ッ トか ら出力 層へ の結合加重 は,90度
位相がずれている。この性 質は入 力層ユニ ッ トか ら中間相ユニ ッ トヘの結合加 重 も同様 正弦波,余
弦波 に対応 して いる。つま り, 結合加重が,回転 因子役割 を果た していると考え ら れ る。また,[性質3]で示 したよ うに,入
力信号の 振幅 の大 きさの違 いが,中
間層ユニ ッ ト2個 の出力 値 の大 き さで表 わ され て いる ことか ら,中
間層 ユ ニ ッ トの出力は,抽出 した正弦波の フー リエ係数 と な っている。また [性質5]で示 したように,1周
期 未満 の成分が抽 出可能であ り,デジタル フー リエ変 換 では抽 出不可能な成分の抽 出 も可能である. 実験 1で 用 いた学習デー タ (単一正弦波か ら作成 した学習 デー タ)につ いて主成分分析を行った とこ ろ,第2主 成分までの累積寄与率100%であった。こ の ことは,船
橋 らが示 した よ うに,中間層ユニ ッ ト ■個 のSNNは ,第
n番 目の主成分 と同等の圧縮能力 で ある とい うことと一致す る。実験 4で 用 いた学習 デー タ (2つ の振幅 の異な る正 弦波の和 による信号 か ら作成 した学 習 デー タ)に
つ いて主成分分析 を 行 った ところ,第 4主 成分 までの累積奇与率llXl%で あ り,第 1,第 2主 成分が振幅の大 きい正弦波の成分 で あった。[性質41に示 したよ うに,中
間層ユニ ッ ト2個 の SblNが,パワー の最 も大 きな正弦波 を抽 出 した理 由は,複 数の正弦波の和 による信号の第 1,第 2主 成分がパ ワーの最 も大きな正弦波の成分 となる ため と考 え られ る. に示 した各段で抽 出 された周波数成分 は,学
習 デ ー タ としで与えた方形波 をフー リエ級数展開 した とき の,パ
ワーの大 きい項か ら順 に4項 に対応 して いる. 従 って,SNNを
カスケー ド接続 したモデル は,各
段 にお いて どのよ うな信号が抽 出され るかが明確 で あ る。一方,中
間層ユニ ッ ト数が 8個 では,図
11に 示 す結果 よ り1つの中間層ユニ ッ トが複数の周波数成分 を処理す るため,信
号抽 出の機構 は複雑である。 以上か ら,ShlNを カスケー ドに接続 したモデル は, 入 力信号の周波数成分 を段階的かつ明示的 に抽 出す る ことが可能である。従 って,カスケー ドの段数 を変 化 させ る ことによ り,抽
出す る周波数成分 の個数 を 調節できるため,本
モデル は一般 の時形列信号 の解 析 に有効である. 参考文献0,電
紙呂
i親
鮮
,揺子
鶏
:,志拙
F紆裂既
T思Ⅵ
髄■DiegO,hsd樋 俺for Cognl c Scttnce(1987)
