情報処理教育センター　矢鳴虎夫電信電話公社樋信研究所佐竹康文

(1)

パルス列の確率構造とニューロン層モデルの

空間応答特性

（昭和52年5月30日原稿受付）

情報処理教育センター矢鳴虎夫電信電話公社樋信研究所佐竹康文

情報工学科磯泰行

Stochastic Structure of a Pulse Train and Spacial Response Characteristics of a Neuron Layer Model

by Torao YANARU Yasuhumi SATAKE

Yasuyuki ISO

ABSTRACT

Aneuron layer model which is composed of two layers of neurons is presented， and the spacial response characteristics of the layers are studied by computer simulation． Each layer is a set of

neurons equally spaced on a straight line． Every neuron of the first layer has the input pulse train of the same kind of stochastic structure． A large number of neurons of the first layer converge to a

neuron of the second layer with a weighting function．

From the computer simulation， we get the follwing results．

（1） Spacial response characteristics of the first layer is independent of the stochastic structure of the pulse trains．

（2）When the input pulse train of the first layer is stationary， the spacial response characteristics of the second layer is almost independent of the stochastic structure of the pulse trains．

（3） The transient spacial response chracteristics of the second group is strongly dependent on the stochastic structure of the pulse trains．

ルスの確率・統計的性質が神経回路網としての空間的性

1・まえがき質にどの程度反映するかについての研究は比較的少な

単一神経線維から取り出されるパルス列の確率・統計い。

的性質や，単一ニューロンの各種パラメータに対する応その意味で筆者らは整然と一列に並ぶニューロン層を答特性などは色々な生物の，色々な部分において現在ま 2層設け・この2層間の結合方法を変化しながら・計算で数多くの研究がなされ，諸性質が明らかになってきて機シミュレーションを通じて

いる。（1） 1次ニューロン層の10000個の各ニューロンに同一方においてこれらの諸1生質を決定する特徴的なパラーの確率的性質を有する再生パルス列（一様な再生過程メータを取り入れた数学的神経モデルを通じて神経回路に従う標本点列，以後再生パルス列といつことにする）

網としてのマクロ的性質の研究も今日盛んに行われていを入力した場合の1次および2次ニューロン層の空間的る。しかしそれらはランダムパルスという側面を考慮にパルス発射パターンを調べる・

入れないで，そのパルス密度のみをアナログ信号として（2）1次ニューロン層よりパルス密度がステップ状に

取扱った研究で，単一神経線維に見られるランダムなパ変化する再生パルス列を入力した場合の2次ニューロン

(2)

層の空間的・時間的パルス発射パターンを調べる。達する時間は0とする。

各ニューロン間の空間的配置がニューロンシステムの ⑧ ニューロン層を形成する各ニューロン間の距離を情報処理に重要な役割を演じることはいうまでもない・4sとする。

が，本論文ではこのことについては考慮に入れていない。

しかし機能上叶条件を齪するニュー°ンが一次元的（・）時間的パルス間隔

に一定間隔， ∠sで並んだニューロン層を設定し，4sを

基本単位とする位置の関数としてニューロン層全体のふ距．

るまいを記述しておけば仮に個々のニュー。ンの空間離禦間隔

的配置が与えられた場合には， ∠sが新しい位置の関数一

に置きかえらればよいので，このような一次元のニュー ⊥ ∠1s

ロン層としての取扱いは本質的な意味を失っていない。一不一

最；㌶㌶票漂ラ㌫；1三㌶．印熈椎

時間∠力で時間を量子化し，1つの神経線維では4r内 O印；ニューロンでは1個以上のパルスは存在しないものとする。空間的

にはこの∠ 内で発射しているパルスを有している（b）（c）

：誌㌶計そのニユの位置を4sをよ艮蕊

コユユ

2．モデル l l ％②

下記のような条件で数学的ディジタルモデルを構成す雇＝：ニニ忌㍑

る。一一一一 ψ（−2），

（1）量子化され塒騨位で発射パ・レスを扱うためす㍑

べての時間を ∠τ（＝0．1u・t）で等分割する。平均パル

ス間隔を1u・tとする。したがって全てのパルス発射は

∠τごとに同期しておこり，外部からの入力パルスもこの

時間単位で同期して入力されることにする。図一1 （2）絶対不応期の長さはこの∠rと考える。

（3）1次ニューロン層からの出力を2次ニューロンへ図1の（a），（b），（c）はこのモデルの模式図である。（a）は

のシナプス電位（PSP， Post Synaptic Potential）と考え 1つのニューロン層の各ニューロンが発射するパルス列

る。PSPは1次ニューロンの1つの入力パルスで結合本を時間区分∠オを基準に描いたものである。（b）は1次し

数に関係した大きさの電位が瞬間的に上昇（または下降）ニユーロン層と2次ニューロン層の結合状態を，（c）は1 し，パルスのない期間には静止電位に向って指数関数的つの2次ニューロンに重みをもって1次ニューロンが結に漸近する。PSPが閾値を越えると，そのニューロンは合している図である。

パルスを発射する。一

・、 3．計算機シミュレーションの方法（4）閾値は時間的に一定である。相対閾値変化は考慮

に入れない。下記の順序でシミュレーションを行う。

（5）2次ニューロンからパルスが発射すると瞬間的に（1）1次ニューロン層のパルス発射信号の磁気テープ

PSPは静止電位にリセットされる。への記録

（6）2次ニューロンはψ個の1次ニューロンと力の関 2次ニューロン層の応答を各種パラメータの変化に対

数で決まる重みで結合する。して短時間に得るためには1次ニューロン層の各ニュー

（7） 1次ニューロン層のパルスが2次ニューロンへ伝ロンの時間的な出力状態を補助記憶装置に記録しておく

(3)

方が効率がよい。そこで10000個のニューロンで構成さのP（々）の大きさに比例した減衰量（減衰定数；T・・n）

れる1次ニューロン層の各ニューロンの量子化時刻 i だけ減じた値とする。つまり

（（ −1）4櫛）（ゴ＝1・2・3・ … … ・2°°°）での出 P（）、＝P（〃）、．1×石。n＋±％（ −S、）M（5、）（3）

力の状態を FORTRAN 言語を用いて10000個の配列」＝1

2V1（1），」V1（2），・・…・，1V1（10000）の値として表現すこのようにして（C）図に示すように時点＋ll（又は＋る。つまり第〃番目のニューロンがその時間に発射して 31）でのP（）の値が閾値より大きくなると，配列1V2

おれば」V1（〃）＝1であり，発射していなければ1V1（〃）（ん）の値を1にする（D図）。この配列2V2（〃）（々＝1，2，

＝0である。このさい2V1（〃）が1か0かの決め方は次 …・・……・…，10000）を2次ニューロン層の出力とする。

のようである。次の時点ゴ＋12（又は＋32）ではP（々）は必ず0にリ

●1つの確率分布則に従う乱数列，｛τ．｝（γ＝1，2，3 セットされ 2V2（〃）の値も0である。

………）（平均値1の一様乱数平均値1の一様以上の過程を通じて各時点での1次ニューロン層の状態な再生乱数ステップ状に密度変化のある再生乱数 2V1（〃）， PSPの状態P（〃），2次ニューロン層の出力状

など）の和でできる乱数列，｛『ρ｝（ヵ＝1，2，3，…，態1V2（〃）をシミュレーションする。

カ

τρ＝Στ。）を発生する。

アコ

●次にこの｛ ρ｝列をもとにして

≦〔『1／4『〕−1では 1Vll（〃）＝0，

＝〔『1／、4∫〕では 1V1（〃）＝1，

〔τ1μr〕十1≦ ≦〔『2／∠『〕−1では 2V1（〃）＝0， 1次ニューロン 2次ニューロン

i−〔醐ではN1（〃）−1・。1㍍、M（㌦）τ〃）N・（・）

㌫言ll㍑1難㌶：鷲（㌻㌧一・磯〃↓

2V1（10000）は磁気テープを用いて，最初のレコード s3 −s ）N1（∫・）

に量子化時刻＝1での」V1（1）〜2V1（10000）を記 M（s・）

スの発生。、

（1）で記録した磁気テープからレコード単位で必要な時（c）N（々） 1｜ ll lI lll

刻iでのN1（1）−N1（1。。。。）の｛直を取咄す．次に2 −」 IUl

次ニューロン層の第〃番目のニューロンの時刻iでの ◎p㈲・、 1・

PSPの値を配列P（〃）（〃−12・・………・・10000）で、（セ．）1 921・ 1

表わす．このP（〃）の値をN1（1）−N1（1・…）の値（入 ll lll 力信号）をもとにして計算する．計算法は次のようであ…N・（・L＿＿L＿＿止＿

る。たとえば図2のように第〃番目の2次ニューロンが 1次ニューロン層のs1，∫2， s3番目の3個のニューロン

㌶㌫≧禦計1篭㌫：＝時・↑ヘド→己

値は1次ニューロンからパルス入力があるかどうか，あ

図一2

ればそれは何番目の1次ニューロンからかを調べて，そ

の番号と，2次ニューロンの〃番との関数で決められる

重み，ω（〃一ωsゴ）（∫＝1，2，3）を加算し，さらに1時点前

(4)

4高果と考察合は・そのパルス発射の日寺間的確榊造がどのようなも

のでも空間的には独立なボアソン列になることが予想さ 4．1． 1次ニューロン層の空間的パルス発射パターれる。実際，このことは理論的に下記に示すように簡単ンに確かめられる。

図3は空間的パルス発射パターンの性質を記述する 1つのニューロンが4r時間内にパルスを発射する確方法として，時点＝9で10000個のニューロンのうち率をρとする。又各ニューロンは構造的に独立で，パルパルスを発射しているニューロンの間隔を基本間隔、4s ス発射に関しても独立であると仮定しているので確率の

を単位として取り出し，それらの量の間隔ヒストグラム積の法則を用いることができる。今番目のニューロン

と系列相関係数を調べたものである。これらの図からパ」V1（ノ）と∫＋々番目のニューロン1V1（＋ん）に着目すルス列の確率的構造には全く無関係にすべて（一様分布る。このときノ番目のニューロンが時間（（仁1）∠r，辺r）

するパルス列，ボアソンパルス列，3階の特殊アーランでパルスを発射しているという条件で，その同じ時間に分布をする再生パルス列のいずれも），ヒストグラムは指」V1（∫＋1），1V1（∫＋2），…，〜Vl（∫＋〃−1）のニューロンが数分布に従い，系列相関係数は0のまわりにちらばる。パルスを発射せず，2V1＠＋ん）のニューロンがパルスを

このことから各ニューロンで独立なパルス発射がある場発射する条件付確率は

Prob（々1ゴ）＝（1一ρ）々 1ヵ2／ヵ（2）

空間々隔ヒストグラム空間々隔系列相関係数で与えられる。

0．1

0．05

0．0

0．1

0．05

0．0

（a）0・1

一様分布の

ノぐノレス ‖

0．0

一〇．1

ところでニューロンは1から10000のどれでもよいからその平均が空間々隔ヒストグラムの期待値Hl（々）

を与える。つまり

H（・）＝1。；。。1鴛゜P・・b（〃li）＝カ（1一ρ）卜1（3）

1 1距離404∫ 1 系列番号40

パルス数＝953，平均間隔＝10．34∫，におけるパルス発射の確率が同一のカであれば指数関数、分散＝82．0、4∫2，観測時刻r9∠オ

となり各ニューロンでの時間的発射の確率的性質には依 0．1

（b）

ボアソン

パルス列 0．0

一〇．1

となってヒストグラムの期待値は各ニューロンでの∠∫

1 距離 404s 1 系列番号 40

，iパルス数＿968，、平均間隔一10．3∠s u・T）で発射している2次ニューロン層のパルス発射パ

分散二84・6∠s2・観測時刻＝94『ターンに関する空間的統計量である。左の列は4Sを単

o．1 （c）o．1 位とする空間々隔ヒストグラムで，1次ニューロンから

3階特殊ア

＿ラン分布のパルス発射の確率分布の違いによって整理したもので

ll灘生ある．右の列は左列に文寸応する空間々隔の系列欄係数

0．05 0．0

である。これらの図からわかる様に（1次ニューロン層の場合と同じく）パルス列の時間的確率構造にはほとん

0．0

1 距離 404s ＿1 系列番号 40 て，重み，減衰定数などのパラメータを変化させて同じ

パルス数＝g53，平均間隔＝10．5、4s

分散＝82．0、4s2，観測時刻一9鋤実験を試みたが同じような結果を得た。つまり，ヒスト

図一3 グラムは重みを変化させることでそのパターンを異にす

存しないことがわかる。

4．2． 2次ニューロン層の空間的パルス発射パターン

図3は結合本数∫＝9の場合で重みを％（0）＝0．4°，

2〃（±1）＝0．41，……，z〃（±4）＝0．44とし，∠1r間での

PSPの減衰定数丁，。n＝08の条件で時刻ゴ＝10、4；（＝1

(5)

るが，どの確率構造を有するパルス列に対してもほぼ同そこでこの項では1次ニューロン層からパルス密度が一パターンになる。また相関係数にっいても試みた実験ステップ状に変化するパルス列を入力して，2次ニューのすべてが＋0．1と一〇，1の範囲に納まりほとんど相関ロン層の過渡応答特性に確率構造に対する影響がみられが認められない。るかどうかを調べる。このさい、層としての応答の取扱いは，単純に，同時刻に発射しているパルスの総数で評

空間々隔ヒストグラム空間々隔系列相関係数価する・

Segundo（2）らは軟体動物のアメアラシ（Aplysia）の単

0．3

0．1

0．3

0．1

ノぐノレス数＝＝1110

平均間隔＝8．92、4s 分散＝123，24s2 観測時刻＝10∠1

（a）

0．1 一様分布の

ノξノレス ll

O．0

1 距離 404s 1 系列番号 40

パルス数＝1067

平均間隔＝9．3645 分散＝127．44s2 観測時刻＝10∠1r

（b）

0．1 ボアソン・

ノぐノレス列1

0．0

一〇．1

一ニューロンをもとにして，本モデルに取り入れたモデル設定条件に加えて相対閾値変化と過分極をも考慮したニューロンモデルを提案している。そしてこのモデルを用いた研究の一つに，入力線数（2次ニューロンの1つに結合する1次ニューロンの数）の出力パルス間隔に対する影響を調べたものがある。その結果，入力線の結合係数がすべて一様に1／（入力線数）である場合には，入力線数が増加すれば平均パルス間隔は少し増加し，標準偏差は大巾に減ることを示している。

そこで本モデルも出来るだけ自然のニューロンに近い

モデルを設定する意味からSegundoらのモデルにな

らって重み，％（力はすべて1／（結合本数）とし，更に

閾値と減衰定数万。nの値を決めるのに単一の2次

ニューロンに対して Segundo らと同じ実験をし，

Segundoらの実験結果とほぼ同じ様な傾向を示す値を

選んだ。この実験結果を図5と図6に示す。（a）図が結合 1 距離 404s 1 系列番号40 本数と平均パルス間隔であり，（b）図が結合本数とパルス間隔の標準偏差との関係を示している。この図から平均

0．3 （c）パルス間隔が少しつつ増加し，標準偏差は減る傾向を示

パルス数＝1104 0・1

す場合のパラメータ：閾値＝1．1，減衰定数＝0．925で2

平均間隔i＝9．054∫ 3階特殊ア

齢梁品，認鍵次ニュー・ン層の過蹴答に対するシミュレーシ。ンを

ノvノレス、 llO．0

行った。

o．1 図7−（a）は，ボアソンパルス列が1次ニューロン層の一〇．1

ニューロン番号1から1000のニューロン群から発射し

ている場合の層としての時間的特性を示したものであ

1 距離 404s 1 系列番号 40 る。時刻1から7まではパルス密度が0．2（これは1つの

モテルの条件；

? 樺關煤＝求Eぽみ姻＝°・4躍ニュー・ンから1・・T−1・4τの間に平均・．2個の・・

ルス発射していることを意味する）であり，8から20ま図一4

ではパルス密度が1．0である。

図6−（b）は，（a）図に示されたパルス列が1次ニューロ

4弐．2次ニューロン層のステップ応答特性ン層から入力された場合の2次ニューロン層の過渡応答

1次ニューロン層から発射するパルス列が定常である特性である。

場合，2次ニューロン層のパルス発射の空間的パターン図8−（a），（b）は1次ニューロンに加えるパルス列を，

は1次ニューロン層のパルス列の確率構造にはほとんどそのパルス間隔が10階の特殊アーラン分布に従う再生

影響されないことが4．1，4．2項で明らかにされた。パルス列にした場合の応答特性である。再生パルス列を

(6)

入力したこと以外の条件は図7の場合と全く同じであ

る。

（1．1， 0．915）（1．1， 0．92）

c

s

漬

ミ

2．0

く1．0、

蕊

十

0

ボアソンパルス列

（1．1， 0．925）

2．0

（1．0， 0．925）トr

ら

8

麸

（1．2，1．0）轟1・・

（1．0，1．0）曇

（臨品警

ミ

0

1 10 20

結合本数

（1．1， 0．915）

（1．1， 0．92）

（1．1， 0．925）

（1．0， 0．925）

（1．2，1．0）

（1．0，LO）

（閾値，τ，。n）

1 10 20

結合本数

図一5

2．0

c

s

逼曇

潔1．0

賢く．

ミ

゜く

怠

0

（a） 1。階の撒アーラ．分布

に従う再生パルス列

（1．1， 0．92）（

（1・1・0・925）ミ）

（1・1・°・93）緬

塁1・・

（1，L O．95） ∈こ

（1．1，0．97）胆

（LO，1．0）さそ

0

（閾値・エ・） 1・結合轍、1° 2°

（1．1， 0．92）

（1，1， 0．925）

（1．1， 0．93）

（1．0，1．0）

（閾値，τ，。。）

1 10 20

結合本数

図一6

(7)

1120

賢く 80

ミ ζ

振 40」

§

置・

ノド

e ．ボアソンパルス列

八 100

ロ

1

叶 ll

e 軍 50

8 自

0

図一7

、120

80

ム

㌻ 40

ミ

5

樫・

堂 10階の特殊アーラン分布に従う再生パルス列匝 200

1へ

，＼

白 150

1

叶 ll

e

箪 100

8 自 50

0 0 7 5 15 20

時間（ひτ）

図一8

(8)

これらの図から1次ニューロン層では入力パルス列のルス密度の大きな入力が与えられ，最初のパルスが発射確率分布に対する相異はほとんど認められないが，2次することになる。このことはすべての2次ニューロンが

ニューロン層では分布の差が極めてはっきり認められ時刻7以下ではパルス発射がなくて，時刻7以降から一

る。過渡時刻8から15程度の期間で図8−（b）では減衰斉にパルス発射の可能性の条件が付加されたと考えられ振動しているが図7−（b）の場合はそうでない。時刻15 る。したがって時刻7と，この最初のパルス発射の時間々

をすぎると定常状態となり分布の差は認められない。隔の確率分布は単なる2つのパルス発射の時間々隔の確過渡応答のパターンの特長は以下のような大まかな考率分布とは異なる。しかし最初の1次ニューロンのパル

え方である程度把握することができる。ス密度が充分小さいので，ここでは同一分布するものとシミュレーションでは減衰定数τ・・n＝0・925である仮定してみる。さらに2次ニューロン層の各ニューロン

が理論的取扱が煩雑になるので・ここでは簡単にτ… から発射するパルス列が個々のニューロンに依存しない

＝1．0の場合で考えてみる。したがってPSPは1次と仮定すれば（実際のシミュレーションモデルでは複数

ニューロンからのパルスを受けてその重み分だけ大きく個の1次ニューロンと結合しているので独立にならないなり次のパルスが来るまでその値を保持することになが），2次ニューロンから発射するパルス列は同じ確率構

る。この場合1個の1次ニューロンあたりパルス密度造と考えられるので，1つの2次ニューロンのパルス列

（1u． Tに平均λ個のパルス）のパルス列が発生されるに着目すればよい。つまり，2次ニューロン層が時刻と，ψ個の1次ニューロンと結合する2次ニューロンは（7＋f）に発射するパルス総数は，時刻7にパルスが

密度ひのパルス列を発生する1次ニューロン1個と結発射したという条件で時刻（7＋∫）にパルスの発射す

合しているのと等価になる。とくに1次ニューロンに発る確率に対応する。これは密度〃で階数γの再生過程

γi㌫講㌶㌶三㌫こ， ⑭一N∫靭臓（7）

になる。したがって2次ニューロンが発射する時間々隔 R（μ）＝∫γ1（μ）＋∫γ1＋γ，（μ）＋∫γ1＋γ、＋γ、（μ）＋＿＿．

は密度ひのボアソン列の相続くγ個のパルス間隔の和

で表わされる。つまり，ここに・ η（7＋のは2次ニューロン層の1V個のニューロンが時刻（7＋r）で発射するパルス総数の期

y ＝Xゴ，1十Xi，2十……十X∠，r （4）

待値であり，ノγ1＋γ，＋＿＋γ、（μ）は2次ニューロンの相続く

ここに・γごは2次ニューロンのパルス間隔であり・〃個のパルス間隔の和の確率密度関数であり，階数γ〃の X∠山Xi・2，…，X… は1次ニューロンの相続くγ個のパ特殊アーラン分布となる。

ルス間隔である・γの確率密度関数九は∫x・・1，∫κ・・，…・図7−（b）に破線で示される曲線は（7）式をもとにしてシ九・・の合成積で表わされる・つまり・ミュレーションに対応するパラメータ，／＝10，γ＝

∫γ、＝∫x，，、＊！x，，，＊……＊∫x、，，，（5） 2，λ＝1，1V＝1000， ∠r＝0．1，の場合について数値計算し描いたものである。シミュレーションの結果と傾

㍍ん・，・ん・・などはすべて密脚の指数肺向がよく噺していることがわかる．つま 1次ニュー

∫x、，、（∬」）＝ひexp（一ひ駕ゴ），（6）ロン層のパルス列がボアソン列の場合，このような荒っ

ぽい考え方にもとずいた理論式でも応答パターンがあるであるから五は階数γの特殊アーラン分布になる。程度把握出来ることを意味している。

ところでシミュレーションモデルでは時刻1〜7まで図7−（b）の応答パター一ンについては上記のような簡単

は1次ニューロンのパルスが2次ニューロンのパルス発な理論の展開ができない。2次ニューロンの，複数個の

射が起らない程度の小さいパルス密度であるので，PSP 1次ニューロンから受取るパルス列が簡単なボアソン列

は閾値下でゆれている。このような状態のとき急激にパにならないからである。階数の高い特殊アーラン分布を

(9)

もとにした再生過程の重ね合せ過程はパルス間隔間に負外界からの刺激に変化した場合の反応を調べる上で，パの相関が生成されることがわかっているω。このパルスルス列の確率構造をも考慮に入れる必要があることを示間隔間の相互の関係が2次ニューロンの時間的パルス発唆している。

射パターン，また層の空間的パルス発射パターンに大きなおこのパルス列の確率構造と空間的応答パターンとく作用していると思われる。の関係については今後シミュレーションを通じてもっと木目のこまかい研究が必要である。

4．結論

今までのシミュレーション結果を通じて下記のことが謝辞

結論される。本研究のデータ整理，図面の清書等に尽力していただ（1）空間的に独立な1次ニューロン層の同時刻に発射いた野田恭司技官に感謝いたします。

しているニューロンの空間的パターンは，個々のニュー尚，本研究の計算機シミュレーションは情報工学科電ロンに入力されるパルス列の時間的確率構造には無関係子計算機システム，FACOM 230−45 Sを使用した。

で，そのパルス密度のみに依存したボアソン列になる。

（2）2次ニューロン層の同時刻に発射するニューロン参考文献

の空間的パターンも，1次ニューロン層からの入力パル（1）田村，福留，神経回路網の数学的モデル，神経の生物物理生物々

ス列が定常な場合には，そのパルス列の時間的確率構造理学構座10巻吉岡書店・196α

にはほとんど影響されないで1次ニュー・ンと2次（2）M；ぽ＝：：、P＝：＝蕊隠；㌫

ニューロンの結合方法に多く左右される。 Cells，， Kybernetlk，4，157（1968），

（3） 1次ニューロン層からの入力パルス列の密度をス（3）DR Cox・ The statl等tlcal Analysls of Serles of Events ， P 69・

テ・プ状に変化させた場合には，2次ニユー・ン層の過（、）M㌶吉゜よt；▲㌫せ＿1−‖相関係数臓，

渡応答は， 1次側から入力されるパルス列の時間的確率九州工大研究報告（工学）、31号，昭50年．

情報処理教育センター 矢鳴虎夫 電信電話公社樋信研究所佐竹康文

情報処理教育センター 矢鳴虎夫 電信電話公社樋信研究所佐竹康文

Stochastic Structure of a Pulse Train and Spacial Response Characteristics of a Neuron Layer Model

Yasuyuki ISO

neurons equally spaced on a straight line． Every neuron of the first layer has the input pulse train of the same kind of stochastic structure． A large number of neurons of the first layer converge to a

（1） Spacial response characteristics of the first layer is independent of the stochastic structure of the pulse trains．

（2）When the input pulse train of the first layer is stationary， the spacial response characteristics of the second layer is almost independent of the stochastic structure of the pulse trains．

（3） The transient spacial response chracteristics of the second group is strongly dependent on the stochastic structure of the pulse trains．

ルスの確率・統計的性質が神経回路網としての空間的性

単一神経線維から取り出されるパルス列の確率・統計 い。

網としてのマクロ的性質の研究も今日盛んに行われてい を入力した場合の1次および2次ニューロン層の空間的 る。しかしそれらはランダムパルスという側面を考慮に パルス発射パターンを調べる・

入れないで，そのパルス密度のみをアナログ信号として （2）1次ニューロン層よりパルス密度がステップ状に

取扱った研究で，単一神経線維に見られるランダムなパ 変化する再生パルス列を入力した場合の2次ニューロン

層の空間的・時間的パルス発射パターンを調べる。 達する時間は0とする。

各ニューロン間の空間的配置がニューロンシステムの ⑧ ニューロン層を形成する各ニューロン間の距離を 情報処理に重要な役割を演じることはいうまでもない ・4sとする。

が，本論文ではこのことについては考慮に入れていない。

しかし機能上叶条件を齪するニュー°ンが一次元的 （・） 時間的パルス間隔

に一定間隔， ∠sで並んだニューロン層を設定し，4sを

基本単位とする位置の関数としてニューロン層全体のふ 距 ．

的配置が与えられた場合には， ∠sが新しい位置の関数 一

に置きかえらればよいので，このような一次元のニュー ⊥ ∠1s

ロン層としての取扱いは本質的な意味を失っていない。 一不一

最；㌶㌶票漂ラ㌫；1三㌶ ．印熈椎

時間∠力で時間を量子化し，1つの神経線維では4r内 O印；ニューロン では1個以上のパルスは存在しないものとする。空間的

：誌㌶計 そのニユ の位置を4sをよ 艮蕊

2．モデル l l ％②

る。 一一一一 ψ（−2），

ス間隔を1u・tとする。したがって全てのパルス発射は

∠τごとに同期しておこり，外部からの入力パルスもこの

時間単位で同期して入力されることにする。 図一1 （2）絶対不応期の長さはこの∠rと考える。

のシナプス電位（PSP， Post Synaptic Potential）と考え 1つのニューロン層の各ニューロンが発射するパルス列

る。PSPは1次ニューロンの1つの入力パルスで結合本 を時間区分∠オを基準に描いたものである。（b）は1次 し

パルスを発射する。 一

・、 3．計算機シミュレーションの方法 （4）閾値は時間的に一定である。相対閾値変化は考慮

に入れない。 下記の順序でシミュレーションを行う。

（5）2次ニューロンからパルスが発射すると瞬間的に （1）1次ニューロン層のパルス発射信号の磁気テープ

（6）2次ニューロンはψ個の1次ニューロンと力の関 2次ニューロン層の応答を各種パラメータの変化に対

数で決まる重みで結合する。 して短時間に得るためには1次ニューロン層の各ニュー

（7） 1次ニューロン層のパルスが2次ニューロンへ伝 ロンの時間的な出力状態を補助記憶装置に記録しておく

方が効率がよい。そこで10000個のニューロンで構成さ のP（々）の大きさに比例した減衰量（減衰定数；T・・n）

れる1次ニューロン層の各ニューロンの量子化時刻 i だけ減じた値とする。つまり

（（ −1）4櫛）（ゴ＝1・2・3・ … … ・2°°°）での出 P（ ）、＝P（〃）、．1×石。n＋±％（ −S、）M（5、）（3）

力の状態を FORTRAN 言語を用いて10000個の配列 」＝1

＝0である。このさい2V1（〃）が1か0かの決め方は次 …・・……・…，10000）を2次ニューロン層の出力とする。

のようである。 次の時点ゴ＋12（又は ＋32）ではP（々）は必ず0にリ

………）（平均値1の一様乱数平均値1の一様 以上の過程を通じて各時点での1次ニューロン層の状態 な再生乱数 ステップ状に密度変化のある再生乱数 2V1（〃）， PSPの状態P（〃），2次ニューロン層の出力状

カ

τρ＝Στ。）を発生する。

≦〔『1／4『〕−1では 1Vll（〃）＝0，

＝〔『1／、4∫〕 では 1V1（〃）＝1，

㌫言ll㍑1難㌶：鷲（㌻㌧一・ 磯〃↓

刻iでのN1（1）−N1（1。。。。）の｛直を取咄す．次に2 −」 IUl

る。たとえば図2のように第〃番目の2次ニューロンが 1次ニューロン層のs1，∫2， s3番目の3個のニューロン

㌶㌫≧禦計1篭㌫：＝ 時・↑ヘド→己

値は1次ニューロンからパルス入力があるかどうか，あ

ればそれは何番目の1次ニューロンからかを調べて，そ

の番号と，2次ニューロンの〃番との関数で決められる

重み，ω（〃一ωsゴ）（∫＝1，2，3）を加算し，さらに1時点前

のでも空間的には独立なボアソン列になることが予想さ 4．1． 1次ニューロン層の空間的パルス発射パター れる。実際，このことは理論的に下記に示すように簡単 ン に確かめられる。

を単位として取り出し，それらの量の間隔ヒストグラム 積の法則を用いることができる。今 番目のニューロン

このことから各ニューロンで独立なパルス発射がある場 発射する条件付確率は

Prob（々1ゴ）＝（1一ρ）々 1ヵ2／ヵ （2）

空間々隔ヒストグラム 空間々隔系列相関係数 で与えられる。

0．1

0．0

0．1

0．0

一様分布の

0．0

H（・）＝1。；。。1鴛゜P・・b（〃li）＝カ（1一ρ）卜1（3）

パルス数＝953，平均間隔＝10．34∫， におけるパルス発射の確率が同一のカであれば指数関数 、分散＝82．0、4∫2，観測時刻r9∠オ

となり各ニューロンでの時間的発射の確率的性質には依 0．1

（b）

パルス列 0．0

となってヒストグラムの期待値は各ニューロンでの∠∫

1 距 離 404s 1 系列番号 40

分散二84・6∠s2・観測時刻＝94『 ターンに関する空間的統計量である。左の列は4Sを単

3階特殊ア

＿ラン分布 のパルス発射の確率分布の違いによって整理したもので

ll灘生 ある．右の列は左列に文寸応する空間々隔の系列欄係数

情報処理教育センター　矢鳴虎夫電信電話公社樋信研究所佐竹康文

情報処理教育センター矢鳴虎夫電信電話公社樋信研究所佐竹康文

単一神経線維から取り出されるパルス列の確率・統計い。

網としてのマクロ的性質の研究も今日盛んに行われていを入力した場合の1次および2次ニューロン層の空間的る。しかしそれらはランダムパルスという側面を考慮にパルス発射パターンを調べる・

入れないで，そのパルス密度のみをアナログ信号として（2）1次ニューロン層よりパルス密度がステップ状に

取扱った研究で，単一神経線維に見られるランダムなパ変化する再生パルス列を入力した場合の2次ニューロン

層の空間的・時間的パルス発射パターンを調べる。達する時間は0とする。

各ニューロン間の空間的配置がニューロンシステムの ⑧ ニューロン層を形成する各ニューロン間の距離を情報処理に重要な役割を演じることはいうまでもない・4sとする。

しかし機能上叶条件を齪するニュー°ンが一次元的（・）時間的パルス間隔

基本単位とする位置の関数としてニューロン層全体のふ距．

的配置が与えられた場合には， ∠sが新しい位置の関数一

ロン層としての取扱いは本質的な意味を失っていない。一不一

最；㌶㌶票漂ラ㌫；1三㌶．印熈椎

時間∠力で時間を量子化し，1つの神経線維では4r内 O印；ニューロンでは1個以上のパルスは存在しないものとする。空間的

：誌㌶計そのニユの位置を4sをよ艮蕊

る。一一一一 ψ（−2），

時間単位で同期して入力されることにする。図一1 （2）絶対不応期の長さはこの∠rと考える。

る。PSPは1次ニューロンの1つの入力パルスで結合本を時間区分∠オを基準に描いたものである。（b）は1次し

パルスを発射する。一

・、 3．計算機シミュレーションの方法（4）閾値は時間的に一定である。相対閾値変化は考慮

に入れない。下記の順序でシミュレーションを行う。

（5）2次ニューロンからパルスが発射すると瞬間的に（1）1次ニューロン層のパルス発射信号の磁気テープ

数で決まる重みで結合する。して短時間に得るためには1次ニューロン層の各ニュー

（7） 1次ニューロン層のパルスが2次ニューロンへ伝ロンの時間的な出力状態を補助記憶装置に記録しておく

方が効率がよい。そこで10000個のニューロンで構成さのP（々）の大きさに比例した減衰量（減衰定数；T・・n）

（（ −1）4櫛）（ゴ＝1・2・3・ … … ・2°°°）での出 P（）、＝P（〃）、．1×石。n＋±％（ −S、）M（5、）（3）

力の状態を FORTRAN 言語を用いて10000個の配列」＝1

のようである。次の時点ゴ＋12（又は＋32）ではP（々）は必ず0にリ

………）（平均値1の一様乱数平均値1の一様以上の過程を通じて各時点での1次ニューロン層の状態な再生乱数ステップ状に密度変化のある再生乱数 2V1（〃）， PSPの状態P（〃），2次ニューロン層の出力状

＝〔『1／、4∫〕では 1V1（〃）＝1，

㌫言ll㍑1難㌶：鷲（㌻㌧一・磯〃↓

㌶㌫≧禦計1篭㌫：＝時・↑ヘド→己

のでも空間的には独立なボアソン列になることが予想さ 4．1． 1次ニューロン層の空間的パルス発射パターれる。実際，このことは理論的に下記に示すように簡単ンに確かめられる。

を単位として取り出し，それらの量の間隔ヒストグラム積の法則を用いることができる。今番目のニューロン

このことから各ニューロンで独立なパルス発射がある場発射する条件付確率は

Prob（々1ゴ）＝（1一ρ）々 1ヵ2／ヵ（2）

空間々隔ヒストグラム空間々隔系列相関係数で与えられる。

パルス数＝953，平均間隔＝10．34∫，におけるパルス発射の確率が同一のカであれば指数関数、分散＝82．0、4∫2，観測時刻r9∠オ

1 距離 404s 1 系列番号 40

分散二84・6∠s2・観測時刻＝94『ターンに関する空間的統計量である。左の列は4Sを単

＿ラン分布のパルス発射の確率分布の違いによって整理したもので

ll灘生ある．右の列は左列に文寸応する空間々隔の系列欄係数

である。これらの図からわかる様に（1次ニューロン層の場合と同じく）パルス列の時間的確率構造にはほとん

1 距離 404s ＿1 系列番号 40 て，重み，減衰定数などのパラメータを変化させて同じ

分散＝82．0、4s2，観測時刻一9鋤実験を試みたが同じような結果を得た。つまり，ヒスト

4．2． 2次ニューロン層の空間的パルス発射パターン

1 距離 404s 1 系列番号 40

選んだ。この実験結果を図5と図6に示す。（a）図が結合 1 距離 404s 1 系列番号40 本数と平均パルス間隔であり，（b）図が結合本数とパルス間隔の標準偏差との関係を示している。この図から平均

0．3 （c）パルス間隔が少しつつ増加し，標準偏差は減る傾向を示

o．1 図7−（a）は，ボアソンパルス列が1次ニューロン層の一〇．1

ルス発射していることを意味する）であり，8から20ま図一4

1次ニューロン層から発射するパルス列が定常である特性である。

場合，2次ニューロン層のパルス発射の空間的パターン図8−（a），（b）は1次ニューロンに加えるパルス列を，

は1次ニューロン層のパルス列の確率構造にはほとんどそのパルス間隔が10階の特殊アーラン分布に従う再生

影響されないことが4．1，4．2項で明らかにされた。パルス列にした場合の応答特性である。再生パルス列を

（1．2，1．0）轟1・・

（1．1，0．97）胆