第 5 章 脳型情報処理のハードウェア実装に向けた要素技術の開発 66
5.4 結言
第 6 章
結論
本研究では,培養神経細胞のダイナミクスを再現する積分発火型モデルニューロンを用 いてモジュール構造を有したネットワークを構成し,脳を始めとする様々なネットワーク に普遍的にみられるモジュール構造が,神経回路のダイナミクス対しどのような影響を及 ぼすかの定量的解析および理論的考察を行った.更に,ネットワークの構造から生じる複 雑な時空間ダイナミクスについて定量し,Reservoir computingの枠組みから音声識別課 題を行った.
モジュール構造を有したネットワークの構成方法について示し,ネットワーク構造を決 定するパラメータから,得られる構造を予測するための解析式を導出した.モジュール性 はモジュール内結合の割合という単一のパラメータから線形に制御可能であることを示 し,ニューロン数や結合次数に依存しないことを明らかにした.
また培養神経細胞の動作を模倣した積分発火ニューロンモデルに基づく計算機シミュ レーションにより,モジュール構造がダイナミクスに及ぼす影響を調べた.モジュール性 が増加する事によりネットワークの同期発火頻度や同期性が上昇し,抑制性ニューロンを 導入することにより,ダイナミクスの時空間的な複雑性が高くなった.この効果は特にモ ジュール性が高いネットワークで顕著であった.この結果は,モジュール構造が生体脳の ネットワークにおいて機能の分離と統合に寄与していることを示している.
神経時空間ダイナミクスを情報処理へ応用することを目的とし,モジュール性の異な るネットワークをreservoirとして用いた際の性能を比較した.reservoir computing の 枠組みから音声認識を行い,10クラス分類課題においてランダムネットワークおよびモ ジュラーネットワーク共に,テストデータに対し80−90%程度の認識率を達成し,培養 神経回路の時空間ダイナミクスが時系列情報処理へ応用可能であることを示した.モジュ ラーネットワークはノイズや素子のばらつきに対して高いロバスト性を有することが期待
される為,得られた知見は微細デバイスを用いた脳型ハードウェアの実現に向けて有益で ある.
更に,スパイキングニューラルネットワークのハードウェア実装に向け,アナログ ニューロン回路とシナプス素子,及びそれらを結合したネットワーク構成について検討し た.スピントロニクス素子をアナログメモリとして利用した連想記憶システムを構築し,
複数の文字を記憶させることに成功した.更に,学習により正解率が向上することを示し た.また,65 nmプロセスでアナログニューロン回路を実装し,1.0 Vの動作電圧で4種 類の神経スパイクを再現することに成功した.
本研究の成果は,実験と理論の両側面から構成論的に神経回路のダイナミクスの解明を 試みたものであり,どちらか片方のみでは明らかにならなかった有益な知見を得ることが 出来た.このような構成論的研究は,今後の脳神経科学の研究においても神経ダイナミク スの解明の為の強力なツールとなることが予測される.また,時空間神経ダイナミクスが 情報処理に応用可能であることを示し,脳型計算機を実現するうえで重要な神経スパイク を再現する回路の設計やアナログメモリの脳型計算への応用可能性を示した.真に効率的 な情報処理の実現には,このようなソフトとハード両面からの研究が必要不可欠であると 考える.本研究の成果は,今後更なる発展を遂げていく脳型計算機の研究分野に重要な知 見をもたらすものであると期待する.
謝辞
本研究は東北大学電気通信研究所 佐藤茂雄教授のご指導のもとで行われました.研究 に関しまして,手厚いご指導やご助言を頂きましたことに深く感謝申し上げます.様々な 事柄に触れる機会を設けて頂き,大きく成長することが出来ました.本論文を纏めるにあ たり有益なご助言とご指摘を頂きました本学電気通信研究所 堀尾喜彦教授,羽生貴弘教 授,本学材料科学高等研究所 平野愛弓教授,本学電気通信研究所 櫻庭政夫准教授に深 く感謝いたします.また,本研究を進めるにあたり有益なご助言を頂きました本学電気通 信研究所 庭野道夫教授(現:東北福祉大学)に感謝致します.研究全般にわたり,熱心 なご指導や議論,様々なご提案をして頂きました本学電気通信研究所 山本英明准教授に 深く感謝致します.モデルの実装に関して,山形大学院理工学研究科 久保田繁准教授に は細部にわたるご指導を頂きました.ここに感謝致します.本研究を進めるにあたり有益 なご助言を頂きました本学電気通信研究所 秋間学尚氏(現:株式会社 富士通)に感謝 致します.研究の進め方についてご指導を頂きました,本学電気通信研究所 上野尚文氏
(現:株式会社 リコー),刑部好弘氏(現:株式会社 日立製作所),李武氏(現:株式 会社 キオクシア)に感謝致します.また,研究生活を共にした研究室の仲間に感謝致し ます.研究生活を送る上で,多大な援助を頂きました株式会社 リオティント・ジャパン 様,株式会社 小松製作所様に深く感謝致します.最後に,日常生活を送る上で支えと なってくださいました家族,そして友人に心から感謝致します.
本 研 究 の 一 部 は ,JSPS 科 研 費 (18J12197, 17K18864, 18H03325), JST-OPERA(JPMJOP1611),な ら び に 東 北 大 学 電 気 通 信 研 究 所 共 同 プ ロ ジ ェ ク ト 研 究の助成を受けて実施されました.
本研究は平成29年4月から令和2年3月にかけて東北大学電気通信研究所で行われた ものです.
受賞・表彰等
•
電子情報通信学会 学術奨励賞
守谷 哲,秋間 学尚,川上 進,矢野 雅文,中島 康治,櫻庭 政夫,佐藤 茂雄 運動視により局所運動を検出する神経網モデルのLSI 化
2016年
•
非線形ワークショップ 2019 最優秀オーラル発表賞
培養神経回路モデルにおけるダイナミクスの解析と時系列情報処理への応用 2019年
•
NOLTA2019 Student Paper Award
Satoshi Moriya, Hideaki Yamamoto, Zhixiong Chen, Kei Wakimura, Ayumi Hirano-Iwata, Shigeru Kubota, Shigeo Sato
”Time-series information processing in cultured neuronal network models”
2019年
•
第 41 回 応用物理学会 優秀論文賞
William A. Borders, Hisanao Akima, Shunsuke Fukami, Satoshi Moriya, Shouta Kurihara, Yoshihiko Horio, Shigeo Sato, Hideo Ohno
Analogue spin–orbit torque device for artificial-neural-network-based associa-tive memory operation
2019年
•
日本神経回路学会 優秀研究賞
栗原 祥太,守谷 哲,秋間 学尚,佐藤 茂雄
運動立体視に基づき空間を認識する視覚情報処理システム 2019年
本研究に関する発表
原著論文
• ”Mean-field analysis of directed modular networks”, Satoshi Moriya, Hideaki Yamamoto, Hisanao Akima, Ayumi Hirano-Iwata, Shigeru Kubota, Shigeo Sato, Chaos: An Interdisciplinary Journal of Nonlinear Science, 29 1, 013142, 2019.
• ”Impact of modular organization on dynamical richness in cortical networks”, Hideaki Yamamoto, Satoshi Moriya, Katsuya Ide, Takeshi Hayakawa, Hisanao Akima, Shigeo Sato, Shigeru Kubota, Takashi Tanii, Michio Niwano, Sara Teller, Jordi Soriano, Ayumi Hirano-Iwata, Science advances, 4 11, eaau4914, 2018.
• ”Analogue spin–orbit torque device for artificial-neural-network-based asso-ciative memory operation”,William A. Borders, Hisanao Akima, Shunsuke Fukami, Satoshi Moriya, Shouta Kurihara, Yoshihiko Horio, Shigeo Sato, Hideo Ohno, Applied Physics Express, 10, 013007, 2017.
• ”Size-dependent regulation of synchronized activity in living neuronal net-works”, Hideaki Yamamoto, Shigeru Kubota, Yudai Chida, Mayu Morita, Satoshi Moriya, Hisanao Akima, Shigeo Sato, Ayumi Hirano-Iwata, Takashi Tanii, Michio Niwano, Physical Review E, 94, 012407, 2016.
国際会議
• ”Modularity-Dependent Modulation of Synchronized Bursting Activity in Cultured Neuronal Network”, Satoshi Moriya, Hideaki Yamamoto, Hisanao
Akima, Ayumi Hirano-Iwata, Michio Niwano, Shigeru Kubota, Shigeo Sato, The 2017 International Joint Conference on Neural Networks, Alaska, USA, 2017.5 (Poster)
• ”Modular and global synchronization in modular neuronal network models”, Satoshi Moriya,Hideaki Yamamoto,Katsuya Ide,Hisanao Akima,Jordi Sori-ano, Ayumi Hirano-Iwata,Shigeru Kubota,Shigeo Sato, The 11th Federation of European Neuroscience Societies forum of neuroscience, berlin, Germany, 2018.7 (Poster)
• ”Quantitative Analysis of Dynamical Complexity in Cultured Neuronal Net-work Models for Reservoir Computing Applications”, Satoshi Moriya, Hideaki Yamamoto, Ayumi Hirano-Iwata, Shigeru Kubota, Shigeo Sato, The 2019 In-ternational Joint Conference on Neural Networks, Budapest, Hungary, 2019.7 (Oral)
• ”Reservoir computing application of cultured neuronal network models”, Satoshi Moriya, Hideaki Yamamoto, Ayumi Hirano-Iwata, Shigeru Kubota, Shigeo Sato, International Workshop of Emerging Technologies for Brainware LSI and its Applications, Honolulu, USA, 2019.12 (Oral)
• ”Time-series information processing in cultured neuronal network models”, Satoshi Moriya, Hideaki Yamamoto, Zhixiong Chen, Kei Wakimura, Ayumi Hirano-Iwata, Shigeru Kubota, Shigeo Sato, The 2019 International Sym-posium on Nonlinear Theory and Its Applications, Kuala Lumpur, Malesia, 2019.12 (Oral)
• ”A neural network model for detecting planar orientation and time-to-collision from local image motion”, Satoshi Moriya, Hisanao Akima, Susumu Kawakami, Masafumi Yano, Koji Nakajima, Masao Sakuraba, Sato Shigeo, 4th RIEC Inter-national Symposium on Brain Functions and Brain Computer, Sendai, Japan, 2016.2 (Poster)
• ”Analyzing synchronized burst in cortical neuronal networks”, Satoshi Moriya, Hideaki Yamamoto,Hisanao Akima,Ayumi Hirano-Iwata,Michio Niwano, Shigeru Kubota,Shigeo Sato, 5th RIEC International Symposium on Brain Functions and Brain Computer, Sendai, Japan, 2017.2 (Poster)
• ”Synchronization of spontaneous activity in modular neuronal network mod-els”, Satoshi Moriya,Hideaki Yamamoto,Katsuya Ide,Hisanao Akima, Ayumi Hirano-Iwata,Michio Niwano,Shigeru Kubota,Shigeo Sato, 6th RIEC Inter-national Symposium on Brain Functions and Brain Computer, Sendai, Japan, 2018.2 (Poster)
国内発表
•「神経回路の同期的活動に対するモジュール構造の影響に関する計算論的研究」, 守 谷 哲,山本 英明,秋間 学尚,平野 愛弓,庭野 道夫,久保田 繁,佐藤 茂雄,電子 情報通信学会 ニューロコンピューティング研究会,沖縄科学技術大学院大学, 沖 縄, 2016.7 (口頭)
•「モジュール構造型神経回路モデルにおける構造と同期活動の解析」,守谷 哲,山本 英明,秋間 学尚,平野 愛弓,庭野 道夫,久保田 繁,佐藤 茂雄,電子情報通信学 会 ニューロコンピューティング研究会,東北大学,宮城,2016.11 (口頭)
•「モジュール構造型神経回路モデルにおける自発活動パターンのばらつきに関する 考察」,守谷 哲,山本 英明,秋間 学尚,平野 愛弓,庭野 道夫,久保田 繁,佐藤 茂 雄,電子情報通信学会 ニューロコンピューティング研究会,機械振興会館,東京,
2017.3 (口頭)
•「モジュール構造型神経回路モデルにおける同期活動のメカニズム」,守谷 哲,山 本 英明,井手 克哉,秋間 学尚,平野 愛弓,庭野 道夫,久保田 繁,佐藤茂雄,電 子情報通信学会 ニューロコンピューティング研究会,東北大学,宮城,2017.11 (口頭)
•「モジュール構造型神経回路モデルにおける興奮性-抑制性均衡とネットワークダイ ナミクス」,守谷 哲,山本 英明,袁 之雄,井手 克哉,脇村 桂,平野 愛弓,久保 田 繁,佐藤 茂雄,ニューロコンピューティング研究会,東北大学,宮城,2018.10 (口頭)
•「運動視により局所運動を検出する神経網モデルのLSI化」,守谷 哲,秋間 学尚,
川上 進,矢野 雅文,中島 康治,櫻庭 政夫,佐藤 茂雄,電子情報通信学会総合大 会,立命館大学,滋賀,2015.3 (口頭)