The 28th Annual Conference of the Japanese Society for Artificial Intelligence, 2014
- 1 -
持続可能
コン
適応型
ン
提案
Proposition
of Sustainable and Concept Drift-Adaptive Monitoring System
坂本
輔
*1
福井
健一
*2
Daniela Nicklas
*3森山
一
*2
沼尾正行
*2
Yusuke Sakamoto Kenichi Fukui Koichi Moriyama Masayuki Numao
*1
大阪大学大学院情報科学研究科
*2
大阪大学産業科学研究所
Graduate School of Information Science and Technology, Osaka University The Institute of Scientific and Industrial Research, Osaka University
3*
Carl Von Ossietzky University Oledenburg, Germany
We propose a monitoring system based on concepts composed of a number of features as a monitoring target. Self-Organizing-Maps (SOM) is utilized to obtain concepts and to classify a new event into one of the concept. To make the system sustainable, the system has to deal with concept drift such as change of a concept and appearance of a new concept over time. In this work, we tried to validate use of cluster assignment error as a detection criterion of concept drift. We aim to adapt our system for monitoring of damages in a fuel cell.
1.
じめに
現 ，機器や装置 ン 危険や異常 検 知 様々 場面 用い い 例え 温度，電
物理量を 断基準 ン
広 用い い ． ， 物理量型 ン
，危険や異常 断 ， 断基準 い 物理量 閾値 を 超 え 超 え い い う 基 準 行 わ ， 閾 値 適 設定さ い い場合 危険や異常を正 検知 い 問 題 や ， 危 険 や 異 常 を 正 検 知 出 来 ， 原 因 特 定 を 迅 行 え い 問 題 あ ． 原 因 特 定 を 迅 行 え い 問 題 ， 警 告 あ 都 度 ， 物 理 量 や 使 用 状 況 使用者 原因を探 必要 あ 起 ．
う 問 題 を 解 決 方 式 ， 学 習 ン 考 え ． 事 前 学 習 対 象 を 構 築 ，複数 物理量 故 や異常 を概念 例え 部 品 A 破損 関連付 ．
断基準を概念 大 長所 異常や危険を検 知 ，一見 異常や危険 原因 わ いう あ ． ， 学 習 方 式 ， ン 対 象
起 い い 故 や 劣 生 ， 含 い 未 知 概 念 対 応 持 続 可 能 性 い う 問 題 あ ． わ ，コン [Zliobaite 10] 正 確 対 象 S 観測量 確率 Pr(S) 変 や，新 確率 Pr(S’) 出現を指 対応 必要 あ ． ，全 概念を事 前 学 習 非 現 実 的 あ ， ン 共
更 新 必 要 ． 一 方 ， 逐 入 力 さ
コン 検出[Gama 04]や， を更新 逐 学習方式[Silva 13] 提案さ い ， 研究 学 習 観 検出精度や 追従精度を検証 留
， ン 応 用 例 い ． ， 学 習 ン あ ン 結果 意味付 や，教師 あ 類 学 習 あ 教 師 を観 測 対 象 精 通 人 付 う 必 要 あ ， さ 学 習 要 計 算 時 間 一般 事象 入力頻度 比 長い 挙 ．
本 研 究 ， イ ン ン 必 要 学 習 機 能 ， ン イ ン 高 処 理 を 実 現
管 理 (DSMS)を 組 合 わ ア
を 提 案 ． 本 方 式 統 計 基 い 動 的 閾 値 管 理 手 法[Gama 04] コン を検 出 ，適 イ ン
更 新 を 行 う ， 持 続 的 ン を 目 指 ． 初 期 的 検 討 ，木 材 破 損 時 音 対 人工的 コン を設定 時 ， 割当 誤差
変 を示 ，提案ア 適 コン 検出法 検討 ．
2.
システム実現
ため
提案アーキテクチャ
2.1 全体像
提案 ア を図 1 示 ．赤枠 示さ い 処 理 ， 各 事 象 ン 観 測 さ 度 ， 高 頻 度 処 理 必要 部 あ ． ，高 処理 必要 あ ， 全 ン 処理を行う DSMS 実装 必要 あ ． ，DSMS Nicklas 提案 汎用 ワ あ Odysseus[Appelrath 12]を利用 ，容易 実現 ．
一方，青枠 示さ 処理 ，観測対象 何 変 起 コン 検出さ 場合 処理を行う．
部 ， イン ンや 学 習 更 新 ， ア イ 書 出 頻 度 処 理 含 ．
中 身 い ， 々 を 中 心 研 究 を 続 燃料電池 損傷評価[福井10][ 川11]を例 説明 ． 先 行 研 究 ， 燃 料 電 池 損 傷 計 測 Acoustic Emission(AE)法 を 用 い い ．AE 法 ， 材 料 破 壊
発 生 微 弱 弾 性 波 を 波 形 信 測 定 ， 非破壊 損傷を評価 方法 あ [佐藤 05]． ，多様 損 傷 来 AE 事 象 類 可 視
ッ ワ 一 種 あ 自 己 組 織 ッ SOM を 用 い い ．
2.2 処 理 流 れ
常時計測さ イ を含 AE ン 信 ，損 傷 起因 AE事象部 を 出 ，FFT 周波数変換 を行い，入力 を得 (Preprocessing)． 新規AE事 象 入力 を学習済 SOM ッ 割 当 (Cluster Assignment)． ，Concept Drift Detectionを行い，
連 絡 先： 坂本 輔 ，大 阪 大学 大 学 院 情 報科 学 研 究 科， 〒 大 阪 府 茨 木 美 穂 ヶ 丘 ， T L ， X a a a a a e a a ac
The 28th Annual Conference of the Japanese Society for Artificial Intelligence, 2014
- 2 -
検 出 さ 場 合 学 習 を 更 新 必 要 あ ，low frequency process 進 ，SOM 学 習 更 新(Update cluster map) ン (Update labeling)を行い，
新 ッ をDSMS 受 渡 ． 検出さ ， ン 処理 事前 定義 照 合 わ 合 致 警 告 を 出 ア イ
(Complex Processing)．
2.3 SOM
SOM 特徴 高 元 を教師 ン ，2
元平面 視覚的 表現 あ ．SOM 相空間 規 則 的 配 置 さ 複 数 ン 構 さ ． 各 入 力 同 元 参 照 を 持 ，SOM 入 力 え ， 入 力 近 い 参 照 を 持 勝 者 ． 時 ， 相 空間 勝者 近い ほ 入力 対 強 学 習 利 を 獲 得 ， 強 さ 応 参 照 を 入 力
近 う 学習 ． 本稿 音波事象 距離測度 周波数 Kullback-Leibler 情 報 量 を 用 い SOM[Andras 02] [Boulet 08] を用い ．
2.4 Cluster Assignment
新規 AE 事象 ，参照 量子 誤差 小 ン 割 当 . , �!を新規 AE 事象 入力
, �! 割 当 勝 者 ン 量 子
誤差 式 え ．
�����= min !!!,…,! �
�!,�! −2� ℎ!
,!!� �!,�! !
+�2 ℎ�
�,�ℎ��,�� ��,�� �
�
(1)
，�：SOM 番 ，�： 数 ，�,�,� Σ SOM 学 習 作 用 い 学 習 い 総 和 あ ．
� ��,�� 関 数 あ ，本 稿 式 示 さ 確 率
間 近 さ を 表 Kullback-Leibler 情 報 量 基 尺 度 基 KL を用い ．
� �!,�! =exp −��� �!,�! (2)
���!,�! =�� �!,�! +���!,�!
=
�!,!log�!,! �!,! +
�!,!log�!,!
�! ,! !
!!!
(3)
，ℎ!,! 相空間 ッ 距離 基 近傍関数 あ ．本研究 ， 関数を用い ．γ 正規 あ ，
�= !!!!!,!
え ．C(j) 式(1) 計 算 さ 勝 者
ン 番 を表 い ．
2.5 Concept Drift Detection
本稿 ，コン 検出基準 ，SOM 学 習 ， わ イ 割 当 誤差 検討を 行う． 検出基準 要件 ，学習済 含
概念 含 い概念 得 新規 両 評 価 値 い ， 統 計 的 有 意 差 得 必 要 あ ． さ ， 検 出 法 要 件 ， 少 い 観 測 回 数 尚 且 1 計算量 検出 必要 あ ． う 検
出 法 ， 々 Gama Concept Drift Detection 法 [Gama 04] 着目 い ． ，Gama 研究 ，教師
The 28th Annual Conference of the Japanese Society for Artificial Intelligence, 2014
- 3 -
あ 学 習 器 滑 走 窓 中 損 失 関 数 値 を 検 出 基 準 い ．
3.
実験
々 ，DSMS コン 検 出 を 目 指 ，実 験 を行 ．
[実験目的]
コン 時 ，SOM イ 割 当 誤差 優 差 確 ．
[ ]
実 験 ， 木 材 破 損 時(3mm×3mm 材 5mm× 5mm 材，竹材，割箸， 材) 音波 を対象
． ， 実 験 簡 単 ，DSMS ， SOM イ 割 当 を逐 的 行う 疑
似 ン イン環境 実験を行 ．
実 験 処 理 対 象 音 波 例 ，3mm× 3mm 材 波 形 周 波 数 ワ を
図2 図3 示 ．
[実験手 ]
1. 3×3 材(20 個)を ン ， SOM 学習 を作 ．
2. 3×3 材(5個)，5×5 材(25個)，竹材 (25個)，割箸(25個)， 材(25個) ，以
う 人 工 的 コ ン を 設 定 ッ A)，B)，C)，D)を用意 ．
A) 3×3 材(5個)→5×5 材(25個)
を並 ．
B) 3×3 材(5個)→竹材(25個)
を並 ．
C) 3×3 材(5個)→割箸(25個)
を並 ．
D) 3×3 材(5個)→ 材(25個)
を並 ．
，A)，B)， C)，D) 3×3 材(5個) 並 同 並 ．
3. ッ A)，B)，C)，D) い 1.
作 学習 を逐 的 割 当 ， 式(1) 求 割 当 誤差 変 を観察 ． [実験結果]
ッ A)，B)，C)，D) 実験結果 図4， 5，6，7 を得 ．図 中 軸 割 当 入 力 を
示 ，縦軸 割 当 誤差を表 ． ，
ッ 初 5 個 3×3 材 ， Data Number 4(図中 青線)を境 種類 変 ．
例え ， ッ A 3×3 材→5×5 材 ． 図 中 青 線 を 境 人 工 的 コ ン
設定さ い ．
図4． ー タ セ ッ Aの 割 り 当 て 誤 差 の 変 化
図5． ー タ セ ッ Bの 割 り 当 て 誤 差 の 変 化
図6． ー タ セ ッ Cの 割 り 当 て 誤 差 の 変 化
図7． ー タ セ ッ Dの 割 り 当 て 誤 差 の 変 化
図2．3mm×3mm ル サ 材 の 波 形 ー タ 例
The 28th Annual Conference of the Japanese Society for Artificial Intelligence, 2014
- 4 -
以 ， 今回 実験 ，青 破線 示 人工的 コン を境 ， SOM イ 割 当 誤差 当初期待 い 優 差 ．
[考察]
SOM 割当 誤差 ，顕著 差 得
原 因 ，学 習 同 種 類 少 さ(3×3 材 5 個 )， 実験 用い 音 周波数
顕 著 差 い 可 能 性 ， 割 当 誤 差 基 準 適 あ 考 え ． ， 目 少 さ 関 ， を 収 集 増 や ， 学 習 入 え 複 数 回 試 行 必 要 あ ．ふ 目 関 ，UCI Machine Learning Repository 開 さ い ッ 内 ，比
較 的 類 容 易 を 用 い 同 様 人 工 的 コ ン
用 考え ． 目
関 ， 異 コ ン 検 出 法 Patra [Patra 07] SOMを用い 教師 変 検出法 適用を
検討 ．
4.
まとめ
本論文 ，コン 適応型学習 ン 実 現 を 目 指 イ ン ン 必 要 学習機能 ， ン イン 高 処理を実現
管 理 (DSMS)を 組 合 わ ア を 提 案 ． 手 法 ， 統 計 基 い 動 的 閾 値 管 理 手 法 コン を検 出 適 イ ン 更 新 を 行 う ， 持 続 的 ン を 目指 ． 手法実現 第一歩 ，コン 検出 性 能 評 価 を 目 的 実 験 を 行 ． 木 材 破 損 時 音 波
を SOM イ 逐 的 割 当 ， 時 割 当 誤 差 変 を 観 察 ． ， 時 ，
入 力 を 作 的 並 え ， 人 工 的 コ ン を 起 ．結 果 ，コン 前 後 ，割 当 誤 差 優 差 見 ． ， 今 後 ， 学 習
同 種類 を増や 学習 入 え 複 数 回 試 行 ， 対 象 を 木 材 破 損 時
変 更 ， 割 当 誤 差 以 外 コ ン 検 出 基 準 を 検 討 ， 変 更 を 加 え 同 様 実 験 を 行 い ，コ ン 適 検出を目指 ．
後 DSMS 用い Odysseus 実装 Labeling 構 築 を 行 う 提 案 ア 実 現 を予定 い ．さ ，提案ア を酸 物型燃料 電 池(SOFC)や 他 構 物 物 理 的 損 傷 対
ン 適用 ．
謝辞
本 研 究 一 部 附 置 研 究 所 間 ア イ ア ン
を 物 質 イ 創 製 戦 略 特 経費 文部科学省 助 を受 行わ ．
参考文献
[Zliobaite 10] Indre Zliobaite, Learning under Concept Drift: an Overview, http://arxiv.org/abs/1010.4784, (2010)
[Gama 04] J.Gama, Pedro Medas, Gladys Castillo, Pedro Rodrigues: Learning with Drift Detection, Proceedings of
17th Brazilian Symposium on Artificial Intelligence, Sao Luis,
Maranhao, Brazil, pp. 286-295 (2004)
[Silva 13] Jonathan A. Silva, Elaine R. Faria, Rodrigo C. Barros, Eduardo R. Hruschka, Andre C. P. L. F. DE Carvalho, Data Stream Clustering: A Survey: ACM Computing Surveys, Vol. 4, Issue 1, 13, (2013)
[Appelrath 12] H.-Jurgen Appelrath, Dennis Geesen, Marco Grawunder, Timo Michelsen, Daniela Nicklas: Odysseus – A Highly Customizable Framework for Creating Efficient Event Stream Management Systems, Proceedings of the 6th ACM International Conference on Distributed Event-Based
Systems, pp. 367-368 (2012)
[福井 10] 福井健一, 赤崎省 , 佐藤一永, 水崎純一郎, 森山
一, 栗原聡, 沼尾正行:固体酸 物燃料電池 損傷 過程 可視 , 日本機械学会論文集 A 編, Vol. 76, No. 762, pp. 223-232 (2010)
[ 川 11] 川哲平, 福井健一, 佐藤一永, 水崎純一郎, 沼尾正
行: SOM を用い 稀 重要事象抽出 燃 料電池 損傷評価, 情報処理学会論文 :数理
応用, Vol. 4, No. 2, pp. 1-12 (2011)
[佐藤 05] 佐藤一永, 橋 俊之, 代圭 , 湯 浩雄, 川 達
也, 水崎純一郎:模擬作動環境 固体酸 物燃料 電 池 機械的損傷評価法 開発, Journal of the Ceramic
Society of Japan, Vol. 113, pp. 562-564 (2005)
[Andras 02] Andras,P., Kernel-Kohonen networks: International
Journal of Neural Systems, Vol.12, pp.117-135 (2002)
[Boulet 08] Boulet, R., Jouve, B., Rossi, F. and Villa, N.: Batch Kernel SOM and Related Laplacian Method for Social Network Analysis, Neurocomputing, Vol. 71, pp. 1257-1273 (2008)
[Parta 07] Swarnajyoti Patra, Susmita Ghosh, Ashish Ghosh: Unsupervised Change Detection in Remote-Sensing Images using Modified Self-Organizing Feature Map Neural Network, IEEE Proceedings of the International Conference
