教訓集（組込みシステム編） 重要インフラ分野のシステム障害への対策：IPA 独立行政法人 情報処理推進機構

情 処理 高信 教訓集 組込 編

犉立行 法人情 処理推逭機構

本書

構成

使い方

書 4 PART 付録 成

PART 教訓集 編

PART 害 策手法 例集

PART 害 析手法 例集

PART 害 析手法 例解 書

付録A 害情 扱い

付録B 信 性 表 評価指標

PART 教訓集 編 情 処理 高信 教訓集 組込 編 体 あ

PART 2013 集 35 教訓 例 掲載 各教訓 例

う 整理 い 表 構成 明

教訓 例 示 教訓 容 端的 表現

製品 特 害 瘠生 製品 特 要 照 構成 運用

観 述

観察 現象 害瘠生時 認識 体的 象 述

部 瘠生 象 瘠生 象 引 起 直接原因 述

原因 要因 当 象 引 起 背 要因 い 述 合 作

要因 流出 要因 あ

然防 策 ～ 出 要因 策 述

教訓9

教訓 場合 期 領域 適 設

製品 特長 高稼働率 無停 期間 長期 必要 遒隔監視 い 通常 故

誤動作 瘠生 外 故 瘠生 動作 行 故

回復 機能 要求 等 高い信 性 求

観察 現象 用 高稼働率 実現 側 故 場合

制御 連 性 維持 側 替わ い 側

替わ 直 異常 通知 瘠生

部 瘠 生 象

側 替わ 時 期 い 値 値

異常 瘠生

原因 要因 機能追 時 管理 必要 領域 追 期 領域 変更

追 側 期領域 使用 い 状態 検査 漏

い 替わ 場合 側 期 い い

然 防 策

直接原因 策

期 必要 領域

要因 恒久 策 応 程 明

期 検査 目 側 追 領域 使用 い 状態 え

範 境界 値 確認 検査 目 追

引 わ 動作 良 防 容易

設計 変更設計

変更設計 場合 体 全体 影響

解析

PART 害 策手法 例集 教訓集中 各教訓 実践 必要 手法 整理

あ 教訓 含 体的 策 実施 策 必要 背 等 深 理解

役立 教訓 含 策 外 周辺 策 連 策 検討 参考 活用

適用 程 要求 義 運用 10 程 類 各 程 教訓

述 策 手法 当 教訓番号 述

策 手法 PART 各教訓 然防 策 欄 各 策 行う

程 応 程 明 応 程 適用 程 一 策 容

欄 転 ESDR ESPR等 既 SECBOOK PART 参考文献[1]

～[4] 連 容 あ 場合 当 目番号 述

教訓番号 転 策 含 教訓番号 述

PART 害 析手法 例集 回 活動 中 実施 害 析手法 例 調査結

あ 害瘠生時 原因 析 真因 特 再瘠防 手立 打

応手 概要 適用 手法 概 い 原因 析 利用 手法 手

法 適用 検討 例 通 あ

原因分析の手法

故経過表 VTA (Variation Tree Analysis) 問 行動 析 PNA

ワ 析法 瘠生源 検出漏 析 例外 析 析

分析手法を試行適用し 事例

湘 2008 2 24 列車 制御 起因 故

1996 6 4 慣性制御異常 爆瘠 故

航空 2008 10 7 意 い急降 繰 返 瘠生

PART 害 析手法 例解 書 PART 紹 害 析手法 害 析作業 体的

例 う 識者 い い 意見 入 解 あ 害瘠生時 原

因 析 手法 適用手 参考 活用

有識者からい い 意見の例

原因 析

☞ 留意

HW 要因 疑い い SW 要因 追求

HW 原因 多 あ 疑う

HW 焦 当

HW い わ SW 状況 い 注目 疑い 者

SW 振 舞い 目的 焦 当 前提

中 怪 い回答 拾い出 い 見当付 い

容 細 確認 書 出

い 経 則 経 薄い人 教訓集 必要 思う

SW要因 追求 術 3 観 行う

見 い

疑う 番

→ 制約 → 術 →

付録A 害情 扱い 害情 告 録 共等通様式 集 公

開 機密保持等 あ 書 者 自 害情 集 析

基 教訓 共 行う 参考 活用 頂 い

全体目

序言

ＰＡＲＴ 1

1. 3

1.1 背 目的 3

1.2 IPA/SEC 組 意義 4

1.3 教訓集 特 4

2.情 処理 高信 教訓集 製品 制御 組込 編 5

2.1 然防 知識 集 方針 5

2.2 教訓 10

ＰＡＲＴ 1

1. 類 体系 3

2. 程 策 例 手法 3

2.1 要求 義 策 例 6

2.2 設計 策 例 7

2.3 設計 策 例 8

2.4 設計 変更設計 策 例 9

2.5 実装 策 例 10

2.6 策 例 10

2.7 策 例 11

2.8 教育 策 例 11

2.9 策 例 12

2.10 運用 策 例 12

3.観 13

3.1 直接原因観 13

3.2 然防 観 14

3.3 活用方法 15

ＰＡＲＴ 1

1. 3

1.1 例集 使用 用語 い 3

1.2 析手法概覧 3

2. 害瘠生 析結 流 4

2.1 害瘠生 策 検討 4

3. 析手法 析 例 8

3.1 8

3.2 故経過表 11

3.3 VTA VARIATION TREE ANALYSIS 14

3.4 問 行動 析 16

3.5 PNA ワ 析法 19

3.6 瘠生源 検出漏 析 21

3.7 例外 析 23

3.8 析 24

4. 例 概要 29

4.1 湘 29

4.2 駒場 30

4.3 5 31

4.4 航空 33

ＰＡＲＴ 1

1. 3

1.1 解 書 概要 3

1.2 解 書 使用 用語 い 3

2. 害 析手法 析作業 3

2.1 害 析手法 析作業 概覧 4

2.2 害瘠生 再瘠防 策 立案 5

2.3各 細 5

3. 害 析 例解 9

3.1 来都 害 析 9

3.2 来都 害 析 例 21

3.3 堤 水 異常作動 析 例1 27

3.4 堤 水 異常作動 析 例2 34

4. 再瘠防 活動 例 43

4.1A社 再瘠防 活動 例 43

4.2B社 再瘠防 活動 例 47

付録A 害情 扱い 1

序言

世界中 ワ 繋 IoT (Internet of Things) 時 到来

あ IoT 捕捉 情 集 活用 産業 生活

大 削減 新 い価値 生 出 期待 い う

IoT 社会 期待 高い ワ 繋 世界 い

制御 害 想像 大 信 性

う 担保 極 要 深刻 課 あ う IoT 活用 必須

自動車 自動運転 型例 あ 生産性 観 機

叫 あ 人類 様々 術革新 生産性

機 越え 信 性 機

越え い 必要 あ

う 迫 機 応 情 処理推逭機構 IPA SEC

高信 要 等 製品 制御 1 害 例情

集 析 策 整理 体系 等 問 意識 持 企業等 力 得 推逭

書 部会 ワ 検討 3 間 整理 体系 成

あ 例 7 例増え い

害 例 策 整理 体系 成 害 再瘠 然防 活用

意味 い 実 簡 い 各企業 過去 害

例 行わ 蓄積 活用

い い いう 耳 整理 体系 例 組織 学習 活用 組

構築 必要 あ 現場 役立 教訓活用

害 然防 教訓 作成 教訓集 用い

術者教育 開瘠 回 試行 行 充実 教育 洗練 行

い 予 あ

IoT 時 想 外 害 然 防 過去 例 学習

過去 例 気 力 う 養成 要 知識 学

知識 組織学習 要 研究 あ 知識 学 最新 知見 入

課 組 い

2016 3

組込 高信 部会

主査 直

陸 端 学 術大学院大学

知識 学研究 教授

1

本書 2013 度版 び2014 度版 対象 製品･制御 呼称 い

ＰＡＲＴ

教訓集

編

PART

目次

1. 3

1.1 背 目的 3

1.2 IPA/SEC 組 意義 4

1.3 教訓集 特 4

2.情 処理 高信 教訓集 製品 制御 組込 編 5

2.1 然防 知識 集 方針 5

1.

め

1.1

背景

目的

組込 私 生活 社会 隅々 広 要 必要

い 一方 複合 全体 信 性

困 あ

従来 個々 製品 信 性 損 要因 析 策 個 行わ 公開

製品あ い 業界 い 特 前 検証 瘠見

い原因 引 起 類似 害 瘠生 あ

製品 全 新規 開瘠 少 製品 信 性 わ

活用 機会 無 あ 企業 経 世 間 共 伝

手立 必要 あ

製品 信 性 維持 各企業等 経 情 企業 業界 世 断

共 大 あ 各企業等 個 保持 経

第 者 理解 実践 形 要約 必要 あ 犉立行 法人情

処理推逭機構 IPA/SEC 要 2等 組込 開瘠 構

築 担う企業等 力 得 害 例情 集 析 策 検討 既 実

施 策 含 整理 体系 等 行う 組 結 得

教訓 業界 越え 幅広 共 類似 害 然防 影響範

縮 組 構築 目指 あ 1.1参照

2

内 サ バ セ ュ セン 情 通信 金融 航空 鉄道 電力 政府 行政サ ビ 医療 水

道 物流 化学 ッ 石油 13分 要 ン 定義 い 成26 5 19日 要 ン

1.2

IPA/SEC

取組

意義

製品 信 性 維持 各企業等 経 情 世 断 共

大 あ 各企業等 個 保持 経 第 者 理解 実

践 形 要約 必要 あ IPA/SEC 要 等 組込

開瘠 構築 担う企業等 力 得 害 例情 集 析 策 検討 既

実施 策 含 整理 体系 等 行う 組 結 得 教

訓 業界 越え 幅広 共 類似 害 然防 影響範 縮

組 構築 目指 あ

一般 企業 生 害情 提供 う い IPA/SEC

機密保持等 国家公 員法 IPA 員会規 等 則 公的機

立場 企業 一 析 情 策 含 提供い い 情 一般

象 教訓 情 処理 高信 教訓集 組込 編

1.3

本教訓集

特徴

組込 利用者 利用環境 前 特 困 場合 多 前

検証 瘠見 い要因 害 引 起 あ

個々 製品 信 性 損 う 要因 析 策 企業

個 行わ 公開 製品あ い 業界 い

う 前 検証 瘠見 い要因 引 起 類似 害 瘠生

あ 教訓集 う 害 瘠生 然 防 教訓

集

製品 全 新規 開瘠 少 製品 信 性 わ 活

用 機会 無 あ 企業 経 知識 世 間 共 伝 手立

2.

情

処理

高信頼化教訓集

製品

制御

組込

編

2.1

未然防止知識収集

方針

2.1.1

概要

教訓集 産業界 実践 い 品質 問 然 防 然防

知識 象 一般 幅広い組込 開瘠企

業 い 利活用 教訓 整備 あ

品質 問 然 防 知識 然防 知識

然防 知識 再瘠防 然防 知識 2種類 あ 再瘠防

知識 企業 組織 起 故 害 知識 再 類似 問

瘠生 防 知識 あ 然防 知識 企業

組織 起 故 例 象 一般 自 自組織 い 類似

問 防 知識 あ

然防 知識 的 害 品質 知識

的 害 瘠現 問 外 防 知

識 あ 両者 集 象

害 故 用語 様々 意味 使用 教訓集 害 い

う用語 JIS X 0014 義 害(fault) 意味 用い 故 (failure) (defect)

IEEE 1044 義 IEEE 982.1 載 容 基 用語 用い 害 計算機

確 義 故 要求 機能 遂

行 製品 能力 尽 状態 前 様 制限 機能 遂行 能力

無い状態

2.1.2

未然防止知識

想定利用者

然防 知識 利用者 組込 開瘠 わ 3者 想

 設計者

 側 設計者

 側 設計者

利用 特 訓練 い い 知識 利用 困

あ 考え 想 利用者 外 あ

2.1.3

収集

整理手順

[ 集手 背 ]

然防 知識 集 整理 実施 あ 集 各企業 外 例 知見

然防 知識 録 肝 部 出 例 書 換え

然防 知識 例 知見 公開情 当 者

例 知見 開示 困 あ 予想 あ 組込 製

品 多岐 わ 一 企業 あ 例 知見 実感 い

利用者 近い 例 書 換え 然防 知識 い 考え あ

[ 集 枠組 ]

然防 知識 集 整理 繰 返 実施 過程 い 改善 あ

然防 知識 集 整理 通 各企業 活用 然防 知識 集 利用

確立 あ 集 確立 然防 知識 類

肝 知識 出 象 例 書 換え 方法 整備 必要 あ 方法

一挙 確立 集 整理 繰 返 実行 必要 あ

[ 体的 集手 ]

背 踏 え 然防 知識 手 集

1) 然防 知識 使用

述 然防 知識 使用 者 直接 入

段階 生 情 あ 例 書 換え 行わ い

2) 象 例 書 換え

然防 知識 要 象 例 知識 書 換

え 行う

3) 程 然防 知識 出

程 策 策 う 問 瘠生 う 一覧

程 然防 知識 出

4)

然防 知識 識者 述 過 足 理解 い 等 補足

5)

[ 然防 知識 設計]

然防 知識 知識 提供者 入 う 使用 あ 一 情

必要 情 過 足無 入 う 構成 然防

知識 述 載 目 参考 各 特性 考慮 設計 望 い

2.1 然防 知識 設計 わ 概要 示 2.1 あ う 手 番

整理 い 然防 知識 完成

最初 問 瘠生 状態 整理 問 顕 直接観察

暴走 意 停 等 現象 整理 現象 直接

瘠生 部 瘠生 象 整理

問 作 込 直接的 原因 整理 原因 開瘠 術 わ 術面

人 組織面等 あ

原因 う 恒久的 策 行う いう 検討

図2.1 未然防止知識 設計方針

[ 然防 知識 載 目]

前 然防 知識 設計 基 目 考慮 然防 知識

作成

 教訓

 背 ワ

 製品

 製品 特

 観察 現象

 部 瘠生 象

 原因 要因

 然防 策

設計 前述 目 観察 現象 部 瘠生 象 原因 要因

然防 策 外 然防 知識 背 述 目 程 然防

知識 追

然防 知識 背 扱う製品 信 性要求 合い 特

等 然防 知識 策等 大 異 考え 追 い

程 然防 知識 い 程 い う 策 施 然

防 知識 載 い 問 瘠生 い 整理 追

[ 程 然防 知識整理 方針]

程 策 策 う 問 瘠生 う 一覧

程 然防 知識 瞰 う 程 整理 程

程 然防 知識 整理 当 例 ESPR Ver.2.0: 改訂

爮 組込 開瘠 [1] 基 的 用 い

直接開瘠 わ SYP

SWP SUP 限 象

望 い ESPR 教育 程 義 い い 程

然防 知識 一部 用 検討 目 あ いえ 組込

開瘠 い 多 見 差 開瘠特 然防 知識 い 各 程 差 開瘠 あ

2.2

教訓

章 集 然防 知識 例 象 教訓 紹

教訓

1

教訓 複雑 条件式 変更 行う場合 等 検証 効 あ

製品 特 空気 非常用 開閉 行う 開閉 力 一 保 速 各種

等多数 入力 基 い 開閉動作 非常時動作 確実性 求

観察 現象 試 運用中 い あ 非常用 開 い いう 態 露見 当 信

性 製造 信用 損 う

部 瘠 生

象

調査 開閉 行う 空気 制御 い 矛盾

条件 設 い わ

原因 要因 非常 開閉 動電源 電源効率 考慮 系統

融通 合う う い 余熱用 電流 系統 得 い 変更前

う 余熱用電流 確保 条件 設 い あ 時電源構成

変更 条件 削 担当者 当 部 純

削 い 思い込 純 1 行削 変更 全体要求 様

い い 認識

変更前

前提条件

&& 空気 設 値

&& ●電流要求無

|| 速 異常検知

|| 温 異常検知

変更 合状態

前提条件

&& 空気 設 値

&& ●電流要求無

|| 速 異常検知

策

前提条件

&& 速 異常検知

|| 温 異常検知

|| 空気 設 値

然 防

策

直接原因 策

当 条件式 確認 実施

要因 恒久 策 応 程 明

複雑 設 条件 変更 場合 矛盾 適合 い う

作成 確認 元 条件 削 追

色 等 比較確認 気 得 然

誤 防 容易

変更前

条件式 成立条件

#1 #2 #3 #4 #5

&& 前提条件 ○ ○ ○

&& 空気 >= 設定値 ○ ○ ○

&&

| | ●電源要求 = = FALSE ○

| | 速度異常 = = TRUE ○

| | ■温度異常 = = TRUE ○

変更 合状態

条件式 成立条件

#1 #2 #3 #4 #5

&& 前提条件 ○ ○

&& 空気 >= 設定値 ○ ○

&&

| | 速度異常 = = TRUE ○

設計 変更設計

全体像 把握 変更

複雑 条件 変更 場合 等 使用 変更 妥当性 確認

設計意 文書

設計

適 規模 割 複雑 減

教訓

2

教訓 条件 整理 い い状態 条件数 100 超え う 機能 10

個 条件 機能 場合 連 条件 全 洗い出 整理 整合

い 確認

製品 特 溶剤処理 伴う 制御 温 等 環境条件 厳 い中

使用 高い信 性 要求

観察 現象 運転中 系 配管 亀裂 瘠生 応処理中 排気処理系 一部 排

気動作終了 停 熱焼損 火災 故 当 系統 一部機

能 喪失 い延焼 大 故 能性 あ

部 瘠 生

象

排気処理系 A, B 2 あ 開始指示信号ON 基 い 起

動 起動時 排気 制御 一 時間動作 様 い A 起

動 機能完了 A 停 B 起動 排気 行う 回 配

管 亀裂 温 損傷 瘠生 影響 異常時 制御 一部

効 状態 A 起動 排気 制御 完了 前 開始指示信

号 OFF い 排気 完了 い状態 A 停 焼損

原因 要因 従来 開始信号 排気完了 ON状態 前提 設

い 排気処理動作 様 変わ 応 実施 温 故 応

あ 意 動作 変更 排気完了

待 OFF う う 原因 あ

排気処理 前段 応 程 連携 制御 行わ い 担当者 う 制御

全般 知識 経 薄 当 応機能 変更 考え 作業 行

然 防

策

直接原因 策

当 条件式 確認 実施

要因 恒久 策 応 程 明

変更前 変数 数等 比較 一 効 あ 場合 う

前 大 差 い場合 数 遊い 気 付 い

観 適 割 等 方策 望 い 思考 範

誤 少 短期間 設計 容易

変数 変更規模 変更前 複雑 変更 複雑

入力変数 条件数 入力変数 条件数

A 実行状態 8 7 8 7

A 起動 6 5 7 6

○○弁動作 7 8 9 11

○○弁開状態 5 4 5 4

開始指示 26 43

実行状態 30 58

A B 焼損 う 連 運転 避 一 時間 動作 い

う 実装 設計者 程全般 術知識

教育 従来 組織 い 信 性 わ 知識 伝 能

設計 変更設計

全体像 把握 変更

設計意 文書

並列 設計 変更 等 援用 検証

設計

適 規模 割 複雑 減 .

制約 超え い う 設計 監視

変更前 大 差 い

複雑 義 閾値 目

条件 整理 い い状態 条件

数 100 超え う 機能 10個

教訓

3

教訓 複数機能 統合 場合 統合前 条件数 総和 統合 条件数 比較 差

あ 場合 条件 抜 い 確認

製品 特 場 製品 掛品 自動 制御 AGV: Automatic Guided Vehicle

場 生産性 遉成 経路 最適制御 行え 高い稼働率 要求

観察 現象 稼働中 多数あ 置 一部 故 瘠生 準備中 自動

車 接触 故 瘠生 長時間 停 出荷停滞 いう 態

部 瘠 生

象

移動 走行車 人 距 等 測 入力情 等 最適

制御 中 自己学習 動作 故 入力情

い条件 い 前方 置 学習 指示 条件 中 一部抜 い

原因 要因 当 機能 複数 構成 機能統合 情 瘠

生 構成 見直 実施 元々 動作 様条件 一部 転

瘠生

通常 開瘠環境 構造 確認作業 実施 い

瘠生 担当者 様条件 抜 あ 認識

統合前 統合 合状態

A

B

C

FW学習●機能

FW学習指示●条件

FW学習 機能

FW学習指示 条件

FW学習 機能

FW学習指示 条件

FW学習機能

FW学習指示●条件

FW学習指示 条件

FW学習指示 条件

条件

FW学習機能

FW学習指示●条件

FW学習指示 条件

然 防

策

直接原因 策

変更前 条件 変更 条件 突合 確認 部 追

要因 恒久 策 応 程 明

一般的 学習機能 確認 類 組 合わ 膨大 傾 あ 実機

検証 い 瘠見 い 多い 前 仮想環境 構築 実施

い 網羅 合 限界 あ

変更作業 条件 設 防 策 構造

目視確認

統合前 中 出現 指 条件数 総和 X

統合 中 指 条件数 Y

義 X ≒ Y い 確認 結 録

統合前 統合 合 統合前

大 比較

大 異

条件数比較

統合前 総数 19

統合 合 総数 4

統合前 総数 19

総数 19

方法 簡便 誤 無 能性 容易

設計 変更設計

複数 統合 統合前 条件数 確認

教訓

4

教訓 変数値域 広 組合 非常 多 場合 値域 適 大

割 境界値 実施

製品 特 学物質 あ 指 経路 従

間隔 動作 確実性 応答時間 確性 求

観察 現象 あ 中 非常停 停 場合 停

時 方 数 置 応 序 従 再開 様 い

時 再 長時間 わ 停 損失 大

中 滞留 学物質 去 人手 行 う いう 険 作業 長時 間 得

部 瘠 生

象

停 再開 動作 停 時 想 方 置

表 参照 再開 算出 実行 い 表 参照 算出

間遊い あ 再開 来#4 あ #5 い

原因 要因 当 算出処理部 い 機能 変え 統合 実施 意

い変更 実施 い元 動作 様 結 的 変更 原因 あ

算出 停 時 状態情 数 停 置等 基 い

組合 各々 値域 非常 多い 組合

実施 い 組合 網羅 い

然 防

策

直接原因 策

改 部 再 行い 適合部

要因 恒久 策 応 程 明

組合 各々 値域 非常 多 瘠生 省 検査

術 活用 う 2通 検証 行 確認

検証

条件

変更前

制約条件

前条件& 条

件

変更

完全一 検証

変数値域 広 組合 非常 多 一般的 検査

組 合わ 爆瘠 生 象 行う 例 値域 適 大

割 実施 妥当 時間 検証 容易

設計 変更設計

複雑 変更設計時 大 応 等 術

援用 変更 妥当性 確認

変更前

変更

前条件

変更前 変更

象 変数 結

一

複雑 義 閾値 目

条件 整理 い い状態 条件

数 100 超え う 機能 10個

教訓

5

教訓 蔵電 使用 場合 深 電時 起動 考慮

製品 特 無線通信機能 蔵電 AC 充電器 接 無 使用

能 型業 用端

観察 現象 電源 端 起動 い

AC充電器 接 い 充電 出来 い

部 瘠 生

象

電 電 極 状態 深 電状態 充電等 あ 一 電

電 電 回復 区間 深 電電 端 起動電 閾値 区間

端 起動 行わ い様 起動抑 い

深 電状態 あ 時 AC 接 充電 電 電 昇

状態 電源ON操作 行う 充電電力 含 電 電 端 起動 否

行わ 端 起動電 閾値 回 起動処理 開始

一方 端 起動処理 一部 充電 一 停 様 充電 停

電 電 元 状態 深 電状態 戻 電源IC 持 端 起動電 閾値

回 う

端 起動電 閾値 回 状態 電 電 十

端 起動 全系統 電源供給 停 い 充電停 停

原因 要因 電 電 極 状態 深 電状態 想 評価 行わ い

電 電 極 状態 深 電状態 AC充電器接 状態 配慮 足

い

然 防

策

直接原因 策

AC 接 時 端 起動電 閾値 変更

要因 恒久 策 応 程 明

電 動作 端 い 長時間 置等 電 電 極 状態

深 電状態 状態 策 必要 あ 認識

電 電 極 状態 深 電状態 い 状態

場合 策 検討 必 実 装置 検証 行う

端 起動電流 電 降 及 考慮 設計 織 込

客 調査 検討 様 条件 環境 評価 行う

策

AC充電器 接 い 充電 出来 い

い 製品 充電 動作 良 設計時 防 容易

設計

開瘠部門 開瘠部門 連携 要

特性 文書 設計 入力 え

特性 文書

設計

制約 考慮

物理的 条件 網羅

実機検証 行う

集 越え 人

教育

術者 術者 文 交流 場 設

教訓

6

教訓 使用 場合 書 込 回数 考慮

製品 特 無線通信機能 蔵 蔵電

AC充電器 接 無 使用 能 型業 用端

観察 現象 電源 端 起動 い

端 起動中

端 使用中 電源断 瘠生

部 瘠 生

象

端 OS 等 保 用 用

特 領域 値 壊 起動出来 い等 合 瘠生

原因 要因 用 特 領域 値 壊 い

特 領域 書 込 回数 超え 書 込 行わ

然 防

策

直接原因 策

書 込 回数増 要因 書 込 回数 減

要因 恒久 策 応 程 明

端 用 場合 部品 認識

回数 超え い様 注意

回数 超え 能性 あ 場合 回数 監視 機能 回数 超え い

組 準備

用 回数 準 方法等 い 実 装置 使用

方法 問 無い 前 確認

用 実 客様 使用環境 扱う 把握

使用中 様 程 書

把握

自社 開瘠 領域 使用 OS 購入 SW FW

動作 含 検討

あ 場合 差 把握 評価 行う

変更 場合 NOR →NAND

SLC→MLC→TLC等 回数 異 特 注意

使用 開瘠部門 開瘠部門

電源 端 起動 い

端 起動中

端 使用中 電源断 瘠生

い 製品 部品 起因 動作 良 設計時 防 容易

要求 義

利用 あ 想

設計

HW 変更時 影響解析 行う

特 HW 使用 時 あ 特性 把握

設計 診断 機能 実装 結 通知 機能 備

開瘠部門 開瘠部門 密

運用

教訓

7

教訓 消費電力 多い機能 追 場合 一時的 電 降 影響

等 電源 種類 電 場合 考慮

製品 特 3G無線通信機能 蔵電 AC充電器 接 無 使

用 能 型業 用端

観察 現象 端 起動時 使用中 3G 停 通知 表示

降3G通信 使用出来

電源 端 起動 い

部 瘠 生

象

3G 動作開始直 FLASH 書 込 行わ 書 込 中

電源断 瘠生 File System 破壊 3G 使用出来

3G 動作開始時 突入電流 電源電 降 瘠生

3G 策 3G 電源 追

電 容 少 い場合 端 起動時 3G 電源 時 突入電流

電 電 降 瘠生 端 電源

原因 要因 3G無 爮 3G 爮 2 商品 あ

3G無 爮 開瘠 行 3G 爮 評価 十 あ

載部品 3G 電源電 あ 評価 十

3G 電源 追 周辺回路 影響検討 十

電 容 少 い状態 電 電 い状態 評価 十

然 防

策

直接原因 策

3G 策 3G 電源 追

電 容 少 い場合 策 電源IC 根元

追 電 容 少 い状態 端 起動 い様 変更

要因 恒久 策 応 程 明

設計

商品 あ 場合 差 把握 評価 行う

端 各機能 起動電流 電 降 及 回路部品 考慮 端 起動

含 設計 織 込

電源 電 降 策 追 場合 策部品 配置場 電源

影響 確認

電 動作 端 い 電 容 少 い状態 策 必要 あ

認識

電源 端 起動 い

い 製品 電源容 起因 動作 良 設計時 防 容易

設計

商品 あ 場合 差 把握 評価 行う

端 各機能 起動電流 電 降 及 回路部品 考慮 端 起動

含 設計 織 込

電源 電 降 策 追 場合 策部品 配置場 電源

影響 確認

電 動作 端 い 電 容 少 い状態 策 必要 あ

認識

消費電力 多い機能 追 場合 一時的 電 降 影響

等 電源 種類 電 場合 考慮

設計

差 把握 評価

教訓

8

教訓 想 能 例外 形式的 漏 析

製品 特 物理現象 制御 組込 い 多 機能 目 並行動作 様々 周辺

及 操作参照 目的 遉成 制御

観察 現象 航空機 自動操縦中 急降 引 起 原因 情 得

姿勢情 得 姿勢情 管理装置 あ 姿勢情 管理装置 姿勢情 自動操

舵装置 飛行 制御 い 姿勢情 管理装置 想 外 大 姿勢情

出力 自動操舵装置 誤 操作 行い急降 繋 姿勢情 管理装

置 電源 復

姿勢情 管理装置 現象 1～3 想

現象 1 運転中 急 停 害 再始動操作 常運転

現象2 外部入出力 参照/操作 機能 常 動作 害

外部入出力 種 及 機能 種 現象 特 い

現象 3 運転中 特 機能 実行 終了 機能 動作 害

電源 復 い

部 瘠 生

象

誤 姿勢情 出力 姿勢情 管理装置 部瘠生 能性 象

象1～ 象6 想

象1 MPU 部 破壊

MPU 侵入源 MPU 入 込 時 IO 方

最初 破壊 MPU 部 到遉 あ MPU 部

破壊 MPU 誤動作 入力 変 い 出力 変 い 割 込 起

動 い etc 又 暴走 →現象1 現象2

象2 想 外 割 込 実行

外部割 込 瘠生 入力処理 実施 入力値 使用

害 瘠生 →現象2

象3 割 込 連 起動 CPU処理占

割 込 的 瘠生 割 込 CPU 占 MPU

接 周辺 時間制約 足 出来 入出力 操作

出来 →現象2

破壊 入力値 害 瘠生 →現象2

象5 出力 故

破壊 出力操作 実施 操作 出来

害 瘠生 →現象2

象6 入出力 及 故 又 断線

入出力 又 応答 待 場合 故 又 断線時 応答 返 特

機能実行 抜 出来 機能 う 害

原因 要因 例外 想 様 義 い い

組込 参照 操作 入出力 例外 考慮 い

い 瘠生要因 あ

然 防

策

直接原因 策

象1 MPU 部 破壊

MPU 部 破壊 復

割 込 及 監視 一 時間動作 操作 実施 復

入力 得 処理 実施

入力 範 外 あ 入力範 丸

象2 想 外 割 込 実行

割 込 起動時 常割 込 あ 断 割 込 あ 何

割 込 終了

象3 割 込 連 起動 CPU処理占

象4 入力 故

入力 範 外 あ 入力範 丸

入力 一 周期 監視 入力 応答 無 入力

入力 復 出来 い場合 MPU 操作 実施

象5 出力 故

出力 復 出来 い場合 MPU 操作 実施

象6 入出力 及 故 又 断線

入出力 又 応答 待 設 一 時間応答

無 象機能 実行 中断 異常処理 実施

要因 恒久 策 応 程 明

要求 析 義 作業 実行 例外 害 然 防

例外 目 物理的観 環境的観 義

義 例外 目 例外 義

機能 目 例外 目 生成 例外 機能 様 義

外部入出力 参照/操作 機能 常 動作 瘠

生 害 能性 減少 容易

要求 析

例外 目 物理的観 環境的観 義

設計

教訓

9

教訓 場合 期 領域 適 設

製品 特 高稼働率 無停 期間 長期 必要 遒隔監視 い 通常 故

誤動作 瘠生 外 故 瘠生 動作 行 故

回復 機能 要求 等 高い信 性 求

観察 現象 用 高稼働率 実現 側 故 場合

制御 連 性 維持 側 替わ い 側

替わ 直 異常 通知 瘠生

部 瘠 生

象

側 替わ 時 期 い 値 値

異常 瘠生

原因 要因 機能追 時 管理 必要 領域 追 期 領域 変更

追 側 期領域 使用 い 状態 検査 漏

い 替わ 場合 側 期 い い

然 防

策

直接原因 策

期 必要 領域

要因 恒久 策 応 程 明

期 検査 目 側 追 領域 使用 い 状態 え

範 境界 値 確認 検査 目 追

引 わ 動作 良 防 容易

設計 変更設計

変更設計 場合 体 全体 影響

解析

教訓

10

教訓 制御 象 一 運用条件 変わ 様 再確

認

製品 特 無線LAN経 通信 用途 製品 開瘠

製品 元 開瘠

象製品 属 能 端 最大数 製品 増

観察 現象 端 最大数 属 製品 場合 あ

部 瘠 生

象

端 属 処理 い 属 端 応 key 無線

LAN 瘡録 失敗

原因 要因 術面

1 設計 要求 様 無線LAN 影響箇 確認漏

属 端 Key 管理 無線LAN 部 あ 管理

使用 暗号 方式 Key 方法 異 属 暗

号 方式 番 最大数 属時 Key 瘡録

設計者 無線LAN 様 理解 影響 認識

2 設計 遥 漏

開瘠 無線LAN 様 理解 い

3 条件 組合 漏

結合 い 最大数 属 通信 実施 い 場合 属

暗号 方式 序 網羅性 足 い

然 防

策

直接原因 策

無線LAN 管理 部 外部

利用 う 無線LAN 制御部

要因 恒久 策 応 程 明

1. 要求 様 影響範 特 要求 義 程

様 製品 要求 様差 影響 確認

追

2. 網羅性 結合 程

最大数 属時 属 暗号 方式 組合 追

3. 適 遥 要求 義 程 結合 程

製品 設計者 設計者 設計 結合

容易

設計

開瘠部門 開瘠部門 的 連携

特性 文書 設計 入力 え

特性 文書 劣 防

設計 変更設計

制約 考慮

集 越え 人

教育

教育 術者

教訓

11

教訓 間 間 共 引 渡 場合 排 期処理

行わ い あ い 瘠生 い い う 注意

製品 特 Windows 処理 実施 現場側 セ 制御装置 通信

岐制御 実績 集 生産管理

観察 現象 制御装置 間 通信 停 場 停

部 瘠 生

象

信 信 削 要求 瘡

録 信 状態

信 状態 信 出 行 例外処理

制御装置 接 / 断 繰 返 状態

原因 要因 間 用 信 ArrayList 使用 い

ArrayList い 排 掛 必要 あ

人 ArrayList い 知

然 防

策

直接原因 策

1 ArryList 間 使用 う 排 処理 追

2 連 類似見直 実施

要因 恒久 策 応 程 明

処理 あ 観 及

規準 追

時 間 排 漏 わ 合 指摘

容易

ン ﾀ要求

要求 ﾀ作成

送信ﾊ ﾌｧ 録

送信ﾊ ﾌｧ 録

削除

送信ﾊ ﾌｧ

異常

例外処理

ﾀ送信

送信 ﾀ

件数確認

ン 接

送信ﾊ ﾌｧ 出

ﾀ送信

応答 信 送信ﾊ ﾌｧ削除

ン通信 断 Ｋ 常

常

接 完了 ACK 信

プ ロ セ

制 御 装 置 ﾌ 制御装置 接

設計

並列処理 考慮 設計

共 あ 洗い出

処理 あ 観

及 規準 追

教育

教訓

12

教訓 歩留 あ 製品 良品 良品 検査 装置 全 良品あ い 良品

検査結 異常 断 あ

製品 特 半 体 通 機能 性能 い 検査 装置

半 体 検査 複数 構成 全 良 場合 検査結 良品

一方 あ 良 場合 良品 断 検査時間 効率

通常 行わ い

観察 現象 半 体 検査 一 割合 良品 瘠生 検査 全 良品

検査 程 通常 多 良品 検出

全 良品 場合 全 良品 場合 検査自体 異常 あ 考え

い

部 瘠 生

象

調査担当者 良品 調査 良 い う 設 調査終了

解 い 調査担当者 設 解 い状態 産

開始 検査 全 良品 全 良品 場合 あ い 全 良品 場合

検査自体 異常 能性 あ 通知 応

原因 要因 全 良品 場合 異常 通知 処理

全 良品 場合 直感的 検査 異常 あ わ 全 良品 場合 検査 異

常 あ 考え 及

然 防

策

直接原因 策

全 良品 場合 様 全 良品 場合 異常 通知 う

要因 恒久 策 応 程 明

良 良 条件 わ 様 明確

検査装置 検証 目 え 検証 自動

要求 義

歩留 あ 製品 良品 良品 検査 装置 全 良品あ い 良品

検査結 異常 断 あ

設計

設計 中 設計 注意

運用

扱い い 手 書 明確

教訓

13

教訓 既 性能改善 実施 瘠生 処理 期

瘠生等 影響 確認

製品 特 電子機器製品 検査 製造 程 検査装置 あ PC 複数 組込 機器 信号

瘠生機器 電 電流計測機器 電流計測機器 通信機器 等 構成 mS

計測精 制御 確認 要求

開瘠形態 現行品 機能追

観察 現象 電子機器製品 効 通信 信 い わ 検査装置 無

no data 出力 い 一時

部 瘠 生

象

検査装置 PC 一 期間 信 通信 通信機器

出 保 い 検査実行 細 解

析

電子機器製品 常動作中 あ 一 期間 通信

い状況 空 0s 効

保 常 2 索 効 検出

原因 要因 現行 検査装置 機能追 時 処理速 改善 併 実施 要因

且 検出

術面

通信 い場合 目 足

人 組織面

現行品 設計意 録 い

変更 管理 甘

変更規模 い 断 担当者 依 大

然 防

策

直接原因 策

い 通信機器 通信 出 通信

無 確認 処理 追 通信 無 場合 保

い う 変更

要因 恒久 策 応 程 明

変更 管理 入 徹底 変更設計

設計書 設計意 載 設計

網羅性

目 出観 追

⇒ い場合 振 舞い確認

⇒意 的 通信 い期間 途中 入

能力 作成 遥

通信系 い 通信 異常 考慮漏 防 容易

設計 変更設計

変更 管理 入 徹底

設計

設計意 文書

設計 実装 変更 確認 変更 影響範 確認 確実 実施

観 等作成 通 網羅性 .

教育

作成 等 能力

作成 等 適 遥 行う .

教訓

14

教訓 大 通信経 扱う場合 一連 処理 流 中 作

い う 注意

時間 荷変動 い 考慮

製品 特 複数 営業担当者 携 業 用端 授 提供

営業担当者 情 営業 支

援 端 社 支店 常時稼動 遅滞

い 授 要求

観察 現象 利用者 多い時間 著 営業情 営業支援情

授 非常 時間 断 的 停

部 瘠 生

象

解析処理 高 荷 業 用端 一時

憶部 通信 大 滞留

最適 い い 述 あ 処理時間

い 文 列 直接比較 一 数値 変換

比較 い 必要 処理時間 い

原因 要因 利用者 増え 想 特 時間

想 条件 様 述

識者 実装 参 い

全体 統合 荷 実施 足

⇒実環境 近い試 環境 用意

然 防

策

直接原因 策

文 列 直接比較 う 最適

実環境 近い試 環境 処理時間 計測 処理速 改善

い 確認

要因 恒久 策 応 程 明

想 条件 様 述

⇒ 様 則 実施

識者 必 参 構築

実環境 模擬 試 環境 期手配

要求 義

端 数等 非機能要求 整理

設計

様変更 う影響解析

設計

大 通信経 扱う場合 一連 処理 流 中 作

い う 注意 時間 荷変動 い 考慮

出 入 等 う 設計

教訓

15

教訓 納入 客様 運用 業 業 中 あ 異常操作

電源断 置 含 応 考え

製品 特 店舗用窓 応業 装置 業 処理 必要 信 当 行 処

理 集計 時間 信 処理 自動的 実

行 い

観察 現象 あ 窓 応員 当 装置 電源 OFF 宅 翌朝窓 応業 行 う

業 常 立 店舗業 運営 い状態 瘠生

部 瘠 生

象

業 処理集計 信状態 完了状態 あ 装置 常 起動

い

原因 要因 業 処理集計 信中 処理 強制

信処理 完了状態 直接原因 あ わ 来 信

中 強制終了 回再開 信 終了 再 等 処

理 実施 あ う 態 想 機能 実

装

然 防

策

直接原因 策

信処理中 強制終了 場合 再 再開時処理 実装

要因 恒久 策 応 程 明 要件 義

要求 様 検討 確認 強制終了 時 復 処理 盛 込

業 実行中 操作員 強制 終了 行う等 操作 応力

容易

要求 義

要求 様 検討 確認 強制終了 時 復 処理 盛 込

教訓

16

教訓 害解析時 保 用 処理 あ 様書 作成 影響評価 実施

製品 特 多 製造 程 経 最終製品 作 製品 あ 途中 処理

人体 害 学薬品処理 含 い 各 程品質状態

管理 程 作業情 管理 保

集計 信 程 降 使用 い

観察 現象 あ 時あ 製造 程 集計中 当 処理 異常終了 製造 程 停

部 瘠 生

象

程 引 渡 製品 応 一部消失

原因 要因 当 程中 薬品処理状態 品質 生 処理 程最終段 状

態確認 行い 保 い 常時 適合時 混

い う 出力

い 共通 処理 行 い 真因 あ 明

適合時 出力機能 害解析時 様書 載 い

然 防

策

直接原因 策

処理 常時 異常時 々 行い

書 出 う

設計

教訓

17

教訓 断処理 必要条件 制限 条件 漏 出

製品 特 あ 要施設 入 出 管理 施設建 通行 職員 電子

通行証 施設 連情 通行証保 者 ID 情 連付 運用

い 要施設 当 敷地 多数あ 各施設 物理的 連結 い 施設

敷設 い 通過 能 人 識 通過 能期間 施設

当 中 入 出 回数制限 等多 制限情 基 い 区域 出 入 監視制 御 い

観察 現象 あ 職員 A施設 入場 う 異常 態 知 警 瘠生 入場

一時当 施設 わ 職員全員 出入 当 業 大

支 瘠生

部 瘠 生

象

職員 X Y施設 何回 出入 回数制限 限 遉 A施設 立 入

う 入場 処理 異常 い

原因 要因 施設 立 寄 入場 場合 入 出回数制限 機能 装備 い

Y施設 入場回数制限確認処理 抜 条件 中 Y施設

異常終了 い 原因

然 防

策

直接原因 策

X Y 施設 入 出制限回数確認処理 条件確認 処理 抜 い 確認

実装

要求 義

要求条件 抜 漏 防 変条件 論理式 述 等 形式手法

適用 検討

教訓

18

教訓 断爭 注意

製品 特 Windows 処理 実施 現場側 制御装置 通信

岐制御 実績 集 生産管理

観察 現象 害 瘠生 害解析 操作 制御処理

遅延 場 停

部 瘠 生

象

断爭 い 時 IO

荷 高騰 動作 い 書 込 遅延 処理遅

瘠生

原因 要因 複数 々1～300MB 程 変長 30 作成 30

経過 自動削 う 組 い

変長 増え 断爭 自動 張

30 経過 断爭 自動的 削 断爭 解消 作成

断爭 速

然 防

策

直接原因 策

1 場停 実施 断爭 解消

要因 恒久 策 応 程 明

1 々 移動 々 断爭 回避

2 無 削 削減

録用 い 変長 扱う 合瘠生 減少

容易

設計

変長 書 注意

設計 断爭 注意 予 固 長 設計

教訓

19

教訓 人 変更作業 起 前提 活用等 合 作 込 流

出 防 心

製品 特 保 用用品 生産管理 一部 要施設 用品瘠 管理 行

う 共 等 荷 情 瘠行 刻

観察 現象 あ 要施設 期 検 急遽保 部品 交換 必要 用品 瘠 要施

設 入検査 い 用品 情 施設入荷

結 当 施設 作業 支 来 検 程全体 大

影響 及 態 当 用品類 厳格 識 管理 要

刻 金属 部 含 い

部 瘠生

象

要施設側 い状態 現地調査 確認 刻 識 情

一部 文 瘠生 い ○○○ ○○○ いう文 列 部

原因 要因 原因 調査 直前 あ 来全角 あ

半角 い 明 識 用品出荷 あ

用品管理情 担当者 直接手作業 編集

全 全角入力 変換 部 半角 う

担当者 半角 い 目視 確認

用品管理 DB

ン

▲▲

･▲▲

識 用品 施設 様々 組 合わ あ 多い 象施設

当 識 半角文 含 場合 あ 従来経 者 経 依 運

用 い 回 急遽大 出荷要請 あ 確認 いう背

明

然防

策

直接原因 策

手作業 編集 編集箇 半角 ･

い う 確認

様 問 瘠生 う 文 列 箇 い 検 類似 瘠生 思

わ 場合 応 検討

要因 恒久 策 応 程 明

設計 程

属人的 依 作業 誰 確実 間遊い 検出 う

方策 望 い

例 Web入力等 用 い う 全角 半角入力 自動

替え機能

要求 義

識 う 情 手入力 い場合 入力規則

設計 変更設計

属人的作業 依 自動入力 等 変換 然 防

教訓

20

教訓 信 性 施策 場合 故 瘠生確率 影響 評価 行い 策 確実 実装

製品 特 あ 産業用 学製品 製造 場 生成 様々 中間精製物 純 等

程 制御 中 険状態 防 組

組 込 多 設置 ms 応答性

求

観察 現象 固形 中間生成物 行う 程 い 作業中 異常 通知

警告灯 突然 灯 警 瘠 管理 制御 停

現場保 員 確認 検 含 機器装置 異常 見 制御

再起動 再 警 瘠 いう 象 散瘠的 瘠

生 う い 操業 影響 及

部 瘠 生

象

動 生成物 数 置 あ 確認

連結 い 動機構 置 回転数等 諸元 検出

制御 い 調査 中 あ 動機構 回転数

値 通常 1→2→3→4→ いう う

当 影響 1→2→5→7→ う 遤移

異常 断 非常停 い わ

原因 要因 一時的 異常 復 誤警告 う

含 い 要因 い あ 明

回転数 測 磁気 回転速 算出 表示

速 制御 装置 120 出力 あ あ

い 回転子 間的逆転 磁気 出力間隔 急変 機器異常

断 警 瘠 組 い

中間生成物 作業 険性 高い いう 全体的 信 性

検討 段階的 実施 故 断線

間隔等検出機能 処置 追 立 省

電力 機能 実装 結 瘠生 間的逆転 瘠生 あ 機器異常

異常 象 能性 考え う 象 瘠生確率 算出 程 鑑 策実

施 必要性 断 経 い 改造作業 い

検出 停 再起動 改造 い 例え

値 異常 増 減 断 等 組

込 い 十 誤 あ わ

い 機構担当者 想 象瘠

生 高 い 考え 掌 明確 あ

然 防

策

直接原因 策

一時的 使用 状態 復 停 再起動

要因 恒久 策 応 程 明

設計 程

信 性 施策 場合 故 瘠生確率算出 策効 評価 行い 全体

策実施 必要性 断 う

等 応 要 象 処 実装 場合 復

手 等 い う 識者 行う

任範 明確 間 情 共

逭

設計

故 瘠生確率算出等 評価 行い 策効 評価

設計

異常 検知 適 処 実装

知識 必須

策時 2 副作用 瘠生 検討 実施 断

教訓

21

教訓 高い信 性 策 求 大 影響 及 象 想 復 手 十

検討

製品 特 ワ 複数 機器 繋 い 各機器 管理 機器 管理

機器 あ 各機器 情 目的 遉成 制御

観察 現象 管理機器 瘠生 管理機器 監視画面 常稼働 い う

え 一方 機器 管理機器 状態 認識 い 実 管

理機器 情 信 い い 管理機器 監視画面 更新 い

部 瘠 生

象

ワ 機器 全 専用 通信 通信 い 通信 自

身 接 い 機器 期的 信 一 時間 信 い

あ 断 管理機器側 通信 各機器側 通信 互い

動作状況 通知 様 い 復 相手 復 指示 出

あ 時 管理機器 接 い 周辺装置 故 瘠生 影響 通信

全 数 間滞 一 時間応答 信 管理機器 通信

管理機器MPU 通知

ワ 繋 い 全 機器 通知 各機器 管理機器 復 通知

あ 管理機器 通信 停 状態

管理機器 自動復 通信 自動的 再起動 通信

MPU 通知 消失 い 管理機

器 通信 瘠生 い いう 実 認識 各機器 復 通知

出 各機器 通信 停 管理機器 通信

通信

機器A

管理機器

周辺 装置

通信

A

機器B

通信

B

機器C

通信

C

MPU 監視

画面

故

MPU応答 異常

断 各機器 異

常通知

録 い 参照 様 い

原因 要因 周辺機器故 等 長時間 処理 い状況 大 影響

及 等 情 録保持 組 再起動時 異常

状態 あ 認識 あ 想 い

然 防

策

直接原因 策

故 周辺機器 交換

通信 起動時 調 等 大 影響 あ 象 瘠生

い 場合 当 機器 件 管理機器 通知

要因 恒久 策 応 程 明

高い信 性 策 求 大 影響 及 象 想 復 手

十 検討

害 復 手 異 手 あ いう

考慮

設計

故 復 設計 部 序 復 い い 検討

害 復 十 検討

設計

通信復 時 害瘠生前 状態 確認 復

運用

害復 手 文書 保 者 周知

通信

機器A

管理機器

周辺 装置

通信

A

機器B

通信

B

機器C

通信

C

MPU 監視

画面

再起動 通信途絶状態

認識 復

帰通知

教訓

22

教訓 処理時間 活用 変数 う 状態数

状況 動作処理 最大 意識 余裕 把握 設計

製品 特 あ 成型製品 溶融金属 成型 薬剤処理等多 程 経 製造

学的組成 要 溶融 成型時 温 管理 時間 制約 厳 諸条件

組 合わ 複雑 温 置 速 検知 多数 設置

製造中間品 処理 管理 い

程制御 多数 情

置 回転制御等 処理 必要 あ 割 込

一 周期処理 行 い

程制御 5ms周期 動作 中 割 込 処理

付 PID制御 必要 I要素 D要素 計算 算出 行 い

観察 現象 増産体制 指示 製造品種 変更 増 決 当 場 製造 段階的

変更 行わ あ 増設 機器更新 伴い 程制御 段階

的 変更 追 結 大規模 い 最中 成型時間 管理 厳 い

程 い 良中間品 散瘠的 製造 象 瘠生 う 変更計画

支 来 少 い機会損失 瘠生

部 瘠 生

象

調査 直近 実施 変更 行 複数 処理 行う 当

程 処理 い 行 い 経過時間算出等 制御

計算 生 結 当 成型時 熱処理時間 影響 え わ

原因 要因 調査 う 状況 あ わ

変更 結 行う処理 組 合わ 増 状態 場合

長 熱処理 PID時間 計算

5ms 超え う非常 稀 計算値 論

元々 外界 入力 変数 多 う 値域 状態 数 及

変数条件 組 合わ 動作 非常 多

様書 全 述 い 割 込 処理 荷最大 算

十 把握情況

担当者 経 足 あ 程制御 処理 荷 最大状態 設計的

予見 い 検査 様 複雑 荷 組

合わ 試 足 い 荷 限界 足 い

割 込 処理 間 変数 処理 相互 書 込

い 様 案 起 能性 あ 確認作業 中

わ

然 防

策

直接原因 策

問 PID制御時間 行う 最 超え い

う 処理 連箇 い 様 確認作業 実施

要因 恒久 策 応 程 明

設計 程

特 処理 処理 割 込 処理 間 変数 割 込

Mutual Exclusion 相互排 問 瘠生 常 あ 基 的 配慮 必要

処理時間 変数 う 状態数

状況 機能動作処理時間 出 WCET 最 実行時

静的解析 利用 確認 う 手 設計 組 込 人

差 能 限 抑 要 あ

排 処理 等時性 参照透過性等組込 系 要 基 概念

等 通 理解習得 逭

設計

静的解析 利用 確認 う 手 設計 組 込

設計 変更設計

CPU能力 余裕 い大規模 複雑 変更 え 場合 割 込

WCET 最 実行時間 留意

知識 必須

複雑 荷 組 合わ 試 限界 行う

教育

教訓

23

教訓 開瘠 伴わ い保 案件 構成変更 瘠生 場合 手 等作業 容 妥

当性 確認 う 経

製品 特  当 構成 1 共 2 管理

称型 方式 2 現用系/ 替系 構成

実現

 現用系/ 替系 い 共 管理 商

用 RDBMS 商用RDBMS 当 実現

構成

 共 領域 領域 構成

 当 予防保全 半 1回 再起動 実施 期保 作業

再起動 運用 使用 手 実施

1. 現用系 停

2. 現用系 商用RDBMS停 → 起動

3. 現用系 起動

 あ 期保 作業 終了 1 保 案件実現 一部 運

用 領域 追

観察 現象 期保 作業 再起動 現用系/ 替系 立

顧客 新規 入瘡録

部 瘠 生

象

現用系 商用RDBMS 再起動 通常起動

結 起動失敗 替系 替え 起動 試 様 商

用RDBMS再起動 失敗

原因 要因  期保 作業 現用系 停 領域

現用系 商用RDBMS再起動時

 既 機能 影響 及 回避 保 案件 利用

領域 起動

領域 作成

 実現 各種機能 領域 確認 応 既 機能 影

響 い 思い込 再起動 実施

 問 保 案件 運用 応 通常 開瘠 異

作業 適用 要件 義書 手 書 目 作成 留 い

然 防

策

直接原因 策

 保 案件 領域 追 一部 領域

再瘡録

 領域 領域 確保 参照 序性 い 載

作成

 必須 目 再起動 追

要因 恒久 策 応 程 明

開瘠 伴わ い保 案件 構成変更 瘠生 場合 手 等作業 容

妥当性 確認 う通常 開瘠 適用

知識 必須

相遊 影響 確認

保 応 作業 容 妥当性 確認 う

運用

教訓

24

教訓 物理 時間 等 扱う場合 桁数 確認

製品 特 電子機器製品 長時間稼動試 状況 連 撮影 各種 瘠生

電子機器製品 表示器 画像 確実 替わ 自動 機能 試

装置 あ PC 複数 組込 機器 信号瘠生機器 等 構成

観察 現象 試 装置 電子機器製品 表示器 画像 替 応 常

出力 象 画像 誤 出力 場合 稀 あ

画像 大 い 象 外 実行 自動的

削 機能 あ 保 い いう問 瘠生

部 瘠 生

象

試 装置 連 撮影 画像 開始 経過時間 示

付[ ms] 信 Pic_<試 番号>_< 値>.bmp いう

保 一方 試 装置 部 浮動 数 数 時間管理

行 い 値 浮動 数 数 変換 各種

実行 い 及 実行 試 装置 保 画像 群 中

時間 一 画像 索 象画像 出力

浮動 数 数 誤差 影響 一 出力

い

原因 要因

象 画像 索 処理 試 装置 部 時間情 浮動 数 数誤差

生 一 画像 検出

例 a.画像 Pic_3_8139.bmp

b.試 装置 部 録 い 画像 録時間 8.1389999･･･S double

⇒b 値 1000倍 値 double型 a 時間情 あ 8139 long型 純 比

較 一

然 防

策

直接原因 策

試 装置 部 録 い 画像 録時間 double 1000倍 数 1桁目

四捨 入 long型 変換 long型 士 比較

浮動 数 誤差 考慮漏 い 目 追

要因 恒久 策 応 程 明

設計 程

設計

物理 計算 及 系 遊い 留意

数 含 処理 計算機依 要素 型 効桁数等 配慮

実装

生成時 参照時 型 揃え

教訓

25

教訓 顧客 要求 い 目的 背 道 意 確認 要求 様

あい い 排 役立

製品 特 顧客 注文 付 包 瘠 製品 あ 注瘡録 瘠 管理

行う あ 顧客 求 瘠 指 製品 瘠

う 1 配 指 2 瘠

場合 顧客 注文 付 番 瘠 番通

う 作業 行い 出荷指示 出

例え う 状況 場合 A→B→C→D→E 番

付日 付時間 送指定日 出荷予定 顧客

8 2日 9:30 8 10日 0810-0900 A

8 2日 13:00 8 10日 0810-1000 B

8 2日 16:00 8 10日 0810-1030 C

8 3日 11:30 8 10日 0810-1200 D

8 3日 14:00 8 10日 0810-1430 E

観察 現象 近 作業 程 必 予 通 作業 逭 い 多

出荷業 混乱 う あ 時 現場 任者 予 あ

い 当 あ 出来 出荷 う 急改造 い 要

求

要求 基 情 部門 担当 い N氏 改善業

担当 い 多 あ 外部 力会社社員X氏 改造 依 X氏

業 経 多 改造 い 容 思え 最近 出荷状況 実

績 渡 あ 能 考え

う 改造 適用 目論見 異

状況 大 混乱 招 配 業者 いう

部 瘠 生

象

問 起 状況 示

出荷予 あ い いう 準備完了 設 実 作業完了

完了時刻 録 出荷予 参照 い

う

改造 準備完了 中 完了時刻 出来 出荷指示

結 5 22 B→A→C→E→D い

現場 意味 い う A→B→C→D→E あ

付日 付時間 送指定日 出荷予定 準備完了 顧客

5 10日 12:30 5 22日 0522-1000 0522-1115 A

5 11日 9:00 5 22日 0522-1100 0522-1100 B

5 11日 14:00 5 22日 0522-1300 0522-1400 C

5 12日 11:30 5 22日 0522-1500 0522-1715 D

5 12日 15:00 5 22日 0522-1700 0522-1700 E

原因 要因 X 氏 出来 いう言葉 意味 準備完了 中 最 い

更新 解釈 変更 い

現場 任者 1時間 差 あ 配 業者 手配 都合 あ 当

初 い 考え い 当然 2 瘠 場合 顧客

注文 付 番 瘠 いう要件 逸脱 い 経 問

い 任者 わ い

経 あ N氏 あ う 現場 情 理解 い 経 いX氏

理解 う 細 い N氏 明 十 あ

N氏 領 実績 回 う 完了時刻 大 遅延 い 状態 示

い い

然 防

策

直接原因 策

要因 恒久 策 応 程 明

要求 義 程

言葉 意味 解釈 齟齬 生 い 変更要求 領 場合 様確認票

目含 用い顧客意 道 確認

［目的 背 ］ 様変更 追 背 情 理 等 述

［要求 容］ 変更要求 様 述

［変更 様］ 要求 変更 容 体的 述

［確認署 ］ 容確認 認

過去経緯 現場 慣習的 運用 い 容 文書 実 担当者 理解

う教育 明

要求 義

要求 様 意 背 道 確認 あい い 排

背 情 慣習等 含 要 文書

教訓

26

教訓 遒隔地等物理的 装置 ワ 接 稼働 故 等

状態検知 容易 い 的視 状態把握 行う

製品 特 あ 商品 配 行う物流管理 配 品 地 配 品 種類 配

法等 種 自動的 振 動作 配 員 指

示表示 行う 就業中 業 中断 起 い う管理 2 い 表示装

置 構成 い

観察 現象 あ 時 構成変更 伴いあ 建 移設

移設 表示装置 一 表示 い 作業

態 瘠生 態 確認 う い う 当 表示装置

多 表示 容 替わ い いう状態 配 稼働率 影響 え

部 瘠 生

象

調査 最初 配 指示 表示装置 い

わ 管理 作業指示表示処理 全体的 遅滞 い わ

原因 要因 確認 う 状況 あ 明

表示装置 故 備え 管理 期的 ping

行い 信 TCP 行わ い

最初 異常 表示装置 い LAN 生 い 状

況 あ 応答 返 い 側 装

置 故 断 作業指示 信

応答 あ 表示装置自体 い 信

信 滞留 わ

然 防

策

直接原因 策

信 長 変 管理 う 変更

ping 信処理 TCP 相手装

置 状況確認 行う う 検討

要因 恒久 策 応 程 明

遒隔地等物理的 装置 ワ 接 稼働 故 等

状態検知 容易 い 的視 状態把握 行う

要求 義

遒隔地機器 保 様 検討

設計

遒隔機器 監視 手段 信 性 十 検討

遒隔機器 害 模擬 異常 行う

＜表示装置 ＜管理

メ ッ セ ー キ ュ ー

指示作成 送信

：ping 送信：TCP 建屋B

教訓

27

教訓 様 外 想 外 象 瘠生 前提 自己防

衛策

製品 特 あ 公共的 業 行う あ 各 等 設置 い 多数 端

装置 構成 い 業 信 多 業

時性 要求 業 あ 社製品

ワ 多数接 い

観察 現象 業 処理 追 変更 行う 変更 伴い端 装置側

更新作業 い 更新 端 装置 一斉 異常停

う 態 瘠生 多 復 一時的 いえ公

共業 運営 支 来 態

部 瘠 生

象

等 調査 あ 外部 配信 形跡 あ

原因 あ 明

原因 要因 端 装置 信 信 中 制御

う 解釈 行う処理 い 値

確認

制御 解釈

1 A 2 B 3 C 4 D

5 追 予 X

信 い 1 2 信 いう 従来 全体

共通 様 義 い 制御 1 2 い場合 棄

い

一方 業 処理変更 伴い新 応 値 追

時 状況 応 処理 振 実行 いう 様 追 端

側 処理 変更 X 追 予 い

従来 様範

一方 X 様 確 値 5 外

う 実装 十 状態 あ

当 外部 信 制御 確認 確

値 5 処理 異常停

然 防

策

直接原因 策

当初 様 あ 制御 値 外 棄 う

要因 恒久 策 応 程 明

要求 義 程

設計 程

程

配信 自社 外 装置 推察 追求 困 あ

う 様外 象 害要因 考え

自己防衛策 様外 場合 備え 例外処理 確実 実装

要求 義

環境 想

設計

様外 象時 処理 十 検討

教訓

28

教訓 等COTS*製品 動作 様 相遊等 情 者

参照 う

製品 特 某団体 基 業 一 24H 運転 必要 全

国 何 様 業 稼働 主系 従系 2

構成 い

観察 現象 業 運用 様 変更 伴い あ 2 主系

行 主系 異常 従系 替わ

全体 稼働停 両系停 当 業 支 来 い大

経 損 出 う あ

部 瘠 生

象

調査 書 い

監視 領域溢 系 替え 瘠生 い

わ

原因 要因 出力 容 録 象 微

妙 遊い あ う 程 録 等 構成

設

従来 変わ 場合 環境 動作試

行 い 変更 場合 必 全 細 目

実施 い

回業 様 変更 伴い 実施

細 容 認識 い 稼働

然 防

策

直接原因 策

回 変更 暫 処置

期的 削 処理 追

要因 恒久 策 応 程 明

現地変更作業 当 作業手 測 態 処 い 前確認 確実 実

施

異 挙動 設 様 相遊 専門組織

前検証 識者 確認 検討

COTS* 動作 様 遊い い 社 等 既知情 提

供 設計 者 常 閲覧 確認 う 環境 整え 益 あ

*COTS Commercial Off-The-Shelf 商用既製製品

COTS 影響 前 検証

教育

COTS 術情 容易 う

あ 前提 開瘠 考慮

運用

教訓

29

教訓 複数 業体 要 者 立場 視 想 う

害瘠生 効 的 機管理体制 構築

製品 特 米 広域 わ 地域 総延長200,000 950,000 ワ 及 電力 電網(Power Grid)

観察 現象 2003 8 14 米地域 大規模停電 瘠生 5000 人 停電 影響 被

被害 総 40～100億 及

部 瘠 生

象

当 あ FirstEnegy社 5 瘠電 過 荷 自動停 瘠生 時 電網監視 警 瘠 失敗 1500MW 荷 衡

あ 通知 電線 電力 流 熱 電線 周 あ 伸

木立 垂 接触 電 停 結 当 電線

電網 連鎖的 停電 態

原因 要因 調査 背 要因含 う 状況 あ わ

UNIX 作 い FirstEnegy 社 電網監視 警 瘠

生 処理 い 開始 30 主系 従系

含 異常 伝

画面 応答 遅 FirstEnegy社 IT要員

認識 運転員 知 運転員 顧客 電 連絡

異常 知

FirstEnegy社 運転員 地域統括 要員 当 全体 理解

十 あ 適 処 行う

電線周辺 木立 電線 垂 短絡 故 起 い う剪

い 剪 垂 電線

FirstEnegy社 運転員 地域統括 要員 等

い あ 地域網 い 脆弱性 十 把握 非常

時 応 い 訓練 い

然 防

策

改良 警 確 迅速 状況 診断 機能 電網 問 迅速 確認

載

全般 見直 実施 広範 わ

監視 設置

当 ワ 全 十 理解 う 運用手 書 教育

改訂

非常 態 応計画 策 木立 剪 作業実施 強

件 得 NASA 教訓

全体設計要件 当 者 合 い

全体 運用 情 確 提供

い

能 限 全 測 態 考慮 状

況 断能力 効 的 機管理計画 策 運用

運用 者 当 全体 確実 理解 被害 連鎖 大

減 能

業 成 い 大 最大限 強調

あ

出 NASA SYSTEM FAILURE CASE STUDIES,

https://nsc.nasa.gov/SFCS/SystemFailureCaseStudy/Details/16

要求 義

害瘠生時 処 考慮 全体 要件 明確

設計

運用状況情 表示 害瘠生時 必要 機能 留意

教育

運用 者 当 全体 知識 確実 理解

的 運用 わ 部門

運用

教訓

30

教訓 過去 資産 使用 場合 容 当時 方法 い

考慮

製品 特 通信

地 局 無線通信 打 時 S 1,700～2,300MHz 使用 軌遈 Ku 15,250～17,250MHz 自動的 替わ 組

い 一 Ku 替わ S Ku 異常 処

使用 う い

体 中央部 あ 貨物 通信 PSP Payload

Signal Processor 行わ 無線 確立

様 い 無線 貨物 移動 貨物室 貨物

使用

観 察 現

象

2008 11 14 打 い 軌遈

遉 時 管制局 2 通信機構 打 軌遈 自動的

替わ い い 気 い 無線通信 Ku S あ

貨物室 通信 替わ 無線 い い S Ku

替え 貨物 替え 手動操作 実施 無

還

部 瘠 生

象

通信 潜 い 原因 あ 打 立

1989 変更 降 数回 わ 変更作業 作 込 あ

出力 compool command data

pool) い 出力 compool 偶数

配置 決 い 慣習的 ワ 配置 使用

ワ 配置 指 4 使用

通信 自動 替 実行 管理 compool 出 当

通信機能 制御 GCIL Grand Command Interface Logic 出

原 因 要

因

1989 変更作業 い 新 追 GCIL ワ 配