害未然防 設計知識 整理手法
独立行政法人情報処理推進機構
障害未然防止
ため
設計知識
整理手法
イ
目次
1 ... 1
1.1 背景 目的 ... 1
1.2 本 位置付 ... 3
1.3 ソ 害 発生 未然防 設計知識 ... 4
1.4 設計知識 活用 ン ... 5
2 設計知識 体系 ... 7
2.1 設計知識 ... 7
2.1.1 知識 伝え 事 ... 7
2.1.2 知識 文脈表現 ... 9
2.1.3 設計知識 構造 ... 9
2.2 知識 再利用 ... 10
2.2.1 ワ 抽出 ... 11
2.2.2 類情報 抽出 ... 12
2.2.3 知識 類 体系 ... 13
2.2.4 類 ... 14
3 設計知識 整理手法 ... 16
3.1 概要 ... 16
3.2 設計知識 抽出 ... 17
3.2.1 知識要素 抽出 ... 17
3.2.2 知識要素 般 ... 21
3.3 類 設定 ... 22
3.3.1 ワ 抽出 ... 23
3.3.2 知識 類 ... 24
4 検索 ... 27
4.1 検索 ... 27
4.2 検索結果 ... 28
5 設計知識 整理サン ... 30
1
1
めに
本 いわゆ 過去 DB 過去 呼
害情報 ソ 害情報 記録 害発生 未然防
設計知識 抽出 効活用 形 整理 方法 提案 害情報記録
設計知識 抽出 観点 示 抽出 設計知識 構造的 整理 出来
過去 DB 再発防 や未然防 活用 う
ソ 害 設計書や コ 作 込 不具合や回避
い状況 対策不備 ュ や 発見 場合 発生 原因
う 場合 設計者 設計知識 乏 害 発生 い
う 処理 設計書 書 コ 書 い 補
う 設計書や 内 ュ や共 ュ あ ュ
設計知識 乏 い 起 う 害 可能性 指摘 出来 い ソ
害 未然防 最 必要 ュ や 実施以 設計者や ュ
適 設計知識 あ
本資料 提案 手法 ン 術者 経験 若手 術者 自 利用
目指 い
害 再発防 や未然防 活動 過去 DB 活用 考え い ソ 品
質部門 方 是非 方法 自身 部門 害情報記録 試 い い
1.1
背景
目的
情報処理 や組込 開発 ン 企業 過去 害事例 定
様式 記録 蓄積 害情報 類似 害 再発防 や未然防
活用 い 考え い 実態 社内規定 中 害情報
参照 う 設 い 関わ 類似 害 引 起 い 例
あ ン 側 社会 ン 運用 い 企業や組織 い
う 取 組 い う 般 過去 や
過去 DB 呼 い 再発防 や未然防 内部 公
開 い 書 い 内容 整理 い い 当事者以外 人 理解
蓄積 件数 第 増え 来 効情報 取 出 手間
2
1.1 活用 い過去
過去 DB 効活用 い理 害 防 整理
表面的 害 事象 対処 い 情報 書 い
い あ 検索 ワ 入力 関連 情報 取 出 う
う 取 出 い あ 場合 過去
DB 般 害事例 原因 対処 装置やサ 固 具体的 表現 記載
い 記載内容 見 利用者 自身 無関 害事例 扱う傾向 あ
方 ソ 高信頼 実現 業界 抱え 課題 ン
術者 豊富 経験や 伝 あ ン 術者 頭 中 類似 害
起 い う 原因 対処 般 形 頭 中 残 い 考え
1.2 過去 DB ン 術者 豊富 経験や 断 埋蔵 い
過去 DB 害 再発防 や未然防 活動 活用
害情報記録 後 人 伝 う 形 般 設計知識 変換 整理 必要
あ
過去 DB 情報 設計知識 形 整理 方法 部品や 料等
関 方法 紹 い 参考文献[1] ソ 関 整理方法
3
1.2 経験者個人 頭 中 知識 般 い
1.2
本
イ
位置付け
IPA/SEC ソ 害 未然 防 広 業界 伝え
ュ ン 教訓集 発行 い
情報処理 高信頼 教訓集 組込 編 参考文献[2]
害未然防 教訓 組込 編 参考文献[3]
現場 役立 教訓活用 実践 組込 編 参考
文献[4]
教訓集 害 未然 防 害事例 学び 教訓
伝え い 害事例 要求 析 関 設計 関
関 等 ソ 開発 中 必要 幾 含 い 教
訓 中 強 伝え い 選び ン あ 言い回 表現 い
方 本 ソ 害 未然 防 伝え
いう点 あ 伝え い 設計 絞 込 害
未然防 対策 可能 設計知識 変換 い
教訓集 教訓 本 設計知識 位置付 1.3
示 害 未然 防 教訓 ~ う 抽象
必 具体的 対策 言及 い 方 設計知識 製品 ン
依存 い抽象度 対策 言及
本 整理手法 教訓集 紹 害事例 題
設計知識 抽出 知識 必要 般 考え方や 知識整理 体
系 考え方 害事例 教訓 場合 あ 教訓集 般 や
4
1.3 教訓 設計知識 位置付
1.3
ソ
ア障害
発生を未然防止
る設計知識
近 ソ 大規模 複雑 伴 品質 担保 困難
う 開発手法 知識 活用 品質向 い
析 関 知識 例:HAZOP STAMP 参考文献[5]
ュ 手法 関 知識 例: ュ ン ン
法 関 知識 例: 値 割 境界値 析
知識 当然 ソ 害 未然防 活用
管理面 術面 手法や手段 関 あ コ
等 害 回避 適 処理 施 い
う 対処 必要 知識 開発対象 対 設計知識 あ 未然防 観点
過去 DB 害情報記録 記載 い 直接原因 や 対処内容 得
得 知識 信頼性 適 評価尺度 活用
情報処理 高信頼 教訓集 組込 編 2015 度 害事例
ソ 意 い動作 害 至 事例や 構築時 原因
発生 害事例 運用時や保 作業時 操作 や 断 原因 引
用語 定義
知識 あ 事柄 い 知 い 内容 大辞泉
設計 機械類 製作や建築 土木工事 形や構造 面
表 大辞林
設計知識 機能や処理 設計 出来 知識 機能や処理 い 知識 無
設計出来 い 言う 機能や処理 ソ 実現 機能や処
5
起 害事例 含 い ソ 設計時 機器や 使用者
害 誘発 い う 設計知識 あ う 害 防 被
害 拡散 回避
方 設計知識 不足 要求事 文書 確認 怠 様
取 違え 事例 あ う や ン 起
因 害事例 あ
ソ 実現 機能 装置や 製品 ン 異 共通 扱
え 多 あ 例え 起動処理 割 込 処理 処理 等 あ
ソ 設計知識 製品 ン固 表現 避 製
品 ン 依存 い共通 設計知識 活用
1.4 製品 ン 依 い共通 設計知識
1.4
設計知識
活用
ン
設計知識 整理方法 検討 整理 設計知識 う ン 活用
想定 整理 方針 導
設計知識 ソ 設計担当者 要求事 析 必要 機能 処理 実
現方法 検討 不可 知識 あ 何 い 検討 大変
過去 設計資料 参照 ン 術者 聞 設計知識 得 設計知
識 般 表現 DB い 設計担当者 当然役立 方 ュ
設計知識 DB 参照 設計担当者 対象製品 製品 ン共通
設計知識 う 実装 想像 ュ 先立 適 指摘事
準備 設計知識 作成時や ュ 害対策等 ソ
6
1.5 設計知識 活用 ン
設計知識 活用 場面 1.5 示 う ソ 開発 計画
時 出荷 後 害対策 広い 活用例 列挙
プ 計画書作成 プ
例 類似機器 過去 発生 害 関 防 知識 検索 い
例 回初 使う 関 知識 探 い
設計作業 担当者
例 回開発 機能 設計時 考慮漏 易い視点 観点 知 い
設計 ビュ ビュ ア
例 回開発 機能 ュ 目線や経営目線 害発生時 対
策 伝え 設計担当者 設計知識 共 指摘 い
例 各機能 い 内部 ュ 実施 考慮漏 易い
設計視点 観点 抽出 知識 連想 害 無等 相互 指摘
合い い
作成 作成者
例 回開発 機能 考慮漏 易い設計視点 観点 抽出
作成や ュ 確認 い
障害対策 対策方針検討者
例 出荷前 出荷後 害 症状 考え 原因 対策案 調 い
各 ン共通
検索 結果得 情報 関連 知識 連想 い
7
2
設計知識
体系化
ソ 害 発生 未然防 設計知識 過去 DB 害情報記録
考慮不足 考慮漏 知識不足 起因 事例 探 出
理解 暗黙知 得 い い 害情報記録
害 引 起 コ 事 実 う 修 内 容
淡々 記載 何故 う コ 背景
対応 間違 等 記載 い い 般 術者
自責 感 原因 様書不備等 問題 害情報 記録 場合 あ 背
景 考慮不足 考慮漏 知識不足 要因 含 い 断
難 い 頭 時間 使 不足 い 設計知識 抽出
知識 形式知 出来 確実 効率良 設計 習得
知識 頭 中 入 文脈 知識文脈 構造 考え 効果的
知識習得 工夫
方 伝え い 知識 膨大 利便性 高 工夫 要
知識 何 役立 知識 目見 言聞い 工夫 目
知識 体系的 整理 い 目見 知識 頭 中 入 知識
吸 性 高 知識 体系的 整理 関心 あ 選択 知識
等 検索 工夫 製品 ン 個 事例 抽出 知識
出来 共通的 知識 再利用 行う
2.1
設計知識
ル
ソ 害未然防 設計知識 知識 利用者 直感的 不具合 混
入 害発生 文脈 頭 中 組 立 う 人 伝わ
い 知識 知識要素 構成 要素間 関 構造的 整理 知識
表現 必要
2.1.1
知識と
て伝えるべき事
ソ 害 発生 未然 防 設計知識 様 伝え
考え
伝え 考慮漏 等設計知識 不足 起因 害情報記録 直接原因
対処内容 あ 2.1 頭 刺 い 頭 刺 う
直接原因 掘 害発生 調 設計知識 不
8
伝え 経験 浅い 術者 誰 教わ 知 得
い ン 術者 あ 過去 経験 思い あ 設計 盛 込
う 処置 あ 害 2.2 示 う 考慮 漏 い 設計視
点 観点 問題 引 起 発生契機 発生
表現
2.1 直接原因 処
問題 引 起 可能性 あ 象 関 考慮 必要 設計視点 観点 漏
作成 実装
害 引 起
害 生
9
2.2 う 考慮 必要 設計視点 観点 落 コ 書い
害 引 起 至 い
ソ 要求 様書 記載 機能や処理 作 込 設計 実装
製品や 知識や経験 不足 い 問題 引 起 可能性 あ 事象等
考慮漏 起 考慮 漏 観点や視点 作 込 ソ 対 考慮
漏 不具合箇所 問題 引 起 事象 発生 害 引
起 う
コ 不具合 含 う考慮漏 要因 不具合 害 発
生 何 頭 中 明確 考慮 漏 い
設計視点 観点 明確 害 起 い う 知識 頭 中
入 来
2.1.2
知識
文脈表現
前 2.1.1 2.1 直接原因 対処 2.2 考慮漏 起因 害発生
設計知識 構造的 整理 知識要素 候補 関 表
現 知識要素 候補 2.1 対処内容 や 対処箇所 機能 処理 2.2
考慮 漏 設計視点 観点 発生契機 等 あ 知識要素間 関 考慮
知識要素 繋 意味 通 日本語 変換 伝わ 易い設計知識 文脈
ソ 設計 段階 害 発生 未然 防 方法 ○○○ 何
ェ △△△ う ェ ◇◇◇ う 文脈 害発生
ン 不具合混入原因 発想 効果 あ 報告
い 参考文献[6][7] 文脈 頭 中 整理 や い文脈 あ 考え 文
脈 参考 害未然防 設計知識 文脈 う 考え
2.1.3
設計知識
構造
害 発生 未然 防 設計知識 ン 頭 中 整理 易
2.1.2 考え 設計知識 文脈 知識要素 抜 出 構造的 表現 2.3 2.3 知識要素(1)~(4) 不具合 混入 害 発生
構成要素 表 知識要素(5) (1)~(4) 要素 文章 組 立 何 う
設計知識 文脈:
○○○ 機能や処理 考え
▽▽▽ 考慮 漏
い
△△△ 起
契機 ◇◇◇◇ 障害 発生
10
う 害 発生 表 (6) 対策 表 (5) (6) 文
章 簡潔 説明
図2.3 設計知識 構造
記 (1)~(4) 要素 要素 直観的 害発生
う 要素 表現 選ぶ 設計知識 製品 ン 依存 い機能 ン 知識
広 各要素 般 用語 簡潔 表現 般 得
知見 適用 広 求 行う作業 適用 製品 組
織 範 想定 範 共通的 性質 知見 置換 転換 般
考え方 本資料 関連 害未然防 教訓 組込
編 参考文献[3] 記載 般 基 い い
う (1)~(4) 要素 般 (5) 発生 寧 見
書 い 説明 想像 (6) 対策 推測
2.2
知識
再利用
ル
前節 過去 DB 利用 い いう課題 解決 過去 DB
中 害事例 設計知識 抽出 提案 知識 増え
件数 膨大 過去 DB 効活用 様 問題 発生
設計知識 再利用 工夫
工夫 ン
知識体系 知識 類
知識 DB 探 易い 探 易い 設定
11 設定
工夫 ン 共通 い 設計知識 更 抽象 あ 2.4
前 2.1.3 2.3 構造 整理 設計知識 再利用性 高 情報 抽出
図2.4 設計知識 再利用性を高 更 抽象化
2.2.1
ワ
抽出
害 未然 防 設計知識 構造 2.3 頭 中 整理 易 知識 個
理解 効果的 あ 方 伝え い知識 習得 い知識 増え 知識
吸 時間 目見 若 言聞い 知識 何 役立 知識
う 工夫 要
2.5 示 う 害 発生 観点 設計知識 文脈 何 う
ワ 抜 出 何 役立 知識 直観的 理解 何
2.3 知識構造 (1) 害 引 起 機能 処理 う (4)発生 得
害内容 抽出 抽象
ワ 抽出 考え方 本資料 関連 害未然防 教訓
組込 編 参考文献[3] 掲載 直接原因観点 基 い
い
図2.5 キーワード抽出
人 頭 理解 知識 頭 中 増え 類似 知識 連想 出来
ソ 害 発生 害 解決 多 経験 ン 術者 開
12
い 効果的 指摘 行う 頭 中 蓄積 い 特定
害事例 得 知識 利用 機能 持 様 害 発生
予測 い 言え 連想 組 ン 術者 頭 中 具体的
知識 抽象的 整理 い 考え
2.2.2
分類情報
抽出
知識 体系的 整理 関心 あ 選択 知識 等 検
索 整理 ン ソ 術者 頭 中 口 整理 い
あ 知識 頭 中 整理 い 思考時 参照 応用力 高
う 観点 設計知識
機能 処理
機器
混入
類 2.6
図2.6 分類情報抽出
設計知識 再利用性 高 ソ 共通 使わ 機能 や
処理 類 方 特定 や機器 特 知識 あ 得
や機器 類情報 設 害事例 中 知識不足 補う 補
う 例:自動 利用 規定 等 ほう 効果的 場合 あ
害原因 混入 類 可能
類情報 機能 処理 機器 抽出 前 ワ 様 本
資料 関連 害未然防 教訓 組込 編 参考
文献[3] 掲載 直接原因観点 機能 や 等 考え 基
再利用 ン 知識 整理 抽象 具体 ン
13
2.2.3
知識分類
体系イ
ワ 抽出 2.2.1 検索 使う 類情報 抽出 2.2.2
害 未然防 設計知識 体系的 捉え 体系 考え
参照 設計知識 類
参考 2.7 体系
2.8 示
2.7 設計知識 類 参考
14
2.8 何 役立 知識 直観的 示 何 害 引 起 要素 機能 処理
害 症状 組 合わ 機能 処理 類 い
何 相当 害 引 起 要素 機能 処理 害 起 易い条件
含 場合 あ 類 抽象 機能 処理 行う
3 要素 抽象的 知識 表現 い 製品 ン 連想
場合 あ 例え 割込 処理 関 何 害 引 起 要素 機能 処理
害 症状 組 合わ 製品 ン 連想 無い 電圧管理 関
組 合わ 電圧管理 必要 機器 適用 想像 う
場合 機器 類 う 機器 知識 整理
観点 頭 中 記憶 易い方 選択
右端 あ 害事例 抽出 知識 中 ソ 機
能や処理 対 知識不足 様 文書 原因 発生
あ 例外的 整理 視点 加え い
2.2.4
分類タ
前 2.2.3 知識 体系 捉え 知識体系 構成要素
記 種 類 導出
図2.9 分類タグ
分類タグ 機能 処理
分類タグ キ ワ 何が 、 う
分類タグ 装置 デバイス
分類タグ 混入プロセス
類 構造 表現 設計知識 付 知識 体系 知識 検索
易 知識 発想 易 考慮 想定 検索 や検索結果 表示
第4章 検索 示
検索 考慮 粒度 人 異
階層的 設定 う 類 機能 処理 類 2.1 ワ
何 階層構造 い 類 3 類 3.1 装置
15
類 ワ 何 う 要素 知識 連想 効果
あ 設計知識DB 蓄積 設計知識 増え 類 抽象度 適度
ゆ 知識体系 明確 知識 網羅性 高
類 設計知識 文脈 知識 抽象 要素 抽出 設定 製品
ン 依存 い共通 知識 利用範 拡大 知識 再利用
16
3
設計知識
整理手法
3.1
概要
第 章 2.1節及び2.2節 説明 設計知識 知識 再利用 基
い 設計知識 整理手法 詳述 設計知識 整理手法 ソ 実現
機能 設計 機能 引 起 易い 害 対策 機能や
全体 発生 害 機能 回避 設計知識 過去 害 情報記
録 過去 DB 抽出 害 未然防 活用 う 整理 あ
■整理手
整理手 過去 DB 害情報記録 設計知識 抽出 類 設定
流 表3.1
表3.1 設計知識 整理手
整理手 入力 出力 参照先
設計知識 抽出 障害情報記録 過去 DB
設計知識 3.2節
分類 設定 設計知識 分類 3.3節
■入出力情報 整理手
表 3.1 整理手 示 3.1 過去 DB 抽出
設計知識 構造 般 ワ や 類情報 含 類 設定 再
利用性 高
3.1 過去 害情報記録 害事例 設計知識 関
設計知識 整理 設計知識DB 格納 検索 等 取 出 う
17
害情報記録 害報告 副産物 過去 DB 第 溜 ゆ
害 未然 防 設計知識 害情報記録 抽出 作業 経 溜
ゆ い 労力 必要 現実的 害情報記
録 再発 事例や 管理 観点 要 事例 優先 位 高い事例
選択 設計知識 抽出 整理 考え方 取 得 い
手 詳細 3.2節以降 説明
3.2
設計知識
抽出
設計知識 抽出 1 知識要素 抽出 2 知識要素 般 構
成
3.2 設計知識 抽出
設計知識 過去 DB 害情報記録 3.1参照 知識要素 抽出
前述2.1.3 設計知識 構造 構造 整理
3.2.1
知識要素
抽出
害情報記録 害 発生 未然 防 設計知識 知識要素 抽出 構造的
整理
3.3 設計要素 抽出
■入力
害情報記録
害情報記録 般 害 症状 状況 直接原因 対処 含
障害情報記録 入力
障害情報記録 障害 未
然 防止 設計知識 知
識要素 抽出
18
い 3.4
3.4 害情報記録
害情報記録 記載 害事例 中 複数 原因 複合的 絡 合
害 至 場合 あ 場合 複数 設計知識 抽出
■タ
考慮漏 要因の調査
害情報記録 状況 症状 直接原因 対処 害発生 何 う
う 文脈 捉え 捉え 文脈 う 背景要因 設計時 考
慮漏 考慮不足 知識不足 無 う 従 調
考慮漏 要因 想定 い場合 害情報記録 設計知識抽出 対象 外
障害発生シ リオの確認
考慮漏 考慮不足 知識不足等 背景要因 考え 従
害発生 作
従 害発生 作成 設計知識 抽出
イ
○○○ [機能/処理/作業/ ] い ▽▽▽[ 考慮 漏 い / 知 い ]
△△△[ 場合 / 依存し / 契機 ] ◇◇◇◇ 障害 発生 ※[括弧]内 文脈 合う 選ぶ
ああああ
イ
19
知識要素の抽出
害情報記録 害未然防 設計知識 抽出 抽出 観点 設計時
知識 あ 害 原因 対 対策 講 出来 知識
無 対策 講 考え う 知識 想像 (1)
~(6) 知識要素 見
表3.2 知識要素 抽出
抽出 知識要素 抽出方法 抽出 ポイン
(1)障害 引 起
機能 処理 技 術要素
障害情報記録 症状 直接原因
対処 直接原因 対処 施し 個所
見 そ 障害 引 起 機能 処
理 技術要素 抽出
対策 施 対象 機能 処理
領域 形式 サイ 等 場合 あ
プ 上 問題 場合 対
策 対象 規定文書 あ
(2)設計時 考慮
漏 易い設計視 点 観点
障害情報記録 直接原因 対処
(3) 発生契機 引 起 可能性 あ
事象や状態 対し 考慮 必要 設計
視点 観点 抽出
考慮漏 観点 視点 設計 行 着
い場合 例外的 設計時 限定
未然防止 観点 知 視
点 観点 抽出 例 要求定義時
漏 い 検討 観点 視点
(3)発生契機 障害情報記録 直接原因 障害 引
起 発生契機 抽出
発生契機 無 障害 発生し
見 事象や状態 指
(4)発生し得 障害
内容
障害情報記録 症状 (1) 障害
引 起 機能 処理 技術要素
(2) 設計時 考慮 漏 易い設計視点
観点 (3) 発生契機 引 起
障害 内容 抽出
障害情報記録 症状 外 見え
症状 記載さ い 場合 障
害情報記録 他 情報 抽出
(5)発生 ニ 障害情報記録 抽出し (1)~(4) 要
素 文章 組 立
(6)対策 障害情報記録 対処 内容 元 (5)
発生 ニ 記さ 障害 直接原
因 対策 抽出
知識文脈の確認
記(1)~(4) (6) 要素 4 示 知識文脈 組 立 確認 綺麗
文章 形 整 い 意味 通 文脈 頭 中 整理 良い
イ
(1) 機能や処理 考え (2) 考慮 漏 い (3) 起 契機 (4) 障害 発
20
■出力
害 未然 防 視点 構造 設計知識
情報処理 高信頼 教訓集 組込 編 2015 度 参考文献[2]
害事例 教訓8 現象2 例 知識要素 抽出例 示
(1) 障害を引 起こ 機能・処理 (例)
例外設計
(2) 考慮漏 し易い設計視点・観点 (例)
機能実行中 例外発生時 考慮漏
(3) 発生契機 (例)
機能実行中 例外発生
(4) 発生し得 障害内容 (例)
外部入出力を正しく参照 /操作 機能 正常 動作 障害 外部入
出力 種別及び機能 よ 現象 特定 い
(5) 発生 カニ 例
機能実行中 例外 発生 入力処理 実施 あたっ 不定 入力値を使用 こ
障害 発生
(6) 対策 例
割 込み 起動時 正常割 込み あ を判断し ノ よ 割 込み あ 何
割 込みプログラ を終了
知識 文脈 何
何々し
う
21
3.2.2
知識要素
一般化
特定 害情報記録 抽出 設計知識 ソ 共通 知識 伝え
知識 各要素 特定 製品 ン 連想 用語 避 出来 ソ
共通 般 表現 見
3.5 知識要素 般
■入力
害 未然 防 視点 構造 設計知識
■タ
各要素 般
1 ~ 6 各要素 製品 ン 依存 機能や処理 表 用語や表現等
あ 場合 ソ 共通 通 用語や表現 修
※ 般 表現 拘 設計知識 頭 刺 場合 あ 注
意 設計知識 幾 特定 装置や機器 連想 場合や 対 過度
般 場合 3.3 節 類 設定 3.3.2 知識 類
装置 関 類 考え 調整
■出力
害 未然 防 視点 構造 設計知識 般 表現
前 3.2.1 知識要素 抽出 出力 般 表現 例 示
(1) 障害を引 起こ 機能・処理 (例)
設計知識 未一般化 入力
抽出し 設計知識 各要素 一般化
22
割 込み処理
(2) 考慮漏 し易い設計視点・観点 (例)
想定し い い例外割 込み発生時 考慮漏
(3) 発生契機 (例)
ノ
(4) 発生し得 障害内容 (例)
機能実行中 例外割 込み 発生 こ 異常・停止等 障害を引 起こ
(5) 発生 カニ 例
割 込み要求端子 ノ 入 不定 値を使用し 割 込み処理 起動さ 場
合あ そ 際 割 込み処理プログラ 不正 割 込みを想定したコー ング
さ い け 障害 発生
(6) 対策 例
割 込み処理起動時 正常割 込み あ を判断し 不正 割 込み あ 何
割 込みプログラ を終了さ
3.3
分類タ
設定
害情報記録 抽出 設計知識 知識DB 蓄積 想定 DB
検索や DB 取出 設計知識 見 方 工夫 知識 再利用
2.2節 知識 再利用 考え 基 い 類 設定 類
設定 1 ワ 抽出 2 知識 類 構成
23
3.3.1
ワ
抽出
般 表現 設計知識 目見 言聞い 知識 何 役立
直観的 う ワ 何 う 相当 要素 抽出
3.7 ワ 抽出
■入力
害 未然 防 視点 構造 設計知識 般 表現
■タ
設計知識 要素 ワ 何 う 相当 要素 抽出 類
設定
表3.4 ワ 抽出
分類 抽出方法 抽出 ポイン
ワ “何 ”
設計知識 要素(1) 障害 引
起 機能 処理 何
相当 要素 抽出
ワ 何 う ッ 考え
抽象度 上 引 起 障害 限定さ
発想 広 う 言葉 選ぶ
ワ “ う ”
設計知識 要素(4) 発生し得
障害内容 う 相
当 要素 抽出
障害 防止 防止 障害症状
設定
最終状態 表 症状 原因 イ し
例 停止 運用中断
途中 状態 表 表現 使わ い 例
組合 爆発
※ ワ 抽出 害未然防 教訓 組込 編
参考文献[3] 掲載 直接原因観点 参考
設計知識 一般化 入力
一般化し 設計知識 症
状 障害 防止 分
ワ 相当 要素 抽出
し 分類 設定
(分類 )
ワ ”何 ”
ワ ” う ”
24
■出力
類
情報処理 高信頼 教訓集 組込 編 2015 度 参考文献[2] 害事例 抽出 類 2.1 2.2 例 示 詳細 第4章 記載 い 例
3.3.2
知識
分類
般 表現 設計知識 何 う 表 ワ 両方 包含
意識 設計知識 類
3.8 知識 類 設計知識
一般化 入力
一般化し 設計知識 知識 分類
抽出し 分類 設
定
(分類 ) 機能・処理 (分類 ) 機器・ バイ (分類 ) 混入プ
25
■入力
害 未然 防 視点 構造 設計知識 般 表現
類 ワ 何
■タ
表3.5 知識 類
分類 設定 仕方 設定 ポイン
分類 機能 処理
設計知識 要素(1) 障害 引 起
機能 処理 分類
ワ “何 ” ソフ
ア共通 機能 処理 プ
設定
設計知識 検索 検索 考
え ソフ ア共通 機能 処理
検索し 設計知識 表示 際 見出し
し 使う 考え
原則 設定必須
分類 装置 バイ
設計知識 要素(2) 考慮漏 し易
い設計視点 観点 特定 装置
や バイ 依存 考え 場
合 設定
設計知識 検索 過去 発生し 事例
対象 装置や バイ 横串 行い い場合
設定
設計知識 装置や 依存し い 共
通 知識 し 認識し ほしい場合 敢え
設定し い
装置名称 設定 い 設計知識DB
公開範囲 考慮し 装置や製品 特定さ 注意
分類 混入プ
設計知識 要素(2) 考慮漏 し易
い設計視点 観点 混入プ
視点 観点 あ 設定
不具合 混入さ 要因 設計知識 欠如
やう 仕様書 書 い等
プ 遵守違反やプ 不備 場合
設定
※ 類 類 抽出 害未然防 教訓 組込
26
■出力
類
情報処理 高信頼 教訓集 組込 編 2015 度 参考文献[2]
害事例 抽出 類 例 示 詳細 第4章 記載 い
27
4
検索
ル
イ
第 章 整理手法 基 い 整理 設計知識 4.1 う DB い 場合
様 検索 様 検索結果 取 出 検索 示
検索 動作 机 あ い 実 設計知識DB 検索
作 2.1節 設計知識 2.2節 知識 再利用 設計知
識 伝え 効果的 う 評価 期待
4.1 設計知識DB
4.1
検索
(1) ワ 探
28
4.2
検索結果
30
5
設計知識
整理サン
ル
第 章 整理方法 従 情報処理 高信頼 教訓集 組込 編 2015
度 参考文献[2] 害事例 教訓 設計知識 表 5.2 抽出 整理
対応表 表5.1 示
表5.1 教訓番号 設計知識Index対応表
教訓番号 教訓 設計知識I x
1 複雑 条件式 変更 行う場合 ン 等 検証 有効 あ
27 2 条件 整理 い い状態 条件数 超え う 機能 個以 条件
有 機能 修 場合 関連 条件 全 洗い出 整理 整合 い 確認 28
3 複数機能 統合 場合 統合前 条件数 総和 統合後 条件数 比較 差 あ 場合
条件 抜 い 確認 29
4 変数値域 広 組合 ン 非常 多 場合 値域 適 大 割 境
界値 実施 30
5 内蔵電池 使用 場合 深放電時 起動 ン 考慮
19 6 使用 場合 書 込 命回数 考慮
18 7 消費電力 多い機能 追加 場合 一時的 電 降 影響 等や電源
種類 電池 場合 残量 考慮 20
8 想定可能 例外 形式的 漏 析
13, 14 9 重化 場合 期 領域 適 設定
25 10 制御 象 一 運用条件 変わ 様 再確認
15, 16 11 間 間 共有引 渡 場合 排 期処理 行わ い あ
い 生 い い う 注意 31
12 歩留 あ 製品 良品/ 良品 検査 装置 全 良品あ い 良品 検査結果 異
常 断 あ 7,8
13 既 ソ 性能改善 実施 ン 生 処理 期 生等 影
響 確認 21
14 大量 通信経由 扱う場合 一連 処理 流 中 作 い う 注意
時間帯 負荷変動 い 考慮
24 15 納入 あ 客様 運用 う 業務 業務 ン 中 あ ゆ 異常操作
電源断 放置 含 応 考え 1, 3
16 害解析時 保 ン 用 処理 あ 様書 作成 影響評価 実施
9 17 断処理 必要条件 制限 条件 漏 抽出
6 18 断片化 注意
10 19 人 変更作業 起 前提 活用 合 作 込 や流出 防 心
12 20 信 性向 施策 採 場合 故 生確率 影響 定量評価 行い 策 確実 実装
4 21 高い信 性 策 求 重大 影響 及ぼ 象 想定 復 手 十 検討
2 22 処理時間 活用 変数や う 状態数 状況
動作処理 最大 意識 余裕 把握 設計 5
23 開 伴わ い保 案件 構成変更 生 場合 手 等作業内容 妥当性 確認
う 経 17
24 物理量 時間 重量 扱う場合 単 桁数 確認
11 25 顧客 要求 い 目的 背景 道 意 確認 要求 様 あい い 排除
役立 32
26 遒隔地等物理的 離 装置 ワ 接 稼働 故 状態検知や
ン ン 容易 い 的視点 状態把握 行う 22
27 ン 様 外 想定外 象 生 前提 自己防衛策 採
23 28 等 製品 ン 動作 様 相遊等 情報 関係者 参照
31
表5.2 教訓集 抽出 設計知識 1/6
※ 類 :設定必須
類 :設定必須
類 :装置 横串情報 不要 場合 空白 い
類 : 要因 強調 い場合 設定 通常 空白 い
類 1
機 能 ・ 処 理 類
ワ 何
類 ワ う
類 装 置 ・
類 装 置 ・
類 混 入
類 混 入
害 引 起
機 能 処 理
考 慮 漏 易 い
設 計 視 点 観 点
1
起動処理異常終了後 起動処理
起動失敗
業務 店舗用窓口 業務 起
動処理
前回異常終了
い 場合
処理
2
起動処理異常終了後 起動処理
起動失敗
異常 生
時 起動 終了
ン
直前 異
常終了 考慮
起動 ン 設
計
3
集計処理 処理 再起動失敗業務 店舗用窓口
処理
処理
ン 異常終了
後 処
理
4
監視処理故 検出能
力向
誤検知 ン
故 検知
ン
設計 変更設計 故 検知 ン
ン 感度
必要以
信 性
5
定周期処理 定周期処理処理時間 超過
定周 期処理
変更設計
定周期 起動
ン
ン W 最悪実
行時間 増加
可能性 あ
ン
ン 処理時
間 影響 え
割 込 ン
32
生 契 機 生 得 害 内 容 生 策
異常終 了
業務 常 立
い
前 業務処理 集計 信中
処理 強制終了 信処理
完了 終了
う 態 考慮 業務 設計
い 業務 再起動 再
処理 行わ 常
立
起動処理 前回異常終
了 想定 処理
組 込
教訓
I 故
起動
異常 解消
常動作 い状態
終了時 常 異常情報 I 格納
起動終了 ン 組 い I
故 情報 喪失 場面 想定 い
直前 終了状態
揮 残
確実 確認 う
起動終了 ン
教訓
処理 強制
終了
処理 再起動
い
前 業務処理 集計 信中
処理 強制終了 信処理
完了 終了
う 態 考慮 業務 設計
い 業務 再起動 再
処理 行わ 常
立
起動処理 前回異常終
了 想定 処理
組 込
教訓
信 性向 故
検知 ン 感度
無視 問題
い 検出
い 害 生
機構部 改造 伴い 生
度 増え う 感 信 性向 必要
断 故 検知 ン 感度
故 生確率 算出 故 生時
影響 定量評価 行わ 設計者個人 断 改
造作業 行 い 検出 場合 故
断 う 組 込 い
十 あ 無視 問題 い
故 断 い 害
故 検知 ン 感度
故 生確率
影響 定量評価 基 い
行う
教訓
動作 ン
組合
ン 増大化 変化
変更設計 動作
ン W 伸び
う 制御信号 出
ン や ン 情報 読
ン 生
結果
定動作 引 起
割 込 s定周期 起動
ン ン 中 割 込 処理 付
s以内 処理 ン 終了 必要
あ 変更設計 処理 ン
W 最悪実行時間 s 超過 う非常
稀 生
定周期 起動
ン ン W 最悪
実行時間 見積 行
い増減 確認
更 遅延 引 起 割
込 ン 変数組
合 ン 考慮
W 増減 確認
ン ン 割 込
ン 共有変数
あ 場合 割 込 干渉
影響 確認 相互
排 問題
33
表5.2 教訓集 抽出 設計知識 2/6
類 1
機 能 ・ 処 理 類
ワ 何
類 ワ う
類 装 置 ・
類 装 置 ・
類 混 入
類 混 入
害 引 起
機 能 処 理
考 慮 漏 易 い
設 計 視 点 観 点
6
定処理入場 定処
理
入場可否
定 能
入 出
管理
電子通行証 記録
施設状態 照合
入場 定
入 出
定処理
複雑化 定条
件 組合
ン 抜 漏
起 易 類似
防
知識 蓄積
い
7
定処理 定処理断 誘
検査
歩留
あ 量産製
品 検査装
置
検査 異常状態 様検討
視点
異常状態 洗い出
8
定処理 定処理断 誘
検査
歩留
あ 量産製
品 検査装
置
検査結果表示 ン
良品率 % 検
査結果 場合 検
査結果 定者
う 感
ン
9
保 機能 収集 消失保 用処理 実装
保 用処理 顧
客要求 直接
わ い機能 異
常 場合
影響 確認
10
保 機能 収集I 性能 業務
I
断片化 考慮
い I 負荷
34
生 契 機 生 得 害 内 容
生 策
強化
入 出 細
記録 定条件
組合 ン
増大化
複数施設 入場
施設毎 入 出 通
行 あ 施設 入場
可否 定 能 異常
終了 結果
全体 異常 使用
入 室 利用者 通行証 入場可否 定
処理 来考慮 入場 定条件 一部
抜 い
入場 可 通行証 入場可
処理 進 常 処理
入場 定処理 異常終了 契機 入 出
管理 停
定条件 抜 い
う 変条件 論理式
記述 形式手法
適用 検討
過去 知識 蓄積活用
定条件
文書化 蓄積
知識 活用確認
場 設
教訓
検査 異常状態 定
検査 異常
検査
全 良品
検査 後 全
量再検査
全 良品 場合 異常 い
全 良品 場合 異常
い 視点 抜 案件
例 半 体検査 通常一定 割合 良品
/ 良品 定 全 良品あ い 全
良品 場合 検査 異常 あ
多 通常 確認 必要
全 良 全良品 生時
検査 振 舞い
様 明記
教訓
ン ン
設定
検査結果 意
的 良 検出 い
ン ン 設定
気 良品率 %
検査結果 常 定
検査 い
後 全量再検査
全 良品 場合 異常 い
全 良品 場合 異常
い 視点 抜 案件
例 半 体検査 通常一定 割合 良品
/ 良品 定 全 良品あ い 全
良品 場合 検査 異常 あ
多 通常 確認 必要
全 良 全良品 生時
検査 振 舞い
様 明記
教訓
異常時 出力
保 用処理 影響 業務
処理 異常終了 業務
停
あ 製品製造工程管理 工程 作
業情報 集計 次 工程以降
利用 い 常時 異常時 区
書 込 い 異常
生時 常時 失わ
異常時 出力処理 様書 明記
影響評価 実施 い
保 用処理 様書 作
成 影響評価 実施
教訓
保 採
採 時
ン
毎 作成 一定期間保持 可変長
作成削除 繰 返 I
徐々 断片化 採 時 I 負荷高騰
生 ン ン 待
一 保
用
ン 離 断片化
生 い う
35
表5.2 教訓集 抽出 設計知識 3/6
類 1
機 能 ・ 処 理 類
ワ 何
類 ワ う
類 装 置 ・
類 装 置 ・
類 混 入
類 混 入
害 引 起
機 能 処 理
考 慮 漏 易 い
設 計 視 点 観 点
11
ン ン比較
浮動少数点 比較失敗
浮動 数点型
u 変数
保 い 時
刻情報
浮動少数点型
変数 少数点誤
差 含
比較 場合
許容誤差 考
慮 必要
12
読処理
読 処理
読 異常
設計
入力
変換作業
設計実装
入力変換
作業や 確認
人 行う場合
目視 差異
確認 い
あ
13
割 込 処 理例外割 込
処理
割 込 異
常終了
割 込 処理
想定 い い例
外割 込 生時
考慮
14
割 込 処 理割 込 処
理
占有 割 込 処理
割 込
的 生
割 込 処理
連 起動
処理 占有
15
管理
管 理
通信 無線
入出力装置 接
場合 入出
力制御 管理 作成
内部 管理
作成 場合 制
約
16
管理
管 理
複数 接 先 接
可能
/装置 い
接 先管理
動的 作成
処理
接 ン
接 先管理
録
36
生 契 機 生 得 害 内 容 生 策
時刻情報 比較
浮動 数点型 u 保
時刻情報 出
有効桁数 丸
g型 保 元
少数点誤差 含 時刻
情報 比較 一
い 起
撮影時刻 浮動 数点型 u 変数
s 秒単 数点以 有効 桁 保 い
画像 あ 例 [s ]
画像 称 少数点誤差 丸
s 秒単 時刻情報 設定 い 例
_ _ 画像 保 い 時刻情報
u 型 単純 倍 出
s 秒単 変換 時刻情報 例
使用 い 時刻情報 比較 一
画像 保
い 時刻情報s 単
浮動 数点数
倍 後 数点以 1
桁目 四捨五入 s
単 g型 変換
g型 士
称 時刻情報 比較
う 変更
教訓
誤入力
処理 異常 使
用 い
管理情報 担当者 入力
来全角 半角 入力
全角 半角 遊い 担当者 見抜
管理情報 録
扱う 全角 前提 い
読 変換処理
業務 影響 及ぼ
属人的作業 依
自動入力や
最大限 活用
手入力
い場合 入力
規則 定
手入力 要
範 外 実
施
教訓19
機能実行中 例外割 込
生
異常停 等 害 引
起
割 込 要求端子 入力 定
値 使用 割 込 処理 起動 場合あ
割 込 処理 割 込
想定 ン い
害 生
割 込 処理起動時
常割 込 あ
断 割 込 あ
何 割 込
終了
教訓
割 込 連 起動
占有
制約 あ 処
理 影響 及ぼ
割 込 的 生 割 込 処理
連 起動 処理 占有
制約 あ 処理 影響 及ぼ
時間制約 満足
場合 割 込
ン
方式 替え
教訓
最大数接
入出力制御
内部 管理
作成 入出力制
御 I
装置
内部 管理 作成 方式
管理 混 最大数 入
出力装置 接 い 管理
大 い入出力装置 先 複数接
入出力制御 接 内部 管
理 作成 い 途中 内部
い い 入出力制御 管理
作成
入出力制御 外
部 管理
作成 方式
教訓
最大数接
接 先管理 最大
容量 超え い
様 最大数 接
接
内部 管理 作成 方式
管理 混 最大数 入
出力装置 接 い 管理
大 い入出力装置 先 複数接
入出力制御 接 内部 管
理 作成 い 途中 内部
い い 入出力制御 管理
作成
入出力制御 外
部 管理
作成 方式
37
表5.2 教訓集 抽出 設計知識 4/6
類 1
機 能 ・ 処 理 類
ワ 何
類 ワ う
類 装 置 ・
類 装 置 ・
類 混 入
類 混 入
害 引 起
機 能 処 理
考 慮 漏 易 い
設 計 視 点 観 点
17
管理
ン /
ン ン
ン 失
敗
ン系
領域
領域 共
う
方式 異
混
構成
各 再
起動時 ン
領域 領域
構成 領 域
領域 混
作成 再起動時
各 起
動 序
18
書 込処理
書 込
処理
書 込 携帯情報端
書
込 命回数
限あ
配置
設計 策 配置
客
様 等 想定
設計 策
19
電 管理起動時電 処理
電 提供停 携帯情報端
起動電 閾値
見積 電源I
起動電 閾値 参
考 検討
電 提供手段
組合 充電池
充電器
更 各電 提供
手段 状態 深放
電状態 動作
加味 組合
各電 提供手段
状態動作 加
味 組合 検討
20
電 管理部品 突入
電流
電 降 影
響
携帯情報端
突入電流 始動電
流
起動許可電 閾
値 見積 突入
電流 影響見極
突入電流
電 降 影響部
品 加
味 考慮 起
動許可電 閾値
決定
電池容量 少
い状態 突入電
流 電
影響 見極
21
通信処理
通信
収集 蓄
積
無効
設計 設計意
定周期 通信
収集 蓄積
行う処理
収集 有効
/無効 断 行
う処理 何処 実
装 い
38
生 契 機 生 得 害 内 容
生 策
再起動
再起動
領域 ン
い
領域 領域 構成
運用 ン
一部 領域 追加
後 再起動 最初 領域
ン
起動 時点 領
域 ン
可 運用 い
領域 追
加 一
部 領域
再 録
教訓
領域 書 込
命回数 超え
書 込 生
書 込 命回数 超え
領域 使用 可 容量
減少 影響 以
生
起動 可
使用中 電源断
等 生
書 込 命回数 限
あ
装置 採用
や 客様追加 書 込 行
え 状態
客様追加 書 込 回数 多い場合
書 込 命回数 限 遉 領域 使
用 可 使用可能容量 減
少
結果 容量減少 起動 支 来 起動
可 電源断 等 生
使用
部品 命 十 考慮
運用 客様 等
加味 配置設
計 び 策
教訓
以 条件
時 満
端 起動
電池 深放電状
態 充電器接 充電中
端 起動 充電
停
複数電 提供手段 あ 充電池 充電器
充電池 深放電状態 起動電 閾値以 状
態 充電器接 電 提供 起動実行
起動時電 処理 充電池 充電器
電 計算 問題 起動開始
起動処理 充電 一度停 組
あ 時 電池I 起動電 閾値 回
結果 電 提供 十 電源供共有 停
充電停 停
起動時電 処理
設計 各電 提供
手段 状態動作
加味 組合 検討
教訓
消費電力 多い機
能部品 G
起動 突入電流
突入電流 電流電
以 象
生
電源断 ン
破壊
装置
装置起動処理 中 消費電力 多い機能部
品 起動開始 突入電流 生
突入電流 電 電源断
や 生
※ 電池容量 少 い場合 生 高
結果 ン 電源断
破壊 起動 可 命的問題 生
あ 突入電流
電 降 加
味 考慮 装置設計
起動許可電 閾値 決
定
電池容量 少 い状態
突入電流 電
加味 装置設計
教訓
通信 ン
状態
蓄積 処理
無効 有効
処理 う
通信 い時間帯 ン
収集 廃棄
あ 蓄積 蓄積
無効 含
来実装 い 収集 有効/無効
断 処理 機能追加 処理速度 改善
時 実施 削除 い 設計意
記録 変更点管理 い
通信機器
通信 読 出
通信 有無
確認 処理追加 通
信 無 場合
蓄積
保 い う ソ
変更
39
表5.2 教訓集 抽出 設計知識 5/6
類 1
機 能 ・ 処 理 類
ワ 何
類 ワ う
類 装 置 ・
類 装 置 ・
類 混 入
類 混 入
害 引 起
機 能 処 理
考 慮 漏 易 い
設 計 視 点 観 点
22
通信処理
生 監視処
理
誤検知 生 監視
生 監視方法
ig 応答 あ
通信
い故 あ
23
通信処理
社接
業務 信 析処
理
規定 以外 信 設計漏
24
通信処理
通信 処理
性能
業務 遅滞 い
い 処理
箇所
推定 処理
ン 最適
化
25
重化 重化 期 全重化 機能追加
重化 期
充 性
26
CO I 満杯業務 ン 遊い
出力
ン 挙動
変化 あ
27
論理制御条件数 多
い論理制御
動作条件設 定誤
複数条件 組合
動作 定
条件 組合
ン 可視化
28
論理制御条件数 多
い論理制御
動作条件設 定誤
複数条件 組合
動作 定
全体
割 更 共通機
能 抽出 共通
40
生 契 機 生 得 害 内 容 生 策
通信 異
常
生 監視 常
実 通信 出来 い
生 監視 i g応答 実施 い 相手
装置 故 状況 ig 応答 あ
ン 通信 異常 検出
い 信 満杯
生 監視 信
状態 見 う 追加 教訓
規定外 信
規定外
処理 う
異 常終了
処理変更 伴い 処理 追加 目 処理
要 処理 残 規定外
信 当
動作
制御 規定外
値 場合 信
廃棄
教訓
大量 信
一連 通信処理 流
中
得 部 処
理 最適化 い い
処理 遅滞
生 提供 ビ
断 的 停 引 起
複数 業務用携帯端 信
蓄積 複数 点 ン 端
蓄積 解析処理 常時
稼動 遅延 無い 授 求 い
内処理 中 最適化
い い箇所 文 列 比較
い 一 数値 変換 比較
い 処理時間 遅延 招い い あ
利用者 多い時間帯 業務用携帯端
一時記憶部通信 大量
滞留
性能 関 非機能要
求 整理
時間帯 負荷変動
考慮
箇所 推定
処理 最適化 行う
教訓
重化 替わ
期 い
替わ
生や 替わ 前 異
動作
機能 張用 領域 使用 機能追加 行
あ 時点 領域 超え 気
重化 単体 検証 常
動作 問題 見 重化
替え検証 期範 充 あ
明
期 範 内 あ
確認
期 閾値 行
う
教訓
ン
想定 い い 増え
I 迫 停
ン 実施 出
力 条件 変更 い 気 付
増殖 I 空 迫
削除処理 追加
教訓
条件 複雑化
複数条件 組合
実施動作 定 制御
い 条件 複
雑 場合
条件組合 ン 可視
化 怠 制御
矛盾や 適合 引 起
多
複雑化 複数条件 組合 動作 定
制御 い 制御 象 構成変更
伴 条件 組合 ン 変更 場合
変更部 可視化 検証
矛盾や 適合 見逃 う
複雑 条件組合
ン 変更 ン
変更前後 遊
い 可視化
矛盾や 適合 有無
検証
教訓1
条件数 増大化
複数条件 組合
実施動作 定 制御
い 条件数
増大化 場合
条件組合 ン
可視化検証 限界 生
制御 矛盾や 適
合 引 起 多
複数条件 組合 動作 定 制御
い 制御 象 構成変更 伴 条
件 組合 ン 変更 結果 特定
動作条件数 増大 場合
条件組合 ン 可視化検証 限界 生
矛盾や 適合 見逃
う
動作条件数 増大
適
規模 割
条件 組合
ン 可視化検証 可能
条件数 減少
41
表5.2 教訓集 抽出 設計知識 6/6
※32 設計知識要因 要因 方 強い あえ 例外的 類
非設定
類 1
機 能 ・ 処 理 類
ワ 何
類 ワ う
類 装 置 ・
類 装 置 ・
類 混 入
類 混 入
害 引 起
機 能 処 理
考 慮 漏 易 い
設 計 視 点 観 点
29
学習機能 学習機能学習条件設 定誤
自己学習機能 最適制御
学習機能
網羅度 限界
あ
設計変更 あ
学習条件等
設計構造 可
視化 確認
必要 あ
30
論理制御 論理制御算出条件設 定漏
組合
動作 定
値域 広範
組合
ン 多
過 場合 動
作確認 網
羅度 限界 あ
31
並列処理 破壊ン
関
数 複数
時 利用
常 動
作
※I 用語辞
Words
32
要求定義変更要求 様
変更要求 様 文
書化
変更要求
様 背景 情や
理由等 様書
42
生 契 機 生 得 害 内 容 生 策
機能 統合
機能 統合
学習条件 設定漏
見逃 う 学習機
能 制御失敗
引 起
機能 統合 学習条件 構造ビ
目視確認 学習条件
設定漏 見逃
構造 ビ 化
統合前 学習条件数総
和 統合後 学習条件数
総和 比較確認
教訓
値域
広範 化
組合
ン 増大化
組合
ン 漏 や 定誤
生 結果 誤動作 引
起
組合 動作 定 行う処理
い 値域 広範 組合
ン 多 実施 網
羅度 限界 あ 害
生
検査 入
組合
ン 多い場合
組合 爆 起
や い 回避
方法
値域 範 結果
集合 値
割 各集合 代
表値 用い
値 境界値付近
境界値 境界値 前後
値 持 い
う 範
狭
教訓
動作 ン
間 処理競合
生 場合 結果 や
異常 生 場
合 あ
い関数
関数 間 時 動作 関数内
等 競合 結果
い関数
使用 排 制
御 実施
教訓
口頭 様変
更
変更要求 異 様
変更 う
簡単 変更 あ 口頭 指示 言葉
複数 解釈方法 あ 指示内容 確認 思い
込 変更
変更 様 目的 理解 い 誤 解
釈 い 考え
変更要求 背景 情
や理由 様書 記載
様 解釈誤 排
除
43
参考文献
[1] SSM 構造 知識 ン , 康彦 著, 日科 連出 社, 2012 9
[2] 情報処理 高信頼 教訓集 組込 編 2015 度 , 独立行政法人
情報処理推進機構 術本部 ソ 高信頼 ン , 2016 3
http://www.ipa.go.jp/sec/reports/20160331_2.html
[3] 害未然防 教訓 組込 編 , 独立行政法人 情
報処理推進機構 術本部 ソ 高信頼 ン , 2016 3
http://www.ipa.go.jp/sec/reports/20160331_3.html
[4] 現場 役立 教訓活用 実践 組込 編 , 独立行政
法人 情報処理推進機構 術本部 ソ 高信頼 ン , 2016 3
http://www.ipa.go.jp/sec/reports/20160331_3.html
[5] STAMP/STPA ~ 思考 基 新 い 全性解析手法~ , 独立
行政法人 情報処理推進機構 術本部 ソ 高信頼 ン , 2016 4
http://www.ipa.go.jp/sec/reports/20160428.html
[6] 流設計工程 未然防 実用 向 ―不具合 発想力 高
秘訣― , 東芝ソ 株 , JaSST’13 Tokyo, 2013 1 http://www.jasst.jp/symposium/jasst13tokyo/pdf/D2-3.pdf
[7] 流設計工程 未然防 提案, ―未然防 活用 陥 発
44
執筆者
未然防 知識WG
主査 久住 憲嗣 国立大学法人九 大学
内 直志 国立大学法人 陸先端科学 術大学院大学
石 学 横河電機株式会社 石原 鉄也 矢崎総業株式会社
岩橋 実 菱電機株式会社
植武 信弘 株式会社日立産業制御ソ ュ ン
木 裕之 日本電気株式会社
鈴 延保 ン コ 株式会社
高木 徳生 ンソ ソ ュ ン 株式会社
羽 裕 日本電気通信 株式会社
細谷 伊知郎 自動車株式会社
50音
原 幸博 独立行政法人情報処理推進機構
十山 圭 独立行政法人情報処理推進機構
石井 悟 独立行政法人情報処理推進機構
松 充弘 独立行政法人情報処理推進機構