Information-technology Promotion Agency, Japan
S
oftware Reliability
E
nhancement
C
enter (SEC)
事例
析
得
た教訓
～情報処理システム高信頼化
向
～
ITC
近畿会セミナー
2015
年
7
月
25
日
独立行政法人情報処理推進機構
ＩＰＡ
技術本部
ソフト
ア高信頼化センター
ＳＥＣ
山
下
博
之
情報
障害 ，サ
ー攻撃等 情報
事案 比 ，一
般 ，発生頻度 低い
，
発生
影響範囲 広く，深刻
度 高い．世 中 見
，障害発生防止
対策 講
い
，思わ 状況や原因
障害 発生
い ．
減
，あ
要因 想定
不可能
，他所 発生
障害 自
発生
い う 対応
有効 あ ，
，障害事例情報 共有
必要 あ ．
IPA/SEC
，
2013
年度
，
10
程度 分野 事業者
IT
部門
集
頂く委員会
い ，一定 守秘義務 下 ，各社 障害事例 紹介
頂
，
根本原因 再発防止策等
い 多方面
議論
い ．
，
結果 抽象化・普遍化
，
教訓集
公開
い ．
，
IPA/SEC
，
う 取組
多く 分野や地域等 拡
期待 ，
啓発・支援活動 進
い ．
本講演
，
IPA/SEC
障害事例情報共有
取組 内容 紹
介
共 ，
障害事例 分析 基 く
教訓
い 説明
1.
障害事例情報共有 背景
2.
取組
成果概要
3.
障害事例 分析 基 く教訓 説明
4.
障害事例情報 活用
信頼性向上
4.1
障害事例
教訓 導く方法
4.2
各組織 教訓 活用
方法
1.
障害事例情報共有 背景
2.
取組
成果概要
3.
障害事例 分析 基 く教訓 説明
4.
障害事例情報 活用
信頼性向上
4.1
障害事例
教訓 導く方法
4.2
各組織 教訓 活用
方法
ソフト
，そ
自身，複雑化ヷ大規模化
，
システム間連携
，複雑化
一層進展
停
異常動作等
増大
∵ 市民生活や社会経済活動
Ｉ
大
く依
背
<
出
>
NISC:
要
ン
情報
策
係
第２次行動計画
IT
害を引
起
威
要因
意
的要因
情報
関連
非意
的要因
害関連
災害等
あ
ここ
注目
大
←
影
響
発生確率
→
大
サ
攻撃
政危機
水危機
気候変動適応
失敗
失業
不完全
用
異常気象
生物多様性損失
生態系崩壊
<
出
>
Global Risks 2015
10th Edition
,
the World Economic Forum
Figure 1.1: The Global Risks Landscape 2015
発生確率
影
響
減
容
い
容
価格
打撃
伝染病拡散
国家間
対立
大
破壊
兵器
http://reports.weforum.org/global-risks-2015/
要
ンフラ
IT
システム障害
サ
バヸ攻撃
比べ，発生確率
小
い
，
発生時
影響
大
い
要
ン
術
増大
2014
→
2015
http://reports.weforum.org/global-risks-2015/
参考：
瞰
経済
地域
社会
術
環境
術
増大
去
10
間
要
ンフラ
IT
システム障害
0
10
20
30
40
50
60
2007 2008 2009 2010 2011 2012 2013 2014
多大
影響を
え
IT
害
発生件数
報
ベ
推移
件
・△△
コー 、国内 数十万台
…理由
制御
不具合 発見さ
いう
・○○システム 障害 、終日つ
くく
…原因
法律改正直前 駆 込 需要 期末
締 処理
重
想定外
大量入力
性能 耐え
模様
・□□システム 障害、午前中のサービス停止
…原因
本番装置 故障
予備
装置 自動的 切 替わ
う
い
切替え 失敗
いう
社会 大
影響 与え
障害 発生件数
2009
年以降 増加傾向
新聞や
，
幾度
く以下
う
ー
世間 賑わ
い ：
類似障害
発生
(
出
) SEC Journal
情報
害状況
◆処理
増大
環境変化
対
対処遅
1.
銀行
障害…
.
.
～
3.24
東日
大震災
義援金
付け
携帯電話
利用
送金サ
口
中
，
処
理
行う
夜間
ッ
件数
限
超え
こ
け
，
対応
あ
，長期間
わ
サ
停
態
2.
ッ
障害…
.
.
一部
保険料金
4
伴い，
3
駆込
契約
増え
処理
増大
，
夜間
ッ
想定
時間内
終了
可能性大
3. NTT
コ
障害…
.8.
,
2011.12.20
ン
急激
普及
通信
質
変化
共
増大
，
設備
容
超え
，通信
くい状況
こ
こ
別
障害
誘発
4. KDDI
ａｕ
障害…
.
.
～
18
ン
送
信等
使用
い状況
断
的
発生
，利用
急
増
対応
設備増強
遅
根
原因
報道
い
(4/18
日経電子
)
◆
化
け
待機系
替え
失敗
日
生命
2014.4.7
，
JR
九州
2013.7.18
，
KDDI 2013.4.16
，東京証券
引所
(2012.2, 2012.8)
，富士通
ン
(2012.6)
，
信
SBI
ッ
銀行
2011.9
，気象
業
支援
ン
(2009.3)
，
NTT
東日
(2008.11)
，
JR
東日
(2008.9)
構築時
→初期
故
回避
運用時→様々
応
ソ
ン
ン
法
活用
長期間
体系的
組
必要
着目点
初期故
期
偶発故
期
定期
摩耗故
期
故
率
＜環境変化
新
追加
法制度改
利用増大
(
)
利用形態変化
(
質
)
<
故
率曲線
原
> "Bathtub curve" by en:User:Wyatts - U.S. Army document. Licensed under Public domain via
ン
-http://commons.wikimedia.org/wiki/File:Bathtub_curve.jpg#mediaviewer/File:Bathtub_curve.jpg
劣化
→故障
ソ
劣化
い
ソ
相対的
劣化
使わ
環境
変化
方針
組織
人
慣
信
油断
交
術
/
無
利用者増
術進展
網
羅
的
な
前
抽
出
が
困
失敗
学ぶ
冗長構成
教訓
活用
害
例
基
く
教訓
策
共
他山 石
意味
※
※
(
出
)
文化庁
報
成
23
10
号
(No.517)
http://www.bunka.go.jp/publish/bunkachou_geppou/2011_10/series_08/series_08.html
他人 誤
言行や
い出来事
参考
く用い
，
自分 修養 助
失敗
学ぶ
→
類似障害
発生
防
対岸 火事
情
人
意味
※1
人 対
情
掛
，
巡 巡
自分 良い報い 返
く
※
1 (
出
)
文化庁
報
成
24
3
号
(No.522)
http://www.bunka.go.jp/publish/bunkachou_geppou/2012_03/series_08/series_08.html
社会間接互恵性
※2
あ 個体 利他行動
(
他者 親切
行動
)
行
結果
個体 評価 高
他者 行
利他行動 回
回
別 他者
返
く 仕組
※
2 (
出
)
大阪大学大学院人間科学研究科
実証実験成果
2013
8
8
日
http://www.osaka-u.ac.jp/ja/news/ResearchRelease/2013/08/20130808_1
日常生活
困
い
人を見
自
知
い人
IT
サ
機能
複雑
高
狭
広
ー
範
率
1
社
社会全体
時代
流
高信頼化
IT
サ
機能や
複雑化
，
単一
業者
知見
範
，相対的
狭く
1
業者
わ
経験
情報
幅広
く社会全体
共
障害対策
効活用
こ
要
1.
障害事例情報共有 背景
2.
取組
成果概要
3.
障害事例 分析 基 く教訓 説明
4.
障害事例情報 活用
信頼性向上
4.1
障害事例
教訓 導く方法
4.2
各組織 教訓 活用
方法
◇重要 ン
分野等
障害
対策
経験 共有
力
IT
社会 安全・安心 築く く
体的
，
要
ン
*
等
障害
例
析
，
得
教訓
対策
整理
体系化
，再発防
策
，業界
越え
横断
的
広く
共
組
構築
目指
*
情報通信，金融，航空，鉄道，電力，
，政府・行政サー
，医療，水道，物流，
ッ ，石油，化学
害
基
く教訓
共
信頼性向
く
現状
教訓
共
製品機器
/
IT
(
社
)
社会
社会
高い
全
心
製品機器
/IT
提供
製品機器
/
IT
(
社
)
製品機器
/
IT
(
社
)
信
頼
性
信
頼
性
信
頼
性
原因
析
策検討
策
実
施
教
訓
原因
析
策検討
策
実
施
教
訓
原因
析
策検討
策
実
施
教
訓
製品機器
/
IT
(
社
)
製品機器
/
IT
(
社
)
製品機器
/
IT
(
社
)
信
頼
性
信
頼
性
信
頼
性
原因
析
対策検討
一般化
抽象化
普
化
体系的整理
教
訓 教
訓
教
訓
策実施
策実施
策実施
害
害
害
害
害
害
要
ン
等
要
ン
等
専門家，有識者のご協力を得て
IPA/SEC
や業界団体等が担う共有活動
教訓
教訓
教訓
機密保持等
類似障害
発生
航空
原子力
金融
個別企業等
ン
SEC
研究員
例
析
例情報 教訓素材
例情報 教訓素材
例情報 教訓素材
委員会
蓄積
教訓
教訓
整理体
系化方法
教訓
活用
展
開方法
製品
制御
編
IT
サ
編
教訓
一般化
抽象化
処理
(A)
製品
制御
高
信頼化部会
(B)
要
ン
IT
サ
高信頼化部
会
教訓
各業界 専門家等
成
委員会
(
種
)
設置 共有
ー
情報共有
機密保持等
ー
整備
3
種のソース
，障害事例情報・教訓素材 委員会 入力
障害事例 基 く
“教訓”集
取
情報共
整備
機密保持等
委員企業等
情報処理
高信頼化教訓
ＩＰ
け
障害
例情報共
活動
試行
ン
活用
製品
制御
IT
国民生活や社会
経済基盤
関わ
害情報
を
集
[教訓数]
18
件
[教訓数]
9
件
化
集
情報を
析
策を検討
＜製品
制御
高信頼化部会
＜
要
ン
IT
高信頼化部会
情報処理
高信頼化教訓集
IT
編
製品
制御
編
参画企業等 自動車 株 日産自動車 株 日本電気 株 株 日立製作
菱電機 株 横河電機 株 富士電機 株 矢崎総業 株
ン精機 株
ン コ 株 株 日立産業制御ソ ン 株 富士通コン
オ ンソ ソ ン 株 陸先端科学技術大学院大学 九州大学 岡山県立大学
一社 組込 技術協会 一社 電子情報技術産業協会
参画企業等 株 菱東京UFJ銀行 日本生命保険相互会社 東京海 日動火災保険 株
株 日本取引 プ 東京電力 株
東日本旅客鉄道 株
KDDI 株
株 情報 総研 株 オ ン 日本大学
内 官 情報通信技術総合戦略室 一社 日本情報 協会
製品
制御
編
IT
編
2013
年
：
2014
年
5
13
日公開
http://www.ipa.go.jp/about/press/20140513.html
2014
年
：
2015
年
3
27
日公開
+10
件
+18
件
2014
年
追加
http://www.ipa.go.jp/sec/reports/20150327_1.html
＜特徴＞
業界・分野 超え 活用可能 普遍化
さ
教訓
機密保持 ー
下
詳細情報 提供
受
深い議論
蓄積さ
・ ン
ン
関
知見 活用
…
要
ン
等
ソ
障害情報
析
活動参加者
声
自社
例を
教訓
化
議論
中
気
を得
あ
例紹
鉄
線路を送電線
置
換え
考え
い
例
参考
情報
得
議論
中
気
例
関
自社
IT
担当
点検を指示
試行結果：共
活動
い
活動参加
共
内
開示
非公開
詳細情報
得
害原因
析や
例
教訓化を通
PART
教訓
編
PART
障害対策手法
例
PART
障害
析手法
例
付録
A
障害情報
扱い
情報処理
高信頼化教訓集
IT
サー
編
本体
今回 活動 中 実施
障
害 分析手法・事例 調査結果
障害情報 報告・記録
共通
様式
収集・公開
際
機密保持等
ー
教訓集中 各教訓 実践
必要 手法 整理
情報提供者
情報管理者
IPA
共
部会
教訓利用者
No.
方法
適用局面
義
う者
情報提供者
預
障
害情報
管理
情報管理者
共
情報開示時
情報管理者
共
議論時
共
ン
教訓
公開時
情報管理者
1
情報管理者
個別
ン
等
提供
障害情報
扱う場合
情報提供者
間
機密
保持
適用
情報提供者
間
加
情
報
共
適用
情報管理者
間
機密
保持
適用
情報提供者
間
公開
情報
加
適用
2
共
ン
障害情報
内
直接開示
場合
適用
適用
共
ン
間
機密保持
適
用
情報提供者
間
公開
情報
加
適用
情報
流
(
注
)
ここ
情報管理者を
IPA
共
プを
IPA
内
設置さ
た部会
説明
た
共
プ
運用を情報管理者
行うこ
を前提
い
情報管理者
共
プ
ン
もあ
こ
本
適用先
応
適
組織
会議体
置
換え
こ
活用
例
教訓集
ン
技術領域
活用
教訓
方法
析手法
対策手法
提供
支援
教訓
自組織
ン
を比較
照合
自社
を点検
適用可能
教訓
い
確認
策を実施
⇒
然防
自組織
運用
等
見直
整備
(
若手
)
教育
然防
向け
運用
等見直
害
例
学ぶＩＴ人材教育
各産業
け
共
活動
各社
組
社間
情報共
電子
掲示板等
SEC
支援
障害
例
析
基
く
教訓
提供
教訓
活用方法
類
提供
各々
業界
け
教訓
く
提供
各々
業界
け
共
活動
支援
電子掲示板等
提供
講師
派遣
教訓
共
幅広い産業
け
自
的
活動
進
今
：障害
例情報共
活動
普及
進
全
文
化
の
醸
成
業界
内
情報共
業界
内
情報共
業界
内
情報共
業界
内
情報共
業界
内
情報共
業界
内
情報共
企業
a1
企業
a2
企業
a3
企業
a4
企業
a5
企業
a6
企業
b2
企業
b1
企業
d1
業界
情報共
企業
d2
企業
d3
企業
e3
企業
e2
企業
e1
企業
c1
企業
c2
企業
f1
企業
f4
企業
f3
企業
f2
企業
f5
応用
関
情報共
地域団体
情報共
教訓
企業
g1
企業
h1
目指
社会
向
1.
障害事例情報共有 背景
2.
取組
成果概要
3.
障害事例 分析 基 く教訓 説明
4.
障害事例情報 活用
信頼性向上
4.1
障害事例
教訓 導く方法
4.2
各組織 教訓 活用
方法
要 求 定 義
ー キ チ ャ 設 計
ソ フ ー キ チ ャ 設 計
ソ フ ー キ チ ャ 設 計 変 更 設 計
実 装 コ ー ン
ビ ュ ー
教 育
プ マ ネ ン
運 用
No
教訓
1
複雑
条件式
変更を行う場合
ン
等
検証
効
あ
○
○
2
条件
整理
い
い状態
条件数
100
を超え
う
機能
10
個
条件を
機能を
場合
関連
条件を全
洗い出
整理
整合
い
を
確認
○
○
3
複数機能
を統合
場合
統合前
条件数
総和
統合後
条件数を比較
差
あ
場合
条件
抜け
い
確認
○
○
4
変数値域
広く
組合
ン
非常
多く
場合
値域を適
大
割
境界値
を実施
○
5
内蔵電池を使用
場合
深
電時
起動
ン
を考慮
○
○
○
○
○
6
を使用
場合
書
込
命回数を考慮
○
○
○
○
7
消費電力
多い機能を追加
場合
一時的
電圧降
影響
等
や電源
種類
電池
場合
を考慮
○
8
想定可能
例外を形式的
漏
く
析
○
○
9
を
化
場合
同期
領域を適
設定
○
10
制御
象
同一
運用条件
変わ
様を再確認
○
○
○
○
11
間
間
を共
引
渡
場合
排
同期処理
く行わ
い
あ
い
発生
い
い
う
注意
○
○
○
12
歩留
あ
製品
良品
良品を検査
装置
全
良品あ
い
良品
検査
結果
異常
断
あ
○
○
13
既存ソ
性能改善を実施
ン
発生
処理
同期
発
生等
影響を確認
○
○
○
○
○
14
大
を通信経
扱う場合
一連
処理
流
中
を作
い
う
注意
時間帯
負荷変動
い
考慮
○
○
○
○
複雑
条件式
変更を行う場合
ン
等
検証
効
あ
歩留
あ
製品
良
品
良品を検査
装置
全
良品
あ
い
良品
検査結果
異常
断
あ
消費電力
多い機
能を追加
場合
一時的
電
圧降
影響
等
や電源
種類
電池
場合
を考慮
教訓一覧
製品
制御
(2/2)
要 求 定 義
ー キ チ ャ 設 計
ソ フ ー キ チ ャ 設 計
ソ フ ー キ チ ャ 設 計 変 更 設 計
実 装 コ ー ン
ビ ュ ー
教 育
プ マ ネ ン
運 用
No 教訓
15
納入
あ
客様
運用
う
業務
業務
ン
中
あ
ゆ
異常操
作
電源断
置
含
応を考え
○
○
16
害解析時
保
ン
用
処理
あ
様書を作成
影響評価を実施
○
17
断処理
必要条件
け
く
制限
条件
漏
く抽出
○
18
断
化
注意
○
19
人
変更作業
起
を前提
活用
合
作
込
や流出
防
心
け
○
○
○
20
信頼性向
施策を採
場合
故
発生確率
影響
定
評価を行い
策
確実
実装
○
○
○
○
21
高い信頼性
策
求
大
影響を及ぼ
象
想定
復
手
を十
検討
○
○
22
処理時間
を活用
変数や
う
状態数
状況
け
動作処理
最大
を意識
余裕を把握
設計
○
○
○
○
○
23
開発を伴わ
い保
案件
構成変更
発生
場合
手
等作業内容
妥当性
を確認
う
を経
○
○
○
○
24
物理
時間
を扱う場合
単
桁数を確認
○
○
○
25
顧客
要求
い
目的
背
意
を確認
要求
様
あい
い
排除
役立
○
○
26
隔地等物理的
装置を
ワ
接
稼働
故
状態
検知や
ン
ン
容易
い
的視点
状態把握を行う
○
○
○
27
ベン
様
外
想定外
象
発生
を前提
自己防衛策
を採
○
○
○
28
ベ
等
COTS
製品
ン
動作
様
相
等
情報
関係者
参照
う
ン
ン
領域
教訓
黄色
度
追加
たも
教訓一覧
IT
サ
(1/2)
No.
教訓ＩＤ
教訓概要
1
Ｇ
開発
情
部門
け
仕事
各事業部門
自
こ
捉え
態
勢
く
こ
大
2
Ｇ
発注者
要件定義
任
持
構築
わ
べ
3
Ｇ
運用部門
上流工程
企画
要件定義
開発部門
連携
進
べ
4
Ｇ
運用者
少
気
事象
放置
共有
こ
追求
べ
5
Ｇ
サ
ビ
拡大期
業
処理量
い
特
入念
予測
実施
べ
6
Ｇ
作業
逸脱
個人
問題
く
組織
問題！
7
Ｇ
ク
事業者
利用者
連携
統制
対応体制
整備
べ
8
Ｇ
共同利用
非常時対応
含
利用者間
情報共有
こ
技術領域
教訓
黄色
度
追加
たも
No.
教訓ＩＤ
教訓概要
10
Ｔ
サ
ビ
優先
い
疑わ
構成要素
積極的
離
ソ
考え方
11
Ｔ
蟻
目
け
く
全体
瞰
鳥
目
総合的
対策
行うべ
12
Ｔ
現場
く知
現場
知識
集約
現場
動
ュ
う
べ
13
Ｔ
全体
影響
変化点
明確
そ
管理
策定
14
Ｔ
サ
ビ
視点
変更管理
仕組み作
品質管理
任
明確化
！
15
Ｔ
環境
本番環境
差異
体系的
整理
障害
ク対策
練
16
Ｔ
ックアッ
替え
失敗
場合
考慮
べ
17
Ｔ
仮想サ
ソ
管理
性能監視
運用要件
要
あ
18
Ｔ
検証
万全？そ
障害
起こ
回避策
準備
くこ
19
Ｔ
ッ
ュ構成
範
可用性
確保
障害
波及
ク
ン
案
決定
20
Ｔ
サイ
ン
障害
検知
適
サ
ビ
監視
重要
21
Ｔ
新製品
旧製品
同一仕様
言わ
必
差異
確認！
22
Ｔ
利用者
観点
立
業
オ
則
ビュ
重要
23
Ｔ
Ｗｅｂペ
更新時
応答速度
変化等
性能面
チ
ック
忘
24
Ｔ
緊急時こそ
タ
一
性
確保
う注意
べ
25
Ｔ
構成機器
正
ッチ情報
収集
頻繁
行い
緊急性
応
計画的
対応
べ
26
Ｔ
長時間連
運転
不安定動作発生
回避
定期的
再起動
有効！
27
Ｔ
新
サ
老朽化
既存
連携
場合
両者
仕様整合性
十
確
認
べ
問題
：障害事例 内容
原因
：問題 引 起
要因
分析結果
対策
：問題 原因 取 除 再発
防止
方法
効果
：対策 実施
見
／期待さ
効果
教訓
：得
教訓 内容説明・
補足
[
教訓ＩＤ
]
教訓概要
(
)
類似
障害
起
い
あ
実施
く
対策
い
各教訓
構成
◆
ン
ン
領 域
文献
G1
G2
G3
G4
G5
G6
G7
G8
G9
ン
ン
領 域
1
企業
ベン
企業
連携
合意形成
1
企業
要求品質
確保
文献
○
2
機能要件
合意形成
文献
○
2
企業内
事業部門
情
部門
連携
○
○
3
1
性能要件
合意形成
○
2
障害時発生時
合意形成
○
4
ン
利用企業
連携
合意形成
文献x
○
○
5
障害管理
取組
文献x
○
○
○
○
6
プ
改善
文献x
○
○
○
○
7
ン
○
○
共
ン
利用
け
企業
連携
合意形成
教 訓 番 号
障
害
対
策
参照
SEC BOOKS
等⇒
関連
策を含
体系的
理解
効
◆ 技 術 領 域
文献 T1 T2 T3 T4 T5 T6 T7 T8 T9 T10 T11 T12 T13 T14 T15 T16 T17 T18 技 術 領 域
1 管理
1製品 ISO
文献x ○
2文書 び
文献 ○ ○ ○
2 見え 手法
1暗黙知 整備 効活用 文献 ○
2俯瞰図 文献 ○
3要求獲得手法 文献 ○ ○
4変更管理
1共通 文献 ○ ○ ○ ○ ○
2JIS Q20000-1
ン
文献 ○ ○ ○ ○ ○
5 ソ ○
6 技法
1 環境 管理 ○ ○
2 ン手法 ○
3 網羅性 高度 技法 文献x ○ ○
7可用性管理
1 冗長 設計 ○ ○ ○ ○ ○ ○
2 ン ン 洗出 ○ ○
3障害運用 整備 訓練
○ ○ ○
4可用性 注意点： ッ 構成
○
8非機能要求 文献 ○ ○ ○ ○ ○
9仮想 技術 文献x ○
10 手法 文献x ○ ○
11 ン 障害対策 ○
12 ッ 管理 文献x ○ ○
13高回復力 基盤導入 文献x ○ ○
教 訓 番 号 障
害 対 策 手 法 参 考 文 献
1.
障害事例情報共有 背景
2.
取組
成果概要
3.
障害事例 分析 基 く教訓 説明
4.
障害事例情報 活用
信頼性向上
4.1
障害事例
教訓 導く方法
4.2
各組織 教訓 活用
方法
害
発生
原因
解析
応急
策
原因
析
再発防
策
教訓
社内
展開
段
の
活
動
当
者
者
情報
解析
自社
確認
(
策
)
害
発生
情報
開示
原因
析
再発防
策
教訓
共
情報開示
情報開示
参
加
者
情報
解析
自社
確認
(
策
)
適時
ン
教訓
公開
応
教訓化
(
臨時
)
点検
(
定期
)
点検
各
者
各社内
各社内
共
所
障害発生時
一般的対応
点検や対応 範囲や観点
…自
サ
段階
異
開発前：類似障害 発生
い う 方式 採用・対策 実
施 ，
含 開発計画 盛 込
運用中：類似障害 発生
要因 有無確認，発生時
影響 見積
•
障害 原因
，点検や対応 重点，実施部門 異
•
障害 発生
応用分野
，自
同 分野 あ
慎重
等，点検や対応
ゼ心構えナ 異
？
臨時点検
所
害発生
情報入手
自
関連性
断
臨時
点検
社内 開発・運用標準 規定さ
，自
サ
特定 段階 ，自
評価
例：
ッ
個々 教訓 関
確認 観点
自
類似 障害 起
い ？
類似障害 発生防止
あ
実施
く
対
策
い ？
万一類似障害 発生
場合 影響
程度 ？
類似障害発生時 影響範囲 小さく
対策 あ
？
定期点検
教訓
一般的活用方法
例
根
原因
対策
対策
対策
対策
普
化
識者
専門家
機論
高
抽
象
ベ
共
各
展開
コン
コン
コン
コン
各組織 の活用時，
システマティック 取組み
：
教訓 共 提供さ
コンテキスト
自身のコンテキスト を比較・照合し，
適用可能 教訓 つい ，具体的対策を検討
一般化
抽象化
教訓
共通コン
★：
質
★
★
★
★
★
想像力
要
暗黙知
形式知
社会智
教訓
作成
活用
流
析力
抽象力
サブベンダ
ア
トソーサ
元請けベンダ
システム子会社
システム開発担当
部門長
関連会社
システム推進担当
業務推進担当
部門長
担当役員
社長
部署等／
役割
ロール
サブベンダ
ア
トソーサ
元請けベンダ
ベンダ
システム子会社
システム開発担当
部門長
情報
システム
部門
関連会社
システム推進担当
業務推進担当
部門長
業務部門
担当役員
社長
経営層
部署等／
役割
ロール
社内教育
＜出
縦軸
SEC BOOKS
経営者
参画
要求
品質
確保
～
超
流
攻
IT
化
こ
～
，
p.37
3.2
１
項
p.41
4.1
組織
体制
整備
調
時
指示
ﾚﾋﾞｭｰ
試験
目
調
時
確認
運用
手
整備
開発
手
整備
教訓
最終的
適用先
例
発
生時
原因
推定
類似
例
組織
安全文化
を醸成
開発標準
映
例
社内
策定
い
実施基準
中
振
返
を規定
い
発生
例を
析
観点
盛
込
を行
い
1.
障害事例情報共有 背景
2.
取組
成果概要
3.
障害事例 分析 基 く教訓 説明
4.
障害事例情報 活用
信頼性向上
4.1
障害事例
教訓 導く方法
4.2
各組織 教訓 活用
方法
障害内容
(
根
)
原因
再発防
策
教訓
(
形式知
)
教訓
(
社会智
)
析
遍化
一般化ヷ抽象化
分析 中心
(
暗黙知
)
障害
例
教訓化
程
教訓
コン
★
質
一般化
Generalization
□
広辞苑第五
：特
的
を捨
共通
を
一般的
概念
法則
を作
化
概括
□
省堂大辞林
：あ
一部
物
い
成
立
い
全体
い
成
立
う
論を
化
抽象
化
Abstraction
□
広辞苑第五
：
物
表象
或
側面
性質を抽
(
)
把握
心的
作用
一般概念
多数
物
表象間
共通
側面
性質
を抽象
構成
□
省堂大辞林
：
物や表象を
あ
性質
共通性
質
着目
を抽
出
把握
化
Universalization
□
広辞苑第五
：
一般化
同
□
省堂大辞林
：個
的
特
を捨
共通
を
出
概念
や法則
を引
出
→多
応用
適用可能
う
→具体的
モノヷコト
共通
性質を表
モノヷコト
表現
直
位概念
位概念
表現
直
現状
，必
十
い
い
，．．．
教訓
＜抽象的
表現
例
部
変更
伴う新旧混在
時
非変更部
整合性
確認
＜
体的
表現
例
変化
対応
定義
中
定数
ッ
問題 障害事例
20xx
年
m
月
dd
日，あ 鉄道会社
，列車運行 管理
う ，
基
各駅 信号機 自動制御
自動進路制御装置
(PRC)
保
守時 異常 発生．
後 ッ
ッ 系統
切替え 失敗
装置 停止．管轄
3
路線 鉄道
2
時間以上運行
く
，
385
本 運休，約
11.1
万人 影響．
教訓化
例
説明
例を用い
説明
1.
障害事例情報共有 背景
2.
取組
成果概要
3.
障害事例 分析 基 く教訓 説明
4.
障害事例情報 活用
信頼性向上
4.1
障害事例
教訓 導く方法
4.2
各組織 教訓 活用
方法
教訓
活用
程
教訓
コン
★
質
対策
自
/
組織
コン
施策
整合
適
用
Yes
体化
比較
★
•
開発開始時
•
開発中
節目
時等
•
運用開始時
•
運用中
節目
定期点検時等
•
発生時
•
開発
/
運用標準
規定類
•
組織
体制
防護壁
故
危険因子
穴
<
参考例
> http://rikanet2.jst.go.jp/contents/cp0300/manual/extra/ex_29.html
安全文化：
(1/2)
•
面
空間
障害
不
合
/
要因
設計
試験
運用
教訓
穴をふ
多様
観点
広範
例
信頼性向
対策
全体
教
訓
再
発
防
策
障害事例 基 く対策 部分的
→
体系的 対策 重要
体系的
対策
向け
類
教訓
関連
類を参照
全体
信頼性向
方法を理解
既存
類
十
あ
精緻化を
開発
運用等
標準
規定類
組織
体制等
* FP
発生
合密度：
ン
ン
ン
機能規模
当
発生
合
数
品質保証体制 専門
ッ
い
方 ，
う
い
比 ，
信頼性 高い
4.8
12.2
約
2.5
倍
N=63 (37+26)
出
：
ソ
開発
白書
2014-2015 (IPA/SEC)
←
信
頼
性
→
高
優
品質保証体制
組織
ッ
組
効果
統計
例
教訓活用
例
説明
例を用い
説明
教訓
＜抽象的
表現
例
部
変更
伴う新旧混在
時
非変更部
整合性
確認
＜
体的
表現
例
変化
対応
定義
中
定数
ッ
…
1.
障害事例情報共有 背景
2.
取組
成果概要
3.
障害事例 分析 基 く教訓 説明
4.
障害事例情報 活用
信頼性向上
4.1
障害事例
教訓 導く方法
4.2
各組織 教訓 活用
方法
暗黙知
形式知
社会智
期待
ベ
ン
1
．各社内
取組
障害事例情報 収集・蓄積
．
再発防止策
，共有
．
2
．
ー 企業や業界
取組
社内
取組
関係者 拡
．
3
．社会 ベ
取組
0.0%
82.9%
2.6%
2.6%
11.8%
障 害 事 例情報を公開
企業
対
う
思
わ
？
回答者
76
．障害 発生さ
い
信
頼
い
．積極的 情報公開
公開
い企業 比
信頼
．特 何
思わ い
．
他
無回答
＜
ン
回答者
計
76
ET2013 2013
年
11
ソ
ン
2014
年
2
い
た
Ｉ
風評
及
影響
(1/2)
※
(
出
)
～予期
影響～，
ンサ
, 2014
年
1
度
中断
企業評価
ン
価値
最大
を
え
3
ベ
(
軽度
中度
度
)
中断
総
い
回答者
100
ン
を
6
配
う
依頼
※
(
出
)
～予期
影響～，
ンサ
, 2014
年
Ｉ
風評
及
影響
(2/2)
3
去
2
間
一般的
威
企業評価
ン
価値
損害を被
企業
割合
出
: IT
企業評価
経済的影響
:
企業
業
IT
真
意味
(2013
9
)
2 6
一般的
威
去
2
間
中
断
均数
Therac-25
放射線過剰被爆事故
1985
～
87
年
A320
墜落事故
1988
～
93
年
名古屋空港 中華航空機 着陸 失敗炎上
1994
年
携帯情報端末 発熱－実
不具合
2009
年
電子
不具合
2010
年
新幹線運行管理
障害
2008
年
，
2011
年
銀行 ン
ン
障害
2011
年
株式売買
障害
2012
年
ン
サー ー
ー 消失
2012
年
人身
故
経済
故
去
の
故
例
ソ
フ
起
因
害
発生
場合
社会
及ぼ
影響範
大
深刻度
増大
人
性：
自
け
大丈夫
思う
…
常化
偏見
※
※
(
出
)
人
自
大丈夫
思う
，防災研究家
田群馬大学教授
聞く，
ITpro 2007/04/11
http://itpro.nikkeibp.co.jp/article/Interview/20070409/267753/
→ 確
大丈夫，
いう確認
必要
<
出
>
岡
次郎
鶴
舞
小路泰広：
要
ン
間
相互依存構造
化
地震被害波及
ン
国総研資料
第
510
号
国土
術
策総合研究所
国総研
成
21
2
P73
http://www.nilim.go.jp/lab/bcg/siryou/tnn/tnn0510.htm
相互依存
例
災害時
要
ン
間
相互依
重要 ン
相互 依存 ，
間
ネッ ワー 連
携
複雑化
あ
IT
サ
/
製品機器
，
IT
サ
/
製品機器
依
こ
あ
IT
中
，製品機器
含
こ
あ
系
情報処理
/
制御
交通系
情報処理
ン
/
医療機器
金融系
情報処理
制御機器
制御機器
国民生活
社会経済活動
情報通信系
情報処理
/
制御
サ
/
製品機器
障害
，
自サ
/
製品機器
影響
及び得
相互
依存
ン
→
散
→
コン
ュ
ン
自
先輩
う
間違い
犯
い
い
輩
自
う
間違い
犯
い
→
所
障害
目
向け
社会智
ベ
ョン
暗黙知
形式知
知識
形式知
智恵
個
共
組織
社会
現状
現状
現状
個人
目指
こ
企業
目指
こ
人類
目指
こ
当面
ン
見え
化
析
体系的整理
＜参考文献
山
:
社会
ン
ン
活用推進
向け
考察
, SEC journal, No.23.
知
共
関
進化
ソヸシャルヷ
ノベヸション
オ
プ
ン
イ
ノ
ベ
シ
情報処理
高信頼化教訓集
製品
制御
編
2013
度
情報処理
高信頼化教訓集
IT
編
2013
度
http://www.ipa.go.jp/sec/reports/20140513_2.html
http://www.ipa.go.jp/sec/reports/20140513.html
発表
要
ン
支え
障害情報や対策
析
2
種類
教訓
公開
http://www.ipa.go.jp/about/press/20140513.html
情報処理
高信頼化教訓集
製品
制御
編
2014
度
情報処理
高信頼化教訓集
IT
編
2014
度
http://www.ipa.go.jp/sec/reports/20150327_2.html
http://www.ipa.go.jp/sec/reports/20150327_1.html
＜
2013
度
＜
2014
度
例：製品
制御
編
教訓例
１
出典：NISC , 2013 案 つい , 成25 6 27日,P4
