2013-2014 IPA, All Rights Reserved
Information-technology Promotion Agency, Japan
S
oftware Reliability
E
nhancement
C
enter (SEC)
システム障害事例情報
分析
基
く
教訓ヷ対策を共有す
仕組
～智
共有
安心ヷ安全社会を創
～
重要
ンフラセキュリテ
セミナー
2014
年
12
4
日
独立行政法人情報処理推進機構
ＩＰＡ
技術本部
ソフト
高信頼化センター
ＳＥＣ
山下
博之
2
3
背昋
背景ㄮ
ソフト
，そ
自身，複雑化ヷ大規模化
，
システム間連携
，複雑化
一層進展
停
異常動作等
増大
4
Microsoft Windows
成長 足あ
Ｗｉｎ
3.1
(1990)
Ｗｉｎ
NT
(1995)
Ｗｉｎ
95
(1997)
Ｗｉｎ
NT4.0
(1998)
Ｗｉｎ
98
(1999)
Ｗｉｎ
NT5.0
(2000)
Ｗｉｎ
2000
(2001)
Ｗｉｎ
XP
(2002)
0
5
10
15
20
25
30
35
40
45
×
100
万
LOC
（データ出所 EXPLOITING “How to Break Code”
by Greg Hoglund/Gary McGraw)
コー 量 ＬＯ
デヸタ例
増大
ソ
複雑性
情報処理
，製品・
サー
多様
5
<
出
>
岡
次郎
鶴田舞
路泰広
要
ン
間
相互依存構
地震被害波
ョン
国総研資料
第
510
号
国土
術
策総合研究所
国総研
成
21
2
晆
P73
http://www.nilim.go.jp/lab/bcg/siryou/tnn/tnn0510.htm
相互依存
例
災害時
要
ン
間
相互依
重要 ン
相互 依存 ，
間
ネッ ワー 連
携
複雑化
一層進展
6
背昋
背景ㄯ
た
システム障害
発生
た場合，
7
<
出
>
NISC:
要
ン
情報
対策
係
第
次行動計画
IT
害
引
起
威
要因
意
的要因
情報
関連
非意
的要因
害関連
災害等
あ
注目
デヸタ例
8
<
出
>
日常
い
いう時
役立
ITmedia 2013.3.28
http://www.itmedia.co.jp/enterprise/articles/1303/28/news003.html
停
害
3
大原因
害
ン
合わ
4
割超
害
大原因
害
ン
害
挙
ン
回
い
報告あ
個々
業者等
単独
対策
大規模
複雑
害対応
限界
あ
業種や
超え
連携
必要
デヸタ例
9
大
←
影
響
発生確率
→
大
要
ン
IT
害
攻撃
政危機
水危機
気候変動
失業
完全
用
異常気象
所得格差
生物多様性
損失
生態系崩壊
デヸタ例
<
出
>
Global Risks 2014
Ninth Edition
,
the World Economic Forum
Figure 1.1: The Global Risks Landscape 2014
発生確率
影
響
減
容
い
10
Therac-25
放射線過剰被爆事故
1985
～
87
年
A320
墜落事故
1988
～
93
年
名古屋空港 中華航空機 着陸 失敗炎上
1994
年
携帯情報端末 発熱－実
不具合
2009
年
電子
不具合
2010
年
新幹線運行管理
障害
2008
年
，
2011
年
銀行 ン
ン
障害
2011
年
株式売買
障害
2012
年
ン
サー ー
ー 消失
2012
年
人身
故
経済
故
去
の
故
例
ソ
フ
ト
ア
起
因
害
発生
場合
社会
影響範
拡大
そ
深刻度
増大
デヸタ例
11
背昋
背景
12
0
10
20
30
40
50
60
多大
影響
え
IT
害
発生件数
報
推移
件
・△△
コー 、国内 数十万台
…理由
制御
不具合 発見
いう
・○○システ
障害 、終日
くく
…原因
法律改正直前 駆 込 需要 期末
締 処理
重
想定外
大量入力
性能 耐え
模様
・□□システ
障害、午前中 サービス停止
…原因
本番装置 故障
予備
装置 自動的 切 替わ
う
い
切替え 失敗
いう
社会 大
影響 与え
障害 発生件数
2009
年以降 増加傾向
新聞や
，
幾度
以下
う
ー
世間 賑わ
い ：
類似障害
発生
(
出
) SEC Journal
情報
害状況
デヸタ例
13
処理
増大
環境変
対
対処遅
1.
ほ銀行
害…
.
.
～
3.24
東日
大震災
義援金
付
携帯電話
利用
送金
中
処
理
行う
夜間
件数
限
超え
後対応
さ
あ
長期間
わ
停
態
2.
害…
.
.
一部
保険料金
4
伴い
3
駆込
契約
増え
処理
増大
夜間
想定
時間内
終了
能性大
3. NTT
害…
.8.
,
2011.12.20
ン
急激
普及
通信
質
変
共
増大
設備
容
超え
通信
くい状況
別
害
誘発
4. KDDI
ａｕ
害…
.
.
～
18
ン
送
信等
使用
い状況
断
的
発生
利用
急
増
対応
設備増強
遅
根
原因
報道さ
い
(4/18
日経電子
)
待機系
替え
失敗
日
生
2014.4.7
JR
九州
2013.7.18
KDDI 2013.4.16
東京証券
引所
(2012.2, 2012.8)
富士通
ン
(2012.6)
信
SBI
銀行
2011.9
気象
業
支援
ン
(2009.3) NTT
東日
(2008.11) JR
東日
(2008.9)
デヸタ例
14
背昋
背景ㄱ
情報処理システム
信頼性向上
た
，
15
構築時
→初期
故
回避
運用時
→様々
対応
ン
ン
法
活用
長期間
体系的
組
必要
着目点
デヸタ例
16
初期故
期
偶発故
期
安定期
摩耗故
期
故
率
＜環境変
新
追
法制度改
利用増大
(
)
利用形態変
(
質
)
<
故
率曲線
原
> "Bathtub curve" by en:User:Wyatts - U.S. Army document. Licensed under Public domain via
ン
-
http://commons.wikimedia.org/wiki/File:Bathtub_curve.jpg#mediaviewer/File:Bathtub_curve.jpg
デヸタ例
17
劣
→故
ソ
劣
い
ソ
相対的
劣
使わ
環境
変
方針
組織
人
慣
信
油断
交
術
/
無
利用者増
術
展
網
羅
的
な
前
抽
出
が
困
失敗
学ぶ
冗長構成
教訓
活用
害
例
基
教訓
対策
共晇
要因
デヸタ例
18
障害事例 情報 共有
経験 共有
力
IT
社会 安全・安心
築
情報処理
害
例情報
収
析
得
教訓
対策
整理
体系
教訓
対策
業界
越え
横断的
広く
共
19
他山 石
意味
※
※
(
出
)
文
庁晆報
成
23
10
晆号
(No.517)
http://www.bunka.go.jp/publish/bunkachou_geppou/2011_10/series_08/series_08.html
他人 誤
言行や
い出来事
参考
用い
，
自分 修養 助
失敗
学ぶ
→
類似
害
発生
防
対岸 火事
参考
20
経験豊富
社
社
社
社
参考
21
IT
機能
複雑
高
狭
広
ヸ
範
囲
率
1
社
社会全体
時代
流
高信頼
IT
機能や
複雑
単一
業者
知見
範
囲
相対的
狭く
1
業者
囲わ
経験
情報
幅広
く社会全体
共
害対策
効活用
要
参考
22
背昋
背景ㄲ
個人ヷ組織
経験を出
合い，
23
情
人
意味
※さ
人 対
情
掛
，
巡 巡
自分 良い報い 返
※
1 (
出
)
文
庁晆報
成
24
3
晆号
(No.522)
http://www.bunka.go.jp/publish/bunkachou_geppou/2012_03/series_08/series_08.html
社会間接互恵性
※ざ
あ 個体 利他行動
(
他者 親切
行動
)
行
結
果
個体 評価 高
他者 行
利他行動 回
回
別 他者
返
仕組
※
2 (
出
)
大阪大学大学
人間科学研究科
実証実験成果
2013
8
晆
8
日
http://www.osaka-u.ac.jp/ja/news/ResearchRelease/2013/08/20130808_1
日常生活
困
い
人
見
そ
自
知
い人
あ
助
い衝動
多
場合何
親
行う性質
持
参考
24
あ
IT
/
製品機器
IT
/
製品機器
依
あ
IT
中
製品機器
含
あ
系
情報処理
/
制御
交通系
情報処理
ン
/
療機器
金融系
情報処理
制御機器
制御機器
国民生活
社会経済活動
情報通信系
情報処理
/
制御
/
製品機器
害
自
/
製品機器
影響
及び得
相互
依存
参考
25
社会
人々
思
成熟
い
社会 在
姿
信頼
企業
？
ー ン ー ， ー
ネッ ワー ，
貢献 尊敬・信頼
参考
26
59.2%
25.0%
3.9%
1.3%
0.0%
0.0%
10.5%
害
例情報共
組
い
う
思わ
回答者
76
／，社会
用
あ
成果
自
社
役立
う
０，社会
用
あ
成果
自社
役立
不明
１，社会
用
あ
成果
自社
役立
い
２，社会
用
う
い
３，社会
用
思わ
い
４，
い
無回答
＜
ン
回答者
計
76
ET2013 2013
年
11
ソ
ン
2014
年
2
参考
27
28.6%
58.4%
2.6%
0.0%
10.4%
社 会
うあ
思わ
？
＆ 回 答 者
76
＇
／，基準を設定
そ
以
影響
あ
害
例
基
く教訓
広く社会
共
さ
あ
各当
者
応
い
０，基準以
害
例
基
く教訓
広く社会
共
さ
あ
所定
関
連公的機関
取
い
１，
害
例
基
く教訓
社会
共
さ
必
要
い
２，そ
無回答
＜
ン
回答者
計
76
ET2013 2013
年
11
ソ
ン
2014
年
2
参考
28
0.0%
82.9%
2.6%
2.6%
11.8%
害
例情報を公開
企業
う
思
わ
？＆回答者
76
＇
．障害 発生
い こ
信
頼
い
．積極的 情報公開
こ
公開
い企業 比
信頼
．特 何
思わ い
．
他
無回答
＜
ン
回答者
計
76
ET2013 2013
年
11
ソ
ン
2014
年
2
参考
29
体的
うや
い
本日
主題：
システム障害事例情報
分析
基
く
30
内
容
1. IPA/SEC
概要…省略
参考 参照
2. IPA/SEC
取組
重要 ン
等
障害対策
3.
こ
成果概要
IT
サー
高信頼化ゼ教訓集ナ
障害事例 分析 基
対策・教訓 共有 仕組
4.
ゼ教訓ナ 内容
5.
今後 取組
31
◇重要 ン
分野等
障害
対策
経験 共有
力
IT
社会 安全・安心 築
体的
要
ン
*
等
害
例
析
得
教訓
対策
整理
体系
再発防
策
業界
越え
横断
的
広く
共
組
構築
目指
*
情報通信，金融，航空，鉄道，電力，
，政府・行政サー
，医療，水道，物流，
ッ ，石油，化学
http://www.ipa.go.jp/sec/system/index.html
ㄯ．
IPA/SEC
取組
32
ㄯ．
IPA/SEC
取組
害
基
教訓
共晇
信頼性向
現状
教訓
共晇
製品機器
/
IT
(
社
)
社会
社会
高い安全
安心
製品機器
/IT
提供
製品機器
/
IT
(
社
)
製品機器
/
IT
(
社
)
信
頼
性
信
頼
性
信
頼
性
原因
析
対策検討
対
策
実
施
教
訓
原因
析
対策検討
対
策
実
施
教
訓
原因
析
対策検討
対
策
実
施
教
訓
製品機器
/
IT
(
社
)
製品機器
/
IT
(
社
)
製品機器
/
IT
(
社
)
信
頼
性
信
頼
性
信
頼
性
原因
析
対策検討
一般
抽象
普
体系的整理
教
訓
教
訓
教
訓
対策実施
対策実施
対策実施
害
害
害
害
害
害
要
ン
等
要
ン
等
専門家，有識者のご協力を得て
IPA/SEC
や業界団体等が担う共有活動
教訓
教訓
教訓
機密保持等
類似障害
発生
情報
航空
原子力
金融
33
2014
年
5
13
日公開
＜特徴＞
業界・分野 超え 活用可能 普遍化
教訓
機密保持 ー
下
詳細情報 提供
受
深い議論
蓄積
・ ン
ン
関
知見 活用
http://www.ipa.go.jp/about/press/20140513.html
ㄯ．
IPA/SEC
取組
34
．
成果概要
PART
教訓
編
PART
害対策手法
例
PART
害
析手法
例
付録
A
害情報
扱い
情報処理
高信頼化教訓集
IT
サー
編
本体
今回 活動 中 実施
障
害 分析手法・事例 調査結果
障害情報 報告・記録
共通
様式
収集・公開
際
機密保持等
ー
教訓集中 各教訓 実践
必要 手法 整理
35
教訓番号 教訓
1 複雑 条件式 ッ 変更を行う場合 ン 等 検証 効 あ
○ ○
2
条件 整理さ い い状態 条件数 を超え う 機能 個以 条
件を 機能を 場合 関連 条件を全 洗い出 整理 不整合 いこ を確認 ○ ○
3 複数機能 を統合 場合 統合前 条件数 総和 統合後 条件数を比較 差 あ
場合 条件 抜け い 確認
○ ○
4 変数値域 広く 組合 ン 非常 多く 場合 値域を適 大 さ 割
境界値 を実施
○
5 内蔵電池を使用 場合 深放電時 起動 ン を考慮 こ
○ ○ ○ ○ ○
6 ッ を使用 場合 書 込 命回数を考慮 こ
○ ○ ○ ○
7 消費電力 多い機能を追加 場合 一時的 電圧降 影響＆ ッ 等＇や
電源 種類 電池 場合 残量を考慮 こ ○
8 想定可能 例外を形式的 漏 く 析
○ ○
9 を 重化 場合 期 領域を適 設定
○
10 制御 象 一 運用条件 変わ 様を再確認
○ ○ ○ ○
11
間 ッ 間 を共 ＆引 渡 ＇ 場合 排 期処理 く行わ い
あ い ッ ッ 生 い い う 注意 ○ ○ ○
12 歩留 あ 製品 良品－不良品を検査 装置 全 良品あ い 不良品 検査結果 異常 判断 あ
○ ○
13 既存ソ 性能改善を実施 ン 生 処理 期 生
等 影響を確認
○ ○ ○ ○ ○
14
大量 を通信経由 扱う場合 一連 処理 流 中 ネッ を作 こ い う 注意
時間帯 負荷変動 い 考慮
○ ○ ○ ○
15 納入 あ 客様 運用 う 業務 業務 ン 中 あ ゆ 異常操作＆
ッ 電源断 放置 含 ＇ 応を考え
○ ○
16 害解析時 保守 ン 用 処理 あ 様書を作成 影響評価を実施 こ
○
17 判断処理 必要条件 け く 制限 条件 漏 く抽出
○
18 断片化 注意
○
教 育
ェ ネ
ン 運 用 要
求 定 義
ー
ャ 設 計
ソ
ェ ー
ャ 設 計
ソ
ェ ー
ャ 設 計 変 更 設 計
実 装 コ ー ィ ン
ビ ュ ー
．
成果概要
複雑
条件式
変更
行う場合
ョン
等
検証
晇効
あ
歩留
あ
製品
良
品
良品
検査
装置
全
良品
あ
い
良品
検査結果
異常
断
あ
消費電力
多い機
能
追
場合
一時的
電
降
影響
等
や電源
種類
電池
場合
残
考慮
36
．
成果概要
組織連携
注者責任
要求
設計
製造
試験
運用
1
Ｇ／
開
を情
部門
け
各
業部門
自
こ
捉え
態勢
を
く
こ
大
○
2
Ｇ０
注者
要件定義
責任を持
構築
わ
○
3
Ｔ／
ビ
を優先
い
疑わ
構成要素を積極的
離
＆
ソ
考え 方＇
○
4
Ｔ０
蟻
目
け
く
全体を
瞰
鳥
目
総合的
策を行う
！
○
○
5
Ｔ１
現場を
く知
現場
知識を集約
現場
動
を
う
！
○
○
○
6
Ｔ２
全体
影響
変化点を明確
そ
管理
を策定
！
○
7
Ｔ３
ビ
視点
変更管理
組
作
品質管理責任
明確化を！
○
8
Ｔ４
環境
本番環境
差異を体系的
整理
害
策を練
○
○
○
9
Ｔ５
ッ
ッ
替え
失敗
場合を考慮
○
○
○
○
技術
No
ン
－
ネ
ン
技術
領域
ＩＤ
教訓概要
ン
ネ
ン
各教訓
明
37
問題
：障害事例 内容
原因
：問題 引 起こ
要因
分析結果
対策
：問題 原因 取 除 再発
防止
方法
効果
：対策 実施
見
／期待
効果
教訓
：得
教訓 内容説明・
補足
[
教訓Ｉ
]
教訓概要
(
)
類似
害
起
い
あ
実施
く
対策
い
http://www.ipa.go.jp/about/press/20140513.html
ㄱ．
教訓
内容
38
教訓
G1
：システ 開発を情シス部門 け 仕事
、
各事業部門 自分
し 捉え
態勢 を く
大切
8
割
上流 要件定義局面
コ
ー ョン・
ッ
問題 生
い こ
判明
→
開発
ネ サ
役割 責任 明確化
コ
ー ョン
質 高
態勢
ー ョン・ ー ー制度
ー ョン・ ー ー制度：責任 役割分担
東京海上日動火災株式会社 例
デ
開発
情
部門
任
仕事
自分 考え 商品や施策 具体
化
行う自分自身 仕
事 あ
いう
ー ー ッ
考え方 持
デ事業部門
要件 詳細 固
情
部門 対話 繰
返 責任 持
要件定義
最終責任 負わ
デ事業部門
要件定義
出来
う 受入
実施
責任 負わ
ㄱ．
教訓
内容
39
教訓
G2
：発注者 要件定義 責任を持
システ 構築
わ
し
ン 任
要件定義前 見積 契約
変更
発注者 責任 持 主体的 実施
ン 委任契約 発注
要件定義書 変更 様変更書 作成
契約 見直
発注者 責任 持 主体的 実施
ン 委任契約 発注
改革前
要件定義
システム
設計・開発
改革後
受入れ
テスト
ン 任ン
担当
発注側担当
開発・運用
IT
ン
外部委託
ー
開発案件 増加 伴い任
業務
徐々 拡大
要件定義や受入
等 発注者
役割 果
切
い い
1)
要件定義書 中身 受入
い
責任 発注者
2)
開発
標準 見直
上流 要件定義 押 え
上流工程完璧主義
改 革 前
改 革 後
企 画
企画書作成
要 件 定義
RFP 作成 ※ R F 細
要 件 定義書 作成 ※ 要 件 定義書 細
網 羅 性
要 件 定義
方 式 設計
実 装 実 装
企 画
企画書作成
要件定義書 記述 詳細化 図 記載内 容 網羅性 ッ 徹 底
発注者自 要件定義 設計書 反映 こ
確認 要件定義書 設計書
受 入
ー 上流工程 作成
要 件 定義
要 件 確認書 作成 要 件 定義
RFP 作成 要 件 定義書 作成
方 式 設計 要 件 定義
入 入
要件漏 等 上流工程 起因
品質上 問題 著
減少
透明性 増
組
織同士 継続的 信頼関係 向上
ㄱ．
教訓
内容
40
教訓
T1
：サービス 継続を優先
システ
い
、
疑わし 構成要素を積極的 システ
切 離
“フェー ソフト” 考え方
待機 ﾉｰﾄﾞB
自身 場合
異常 通知 停 ン
現用 ﾉｰﾄﾞA
待機 ﾉｰﾄﾞB
系 場合
停 ン
現用 ﾉｰﾄﾞA
待機 ﾉｰﾄﾞB 自動停 い場合 手動 停
現用 ﾉｰﾄﾞA
業務内容 基 い
毎
ー 作
成
上
ー
考え方 適用
ー
機器 故障
処理
異常等 あ
場合
部位 積
極的 停止
こ
切 離
場合
系全体 放棄
い
考
え方
処理・対応
一方
う 状況下 一部 部位や系
切 離
全体
サー
継続
う
ー
考え方 基 い 設計・運用
いう
機器や
動作
継続 優先
う
予期
障害 場
合 サー
影響
え
大
う場合 あ
サー
継続 優先
積極的 関連
部分
切 離 方 良い場合 多い
あ
ㄱ．
教訓
内容
41
教訓
T2
：蟻 目 け
く、
システ 全体を俯瞰
鳥 目 総合的 対策を行う し！
制御系
下位 あ 制御装置 稼働系 故障 発生
自動的 待機系 切 替わ
こ
切 替わ
上位 監視端末
指示
系切替え 実施
失敗
障害 下位 起
場合 障害 起こ
下位
対策 考え
あ
蟻 目 下位
対策
全体 視点
鳥 目 上
位 対策 活用
こ
安定稼働 保
ㄱ．
教訓
内容
42
教訓
T3
：現場を く知 、現場 知識を集約し、
現場 動 をシ ュ ート
う
し！
A
列車
折返
出
駅を出
わ
制御
信号
出
け
A
列車
B
列車
進路を構成
駅
B
列車
特定 ー
制御信号 正
出力
列車 停止
原因
有識者
ン社員 含
以下 機能確認 行
洗い出
い い機能 存在
機能要件漏
原因
列車 動
動作
総合的
環境
組込
持
制御
列車
動作 全
行え
環境
い い
A
列車
制御信号
出
け
い
B
列車
制御信号
出
原因
い
一度設計
機器 動
列車 運転
ーン 知識 ー
ー
蓄
積
こ
追加登録
い
原因
い
制御系
ー ョン・
開
発 行う
現実 制御装置
分
や
可視化
骨子 見極
化
ン
ㄱ．
教訓
内容
43
教訓
T4
：システ 全体 影響
変化点を明確 し、
そ 管理 ー を策定
！
現
時刻
予測
抑
入力
修
箇所
生
予測
表示
く
実績
箇所
限値を超過
現
時刻
表示項目数
上限値 超え
全画面表示 消え，
ー
混乱
↳
構築当初
決
い 上限値
い
外部仕様変更 伴う見直
未実施
原因 本質
全体 影響
変化点 こ 場合 予測時間 列車運転本数
不明確
原因
予測時間
4H
⇒
24H
変更
際
う
要件変更 あ
わ
修正箇
所数
上限値 増加
全体 機能
要件変更 未実施
原因
列車 本数 年々増加
本来
運転本数 増加 都度 上限値 超え 際
挙動 見直 必要 あ
わ
未実施
制御系
変化点 管理 ー
明確
ー
守 仕組
構築
・
監視・制御
対象 仕様 変化点 網羅
・変化点管理
ー
守 仕組
構築
・変化点管理 使用
管理指標 関係部門 共有
変化点 見落
防止
ㄱ．
教訓
内容
44
害
教訓
T5
：サービス 視点 、
変更管理
仕組 作
品質管理責任
明確化を！
視点
変更管理
品 質 管理責任
整合性
整合性
様整合性
情
部門
様作
成
実施→
業務部門
参
業務部門
情
部門
様作成
実施
顧客 ﾃﾞｰﾀﾍﾞｰｽ
使用料 調整単価
請求予定
本 店 ホスト/サーバ 事 業 所サーバ
請求予定
営業HT
請求書作成
配
信
Ｐ
Ｔ
送
信
Ｐ
Ｔ
・
Ｐ
ホ
ス
ト
Ｐ
営業HT
要件定義
設計
開発
入
本店
／サー
請求 ー
端末 転送 請求書 印刷
い
端末
営業員 持 歩
HT
ン
・ ー
新規 導入
こ
出力
請求書 金額 誤
顧客 渡
い 個別謝罪・
請求書 再発行 追わ
．
新
要件追加
使用方法 変更 あ
今
正常 稼働
い
突如障害
変更 あ
時
全体
整合性
ー
整合性
仕
様 整合性 保
変
更管理 確実 実施
全体 整合性 確
認
人 決
品質管理
責任 明確
開発
ー 毎 検証 実施
ㄱ．
教訓
内容
45
教訓
T6
：テスト環境 本番環境 差異を体系的 整理し、
障害
スク対策を練
本番環境
環境 本番環境
機 能 要 件
AP
異 項目
非 機 能 要 件
HW
異 項目
OS
異 項目
ﾐﾄﾞﾙ ｳ ｱ
異 項目
量 質
異 項目
性能
異 項目
NW
異 項目
環境差異
析
環境 本番環境 環境差異を洗い出
項目 策/コン ン
ン ン
1 2 3 4
環境 検証 出来 い項目を
抜 出 環境 検証
環境 検証 い
策/コン ン ン ンを
作成＆１者 検討＇
環境 検証 い
環境 検証 い
環境 検証 い
環境 検証 い
環境 検証 い
環境 検証 い 環境 検証
環境 検証
環境 検証
環境 検証
環境 検証
環境 検証
大
い
経営
断
者
検討結果
経営
製品
ン
等
共晇
テスト環境
環境 本番環境
相違 あ
環境 う
い
ー
あ
本番環境 障害 発生
環境 本番
環境 差異分析
環境 確認
い項目 機
能 対
関係者
分析
分析結果
基
コン
ン
ン ー
ン
本番環境
ー
共有
大 い
経
営 ッ
判断
ㄱ．
教訓
内容
46
教訓
T7
： ック ップ切替え 失敗
場合を考慮
し
冗長構成 取
い
関わ
ッ
ッ 切替え 失敗
障害
ー
多い 下図 示
失敗原因 あ
配慮
開発・運用 行うこ
過去 発生
障害 類似 障害 発生 防 こ
稼働系
待機系
/
散稼働
現用
予備
電源装置
(
現用
)
電源装置
(
備
)
ワ
(5)
手動切替え失敗
操作
(9)
保守作業
切替え失敗
(7)
待機系
稼働系 同一原因
障害
(11)
電源装置
自動切替え 失敗
ワ
(10)
ネッ ワー
自動切替え 失敗
ョン
OS
等
ョン
OS
等
(8)
切替え後動作不安定
ー 不正
(4)
切替え失敗
切替え
不具合
(1
稼動系
障害未検知
(2)
待機系
障害
構成不備
(3)
待機系
障害
ー ョン不備
(6)
切替え後動作不安定
性能不足
ㄱ．
教訓
内容
47
例
製品
制御
編
教訓例
※
直接
対策
恒久対策
48
1.
多忙時や例外対応時 起こ や い
ー 逸脱
運用 厳格
ー
定
い
わ
，多忙
，あ い ，例外的事象発生時 対応
，
ー
規定
い い簡易 方法 例： ー
強力コ ン
使用
操作
こ
，重大事故
引 起こ 易い．
ン技術者
起こ 得 ．
過信
，油断
， 叱
い
，等々．
2.
停止中
人手
業務手順 規定要
IT-BCP
迅速 顧客対応 必要 業務等
い
，
停止時
，可能 範囲 ，人手等 対応
計画
IT-BCP
あ
策定 ，訓練
こ
重要．
ㄱ．
教訓
内容ㄥ番外ㄦ
49
＜出
田氏
株式会社
調査検討資料
参考
50
＜出
田氏
株式会社
調査検討資料
参考
51
＜出
田氏
株式会社
調査検討資料
参考
52
今後
組
態勢
53
例
根
原因
対策
対策
対策
対策
普
識者
専門家
機論
高
抽
象
レ
ベ
ル
共
各
展開
ン
ン
ン
ン
各組織
活用時，
システ テ ック 取組
：
教訓 共 提供
コンテキスト
自身 コンテキスト を比較・照合し，
適用可能 教訓
い ，具体的対策を検討
一般
抽象
さ
教訓
共通
ン
★
質
★
★
★
★
★
ㄲ．今後
取組
想像力
重要
54
* FP
発生
合密度
ン
ョン
ン
機能規模
当
発生
合
数
品質保証体制 専門
ッ
い
方 ，
う
い
比 ，
信頼性 高い
4.8
12.2
約
2.5
倍
N=63 (37+26)
出
開発
白書
2014-2015 (IPA/SEC)
←
信
頼
性
→
高
優
品質保証体制
組織
組
効果
統計
例
デヸタ例
55
サブベンダ
トソーサ
元請けベンダ
テム子会社
テム開発担当
部門長
関連会社
テム推進担当
業務推進担当
部門長
担当役員
社長
部署等／
役割
ロール
サブベンダ
トソーサ
元請けベンダ
ベンダ
テム子会社
テム開発担当
部門長
情報
テム
部門
関連会社
テム推進担当
業務推進担当
部門長
業務部門
担当役員
社長
経営層
部署等／
役割
ロール
社内教育
誰
う使う
＜出
縦軸
SEC BOOKS
経営者
参画
要求
品質
確保
～
超
流
攻
IT
～
p.37 3.2
項
p.41 4.1
組織
体制
整備
調
時
指示
ﾚﾋﾞｭｰ
試験
目
調
時
確認
運用
手
整備
開発
手
整備
例
基
く
教訓
活用例
発
生時
原因
推定
類似
例
56
教訓
＜抽象的
表現
例
部
変更
伴う新旧混在
時
非変更部
整合性
確認
＜
体的
表現
例
変
対応
定義
中
定数
★
質
説明
交換 部分変更
構成要素
含
，交換前
互換
性 あ
いう仕様
い
，機能や ン
ー
一部異
い
い．特 ，新機能 追加
い こ
あ ．異
技術 用
い
い 場合
，設計思想
異
い こ
あ ．
，機
能 同
，性能等
非機能
特性 異
ー
多い．
，交換
構成要素 ，
他 部分 交換
い部分
整合
い ，様々 視点
確認
必要 あ ．
特 ，性能差 あ 場合，
監視等 行う処理
い
，監視
値
妥当性 入念
ッ
，
ー ン
や 直 必要 あ ．特 ，新 い
構成要素 特性 性能 影響
場合 見逃
い．
共通
ン
参考
57
問題 障害事例
◆概要
2013
年
7
月
18
日，あ 鉄道会社
，列車運行 管理
う ，
基
各駅 信号機 自動制御
自動列車進路制御装置
(PRC)
保守時 異常 発生．
後 ッ
ッ 系統
切替え 失敗
装置 停止．
管轄
3
路線 鉄道
2
時間以上運行
，
385
本 運休，約
11.1
万
人 影響．
◆状況
午前
4
時，装置 部品 今回 要因
部品
別
交換作業
始
，
ー
鳴動 動作停止．
復旧
，機器内
あ 処理系統 う 上記部品交換 行
別
系統
ッ
ッ 系統
起動
う
，起動
．
交換対象 部品 戻
再起動
等 試
，装置 復旧
．
時半頃 予備 装置 使
全体 復旧 取 掛
， 時
54
分
復旧． 時半頃
順次運転 再開．
(
個別
)
ン
<
参考
>
新聞等 報道記事
参考
58
直接
原因
自動列車進路制御装置
(PRC)
，
HDD
使用
い
，
2010
年
SSD
交換
い ． 交換当時 ，
現用・待機両系停止
状態 装置 起動
試験
実施 ，潜在
発見
．
後，
PRC
内部 あ 故障部品 交換
必要 生 ，
現用系
停止
実施
こ
．工場
事前確認
，同 装置
，
HDD
搭載装置
試験 行い，
SDD
搭載装置
．こ
う 状況 ，
現場 実際 交換作業
い ，
PRC
現用系停止状態 待機系 起動
．
装置 仕様上，初期起動時 ，
CPU
上
OS
ッ 要求 行い，
完了
監視
値
=200ms
待 ．
HDD
場合
1ms
完
了
，今回 装置 搭載
い
SSD
300ms
必要 あ
．
，
検出
OS
異常 判断
停止要求
行い，
SSD
不正コ ン
受 付
，外部
コ ン
拒
否
ー
移行．
今回 対処
OS
監視
値
200ms
360ms
変更．
<
(1)
参考
>
日経
，
2013.8.9.
(2)
日経コン
ー ，
2013.9.10.
(
個別
)
ン
参考
59
教訓活用時 コンテキスト
(1)
比較的大規模
い ，
構築あ い 更改 段階的
行う場合，版や性能等 異
構成要素 混在
こ
ー
(2)
比較的長期間使用
い
い ，あ い 技術進展 激 い分
野
い ，一部 部品 当時 最新
or
通常出回
い
交換
ー
対策 例
◆コン ーネン ・
・
起こ
い：特
ン
ン 時
， ー 担当 制御
担
当
コ
ー ョン 徹底 気
会議，文書 工夫等
・
逃
い
：試験時 思い込
ゼ互換性ナ
過信 排除 第三者 関
与等 ．標準規格 規定事項
/
規定外事項 明確化
◆
・
・
起こ
い：変化点 捉え ，俯瞰的
系統的 設計
ー
・
逃
い
：試験時
，本番環境
相違点 関
評価
共通
ン
参考
60
教訓 活用 例
(1)
比較的大規模
い ，
構築あ い 更改 段階的
行う場合，版や性能等 異
構成要素 混在
こ
ー
多数 サー
端末装置
成
い ，当初 全体 一括 構
築
，端末 更改 ，毎年一部
順 行う う 場合，新規端末 性
能 当初端末
高い場合
，サー
通信
応答待
値等
ー ン
直 必要 あ
う ，検討
．
(2)
比較的長期間使用
い
い ，あ い 技術進展 激 い分
野
い ，一部 部品 当時 最新
or
通常出回
い
交換
ー
装置内
増量
大容量 ッ
交換
際，大容量
前
時間 若干長い仕様
い 場合，
CPU
や
DMA
整合性 確認
．
(
個別
)
ン
参考
61
各
業界
団体等
IPA/SEC
地域団体
応用
等
参
者
業界内
会員
)
企業
目的
害
例情報
関
析
対策等
共晇
参
者
多様
業界
企業等
目的
害
例情報
関
析
対策等
共晇
例紹
一部
業界横断的視点
ン
教訓集
例
各業界向
(
各業界団体等内
開
)
教訓集
全業界向
一般
開
必要
応
込
例群
例群
教訓
明
業界
教訓等
共晇
相互
参照
う
組
開
教訓集
等
業界
超え
活用
う昊
目指す社会
向け
ㄲ．今後
取組
62
ㄲ．今後
取組
業界
内
情報共晇
業界
内
情報共晇
業界
内
情報共晇
業界
内
情報共晇
業界
内
情報共晇
業界
内
情報共晇
企業
a1
企業
a2
企業
a3
企業
a4
企業
a5
企業
a6
企業
b2
企業
b1
企業
d1
業界
情報共晇
企業
d2
企業
d3
企業
e3
企業
e2
企業
e1
企業
c1
企業
c2
企業
f1
企業
f4
企業
f3
企業
f2
企業
f5
応用
関
情報共晇
地域団体
情報共晇
教訓
企業
g1
企業
h1
目指す社会
向け
63
自社
例
教訓
議論
中
気
得
あ
例紹
鉄
線路
送電線
置
換え
考え
い
例
中
参考
あ
例
あ
回
害
関連
情報
特
国製
利用
留意点
知
い
活用
拡
あ
中
あ
例
多
い
害
情報
共晇
あ
い
回
自身
害
教訓
停
時
手動
業務
や
方
決
昊段
訓練
必要
あ
いう
ㄳ．
ㄥ
代え
ㄦ
64
ㄳ．
ㄥ
代え
ㄦ
失敗
学ぶ，システム
信頼性向上
た
，
経験
共有
理解
協力をお願い
す
願い
情報処理
高信頼
教訓集
2013
度
IT
編
製品
制御
編
http://www.ipa.go.jp/sec/reports/20140513_2.html
http://www.ipa.go.jp/sec/reports/20140513.html
一般財団法人関西情報センター
(KIIS)
による
65
http://www.ipa.go.jp/sec/index.html
清聴，あ
う
い
た
ンケート
協力を
66
Windows Server 2003
終了
伴う注意喚起
Windows Server 2003
2015 7
晆
15
日
終了
終了後
修
提供
弱性
悪用
攻撃
成
能性
高
い
OS
移行検討
OS
移行
伴う周辺
影響調査や改修等
い
計画的
迅
対応
願い
会社
業
悪影響
被害
能性
あ
IPA win2003
検索
■
WindowsXP
利用
い
方
い
OS
移行検討
願い
弱性
未解決
弱性
悪用
攻撃
改
要
情報
漏えい
攻撃
悪用
業務
停
破壊
消去
67
国家試験
ｉ ス
検
索
i
IT
さ
社会
働く
社会人
備え
く
IT
関
基礎知識
証明
国
家試験
公式
峰
亜衣
日本
元気
68
IPA
ソ
高信頼化
ン
(SEC)
Software Reliability Enhancement Center , Information-technology Promotion Agency , Japan
IPA/SEC
業内容や
動画を
Check
！
●SEC事業紹介
http://www.ipa.go.jp/sec/about/index.html
●SECセ ン ン
http://sec.ipa.go.jp/seminar/ondemand/
IPA/SEC
最新情報を
Catch
！
https://
