南海トラフ・首都直下地震にそなえる、
クラウド・データレイクで実現する
防災情報サービスプラットフォームとは
国立研究開発法人 防災科学技術研究所
レジリエント防災・減災研究推進センター 主幹研究員
鈴木 進吾 博士(情報学)
株式会社アクアシステムズ
執行役員 技術部長
川上 明久 氏
日本オラクル株式会社
クラウドプラットフォーム戦略統括 Senior Business Development Manager
谷川 信朗
Oracle Innovation Summit Tokyo 2018
Copyright © 2018, Oracle and/or its affiliates. All rights reserved. |
•
以下の事項は、弊社の一般的な製品の方向性に関する概要を説明するもの
です。また、情報提供を唯一の目的とするものであり、いかなる契約にも組み込
むことはできません。以下の事項は、マテリアルやコード、機能を提供することをコ
ミットメント(確約)するものではないため、購買決定を行う際の判断材料に
なさらないで下さい。オラクル製品に関して記載されている機能の開発、リリース
および時期については、弊社の裁量により決定されます。
2 OracleとJavaは、Oracle Corporation 及びその子会社、関連会社の米国及びその他の国における登録商標です。 文中の社名、商品名等は各社の商標または登録商標である場合があります。Data Driven
“これまでハードウェアは資産として扱われていたが、
データは同じように資産として考えられていなかった。
今、ハードウェア(環境)はリアルタイムに購入するサービス(クラウド)となり、
永続的に扱われる資産は「データ」である。
”
– Erik Brynjolfsson, Director, MIT Initiative on the Digital Economy
3
Copyright © 2018, Oracle and/or its affiliates. All rights reserved. Copyright © 2018, Oracle and/or its affiliates. All rights reserved. 4
今、組織が直面している「データ」
NEW EXTERNAL
Data
HISTORICAL
Data
CURRENT
Data
データ基盤アーキテクチャの変遷
DATABASE & DWH
Structured Data
Relational Database
依然として重要
ただし
これだけでは不充分
BIG DATA
MODERN
Multi-structured data
Hadoop
オープンでより高度
ただし
複雑で運用コスト増
Any Data, Streaming
Cloud
現在取るべき
基盤のカタチ
Copyright © 2018, Oracle and/or its affiliates. All rights reserved. Copyright © 2018, Oracle and/or its affiliates. All rights reserved.
データ基盤アーキテクチャの検討に必要となる考え方
6 Public Streaming Enterprise Integrate Analyze Data Providers Manage Data Services Decision Makers Enterprise Apps Data ConsumersInfrastructure
データ基盤アーキテクチャに必要な構成要素
Stream Batch Database Data Warehouse NoSQL DB Spatial & Graph DB Visualization Data ScienceTools
Query (Unified)
Object Storage Hadoop Spark Cluster
Data Integration
Analytics
Copyright © 2018, Oracle and/or its affiliates. All rights reserved.
市場の評価
Magic Quadrant for Data Management Solutions for Analytics, 2018
Oracleは「リーダー」クアドラント
の位置付け
本マジック・クアドラントは、ガートナーが発行したリサーチノートの一部であり、 評価するにはレポート全体をご覧いただく必要があります。ガートナーのレポー トは、リクエストにより日本オラクルよりご提供することが可能です。 ガートナーは、ガートナー・リサーチの発行物に掲載された特定のベンダー、製 品またはサービスを推奨するものではありません。また、最高の評価を得たベン ダーのみを選択するようテクノロジの利用者に助言するものではありません。 ガートナー・リサーチの発行物は、ガートナー・リサーチの見解を表したものであ り、事実を表現したものではありません。ガートナーは、明示または黙示を問わ ず、本リサーチの商品性や特定目的への適合性を含め、一切の保証を行うもの ではありません。Source:Gartner, Magic Quadrant for Data Management Solutions for Analytics, 13 February 2018 Adam M. Ronthal, Roxane Edjlali, Rick Greenwald,
Analyticsを見据えた Data Lake Platform の実現
Data Drivenに必要となる Data Management 基盤
DATA LAKE 層(Big Data Cloud)
開発 業務部門
IT アナリスト
コンピュート ストレージ ネットワーク 認証
ANALYTICS 層(Analytics Cloud)
地理空間 & ネットワーク分析
Spatial, Graph
機械学習
R , R for Hadoop , Spark ML
検索 推奨 予測 機械学習 モバイル自然言語 パーソナライズ ソーシャル センサー パーソナル SaaS モバイル エンタープライズ 蓄積 & 実行 RDBMS , Hadoop , NoSQL カタログ Data Catalog 探索
Elastic Search, SparkSQL
データベース統合
Connectors, Big Data SQL
Data Integration 層 (Data Integration Cloud)
バルク/バッチデータ処理
ストリームデータ処理
1010101001111010110011010 1010101010101010010101010 1010101010111001010100011
Copyright © 2018, Oracle and/or its affiliates. All rights reserved.
Cloud Data Management & Analytics Platform
SQL
Spatial Graph Non-Relational Based
Services
Small Start & Elastic Hadoop Platform
PGX ORAAH RDBMS Based Services
Hi-Performance & Capacity Hadoop Platform Data Hub Cloud Service NoSQL Cloud Service Event Hub Cloud Service Big Data Cloud Service Compute Edition
Spatial and Graph on DBCS Spatial Graph ML Machine Learning on DBCS Big Data SQL Cloud Service
Spatial and Graph on BDCS
Parallel Graph / R for Hadop on BDCS Big Data Cloud Service Big Data Appliance
Oracle Cloud
(PaaS Services)
On-Premise
Big Data Cloud at Customer Data Integration Platform Cloud Service Data Integration Services Analytics ServicesCloud Data Management & Analytics Platform
SQL
Spatial Graph Non-Relational Based
Services
Small Start & Elastic Hadoop Platform
PGX ORAAH RDBMS Based Services
Hi-Performance & Capacity Hadoop Platform Data Hub Cloud Service NoSQL Cloud Service Event Hub Cloud Service Big Data Cloud Service Compute Edition
Spatial and Graph on DBCS Spatial Graph ML Machine Learning on DBCS Big Data SQL Cloud Service
Spatial and Graph on BDCS
Parallel Graph / R for Hadop on BDCS Big Data Cloud Service Big Data Appliance
Oracle Cloud
(PaaS Services)
On-Premise
Big Data Cloud at Customer Data Integration Platform Cloud Service Data Integration Services Analytics ServicesAnalytics Cloud Service
Apache Cassandra ベースの KeyValueDB Oracle NoSQL のクラウド サービス Apache Kafka のマネージド サービス Oracle提供の スケーラブル Hadoop環境 を提供 3D/空間DBやグラフ DB、各種解析関数を 包括的に提供する サービス 機械学習やR、並列 グラフ処理など、様々 なBig Data 解析機能 を提供するサービス DBCSとBigDataCS にSQLで統合アク セス Clouderaベース の高性能 Hadoop環境を提 供 Clouderaベースの高 性能Hadoop環境を OnPで提供 御客様データセンター 環境にサブスクリプ ションベースの Hadoop環境を提供 データの可視化やセルフBIを実現する、包括的なビッグデータ・アナリティクス・サービス あらゆるタイプのデータ ソースに対応し、リアルタ イム/ストリームデータ連携 をはじめ、ETLやデータ品 質管理を実現する包括的 なデータ・インテグレーショ ン・サービス
Copyright © 2018, Oracle and/or its affiliates. All rights reserved.
Big Data Cloud Service
Hadoop/Sparkのためのクラウドサービス
Big Data Cloud Serviceは、オブジェクトストレージに蓄積された社内 /外の様々な構造/非構造データを、Hadoopにコピー。HiveやSpark 等の分散処理エンジンによりデータ加工や、機械学習を行えます。 さらには、地理空間分析やグラフ分析など高度な分析をノートブック 上で気軽に実行できます。 • データレイクを構築したい • データ保持単価を下げたい • DBバッチやETLサーバの負荷をオフロードしたい • 100TBを超えるような大量データによる機械学習を行いたい • Cloudera環境のサーバ更改を低コストで行いたい
■ こんな課題に役立ちます
■ サービス提供価格(導入最低価格/PAYG) *1
■ 主なコンポーネント
• Cloudera Enterprise 5• Oracle Big Data Connectors • Oracle Big Data Spatial & Graph • Oracle Big Data Manager
Oracle Big Data Cloud Service – Starter Pack 3node ¥2,592,096/月(Pay As You Go)
(32 OCPU , 256GB Mem , 48TB Storage) * 3node
■ サービス概要/特徴
生データ Object StorageHadoop
ODCP (分散データコピー) 機械学習 地理分析 グラフ分析 SQL分析 分析データセットを保存Big Data Manager
Copyright © 2018, Oracle and/or its affiliates. All rights reserved.
Big Data SQL Cloud Service
マルチデータソース対応のSQLクラウドサービス
14
Big Data SQL Cloud Serviceは、HadoopやNoSQLに蓄積されたデー タに対し、オラクルデータベースからSQLによる接続を可能にします。 単純に接続するだけではなく、SmartScan等のデータ保管場所での 処理機能を有しており、分析のための優れたパフォーマンスを提供し ます。 • Hadoopに蓄積したデータを使い慣れたSQLでアクセスしたい • HadoopとRDBMSのデータをシームレスにJoinしたい • Hadoopのデータをユーザ解放したいがセキュリティが心配 • RDBMSより低単価でデータ蓄積し活用したい
■ こんな課題に役立ちます
■ サービス提供価格(導入最低価格/PAYG) *1
■ 主なコンポーネント
• Big Data SQL <パフォーマンス機能>Smart Scan、Storage Index、Partition pruning、 Predicate pushdown
<ユーティリティ>
Copy to Hadoop , Table space in HDFS
Oracle Big Data SQL Cloud Service ¥516,000/月ノード (Pay As You Go)
■ サービス概要/特徴
SQL
フルマネージドのHadoop/Spark活用基盤をクラウドで提供
Big Data Cloud Service Compute Edition
ビッグデータの蓄積、分析、加工に最適な、データ活用基盤をクラ ウドで提供します。 フルマネージド型のHadoopクラウドサービスであり、ストレージと 切り離してコンピューティングノードをエラスティックに拡張可能です。 他クラウドサービスとも連携しており、特にSparkによるデータ活用に 最適です。 • Hadoopのテスト環境として利用したい • バッチジョブやETLの実行環境として利用したい • SparkなどのHadoopエコシステムを活用し、IoTなどの ストリーミング処理を実施したい • インタラクティブなアドホック分析を実施したい
■ こんな課題に役立ちます
■ サービス提供価格(導入最低価格/PAYG) *1
■ 関連サービス/製品
• Storage Cloud Service • Event Hub Cloud Service • Database Cloud Service • MySQL Cloud Service
• Big Data Cloud Service – Compute Edition: ¥58 から [2 OCPU/Hour]
■ サービス概要/特徴
Big Data Cloud Service Compute Edition
フルマネージドなHadoop環境
Copyright © 2018, Oracle and/or its affiliates. All rights reserved. 16
低レイテンシ、高パフォーマンスなApache Kafka環境をクラウド上で提供
Event Hub Cloud Service
世界で最も人気のあるメッセージブローカー(Apache Kafka)を 活用した、フルマネージドのストリーミング・データ・プラットフォームで す。 Elasticに拡張でき、REST APIでのアクセスも可能です。 オンプレミス環境や他のクラウドサービスとの連携も可能です • 高速かつ低レイテンシなメッセージブローカーとして利用したい • オンプレミスのKafkaをクラウドにリフト&シフトしたい • IoTなどのストリーミング処理を実施したい • Apache Kafka環境をすぐに使いたい
■ こんな課題に役立ちます
■ サービス提供価格(導入最低価格/PAYG)
*1■ 関連サービス/製品
• Oracle Cloud Infrastructure - Block Storage Classic • Big Data Cloud
• Internet of Things Cloud Service • Mobile Cloud Enterprise
• Oracle Event Hub Cloud Service Dedicated – Compute Capacity: ¥33 から [OCPU/Hour]
• Oracle Event Hub Cloud Service - Partition Capacity: ¥1 から [Partition/Hour]
■ サービス概要/特徴
フルマネージドなKafka環境
Connectors
Big Data Cloud at Customer
Hadoop/Sparkのためのクラウドサービスをお客様のDCにお届け
Big Data Cloud at Customerは、オブジェクトストレージに蓄積された 社内/外の様々な構造/非構造データを、Hadoopにコピー。Hiveや Spark等の分散処理エンジンによりデータ加工や、機械学習を行え ます。 さらには、地理空間分析やグラフ分析など高度な分析をノートブック 上で気軽に実行できます。 • データレイクを構築したいがパブリッククラウドにはデータを出せない • データ保持単価を下げたい • DBバッチやETLサーバの負荷をオフロードしたい • 100TBを超えるような大量データによる機械学習を行いたい • Cloudera環境のサーバ更改を低コストで行いたい
■ こんな課題に役立ちます
■ サービス提供価格(導入最低価格) *1
■ 主なコンポーネント
• Cloudera Enterprise 5• Oracle Big Data Connectors • Oracle Big Data Spatial & Graph • Oracle Big Data Manager
¥3,456,000/月
Oracle Big Data Cloud at Customer –Starter Pack 3node ¥1,728,000/月
Big Data Cloud at Customer – Additional Nodes ¥576,000 × 3node = ¥1,728,000/月
■ サービス概要/特徴
生データ Object StorageHadoop
ODCP (分散データコピー) 機械学習 地理分析 グラフ分析 SQL分析 分析データセットを保存Big Data Manager
Copyright © 2018, Oracle and/or its affiliates. All rights reserved.
Big Data Appliance
Hadoop/Sparkのためのエンジニアドシステム
Oracle Big Data Applianceは、社内/外の様々な構造/非構造デー
タを収集し、Hadoopに蓄積。HiveやSpark等の分散処理エンジン によりデータ加工や、機械学習を行えます。 • データレイクを構築したい • データ保持単価を下げたい • DBバッチやETLサーバの負荷をオフロードしたい • 100TBを超えるような大量データによる機械学習を行いたい • Cloudera環境のサーバ更改を低コストで行いたい
■ こんな課題に役立ちます
■ 製品提供価格(導入最低価格) *1
■ 主なコンポーネント
• Cloudera Enterprise 5 Hadoop Spark Impala Hbase kafkaOracle Big Data Appliance X7-2 Starter Rack ¥29,970,000 288 core 1,536 GB Mem 720 TB Disk
■ 製品概要/特徴
ログ トランザクション IoT収集
蓄積
加工・
機械学習
Hadoop
Spark
生データ クレンジング 集計 モデル作成Copyright © 2018, Oracle and/or its affiliates. All rights reserved.
Big Data SQL
Big Data SQL
マルチデータソース対応のOracle SQL
20
Big Data SQL は、HadoopやNoSQLに蓄積されたデータに対し、オラ クルデータベースからSQLによる接続を可能にします。 単純に接続するだけではなく、SmartScan等のデータ保管場所での 処理機能を有しており、分析のための優れたパフォーマンスを提供し ます。 • Hadoopに蓄積したデータを使い慣れたSQLでアクセスしたい • HadoopとRDBMSのデータをシームレスにJoinしたい • Hadoopのデータをユーザ解放したいがセキュリティが心配 • RDBMSより低単価でデータ蓄積し活用したい
■ こんな課題に役立ちます
■ サービス提供価格(導入最低価格) *1
■ 主なコンポーネント
• Big Data SQL <パフォーマンス機能>Smart Scan、Storage Index、Partition pruning、 Predicate pushdown
<ユーティリティ>
Copy to Hadoop , Table space in HDFS Oracle Big Data SQL ¥480,000/Disk
Ex)BDA Starterの場合 ¥480,000× 12本 × 6ノード = ¥34,560,000
■ サービス概要/特徴
HadoopEvent
Data
Enterprise
Data
Data
Lake
*12018/3/30時点
Big Data Connectors
HadoopとRDBMSを繋ぐソフトウェア / Hadoopでのデータ処理・統合分析
Oracle Big Data Connectorsは、HadoopとOracle Database間での データ連携や、Hadoopでのデータ加工や分析を可能にする複数の コンポーネント群です。Hadoopに格納されたデータの加工処理や分 析、RDBMSとの透過的な連携を可能にします。 • Oracle DatabaseのデータをHadoopから利用したい • HadoopのデータをOracle Databaseから利用したい • Hadoopでのデータ変換・加工やR言語によるデータ分析を行いたい
■ こんな課題に役立ちます
■ 製品提供価格(導入最低価格) *1
■ 主なコンポーネント
Oracle Big Data Connectors ¥240,000 / Processor 例): BDA X7-2 Starterの場合 ¥34,560,000
■ 製品概要/特徴
連携
分析/加工
• Oracle Loader for Hadoop
• Oracle SQL Connector for HDFS
• Oracle Datasource for Apache Hadoop • Oracle R Advanced Analytics for Hadoop • Oracle XQuery for Hadoop
• Oracle Data Integrator Enterprise Edition Oracle
Database
Hadoop
Big Data Connectors
Copyright © 2018, Oracle and/or its affiliates. All rights reserved.
Big Data Spatial & Graph
様々なデータの関係を取り扱う高度なビックデータ分析フレームワーク
22
Oracle Big Data Spatial and Graphは、位置情報、動画、ソーシャ
ルなどの非構造データから顧客、組織、資産間の関係やつながり を発見し、空間分析、ラスター解析、動画解析、グラフ分析の ワークロードを処理します。 • Hadoop上で、空間データや座標データを処理したい • GPSデータやラスターデータの前処理、分析がしたい • 位置による情報のつなぎ合わせが必要 • Hadoop上で動画処理や画像処理を回したい • 人間関係、部品の依存関係などの構造を解析したい
■ こんなあなたに役立ちます
■ 製品提供価格(導入最低価格)
*1■ 主なコンポーネント
• Big Data Spatial and Graph
• Spatial Vector Analysis (位置情報) • Spatial Raster Analysis (ラスター) • Multimedia Analysis (動画/画像) • Property Graph Model (プロパティグラフ) Oracle Big Data Connectors ¥240,000 / Processor 例): BDA X7-2 Starterの場合 ¥34,560,000
■ 製品概要/特徴
Copyright © 2018, Oracle and/or its affiliates. All rights reserved.
Oracle Data Integration Platform Cloud
すべてのデータ統合ニーズに応える包括的なクラウド・ベースのプラットフォーム・ソ
リューション
24
Oracle Data Integration Platform Cloud (DIPC)は、 ETL/E-LT、レプリケーション、データ品質およびデータ・ガバナンス・ ソリューションの重要な機能すべてを、単一の統合クラウド・ベース・ プラットフォームとしてサービス提供します。リアルタイムのデータ・スト リーミング、一括データ処理、エンタープライズ・データ品質および データ・ガバナンス機能により、統合的なデータ連携要件を満たすこ とが可能です。 • クラウド上にDataLakeを実現したい • GGCS/ODICS同等機能をまとめて実現したい • Hybridでのデータ連携やBig Data連携をしたい • クラウド上データのデータ品質管理をしたい • クラウド上でのデータガバナンスを実現したい
■ こんな課題に役立ちます
■ サービス提供価格(導入最低価格/PAYG)
■ 関連サービス/製品
• Database Cloud Service、Exadata Cloud Service など • Big Data Cloud Service & Compute Edition
• Cloud at Customer
• GoldenGate Cloud Service など
• Oracle GoldenGate、Oracle Data Integrator など Standard Edition : ¥326.61 [OCPU/Hour]
Enterprise Edition : ¥483.858 [OCPU/Hour] Governance Edition : ¥810.468 [OCPU/Hour]
■ サービス概要/特徴
※DIPCはGGCS/ODICSに加え、OnPのデータ品質管理製品Enterprise Data Quality をクラウド化し て統合提供するサービスです。それぞれの詳細は各サービスの情報をご参照下さい。
Streams Analytics
時系列に流れてくるStream情報を簡単に分析・可視化
Streams Analyticsは、オープン技術 (Apache
Kafka/Spark) とオラクルの技術を融合し、Stream分析機能を 提供。他のサービスと組み合わせて、ロケーションベースのサービスや データ統合も実現 • ストリーム情報を分析・可視化したい。 • 地図情報と組み合わせたロケーション分析を行いたい。
■ こんな課題に役立ちます
■ サービス提供価格(導入最低価格)
■ 関連サービス/製品
• BigData関連ソリューション■ サービス概要/特徴
• Enterprise: ¥282,000~(OCPU/月)■
前提サービス
• Event Hub Cloud Service
• Big Data Cloud Service Compute Edition
※補足※
当該機能は、Data Integration Platform Cloud Service に
含まれる形での提供が可能です。
Copyright © 2018, Oracle and/or its affiliates. All rights reserved.
Analytics Cloud Service
あらゆるユーザーが使いこなせる中央集権管理が可能なセルフサービスBI
26 Analytics Cloudは、エンタープライズ向けのアナリティクス環境をク ラウドサービスで提供します。 • BI Cloudに加えてEssbaseなど包括的な分析機能 • 機械学習のためのデータモデリング • OCPU単位でDedicatedなクラウド環境を利用 • オンデマンドで構成の変更が可能(シェイプの追加/削除) • 従量制(Pay As You Go)課金による利用料の最適化 • ビッグデータ探索が可能なApache Spark, OracleBig Data Cloudとの直接連携/データ取得/加工
• 既存のEssbaseやOracle BIが数年経過し更改が必要なため、既存資産 をクラウドに移行して利用し続けたい。 • 開発環境やDR環境だけをクラウド化して移行したい • クラウド上の大規模なDWHを活用したレポーティング/ダッシュボードだけでなく、 機械学習データを活用したい • Essbaseを利用しているが、BIを拡張してクラウドで利用したい • ビッグデータやデータレークに直接アクセスし、データラボを実現したい
■ こんな課題に役立ちます
■ 関連サービス/製品
■ サービス概要/特徴
Oracle Database Cloud Service
(機械学習の場合は High Performance Option) Oracle Database Backup Service
Oracle Storage Cloud Service Oracle Compute Cloud Service Oracle Bigdata Cloud Service
ソーシャル 財務 サプライチェーン 人事 顧客管理 サービス 1st Party 3rd Party IoT Analytics Cloud ECサイト 広告
Oracle DB Advanced Analytics 統合したデータを明細
レベルで瞬時に分析
機械学習データの見える化
蓄積したデータを機械学習し、 最適な活動を実現
Oracle Digitalは、オラクル製品の導入をご検討いただく際の総合窓口。
電話とインターネットによるダイレクトなコニュニケーションで、どんなお問い合わせにもすばやく対応します。
もちろん、無償。どんなことでも、ご相談ください。
SIP4D
平成30年7月27日
国立研究開発法人
防災科学技術研究所
鈴木 進吾
防災情報サービスプラットフォーム
のプロトタイプ構築
SIP4D
National Research Institute for Earth Science and Disaster Resilience
我が国の防災・減災分野における社会的課題
32 SIP「レジリエントな防災・減災機能の強化」課題④ 2014,2015,2016,2017
南海トラフ地震
最大230兆円の被害
首都直下地震
約100兆円の被害
気象の極端化今世紀前半
約
330
兆円の被害
SIP4D
National Research Institute for Earth Science and Disaster Resilience
Society5.0と社会の変化
を通して
• 経済的発展と社会的課題の解決を両立
• 快適で活気に満ちた
質の高い生活
を送れる
「人間中心の社会」
経団連:新たな経済社会の実現に向けて超スマート社会に向けた各種システムのサービスプラットフォーム構築
第5期科学技術基本計画 第5期科学技術基本計画SIP4D
National Research Institute for Earth Science and Disaster Resilience
Society 5.0の災害対応とは
34 SIP「レジリエントな防災・減災機能の強化」課題④ 2014,2015,2016,2017
BEFORE
AFTER
サイバー空間とフィジカル空間の分離
サイバー空間とフィジカル空間の融合
紙とホワイトボードによる処理の煩雑さ
ICTの支援による整然とした処理
データの変換・加工の煩雑さ
自動処理による加工の手間の大幅な軽減
連携できない様々なシステム
データ連携によるシステム間の結合
ニーズに対応できていないシステム
ニーズに細かく対応したサービス
データの特別な入力作業を必要とする
IoT等により入力作業を軽減
データや地図とにらめっこしながら
意思決定にすぐに使える情報を表示
SIP4D
National Research Institute for Earth Science and Disaster Resilience
防災情報サービスプラットフォームが目指す姿
3つの層で現場に必要なデータ・知識を総動員し、産官学が協働で予防・対応・回復力を高める仕掛け
セキュリティの 高度化・社会実装 情報通信基盤 の開発強化 SIP4D-T(言語情報系情報処理) 事前対策 応急対策 復旧・復興 timeサ
ー
ビ
ス
層
人・ 社会活動 建物・ インフラ コンパクトシティ 災害備蓄計画 防災教育 人材育成 BCP 地域防災計画 地区防災計画 避難訓練 耐震補強 CIP インフラアセットマネジメント 帰宅困難者抑制・支援 広域(被災地域外)支援情報 緊急医療・救急搬送 給水・食料・生活必需品の確保 安否情報 備蓄物資調達 被災者への情報伝達 遺体搬送・身元確認 ボランティア受入れ 心的ケアサービス 防疫活動 (※) は防災基本計画で定められた項目 消火活動 ライフラインや住宅の応急復旧 建物被害認定調査 復旧計画作成 被災者救助・救急活動 道路・鉄道・航路の状況把握・提供 指定緊急避難所開設・運営・管理 道路啓開用資材・人員確保 仮設住宅の提供 交通確保 通信確保 緊急輸送 救護・救助資材調達(計画立案) 2次的土砂災害防止 災害ゴミ処分 災害復興住宅の供給 標準的データの活用 インターフェース、データフォーマット標準化 プ ラ ッ ト フ ォ ー ム 層デ
ー
タ
層
ビッグ データ 自 然 建物・インフラ 人・社会活動 地盤構造データ 地表面地形データ 土地利用データ 地図データ(地名、河川、湖沼 地震観測データ 津波観測データ 気象観測データ 人口分布データ 中間・夜間人口データ 災害時要支援者情 報 建物種別分布データ 社会基盤情報 インフラインベントリー情報 防犯カメラ画像 通行データ(駅、ビル、集客施設) 航空機SAR画像 衛星SAR画像 ITS CCTVカメラ画像 道路情報(VICS) 動的情報(モニタリング・センサ) 国土地理院 防災科研 NICT・民間 JAXA 自治体 ライフライン事業者 国交省 通信キャリア 総務省統計局 NICT SNS スマートフォン位置情報(GPS) 静的情報 3D地図プラットフォーム リファレンス 計画 マニュアル SOP 通報連絡 対応記録 方針・決定事項 SIP4D-M(地理空間情報系処理) 共有方策の確立・標準化 サービス活用防災の実装 サービスに使える要素技術の開発 対応を省力化するためのSOPの開発と標準化 IoT・文字情報を含む多様な情報の処理に対応 (内部+外部)×(動的+静的)×(構造+非構造化)データの組合せで各種業務を効率化するサービスを開発・実装 防災・災害対応業務 自治体・公的機関 言語情報 指揮者 事態対処 対策立案 後方支援 総務 被災者台帳による生活再建 広域物資輸送計画立案 罹災証明書発給SIP4D
National Research Institute for Earth Science and Disaster Resilience
プラットフォーム構築のロードマップ
36 SIP「レジリエントな防災・減災機能の強化」課題④ 2014,2015,2016,2017
府省庁連携
役所内連携
数種類
の業務
機能演習
南海トラフ地震
首都直下地震
西日本内陸地震
集中豪雨災害
台風災害
雪氷災害
火山災害
総合災害対応演習
の実施による見直し
研修プログラム作成
研修系
演習系
標準化された
災害対応業務
官民が連携した
応援・受援体制
組織間
連携基準
(EEI)
組織間
業務連結
ガバナンス 標準的手順 技術 教育・訓練 利用土砂災害
設計・要素技
術開発
組織間
情報連携
対応自動化技
術開発
教材作成
連携技術開発
AIの利用技術開発
組織内
主要業務
公的機関参加拡大
民間組織参加拡大
図上演習
2017
2018
2020
2025
2030
2035
プロトタイプ
オリンピック
整備項目SIP4D
National Research Institute for Earth Science and Disaster Resilience
データに基づく防災の基盤構築
国立研究開発法人 防災科学技術研究所
迅速で合理的な意思決定を支えるサービス基盤
選択
意思決定 支援 状況分析 現場機動 力向上 住民参加 教育用 分析用 訓練用 対応用 公開用 • データ • レイヤー • 分析サービス • 可視化ルール • 表現形式 マニュアル 知見 GIS データベース センサー とりまと め報など合理的な
意思決定
意思決定にすぐ
に使える情報
必要な情報プロダクツ
を作成する
必要な公開データを
収集する
自分の
データ
統合
抽出
選択
防災情報サービスプラットフォーム
専門家/機関の
データ/モデル
Open Classified Classified OpenNational Research Institute for Earth Science and Disaster Resilience
ニーズ
=
SIP4D
National Research Institute for Earth Science and Disaster Resilience
災害対応のための多様なサービスの提供とデータ連携
38
外部との共有のために
状況認識を統一するために
現場作業の効率化のために
意思決定の効率化のために
担当業務の効率化のために
自動化
収集
加工
変換
提供
防災情報サービス必要な観測・予測・計画・
状況などのデータを連携
防災情報サービス 防災情報サービス 防災情報サービス 防災情報サービス SIP「レジリエントな防災・減災機能の強化」課題④ 2014,2015,2016,2017SIP4D
National Research Institute for Earth Science and Disaster Resilience
具体的なサービスのイメージ
SIP4D
National Research Institute for Earth Science and Disaster Resilience
防災情報サービスプラットフォームアーキテクチャー
40 SIP「レジリエントな防災・減災機能の強化」課題④ 2014,2015,2016,2017
サービス層
プラットフォーム層
データ層
利活用環境
インフラ環境
インポート環境
アジャイル開発環境
データ
必要な加工処理
データ層基盤
統合環境
サービス層基盤
データ インポーター (データ連携) デバイス管理 データ統合 (IoT) 高速アクセス リアルタイム 処理 データレイク RDBMS Big Data No SQL Storage データ処理環境 蓄積 抽出・秘匿 統合 構造化 機械学習 基盤管理 リカバリ データ品質 管理 クラウドサービス 計算 保存 通信 ID処理 API CKAN API開発 ライブラリ ノンプログ ラミング開 発 Open Data 自治体 センサー インシデント 管理 有資格者管理 利用状況管理 ポータル プロセス自動化 設定ツール 災害対応実践 SOP・ルール 管理価値の
付加
情報流通基盤 イベントエンジ ン+データディ クショナリ情報
SIP4D
National Research Institute for Earth Science and Disaster Resilience
中核機能となる防災情報データレイク
イベントエンジン データディクショナリ 医療 避難所 被災状 況 物資 水道 ガス 危険 地域 燃料 通信 道路 電気 人員 航路 拠点 車両基地 被害予 測 鉄道 空港 データレイク Data Info. 単組織 全国 メ タ デ ー タ ・ 共 有 許 可 非構造 構造
流通基盤層
サービス層
メ タ デ ー タ ・ 共 有 許 可 メ タ デ ー タ ・ 共 有 許 可 メ タ デ ー タ ・ 共 有 許 可 メ タ デ ー タ ・ 共 有 許 可 メ タ デ ー タ ・ 共 有 許 可 自動処理機構 データ連携仕様 データ変換機能群 データインポーター機能群 非構造 構造 非構造 構造 非構造 構造 非構造 構造 非構造 構造 データインポーター機能群Data Info. Data Info. Data Info. Data Info. Data Info.
SIP4D
National Research Institute for Earth Science and Disaster Resilience
パイロット市町村(奈良県橿原市)での取り組み
42 SIP「レジリエントな防災・減災機能の強化」課題④ 2014,2015,2016,2017,2018
みんなでアクショ
ンカードを作成
• 職員一人一人に渡す作業指示書
• 見れば実施可能なレベルで記述すること
• 指揮命令系統、業務量、記述の不足が明確に
災害対応業務の標準手順書の作成
(SOP, Standard Operating Procedure)
必要な情報の定義
サービスの作成
どの業務で、どんな情報が
必要かを整理
・他部局の情報
・SIP4Dの情報
どんな形で見たいかを整理
・地図
・リスト・グラフ
ダッシュボードでサービス
を作成
まず、業務フローをしっかり明確化、必要な情報を整理し、それに従ってサービスを構築
SIP4D
National Research Institute for Earth Science and Disaster Resilience
図上訓練の様子
SIP4D
National Research Institute for Earth Science and Disaster Resilience
防災情報サービスプラットフォームで変わる災害対応
44 SIP「レジリエントな防災・減災機能の強化」課題④ 2014,2015,2016,2017,2018 従来のやり方 新しいやり方
(データ層)
情報処理の
煩雑性
連絡・整理で手一杯。 考える暇ない。 抜け漏れ落ちが発生。 情報が整理しやすい。 考える余裕ができた。 対応状況を一目できる。(プラットフォーム層)
部局横断的な
情報共有
データを作成、共有す る労力を割けない。 あらかじめ定義してお いた通り、データを連 携、自動的に地図を作 成(サービス層)
必要に応じて
すぐに使える
情報の提供
意思決定するにはデー タを加工しないといけ ない。 意思決定に必要な数 値・地図を画面に表 示SIP4D
National Research Institute for Earth Science and Disaster Resilience
構築の輪を広げる取り組み
室蘭市 札幌市 相馬市 会津若松市 岡谷市 輪島市 浜松市 名古屋市 橿原市 宇治市 神戸市 姫路市 宇部市 北九州市 兵庫県 直方市 鞍手町 香春町 苅田町
自治体の防災情報の
相互運用性向上に関する
ワークショップ
H29参加 1県・5政令市・10市・3町・1大学・6企業・1団体 北九州市でワークショップを実施。被災経験のある自治体、先進的な取り組みをしている自治体からの情報提供をいただき、 プラットフォームのあり方を議論、自治体間での情報交換を実施したCopyright © 2018 Aqua Systems, Inc. All Rights Reserved.
46
AQUA SYSTEMS 20th ANNIVERSARY防災情報サービスプラットフォームでの
データレイク・アーキテクチャ
株式会社アクアシステムズ
執行役員 技術部長
川上 明久
AQUA SYSTEMS47
20th ANNIVERSARY「防災情報サービスプラットフォーム」のアーキテクチャ設計支援業務を受託
データベースに特化したコンサルティング会社
データレイクへの取り組み
株式会社アクアシステムズ
1998年2月4日 設立
東京都中央区銀座3-8-10
Copyright © 2018 Aqua Systems, Inc. All Rights Reserved.
AQUA SYSTEMS48
20th ANNIVERSARYインフラ・アーキテクチャ
Database Cloud Service 市道 水道HDFS
避難所 支援物資Object Storege
RDBMS
Big Data Cloud Service PigLatin・HiveQL 人口推計 SQL・ SPARQL 畜産農家 分布 2次医療圏 高齢者数 Storage Cloud Service 航空写真 MP レーダー オルソ図ESRI ArcGIS・Oracle Spatial
データレイク
サービス構成
SQL
Big Data Cloud Service のデータを結合し
た問い合わせ結果を得られる
AQUA SYSTEMS49
20th ANNIVERSARYインフラ・アーキテクチャ
インターフェース:
サービス層のシステム形態に合わせて選択
Database Cloud Service 市道 水道HDFS
避難所 支援物資Object Storege
RDBMS
Big Data Cloud Service PigLatin・HiveQL 人口推計 SQL・ SPARQL 畜産農家 分布 2次医療圏 高齢者数 Storage Cloud Service 航空写真 MP レーダー オルソ図ESRI ArcGIS・Oracle Spatial
データレイク
サービス層
ArcGIS
Online
GoldenGate
Database
link
FTP
API実装
データインポータ
Copyright © 2018 Aqua Systems, Inc. All Rights Reserved.
AQUA SYSTEMS50
20th ANNIVERSARYインフラ・アーキテクチャ
DIPC(Data Integration Platform Cloud)
Data Quality
レプリケーション
(GoldenGate Cloud)
ストリーミング
(Stream Analytics)
ETL/データパイプライン
(ODI Cloud)
データ品質/ガバナンス
(
Enterprise Data Quality)
ソーシャル センサー ファイル SaaS モバイル ログ データベース 他社Cloud オンプレミス 環境 Oracle Cloud 環境
AQUA SYSTEMS51
20th ANNIVERSARYデータベースの性能と拡張性
✓
Exadata Service
•
雨量 NETCDF 1GB/分
受信~フォーマット変換~DB格納を1分以内に処理することが求められる
•
処理性能が足りない場合の性能向上策として利用できる
※ 一般的なクラウドはネットワークストレージであるため、I/Oのレイテンシが大きい
✓
RACの拡張性
•
災害の際には大量のデータ格納、サービスからの利用を同時並行で処理することになる。RACが利用できる
ことでスケーラビリティを求めやすい。
※ 一般的なクラウドはリードレプリカ増設での拡張方式で、マスタノードがボトルネックになりやすい
インフラ・アーキテクチャ
Copyright © 2018 Aqua Systems, Inc. All Rights Reserved.
AQUA SYSTEMS52
20th ANNIVERSARYこれで、どんなデータが来ても
大丈夫!
インフラ・アーキテクチャ
Database Cloud Service 市道 水道HDFS
避難所 支援物資Object Storege
RDBMS
Big Data Cloud Service PigLatin・HiveQL 人口推計 SQL・ SPARQL 畜産農家 分布 2次医療圏 高齢者数 Storage Cloud Service 航空写真 MP レーダー オルソ図ESRI ArcGIS・Oracle Spatial
データレイク
ArcGIS
Online
GoldenGate
Database
link
FTP
API実装
データインポータ
AQUA SYSTEMS53
20th ANNIVERSARY2つ、例を挙げます
多様な考慮をしていますが・・・
Copyright © 2018 Aqua Systems, Inc. All Rights Reserved.
AQUA SYSTEMS54
20th ANNIVERSARY例① 避難所
データ・アーキテクチャ
隣接自治体にも公開
B市
A市
A市職員
A市のデータ更新
B市のデータ更新
A市だけで管理
A市非公開のデータ参照
A市公開のデータ参照
B市のデータ参照
B市職員
AQUA SYSTEMS55
20th ANNIVERSARY例① 「避難所データセット」のスキーマ構造(概念)
データ・アーキテクチャ
避難誘導
自治体固有
データ(専有)
静的データ
(共有)
動的データ
(共有)
利用可否などの状態のうち、共有するもの 外部公開しない避難所、状態避難所管理
自治体
職員
管理者
Identity Cloud ServiceCopyright © 2018 Aqua Systems, Inc. All Rights Reserved.
AQUA SYSTEMS56
20th ANNIVERSARY例② 「緊急避難道路データセット」のスキーマ構造(概念)
データ・アーキテクチャ
市町村・区
国土交通省
県・政令指定都市
市町村道 県道、国土交通省 管轄以外の国道 高速道路・直轄国道 Java Cloud Service 他システム連携 API API Keyデータレイクがプラットフォームの他の要素と連動して
動作するには、データ・アーキテクチャの考慮が必要
AQUA SYSTEMS57
20th ANNIVERSARYデータレイクの論理構造
○○市 データレイク データレイク××市 △△市 データレイク 動的避難 状況 動的避難 状況 動的避難 緊急輸送 道路 緊急輸送 道路 緊急輸送道路 医療機関 状況 医療機関 状況 医療機関 状況 避難 物資 水道 ガス 医療 道路 電気 資源 流通基盤用 データストア (共有情報) △△県 データレイク 緊急輸送 道路•
自治体のユーザは、各市町村のデータ
レイクにアクセスして、その自治体と共有
データを確認できる
Copyright © 2018 Aqua Systems, Inc. All Rights Reserved.
AQUA SYSTEMS58
20th ANNIVERSARYインフラ・アーキテクチャ
“データ・アーキテクチャが整備された形で格納され、関連する機能と連携して動作する
データ基盤” とすることで、高速開発、管理コスト削減が実現できる
Database Cloud Service 市道 水道HDFS
避難所 支援物資Object Storege
RDBMS
Big Data Cloud Service PigLatin・HiveQL 人口推計 SQL・ SPARQL 畜産農家 分布 2次医療圏 高齢者数 Storage Cloud Service 航空写真 MP レーダー オルソ図ESRI ArcGIS・Oracle Spatial
データレイク
Identity Cloud Service Java Cloud Service ArcGIS Online GoldenGate Database link FTP データインポータデータ・アーキテクチャ
AQUA SYSTEMS59
20th ANNIVERSARYデータ中心アプローチ
業務のプロと、データ・エンジニアによる共同作業
データ
セキュリティ
業務要件
インターフェース
メタデータ管理
クレンジング
性能
運用プロセス
統合と相互運用性
業務のプロ
データ・エンジニア
データについて多角的に検討を加えることにより、データレイクの必要条件を導く
Copyright © 2018 Aqua Systems, Inc. All Rights Reserved.
AQUA SYSTEMS60
20th ANNIVERSARYデータガバナンス
データ アーキテクチャ 管理 データ クオリティ 管理 メタデータ管理 ドキュメントと コンテンツ 管理 データウェアハウスと ビジネスインテリ ジェンス管理 リファレンス データと マスター データ管理 データセキュリティ 管理 データストレージ とオペレーション 管理 データモデリング とデザイン データ統合と 相互運用性データ
ガバナンス
ビジネス・インテリジェンス/分析
マスターデータ管理
データウェアハウス
システム/アプリケーション
データレイクと関連性が高い領域
メタデー
タ管理
リファレン
スデータ管
理
データセ
キュリテ
ィ管理
データア
ーキテクチ
ャ管理
アウ
トプット
依存関係
出典:ADMC2017_SueGeuens_World_Trends_in_Data_Governanceデータクオリ
ティ管理
データモデリン
グとデザイン
データ統合と
相互運用性
データ中心アプローチを実現するための体系的な方法論
AQUA SYSTEMS61
20th ANNIVERSARYContact us
データとデータ基盤に関わる課題をご相談ください!
イノベーションを支えるデータ基盤を実現します
中立的な立場で、オープンな技術の選択を支援します
データベースに関することは何でも解決します
Copyright © 2018 Aqua Systems, Inc. All Rights Reserved.
Aqua Systems , Performance Analyzer , AUDIT MASTER は、株式会社アクアシステムズの登録商標です。
Performance Analyzer Family, Performance Analyzer 4 , AUDIT MASTER は、株式会社アクアシステムズの商標です。 Oracle は、Oracle Corporation の登録商標です。その他の製品名および会社名は、各社の商標または登録商標です。