クラウド時代に必須、
マルチプラットフォーム環境に
対応するデータ連携基盤構築の
ポイントとは?
社名 インフォテリア株式会社Infoteria Corporation 設立 1998 年 9 月 代表取締役社長 / CEO 平野 洋一郎 • 先端IT活用推進コンソーシアム副会長 • 日本データマネジメント・コンソーシアム理事 • メイド・イン・ジャパン・ソフトウェア・コンソーシアム理事 所在地 【東京本社】 〒140-0014 東京都品川区大井1丁目47番1号 NTビル10F 【西日本事業所】 〒531-0001 大阪府大阪市北区梅田2丁目4番13号 阪神産經桜橋ビル3F 資本金 11億 3,846万 6,500円 事業内容 ・ソフトウェア開発・販売 ・製品サポート ・製品コンサルティング ・製品トレーニング グループ会社
・Infoteria America Corporation ・亿福天(杭州)信息科技有限公司 ・樱枫天(上海)贸易有限公司 ・Infoteria Hong Kong Limited ・Infoteria Singapore pte.
データ連携ニーズ、その背景
ホスト 時代 • 個別開発で安定したシステム運用 • 他システムとの連携する必要がない PKG 黎明期 • ERPの波 • M&Aなど加速する経営スピード PKG 優先期 • 低価格化と導入の容易さが部門レベルでの導入を実現 • 個別最適のパッケージが導入汎
用
機
か
ら
サ
ー
バ
ー
へ
集
中
か
ら
分
散
へ
システムの連携は・・・
多重入力による作業コスト 人的作業ミス発生、またそのリスク システム間の不整合発生 連携の度に発生する開発コスト リードタイムの長期化 リアルタイム連携ニーズ ミドルウェア、OS、プロトコル・・・ 各システムに応じた技術知識の習得(学習コスト)顕在化した問題点
EAI(Enterprise Application Integration)とは?
4
SFAシステム 会計システム 販売管理システム 生産管理システム6本の連携
SFAシステム 会計システム 販売管理システム 生産管理システムEAI
(33%の削減)
4本の連携
対象 手組み EAI 削減効果 6システム 15本 6本 60%の削減 8システム 28本 8本 約70%の削減 Nシステム N(N-1)÷2本 N本• ハブ&スポーク型のアーキテクチャ(Enterprise Service Bus はバス型)
• システム間の差異(ファイル、DBMS、OS、ミドルウェア、プロトコル、API等)を吸収 具体的には高い生産性をほこる専用のGUI開発ツールで処理フローを作成する事で連携を実現 • リアルタイム処理に対応し、連携のスケジューリング等を含めシステム連携を一元管理
手組み
EAI
【参考】
• 業務の自動化・効率的なシステム管理はコスト削減とリスク回避を実現 • シームレスかつ柔軟なデータ連携は俊敏な情報システム基盤を提供 • 情報システム部門は高付加価値なIT戦略に集中【導入効果】
ETL(Extract/Transform/Load)とは?その背景
基
幹
シ
ス
テ
ム
か
ら
情
報
系
シ
ス
テ
ム
へ
経
営
者
か
ら
現
場
へ
データガバナンス 重複データ、粒度の違い、表記の違い(低いデータ品質)
散在するデータ・ソース 基幹、情報系・・・複雑化するシステム
多大な工数がかかる前処理
顕在化した問題点
BI/DWH
黎明期
• データ分析によるビジネス拡大
• 迅速な意思決定支援
BI/DWH
導入期
• UI偏重(経営コックピット)
• 参照者のリテラシー不足
BI/DWH
幻滅期
• 「Garbage in, garbage out.」
• リアルタイムの欲求
データ 投入 データ 収集 クレンジ ング 名寄せ 加工 変換 書き込み 分析ETLツール
ETLとは?
• DWHへの大容量データの「統合」を行うソリューション
• 豊富な加工・変換機能
• 大容量データのバルク処理
• メタデータ管理
Extract
抽出
Transform
加工
Load
書き出し
EAIとETL
手組
ETL
EAI
ハイトランザクション バッチ リアルタイム項目
EAI
ETL
処理データ
トランザクション
(レコード/メッセージ)
大量データ
(ファイル/テーブル)
タイミング
リアルタイム
バッチ
アーキテクチャ
N対N
N対1
特徴
• 多様な連携アダプタの提供
※アプリ/プロトコルレベルでの提供
• プログラムレベルのロジック作成が可能
•豊富な変換・加工処理
•大容量データ処理の専用エンジン
共通
開発を容易にするグラフィカルなツールの提供
データ連携ソリューション
選定ポイント
接続性
• 多様なテクノロジー
への対応
• 接続先への影響が
少ない
開発生産性
• 直感的な操作感
• 習得が容易
• 設計から運用まで
トータルでの生産性
向上
• 標準化
信頼性
• 製品として
• 会社として
• パフォーマンス
国内クラウドの普及率
15.0
13.6
18.0
14.7
17.5
20.3
34.4
34.6
15.0
16.9
2013年末
(n=2,183)
2012年末
(n=2,071)
全社的に利用している
一部の事業所又は
部門で利用している
利用していないが、
今後利用する予定がある
利用していないし、
今後も利用する予定もない
クラウドサービスに
ついてよく分からない
(単位:%)
2013年末時点
33%
の企業で
すでに利用している
出典:総務省「平成25年通信利用動向調査」
http://www.soumu.go.jp/johotsusintokei/statistics/statistics05.htmlクラウド利用時のデータ連携の課題~ネットワーク
社内システム連携時は
問題なかったが・・・
遅い・・・
インターネット経由なので
セキュリティが・・・
クラウド利用時のデータ連携の課題 ~API
パラメータを渡して
レスポンスのJSONをパースし
て・・・
あれ?こないだまで繋がったの
にErrorに・・・
うわ、IF変わってる・・・
データ取得件数に制限が・・・
差分だけとりたいんだけど・・・
API
クラウド利用時のデータ連携の課題~予見しない未来
乗り換えたいけどまた連携作
るのは大変・・・
クラウド導入は再来年度だけ
どその時に必要な技術
は・・・
新規システムはサービス充実の
海外クラウド、既存システム移
行は国内クラウド・・・
社内システム
社外で発生
IT資産の変化と“データ”の拡大
ソフトウェア
ハードウェア
ネットワーク
データ
(マスタデータ、 トランザクションデータ)ソフトウェア
ハードウェア
ネットワーク
データ
(+ ログ、非定型)SNS
M2M
Open Data
ノウハウ
ビジネニーズ
マーケットニーズ
求められるデータ連携基盤
14
従来型システム
新規システム
オンプレ
社内データ
クラウド
社外データ
IT部門
透過的なアクセス
データ連携ソリューション
選定ポイント+α
接続性
• 多様なテクノロジー
への(迅速な)対応
• 接続先への影響が
少ない
• 接続先制限のラッピ
ング
• 将来へのリスクヘッ
ジ
開発生産性
• 直感的な操作感
• 習得が容易
• 設計から運用まで
トータルでの生産性
向上
• 標準化
• オンプレ・クラウドを
意識しない透過的
なデータ・アクセス
信頼性
• 製品として
• 会社として
• パフォーマンス
• ボトルネックへの対
応
ASTERIA WARP概要
•
データフォーマットやシステム、プロトコル、関数に対応した多数のアダプタ
•
ノン・プログラミングを実現する開発環境(フローデザイナー)
•
多くの開発支援機能を提供
はオプション Kintone開発環境(フローデザイナー)
① GUI化されたコンポーネントを、 処理をさせたい順番に、 ドラッグ&ドロップ ② 各アイコンごとの プロパティの設定を 行ないます。(マウスで選択) ④ データのフォーマット 変換はマッパー画面で 行います。 ③ エラーハンドリングはプロパティの 選択で編集可能。 (フロー単位・コンポーネント単位)開発環境(データマッピング)
文字列の変換、 加工を行う マッパー関数。 INPUTされるデータの フィールド項目。 OUTPUTされるデータの フィールド項目。 IN側からOUT側へフィールド のドラッグ&ドロップで データマッピングの設定 関数を用いて文字列の加工、 変換を行います。 (画面の例:タイムスタンプ を取得し、RDBに投入)トリガー
スケジューラ ASTERIAのスケジュール機能を利用し、定められた日時にフローを起動 例)毎月○日○時に起動、○分おきに起動など URLトリガー フローに対してURLを割当、URLにリクエストがあった時にフローを起動 例)ユーザがWEBシステムにデータ入力し、そのリクエストを受け連携 FTPトリガー ASTERIA内のFTPサーバ機能を利用し、ファイル受信終了で起動 例)他システムからFTPでファイルを転送し、そのファイルを連携 SOAPトリガー 任意のSOAPクライアントからリクエストを受けて起動 例)クライアントからSOAPリクエスト受け起動 コマンドライン 外部コマンドより起動 例)Systemwalker , JP1からASTERIAのコマンドを実行させ起動 JavaAPI起動 Javaのプログラムからリクエストを受けて起動 例)既存のjavaプログラムの再利用 メッセージ・キュー監視 メッセージキューを監視し、起動 メール監視 メールボックスを監視し、起動導入実績
2002年の販売開始以来、業種・業界問わず幅広い実績
金融機関や報道機関のミッションクリティカルなシステムでの採用多数
4,777社の導入実績(2014年12月末現在)
• NTTコミュニケーションズ • NTTコムウェアビリングソリューション • NTTデータ • WOWOWコミュニケーションズ • アルク • インテリジェンス • オートバックス • オリックス不動産 • コープきんき • ジェイアール西日本デイリーサービスネット • ソフトバンク・テクノロジー • ソフトバンクテレコム • テレビ朝日 • テレビ東京 • マックス • ヤマタネ • ライオン • リコー • リコー • リコージャパン • 伊藤忠テクノソリューションズ • 京セラ • 近畿産業信用組合 • 近鉄不動産 • 三井住友ファイナンス&リース • 三井不動産リアルティ • 三菱商事/メタルワン • 住金物産 • 住友林業 • 神奈川新聞社 • 神奈川大学 • 大鵬薬品 • 大和小田急建設 • 大和物流 • 東芝 • 読売新聞社 • 日本経済新聞社 • 日本電波工業 • 毎日新聞社 and more(敬称略)
導入実績
日本を代表する企業の半数以上が採用
56%
東京証券取引所市場第一部銘柄(内国普通株式)の中から、時価総額及び流動性の高い
100%子会社含む(2014年3月現在)
21
マーケットシェア
テクノ・システム・リサーチ
「2014年 ソフトウェアマーケティング 総覧 EAI/ESB市場編」 (数量ベース)アイ・ティ・アール
「システム連携/統合 ミドルウェア市場2013」 (金額ベース)富士キメラ総研
「ソフトウェアビジネス新市場 2014年版」 EAI ESB 市場 (数量ベース)12.1%
11.4%
9.1%
6.8%
13.5%
47.0%
16.2%
12.2%
9.5%
9.5%
6.2%
19.5%
27.0%
22.9%
14.4%
0.2%
16.8%
45.8%
EAI
8年
連続シェアNo.1!
接続性 ~某小売業での業務分析基盤~
販売システム 販売データ等 マスター ASTERIA ASTERIA WARP本社
販売センター
A支社
B支社
データ変換・クレンジング S3にデータ転送 RedshiftにコピーC支社
接続性 ~ AWSアダプタ ~
Amazon Elastic
MapReduce
Elastic MapReduceを使ったAmazon
環境でのHadoop処理を制御
Amazon RDS
Amazon RDSへの接続は通常のRDBと 同様にSQLビルダーで操作Amazon S3
Amazon S3 へのデータ転送・取得
をドラッグ&ドロップで構築
通常のストレージのように取り扱う
ことが可能
Amazon EC2
EC2インスタンスの起動終了を外
部から制御
月次バッチ起動時のみインスタン
スを起動するなどの運用が可能
Amazon Simple
Queue
専用画面の操作のみでキューを
取り扱い
ASTERIA WARPの標準機能で対応
Amazon Redshift
ペタバイト級データウェアハウスの サービスであるAmazon Redshiftにも SQLビルダーで接続
AWSアダプターオプションで対応
Amazon SNS
ノーティフィケーションサービスを
利用して、登録された端末にプッ
シュ通知を送信
Amazon Redshift
S3からRedshiftへのデータロードを支援 分析用テーブル作成の専用画面を提供接続性 ~AWSアダプタ~
圧縮と並列転送で
高速アップロード
Redshift専用アダ
プタを提供
• S3、SQS、SNS専用
のGUIを提供
• エクスプローラーライ
クな画面で簡単に連携
設定が可能
• S3マルチパートアップ
ロード対応
• オブジェクトの暗号化を
サポート
• Redshift、EMRが標準対
応するGzip対応
• S3からRedshiftへのコ
ピーはGUIで設定するだ
けの簡単コピーで実現
• 分析用のテーブル作成も
可能、BIツールのパ
フォーマンス向上
AWS連携もGUI
接続性 ~サイバーエージェント様~
ASTERIA Cloud Conference 2015
子会社(71社)
増加により連携
コストが増加
• 連携を自動化し、クラウドサー
ビスを更に有効活用
• 近日詳細事例公開予定
接続性 ~kintoneアダプタ~
kintoneGet
レコードを取得
kintonePut
レコードを挿入・更新
kitoneDelete
レコードを削除
kintoneFileUpload
添付ファイルをアップロード
kintoneFileDownload
添付ファイルをダウンロード
kintoneSubTableGet
サブテーブルのデータを取得
kintoneSubTablePut
サブテーブルのデータを追加更新
kintoneSubTableDelete
サブテーブルのデータを削除
kintoneのAPIではサポートされていない
接続性 ~多様な連携を実現するアダプタ~
Microsoft Azure
REST
HTML Parse
Active Directory / LDAP
• HTTP Get/Postとは別に専用アダプタを提供 • アダプタ上から単体テストが可能 • CSSセレクターと同様の記法でHTMLを読み取り、 内容を解析するアダプタ • WebAPIの用意されていないWebアプリケーション やWEBサイトとも連携可能
• Microsoft Azure ストレージBlob/Queue/Tabel に対応
• 専用の画面を提供し容易に連携可能
• Active Directory専用のウィザードを提供
• Active Directoryと他のシステムとの連携を容易 に実現