• 検索結果がありません。

Microsoft PowerPoint - janog25-cloudhour-kimai

N/A
N/A
Protected

Academic year: 2021

シェア "Microsoft PowerPoint - janog25-cloudhour-kimai"

Copied!
15
0
0

読み込み中.... (全文を見る)

全文

(1)

クラウド、作ってみた。

IaaSのネットワーク設計・運用・監視の実際

今井祐二

株式会社富士通研究所

(2)

IT cell (富士通研IaaSプロトタイプ)

IT cell (富士通研IaaSプロトタイプ)

仮想資源

Web

App. DB

Web

App. DB

VAS (virtual application systems)

ITcell manager

アプリ運用者

エンドユーザ

(3)

仮想アプリシステム起動の流れ

仮想アプリシステム起動の流れ

5. ネット開設

1 <application_systemname=“SAMPLE-VAS-0123"> 2 <virtual_machine_manager>Xen</virtual_machine_manager> 3 <address_range>172.17.132.0/24</address_range> 4 <server_list> 5 <server name=“centos52-db" res_class="normal-basic"> 6 <max_instances>3</max_instances> 7 <min_instances>1</min_instances> 8 <instances>1</instances> 9 </server> 10 </server_list> 11 <gateway_list> 12 <gateway name="ext_gw1" type="VLAN"> 13 <parameter name="fascicle_id">fascicle01</parameter> 14 <parameter name="vlan_tag">132</parameter> 15 </gateway> 16 </gateway_list> 17 <link_list> 18 <link src="ext_gw1" dst="centos52-db" type="balance"> 19 <parameter name="delegate_address">172.17.132.254</parameter> 20 <parameter name="delegate_port">3306</parameter> 21 <parameter name="protocol">TCP</parameter> 22 </link> 23 <link src="centos52-db" dst="centos52-db" type="self"/> 24 </link_list> 25 </application_system>

Web

App. DB

サーバ

1 <application_systemname=“SAMPLE-VAS-0123"> 2 <virtual_machine_manager>Xen</virtual_machine_manager> 3 <address_range>172.17.132.0/24</address_range> 4 <server_list> 5 <server name=“centos52-db" res_class="normal-basic"> 6 <max_instances>3</max_instances> 7 <min_instances>1</min_instances> 8 <instances>1</instances> 9 </server> 10 </server_list> 11 <gateway_list> 12 <gateway name="ext_gw1" type="VLAN"> 13 <parameter name="fascicle_id">fascicle01</parameter> 14 <parameter name="vlan_tag">132</parameter> 15 </gateway> 16 </gateway_list> 17 <link_list> 18 <link src="ext_gw1" dst="centos52-db" type="balance"> 19 <parameter name="delegate_address">172.17.132.254</parameter> 20 <parameter name="delegate_port">3306</parameter> 21 <parameter name="protocol">TCP</parameter> 22 </link> 23 <link src="centos52-db" dst="centos52-db" type="self"/> 24 </link_list> 25 </application_system>

アプリ運用者

6. VM起動

3. ディスク割付

エンドユーザ

7. GW設定

2. VAS起動

1.VAS登録

8. 運用開始

ディスク

VASリポジトリ

4. イメー

ジ展開

ネット機器

(4)

„

ホスティング

„

マルチテナント可能なアプリケーションで大規模

ユーザを収容

„

ハウジング

„

顧客ごとのオーダーメードシステムをお預かり

„

ハードウェアプール

„

共通プラットフォームとなるサーバ・ネットワークを、

可能な限り大きなロットで設置

„

中長期需要見通しに基づいて、ロット単位に入替

データセンタのハード構成単位

データセンタのハード構成単位

クラ

ウド

クラ

ウド

(5)

事前の構想

事前の構想

„

顧客仮想システムは分離して運用

„

Xenを使ってOSレベルで分離

„

ストレージはiSCSIをdom-0経由でxsd(仮想ブロックデ

バイス)として見せる。

„

ネットワークはVLANで切る。

„

それなりに冗長性作り込みもしてみよう。

„

ストレージはRAID-1、L2はdom-0でeth0, 1をbonding、

スイッチも2重化

„

冗長化された部分が故障したら、別ノードにVMマイグ

レーション

…OK!

…OK!

…OK!

…OK!

…工夫してみました。

(6)

紹介する工夫ポイント

紹介する工夫ポイント

1.

VM間IPトンネル

„

仮想システム間ネットワーク分離

2.

Rack & Go

„

ネットワークによる物理インストレーション支援

(7)

1. VM間IPトンネル

(8)

VLAN設計の選択肢

VLAN設計の選択肢

1.

Vanilla-L2ネット

„

すべてのtagフレームを素通し。ネット隔離はdom-0

の仮想スイッチが、どのtagで足を出すかで制御

„

STP系の使用を避けると、ループフリーなトポロジに

しておきたくなるが、スケーラビリティに限界が出そう

2.

VM配置に連動してtag-VLANを切る

„

仮想システムの起動・停止・VM増設・マイグレーショ

ンで、猫の目のようにスイッチの設定が変化

„

正しく設定できるか?正当性を検証・監査できるか?

(9)

工夫してみました。

(VM間IPトンネル)

工夫してみました。

(VM間IPトンネル)

„

ユーザ

VMと1:1に仮想ルータ用VMを起動。VM間トラ

フィックを

IPトンネルでくるむ。

„

外部接続用

GWにも仮想ルータVMを起動。トンネルと外

VLANを中継。

„

バックボーンはプレーン

L3 (OSPF, VRRP, bonding)

サーバ1-n

サーバ1-2

サーバ1-1

ラックSW

R

ラック1

バックボーンネットワーク

VM

VM

サーバ2-n

サーバ2-2

サーバ2-1

ラックSW

サーバm-n

サーバm-2

サーバm-1

ラックSW

ラック2

ラックm

R

Gateway

VM

VM

VM

VM

VM

VM

VM

VM

仮想R

仮想R

仮想R

仮想R

仮想R

仮想R

仮想R

仮想R

仮想R

仮想R

仮想R

仮想R

仮想R

仮想R

仮想ルータによる

トンネル

(10)

VM間IPトンネル 利点・欠点・がんばりどころ

VM間IPトンネル 利点・欠点・がんばりどころ

„

利点

„

L3バックボーンは「いつものやつ」

z

ネットワークエンジニア・オペレータは容易に理解

z

障害時迂回経路・ネット拡張は

OSPFにおまかせ

z

ブロードキャスト問題から開放

„

ネット分離検査は、トンネル&経路設定チェックでOK

„

欠点

„

見慣れない組合わせ。「

VM」と「IPトンネル」

z

アプリエンジニア・オペレータへの説明が大変

„

評価中

/これからのがんばりどころ

„

仮想ルータによる性能劣化は許容範囲か?

(11)

2. Rack & Go

(12)

日々是インストール

日々是インストール

„

想定

150万台物理サーバプールを3年償却で保持

„

年50万台のサーバ入替(≒2500台/日)

„

ラックへのマウント

„

ケーブリング(ラック内・ラック間)

„

インストレーション(BIOS設定・OS・ミドルウェア)

„

検査

„

故障交換時にはノード単位で同様の作業が発生

(13)

工夫してみました。 (Rack&Go

)

工夫してみました。 (Rack&Go

)

„

サーバ物理ラッキング終了時に、USBメモリを刺し

て電源を入れて待っているとインストールが完了

1) サーバ搭載・ネット結線情報をDB登録

2) 工場で事前ラック搭載、データセンタ搬入、設置&ケーブリング

3) Fedora Live USBメモリを挿入し、電源ON

• テンポラリIPアドレスをDHCPで獲得

• IPMI SOL (Serial over LAN)をenable

• MACアドレスをサーバに報告(ipmi, eth0, eth1)

4) SWのMAC学習テーブルをスキャン

• サーバの各I/F MACが正しいポートに出てくるか検査

5) dhcpdに正式なアドレス(IP & MAC)登録

6) IPMI SOL経由でBIOS設定(ipmitool & expect)

7) PXE Bootでソフトウェアインストレーション

(14)

Rack & Go 利点・がんばりどころ

Rack & Go 利点・がんばりどころ

„

利点

„

インストレーション品質向上は実感

• ケーブル結線異常は確実に検出

• 上位層担当SEの物理設定エラーへの懸念解消

„

これからのがんばりどころ

„

作業効率向上は本当にあがったのか評価が必要

„

サーバBIOS設定の機種依存部を吸収したい

„

netconfでのネットワーク機器設定もやりたい

(15)

参照

関連したドキュメント

たとえば、市町村の計画冊子に載せられているアンケート内容をみると、 「朝食を摂っています か 」 「睡眠時間は十分とっていますか」

えて リア 会を設 したのです そして、 リア で 会を開 して、そこに 者を 込 ような仕 けをしました そして 会を必 開 して、オブザーバーにも必 の けをし ます

ダウンロードしたファイルを 解凍して自動作成ツール (StartPro2018.exe) を起動します。.

・民間エリアセンターとしての取組みを今年で 2

「海洋の管理」を主たる目的として、海洋に関する人間の活動を律する原則へ転換したと

◆第2計画期間末までにグリーンエネルギー証書等 ※1 として発行 ※2

夫婦間のこれらの関係の破綻状態とに比例したかたちで分担額

人間は科学技術を発達させ、より大きな力を獲得してきました。しかし、現代の科学技術によっても、自然の世界は人間にとって未知なことが