• 検索結果がありません。

タイトルを1~2行で入力 (長文の場合はフォントサイズを縮小)

N/A
N/A
Protected

Academic year: 2021

シェア "タイトルを1~2行で入力 (長文の場合はフォントサイズを縮小)"

Copied!
57
0
0

読み込み中.... (全文を見る)

全文

(1)

株式会社NTTデータ 基盤システム事業本部

2014年7月31日版

Hinemos仮想ネットワーク管理オプション ver.2.1 ご紹介

(2)
(3)

仮想ネットワーク管理オプションとは?

仮想ネットワーク管理オプションとは、

サーバ仮想化・ネットワーク仮想化を統合し、

Software-Defined Infrastructureを実現する

Hinemosの有償オプション製品です。

多様な制御プロトコルで複雑化したネットワークを

仮想化・自動化によりシンプルかつ効率化しつつ、

仮想サーバとの連携で迅速なマルチテナント運用を実現し、

システム構築・設計・管理のコストを大幅に削減します。

(4)

Hinemos

マネージャ

OpenFlow

コントローラ (*1)

既存ネットワーク網

WAN/LAN

(*1)バーチャルネットワークコントローラ® ver.2のテクノロジを活用した

SDNコントローラも本製品のコンポーネントとして同梱されます。

Citrix XenServer

Red Hat KVM

VMware ESXi

ハードウェアアプライアンス機器

(FW, LB, SSLアクセラレータなど)

OpenFlowスイッチ

ネットワーク網

SYSTEM_C

SYSTEM_B

SYSTEM_A

XenServer 仮想アプライアンス ファイアウォール HWアプライアンス 仮想マシンKVM VMware 仮想マシン KVM 仮想マシン KVM 仮想マシン VMware 仮想マシン

仮想ネットワーク管理オプション

運用管理・制御ネットワーク

OpenFlowを活用した統合仮想化環境の実現

サーバ仮想化

ネットワーク仮想化

統合仮想化環境

(5)

仮想ネットワーク管理オプションの3つの特徴

テナントの迅速な構築

ハードウェア構成を変更することな

く、論理ネットワークやサーバリソース

を迅速にプロビジョニングできます。

統合仮想化環境の一元管理

物理・論理の両面からネットワーク

の構成・状態把握を可能とし、思い

通りの通信制御を実現します。

ホップ・バイ・ホップ/オーバーレイの両

方式に対応しているため、費用対効果

を踏まえた段階的導入を支援します。

段階的なネットワーク仮想化

(6)

多様なハイパーバイザ連携

(KVM, VMwareなど)

コントローラソフトウェアの高可用性構成

hop-by-hopとoverlayによるハイブリッド転送制御

OpenFlowによるFirewall, LoadBalancerのエミュレーション

既存ネットワークとの接続冗長性(VRRP/HSRP/STPなど)

等コストパスにおけるFlowのバランシング

経路コストによるFlow単位での転送経路のカスタマイズ

仮想ネットワーク管理オプションの歩み

v2.0

2013/7/19

v2.1

2014/3

SDN/サーバ仮想化の一元管理・オーケストレーション

SDNのネットワークトポロジマップ表示

hop-by-hopによる転送制御/経路の可視化

OpenFlowによるL2スイッチ、L3スイッチのエミュレーション

非SDNの既存ネットワークとのシームレスな通信

v1.0

2012/6/5

(7)

真に効率化されたネットワーク運用の実現を

(8)

【自動化】 ネットワークトポロジの検出

マシンルーム

WAN

VM

VM

VM

VM

VM

ネットワークコントローラ

(OpenFlowコントローラ)

自動化

トラフィック転送路として各フロアなどに配置された

OpenFlowスイッチの最新の接続状況を自動的に検出する。

→ 設計書の更新漏れが懸念される時、実環境をサルベージする必要はない

OpenFlowスイッチの設置はシンプル。

1. 設置&電源を入れる

2. OpenFlowコントローラのIPアドレスを設定

3. 他のスイッチとのリンクを接続する

(9)

【可視化】 ネットワークトポロジの把握 - 画面イメージ

OpenFlowスイッチ

データパスID

(スイッチ固有識別子)

接続ポート番号

スイッチ間のリンク

(10)

真に効率化されたネットワーク運用の実現を

(11)

【シンプル化】 デバイス間のトラフィック定義を簡易に

WAN

①ネットワークエディタ上で、

仮想L2スイッチを定義する

③仮想L2スイッチと機器を接続する

②L2セグメントに接続する機器の

MACアドレス/IPアドレスを定義する

ネットワーク構成がどうなっているかわからないが...

サーバ間を同一L2セグメントと

して通信させたい

(12)

【自動化】 最新トポロジに基づく、トラフィック制御ルールの配布

Apache

00:00:00:00:01:00

Tomcat

00:00:00:00:02:00

②Apacheの接続ポートを確認

②Tomcatの接続ポートを確認

①論理ネットワーク上で

トラフィックをシミュレート

L2スイッチ経由 : 転送のみ

③最適(最小コスト)となる経路を選択

④フローエントリを設定

src : 00:00:00:00:01:00

dst : 00:00:00:00:02:00

のパケットを受信した場合

・スイッチ1 : 4番ポートから送出

・スイッチ3 : 5番ポートから送出

#2

#4

#3

#5

(13)

【自動化】 トラフィック定義に利用可能なオブジェクト

論理ネットワーク上の構成オブジェクトとして、以下が利用可能です

構成オブジェクト

説明

外部ノード

論理ネットワークに接続させる

仮想マシン・仮想アプライアンス・物理機器に関する

情報(MACアドレス/IPアドレスなど)を定義します

アクセスポート

既存のIPネットワークと論理ネットワークの接続点となる

OpenFlowスイッチのL1ポートを定義します。

MACアドレスによるACL制御も可能です。

仮想L2スイッチ

(Forwarding)

L2スイッチとして動作する仮想的なネットワーク機器。

仮想L3スイッチ

(Routing)

L3スイッチとして動作する仮想的なネットワーク機器。

ルーティングテーブルなどの情報を定義します

仮想ファイアウォール

(ACL)

簡易的なパケットフィルタリング機能を提供する

仮想的なネットワーク機器。

フィルタリング条件などの情報を定義します

仮想ロードバランサ

簡易的なバランシング機能を提供する

仮想的なネットワーク機器。

バランシング条件などの情報を定義します

(14)

【可視化】 デバイス間の通信経路の把握

デバイス間の通信経路

スイッチのスペック情報

各スイッチに設定されている

(15)

真に効率化されたネットワーク運用の実現を

(16)

【自動化】 ネットワークに接続されるデバイスの学習

L2スイッチのFDBと同じく、各デバイスが接続されるポートを学習。

全スイッチの全ポートを等価に扱われ、

デバイス配置に基づいてトラフィックが制御される。

パケットを送信

Source MAC : 00:00:00:00:00:0A

サーバA

00:00:00:00:00:0A

サーバB

00:00:00:00:00:0B

コントローラに通知

Source MAC : 00:00:00:00:00:0A

→ スイッチ1の2番ポートで受信

機器とスイッチのポート番号との

対応一覧を管理

(17)

【柔軟性向上】 デバイス配置のレイアウト最適化

制御ネットワーク(control plane)

データネットワーク

(data plane)

機器の再配置を自動学習し、

トラフィック制御も更新する

サーバとスイッチの物理ポートが静的に紐付けられないため、

デバイスの配置変更時に、スイッチ側の設定変更は不要となる。

→ 個人端末に応用すると、どのフロアにいても同一のネットワークに接続可能になる

(18)

【柔軟性向上】 サーバ仮想化の運用にも最適

制御ネットワーク(control plane)

データネットワーク

(data plane)

仮想サーバの

マイグレーションにも自動追従

VM#1

VM#2

VM#3

VM#3

サーバ仮想化のメリットである、

マイグレーションを活用した物理サーバのメンテナンスも積極的に活用できる。

(19)

【自動化】 故障時の通信路切り替え

Apache

00:00:00:00:01:00

Tomcat

00:00:00:00:02:00

①新たなネットワークトポロジに基づき

最適(最小コスト)となる経路を再計算

②フローエントリを再設定

src : 00:00:00:00:01:00

dst : 00:00:00:00:02:00

のパケットを受信した場合

・スイッチ1 : 3番ポートから送出

・スイッチ2 : 3番ポートから送出

・スイッチ3 : 5番ポートから送出

#2

#4

#3

#5

#3

#2

#3

#2

経路故障

新経路への切り替えが数秒程度

(*1)

(数10秒要するSTPよりも高速に切替)

(*1)

主に「フローエントリの再設定」に要する時間はネットワーク規模、デバイス接続数、OpenFlowスイッチ性能に依存します

(20)

【シンプル化】 ネットワークの拡張

Apache

00:00:00:00:01:00

Tomcat

00:00:00:00:02:00

基本的な設定のみで容易に増設

ネットワークを止めずに、シンプルに拡張。

1. スイッチを設置し、電源を入れる

2. OpenFlowコントローラのIPアドレスを設定

3. 管理ネットワーク&他のスイッチに接続する

(21)

【柔軟性向上】 全てのリンクを通信路として活用

Apache #1

00:00:00:00:01:00

Tomcat #1

00:00:00:00:02:00

Tomcat #2

00:00:00:00:02:01

Apache #2

00:00:00:00:01:01

等コストの経路が複数存在する場合、

フローの偏りがないように通信経路を

振り分ける

ECMP(Equal Cost Multi Path)にて、

全てのリンクを無駄なく活用

(22)

【シンプル化】 ネットワーク帯域の増強①

Apache #1

00:00:00:00:01:00

Tomcat #1

00:00:00:00:02:00

Tomcat #2

Apache #2

00:00:00:00:01:01

PostgreSQL

00:00:00:00:03:00

単一のリンク上に

トラフィックが集約され始める

10/40Gbpsスイッチが登場してきたものの

デバイス増設に伴い、帯域は不足してくる...

さらにサーバ仮想化により帯域不足は深刻化。

(23)

【シンプル化】 ネットワーク帯域の増強②

Apache #1

00:00:00:00:01:00

Tomcat #1

00:00:00:00:02:00

Tomcat #2

00:00:00:00:02:01

Apache #2

00:00:00:00:01:01

PostgreSQL

00:00:00:00:03:00

スイッチ間のリンク数を増設するだけで

ネットワーク帯域幅を拡張

ネットワークを止めずに、シンプルに拡張。

1. スイッチ間に配線する

2. 両端のスイッチに結線する

(この時点でOpenFlowコントローラが自動的に検知)

(24)

【柔軟性向上】 必要なネットワークサービスを自由に経由①

L2スイッチ

Firewall

SSL Accelerator

Load Balancer

Apache

(25)

【柔軟性向上】 必要なネットワークサービスを自由に経由②

Aシステム

仮想スイッチ

L3SW

FW

LB

L2SW

Hypervisor

VM

VRF

A

VFW

A

VLB

A

VLAN

A

Bシステム

VRF

VM

B

VFW

B

VLB

B

VLAN

B

VLAN

A

VLAN

B

従来(VLAN)

OpenFlow

Aシステム

仮想スイッチ

L3SW

FW

LB

L2SW

Hypervisor

VM

VRF

A

VFW

A

VLB

A

VLAN

A

Bシステム

VRF

VM

B

VFW

B

VLAN

B

VLAN

A

VLAN

B

実際は経由させる必要がない

ベンダ仕様に縛られず、素直なネットワークを実現

(26)

真に効率化されたネットワーク運用の実現を

(27)

既存のネットワークと仮想ネットワークをシームレスに接続

Firewallアプライアンス

境界となる

OpenFlowスイッチとポート番号を指定する

L2スイッチ

アクセスポート機能により、

既存ネットワークと仮想ネットワークを

シームレスに接続可能

(28)

既存のネットワークとの接続の冗長化

Firewallアプライアンス

L2スイッチ

L2スイッチ

L2スイッチであればSTP、L3スイッチであればVRRP/HSRPにより、

単一障害点を回避可能

(29)

段階的なSDN導入 – Overlayによる既存IPネットワークとの共存

管理・監視ネットワーク

(30)

段階的なSDN導入 – Overlayによる既存IPネットワークとの共存

Overlayを併用することにより、

従来のネットワークをまたがるネットワーク群を

単一のネットワークイメージとして扱うことも可能

間に存在する従来の機器を意識することなく、

デバイス間のトラフィック定義を登録するだけ

(31)

複数拠点のネットワークを一元管理

ONU

ONU

GRE Port

ONU

Access Port

(Port VLAN)

Access Port

(Port VLAN)

Trunk Port

ONU

Access Port

(Port VLAN)

Access Port

(Port VLAN)

Trunk Port

GRE Port

D-Plane

D-Plane

C-Plane

C-Plane

Packet

GRE

IP

P

ac

k

et

Packet

GRE

IP (802.1q)

IP (802.1q)

GRE

Packet

Packet

GRE

IP

P

ac

k

et

GRE Tunnel

広域網

(32)
(33)

仮想サーバ

物理サーバ

ハードウェア

アプライアンス

仮想

アプライアンス

必要なリソースを自由に連携できるネットワークが実現

WAN

ネットワーク仮想化基盤

Load Balancer

Firewall

iSCSI

Web

AP

DB

高度なネットワーク機能

ストレージ

コンピュートリソース

OpenFlowで形成した転送路で、

柔軟に連携させる

(34)

仮想サーバ

物理サーバ

ハードウェア

アプライアンス

仮想

アプライアンス

各種コントローラによるインフラ管理の自動化および効率化

WAN

ネットワーク仮想化基盤

Load Balancer

Firewall

iSCSI

Web

AP

DB

ハイパーバイザ

(コントローラ)

ネットワークコントローラ

(OpenFlowコントローラ)

コンピュートリソースの割り当て

仮想マシンの状態管理・系切り替え

トラフィックルールの自動配布

ネットワークの状態管理・経路切り替え

(35)

Hinemosによる統合仮想化環境の一元管理①

Citrix XenServer

Red Hat KVM

VMware ESXi

Apache

(VM)

物理マシン

vSwitch

Tomcat

(VM)

1. VMテンプレートイメージからプロビジョニング

2. vNICの自動反映

ハイパーバイザとの連携により、

必要なコンピュートリソースを増強し、

即座に仮想ネットワークへ接続可能

(36)

Hinemosによる統合仮想化環境の一元管理②

Citrix XenServer

Red Hat KVM

VMware ESXi

Apache

(VM)

物理マシン

vSwitch

Tomcat

(VM)

1. VMの起動

2. OpenFlowコントローラによるアドレッシング

OpenFlowコントローラが

DHCPサーバとして振る舞い、

VMに対するIPアドレス付与も自動

(37)

まとめ - Hinemos + OpenFlowが実現する運用管理

• ネットワーク設計を

シンプル

ネットワーク物理構成を意識せず、機器間の通信定義を迅速に反映

通信路の冗長性はコントローラが担保するため、ループなどは意識しなくてよい

自動化

による手作業からの脱却

ネットワークに接続される機器をMACアドレスベースで自動識別

MACアドレスに基づき、VLANと同じく分離された仮想ネットワークへ自動接続

機器間の最適経路の自動決定&経由するスイッチへの自動設定反映

• システム構成に

柔軟性

機器の接続ポートに応じて仮想ネットワークが形成。柔軟な機器配置が可能。

多重化される各テナントにて自由な機器構成が可能

(38)
(39)

仮想ネットワーク管理オプションの導入イメージ

Hinemosクライアント

Package

仮想ネットワーク管理オプションパッケージで提供されるインストーラで簡単に構築できます。

ハイパーバイザ

仮想NW管理オプション

Package for Manager

管理ネットワーク

既存の

ネットワーク網

OpenFlow

スイッチで構成された

ユーザーネットワーク

仮想NW管理オプション

Package for Client

Hinemosマネージャ

Package

仮想NW管理オプション

(40)

高可用性構成の実現

Open vSwitch

Hinemos

マネージャ1

SDN

コントローラ1

Hinemos

マネージャ2

コントローラ2

SDN

Hinemos

HAオプション

ネットワーク障害

サーバ障害

ストレージ障害

仮想NWコントローラ

HAモジュール

論理ネットワークのトラフィックを制御するSDNコントローラ、

SDNコントローラとハイパーバイザを制御するHinemosマネージャのいずれも

Active-Standby構成でクラスタリングします。

(41)

動作検証済みのOpenFlow対応スイッチ

提供元

製品名称

エヌ・シー・エル・コミュニケーション株式会社

Pica8 P-3290/P-3295/P-3295R/

P-3297/P-3297R/P-3780/

P-3920/P-3922/P-3930/P-3930R

(*1)

日本アイ・ビー・エム株式会社

IBM System Networking G8264

(*1)

日本電気株式会社

UNIVERGE PF5220

日本ヒューレット・パッカード株式会社

HP 3800-24G-2SFP+ Switch (J9575A)

シトリックス・システムズ・ジャパン株式会社

XenServer 6.0/6.1/6.2 (Open vSwitch)

OpenFlow Switch Specification Version 1.0.0の仕様に準拠したスイッチに対応

以下に記載されるハードウェアスイッチ・ソフトウェアスイッチとの動作が確認されています。

(他のOpenFlowスイッチとの接続検証のご要望などもご相談ください)

(42)

対応しているハイパーバイザ一覧

提供元

製品名称

米ヴイエムウェア

vSphere 5.5

(vCenter Server, vSphere ESXi)

レッドハット株式会社

Red Hat Enterprise Linux 6 KVM

シトリックス・システムズ・ジャパン株式会社

XenServer 6.0/6.1/6.2

以下に記載されるハイパーバイザとの動作が確認されています。

(43)
(44)

機能一覧

物理ネットワーク管理機能

ネットワークトポロジの可視化

物理リンクと論理リンクの一元管理

スイッチのハードウェア情報表示

フローエントリ一覧表示

ネットワーク状態変化の検知・通知

仮想ネットワーク管理機能

仮想ネットワーク機器(L2スイッチエミュレーション)

仮想ネットワーク機器(L3スイッチエミュレーション)

仮想ネットワーク機器(ファイアウォールエミュレーション)

仮想ネットワーク機器(ロードバランサエミュレーション)

外部ノード(ネットワークノード)の登録

テナント構成情報のインポート・エクスポート

ハイパーバイザー制御機能

仮想マシンのプロビジョニング

VMware vSphere/Citrix XenServer/Red Hat KVM

通信経路管理機能

フロー経路の可視化

等コストマルチパス制御

不等コストマルチパス制御

故障検知による自動経路迂回

指定スイッチの経路迂回

LRUによるフローエントリ更新

(45)
(46)

(参考) 企業内ネットワークにおける最近の課題と

(47)

マシンルーム

企業における一般的なネットワーク構成と抱える課題

WAN

コアスイッチ

ディストリビューション

スイッチ

アクセススイッチ

【増大するスイッチの運用】

増え続ける管理者の負担・運用コスト。

効率化を実現する仕組みが必要。

(48)

マシンルーム

企業における一般的なネットワーク構成と抱える課題

WAN

コアスイッチ

ディストリビューション

スイッチ

アクセススイッチ

VM

【未使用の帯域の活用】

サーバ集約度が高まるにつれて、

サーバ間トラフィックが増大。

STP(スパニングツリー)で生じる未使用の帯域を

無駄なく利用できる仕組みが必要。

VM

VM

VM

(49)

マシンルーム

企業における一般的なネットワーク構成と抱える課題

WAN

コアスイッチ

ディストリビューション

スイッチ

アクセススイッチ

VM

VM

VM

VM

【動的な機器配置への順応】

サーバ仮想化のマイグレーションの活用で、

物理サーバのメンテナンスが容易に。

ただし、業務継続には配置変更に基づき、

順応するトラフィック制御の仕組みが必要。

(50)

各課題に対する解決策は色々とある

マシンルーム

WAN

コアスイッチ

ディストリビューション

スイッチ

アクセススイッチ

VM

VM

VM

VM

VM

【増大するスイッチの運用】

バーチャルシャーシ(ベンダ固有)

【未使用の帯域】

TRILL(RFC 6325~6327)/

SPB(IEEE 802.1aq)/

MC-LAG (ベンダ固有)

【動的な機器配置への順応】

VEPA(IEEE 802.1Qbg)/

VNTag(IEEE 802.1BR )

+ バーチャルシャーシ(ベンダ固有)

+ ポートプロファイル自動管理

(51)

各ベンダから実装済み機器もリリースされている

【Cisco - FabricPath】

Cisco Nexus 7000/5000 series

【Cisco - Fabric Extender】

Cisco Nexus 7000/6000/5000 series + Nexus 2000

最大1+24台のスイッチを一元管理

【Brocade - Virtual Cluster Switching】

Brocade VDX series

最大32台のスイッチを一元管理

高付加価値という扱いでハイエンドスイッチのみで対応している状況。

さらに、競合他社との相互接続性をサポートしているベンダもいないのが現状。

→ すべてのスイッチを単一ベンダかつハイエンド機種で構成する必要がある

【HP - FlexFabric】

HP FF 12900/11900 Switch series

HP 5900/5920 Switch series

(52)

ただし、ネットワークへのユーザー要求は実はシンプル

WAN

WAN

・リンクダウン/スイッチダウ

ンの通報

・トラフィック量の傾向

・CPU/MEM消費量の傾向

...

運用管理ソフトウェア

ネットワーク管理コンソール

抽象化された

単一イメージのネットワーク

(ネットワーク仮想化基盤)

【容易なネットワーク設定】

構成変更の俊敏性

設計・実装コストの削減

属人的な管理からの脱却

【耐障害性】

【スケーラビリティ】

【全リソースの有効利用】

【ベンダーロックイン回避】

費用対効果の最大化

【状態の可視化】

【障害の影響把握】

運用管理の標準化

(53)

ユーザ要求を踏まえると、SDN/OpenFlowが有効

外部のソフトウェアから

トラフィック制御に関する設定変更が可能

→ SDN/OpenFlowの得意どころ

ローエンド、ミッドレンジのスイッチも含めて

ネットワーク全体を一元管理

→ 既存のスイッチでは事実上不可

telnet, netconfなどの既存技術を駆使しても実現可能。

ただし、標準化されていないことに伴う

ベンダ差分の吸収・ファームアップ時の動確といった運用コストが大きな課題。

→ この課題に対して、SDN/OpenFlowが有効

(54)

ユーザの求めるネットワークをOpenFlowで実現すると

マシンルーム

WAN

VM

VM

VM

VM

VM

VM

ネットワークコントローラ

(OpenFlowコントローラ)

・ネットワークトポロジの自動検出

・接続機器の自動検出

・スイッチへの制御ルール配布

・経路探索・経路振り分け

・経路の障害検知

・ネットワーク論理構成を登録

運用管理ソフトウェア

・ネットワーク状態の可視化

設定配布

フローエン

PING,

SNMP

自動化

自動化

(55)
(56)

【自動化】 ネットワークトポロジの検出 - 仕組み

Connect

接続中の

OpenFlowスイッチ一覧を管理

Packet-Outメッセージ

検出パケット(LLDPを流用)

スイッチ1の4番ポートから送出

検出パケット(LLDPを流用)

スイッチ1の4番ポートから送出

→ スイッチ2の3番ポートで受信

検出パケット(LLDPを流用)

スイッチ1の4番ポートから送出

→ スイッチ2の3番ポートで受信

スイッチ間のリンク一覧を管理

ex. スイッチ1(4) - スイッチ2(3)

(57)

【自動化】 最新トポロジに基づく、トラフィック制御ルールの配布

Apache

00:00:00:00:01:00

Tomcat

00:00:00:00:02:00

②Apacheの接続ポートを確認

②Tomcatの接続ポートを確認

①論理ネットワーク上で

トラフィックをシミュレート

L2スイッチ経由 : 転送のみ

③最適(最小コスト)となる経路を選択

④トラフィック制御ルールの

配布(フローエントリを設定)

src : 00:00:00:00:01:00

dst : 00:00:00:00:02:00

のパケットを受信した場合

・スイッチ1 : 4番ポートから送出

・スイッチ3 : 5番ポートから送出

#2

#4

#3

#5

【よくある質問】

仮想L2スイッチはどこに配置されるのですか?

【答え】

仮想L2スイッチの実態 = 経路上のスイッチに設定されたフローエントリ群

(仮想マシンとハイパーバイザの配置関係とは異なります)

参照

関連したドキュメント

5 On-axis sound pressure distribution compared by two different element diameters where the number of elements is fixed at 19... 4・2 素子間隔に関する検討 径の異なる

※1・2 アクティブラーナー制度など により、場の有⽤性を活⽤し なくても学びを管理できる学

A flat singular virtual link is an equivalence class of flat singular virtual link diagrams modulo flat versions of the generalized Reidemeister moves and the flat singularity moves

4G LTE サービス向け完全仮想化 NW を発展させ、 5G 以降のサービス向けに Rakuten Communications Platform を自社開発。. モデル 3 モデル

本検討で距離 900m を取った位置関係は下図のようになり、2点を結ぶ両矢印線に垂直な破線の波面

「Silicon Labs Dual CP210x USB to UART Bridge : Standard COM Port (COM**)」. ※(COM**) の部分の

北とぴあは「産業の発展および区民の文化水準の高揚のシンボル」を基本理念 に置き、 「産業振興」、

条例第108条 知事は、放射性物質を除く元素及び化合物(以下「化学