人気度推定を用いたキャッシュ方式とネット
ワーク誘導型キャッシュ発見方式の融合
柳生 智彦 (NEC / 電通大), 藤井 厚太朗 (電通大) 情報指向ネットワーク技術時限研究会 2015/4/7研究背景
▌増加するトラフィック モバイルデータトラヒック総量は5年間で10倍に [1] ▌WEBやビデオなどコンテンツ流通が大半 現在,コンテンツ流通はトラヒックの約半分で毎年69%増加[1] Cisco Visual Networking Index:全世界のモバイル データ トラフィックの予測、 2013 ~ 2018 年アップデート, 2014 White paper , 2014
• Content Oriented Network の研究
- トラヒックの大半がコンテンツ流通であることに着目 - 効率的なコンテンツ配信を実現する新しいNWを提案
Page 3 © NEC Corporation 2015 NEC Group Internal Use Only
Content Oriented Network (CON)の研究
CON
インターネット
DNSサーバ f1 f1 f1 サーバ サーバ ユーザは コンテンツを 取得する場所を 指定しない インターネット CON 転送先の判断 IPアドレスを用いる コンテンツ名を用いる ルータのコンテンツ キャッシュ なし あり コンテンツ取得場所 ユーザが指定する NW内で決定する 現在のインターネットとCONの比較CONの研究課題(の一部)
▌ルータがキャッシュを持つCONで効率的なコンテンツ配信を実現す るには次のことが重要になる ▌・どのコンテンツを ,どのルータでキャッシュするか ⇛キャッシュ方式 最適化問題を解くことで、キャッシュの最適配置を行う研究等 人気度は常に変化し、新たなコンテンツが生成される→事前計算 は困難 ▌・どのようにキャッシュしたルータへ誘導するか ⇛キャッシュ発見方式(ルーティング) 明示的なキャッシュへのルーティングはスケーラビリティの点で困難Page 5 © NEC Corporation 2015 NEC Group Internal Use Only
従来のキャッシュ方式
Transparent En-Route Cache (TERC)方式 • CONで用いられる基本的なキャッシュ方式 • ルータは通過するコンテンツをキャッシュ
• キャッシュ交換はLeast Recently Used (LRU) 規律で行う TERC方式の問題点 • キャッシュの交換回数が多くルータ負荷が高い • コンテンツ人気度を考慮しておらず,キャッシュヒット率が低い
キャッシュ発見方式
Breadcrumbs
Breadcrumbs方式(BC方式)の概要 -コンテンツ転送時に TERC方式でキャッシュし, BC情報を記憶する - BC情報は5つの属性で構成される コンテンツ転送先を辿ってできる 軌跡をBC Trailと呼ぶ ① f1 ② null ③ B ④ ta ⑤ null ①② f1A ③ D ④ tb ⑤ null サーバ サーバ サーバ サーバ A C B D ユーザ ユーザ ユーザ ユーザ1 BC Trail BC有 BC有 キャッシュ有 ① ① ① ① コンテンツコンテンツコンテンツコンテンツ ID ② コンテンツ転送元 ③ ③ ③ ③ コンテンツコンテンツコンテンツコンテンツ転送先転送先転送先転送先 ④ コンテンツ通過時間 ⑤ クエリの通過時間 ① f1 ② B ③ null ④ td ⑤ nullPage 7 © NEC Corporation 2015 NEC Group Internal Use Only
Breadcrumbsによるクエリ誘導
BCによるクエリ誘導のシナリオ ① ルータA,Bのキャッシュが上 書きされなくなる ② ユーザ2のクエリはBC情報に よりA→B→Dと転送される ③ デフォルト経路上以外のDで キャッシュヒット ユーザ ユーザ ユーザ ユーザ2 ① f1 ② null ③ B ④ ta ⑤ null ①② f1A ③ D ④ tb ⑤ null サーバ サーバ サーバ サーバ A C B D BC Trail BC有 BC有 キャッシュ有 コンテンツ転送先を辿ってできる 軌跡をBC Trailと呼ぶ BC情報を利用することでデフォ ルト経路以外のキャッシュも利用 できるようになる ① f1 ② B ③ null ④ td ⑤ nullBreadcrumbsの無効化
BCの無効化シナリオ ① ルータA,B,Dのキャッシュが 上書きされなくなる ② ユーザ2のクエリはBC情報に よりA→B→Dと転送される ③ BCTrailの末端までキャッシュ が存在しないのでクエリを送 り返す ④ 送り返された場合,BC情報 を無効化する ユーザ ユーザ ユーザ ユーザ2 ① f1 ② null ③ B ④ ta ⑤ null ①② f1A ③ D ④ tb ⑤ null サーバ サーバ サーバ サーバ A C B D BC Trail BC有 BC有 キャッシュ有 コンテンツ転送先を辿ってできる 軌跡をBC Trailと呼ぶ BCTrail上のルータにキャッシュが 存在しない場合,無駄な誘導とな るため無効化する ① f1 ② B ③ null ④ td ⑤ nullPage 9 © NEC Corporation 2015 NEC Group Internal Use Only
Breadcrumbsの課題
キャッシュの交換回数が多くルータ負荷が高い
キャッシュの交換回数が多い場合、
BC情報無効化回数
も増える
• クエリホップ数が増え,コンテンツ発見の時間が長くなる本研究の目的
目的 目的目的 目的 • 従来手法よりキャッシュヒット率を向上させる • ルータのキャッシュ交換回数の削減 • 迅速なコンテンツ発見の実現 提案方式 提案方式提案方式 提案方式1.Popularity Based Cache (POP)方式 (12月NS研究会にて発表)
人気度推定に基づくキャッシュ方式 2.BC-POP方式 POP方式とBC方式を組み合わせた方式 前提 • コンテンツの数や人気度は未知 • 集中制御サーバは無い
Page 11 © NEC Corporation 2015 NEC Group Internal Use Only
Popularity Based Cache(POP)方式概要
高人気コンテンツ ユーザ付近でキャッシュさ れる キャッシュがサーバへのク エリ転送を減らす ユーザ付近ではキャッ シュされない クエリが集まる場所で キャッシュされる 人気度推定に基づくキャッシュ選択方式 ・クエリをサーバ方向へ転送 ・ルータはクエリ受信時にコンテンツIDの履歴を記憶 ・クエリ受信回数の多いコンテンツをキャッシュする 低人気コンテンツ
POP方式に必要な記憶領域
クエリ履歴 キャッシュルータリスト(CRL) 制限なし キャッシュする ルータIPアドレス 100個 コンテンツID コンテンツキャッシュ 2個 コンテンツ ルータ クエリ コンテンツ応答 CRLを用いてクエリ転送時にキャッシュ要と判断したルータに コンテンツを転送し,キャッシュするPage 13 © NEC Corporation 2015 NEC Group Internal Use Only
POP方式ルータ動作例
n:ルータのキャッシュ可能数 コンテンツID ・CRL要素と自身のルータIDを 比較し一致する場合キャッシュ ・キャッシュ交換は要求 頻度の低いものが対象 ・CRL要素が登録されている場合 優先して転送するシミュレーション条件
サーバ(500台) 全ルータに1台配置 管理コンテンツ数 (20個) ルータ (500台) キャッシュ(2個) クエリ保持履歴(100個) コンテンツ (10000個) 人気度(zipf則 α=0.7) サイズ (125 kB) ユーザ 全ルータに配置 総リクエスト数 (100000回) クエリサイズ (125 B) リンク数 (2000本) 帯域 (1Gbps) Waxman Model Waxman ModelWaxman Model Waxman ModelPage 15 © NEC Corporation 2015 NEC Group Internal Use Only
人気度係数とキャッシュヒット率の関係
MAX:上位1000コンテンツの アクセス確率合計値(理論上の最大ヒット率) POP方式 :すべてのαで高キャッシュヒット率を示した α=0.1の時 :サーバ付近にキャッシュされ、TERCに比べ2.9倍のヒット率 α=0.7の時 :POP方式のキャッシュヒット率はTERCに比べて2.4倍、 MAXに対して71.7%のキャッシュヒット率 zipf則: 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 Cache Hit Zipf Alpha MAX POP TERCPOP方式のキャッシュ位置の考察
TERC方式 キャッシュ位置:経路上 キャッシュ交換:多い POP方式 キャッシュ位置:クエリの集まる場所 キャッシュ交換:少ない サーバ サーバ *人気度10位のコンテンツPage 17 © NEC Corporation 2015 NEC Group Internal Use Only
POP方式の課題
▌サーバ数が少ない場合、キャッシュヒット率が大きく減少 POP方式は、サーバ付近の人気度の偏りを利用して、多様なキャッシュを保持す る方式。サーバが少なくなると、人気度の高いコンテンツばかりがキャッシュされ るようになる 0 0.05 0.1 0.15 0.2 0.25 0.3 0.35 0 100 200 300 400 500 600 キ ャ ッ シ ュ ヒ ッ ト 率 キ ャ ッ シ ュ ヒ ッ ト 率 キ ャ ッ シ ュ ヒ ッ ト 率 キ ャ ッ シ ュ ヒ ッ ト 率 サーバ台数 サーバ台数 サーバ台数 サーバ台数 TERC BC POPBC-POP方式
キャッシュ手法であるPOP方式、キャッシュ発見手法であるBC方式 を組み合わせたBCPOP方式 クエリ転送時 • BC方式と同様に,BC情報を用いてクエリ を誘導する • BC情報がないか,キャッシュヒットする場 合のみクエリ履歴を更新 コンテンツ応答転送時 ・CRL要素が有る場合のみBCを作成 コンテンツ応答転送時 にキャッシュするルータ の有無を把握できるの で必要最低限のBCを 作成する BCPOP方式は キャッシュ生存時間 が長いのでBCTrail 上に複数個キャッ シュを作成する必要 がない BC Trail クエリ履歴更新 しない しない する する する する する しない BC作成 R1 R2 R3 R4 CRL:R3Page 19 © NEC Corporation 2015 NEC Group Internal Use Only
性能評価
サーバ(50台) 管理コンテンツ数 (200個) ルータ (500台) キャッシュ(2個) クエリ保持履歴(100個) コンテンツ (10000個) 人気度(zipf則 α=0.7) サイズ (125 kB) ユーザ 全ルータに配置 総リクエスト数 (100000回) クエリサイズ (125 Byte) リンク数 (2000本) 帯域 (1Gbps) Waxman Model Waxman ModelWaxman Model Waxman Model主な評価結果
0 0.05 0.1 0.15 0.2 0.25 0.3 0.35 0.4 0.45 0.5 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 Cache Hit Zipf Alpha BCPOP BC POP 人気度係数が変化した際にも BC-POP方式は 高キャッシュヒット率を示した BC-POP方式 BC方式 POP方式 キャッシュヒット率 28.3 20.2 19.9 キャッシュ交換回数 1076 519428 2727 クエリホップ数 6.47 13.87 6.05 コンテンツホップ数 6.1 6.22 6.05 ネットワーク負荷 76330GB 77923GB 75700GB クエリホップ数54%軽減 交換回数を99.8%軽減 キャッシュヒット率8.1ポイント向上 ・サーバ台数50台のときの評価結果 ・コンテンツ人気度分布を変化させた際のキャッシュヒット率 横軸: 0.1 コンテンツが均等にアクセスされる 0.9 一部コンテンツにアクセスが集中する BC-POP方式とBC方式の比較Page 21 © NEC Corporation 2015 NEC Group Internal Use Only
サーバ台数変化とキャッシュヒット率の関係
0 0.05 0.1 0.15 0.2 0.25 0.3 0.35 0 50 100 150 200 250 300 350 400 450 500 CacheHit ServerNum BCPOP BC POP TERC BC-POP方式はすべてのサーバ台数で 高キャッシュヒット率を示した サーバ1台から500台に変化させた場合キャッシュの多様性
BC-POP BC POP 全種類中 702 582 577 上位1000コンテンツ中 309 181 246 シミュレーション終了時に、ネットワーク内のキャッシュに残っていたコンテンツの種類 BC-POP方式は、ネットワーク内に多様なコンテンツをキャッシュする ことでキャッシュヒット率を向上 キャッシュの発見にはBCが効果を発揮Page 23 © NEC Corporation 2015 NEC Group Internal Use Only
リンクごとの転送パケット数
400000 600000 800000 1e+006 1.2e+006 1.4e+006 1.6e+006 1.8e+006 2e+006 2.2e+006 2.4e+006 0 50 100 150 200 Packet Link ID BCPOP BC POPルータごとのキャッシュヒット数
0 50 100 150 200 250 300 350 400 450 500 0 50 100 150 200 250 300 350 400 450 500Router Cache Hit
Router Id
BCPOP POP BC
Page 25 © NEC Corporation 2015 NEC Group Internal Use Only