［山梨大学工学部研究報告第43号1992年12月］
論 文
分散適応によるベクトル量子化の画質改善
大野田仁 大木真 橋口住久
（平成4年8月31日受理）
Improvement of Picture Quality by Variance Adaptation
in Vector Quantization
HitoshiONODA MakotoOHKI SumihisaHASHIGUCHI Abstract We discuss the effects of adaptive selection of codebooks on the picture quality in the vector quantization coding． The elements of five codebooks are trained by sample vectors with classified standard deviations． By selecting one of five codebooks adaptively to the standard deviation of the intensity in the block to be coded， signal−to−noise ratio of reproducted image is improved by 1．7dB．
1．はじめに
画像符号化法の一つである平均値分離正規化ベクトル 量子化1）の特徴は，いろいろな画像に対して汎用性のあ るコードブック（出力ベクトルの集合）を生成できるこ とである．サンプルベクトルの分散に対し最適なコード ブックを適応的に選択することにより，得られる復号画 像の画質の改善が期待できる．本報では分散適応の効果 について実験的検討を行った．2． ベクトル量子化2）3）
図一1はベクトル量子化の動作を2次元で幾何学的に 表している．対象とする空間を互いに重なりあわない有 限個の部分空間に分割し，個々の部分空間に出力ベクト ル（コードベクトル）とインデックス番号を割り当てる． 図一1の例ではコードベクトルはC，，C2，…， Csであり， 対応するインデックス番号は1，2，…，8である．コード ベクトルの集合をコードブックと呼ぷ．符号器はサンプ ルベクトルが属する分割空間のインデックス番号を出力 する．図一1の例では入力ベクトルSiは斜線部の部分空 間に属しているので，コードベクトルC3に対応するイン デックス番号3が出力される． ベクトル量子化器の性能は，コードベクトルの配 置に依存するが，代表的なコードブック生成法として LBG（Linde−Buzo−Gray）アルゴリズム4）がよく用いられ る。これは，初期コードブックにたいし分割条件と代表 点条件3）を繰り返し適用し，入力信号の確率密度分布に 電子情報工学科，Depart，ment of Electrical Engineering and Com− puter ScienceX2
C5
・s1＼ 入力ベクトル■
＼＼＼ 量子化出力 ミミx・ ・→ 図一1 ベクトル量子化 Fig．1 Concept of vector quantization 比例したコードブックに収束させる設計アルゴリズムで ある．3． 画像符号化への適用
ベクトル量子化を画像符号化に適用するもっとも簡 単な方法は，対象画像をn×n画素からなるブロック に分割し，このブロック内の輝度値を成分とするn×n 次元ベクトルをサンプルベクトルとしてベクトル量子化 する方法である．しかし，このような単純な方法では信 号の分布範囲は非常に広い範囲に及ぷので分布空間全体 を網羅するコードブックを生成することが困難となり， 高能率な画像情報圧縮を実現できない5）．また，たとえ一40一
平成4年12月 山梨大学工学部研究報告 第43号
符号器
伝送情報
復号器
「一一’一一一一一一一一一一一一一一一一一1 r−一一一一一一一一「 1−一一一一一一一一一一一一一一一一一一一一、 ト 1インデックス ： ：サンプルl l
ベクトルl l
： 1 平均値 1標準偏差 I l I 図一2 分散適応ベクトル量子化器のブロック図 Fig．2 Block diagram of variance−adaptive vector quantizer 一 ／ コードベク gル全検索 “一．方 平均値CIC2…団
⑪ Rードブック1 標準偏差 分布空間全体を網羅するようにコードベクトルを配置で きたとしても，ベクトルの数が膨大になるので，低ビッ トレートでの情報伝達を実現することができない．そこ で，分布空間を限定するために平均値分離正規化が行わ れる1）．4． 平均値分離正規化ベクトル量子化
平均値分離正規化ベクトル量子化では，κ次元入力ベ クトルX＝［Xl，x2，…，￠κ］の各成分から，平均値mを 除き標準偏差σで正規化してXをX’＝：［ ’ ”∬1，∬2ジ”，Xk｜ に変換する．すなわち， エ；＝（Xi・−m）／σ1K
m＝
鼡ｩ
・一P伝一戸
1／2 （1） （2） （3） である．このX’を入力ベクトルとしてベクトル量子化 を行い，平均値mと標準偏差σはスカラ量子化する． 平均値を分離し正規化することによって，入力ベクト ルが分布する空間の大きさが限定されるので，分布空間 全体を網羅するコードブックを生成することが可能にな る．しかし，この平均値分離正規化ベクトル量子化のみ では必ずしも十分な復号画像を得ることはできないこと が，これまでの検討から分かっている．5． 分散適応ベクトル量子化
平均値分離正規化ベクトル量子化の復号画像の画質を 改善するため，分散に適応してコードブックを選択する 方法について検討する．5．1 分散適応
1本の走査線上のκ個の画素からなるブロックをκ次 元のサンプルベクトルとして量子化する場合を考える． 分散が大きいブロックを平均値分離正規化すると，信号 復号 ベクトル の相関は保存される．一方，分散が小さいブロックでは 正規化により波形の微細な変化が強調されて信号の相関 は低くなる．このように，ブロック内の輝度の分散によっ て，正規化後の信号波形が異なるので，平均値分離正規 化ベクトル量子化する場合，ベクトル空間での信号の確 率密度分布が異なる．それゆえ，分散σ2を0＜σ2＜4， 4＜σ2＜49，…のように複数の範囲に分割して，そ れぞれの範囲に対して最適に設計したコー一ドブックを用 意しておき，符号化時にコードブックを適応的に選択す る．本報では，この分散適応アルゴリズムを導入した方 法を，“分散適応ベクトル量子化”と呼ぷ．5．2 分散適応ベクトル量子化の動作
図一2は分散適応ベクトル量子化器のブロック図であ る．入力されたサンプルベクトルの要素の平均値と標準 偏差を求め，これを用いてサンプルベクトルを平均値分 離正規化する．分散（標準偏差）に対して最適なコード ブックを選択し，コードブックに記録されているすべて のコードベクトルとサンプルベクトルを比較して，二乗 誤差歪みが最少となるコードベクトルを選んで量子化 代表ベクトルとする．符号器は，コードベクトルのイン デックス，平均値，標準偏差を出力する，これら3つの データの量は平均値分離正規化ベクトル量子化の場合と 同じであるので，分散適応による情報量の増加はない． 復号器は符号器とは逆の操作を行い復号ベクトルを出力 する．5．3 設計
分散適応ベクトル量子化器を次のように設計する． 5．3．1 ベクトル次元数 ベクトル量子化では，画像のブロックサイズが大きい ほど1画像当たりのサンプルベクトル数が少なくなるの で，ビットレートの低減が可能になる．一方，ブロック のサイズが小さいほどブロック内輝度信号の相関が大き いので量子化誤差が少ないコードブックを生成でき，SN の高い復号画像が得やすい．評価画像として256×256一41一
分散適応によるベクトル量子化の画質改善 画素の画像を用いる場合には，4×4画素からなるブロッ クに分割するのが最も効率が高い1）．ここでは，ベクト ルの次元数Kを16（＝4×4）次元とする． 5．3．2 コードベクトル数 従来のベクトル量子化では，ベクトルのインデックス 情報のみを転送する．このときのコードベクトル数をN とするとビットレートは 1 π1・9・Nlbit／pi・・1］ （4） で与えられる3）．コードベクトル数が多いほど復号画像 の画質は良くなるが，ビットレートは増加する．ここで は，1コードブックあたりのコードベクトル数を256と 設定した．Is’＝16であるから，インデックス情報のビッ トレートは，式（4）より 1 ii6 1・9・256＝0・5 bit／pi・・1 （5） となる． 5．3．3 適応コードブック数と分散領域分割 適応コードブック数を5個とする．自然画を中心とし た19枚の画像から得た77824個のサンプルベクトルを もとに，各領域のコードベクトル数がほぼ同じになるよ うにσ6，＝4，靖2＝49，σB3＝225，σk4＝900を境界と して5分割する． 5．3．4 初期コードブック生成法 LBGアルゴリズムで，効率の高いコードブックを生 成するために，乱数を用いて初期コードベクトル生成を 行う．すなわち，初期コードベクトルの256個の要素そ れぞれの値をランダムに一1，0，1のいずれかに決定する． 5つの初期コードブックとも，同一のコードブックを用 いる． 5．3．5 コードブック生成 5．3．3で述べたサンプルベクトルをトレーニング系列と して用いる．5分割した各範囲にコードブックを1つず つ割り当て，各コードブックに対応するトレーニング系 列を用いて，LBGアルゴリズムによるトレーニングを 施し，コードブックを生成する． 5．3．6 平均値データと標準偏差データ 平均値データと標準偏差データは，四捨五入により整 数データに変換して取り扱う．これらのデータは隣接ブ ロック間で相関があるので，DPCM（Differential Pulse Code Modulation）6）による予測誤差信号を，ハフマン符 号化7）により情報圧縮して転送を行う．
6． 結果
表1は，シミュレーションの結果である．分散適応に よる改善は0．2∼1．7dBである．また，ビットレートは 表一1 分散適応の効果 （SN［dB］） Table−1 The effects of adaptation画 像
Mandrill Tulips Girl Hairband
Bit−Rate IBits／Pixel］ 1．23 1．22 1．16 1．12 符号化
緖ｮ
非適応VQ
25．9 27．1 33．6 34．0分散適応VQ
26．1 27．7 34．4 35．7 適応による改善［dB］ 0．2 0．6 0．8 1．7 （a）Conventional （b）Adapted 写真一1Hairbandエラー画像（5倍に増幅） Photo−1 Amplified error image（Hairband） （a）Conventional （b）Adapted 写真一2Tulipsエラー画像（5倍に増幅） Photo−2 Amplified error image（Tulips）一42一
平成4年12月 山梨大学工学部研究報告 第43号 （a） 4＞σ2≧0 （b） 49＞σ2≧4 （c） 225＞σ2≧49 （d） 900＞σ2≧225 図一3 平均値分離正規化後のベクトル分布 Fig．3 Distributions of normalized v㏄tors （e） σ2＞900 1．1∼1．2bit／pixel程度である．写真一1∼2は平均値分 離正規化ベクトル量子化と分散適応ベクトル量子化によ る復号画像のエラー信号を5倍に強調した画像である． 写真一1では顔の輪郭部分などエッジ部分で誤差が大き い．また，写真一2では林や花壇の部分などの輝度変化 の大きい部分で誤差が大きい． 全体として，相関の高い“Hairband”では，分散適応 による改善が視覚的にはっきり認識できる．特に，写真一 1にみられるように，輪郭付近などの分散の高いブロッ クでの改善が大きい．また，“Mandrill”のように相関が 比較的低い画像では，SN比においても視覚的にもほと んど改善が見られない． 布したコードブックを用意しているので，量子化誤差が 小さくなる．したがって，相関と分散が共に大きいブロッ クほど，分散適応による効果が大きい．
