2015 年度 修士論文
同一人物に見える範囲で 最大限に顔画像の美形化
指導教員 石川 博 教授
早稲田大学 基幹理工学研究科 情報理工専攻 5114F034 神田 庸平
2016 年 2 月 1 日 提出
目 次
第1章 はじめに 5
1.1 背景 . . . . 5
1.2 目的 . . . . 6
1.3 関連研究 . . . . 7
第2章 提案手法 12 2.1 概要 . . . . 12
2.2 手法の流れ . . . . 12
2.3 既存手法との違い . . . . 14
2.4 顔形状 . . . . 14
2.4.1 顔形状のアラインメント . . . . 14
2.5 ワーピング . . . . 16
2.6 美しい顔形状 vb . . . . 18
2.6.1 美容医学に基づいた美しい形状 . . . . 18
2.6.2 黄金比に基づいた美しい形状 . . . . 19
2.6.3 実際に美しいと評価された人物の形状 . . . . 20
2.7 顔画像の美形化 . . . . 21
2.8 同一人物と判定される範囲 . . . . 22
第3章 実験 27 3.1 美形化実験 . . . . 27
3.1.1 美形化実験の目的. . . . 27
3.1.2 手法 . . . . 27
3.1.3 用いるべきvbの決定 . . . . 28
3.1.4 実験結果. . . . 29
3.1.5 考察 . . . . 29
3.2 顔認識実験 . . . . 31
3.2.1 手法 . . . . 31
3.2.2 実験結果. . . . 32
3.2.3 考察 . . . . 33
3.3 本実験 . . . . 34
3.3.1 実験結果. . . . 35
3.3.2 考察 . . . . 36
第4章 おわりに 40 謝辞 41 付 録A 既存美形化の詳細 45 A.1 Leyvandらの手法[21] . . . . 45
A.2 Mingmingらの手法[29] . . . . 46
A.3 Stefanoらの手法[22] . . . . 47
付 録B Active Shape Models 50 B.1 Active Shape Models . . . . 50
B.2 Milborrowの手法による顔形状の検出. . . . 51
B.3 ViolaとJonesの手法による顔検出 . . . . 52
図 目 次
1.1 Marquardt Beauty Mask . . . . 8
1.2 形状による美形化と色による美形化の違い . . . . 9
2.1 提案手法の概要図 . . . . 13
2.2 顔の制御点76点 . . . . 15
2.3 顔形状の正準化 . . . . 15
2.4 画像を三角メッシュで表現した様子 . . . . 17
2.5 実験に使用する3つのvb . . . . 18
2.6 パーツ毎に選んだ顔形状 . . . . 19
2.7 オードリーヘップバーンにMarquardt Beauty Maskを当てはめた様子 . . . 20
2.8 Nanaの正面顔画像 . . . . 21
2.9 VGG-Faceモデル . . . . 22
2.10 顔データを10段階で変形させた様子 . . . . 23
2.11 用いた特徴ベクトル抽出層 . . . . 24
2.12 美形化後が過剰な変形であると識別される例 . . . . 25
2.13 10-分割交差検証データ作成方法 . . . . 25
3.1 美形化評価画面 . . . . 28
3.2 美しい形状の違いによる美形化画像の違い . . . . 30
3.3 美形化結果 . . . . 31
3.4 評価が良くない美形化画像 . . . . 32
3.5 人間と判定関数による境界線の差 . . . . 33
3.6 提案手法による美形化結果 . . . . 35
3.7 既存手法と提案手法の美形化結果比較. . . . 38
3.8 提案手法による失敗例 . . . . 39
A.1 Leyvandらの美形化結果 . . . . 46
A.2 Mingmingらの美形化結果 . . . . 48
A.3 Stefanoらの美形化結果 . . . . 49
B.1 重みベクトル更新による形状の変化 . . . . 52 B.2 簡易顔検出器 . . . . 53
第 1 章 はじめに
1.1 背景
近年,顔写真を利用する機会が増えている.例えば,Twitter,Facebook,Instagram を代表とするSNSへのアップロードが挙げられる.他にも,サービスを利用するために顔写 真の登録が必要となる例もある.それらのサービスの中にはお見合いサイト,結婚支援サー ビスなどが挙げられる.これは,異性を選択する一つの要素として顔写真が利用されている ケースである.顔は個を特定する大きな特徴の一つであり,昨今ではセキュリティや娯楽,
サービスへの登録など様々な方面で利用されている.
顔写真において,顔の印象は大変重要な要素であると言うことができる.顔写真を別の人 間に見せる場合,より自分が魅力的に映っている写真を見せたいと考える人間は多い.実際,
上で挙げたようなサービスを利用する場合,多数の人間が複数撮影された顔写真の中で最も 魅力的に見える顔を選定する.このように誰かに見せる顔写真は選択肢の中で最も魅力的に 見える顔を選びたいと考える人は多く,顔写真を美しく見せるサービスにはニーズがあると 考えられる.実際に,顔写真を美しく修正する顔写真修正サービス,フリーソフトが多く存 在している.
例えば,株式会社グラフィックファクトリーでは顔写真の修正サービスが行われている[3]. このサービスは,ユーザーの要望に応えるように技術を持った人間が手動で顔写真を修正す るサービスである.このサービスでは顔の小顔化,二重あごの除去,目が二重になるように,
など様々な修正が行われる.結果,元写真と比較した時に魅力的に見える顔に修正されてお り,自分の顔写真を魅力的に見せたいユーザーの要望に応えている.
グラフィックファクトリーのサービスはユーザーの要望に応じてプロが顔写真を修正する サービスであるが,ユーザーが自分自身で写真を修正できるフリーソフトも存在する.その フリーソフトの例の一つとして PortraitPro[2] が挙げられる. PortraitPro による修正で は,顔のシワやシミ,吹き出物を無くした肌を実現し,目を大きく見せたり,小顔に見せる ことも可能である.結果として自分自身の手で,元写真に対してより魅力的に見える顔を生 成することができる.
上で挙げた二つの例は手動で顔写真を修正するサービスである.一方で,自動的に顔写真 を修正するサービスも存在する.自動的に修正する例の一つにプリントシール機が挙げられ る.プリントシール機は若い女性中心に流行し,通称プリクラとして知られている.プリク
ラは,ボックス内で撮影を行い,撮影された写真に自分自身で落書きなどを施した画像を出 力してくれるサービスである.この時,撮影された写真内に含まれる顔に対して,自動的に 修正を施している場合が多い.肌全体を明るく,瞳を大きく,輪郭を小さく,といった修正 を施すことで,入力された顔写真より美しい顔を出力している.
しかし,プリクラのように自動的に行われる修正では不自然さが残る場合がある.プリク ラの場合に不自然さが残る理由は,目を大きくする,顔を小さくするといった修正を全ての 顔に対して施すためである.つまり,元々目が大きい人だとしても,プリクラの自動的な修 正によってさらに目の領域が大きく変形される.従ってこの修正の結果,顔領域に対して目 の領域が大きくすぎる顔になり,顔として不自然な印象を与えることになる.同様に,元々 顔が小さい人だとしても,修正によってさらに小顔化されてしまう.結果,顔のパーツに対 してあまりにも小さすぎる顔になり,魅力的どころか顔全体に不自然さを覚える画像が出力 されてしまう.不自然な印象とは,あまりに過剰な変形が行われ,現実的に存在しないよう な顔が出力されることを意味する.つまり,自動的な美形化では結果として出力された顔が 美しく変形されていないケースがある.
顔写真の美形化は現在手動,自動含め数多く行われている.手動では顔写真を修正する人 の感覚によって美しくなる方向に修正し,自動では機械的に顔を美しくなる方向に変形させ ている.ただし手動の美形化はデータ化できない人間の感性が必要であること,また,自動 の美形化は出力画像に違和感が発生する可能性があるという問題点がある.
1.2 目的
本研究では,違和感が発生しない顔画像の自動美形化手法を提案する.手動による美形化 は人の感覚によって過剰な変形を防いでいるが,修正のノウハウや人間の感性が必要で簡易 にできないという問題がある.一方,プリクラのような自動美形化は出力画像に違和感が生 じる可能性があるといった問題がある.これらの問題点を鑑みて,自分は違和感が生じない 過剰な変形を防ぐ自動的な美形化を目的とする.
ここで過剰な変形を防ぐ,という定義を考える.過剰な変形を防ぐことは,これまでの自 動美形化の時に生じてしまう不自然さを残さないことが一つ挙げられる.一般的に目の大き い顔の方が美しいと判定されるからと言って,顔領域に対して目領域が異常なほどに大きい 顔に対して美しいと感じづらい.出力画像の顔のパーツ比率や面積比率を計算した時,結果 が平均から大きく外れるような顔にしてしまう変形を過剰な変形であると定義する.また,
入力画像の人物に比べて美しい別人の顔を出力することは美形化とは言えない.同様に,入 力画像の人物に比べて別人のように見えるほど変形した出力を行うことも美形化ということ はできない.このような変形も過剰な変形であると定義する.つまり,過剰な変形を防ぐと
は入力画像の顔と同一人物に見える範囲で変形を行い,顔のあらゆる比率が大きく平均から 外れない顔を出力することを意味する.
以上を考えた場合,美しいと思われる方向に多少顔画像を変形することで条件を満たすこ とができる.変形が微細であれば,過剰な変形も生じないためである.しかし,変形が微細 であった場合,入力画像と出力画像の差が少なく,美形化されたと感じない可能性がある.
変形する度合いを考えるとき,過剰な変形が防がれているならばその中で最も美しいと思わ れる顔に変形することが理想である.なぜならばこの変形は入力画像の顔と同一人物に見え る範囲で最も美しい顔が出力される変形を意味するためである.本研究では,実際にアプリ として用いられている既存自動美形化の短所である過剰な変形を防ぎきれないという問題を 解決し,入力画像の顔と同一人物に見える範囲で最も美しいとされる顔を自動的に出力する ことを目的とする.
1.3 関連研究
顔の美しさをどのように定義するか考えるうえで,人間が顔の美しさをどのように認識 しているかを考える.顔の美しさの認識に関しては,最初,心理学の方で研究が行われた.
1990年,Langlois とRoggman は平均的な顔が魅力的な顔である,と発表した[20].論じ た根拠として,進化において動物は大多数のもの,平均的なもの,典型的なものに賛成する ことによって子孫を残しやすくするという摂理が挙げられた.この動物的本能の知見に基づ き,人間も子孫を残す異性として平均的なものを選ぶ傾向にあり,顔の魅力は顔の平均性に 依存する,という仮説を立てた.その仮定を検証するために彼らは顔画像複数枚を合成した 平均顔を作成し,個人の顔画像と比較させた.結果,多くの被験者が個人の顔画像よりも合 成された顔画像の方が魅力的と答え,Langlois らは人間が認識する顔の魅力とは顔の平均 性であると主張した.
Langlois らの論文を中心に,心理学では顔の魅力と顔の平均性の関連性についての議論
が行われた.1991年に 平均的な顔は魅力的であると肯定した上で,顔の魅力は単に平均性 によって決まるものではない,とAlley らが発表した[7].彼らは顔の魅力に関するいろい ろな研究を引用し,非常に魅力的な顔はただ単純な平均的な顔でなく多少変則的なものであ ると述べた.その根拠として,Bussらの研究[11]を引用し,女性は,強さを反映している 男性の顔,また健康的に見える男性の顔を好む傾向にある可能性を示した.また,Alley が 1988年に発表した研究[6]を引用し,男性にとって,若年層の特徴を持つ大人の顔,つまり 幼く見える女性の顔の方が魅力的だと述べた.
Rhodesらは1996年,似顔絵を用いて顔の魅力と平均性の関連について述べた[26].この
論文では平均顔の魅力ではなく,ある似顔絵を平均形状に近づけることで似顔絵の魅力が向 上することを述べた.また,1999年,実画像を用いて Rhodes らは顔の魅力と顔の平均性
図1.1 : 左:正面用のマスク 右:側面用のマスク http://www.beautyanalysis.com/
より引用
の関連について述べた[25].彼らは実画像の顔の形状を平均形状に近づける,もしくは遠ざ けるという変形を行い魅力を比較した.実験の結果からRhodesらは平均性が顔の魅力と大 きく関連があるというLanglois とRoggman の意見[20]に同調した.また,左右対称性を 持たせた顔画像の方が魅力的であると評価された結果から,顔の対称性も顔の魅力につなが る要素の一つであると述べた.また,顔の対称性は顔の平均性とは独立に顔の魅力に関係が あるとして,顔の平均性は顔の魅力につながる要素の一つであると論じている.
顔の美しさについて,黄金比の観点から論じた主張も存在する[16, 18].黄金比とは1 : 1+
√5 2
を意味し,この比率で作られた造形物を見たとき,人間は直感的に美しさを感じる比率とさ れている.論文では,顔面においても目や口,鼻,パーツ間の比率など黄金比が多数存在す ることによって人間に魅力を与える顔になることを示している.顔に対して黄金比を当ては めたMarquardt Beauty Mask[16] は整形外科の分野でも使われており,最も美しい顔形状 と言われている.図1.1にMarquardt Beauty Maskを示す.
最近では心理学だけでなく情報工学の分野でも顔の美しさの定義や,顔の美しさを自動的 に評価する研究も進められている[10].機械的に顔の美しさを評価する基本的な考え方は,
顔の美しさが人間によって評価されたサンプルのスコアと顔画像間の距離を利用して美し さを評価することである. Eisenthalらは顔の特徴点から98次元のベクトルを作成し,顔 データの評価値の統合を行うことで顔の自動評価を行った[14].実験によって,この自動評 価と人間の評価に0.82のピアソン相関が見られ,人間の評価に近い点数を自動的に求める
図1.2 : 上段:形状の変形による美形化([21]より引用) 下段:色の変化による美形化([9]
より引用) 左:入力画像 右:出力画像
ことができる.
機械的に顔の美しさを評価できることによって,評価が向上するように特徴点の位置を変 化させることで,自動的に顔の美形化を行う研究がLeyvand らによって行われた[21].ま た顔の自動評価を利用せず,芸能人や著名人の美しい顔画像を利用することで美形化を行う 研究をMingming ら[29]や,Stefano ら[22]が行った.
本研究の目的は自動美形化手法の提案であるが,顔画像を自動的に美形化する方法は大き く二つに分けられる.一つは顔画像から顔の制御点を抽出し,顔形状を変形することによっ て美形化を行う方法である.もう一方は皮膚の色彩を均一化する,顔の中心を明るくする など,色を変化させることによって美形化する方法である.二つの美形化の手法の結果を図 1.2に示した.図のように形状の変形による美形化は美しいと評価される方向に顔の形のみ が変化し,色の変化による美形化は形状は全く変化させず,皮膚などの色のみが変化するも のである.
形状を変形する美形化は入力画像の形状をどのような形状に変形するかが非常に重要で ある.Leyvand らの自動美形化[21]はEisenthal らの顔の自動評価[14]を利用している.
Eisenthalらはスコア付けられた顔画像形状をSupport Vector Regression[28]で学習するこ とによって顔形状と美しさが関数で表現できることを示した.LeyvandらはSupport Vector
Regression によって得られた関数を利用し,美しさのスコアが高くなることで小さくなる
エネルギー問題を解くことによって美形化後の形状を求めた.エネルギー問題は入力顔画像 の形状に近い局所解に陥るため,別人に見えるほどの変化は生じない.また,エネルギー問 題を解く際に顔の形状を維持するような項を導入することによって,顔形状が平均から大き く離れることも防いでいる.結果,過剰な変形を防ぐような美形化を行っている.
形状を変形する美形化の既存研究としてMingming らの自動美形化[29]も挙げられる.
この自動美形化では芸能人などの美しい顔形状を利用することによって美形化を行うもの である.タレント,モデルなど美しいとされる顔画像から形状を抽出し,それらの形状を
K-meansによってK個にクラスタリングする.各クラスタの平均形状を近づけるべき理想
的な美しい形状と決定し,入力顔画像の形状をそれらに近づけることによって自動美形化を 行う.また,美しい顔形状とそうでない顔形状をSupport Vector Machineに学習させるこ とによって,その顔形状が美しいものであるかそうでないものかを識別する関数を作成する.
K個の形状のうち,入力顔画像の形状と最も近い形状に線形的に近づけることで美形化を行 い,関数によって美しいと評価されるまで近づけることによって,美しいと評価される中で 最も入力形状から近い形状に変形する.
Stefano らの自動美形化[22]も形状を変形する美形化の既存研究の一つで,芸能人などの
美しい顔形状を利用する美形化手法である.入力顔画像の形状とユークリッド距離が近い美 しい顔形状K個から顔形状を作成し,それに入力顔画像の形状を線形的に近づけることに よって美形化を行っている.Mingming らは近づける度合いを学習した関数によって決定し ていたが,Stefanoらは入力顔画像の形状と美しい顔形状K個から作成した顔形状の平均と している.
以上に挙げたのは顔の形状を変化させることで行う自動美形化の既存研究である.一方,
顔画像の色を変化させることによって美形化する方法としてArakawa らの手法[9]が挙げ られる.この手法では局所的にローパスフィルタを利用することによって目や口などの顔 パーツでない皮膚部分の色彩を均質化する.シミやしわ,ほくろなどの要素は顔の魅力を減 らしてしまうとし,そのような要因を削除することによって入力画像よりも魅力的に見え るといったものである.皮膚の色彩が均質化されることによってシミやしわが目立たなくな り,顔の魅力が向上しているという結果が証明された.図1.2の下段に美形化の結果を示し ている.
本研究では美形化のパラメータとして顔画像間の距離が必要である.なぜならば,本研究 では美形化後の出力画像が入力画像と同一人物に見える範囲内という制約があるためであ る.制約を厳守するためには美形化後の画像と入力顔画像の距離を計測し,同一人物に見え る範囲内と判定する必要がある.
顔画像間の距離として古くから用いられている方法に固有顔[30]がある.固有顔とは多数 の顔画像を主成分分析して得られた固有ベクトルを意味する.ある顔画像を固有顔を使って 表現し,各固有顔に対する重みを顔画像から得られた特徴ベクトルと表現する.特徴ベクト
ル同士のユークリッド距離を顔画像間の類似度とし,閾値よりも小さければ同一人物,大き ければ別人と認識することができる.
最近では顔画像が同一人物かどうか判断する基準として畳み込みニューラルネットワーク
(以下,CNN)[15]を用いるケースもある.CNNによる顔認識は固有顔よりも高次元で特徴
を捉え,認識するため,固有顔よりも高精度である.Brandonらによるネットワーク[8]は 顔画像が128次元の特徴ベクトルになり,ユークリッド距離が顔画像間の距離とすることが できる.ネットワークを学習する際は同じ人物ならば特徴ベクトルのユークリッド距離が小 さくなるように,異なる人物は特徴ベクトルのユークリッド距離が大きくなるように学習を 行う.これによって,学習されたネットワークは年齢や顔の角度,映り方に関係なく,同じ 人物ならばユークリッド距離が小さくなる特徴ベクトルを得ることができる.これを用いて ユークリッド距離が閾値以下ならば同一人物,閾値を超える場合は別人と認識することがで きる.
Deep Face[24]もCNNを用いて顔認識を行っている.彼らは16層のCNN,VGG-16[27]
というネットワークモデルに顔画像を学習させ顔認識に特化したネットワークモデルVGG- Faceを作成した.2622人,1人あたり200枚を超える学習データを用いて学習を行うこと で,同じ人物同士の特徴ベクトルは距離が近くなるように学習させたことで非常に高精度な 顔認識を行うことができる.Labeled Faces in the Wild[17],the YouTube Faces[32] など の顔データセットに対して顔認識を行った結果どちらも高精度で認識を成功させている.
第 2 章 提案手法
2.1 概要
本研究では入力顔画像に対し,同一人物と判定される範囲内で最大限に美形化した顔画像 を出力する.既存研究のように顔を美形化する方法は大きく分けて二通り存在する.一方は 顔の制御点を利用し形状を変形するもので,もう一方は肌や皮膚など顔の色彩を変化させる ものである.今回,本研究で行う美形化とは,前者の既存研究同様,顔形状を変形させるこ とによって行う手法を示すものとする.
本研究では,Mingmingら[29]やStefanoら[22]の美形化のように美しいとされる顔形状 を用意し,入力画像を美しい形状となるように画像全体をワーピングすることで美形化を行 う.また,今回の美形化の目的は入力画像と同一人物に見える範囲で最大限に美形化するこ とである.本研究では,入力画像と出力画像が同一人物に見えるかどうか判定する識別器を 顔画像を学習した既存のニューラルネットワークVGG-face[24]によって得られる特徴ベク トルと,ロジスティック回帰によって決定する.
入力顔画像の形状を美しい形状に変形させることで美形化を行う.変形の際,入力画像と 出力画像が同一人物に見えるかどうか判定する識別器によって変形に制約を加えることで,
同一人物と思われる範囲で最大限に美形化を行う.
2.2 手法の流れ
手法の流れをアルゴリズム図2.1に示した.入力は入力画像Iin,学習データや心理学知 見などから得られて作成した理想形状である.また,CNNとロジスティック回帰から入力 画像と変形後の画像が同一人物かどうか判定する識別器を作成する.この時,入力画像Iin を同一人物と思われる範囲で最大限に美形化した顔画像Ioutを図2.1で示したように出力 する.
美形化の事前準備として,理想形状と,同一人物か判定する識別器が必要である.以下,
理想形状をvbとする.理想形状vb は整形医学で用いられている比率や心理学の知見を基 に作成した.識別器は顔画像を学習した既存のネットワークモデルによって得られる顔特徴 ベクトルとロジスティック回帰を用いて設計した.
図 2.1 : 提案手法の概要図.画像の美形化と同一人物判定を繰り返すことで,過剰な変形 が行われていない範囲で最大限に美形化を行う.
提案手法は主に3つのステップで行われる.1つ目のステップでは入力画像Iinから入力 形状vinを求める.本研究では顔形状としてアラインメントした顔の制御点76点を利用す る.Active Shape Models[12]によってIinから76点の制御点座標を取得した後,76の制御 点座標をアラインメントすることでvinを求める.
2つ目のステップでは美形化を行う.変形パラメータαを用いて,変形中の形状をv(α) = αvb+ (1−α)vinで表現する.変形中の形状v(α)からワーピングによって変形画像I(α)を 生成する.ワーピングは三角メッシュを用いた変形を行った.
3つ目のステップでは美形化画像I(α)が入力画像Iinと同一人物かどうかの判定を行う.
この判定は事前準備で作成した識別器によって行う.
変形を行う度にIinと同一人物であるかどうか判定を行うことによって出力画像が別人と なってしまうような過剰な変形を防ぐとともに,同一人物と思われる範囲内で変形すること ができる.また変形パラメータが大きくなるたびに出力画像の顔形状は理想形状vbに近づ き,I(α)の美しさは向上する.従って,同一人物と判定される範囲内で最大限に美形化を 行うことが可能である.
今回の提案手法が大きく既存研究とどのように異なっているかについて2.3節で述べる.
またその以下の節において,事前準備,各ステップの詳細について説明する.用いる顔形状,
アラインメントについて2.4節,今回作成した理想形状vbについては2.6節,本研究にお ける美形化については2.7節,変形中の形状v(α)から顔画像I(α)を生成するワーピングに ついては2.5節,美形化顔画像I(α)が入力画像Iinと同一人物か判定する識別器については 2.8節で述べる.
2.3 既存手法との違い
既存手法では,美形化後の画像がなるべく入力画像からかけ離れないように美形化を行っ ている.これは出力画像の顔形状voutがvinとなるべく近い形状となるように算出すること で満たしている.各既存研究の美形化[21, 22, 29]については付録で詳しく述べている.既存 手法の場合,vinから美形化できる形状voutを求め,その形状となるようにIinを1回ワー ピングを行うことによって美形化を行っている.
一方で,提案手法ではワーピングを複数回行っている.つまり,美形化の過程で美しい形 状v(α)を求めるたびにワーピングを行い,作成された美形化後の画像I(α)がIinと同一人 物の範囲内であることを常に確認しながら美形化を行っている.これによって,IoutがIin
と比べ別人のように変形されてしまう過剰な変形を防ぐと共に,別人と判定される直前に存 在する最大限まで美形化された画像を出力することが可能である.
2.4 顔形状
本研究では顔の形状を変形させることで美形化を行う.研究で用いる顔形状としてはActive
Shape Modelsによって取得された顔の制御点76点の座標を用いる.また顔画像中の座標を
そのまま用いた場合,顔形状は,画像中に含まれる顔の位置,顔のサイズに大きく依存して しまう.顔の違いによる影響が大きく反映された顔形状のために,顔の位置,顔のサイズ,
顔の回転の影響を小さくするようにアラインメントする.アラインメントによって顔の違 いが大きく反映された顔の制御点76点が得られるので,座標を152次元のベクトルに並べ,
これを顔形状とする.以下に顔形状の詳細について述べる.
Active Shape Modelsによって顔画像から顔の制御点座標を得ることができる.本研究で用
いたActive Shape Modelsによって顔画像から得られる顔の制御点76点を図2.2に示す.右 の図中に黄色でプロットされている点が76の制御点であり,図で示しているように制御点は,
目,鼻,口などの特徴的なパーツや顔の輪郭に沿ってプロットされている.各制御点にはID が割り振られており順番が決まっている.従って,制御点座標を(x1, y1, x2, y2,· · ·, x76, y76) のように並べることで各顔画像に対して形状を得ることができる.
2.4.1 顔形状のアラインメント
Active Shape Modelsによって得られる座標はアラインメントを行う必要がある.なぜな
らば,画像中に含まれる顔のサイズや,顔の位置によって同じ顔であっても形状が大きく異 なってしまうためである.したがって,サイズ,位置,回転に頑健な顔形状を作成するため にアラインメントを行う.
図 2.2 : Active Shape Models によって得られる顔の制御点.左の入力画像に対して,
右に黄色くプロットされた76点の制御点位置が得られる.
図 2.3 : 左:入力画像. 中央:正準化に用いる制御点3点と,両目の制御点を結んだ線
分 l1. 右:線分 l1 を水平がなるように回転した画像に,線分 l1,線分 l2 ,交点 tを示 したもの .この正準化によって形状 v は位置合わせ,顔向きの調整,顔サイズの調整が行 われる.
アラインメントは,Active Shape Models によって得られた制御点76点の内,目の中心 の制御点2点と鼻の頂点の制御点1点を用いる.図2.3の画像上にある黄色い点はアライン メントに用いる3点を示したものである.アラインメントの大きな流れを以下に示す.
1. 両目のy座標を水平にすることで,形状に対する顔の回転の影響を減らす.
2. 顔の制御点座標の原点を,(鼻のx座標,両目のy座標) とすることで,画像中の顔の 位置の影響を減らす.
3. 両目のy座標から鼻のy座標までの距離を一定にすることで,顔のサイズの影響を減 らす.
アラインメントのそれぞれのステップについて図2.3を用いながら,詳細に説明する.
まず1つ目のステップとして,両目の点を線分で結ぶ.この線分をl1 とする.線分l1 は 図2.3中央の画像において水色の線で表している.顔において両目は水平の位置にあるとい
う事前知識を利用し,線分l1 が水平となるように回転を行う.具体的には,Active Shape Models で得られた制御点(xi, yi) (1≤ i≤76)に対して,回転角θを用いて以下の計算を 行う.
x′i y′i
=
cosθ −sinθ sinθ cosθ
xi
yi
(2.1)
この計算を行うことによって制御点(x′i, yi′)は両目が水平となるように回転された座標と なっており,顔の傾きの影響を減らすことができる.つまり,画像中における顔の回転に対 して頑健な形状を求めることができる.
2つ目のステップとして,鼻の頂点から線分l1 に対し垂線を引く.垂線と線分lの交点を tとする.また,鼻の頂点と交点tを結ぶ線分をl2とする.交点tは図2.3の右の画像にお いて赤色の点で,線分l2は真ん中の画像において水色の垂線で表現している.そして,交 点tを座標の原点とする.全ての顔形状において交点 tを座標の原点とすることによって,
顔画像における顔の位置を無視した顔形状を求めることができる.
最後に3つ目のステップとして,線分l2 の距離を定数Lとなるように座標全体をリサイ ズする.美しい形状vbを作成する際にしても,vinに対してもLを統一することで,画像 中における顔のサイズに対して頑健な顔形状を求めることができる.
この3ステップによるアラインメントを終えた76点の座標(x′i, y′i)を(x′1, y′1, x′2, y′2,· · · , x′76, y76′ ) のように152次元のベクトルとする.この152次元のベクトルを本研究では美形化に用いる 顔形状として利用する.この顔形状はアラインメントによって,入力画像におけるサイズ,
位置,傾きに頑健な顔形状となっている.本研究において顔形状vは全て,以上に述べたア ラインメント処理が終わっているものとする.
2.5 ワーピング
ワーピングとは,入力画像I,I の形状v,出力画像の形状v′から,形状v′を持つよう に変形した画像I′を出力する方法である.本研究では三角メッシュを利用することでワー ピングを行う.三角メッシュを用いたワーピングとは画像全体を三角形に分割し,それぞれ の三角形毎に変形を行うことで画像全体を変形する手法である.詳細を以下に記述する.
2.4節で述べたように,画像 I の形状v は(x1, y1, x2, y2,· · · , xn, yn) を表現しており,こ れは画像I は制御点(x1, y1),(x2, y2),· · · ,(xn, yn) を持っていることを意味する.図2.4の 左上の画像は画像に対して,対応する制御点群(xi, yi) と画像の隅4点を黄色い点でプロッ トしたものである.また,左下の画像は制御点群と隅4点を用いて,画像全体を三角形パッ チに分割した様子を示したものである.分割の方法は入力画像の形状に対して,ドロネー三 角分割を用いることで一意に決定する.ドロネー三角分割を行うことで図2.4の左下に示し
図 2.4 : 顔画像を三角メッシュで分割した様相である.右上:入力形状. 左上:出力形 状. 右下:入力形状に基づいた三角メッシュ. 右下:出力形状に基づいた三角メッシュ.
同じ色のメッシュは対応付けられているメッシュを意味している
たように画像全体が三角形パッチに分割され,全ての座標がどこかしらの三角パッチに含ま れている.
図2.4の右上に黄緑色で示した制御点群 (x′i, yi′)は形状v′ = (x′1, y1′, x′2, y2′,· · · , x′n, y′n)か ら得られた制御点である.制御点(xi, yi)と制御点(x′i, yi′)は対応付けられているため,vで 得られた三角パッチをv′において対応付けることが可能である.図2.4の左下の図と右下 の図はvを基に生成された三角パッチとv′を基に生成された三角パッチである.それぞれ の三角パッチは対応付けられており,対応付けられている三角パッチ同士は同一の色で示し ている.
図2.4の左下に示した三角パッチを,同一の色で示されている右の三角パッチになるよう に変形を行う.ある三角形を別の三角形に変形することはアフィン変換を行うことで可能で ある.画像Iの各三角パッチを対応する三角パッチに変形することで画像全体の変形を行う ことができる.
このように三角メッシュを用いることで,入力画像I,Iの形状v,変形後の形状v′から 画像I′を生成することが可能である.I′は顔形状がv′となるようにI を変形したものであ り,本研究ではv′を美しく変形できる形状とすることによって美形化を行う.
図 2.5 : 実験に使用する3つのvb.左から美容医学に基づいた形状,黄金比に基づいた形 状,美しいと評価された人物の形状,3つのvbを重ね合わせたもの.
2.6 美しい顔形状 v
bこの節では以下にvbの生成方法について述べる.本研究では3つの美しい形状vbを用意 し,実験を行った.用意した3つの形状は,美容医学に基づいた美しい顔形状,Marquardt
Beauty Mask[16]を踏まえた黄金比に基づいた顔形状,実際に美しいと評価された顔から抽
出した顔形状である.図2.5は各3つの形状と,それを一つに重ね合わせ違いを表現したも のである.
各vbが美しい形状である根拠,生成方法について詳細に説明する.
2.6.1 美容医学に基づいた美しい形状
美容医学に基づいた美しい形状とは,整形外科などで整形を行う際に用いられる美容医学 の比率に基づいた形状[4, 5]である.本研究で用いた比率は以下の3つである.
• 眉の下から鼻の下:鼻の下から顎の下 = 1:1となるように鼻の位置を変更する
• 鼻の下から口の真ん中:口の真ん中から顎の下 = 1:2 となるように口の位置を変更 する
• 顔の横幅:顔の中心から右目の中心:顔の中心から左目の中心 = 5:1:1
パーツ間比率を条件を満たすように調整することで,美しい形状vbを作成する.具体的 な作成方法について以下に述べる.
まず,用意した顔データベースから各パーツ毎に形状が美しいと思われる画像を選出す る.今回は各パーツとして,眉,両目,鼻,口,輪郭と定義する.上の条件を満たすだけで は,パーツ間の比率が美しいと言われているだけであり,各パーツの形状が決定していない.
よって,データより各パーツの形状が美しいものを選び,各パーツの形状が美しく,比率に よって各パーツ間のバランスもいい形状を生成するためである.
アラインメントした各選出された画像の制御点から,対応する制御点を組み合わせて形状 を作成する.図2.6に生成する様子を示した.
図 2.6 : 右下を除く5枚の顔画像は,各パーツ毎に形状が美しいと評価された顔画像.美 しい形状と評価されたパーツを黄色い点でプロットした.右下の顔形状は各画像の黄色い パーツ形状を組み合わせたもの.この形状は各パーツにおいて美しい形状を持つ形状となっ ている.
図2.6の右に示されている顔形状は各パーツにおいて美しい形状を持つ形状であると考え られる.
次に各パーツの形状は変化させず,各パーツ間の比率だけを美容医学の条件を満たすよう に変更する.条件を満たすように3つの調整を行い,その形状を美しい形状vbとする.
各パーツ毎に美しい顔形状を選出し,それぞれの形状を用いたことによってvbは各パー ツ形状が美しいと考えられる.また,パーツ比率の調整によってvbは各パーツ間が美しい 比率を持ったものである.従って,これらの処理を施したvbは各パーツによって美しい形 状とパーツ間の美しい比率を持った形状を意味する.
2.6.2 黄金比に基づいた美しい形状
Marquardt Beauty Mask[16] は黄金比を顔のパーツに当てはめて作成した顔のマスクで あり,最も美しい顔形状の造形と言われている.図1.1にMarquardt Beauty Maskを示し ている.このマスクを利用して,美しい形状vb を作成する.
本研究では,世界的に美しいとされている有名人のうち,顔の制御点がMarquardt Beauty Maskと一致するような画像を用意し,その顔形状をvbとする.vb作成において,Marquardt Beauty Maskそのものの制御点ではなく,顔パーツの配置がMarquardt Beauty Maskと一
図2.7 : 左は本研究で使用したオードリーヘップバーンの画像,右は左の画像にMarquardt Beauty Mask を当てはめた様子である([1]より引用) オードリーヘップバーンの正面顔 は,最も美しい顔形状とされるMarquardt Beauty Mask とほとんど一致していること が分かる.
致するような人物の画像を用いる理由は,その顔形状が美しいことを保証するためである.
今回用いる有名人として,オードリーヘップバーン (Audrey Hepburn) を選択した.理 由はオードリーヘップバーンが世界的に美しい人物とされていること,そして,顔の黄金 比を満たす人物とされているためである.図2.7にオードリーヘップバーンの正面顔画像に Marquardt Beauty Maskを当てはめた画像を示す.
Ian Johnstonは記事[19]において,オードリーヘップバーンはMarquardt Beauty Mask が最もフィットする一人であると示した.What makes a Beautiful Faceという記事[1]にお いてもオードリーヘップバーンの正面顔は,Marquardt Beauty Maskと一致すると示し,図 2.7の画像を紹介している.図に示したようにオードリーヘップバーンの正面顔はMarquardt
Beauty Maskとほとんど一致していると言え,本研究で用いる美しい形状に使用した.
2.6.3 実際に美しいと評価された人物の形状
本研究で用いる美しい形状vbの最後の候補として,実際に美しいと評価された人物の顔 形状を使用する.上でも同様に美しいと評価されているオードリーヘップバーンの顔形状を 利用しているが,ここでは黄金比や比率などを全く考慮しない顔形状を用意する.
今回用いる有名人として,韓国人で歌手をしているナナを選択した.理由は,映画評論サ
イトTC Candlerが毎年発表している「世界で最も美しい顔トップ100」というランキング
において,ナナが2014年,2015年共に1位を獲得したためである.美しい顔として評価さ れた人物の形状であり,ナナの顔形状を美しい形状として使用した.図2.8に本研究で使用 したナナの正面顔画像を示した.
図 2.8 : 本研究で使用したナナ (Nana) の正面顔画像.Active Shape Models によっ て顔形状を求め,美しい形状として使用した.
2.7 顔画像の美形化
本研究では入力画像Iinを顔形状が美形化形状v(α)となるようにワーピングを行うこと で美形化を行う.美形化形状v(α)は2.6節で作成した美しい形状vb,入力形状vin,変形 パラメータαを用いて,以下の式で定義する.
v(α) =αvb+ (1−α)vin
αが1に近いほど,より美しく変形できる形状v(α)であるとし,本研究ではこの形状を 持つようにワーピングを行うことで美形化を行う.入力形状vinよりもvbに近い形状に変形 することで美形化が行われることが前提となっているが,これは1999年に行われたRhodes らの実験[25]を根拠の一つとした.
1999年にRhodesらは顔の平均形状を用いて顔の印象にまつわる実験を行った.Rhodes
らは顔画像を平均形状に近づけた顔と平均から遠ざけた顔を作成し,評価実験を行った.印 象心理学において,平均形状は顔の美しい形状とされており,この実験は入力形状よりも美 しい形状に近い形状に顔画像を変形することで美形化が行われるか示すものである.つま り,本研究で用いる美しい形状vbの箇所を顔の平均形状として実験したものである.評価 実験の結果,多くの評価者,多くの画像に対し,入力画像よりも出力画像の方が魅力的と評 価された.つまり,この結果によってvinよりもある美しい形状に近い形状に変形すること で美形化が行われることが証明された.
2.5節で述べたようにワーピングを用いることで,Iin,vin,v(α)から美形化画像I(α)を 生成することができる.αが0より大きくなりv(α)が美しい形状vbに近づけば,上記した 根拠より美形化した画像が出力される.本研究では,αを0から大きくしていき妥当と思わ れる箇所で止めることで,入力画像と同一人物に見える範囲内で最大限に美形化された顔画 像を出力する.
図2.9 : 本研究で用いたVGG-Face モデル.黒い直方体は畳み込みネットワークと活性化 関数をする層意味している.グレーの直方体は畳み込みのみを行う層を意味している.活性 化関数にはReLU関数を用いている.赤い直方体はMax poolingを行う層を意味し,青 い直方体はsoftmaxを行う層を意味している.
αを決定する方法であるが,入力画像によって適切なα は異なるため,入力画像に合わ せて決定する必要がある.αは2.8節で詳細に述べる識別器を用いて決定する.識別器は入 力画像と変形後の画像が同一人物に見えるか判定する.つまり識別器による判定が同一人物 となる最大のαを用いて作成された顔画像I(α)は,入力画像Iと同一人物に見える範囲で 最大限に美形化された顔画像を意味する.よってこのように決定されたαが,今回の実験に おける適切なαである.
本研究では,全ての顔画像はvbに変形することで美形化できることを前提としている.
実際にvbに変形することで美形化できていることを示した実験を3.1節で示す.
2.8 同一人物と判定される範囲
入力画像と美形化後の画像が同一人物かどうか判定する関数は,VGG-Face[24]で生成 される顔画像の特徴ベクトルを,ロジスティック回帰によって判定する.
図2.9にVGG-Faceのモデル図を示す.このモデルに顔画像を入れると,入力画像が指定
した顔の人物N人とそれぞれ一致する確率を求めることができる.またその直前の層で求 められた特徴ベクトルを用いることによって顔の類似度を測ることができる.
VGG-Faceによって入力画像Iinから特徴ベクトルpinを求め,美形化画像I(α)から特徴 ベクトルp(α)を求める.特徴ベクトルのユークリッド距離を調べることで,IinとI(α)が 同一人物かどうか判定することが可能であると考え実験を行ったが識別は不可能であった.
なぜならば,VGG-Face は同一人物の異なる画像を多数学習させたネットワークモデルで あり,顔の変化に対して非常に頑健なネットワークモデルであったためである.実験を行っ たところ,美形化画像がほとんど入力画像と同一人物であると認識する結果になった.従っ
図2.10 : 顔データを10段階で変形させた様子.左上から右下にかけてα=0.1,0.2,. . ., 1.0としている.
て,判定する識別器を作成するためには実際に入力画像を美形化させた画像を学習させる必 要があり,pinとp(α)をロジスティック回帰によって学習させることで,人間の感性に近い 識別器を作成した.識別器の作成方法を以下に示す.
学習に用いるデータD はn次元のベクトルxiとそれに対する人間の評価yi を用いて {(xi, yi)|xi∈Rn, yi ∈ {同一人物と思われる範囲の変形,過剰な変形}}ni=1 と表記できる.
ロジスティック回帰で適切なxiとyiを学習させることによって,Dに含まれていない美形 化画像I(α)に対しても,入力画像Iinと同一人物かどうか判定することができる.学習に 使用する美形化画像と適切なxとyについて説明する.
学習のために,100人の顔画像を10段階に美形化した計1000枚の画像を使用する.変形 方法は2.7節で述べた方法でα=0.1,0.2,. . .,1.0の10段階の美形化を行っている.美形 化によって生成された10枚の顔画像を図2.10に示した.
学習に用いるデータDのベクトルxについて説明する.ベクトルxはVGG-Faceによっ て得られた顔画像の特徴ベクトルから計算する.また今回は図2.11に緑色で示した層から 特徴ベクトルを抽出した.用いた理由は深い層であり顔の特徴を示したベクトルであること と,次元を減らす前の層であり入力画像と美形化後の画像で特徴ベクトルに差が生まれやす いと考えたためである.これによって,入力画像Iin,美形化画像I(α)から,4096次元の 特徴ベクトルpinとp(α)を求めることができる.得られたpとp(α)から4096次元のベク トルxを計算し学習に用いる.xの各要素はpとp(α)の各要素の差の二乗である.
次に学習に用いるデータDのyについて説明する.yは1000枚の美形化画像に対する人 間の評価であり,各画像は人間によって入力画像と同一人物と思われる変形か,過剰な変形 か2値の情報が与えられている.今回は3人の評価者によって評価してもらい,人間の評価 を決定した.実際に人間によって,変形後の画像が過剰な変形であると評価された画像を図
図 2.11 : 2.11で示したVGG-Face モデルのうち,顔画像の特徴ベクトルを抽出した層 を緑色で示した.
2.12に示す.
ロジスティック回帰の学習に必要なデータDについて示した. ロジスティック回帰によっ てDを学習することで内部パラメータが決定する.ここで決定した内部パラメータを用い ることによって,Dに含まれていない美形化画像I(α)に対しても,入力画像Iinと同一人 物であるか過剰な変形が行われたか判定することができる.
内部パラメータを決定する際に使用するコスト,ハイパーパラメータC,そしてその決定 方法について説明する.ロジスティック回帰を学習する際に必要なコストはL1ノルム,ま たはL2ノルムで計算し,コストが小さくなるように学習する.またその際の学習レベルを ハイパーパラメータCが決定する.Cは小さいほど訓練データにフィットせず,大きいほ どフィットする値である.Cは大きいと過学習になってしまうが,小さい場合正しく学習さ れない場合がある.適切なコストと,適切なCを求めるため,K-分割交差検証を行う.K- 分割交差検証とは,学習データをK個に分割し,1つを検証用データ,K-1個を学習デー タとし,K回検証を行うことである.K回の結果を平均し,適切なコスト計算方法とハイ パーパラメータCを決定する.今回K=10とし,10-分割交差検証を行った.図2.13に10- 分割交差検証に使用するデータ作成方法を示し,表2.1にその結果を示した.ここで精度は Intersection-over-Union (以下,IoU)を意味する.
表2.1で示した結果より,C=0.05,コスト算出方法をL1ノルムとすることが,最も適切 であることが分かる.よって,本実験においても,使用するCは0.05,コストはL1ノルム で求めるものとする.
図2.12 : 変形が過剰な変形であると識別されるケース.各ペアに対して左が入力画像,右 が美形化後画像
図 2.13 : 10-分割交差検証データの作成方法を示した.100人×10枚の学習データから 10個の検証用データセットを作成する.緑色で示したものが交差検証時の学習用データ,オ レンジで示したものが検証用データとなっている.
表 2.1 : 10-分割交差検証で求められた精度
C コストをL1ノルムで計算 コストをL2ノルムで計算
0.00001 0.0215 0.372
0.0001 0.0215 0.398
0.001 0.0215 0.458
0.01 0.479 0.481
0.05 0.544 0.477
0.1 0.527 0.473
1 0.505 0.456
10 0.510 0.452
100 0.517 0.455
1000 0.476 0.448
第 3 章 実験
3.1 美形化実験
3.1.1 美形化実験の目的
本研究では,同一人物と判定される範囲で最大限に美形化することが目的である.提案手 法は全ての顔画像に対し,顔形状を用意した美しい形状vbに近づけることで美形化される ことが前提となっている.美形化実験では,実際に各顔画像に対しvbを用いてワーピング を行い,美形化画像と入力画像を比較することによって,美形化されることを実証する.
3.1.2 手法
今回,135枚の顔画像に対して美形化画像を作成し,入力画像と美形化画像どちらが美し いと感じるか主観評価実験を行った.どちらが美しいと感じるか評価者が比較する時,入力 画像と美形化画像はランダムで表示され,評価者はどちらの画像が入力画像で,どちらの画 像が美形化後の画像化を知らない状態で比較を行う.これによって,美形化後の画像に対し て先入観が入らない評価を行うことができる.
まず,美形化画像を作成する方法を以下に示す.
1. 入力画像Iinから入力形状vinを求める.求める方法は,提案手法と同様にActive Shape
Modelsによって制御点を検出した後,アラインメントで行う.
2. 2.5節で示したワーピングを行う.入力画像Iin,vin,美しい形状vbからワーピング を行い,美形化画像Ioutを作成する.
提案手法では,ワーピングする際にv(α)という形状を用いる必要があり,適切なαを決 定する必要がある.しかし,この美形化実験は美しい形状vbを用いてワーピングをするこ とで美形化が行われるか確認を行う実験であるため,Iin,vin,vbを用いてワーピングを一 回だけ行い美形化画像Ioutを作成している.
次に評価実験の方法を述べる.また,評価者は図3.1のような画面を見ながら評価を行った.
1. 評価者に左右ランダムに入力画像と美形化画像を見せる.
2. 左の方が美しい,右の方が美しい,判断できないの3段階で評価させる.
図 3.1 : 評価者が美形化評価を行う画面.顔画像2枚はどちらが入力画像でどちらが美形 化画像かランダムに表示され評価者には分からない.評価者が美しいと感じた顔画像の方を クリックすることで評価を行う.また,変化を感じない,どちらが美しいと判断できない場 合は右上の Unchanged をクリックする.
3. 統計を取り,どれくらいの確率で美形化画像は美しいと評価されたか,各画像に対し てどれくらいの確率で美形化画像は美しいと評価されたか求める.
この評価実験の統計結果を基に,用意した美しい形状vbを用いることによって美形化が 行われるかどうか確認する.
3.1.3 用いるべきvbの決定
2.6節で示したように,今回美しい形状vbとして3つの候補を設定した.1つは美容医学 に基づいた顔形状,1つは黄金比に基づいた顔形状,最後に実際に美しいと評価された人物 の顔形状である.用意した3つの形状の中で最も美形化が行われる形状を美形化実験,もと い本実験で用いる美しい形状vb とする.
決定する方法は美形化実験同様の評価実験を行う.vbの決定に関する評価実験の方法を 以下に記す.
1. Iin,vin,vbからワーピングを行い,Ioutを作成する.135枚のIinに対し,美しい形 状vbが3種類存在するため,Ioutが405枚作成される.
2. 評価者に左右ランダムに入力画像と美形化画像を見せる.
3. 左の方が美しい,右の方が美しい,判断できないの3段階で評価してもらう.
4. 統計を取り,美形化画像が美形化されたと判断された確率が最も高い形状を用いるべ き理想形状vbとして決定する.
vbの決定において,3人の評価者によって評価実験を行った.評価実験を行った結果,表 3.1のような結果が得られた.図3.2にはvbの違いによる美形化画像の違いを示した.
表 3.1 : vbの決定に関する評価実験の結果 美形化に用いた顔形状
美形化画像を 美しいと評価
どちらが美しいと 判断できない
入力画像を 美しいと評価 美容医学に基づいたvb 80% 11% 9%
黄金比に基づいたvb 92% 6% 2%
実際に美しい人の顔形状vb 75% 17% 18%
表3.1にも示したように,黄金比に基づいた顔形状を用いることで美形化画像が美しいと 評価された確率が高かった.また黄金比に基づいた顔形状は,入力画像の方が美しいと評価 された確率が最も低く,理想的な美形化であると言える.従って,黄金比に基づいた顔形状 を美形化実験,本実験で用いるべき美しい形状vbとして用いることとした.
3.1.4 実験結果
3.1.3節によって用いるべき美しい形状vbが決定した.決定されたvbを用いて美形画像
を作成し,評価者19人,顔画像135枚で主観評価実験を行った.評価実験を行った結果,表 3.2のような結果が得られた.図3.3には主観評価実験で用いた入力画像と美形化画像を示 した.
表 3.2 : 主観評価実験の結果 美形化画像を
美しいと評価
どちらが美しいと 判断できない
入力画像を 美しいと評価
86% 4% 10%
3.1.5 考察
表3.2に示したように,高確率で美形化画像が美しいと評価された.この結果によってか ら,入力顔画像の形状を美しい形状vbに近づけることで顔画像は美形化できると考える.
一方で,3.1.3節で3つの候補から1つvbを決定した際と結果を比較し,入力画像の方が 美しいと評価されたケースが大きく増えている.図3.4には主観評価の結果,入力画像の方 が美しいと評価された数が多かった入力画像と美形化画像を示した.
図3.4の各画像は自分ではどちらが美しいと判断が難しいものが多い.実際評価実験の結 果,図3.4に示した4枚に限定した場合,美形化画像の方が美しいと評価された確率42%, どちらが美しいと判断できないと評価された確率16%,入力画像の方が美しいと評価され
図3.2 : 美しい形状vbの違いによる美形化画像の違い.左から,入力画像,美容医学に基 づいたvbによる美形化画像,黄金比に基づいたvbによる美形化画像,実際に美しいと評価 された人物の顔形状による美形化画像
た確率42%となっている.このように,どちらが美しいと判断が難しい場合に入力画像の方 が美しいと評価されてしまうケースがあったと考えられる.
一方で,図3.4に示した4枚の顔画像を除いた全ての画像において,過半数の人間が美形 化画像の方が美しいと評価される結果になった.この結果を受けても,美しい形状vbを用 いてワーピングを行うことで入力画像よりも美しい顔画像が出力されることを実証すること ができた.
図 3.3 : 美形化結果を8例挙げる.各ペアに対して,左が入力画像,右が美形化画像.
3.2 顔認識実験
本研究では,同一人物と判定される範囲で最大限に美形化することが目的であり,同一人 物の範囲内かそれとも過剰な変形であるかの判定が非常に重要な要因である.顔認識実験で は,2.8節に示した判定関数による判定が人間の感性と近いかどうか検証を行う.
3.2.1 手法
学習データは100人の画像を10段階に美形化した1000枚の顔画像から求められた4096 次元の特徴ベクトルと,入力画像と比較した人間の評価である.またテストデータは学習 データには含まれていない35人の画像において求められた350個の4096次元の特徴ベクト ルと,人間の評価とする.ロジスティック回帰に用いるハイパーパラメータCは0.05とし,