蛍光に基づく照度差ステレオのための光源波長と観測波長の最適化
6
0
0
全文
(2) Vol.2018-CVIM-211 No.13 2018/3/2. 情報処理学会研究報告 IPSJ SIG Technical Report. とした形状復元技術では,反射光のみを仮定する手法では. 2. 関連研究 照度差ステレオ [13] は光源方向を変えて撮影した複数 枚の画像の陰影から物体表面の法線ベクトルを画素ごとに 推定する手法である.また,照度差ステレオはランバート 拡散反射光,つまり物体表面の明るさが照度に比例する反 射光のみが観測されるシーンを仮定している.しかし現実 のシーンにはこの仮定に従わないものが多く存在し,法線 推定精度の悪化を招く.照度差ステレオを拡張する手法は 明るさが照度に比例しない成分が含まれるシーン [3] や相 互反射光 [8] を仮定する手法,光源方向が未較正である場 合 [2] の手法など,数多く提案されているが,画像の明る さだけを用いて画像の色情報を考慮しない.しかし近年, 多波長光源やカラー(マルチバンド)カメラなどを用いて 得られる分光情報を利用して従来の形状復元技術を拡張す る手法が提案されている.. Nam ら [7] や Liao ら [5] は物体反射率の波長依存性を利 用して相互反射のモデルを解くことで,相互反射光に対し て頑健に物体表面の法線を推定した.Takatani ら [12] は, 物体の BRDF が波長によって異なることに着目して,複数 のカラーフィルターを用いてそれぞれのフィルターごとに 法線を推定した上で,物体上の異なる色の領域ごとに推定 された領域の法線ベクトルを並べた行列を評価し,最適な 法線を組み合わせる手法を提案した.しかし Takatani ら の手法では領域のクラスタリングを必要とするため,画素 毎に適用が出来ない.またこれらの手法は光源波長と観測 波長が同じであると仮定している.これに対して我々の手 法では光源波長と観測波長の両方を独立に考慮して,その 両方を画素ごとに最適化している. 蛍光物体を対象として物体形状を推定する手法も提案さ れている.蛍光物質は光源中の特定領域の波長を吸収して 物体固有のより長波長の光を放出し,吸収波長と放出波長 のピークの差はストークスシフトと呼ばれる.ストークス シフトのため,短波長の入射光で物体を照射して長波長の 帯域を観測することで反射光と蛍光が分離できる.鏡面反 射光は入射光と同じ波長であるので蛍光を分離することで 画像から取り除くことができる.また蛍光放出スペクトル と蛍光吸収スペクトルはストークスシフトによって重なり が少ないため,物体凹部でも再帰的な蛍光は生じづらい.. Sato ら [10] は,蛍光物体に短波長の光を入射して入射 光よりも長波長の領域を観測することで,画像から分離さ れた照度に比例する蛍光成分の明るさに基づいて物体の形 状を推定した.また Treibitz ら [11] も Sato らと同時期に 同様な手法を提案している.従来は明るさ解析の分野で研 究が進められてきた形状復元技術であるが,近年では光源 の分光分布やカメラの分光感度を工夫する分光イメージン グ技術による拡張が注目されている.特に蛍光物体を対象. c 2018 Information Processing Society of Japan ⃝. ランバート拡散反射より複雑なモデルや,撮影条件の制限 を必要としていた鏡面反射光や,相互反射光に対しても頑 健にかつ容易に物体形状を復元できる.しかし蛍光物体の 形状を推定する手法は,蛍光物体の分光特性が既知で,な おかつ一様である必要がある.. 3. 提案手法 ある蛍光物体を撮影して得られる画素値には,その明る さが照度に比例する拡散反射成分と蛍光成分に加えて,鏡 面反射成分や物体凹部では相互反射成分が含まれる.画素 値に鏡面反射成分などが含まれる場合,画素値は照度に比 例しないため,一般に照度差ステレオによる法線の推定精 度は悪化する. 画素値中に含まれる照度に比例する成分とそうでない成 分の比は,光源波長・カメラ分光感度・被写体によって異 なるため,照度差ステレオによって法線を推定するために 適切な波長を選択することが有効であると考えられる.特 に蛍光物体を対象とした場合,短波長の光源と長波長領域 に高い感度を持つカメラで被写体を観測すれば明るさが照 度に比例しない鏡面反射光を含む反射光と蛍光との分離が 可能となり,物体の凹部での再帰的な蛍光は蛍光放出スペ クトルと蛍光吸収スペクトルとの重なりの少なさから生じ づらく,頑健な法線の推定が期待できる. 本節では,提案手法で仮定する蛍光物体のモデルと,観 測輝度値と光源方向ベクトルを並べた行列のランクに基づ いて,蛍光物体の分光特性が未知であっても自動で法線推 定に最適な光源色とカメラ分光感度(RGB カメラのいず れかのチャネル)の組み合わせを画素ごとに決定する手法 について紹介をする.. 3.1 蛍光物体モデル 蛍光物体は吸収した波長よりも長波長の蛍光を放出し, その明るさは照度に比例すると近似できる [10] [11].一般 的な蛍光物体では蛍光と共に反射光も観測され,その拡散 反射成分の明るさもまた照度に比例すると近似できる.古 典的な照度差ステレオは画素値が照度に比例すると仮定し ているが,実際のシーン中にはこの仮定に従わない,鏡面 反射光や相互反射光が観測される. 本研究では,平行光線によって照らされる蛍光物体表面 上のある点の明るさを i として以下のモデルを使用する.. i=r+f +ϵ ∫ r = ρ(λ)l(λ)p(λ)dλs⊤ n ∫ ∫ f = e(λ)p(λ)dλ a(λ′ )l(λ′ )dλ′ s⊤ n. (1) (2) (3). ここで r,f は画像中の拡散反射成分と蛍光成分,ϵ は画 像中に含まれる鏡面反射光 · 相互反射光などの外れ値,λ. 2.
(3) Vol.2018-CVIM-211 No.13 2018/3/2. 情報処理学会研究報告 IPSJ SIG Technical Report. は光の波長,ρ(λ) は分光反射率,l(λ) は光源の分光分布,. p(λ) はカメラの分光感度,s = (sx , sy , sz )⊤ , ||s||2 = 1 は ⊤. であっても特異値は非 0 となる. そこで本研究では,行列 Acb のランクが3に近いかどう. 光源方向ベクトル,n = (nx , ny , nz ) , ||n||2 = 1 は法線ベ. か,つまり光源色 c カメラバンド b で観測をした時の明る. クトル,e(λ) は蛍光放出スペクトル,a(λ) は蛍光吸収スペ. さが照度差ステレオの仮定に近いかどうかを判定するため. クトルである.. の評価値 Ecb を行列 Acb の特異値を用いて,. 本研究では図 4 に示すような多波長 · 多方向光源装置を. Ecb =. 使用して複数の光源方向 d = 1, 2, · · · , D,複数の光源分光 分布(光源色)c = 1, 2, · · · , C の下で RGB カメラ(3バ ンド b = R, G, B )により撮影した蛍光物体画像を入力と する.各光源方向 · 各光源色 · 各バンドにおける物体表面 上のある点の観測画素値 idcb は,. ϕ4 (Acb ) ϕ3 (Acb ). (7). のように設計する.ここで ϕ4 (Acb ) と ϕ3 (Acb ) は行列 Acb の4番目と3番目の特異値である.. Ecb は Icb が照度に比例するとき最小値となる 0 をとる. 光源色を変えて RGB カメラで画像を撮影した場合,それ. idcb = rdcb + fdcb + ϵdcb. (4). となる.画素値中に含まれる外れ値の比は光源色とカメラ. ぞれの光源色とカメラバンド(RGB)の組み合わせをそれ ぞれ評価すると,照度差ステレオによる法線推定に最適な 光源色 cˆ とカメラバンド ˆb は,. バンドの組み合わせによって異なる.蛍光物質中の電子を 励起する光源色 cˆ で被写体を照射して,放出される蛍光の 分光分布に対して高い感度をもつカメラバンド ˆb で観測を した場合,ϵdˆcˆb の画素値 idˆcˆb に対する比は小さくなり,高 精度に物体形状の復元が可能となる.. {. c,b. の明るさベクトル Icˆˆb と光源方向行列 S から物体表面のベ. 3.2 法線推定に最適な光源色とカメラバンドの決定 光源色 c カメラバンド b で複数の光源方向 d = 1, 2, · · · , D. (8). となる.最適な光源色 cˆ とカメラバンド ˆb で観測したとき. ˆ は, クトル n. 物体表面上のある点の輝度値が照度に比例する場合,ある. } cˆ, ˆb = arg min Ecb. ( )−1 ˆ = S⊤S n SIcˆˆb. (9). ˆ を長さが 1 になるように正規化する. となる.さらに n. 4. 実験結果. で被写体を照らした場合画素値を考えると,得られる明る ⊤. 提案手法では,図 4 に示すような多波長 · 多方向光源装. . 置を用いて撮影した蛍光物体画像を入力として,照度差ス. n = Sn . テレオに最適な光源色とカメラバンドの組み合わせを自動. さベクトル Icb = (i1cb , i2cb , · · · , iDcb ) は,. Icb. i1cb. i2cb = . .. iDcb. . . s⊤ 1. ⊤ s2 = αcb . .. s⊤ D. (5). となる.ここで αcb は物体表面の分光特性 · 光源の分光分 布 · カメラの分光感度によって決定される定数であり,光 源方向が変化しても一定であるため無視できる.さらに輝 度値ベクトル Icb と光源方向行列 S を結合した行列 i1cb s1x s1y s1z i2cb s2x s2y s2z Acb = . (6) .. .. .. .. . . . iDcb sDx sDy sDz を考える. 輝度値が照度に比例する場合,任意の三次元ベクトル n に対して Icb = Sn が成り立つ.つまり I は S を成す三本. 選択する.本節では合成画像と実画像による実験を行い, 提案手法の有効性を確認する.. 4.1 合成画像実験 評価関数の妥当性を確認するために,図 1 に示す空間的 に非一様な分光特性(蛍光吸収スペクトル · 蛍光放出スペ クトル · 分光反射率)と光沢をもつ蛍光物体の画像を合成 して入力とした実験を行う.分光特性の設定には実物体の データセット(蛍光特性 [6] と分光反射率 [9])を用いた. 光源色は 6 色,光源方向は球をカメラ側から照らす 45 方 向の場合と球を取り囲む 128 方向の場合を比較する.カ メラは平行投影の RGB カメラを設定した.さらに実画像 実験に条件を近づけるために,合成した画像にガウスノイ ズ(256 階調画像の時に標準偏差 σ が 0, 1, 2, 4 である場合 を比較)を加えた.また鏡面反射成分のレンダリングには. Phong モデルを用いた.. の行ベクトル Sx , Sy , Sz の線形結合であるため,行列 Acb. 図 2(a)(c) は提案手法により選択された光源色,(b)(d). のランクは3となり,k 番目の特異値 ϕk (Acb ) は k > 3 で 0. は選択されたカメラバンドである.光源方向数 D = 128 の. となる.しかし,観測される明るさに鏡面反射光や相互反. 場合,式 (8) によって物体上のほとんどの領域で蛍光を励. 射光(その他にもノイズなど照度に比例しない成分)が含. 起する光源色(左半球では短波長側から 1 番目の光源色,. まれる場合は行列 A のランクは3より大きくなり,k > 3. 右半球では短波長側から 3 番目の光源色)と蛍光放出スペ. c 2018 Information Processing Society of Japan ⃝. 3.
(4) Vol.2018-CVIM-211 No.13 2018/3/2. 情報処理学会研究報告 IPSJ SIG Technical Report. クトルと重なりを多く持つカメラバンド(左半球では G バ ンド,右半球では R バンド)の組み合わせが選択できてい ることが確認できる.D = 45 の場合は,球の領域の端部 では鏡面反射光が観測されないためガウスノイズの比が小 さい組み合わせが選択されていると考えられる. 図 3(a)(b) は提案手法により選択された光源色とカメラ. (a). (b). (c). (d). バンドの組み合わせで得られる画素値を用いて推定された 法線ベクトルと,従来手法により推定された法線ベクトル を可視化した結果である.図 3(c)(d) は法線の推定誤差の 大きさを可視化した結果である.光源色とカメラバンドに 関して平均をとった画素値から法線を推定した場合は入力 画像中で鏡面反射光が観測される領域の精度が悪化してい る.また光源色とカメラバンドの組み合わせを全ての領域. (e) 蛍光吸収スペクトル. (f) 蛍光放出スペクトル. で固定して得られた画素値から法線を推定した場合,その 組み合わせで蛍光が励起できない,もしくは蛍光放出を観 測できない領域では,画素値が小さく(暗く)なることで 画像中のガウスノイズに対する S/N 比が悪化することで 推定誤差が増大する. 表 1 は法線推定誤差の定量的評価である.光源色とカメ ラバンドに関する平均画素値から法線を推定すると,ガウ スノイズに対しては頑健に推定ができるが鏡面反射の影響 で法線推定精度が悪化する. 最も短波長な光源色で物体を照射して G バンドで観測を した時の画素値から法線を推定すると,物体の右側領域で 光源分光分布と蛍光吸収スペクトルの重なりあるいは蛍光. (g) 分光反射率. (h) 法線ベクトル. 図 1: (a) 白色光下での蛍光物体画像,(b) 鏡面反射成分の み,(c) 蛍光成分のみ,(d) 拡散反射成分のみ,(e)(f)(g) 物 体の分光特性(緑線:左側領域,赤線:右側領域) ,(h) 物 体の法線ベクトル. 放出スペクトルとカメラ分光感度の重なりが小さくなるた めガウスノイズの影響で法線推定精度が悪化する.短波長 側から 3 番目の光源色で物体を照射して R バンドで観測を した時の画素値から法線を推定すると,物体の左側領域で は蛍光を励起できず鏡面反射光とガウスノイズの影響で法 線推定精度が悪化する. 光源方向数が少ない場合はガウスノイズによる法線推定. (a). (b). (c). (d). 精度の悪化が,光源方向数が多い場合は球の全域で観測さ れる鏡面反射光による法線推定精度の悪化が生じるが,提 案手法を用いるといずれの場合でも高精度に法線推定が可 能となる.以上の結果から,本稿で提案する手法によって 各画素ごとに最適な光源色とカメラバンドの組み合わせを 推定可能で有効であることが確認できた.. 4.2 実画像実験. (e) 光源色ごとの分光分布. (f) RGB 各バンドの分光感度. 図 5(a) に示す,二種類の蛍光を持つ生地を巻き付けた. 図 2: 提案手法により選択された (a)(c) 光源色と,(b)(d) カ. 筒を被写体として,図 4 の多波長 · 多方向光源装置を用い. メラバンド(ガウスノイズの標準偏差 σ = 4,左側のセット. て実際に撮影した画像(光源装置の上半球 45 方向から可. が光源方向数 45,右側のセットが光源方向数 128) .(e)(f). 視光領域の 11 色で被写体を照らして撮影した 495 枚のカ. は画像合成に用いた光源の分光分布とカメラ分光感度.. ラー画像)を入力として,実画像実験を行った. 図 5(b) は提案手法により選択された光源色,(c) はカメ. なる箇所では,蛍光を励起する短波長の光源色と蛍光をと. ラバンドである.提案手法によって,反射光では観測画素. らえられるカメラバンドの組み合わせが選択できているこ. 値にランバートモデルからの外れ値が多く含まれるように. とがわかる.図 5(d) は提案手法により選択された光源色. c 2018 Information Processing Society of Japan ⃝. 4.
(5) Vol.2018-CVIM-211 No.13 2018/3/2. 情報処理学会研究報告 IPSJ SIG Technical Report. (a). (b). (a) 多波長 · 多方向光源装置. (b) LED クラスタ拡大図 (c). (c) LED の分光分布. 図 4: 128 方向に LED クラスタを持つ多波長 · 多方向光源. (d). 図 3: (a)(b) 各手法による法線推定結果と,(c)(d) その. 装置 Kyutech Light Stage II.上半球に配置された 45 方向. 推定誤差.(a)(c) 光源方向数 D = 45,(b)(d) 光源方向数. の LED クラスタと可視光領域に波長のピークを持つ 11 色. D = 128 の場合.(左上)提案手法によって選択された組. の光源を実画像実験の入力画像の撮影に用いる.. み合わせ, (右上)光源色とカメラバンドに関しての平均, (左下)最も短波長の光源と G バンドに固定, (右下)3 番 目に短い波長の光源と R バンドに固定によって得られる画 素値を入力とした照度差ステレオ(ガウスノイズの標準偏 差 σ = 4). は推定された法線から復元された物体形状である.提案手 法により復元された物体形状(青線)は,蛍光を観測でき る光源色とカメラバンドの組み合わせを手動で選んだ場合 (赤線)に近い結果となっているが,光源色とカメラバン ドに関して平均をとって得られる画素値を用いた場合(黒. 表 1: 法線の平均推定誤差:(a)(e) 提案手法によって選択. 線)や,蛍光を観測できない光源色とカメラバンドの組み. された組み合わせで得られる画素値を入力とした照度差ス. 合わせを選んだ場合(緑線)場合は鏡面反射光の影響で形. テレオ,(b)(f) 光源色とカメラバンドに関する平均画素値. 状復元の結果が歪んでしまう.. を入力とした照度差ステレオ,(c)(g) 最も短い光源波長と. 以上の結果から提案手法は実画像に対しても法線を推定. G バンドで観測した画素値を入力とした照度差ステレオ,. するために最適な光源色とカメラバンドの組み合わせが選. (d)(h) 三番目に短い光源波長と R バンドで観測した画素. 択可能で,鏡面反射成分に対しても頑健に形状復元が可能. 値を入力とした照度差ステレオ.(a)(b)(c)(d) は D = 45,. になることがわかる.. (e)(f)(g)(h) は D = 128 の場合.. 5. むすび. (a). (b). (c). (d). σ=0. 1.37°. 7.96°. 1.40°. 7.17°. 本稿では,蛍光に基づく照度差ステレオを対象として,. σ=1. 1.40°. 7.96°. 2.47°. 8.20°. 多波長多方向光源装置を用いて撮影したカラー画像から,. σ=2. 1.46°. 7.97°. 4.10°. 9.62°. σ=4. 1.73°. 8.02°. 7.53°. 12.60°. (e). (f). (g). (h). 法線推定に最適な光源色とカメラバンドの組み合わせを自 動で画素ごとに選択する手法を提案した.提案手法によっ て,被写体の分光特性が未知であっても相互反射光や鏡面. σ=0. 1.40°. 14.57°. 1.44°. 13.09°. σ=1. 1.41°. 14.57°. 1.91°. 13.17°. 反射光に対して頑健に蛍光物体の法線推定が可能となる.. σ=2. 1.44°. 14.56°. 2.77°. 13.32°. そして合成画像と実画像による実験によって,画素ごとに. σ=4. 1.56°. 14.55°. 4.70°. 13.81°. 最適な光源色とカメラバンドの組み合わせを選択すること が蛍光物体の法線推定に有効であることを確認した.. とカメラバンドの組み合わせで得られる画素値を用いて推 定された法線ベクトル,(e)(f)(g)(h) は従来手法により推 定された法線ベクトルを可視化した結果である.図 5(h). c 2018 Information Processing Society of Japan ⃝. 謝辞 本研究の一部は,JSPS 科研費 JP16H01676,および,. 5.
(6) Vol.2018-CVIM-211 No.13 2018/3/2. 情報処理学会研究報告 IPSJ SIG Technical Report. [6]. [7]. (a). (b). (c). [8]. [9]. (d). (e). (f). (g). [10]. [11]. [12]. [13] (h). G. McNamara, A. Gupta, J. Reynaert, T. D. Coates, and C. Boswell, “Spectral imaging microscopy web sites and data,” Cytometry Part A: the journal of the International Society for Analytical Cytology, Vol. 69, no. 8, pp.863–871, 2006. G. Nam and M. Kim, “Multispectral photometric stereo for acquiring high-fidelity surface normals,” Computer graphics and applications 2014, 34(6), pp.57–68, 2014. S. Nayar, G. Krishnan, M. D. Grossberg, and R. Raskar, “Fast separation of direct and global components of a scene using high frequency illumination,” In ACM Transactions on Graphics (TOG), Vol. 25, No. 3, pp.935–944, 2006. J. Parkkinen, J. Hallikainen, and T. Jaaskelainen, “Characteristic spectra of Munsell colors,” JOSA A, Vol. 6, No. 2, pp.318–322, 1989. I. Sato, T. Okabe, and Y. Sato, “Bispectral photometric stereo based on fluorescence,” In Proc. CVPR2012, pp. 270–277, 2012. T. Trebitz, Z. Murez, B. G. Mitchell, and D. Kriegman, “Shape from fluorescnce,” In Proc. ECCV2012, pp.292– 306, 2012. T. Takatani, Y. Matsushita, S. Lin, Y. Mukaigawa, and Y. Yagi, “Enhanced photometric stereo with multispectral images,” In Conf. MVA2013, pp.343–346, 2013. R. Woodham, “Photometric method for determining surface orientation from multiple images,” Optical Engineering, Vol. 19, No. 1, pp.139–144, 1980.. 図 5: 多波長 · 多方向光源装置を用いて撮影した蛍光物体 画像を入力とした実験結果:(a) 白色色下での被写体,(b) 提案手法により選択された光源色(左から右にかけてのカ ラーパッチが短波長から長波長の光源色番号 c に対応) ,(c) 提案手法により選択されたカメラバンド(RGB) ,(d) 提案 手法によって選択された組み合わせ,(e) 光源色とカメラ バンドに関しての平均,(f) 5番目に短い波長の光源色と. R バンドに固定,(g) 3番目に短い波長の光源色と G バン ドに固定によって得られる画素値を入力とした照度差ステ レオにより推定された法線,(h) 推定された法線から復元 した物体の奥行き(青:(d),黒:(e),赤:(f),緑:(g)) .. JP17H01766 の助成を受けた. 参考文献 [1] [2]. [3]. [4]. [5]. K. Barnard, “Color constancy with fluorescent surfaces,” In Color and Imaging Conference, pp.257–261, 1999. P. N. Belhumeur, D. J. Kriegman, and A. L. Yuille, “The bas-relief ambiguity,” Inter National Journal of Computer Vision, 35(1):pp.33–44, 1999. S. Barsky and M. Petrou, “The 4-source photometric stereo technique for three-dimensional surfaces in the presence of highlights and shadows,” PAMI, 25(10):pp.1239–1252, 2003. K. Ikeuchi and B. K. P. Horn, “Numerical shape from shading and occluding boundaries,” Artificial intelligence, 17(1–3), pp.141–184, 1981. M. Liao, X. Huang, and R. Yang, “Interreflection removal for photometric stereo by using spectrumdependent albedo,” In Proc. CVPR2011, pp.689–696, 2011.. c 2018 Information Processing Society of Japan ⃝. 6.
(7)
関連したドキュメント
び3の光学活`性体を合成したところ,2は光学異`性体間でほとんど活'性差が認め
青色域までの波長域拡大は,GaN 基板の利用し,ELOG によって欠陥密度を低減化すること で達成された.しかしながら,波長 470
■CIQや宿泊施設、通信・交通・決済など、 ■我が国の豊富で多様な観光資源を、
県の観光促進事業「今こそ しずおか 元気旅」につきましては、国の指針に 基づき、令和 4 年
〒104-8238 東京都中央区銀座 5-15-1 SP600 地域一体となった観光地の再生・観光サービスの 高付加価値化事業(国立公園型)
に文化庁が策定した「文化財活用・理解促進戦略プログラム 2020 」では、文化財を貴重 な地域・観光資源として活用するための取組みとして、平成 32
協同組合間の提携について
「二酸化窒素に係る環境基準について」(昭和 53 年、環境庁告示第 38 号)に規定する方法のう ちオゾンを用いる化学発光法に基づく自動測