4.4 実験
4.4.2 実験結果
実験での評価尺度には，3章と同様EERを用いた．
提案法を用いて実験を行ったときのEERを図11に示す．これより，
ブロックサイズBx = Byが小さいほど，また次元削減率Drが大き
4. プライバシー保護を考慮した機械学習法のためのランダムサンプリング次元削減法 26
表 6: 従来法とのEERの比較(Dr = 1.6[%]) ダウン
サンプリング法 ランダム射影 提案法(Bx=By)
1 2 4 8
0.0443 0.0359 0.0358 0.0605 0.1012 0.1304
いほどEERが向上する．これは，ブロックサイズが小さいほど画像 全体から均一に画素を選択することができ，次元削減率が大きいほ ど学習に使用する総画素数が増えることによると考えられる．
ダウンサンプリング法，ランダム射影，提案法のEERを次元削減
率1.6[%]で比較したものを表6に示す．ここで，ランダム射影と提
案法の結果は10回実験を行ったときのEERの平均値である．表6よ り，提案法はBx = By = 1のとき従来法よりもEERが向上している ことがわかる．従って，提案法は画像の視覚情報保護と空間情報の 保持が可能となるだけでなく，従来法と同程度以上の精度を維持で きることが確認された．
4. プライバシー保護を考慮した機械学習法のためのランダムサンプリング次元削減法 27
(a)Dr=1.6[%]
(b)Dr=5[%]
(c) Dr=10[%]
(d)Dr=20[%]
図 11: 提案法のEER
5. まとめ 28
5 まとめ
本研究では，プライバシー保護を考慮した機械学習法について検討 した．まずはじめに，EtC画像を用いた機械学習法を提案した．EtC 画像の持つ性質について考察し，EtC画像の生成はz-score正規化の下 で直交変換で表せることを示した．この性質を利用することで，ユー クリッド距離や内積に基づく機械学習に，EtC画像を分類性能を劣 化させることなく適用できることが確認された．また，視覚情報保 護を考慮した機械学習のためのランダムサンプリング次元削減法を 提案した. 暗号化と次元削減を同時に行うこの方法は，画像をブロッ クに分割し，その中からブロックをランダムに選択することで次元 を削減する．視覚情報を保護し,かつ空間情報を保持した特徴ベクト ルの生成を可能としただけでなく，従来の次元削減法と比較して機 械学習の精度を低下させないことが確認された.
6. 謝辞 29
6 謝辞
本研究は，著者が首都大学東京大学院システムデザイン研究科情 報科学域において，多くの方々のご指導，ご協力のもとで行われた ものです．まず、指導教員である貴家仁志教授には，本研究の全般に わたり，その進行，執筆，発表に関して詳細なご指導をしていただ きました．ここに心より厚く御礼申し上げます．塩田さやか助教に は，原稿の執筆や発表において多くの貴重な助言，ご指導をいただ きました．ここに深く感謝いたします．また，本研究を進めるにあ たりお世話になった先輩，同輩方にも感謝いたします．最後に，こ れまでの学生生活を理解し，支援してくださった両親に，厚く御礼 申し上げます．
参考文献 30
参考文献
[1] C. T. Huang, L. Huang, Z. Qin, H. Yuan, L. Zhou, V. Varad-harajan, and C-C. J. Kuo, “Survey on securing data storage in the cloud,” APSIPA Transactions on Signal and Information Processing, vol. 3, no. e7, 2014.
[2] R. Lazzeretti and M. Barni, “Private computing with garbled circuits [applications corner],” IEEE Signal Processing Maga-zine, vol. 30, no. 2, pp. 123–127, 2013.
[3] M. Barni, G. Droandi, and R. Lazzeretti, “Privacy protection in biometric-based recognition systems: A marriage between cryp-tography and signal processing,” IEEE Signal Processing Mag-azine, vol. 32, no. 5, pp. 66–67, 2015.
[4] R. Lagendijk, Z. Erkin, and M. Barni, “Encrypted signal pro-cessing for privacy protection: Conveying the utility of homo-morphic encryption and multiparty computation,” IEEE Signal Processing Magazine, vol. 30, no. 1, pp. 82–105, 2013.
[5] T. Araki, A. Barak, J. Furukawa, T. Lichter, Y. Lindell, A. Nof, K. Ohara, A. Watzman, and O. Weinstein, “Optimized honest-majority mpc for malicious adversaries - breaking the 1 billion-gate per second barrier,” in IEEE Symposium on Security and Privacy (SP), 2017, pp. 843–862.
[6] Y. Aono, T. Hayashi, L. Phong, and L. Wang, “Privacy-preserving logistic regression with distributed data sources via homomorphic encryption,” IEICE Transactions on Information and Systems, vol. E99.D, no. 8, pp. 2079–2089, 2016.
参考文献 31
[7] R. Shokri and V. Shmatikov, “Privacy-preserving deep learn-ing,” in Proceedings of the 22nd ACM SIGSAC Conference on Computer and Communications Security, 2015, pp. 1310–1321.
[8] L. Phong, Y. Aono, T. Hayashi, L. Wang, and S. Moriai,
“Privacy-preserving deep learning via additively homomorphic encryption,” IEEE Transactions on Information Forensics and Security, vol. 13, no. 5, pp. 1333–1345, 2018.
[9] L. T. Phong and T. T. Phong, “Privacy-preserving deep learning for any activation function,” CoRR, vol. abs/1809.03272, 2018.
[10] N. Dowlin, R. Giladbachrach, K. Laine, K.E. Lauter, M. Naehrig, and J. Wemsing, “Cryptonets: Applying neural net-works to encrypted data with high throughput and accuracy,”
MSR-TR-2016-3, Microsoft TechReport, 2016.
[11] Y. Wang, J. Lin, and Z. Wang, “An efficient convolution core ar-chitecture for privacy-preserving deep learning,” in Proc. IEEE International Symposium on Circuits and System, 2018.
[12] H. Yang, Y. Huang, Y. Yu, M. Yao, and X. Zhang, “Privacy-preserving extraction of hog features based on integer vector homomorphic encryption,” in International Conference on In-formation Security Practice and Experience, 2017, pp. 102–117.
[13] Q. Wang, J. Wang, S. Hun, Q. Zou, and K. Ren, “Sechog:
Privacy-preserving outsourcing computation of histogram of ori-ented gradients in the cloud,” in Proceedings of the 11th ACM on Asia Conference on Computer and Communications Security, 2016, pp. 257–268.
[14] A. M. Saxe, Y. Bansal, J. Dapello, M. Advani, A. Kolchinsky, B. D. Tracey, and D. D. Cox, “On the information bottleneck
参考文献 32
theory of deep learning,” in International Conference on Learn-ing Representations, 2018.
[15] T. Maekawa, A. Kawamura, T. Nakachi, and H. Kiya, “Privacy-preserving support vector machine computing using random uni-tary transformation,” IEICE Trans. Fundamentals, vol. E102-A, no. 12, 2019.
[16] I. Nakamura, Y. Tonomura, and H. Kiya, “Unitary transform-based template protection and its properties,” Proc. European Signal Processing Conference, vol. SIPA-P3.4, pp. 2466–2470, 2015.
[17] I. Nakamura, Y. Tonomura, and H. Kiya, “Unitary transform-based template protection and its application to l2-norm mini-mization problems,” IEICE Trans. Inf. Sys, vol. E99-D, no. 1, pp. 60–68, 2016.
[18] T. Chuman, W. Sirichotedumrong, and H. Kiya, “Encryption-then-compression systems using grayscale-based image encryp-tion for jpeg images,” IEEE Transactions on Information Foren-sics and security, vol. 14, no. 6, pp. 1515–1525, 2019.
[19] W. Sirichotedumrong and H. Kiya, “Grayscale-based block scrambling image encryption using ycbcr color space for encryption-then-compression systems,” APSIPA Transacrions on Signal and Information Processing, vol. 8, e7, 2019.
[20] K. Kurihara, S. Shiota, and H. Kiya, “An encryption-then-compression system for jpeg standard,” in Picture Coding Sym-posium (PCS), 2015, pp. 119–123.
[21] K. Kurihara, M. Kikuchi, S. Imaizumi, S. Shiota, and H. Kiya,
“An encryption-then-compression system for jpeg/motion jpeg
参考文献 33
standard,” IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences, vol. 98, no. 11, pp.
2238–2245, 2015.
[22] K. Kurihara, S. Imaizumi, S. Shiota, and H. Kiya, “An encryption-then-compression system for lossless image compres-sion standards,” IEICE transactions on information and sys-tems, vol. E100-D, no. 1, pp. 52–56, 2017.
[23] T. Chuman, K. Kurihara, and H. Kiya, “On the security of block scrambling-based etc systems against jigsaw puzzle solver attacks,” inIEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), 2017, pp. 2157–2161.
[24] W. Sirichotedumrong, T. Chuman, S. Imaizumi, and H. Kiya,
“Grayscale-based block scrambling image encryption for social networking services,” in Proc. IEEE International Conference on Multimedia and Expo(ICME), 2018.
[25] J. Wright, A. Yang, A. Ganesh, S. Sastry, and Y. Ma, “Robust face recognition via sparse representation,” IEEE Trans. Pattern Analysis and Machine Intelligence, vol. 31, no. 2, pp. 210–227, 2009.
[26] E. Bingham and H. Mannila, “Random projection in dimen-sionality reduction: applications to image and text data,” in Proceedings of the seventh ACM SIGKDD International Con-ference on Knowledge Discovery and Dara Mining, 2001.
[27] S. Theodoridis, A. Pikrakis, K. Koutroumbas, and D. Cavouras, Introduction to Pattern Recognition A MATLAB Approach, El-sevier, 2010.
参考文献 34
[28] M. G. Genton, “Classes of kernels for machine learning: A statistics perspective,” J. Mach. Learn. Res., vol. 2, pp. 299–
312, 2002.
[29] A.S. Georghiades, P.N. Belhumeur, and D.J. Kriegman, “From few to many: Illumination cone models for face recognition un-der variable lighting and pose,” IEEE Trans. Pattern Analysis and Machine Intelligence, vol. 23, no. 6, pp. 643–660, 2001.
[30] L. Breiman, “Random forests,” Machine Learning, vol. 45, pp.
5–32, 2001.
参考文献 35
発表論文
[1] 河村 綾菜, 中満 達也, 飯田 健太, 貴家 仁志, JPEG圧縮と親和性 を持つ画像暗号化法, 電子情報通信学会 スマートインフォメディア システム研究会, vol.IEICE-117, no.235, pp.7–12, 2017年10月12日. [2] 河村 綾菜,前川 貴大, 木下 裕磨, 貴家 仁志, EtC画像を用いた暗 号化領域でのSVM学習法, 電子情報通信学会 スマートインフォメ ディアシステム研究会, vol.IEICE-118, no.73, pp.1–6, 2018年6月7 日.
[3] 河村 綾菜,前川 貴大, 木下 裕磨, 貴家 仁志, 次元削減を考慮した 暗号化領域でのSVM学習法, 電子情報通信学会 マルチメディア情 報ハイディング・エンリッチメント研究会, vol.118, no.224, pp.7–12, 2018年9月27日.
[4] 河村 綾菜, 飯田 健太,貴家 仁志, 視覚情報保護を考慮した機械学 習のためのランダムサンプリング次元削減法, 電子情報通信学会 ス マートインフォメディアシステム研究会, vol.119, no.335, pp.17–21, 2019年12月12日.
[5] Ayana KAWAMURA, Yuma KINOSHITA, and Hitoshi KIYA, Privacy-Preserving Machine Learning Using EtC Images, Proc. In-ternational Workshop on Advanced Image Technology, Yogyakarta, Indonesia, 5th January, 2020.