PDFファイル 3O1 「インタラクティブセッション」

The 28th Annua l Conference of the Ja pa nese Society for Artificia l Intelligence, 2014

- 1 -

国

投稿画像検閲

HC/CS

活用事 例

A hybrid approach of human computation and machine classification for image moderation

林

佑樹

川

毅

Yuki Hayashi Tsuyoshi Yokokawa

*1

株式会社

IkkyoTechnology

株式会社

IkkyoTechnology

With the rapid expansion of smartphone usage globally, there are more social web services and apps that need to moderate uploaded visual contents by users, "User Generated Visual Contents”. We are currently working with multiple online social services that have more than 10 million users, so that we can optimize their visual contents moderation effort. In this report, we are going to describe how we are significantly reducing visual contents moderation cost while maintaining high level of accuracy through combining human-computation with machine-learning.

1.

じめに

ン ネ 投稿 画像 数 年々増加傾 向 あ

関 わ 未 固定人 員 目視検 閲 行 わ い

一方 ン ン や深層 学習等 技 術進歩

画像 自動認識性能 向 い ％ 精度

求 用途 い 依然 目視 補完 必要

あ

々 画像 自 動認 識技術 ン ン

ン 組 合わ ワ 機 械学習 最適 化

実用的 検閲精度 確保 削減 手法

設計 検証 本報告書 実際 数千万人

抱え 大手 対 提案手 法 適用

事例 う 数例 紹

2.

現状分析

ソ ャ や 端 事 件 社 会的

問題 い 検閲 ベ 各運 営者

自己責任 委 通 報 応 対

応 消極的 体制 主流 あ 特 画像 検閲 い

国 主要 BPO 各社 人海戦 術 目視確認 依

い く一部 不正 投稿 膨 大 掛

全数検査 行う 現実的 難 い いう 声 運

営者 い

一方 社会 的責任 追 及 高 い 場

企業や ン ネ 根幹 う

い 採算度外 視 検 閲 取 組 例 少 く い 国

限定 一 画像検閲 費用 毎

暻数百万 売 全体 ３ ％以 及 い 在

展開 各国 法

や宗教 文化 厳 い規制 対応 不可欠 あ 他

開拓 進 あ う子供 向 始 あ

避 い問題 表面化 い

運営者 検閲対 象 漏洩 可能

性 嫌い 社 人員や BPO先 キ 管理 ワ

拘 声 根強く 安価 海外 ソ 型検閲

活用 課題 残

3.

先行事例

人海戦術 ソ ン 機械 類 ソ

ン 大別 出来 本稿 執筆時点 組 合

わ 公知 見

国 い 固定人 員 人 海戦術 ソ

ン 主流 あ 個別 交渉 段階的 従 課金方式 採

い 一方海外 数百万人 ワ 抱え

ソ ン 型 在 機械 類 ソ

ン 一枚あ 単価 人海戦 術 比 安価 あ

精度 柔軟性 劣

検閲業務自 体 一般 提供 く

社 ワ 効率 化 一 環 実施 い

在 動画検 閲 い 特徴 抽出

一覧性 良 い ネ 画像 ワ 提 示

検閲 効率化 手法等 提案 い

4.

要求さ

検閲事項

要求 検閲事 様 々 あ 以

代表的 例 挙

 性表現 含 画像  暴力表現 含 画像  個人情報 含 画像  子供 顔 含 画像

 酒類や薬物 含 画像

 宗教的 含 画像  他者 利 侵害 画像  手書 画像 写真 区別

目 加え 程 度 差 細 い

基準 設 ニ 活 性 保 う 先

地域 調整 例え 宗教 理 由 皮膚 露

出 規制 や 個人情報 定義 違い 国や文

化圏毎 違 い 加え 匿 名掲示 板 う 表 現 極

力自由度 持 売 い 等

柔軟 対応 求

連絡先：株式会社Ikkyo Technology ( [email protected] )

The 28th Annua l Conference of the Ja pa nese Society for Artificia l Intelligence, 2014

- 2 -

5.

機械によ

分類

機械 類 活用出来 基 礎技術 例 以 挙

 文 認識 OCR

 特定物体認識 ン認識

 大規模 類 特徴点抽出 ン

 他 多変 解析手法 類

6.

人力によ

分類

6.1 タスク 最適化

ン 設計 際 人間 特性 考慮

作業効率 向 期待出来 具体的 例 以

挙

 視覚的特性

 残像効 活用

 周辺視 活用

 視点移動 最小化

 明瞭 ン

 UI ン

 数 削減

 ン 活用

 規模

 作業 容 細粒化

6.2 ワークフロー 最適 化

ワ 割 振 際 各々 ワ 能 力や

適正 考慮 序 粒度 冗長性

適 調整 作業効率 向 期待出来

6.3 心理的負担 軽減

長時間 検閲作業 従事 ワ 心理的 負荷

考慮 く い

例え 対象 卑 猥 画 像 多 い い 画像

自体 断 片化やぼ 等 施 作業 必要 最

低限 保 落 表示 行 う

心理的負担 軽減 図

ワ 性別 や宗教 考 慮 予 割 当

制御 更 排除 出来

7.

検証結果

7.1 ケースA： アニメーション投稿 サー ビス

 要求事

 卑猥 画像 除外

 個人情報 SNS ン 電話番号等 除外

 ソ ン 活用

 適用手法

 文 認識 OCR

 特定物体抽出 ン認識

 大規模 類 特徴点抽出 ン

 ワ 最適化

 結

全体 60%~90% 削減 不適

ン ン 全体 占 割合 約 5％ あ

ニ ン 中 複 排除

や 偽 陽性 false positive 最小 化 う

ニン 類 器 効率 的 出 来

加え 類似画 像 ン 優先度 設定

約3倍以 作業効率向 実現

7.2 ケースB： アイコン投稿サー ビス

 要求事

 複画像 排除

 写真画像 排除

 他者 利 侵害 画像 排除

 社 ワ 割 当

 適用手法

 特定物体抽出 ン認識

 大規模 類 特徴点抽出 ン

 ワ 最適化

 結

完全一致及び類似画像検索

全体 65％ ン ン 自動排除出来

違反 ン ン 割合 多 特暼

動向 大 い 従来

固定人員 記憶力 依 検閲手法 担当者

間 知 識共 暼 出来 い等 理由 見 落

避 悪意 持 隙 狙

投稿 い 可能性 あ 本手法 適用

体験 向 期待

ワ 生 い 比較 的小

い固 定 ン ン 明

確 特徴 持 や い

ン 検 閲 比 視認性 高い 設計

可能 あ

施策 ン ン 検閲 時間

90％削減

8.

今後

展望

本報告書 国 大規 模 画 像検閲

ン ン ン 暼効活 用 い 実例

示 ン ンや機械 学習 技術 用

い 前処理 暼効性 示

ン ン ン 観点 機 械 認

識性能 向 伴 人間 出来 い 見極

要 く 考え

ン ン 監視 観点 拡大 ニ

対応 検閲 ワ 汎用化

断 ベ 構築 必要 あ 考え

異 検閲対象 画像特性や 要求

検閲事 違 い 迅速 対応 出来 う 他 識別器

流用可能 性 期待 保護 ン ン 情報

一度 録 自動的 複数 検 閲対象

う 共 通 出来 業界全 体 健 全化