サイバーパトロールシステムの設計

サイバーパトロール 管理者 サイバーパトロール

作業者

関連機関

（プロバイダ，Webサイト管理者など）

違法・有害情報の 検索 チェックリストの作成

チェックリストの

URLを選択

発見した違法・有害 情報の報告

報告内容のチェック

［無害］

削除申請書の作成

削除の検討 チェック

リスト

違法・

有害情報

削除 申請書 有害性の判定

［有害］

Webページの 内容チェック

有害性の判定

［無害］

［有害］

削除の実施

［有害］

［無害］

図 5.1 管理者，作業者，及び関連機関の役割と作業の流れ

サイバーパトロールの管理者の役割は，検証目的に合わせて特定のキーワード（学校関

係者であれば，学校名や地域名など）でインターネット検索を行い，チェック対象のリス トを作成し作業者に割り当てること，及び作業者からの報告内容をチェックし，緊急性の 高い内容や削除対象に該当する内容を関連機関へ報告，削除申請を行うことである．

サイバーパトロールの作業者の役割は，管理者から割り当てられたチェックリスト内の URLのWebページを開き，違法・有害情報が含まれるかを目視により確認し，その結果を 管理者へ報告することである．

サイバーパトロールを複数の作業者が並行して行う場合，調査対象や報告内容の重複が あり，サイバーパトロールの効率の低下が懸念される．このような問題に対し，管理者が チェックリストを作成し，作業者に割り当てることにより，複数の作業者が並行して作業 を行う場合の重複を回避できる．また，作業者の報告内容を管理者が集約して確認するこ とで，報告内容の正確性の向上と一定の基準に則った判断を行うことが可能である．

5.2.2 Web ページの評価指標

サイバーパトロールにおいて，チェック対象となるWebページに含まれる違法・有害情 報には，犯行予告や自殺予告などに代表される緊急性の高い情報が含まれる場合がある．

これらの情報を作業者が発見した場合，管理者に至急報告し，管理者による適切な対処が 必要である．そのため，本研究で開発するサイバーパトロールシステムには，作業者がチ ェックした結果，緊急を要するものや有害度が高い記事に対し，緊急や有害度などの指標 を付加できる仕組みを用意する．本評価指標は，作業者間で統一するため，「緊急」「有害 度（高～低の3段階）」「無害」「判定不可」「判定エラー」の7種類とした．本指標のうち，

システムの判定結果に応じて自動で付加される評価指標の付加基準は，表 5.1 に示す通り とした．

表 5.1 評価指標の付加基準

評価指標 付加基準

有害度（高） 有害度が0.8以上の場合 有害度（中） 有害度が0.6以上の場合 有害度（低） 有害度が0.5を超える場合 判定不可 有害度が0.5の場合 無害 有害度が0.5未満の場合

5.2.3 サイバーパトロールシステムの概要

本項では，サイバーパトロールシステムを構築するため，システム化の範囲を概説する．

本システムの概要を図 5.2に示す．

有害判定 確率辞書

有害判定 結果を参照

プロバイダ・Webサイト管理者 などの関連機関

⑨報告

サイバーパトロール 管理者

サイバーパトロール 作業者

①キーワードによるチェック対象 のWebページURLの収集

チェックリストの作成機能 有害判定機能

②チェックリスト の作成と 有害判定

有害判定済み チェックリスト

③チェックリストの割り当て

チェックリストの参照

Webページの ブラウジング機能

④目視での Webページの確認

違法・有害記事 データベース

⑤目視で確認したWebページを 必要に応じて記事分割し 有害度・緊急度を付加 有害判定確率辞書

の構築機能 構築

有害判定の 教師データ参照

参照 チェックリスト表示機能

削除申請作成機能

⑥チェック結果の確認と 削除申請書の作成

削除申請書

⑦削除申請書 の出力

⑧関係機関への削除申請

作業・処理の流れ データの参照 サイバーパトロールシステム

（クライアントシステム）の範囲 サイバーパトロールシステム

（Webシステム）の範囲 定期実行

図 5.2 サイバーパトロールシステムの概要

本システムは，主に作業者が利用するクライアントシステムと，主に管理者が利用する Webシステムで構成される．

クライアントシステムでは，サイバーパトロールにおける違法・有害情報の収集を効率 的に行うため，次の2つの項目を支援する機能を開発する．1つ目は，Webページを目視で 確認し違法・有害情報の有無の判断を支援する「チェックリストの作成と有害判定（図 5.2

②）」処理である．本処理では，機械的に収集した全てのWebページの有害度を算出し，有 害判定済みチェックリストを作成する．2つ目は，管理者との連携をスムーズに行うための

「目視で確認したWebページを必要に応じて記事分割し有害度・緊急性を付加（図 5.2 ⑤）」 する機能である．本機能では，Webページに含まれる記事，またはWebページそのものに 緊急や有害度等の情報を付加し，管理者が最終的な判断をするための情報提供を補助する．

Web システムでは，作業者に割り当てるチェックリストを作成するための「キーワード によるチェック対象WebページのURL収集（図 5.2 ①）」機能と，作業者のサイバーパト ロールの結果を管理者が確認し，削除申請するための「削除申請書の作成（図 5.2 ⑦）」機 能を開発する．前者の機能では，予め指定したキーワードによりインターネット検索を行 い，チェック対象のWebページを機械的に収集する．また，後者の機能では，作業者がチ ェックした内容を管理者が再チェックした後に削除申請を作成する．

各機能の画面と画面遷移について，次節で詳述する．