風 景 画 か ら知 識 を抽 出 し、解 釈 す る シ ス テム の 、
フ ァジ ィ推論 ニ ュ ー ラル ネ ッ トに よ る構 成
鈴木
昇一
A Construction
of a System
That Can Extract
Knowledges
from
Scenes
and Can Interpret
the General
Appearance,
Making
Use of a Fuzzy-Inference
Neural-Network
Shoichi Suzuki
あ らま し
1枚 の 風 景 画 中の 各 画 素xに
第j(x)∈ 」番 目の カ テ ゴ リラベ ル ◎j(。)を
適 切 に付 与 で きれ ば 、 画 像
中 に 同 一 カ テ ブ リ・
ラ ベ ル を持 つ 画 素 を集 め る こ と に よ りパ タ ー ン ψ が 存 在 す る こ と が 知 轟 ど して、
抽 出 さ れ る こ とが わ か る・ そ の 結 果 ・ 画 像 中 の す べ て の パ ター ン に 関 しこ の知 識 ρ 抽 出 が 行
.われ
れ ば 、 こ の 画 像 が 解 釈 され る こ とに な る。
こ の よ う に 、 各 画 素 の 各 画 素 近 傍 を使y・・ 風 景 画 像 内 の 各 画 素 に ・ 画 像 内 の 物 体 の カテ ゴ リ ラ
ベ ル を付 け る 方 法 で 、風 景 画 像 か ら画 素 単 位 の 知 識 を抽 出 し、 画 像 の セ グ メ ンテ ー シ ョン機 能 を
同 時 に備 え て い る風 景 画 の解 釈 シ ス テ ム を 構 築す る こ とに ・イ弋タ ー ン認 識 の 数 学 的 理 論(ss理
謝
[B1]ッ[B6]を
適 用 す る方 法 が 、,本論 文 で は研 究 さ れ て い る。
パ タ ー ン認 識 の数 学 的理 論(SS理
論)で
は 、 入 力 パ ター ン ψ に対 応 す る"axiom1を
満 た す パ タ
ー 冫モ デ ル"Tψ
を求 め
、Tψ か ら カ テ ブ リ帰 属 知 識 に関 す る 連 想 形 認 識 方 程 式 の解 と して 、 不 動
点 パ タ ー ン モ デ ル を連 想 す る形 で 、"axiom2を
満 たす 類 似 度 関 数"SM,"axiom3を
満 た す 大 分 類
関 数"BSC,"axiom4を
満 た す カ テ ゴ リ選 択 関数"CSFを
使 い 、 ψの 帰 属 す る カ テ ゴ リを決 定 す る
多 段 階 パ ター ン変 換 法 が 考 え られ て い る。 本 論 文 で は、SM,BSρ
の構 成 に想 起 作 用 素 を繰 り込 み,
BSCの
構 造 を フ ァ ジ ィ推 論 規 則 を表 す よ う に決 定 し、BSCの
構 造 内 各 成 分 を最 急 降 下 法 に タ る学
習 で 決 定 して い る。
然 しな が ら、T,SMβscを
一 層 、 適 応 的 に決 定 す る必 要 性 な どが 痛 感 させ らμ 、 引 き続 い て 研
究 しな け れ ば な らな い こ と に な っ た 。
キ ー ワ ー ド
パ タ ー ン認 識 の 数 学 的理 論(SS理 論)モ
デ ル構 成 作 用 素
類 似 度 関 数
大 分類 関 数
カ テ ゴ リ選 択 関 数
構 造 受 精 変 換
カ テ ゴ リ帰 属 知 識 の不 動 点 連 想 形 認 識
画 素 単 位 の 認 識 処 理
シ ー ン画 像 か らの 知 識 の抽 出
セ グ メ ンテ ー シ ョ ン
フ ァジ ィ推 論 ニ ュ ー ラ ル ネ ッ ト
最 急 降 下 法
風 景 画 の解 釈 シス テ ム
Abstract
If recognition system RECOGNITRON
attaches a appropriate category-label (S-
j (,,)
to each pixel x with
a gray level in a given scenery image making good useof-a contextual information, and gathers the pixels
having the same category-label, the existence of a pattern belonging to its category may be extracted as a
knowledge contained in the scenery image in question. One scenery image is understood as a set of labeled
objects. In this.way RECOGNITRONPan interpret the scenery image. An extraction-and-~intQrpreatation
problem of images.can be solved by the setting of that each pixel x in a, given scenery,image is to be
assigned to one of in possible categories and each pattern (P must belong to one of their categories.
The aim of this research is to apply SS theory [Bl]-[B6] to obtaining a synthetic description from
scenery images.
Pattern recognition is a well studied problem in which t he identity of an unknown pattern is determined
to be one of an finite classes spanning the pattern space.
At the start a corresponding
model T(P of an input pattern 9~ in question must be determinined. From
that time on, as a solution of an equation of associative recognition concerning categorical-membership
knowledges which contain T(P, a fixed-point pattern-model
is associated with T~O
at the final stage of many
stages which, are generated by many selected. structure-fertilization transformations TA(-,)T that are
constructed making use of a model-construction operator T, a similarity-measure function SM, a rough
classifier BSC and a category-selection
function CSF which respectively must satisfy axiom 1,2,3
4.A
category to which ~O belongs depends on the fixed-point pattern-model and can. be, -,determined
without
difficulty.
We propose a new approach which simultaneously
provides a restored image, a segmented image and a
We construct them weaving an associative operator into the structure of SM and BSCA structure of BSC
is designed so that it may represent.fuzzy inference, rules which are realized with help, of neural-networks.
We determine constituent elements of BSC using method of steepest descent.
However in order to obtain the better performance it. is necessary to more adaptively determine constituent
elements of T,SM and BSC. We must study such a modell-construction
operator Tin succession.
Key words a mathematical theory of recognizing patterns(SS theory)
model-construction
operator
similarity-measure
function
rough classifier
category-selection
function
structure-fertilization
transformation
associative reconition of fixed-point
type about categorical-membership
knowledges
pixelwise recognition
extraction of knowledges from scenery images
segmentation
fuzzy-inference
neural-network
method of steepest descent
1.ま え が き
人 間 は 形(form)、 色!color)、 動 き(movement)、 奥 行 き(depth)を 別 々 の 脳 領 域(separate
channels)で 処 理 して い る こ と を示 すpsychophysicalevidenceが 存 在 す る ・[A14]。
パ ター ン(pattem)と
は 非 言 語 的 な情 報 で あ り、 視 覚 的 、・
聴 覚 的 、触 覚 的 、'臭覚 的 、 味 覚 的 な
ど に捕 ら え られ る対 象 で あ り、 例 え ば、 形 ・
大 き さ ・
色 な ど を備 え て い る の が視 覚 的 パ タ ー ン で あ
る 。 本 論 文 は 、3次 元 物 体 が 平 面 上 に投 影 さ れ て 得 られ る 、"形・大 き さ を備 え て い る灰 色 の2次 元
視 覚 的 パ ター ン(画 像;atwo-dimensionalgray-scaleimage)"を
取 り扱 う。 「
も の(パ
タ ー ン)を 見 て そ れ が 何 で あ る か を解 釈 す る と い っ た カ テ ゴ リ分 類 場 面 で は、 どの よ
うな 特 徴 を興 味 の 対 象 と して い る こ の1つ の 分 類 に 関 係 す る か を学 習 して お く必 要 が あ る。 然 も、
パ ター ン と今1つ のパ タ ー シ とが どの 程 度 似 て い る か 、 ど の程 度 異 な っ て い る か を計 量 す る 類 似 度
関 数SMを
構 成 して お く必 要 が あ る 。 注 意 す べ きは 、 い わ ゆ る ヒ トに お け る 認 識 の 誤 び ゅ うが 生
じる1つ の 原 因 は崩 れ た パ タ ー ンか ら そ の帰 属 す る カ テ ゴ リを 一 意 的 に特 性 付 け る特 徴 量 を抽 出 で
きて い な い こ と に もあ る。 に も拘 わ らず 、 人 間 並 の 認 識 性 能 を達 成 す る場 合 、 設 定 す る特 徴 抽 出
の働 き に完 全 性 を備 え させ る と と に 固執 して は な ら な い 。
も し抽 出 さ れ た特 徴 量 が パ ター ン ψ を記 述 す るた め に使 わ れ る な らば(ifalistoffeaturesisused
todescribea-pattemψ)、
パ ター ン ψ を十 分 な精 密 さ で 再 現 す る の に 必 要 と され る十 分 な情 報 を一
般 に は 、 抽 出 さ れ た 特 徴 量 は備 え て い ない と考 え な け れ ば な らな い 。 原 パ ター ン ψ を パ タ ー ンモ
デ ルTψ と して再 現 す る に は 十 分 な場 合 が多 い けれ ど も。
パ タ ー ン か ら有 限個 の特 徴 量 さ え抽 出 で き れ ば 、SMが
構 成 で きる こ とは既 に 、SS理 論[B1]
∼[B4]で
明 らか に な っ て い る・(文献[B4]の
定 理A2
.2)。
似 て い れ ば い る ほ ど近 くに 、 異 な っ て い れ ば い る ほ ど遠 くに 配 置 さ れ て い る よ う なパ タ ー ン を
点 と して 表 示 さ れ て い る空 間(類
似 性 空 間)を
認 識 空 間 と名 付 け て い る研 究[A10]が
あ る が 、
この 認 識 空 間 に はパ タ ー ン の 主 成 分 軸 と高 い 相 関 を持 つ 軸 が あ る事 実 が 指 摘 され て い る 。s .Suzuki
は こ の よ う な認 識 空 間 を一 般 化 し、 カ テ ゴ リ帰 属 知 識 空 間 〈Φ,2J>と
い う概 念 を確 立 しな が ら、
〈Φ,2J>の 代 数 的 ・
幾 何 学 的 ・
解 析 的 な構 造 を明 らか に し＼ 認 識 万 能 性(recognitiveuniversality)を
備 え た パ タ ー ン認 識 シス テ ムRECOGNITRONを
構 成 した 。 情 報 が 入 力 され 、 情 報 が 出力 さ れ る
計 算 機 を 中心 とす る 情 報 機 械 系 を情 報 シ ス テ ム とい うが 、 認 識 シ ス テ ム は典 型 的 な 情 報 シ ス テ ム
で あ る。
"4事 項
(1)パ
タ ー ン の帰 納 的 定 義(SS定
義)
(2)連 想 形 認 識 方 程 式(SS方
程 式)
(3)カ テ ゴ リ帰 属 知 識 の 直 交 分 解(SS展
開)
(4)カ テ ゴ リ帰 属 知 識 の ポ テ ン シ ャル エ ネ ル ギ ー の 非 増 加 定 理(SS非
増 加 定 理)
な ど を解 決 したSS理 論"以
外 の 理 論 は 、例 え ば 、(1)に
関 して は、 処 理 の対 象 と'する問 題 の パ タ
ー ン の集 合 が 構 成 的 で あ る こ とに気 が つ か な か っ た
。 ま た 、(2)に
関 して は 、 文 法 エ ラ ー が 存 在
しな い か ら とい っ て 、 そ の 計 算 機 プ ロ グ ラ ム に よ り正 しい 計 算 結 果 が 得 られ る こ とは 保 証 され な
い こ と に対 応 して 、 多段 階 連 想 形 認 識 過 程 に よ り類 似 度 が 最 大 値1と
な るSS方 程 式 の 不 動 点 カ テ
ゴ リ帰 属 知 識 解 が 求 ま っ た と して も、 そのパ ター ンが正 認識 される ことは保証 されな くて 、認識
処 理 不 能 、 認 識 不 定 の場 合 が あ る こ とが 明 らか に な っ た こ とで あ る。
数 式 に よ る モ デ ル 化 と 数 理 的 処 理 を 主 体 と す る オ ペ レ ー シ ョ ン ズ リ サ ー チ ・数 理 計 画 法 ・シ ス テ ム 最 適 化 手 法 と異 な り 、 古 典 的 なAI(人 工 知 能;artincialintelligence)は 記 号 に よ る モ デ ル 化 と 記 号 操 作 を 主 体 と す る 。 狭 い 意 味 のAIと は ヒ ュ ー リ ス テ ィ ッ ク な 知 識 を 多 く用 い る ル ー ル 形 の シ ス テ ム(エ キ ス パ ー ト シ ス テ ム)を 指 し て い よ う 。 情 報 学 は 情 報 に 関 す る"知 の 体 系"で あ る が 、 計 算 機 情 報 学 の 最 先 端 と位 置 付 け ら れ て よ い 人 工 知 能 論(知 能 情 報 学;intelligentinfo㎜atics)は 人 工 知 能 で 不 可 能 な こ と の 領 域 の 拡 大 を 常 に 目指 し て い る 。 人 工 知 能 は 自 ら不 可 能 な こ と の 、 よ り多 くの 自 覚 を 持 っ て い る シ ス テ ム で あ る 。 現 代 の 人 工 知 能 学 は オ ペ レ ー シ ョ ン ズ リ サ ー チ ・数 理 計 画 法 ・シ ス テ ム 最 適 化 手 法 な ど で 解 決 で き る 問 題 は フ ァ ジ ィ 理 論 、 ニ ュ ー ラ ル ネ ッ ト理 論[A15]、 遺 伝 的 ア ル ゴ リズ ム 、人 口 生 命 論 な ど で す べ て 解 決 で き る 学 問 分 科 に 進 歩 ・発 展 し て い る け れ ど も。 ハ ー ド ウ ェ ア(神 経 回 路 網)と し て の 脳 の 動 作 原 理 を 解 明 す る こ と は 、 ソ フ トウ ェ ア と し て の 精 神(心)の 知 的 機 能 の 役 割 を 明 確 化 す る こ と に 直 接 結 び つ か な い 。 結 び つ く た め に は 、 外 界 の 、' 情 報 が 脳 内 で ど の よ う に 符 号 化 さ れ 、 そ の 符 号 系 の 下 で ど の よ う に 情 報 が 処 理 さ れ 、 情 報 処 理 さ れ た:結果 が ど の よ う に 復 号 さ れ る か な ど の 諸 問 題 が 解 消 さ れ な け れ ば な ら な い 。 外 界 の 情 報 が 脳 細 胞 集 団 の 活 動 と ど の よ う な 意 味 的 な 反 応 を 持 っ て い る か が 明 ら か に さ れ ね ば な ら な い 。 知 能 の 程 度 と い う の は 、 効 果(effect)と し て の 外 に 表 わ れ た も の を観 察 し て 測 ら れ る も の で あ り 、 内 部 メ カ ニ ズ ム に 立 ち 入 っ て わ か る も の で は な い と い う考 え が あ る 。 そ し て 、・知 性 の み に 偏 す る の で は な く、 情 報 の 持 つ 感 性 を も考 慮 し た 新 し い 価 値 観 の 下 で 、 知 能 の 働 き を 解 明 し な け れ ば な ら な い とい う考 え に発 展 し て い る 。 SS理 論 は 、 パ タ ー ン 認 識(に 必 要 な)知 能 の 一 般 原 理 をaxiom1∼axiom4か ら な るSS公 理 系 で 明 ら か に し て い る= AlthoughSStheory[B1]∼[B6]is㎜iversal,itisnotclosed.Anythingcanbe.describedbyit,but soIhelthingmロstremainunanalyzed.・[] Imageinteτpretationisatwophasestages: (i)Thelow-levelvisiontaskofimagesegmentationusedto・obtaihashapeffomagivengray-scale image. (ii)Thehigh-levelvisiontaskofimageinterpretationassigningacorrespondingcategorytoapattem whi6hexistsineachsegmentedhnage.・ ・1・ ・ □ Thesetwostagesarenotentirelyindependent:Agoodsegmentationisaprerequisiteforcorrect interpretationImdontheotherh{mdthe㎞owledgeofthescene(explicitlystated,theinteΦretationofthe scene)isessentialforgoodseglnenta亡ion.ThissuggeststhatinteractionshouldexiStbetweenthetwo stages.、 .・ □ 本 研 究 で は 、segmentation,interpretation問 の 両 機 能 に 関 す る こ の 種 の 相 互 作 用(hlteraction)を あ ら わ に し な い 形 式 で 、 画 像 の 領 域 分 割 ・画 像 解 釈 を 同 時 に 達 成 す る 画 像 理 解 手 法 を 提 案 す る(新 規 性)。 1枚 の 画 像 を 概 観 ・解 釈 す る 知 能 情 報 メ デ ィ ア シ ス テ ム を 構 築 す る こ と を 考 え て み よ う 。 そ れ に は 、1枚 の 風 景 画 内 の 各 画 素 に 家 、 犬 、 木 、 山 、 川 、 海 、 土 手 、 雲 、 人 な ど の 成 分 で あ る こ と を 明 ら か に す る カ テ ゴ リ ラ ベ ル を そ の 画 素 の 近 傍 に 関 し 持 っ て い る 知 識 を 利 用 し て 、 付 け れ ば よ い こ と に 気 づ く。 そ う す れ ば 、 こ の シ ス テ ム に は 、 意 味 あ る 有 限 個 の 領 域 に 画 像 を 分 割 す る 領 域 分 割(regionsegmentation)の 機i能 を 備 え て 来 る こ と に も気 づ く。 ・ 本 論 文 は 、 各 画 素 に 適 切 な カ テ ゴ リ ラ ベ ル を 付 け る こ と に よ り、 風 景 画 か ら 知 識 を 抽 出 し 、』こ
の 風 景 画 を 解 釈 す る"画 像 か ら の 知 識 抽 出 ・画 像 の 解 釈 シ ス テ ム"を 構 築 す る た め の 手 法 を 、 画 像 の 領 域 分 割 機 能 を 含 む 形 でSS理 論 を 適 用 し、 研 究 し た も の で あ る 。 1つ の 風 景 画 内 の 各 画 素 に 、 そ の 近 傍 の 画 素 集 合 に つ い て 持 つ 知 識 を 用 い カ テ ゴ リ ラ ベ ル を付 け る こ と に よ っ て 、 風 景 画 か ら風 景 画 中 に ど ん な 名 前 の パ タ ー ン(物 体 、 雲 、 空 、 人 、 動 物 、 木 、 家 な ど)が 存 在 す る か に つ い て の 知 識 を抽 出 し 、 そ の 画 像 の 概 観 を 解 釈 す る シ ス テ ム を構 成 す る 手 法 が 研 究 さ れ る 。 構 成 さ れ た 画 像 知 識 抽 出 解 釈 シ ス テ ム は 同 時 に 、 画 像 を 意 味 あ る 複 数 の 領 域 へ と 分 割 す る"領 域 分 割"の 機 能 を 備 え て 来 る こ と に な っ た こ と(有 効 性)に 注 意 し て お こ う 。 こ の 有 効 性 は 文 献[A3]の 研 究 に も み ら れ る け れ ど も 、SS方 程 式 の 不 動 点 カ テ ゴ リ帰 属 知 識 と し て 、 安 定 な 解 と し て 、 セ グ メ ン テ ー シ ョ ン が な さ れ る こ と に 違 い が あ る 。 segmentingtheimageintoregionsandsubsequentlyassociatingtheseregions(dependingontheir spatialrelationshipswithotherregions)withsomeobjectsinthescene を 行 っ て い るMarkovrandomfieldbasedi血ageinterpretationschemeで は こ の 種 の 相 互 作 用 を 直 接 、 取 り扱 っ て い る け れ ど も 。 本 論 文 の 構 成 は 次 の 様 に な っ て い る 。 第2章 で は 画 素 を 単 位 と す る パ タ ー ン 認 識 法 が 説 明 さ れ 、 第3章 で は 、 原 パ タ ー ン ψ の 代 り と な る パ タ ー ン モ デ ルT9の 構 成 が 説 明 さ れ 、 第4∼6章 で は 入 力 パ タ ー ン ψ と記 憶 し て い る 代 表 パ タ ー ン ω 問 の 類 似 性 を 計 る 類 似 度 関 数SMが 構 成 さ れ る 。 第7∼12章 で は1つ の 任 意 の カ テ ゴ リ と 残 り の す べ て の カ テ ゴ リ を 区 別 で き る 大 分 類 関 数BSCが 構 成 さ れ 、 大 分 類 関 数BSC内 の 複 数 の 助 変 数(代 表 パ タ ー ン ω 、 閾 値b、 重 みW、 標 準 偏 差 σ)を 学 習 す る 方 法 が 説 明 さ れ て い る 。 想 起 作 用 素Bを 類 似 度 関 数SM、 大 分 類 関 数BSCの 構 成 に 用 い た こ と が 本 研 究 の1つ の 特 色 と な っ て い る 。 大 分 類 関 数Bscの 構 造 をfuzzy推 論 規 則 を 表 現 す る よ う に 二.ユ ー ラ ル ネ ッ ト と し て 構 成 し た こ と 、,並 び に 、 そ の 学 習 法 を 詳 細 に 論 じ た こ と が 本 研 究 の 今1つ の 特 色 と な っ て い る 。 尚 、12付 録A∼Lが 設 け ら れ て い る 。 特 に 、 付 録Aで は モ デ ル 構 成 作 用 素T,類 似 度 関 数SM, 大 分 類 関 数BSC,カ テ ゴ リ選 択 関 数CSFが 各 々 満 た す べ き4公 理 で あ るaxiom1∼axiom4が 説 明 さ れ て お り、 ま た 、 付 録Bで は 、 本 研 究 で 採 用 さ れ る"制 約 付 き最 適 化 問 題 の1つ の 解 決 法 と し て の 、S.Suzuhの 提 案 し た パ タ ー ン 認 識 の 数 学 的 理 論(SS理 論)[B1]∼[B6]で の 多 段 階 パ タ ー ン 認 識 法"、 並 び に 、 こ の 認 識 法 で 使 わ れ る 構 造 受 精 変 換TA(μ)Tが 説 明 さ れ て い る 。
第2章
パ タrン ψの 文脈 か ら定 ま る画 素xの カ テ ゴ リ ◎1ω
画 素xに
第j(x)∈J番
目の カ テ ゴ リ ラベ ル(芭j(。)を
適 切 に付 与 で き れ ば 、 画 像 中 に 同 一 の カ テ ゴ
リラ ベ ル を 持 つ 画 素 の 集 ま り と して の パ タ ー ン ψ が 存 在 す る こ とが 知 識 と して 抽 出 され る こ とが
判 明 し、 よ っ て 、 画 像 中 の す べ て の パ タ ー ン に 関 し知 識 の こ の種 の 抽 出 が 行 わ れ れ ば 、 こ の 画 像
が 解 釈 され る こ とに な る 。 こ の こ と を勘 案 し、 本 章 で は 、1つ の 画 素xに
画 像 中 の あ る パ タ ー ン
ψ の 帰 属 す る カ テ ゴ リ ラベ ル ◎1(。)を
付 与 す る とい う"画 素x毎
の知 識 抽 出 ・
画 像 中 の あ るパ ター
ン ψ の 解 釈"へ
、 パ タ ー ン認 識 の 数 学 的 理 論(SS理
論)[B1]∼[B6]を
適 用 す る こ とが 概 観 さ
れ る 。
2.1計
算 機 に よ る風 景 画 像 処 理 と して の風 景 画 の解 釈
imagesegmentationを
含 む画 面 内 め パ タ ー ン認 知 過 程 を研 究 し よ う。 い い か え れ ば 、
前 後 の文 脈 を手 が か り と して 、(文 脈 中 の)パ
タ ー ンの(カ
テ ゴ リ帰 属 に 関 し)意 味 上 の多
義 性 を解 消 し、 文 脈 に適 合 した"そ
の パ タ ー ン の帰 属 す る カ テ ゴ リ"を 確 定 さ せ る とい う
「segmentation(1枚 の 画 面 を有 限 個 の 意 味 あ る 区 画 に分 割 す る こ と)を 含 む 画 面 内 の パ タ ー
ン認 識 過 程 」
に関 し、SS理 論 を適 用 す る こ と を考 え よ う。
パ タ ー ンモ デ ルTψ を み た ら 原 パ ター ン ψの よ うに み え る(同 一 知 覚 原 理)
た め に は 、 処 理 の 対 象 とす る パ タ ー ン ψ の 集 合 Φ と 、 こ の 写 像Tと
の 対[Φ,T]が
付 録Aの
、axiom1を 満 たす 必 要 が あ る、 とい うの が 、ss理 論 の最 初 の 主 張 で あ る。
SS理 論 で は 、 入 力 パ タ ー ン ψ に対 応 す る パ タ ー ン モ デ ルTψ
を 求 め 、Tψ か ら付 録Bの
、 式
(B42)の
あ る構 造 受 精 変 換TA(μ)Tの
不 動 点 パ ター ン モ デ ル を連 想 す る形 で 、 ψ の 帰 属 す る カ
テ ゴ リ を決 定 す る 多 段 階 パ タ ー ン変換 法 が 考 え られ て い る(付 録BのB6章)。
SS理 論 は 、 この よ うな パ タ ー ンモ デ ルTψ
を恰 も、 原 パ タ ー ン ψ と錯 覚 し、 構 造 受 精 変 換 を多
段 階 適 用 し、 カ テ ゴ リ帰 属 知 識 の 不 動 点 知 識 を連 想 形 認 識 方 程 式 を解 くこ とに よ り求 め る とい う
"不 動 点 探 索 形 構 造 受 精 多 段 階変 換 に基 づ く認 識 の働 き"を 提 案 して お り
、 こ の種 の 認 識 の働 きが
あ りと あ らゆ る パ タ ー ン認 識 の働 き を シ ミ ュ レ ー トで き る こ とが 証 明 され て い る[B3]。
1つ の 風 景 画 内 の 各 画 素 に、 そ の 近 傍 の 画 素 集合 につ い て 持 つ 知 識 を用 い カ テ ゴ リ ラベ ル を付 け
る こ とに よ っ て 、 風 景 画 か ら知 識 を抽 出 し、 そ の画 像 の概 観 を解 釈 す る シ ス テ ム を構 成 す る 手 法
が研 究 され る。 構 成 さ れ た 画 像 知 識 抽 出 解 釈 シ ス テ ム は 同 時 に 、 画 像 を意 味 あ る複 数 の 領 域 へ と
分 割 す る"領 域 分 割(regionsegmentation)"め
機 能 を備 え て 来 る こ とが あ き1らか に な る 。
外 界 か ら獲 得 した2次 元 投 影 像 を脳 内 の 記 憶 と照 合 す る情 報 処 理 過 程 が パ タ ー ン認 識 過 程 で あ
る 。 風 景 画 の理 解 ・
解 釈 へSS理 論 を 適 用 す る方 法 を研 究 した 本 論 文 で は 、2次 元 の投 影 像 の み か ら
も と の3次 元 形 状 を復 元 す る とい っ た"逆
問 題"を
取 り扱 っ て い な い し、 再 現 され た3次 元 形 状 を
脳 内 で操 作 し、新 しい視 点 か らの 見 え を作 り上 げ る と い っ た 感 覚 運 動 的 な知 能処 理 も実 現 して い
な い 。 知 能 の 内 、 表 象 能 力 に基 づ い た概 念 的 表 象 分 類 知 能 の み を取 り扱 っ て お り、 表 象 を操 作 す
る とい っ た知 覚 運 動 的 知 能 を実 現 して い な い 。
2.2画 像 中 の 画 素 を 単 位 と す る パ タ ー ン 認 識 2次 元 整 数 値 座 標x=<x1,x2>を 持 つ 画 素 「(pixelorpictureelement;単 に 画 素xと い う こ と が あ る)に 、 第j(x)∈J番 目 の カ テ ゴ リ ラ ベ ル(alabelattachedtoapattemψtoshowwhatitis; category-label) ◎j(x)∈亙={(芭jlj∈J}(2.1) を 付 け る 方 法 が 、 本 論 文 で 研 究 さ れ る 。 こ の カ テ ゴ リ ラ ベ ル 付 け が1枚 の 画 像 内 の す べ て の 画 素x に わ た っ て 終 了 し、:各(Σj(。)が決 定 さ れ た と す る と、 連 結 し て い る 同 一 の カ テ ゴ リ ラ ベ ル を 集 め る こ と に よ 「り、 未 知 の 風 景 画 像 に つ い て 領 域(district;連 結 し て い る 画 素 の あ る 集 ま り)毎 の カ テ ゴ リ の ラ ベ ル 付 け が な さ れ 、 未 知 の 風 景 画 像 内 に 如 何 な る 成 分(物 体 、 雲 、 空 、 人 、 動 物 、 木 、 家 な ど)が 存 在 す る か に 関 す る 知 識 が 抽 出 さ れ 、 未 知 の 風 景 画 像 の 理 解 ・解 釈 が な さ れ る こ と に な るQ 式(2.1)の カ テ ゴ リ ラ ベ ル(Σj(。)を(2p+1)×(2q+1)個 の 画 素 で の 濃 淡 値 ψk彦の 集 合 と し ての パ タ ー ン ψ か ら決 定 す る こ と に し よ う 。 1枚 の 画 面 内 に 複 数 の パ タ ー ン が あ る も の と し、 そ の 内 の1つ を ψ と 表 す 。 2次 元 整 数 値 座 標x=〈x1+k,x2+4>を 持 つ 画 素 で の 、 パ タ ー シ ψ の 濃 淡 値(2.2) を 、X1,X2を 固 定 し た 条 件 下 で 、 ψk2≡ ψ(x1十k,x2十4)』(2.3) と 表 す 。 座 標x=〈x1,x2>に 注 目 し、 こ れ を 固 定 し、 更 に 、p,qを 固 定 し た 正 数 値 、 例 え ば 、1,2 な ど と選 び 、 実 数 値 パ タ ー ン(real-valuedpattem) ψ ={∼ ρk41k=0 ,土1,±2・ 。。,±p,4=0,±1,±2…,±q}(2.4) を 考 え よ う 。 こ の と き 、 ψooの 文 脈(circumstanceorcontext)は 、 ψ 、 ψ。。} ={∼ ρk2[k=1 ,2…,±p,4=1,2…,±q}.(2.5) で あ る と 考 え ら れ る 。 式(2.1)の カ テ ゴ リ ラ ベ ル(Σj(。)を式(2.4)の パ タ ー ン ψ か ら 決 定 す る 手 法 を 提 案 す る こ ど が 本 研 究 で の 主 要 な 内 容 で あ り、モそ の 計 算 機 シ ミ ュ レ ー シ ョ ン に よ る 有 効 性 ・信 頼 性 の 検 証 は 別 の 機 会 に 譲 ら れ る 。 処 理 の 対 象 と す る 問 題 の パ タ ー ンgの 集 合 Φ は 第4章 で 説 明 さ れ て い る 可 分 な ヒ ル ベ ル ト空 間 夢 の 、(零 元 を含 む)あ る 部 分 集 合 で あ る[B3],[B4]。
第3章
モ デ ル 構 成作 用 素Tの 構 成
画 素 中 の 各 々 の 画 素 に ≦ そ の 画 素 を 含 む 画 素 の あ る 集 ま り(パ タ ー ン)が 表 す カ テ ゴ リ の ラ ベ ル を 付 け る と い う 画 素 単 位 の 知 識 の 抽 出 処 理 で 、 画 像 の 領 域 分 割 を 行 う 手 法 が 、 前 章 で 簡 単 に 説 明 さ れ た 。 本 章 で は 、 付 録1の 定 理11を 適 用 して 、 付 録Aのaxi6m1を 満 た す モ デ ル 構 成 作 用 素Tを 構 成 し よ う。 式(2.4)の 実 数 値 パ タ ー ン ψ に つ い て 、 ∀k∈{0,1,2…,:±p},∀4∈{0,1,2…,±q}, (Sψ)k4= Oi噌1ψ ・・1=0」 ψ ・〃 ・齪1ψ ・・lif・ 麗[ψ ・・1≧0 .(3・1) と定 義 さ れ る 写 像 S:Φ → 夢 ・(3.2) を 定 義 し 、 不 等 式 ∀k,∀4, 一1<h勲 ≦0≦h支4<十1(3 .3) を 満 た す2つ の 実 数 値 閾 値 関 数 h一=伍 勲},h+・={h右8 .(3.4) を 導 入 す る 。 集 合 夢 は 第4章 で 説 明 さ れ て い る 。式(2.4)を 満 た す 実 数 値 パ タ ー ン ψ ∈ Φ に つ い て 、 式(3.1)の 写 像Sと 、 式(3.4)の2つ の 閾 値 関 数h一,h+と を 用 い て 、 ∀ ψ ∈ Φ,∀k,∀4,(T(;ρ)k4= 一1if(S∼ ρ)k2<h勲 Oifh勲 ≦(Sg))k2≦h支6 十lif(Sψ)kε>hセ(3.5) と 定 義 さ れ る 写 像 T:Φ → Φ 馳(3.6) がaxionL1を 満 た す モ デ ル 構 成 作 用 素 で あ る こ と は 、 付 録1の 定 理11が 保 証 し て い る 。
第4章
類似 度 関数SMの
構 成
本 論 文 で は 、1つ の風 景 画 内 の各 画素 に、 そ の 近 傍 の 画 素 集 合 に つ い て 持 つ 知 識 を用 い カ テ ゴ リ
ラベ ル を付 け る こ と に よ っ て 、風 景 画 か ら知 識 を抽 出 し、 そ の 画 像 の概 観 を解 釈 す る シス テ ム を
構 成 す る 手 法 が研 究 され る 。構 成 さ れ た 画 像 知 識 抽 出 解 釈 シ ス テ ム は 同 時 に 、 画 像 を 意 味 あ る複
数 の 領 域 へ と分 割 す る"領 域 分 割"の 機 能 を備 え て 来 る こ とに な る 。
画 素 を単 位 と した"各 画 素 に カ テ ゴ リ ラ ベ ル を貼 付 る操 作"と
い う"画 素 を単 位 と した上 述 の
認 識 処 理"をSS理
論 を適 用 して 実 現 す る た め に は 、
2つ の パ ター ン ψ={ψkd,η={ηk4}の
内積(∼ρ,η)、 ノ ル ム1ψIIを
@,η)一 訊
試
ψ伽
・9(4.1)
ll9冫11≡ 禰(4.2) を 導 入 し な け れ ば な ら な い 。 式(2.5)の 文 脈 情 報(cohtextualin鉛 ㎜ation)ψ 一 ゆ 。。}を考 慮 し、 式 (2.4)の パ タ ー ン ψ の 集 ま り Φ に対 し、 式(4.1)の 内 積(ψ,η)を 定 義 し て い る こ と に 注 意 し て お か ね ば な ら な い 。 式(3.2)に 登 場 し て い る 夢 は こ の 内 積 を採 用 し て い る 可 分 な ヒ ル ベ ル ト空 間 [B3]で あ り 、 処 理 の 対 象 と す る 問 題 の パ タ ー ン ψ の 集 合 Φ は 式(K6.9>の 様 に 表 さ れ る"こ の 夢 の 、 零 元 を 含 む 部 分 集 合"で あ る 。 付 録Aのaxiom2を 満 た す 類 似 度 関 数(similaljty-measuref皿ction)SMを 構 成 し よ う 。 規 格 化 内 積(no㎜alizedinnerproduct!nip@,η)を 、 ㎡P(∼ρ,η)≡ OifIl《1)11・llη 睦=0 (1ρ,η)1[IIψ1・1.η 旧if1ゆ1卜11ηll>o(4・3) と定 義 す れ ば 、Schwarzの 不 等 式 一1≦nip(ψ ,η)≦+1(4・4) が 成 り立 っ て い る 。Schwarzの 等 式 nip(∼ρ,η)=±1 ⇔ ψ(≠0)が η(≠0)の 非 零 定 数 倍 で あ る 『(4.5) に 注 意 し よ う。 式(2.1)で 登 場 し て い る 全 カ テ ゴ リ 集 合 亙 内 の 第j∈J番 目 の カ テ ゴ リ ◎」の 持 つ 諸 性 質 を 典 型 的に 代 表 す る 代 表 パ タ ー ン を ω[j]={ω[j]kelと し 、2つ の パ タ ー ン モ デ ルTψ,Tω[j]に つ い て 、 Tq内 にTω[j]が 含 ま れ る 程 度 を 情 報 量 と し て 計 量 す る 機 能 を 持 つ そ の 相 互 情 報 量(mutual information) MI(Tq,Tω[j]) ≡ 一(1/2)・log,[1-lnip(T(;P,Tω[j]〉}2](4.6) を 定 義 し 、 SM(ψ,ω[j])≡ OifΣMI(Tψ,Tω[i])=0
さ
ごヱ
MI(Tψ,Tω[」])/ΣMI(Tlρ,Tω[i])ifΣMI(Tψ,Tω[i])>o(4.7) じ と 定 義 さ れ る 写 像 SM:Φ × Ω →{sio≦s≦1}『(4.8) は 、axiom2を 満 た す 類 似 度 関 数 で あ る こ と が 証 明 さ れ る(文 献[B4]の 付 録2の 定 理A2.3)。 こ こ に 、 登 場 し て い る 第j∈ 」番 目 の 、 式(2.1)内 の カ テ ゴ リ(Σ」の 代 表 パ タ ー ン ω[j]の 系 Ω ≡{ω[j]lj∈J}'(4.9) は1次 独 立 で あ る と 仮 定 す る 。
第5章
想起作用素Bの 構成
第4章 で の 式(4.7)の 類 似 度 関 数SMを 改 良 し た り 、 第7章 で 大 分 類 関 数BSCの 構 成 に 使 わ れ る 想 起 作 用 素(associativeoperator)Bに つ い て 、 説 明 し よ う 。 式(2.1)内 の カ テ ゴ リ集 合 旦 を 定 義 す る カ テ ゴ リ 番 号 の 集 合Jを J={1,2,…,m}(5.1) と 選 ぶ 。 第i∈J行 第j∈J列 の 要 素 と し て 、 Cq≡(Tω[j],Tω[i])(5.2) を 持 つ 行 列C=(Cq)i ,j∈Jを導 入 す る 。 代 表 パ タ ー ン モ デ ルTω[j]の 系 T・ Ω ≡{Tω[j]b∈J}(5.3) は1次 独 立 な 系 で あ る 様 に 選 ば れ て い る も の と す る と 、Cの 逆 行 列C、=(C一 ㌔)i,」.」は 存 在 す る 。 こ の と き 、 式(2.4)の 任 意 の パ タ ー ン ψ に 対 し、 BTψ = i:§、Tω[i]・ 」Σ,C-1ザ(Tψ,Tω[j])(5〆4) と 定 義 さ れ る 作 用 素 B:T・ Φ 一T・.Φ 、.・.'(5・5) を 考 え よ う 。 こ こ に 、T・ Φ は Φ の 、 式(2.4)で 表 さ れ る 各 元 ψ を 式(3.6)のTで 変 換 し て 得 ら れ る 集 合 で あ り 、 T・ Φ ≡…{Tψ1ψ ∈ Φ} .(5.6) と 定 義 さ れ る 。ク ロ ・ネ ッ カ ー の δ 記 号 δij=1ifi=j,==oifi≠j』'『 ・(5.7) を 導 入 し て お く 。 式(5.4)の 想 起 作 用 素Bの 不 動 点(fixed-point)は 各Tω[j]で あ る こ と を 指 摘 す る の が 次 の 定 理5.1で あ る 。 [定 理5.1](不 動 点 定 理) ∀j∈J,BTω[j]=Tω[j]..(5.8) (証 明)∀k∈J,BTω(k) = i書JTω[i].j暑JC-1ij'(Tω[k]・Tω[j])∵ 式(5・4) == ,Σ,Tω[i]●j]EJC-1ガqk'・'式(5・2) =ΣTω[i]・6ik
ま
=Tω[k] .・'[コ 式(5.3)のT・ Ω を 記 憶 内 容 と 想 定 し た 場 合 、 式(5.4)の パ タ ー シBTqは 、こパ タ ー ン 『qの モ デ ルTgpをprobeと し て 、記 憶 内 容T・ Ω 内 の 、Tqと 最 も相 関 の 大 な る1つ のTω[j]を 呼 び 出 す (想 起 す る)こ と を 意 図 し た も の で あ る 。 定 理5.1は 特 に 、Tω[j]か らTω[j]が 誤 差 な し で 正 確 に 想 起 で き る こ と を 指 摘 し て い る 。
第6章
式(4.7)「
』
の 類 似 度 関 数SMの
改 良
式(4.6)め 相 互 情 報 量MI(Tq,Tω[j])に お い て.'TqをTqか ら 想 起 さ れ る 内 容BTqに 置 き 換 え た 非 負 量 MI(BTq,Tω[j]) ≡≡一(1/2)・log,[1-lnip(BTψ,Tω[j])12]・(6 .1) の 如 く定 義 し 直 し、MI(Tq,Tω[j])を 用 い て 定 義 さ れ た 式(4 .7)のSMを SM(ψ,ω[j])… ≡ OifΣMI(BTgp,Tto[i])=0ヨ
こ
MI(BTCP,Tω[j])/ΣMI(BTSP,Tω[i])ま
if 、書,MI(BTg・ ・T・・[i])>0・(6.2) の 如 く、 式(6.1)のMI(BTψ,Tω[j])'を 使 用 す る 形 に 定 義 し直 し て も、 式(4.8)の 写 像 §Mは 、 依 然 と し て 、axiom3を 満 た す 類 似 度 関 数 で あ る こ と は 、axiom2の(i)(直 交 性)の 成 立 が 定 理 5.1(不 動 点 定 理)か ら保 証 さ れ る こ と か ら 、 わ か る 。axiom2の(ii)(規 格 化 性)、(iii) .(T一不 変 性)は 勿 論 、 成 立 し て い る 。
第7章fuzzy推
論規 則 を表 現 す る大分 類 関数Bscの
構 造 形 式 の決 定
付 録Aのaxiom3を 満 た す 大 分 類 関 数(binary-stateclassifier)BSCを 構 成 し よ う6 ':BSCを 知 識 抽 出 ネ ッ ト ワ ー ク(㎞owledge -extractionnetwork)と し て 構 成 す る 。変 数 y△={y^k4}1、 … 、1,・ ・.(7.1) を 用 意 し 、 重 み ベ ク トル(weightマector) 鴨]一{w[j]・ ・}、 一1 .・ 一'.・(72) の 各 成 分W[j]k4を 、 y^k4=W[j]k4'(7.3)
と い う 具 合 に 、 理 想 出 力 と す る 様 なhlzzy推 論 規 則(fuzzyin飴reロcemle)は 、・閾 値(thresholdvalue)
b[j]を も 導 入 す れ ば 、 BT∼oがTω[j]で あ る と き 、y^k6が W[j]k厂b[j] で あ る1(7 .4) と 表 さ れ る 。 こ こ に 、 W^[j]={W[j]k4}・.. .1・;、 ・・1.・ ・1・ 』(7.5) の 近 傍 値 が 式(7.2)のW[j]で あ る 。 .つ ま り 、 す べ て のk=o,1,2,…,士p,4=o,1,2,…,・ ±qに つ い て 、 ifBTψisTω[j]theny^k4is∼V[j]k4 -b[j]' . . .・.・ 「.・(7.6) と 表 さ れ るfuzzy推 論 規 則 を 想 定 し て お り(付 録DのD2章 を 参 照)、 式(7.6)のfuzzy推 論 規 則 を 大 分 類 関 数 で 表 現 す る よ う に 、 大 分 類 関 数 BSC:Φ ×J→{0,1}・ 「 「 「(7 .7) .を決 め よ う 。 そ の た め 、二BSご の ・構造 を BSC(ψ,j)
≡P・n(
、
夐,瓦W[j]・
・
・[q・・(ψ ,j)/、恥(ψ,i)]一b自])「'■'r'(7￡)』 一P・n( 、亙,澤,W[j]・ ゼP・・!ψ・j) 一b[j]) . .1「(7.9)=臨1号j)一b甲!1
..じ'■;:ll;
と 設 定 し て み よ う 。 こ こ に 、 登 場 し た 各 記 号 は 、 ①psn(u)= Oifu<0・. 1ifu≧0' .・,(7.12) ②qk4(ψ,j) ≡≡exp[一{(BTg))k2一(Tω[j])k4}2/σk6[j]2]「(7 .・13) ③pk4(ψ,j)≡qk4(φ,j)1Σqk2(ψ,i).』(7.14) i∈」④Wm㎝(ψ,j)
≡
、
到
国
嚇
・
醐j)
.'.(Z15)
⑤ 配@・j) ≡Wmea、(⑫j)一b[j](7 .16)と 定 義 さ れ て い る 。 式(7.13>のqk6@,j)は 、(BT∼o)k4が 、 第j∈J番 目 の カ テ ゴ リ(Σjの 代 表 パ タ ー ン ω[j]の モ デ ル Tω[j]の 座 標 値(x1+k,k2+の で の 濃 淡 値(Tω[j])k6と ど れ 位 一 致 す る か に 関 す る 曖 昧 さ (fhzziness)を 表 し て お り 、 式(7.14)のpk4(偽j)は 、(BTψ)k4が(Tω[j])k2と 一 致 す る 確 率 で あ る と 考 え ら れ る 。 式(7.15)のW_@,j)は 、 こ の 確 率 の 、 座 標 値 分 布 Pk4(9),j) k=0,1,2,…,±p,4=0,1,2,…,±q㌶ ゴ(7.17) に 関 す る 重 みW[j]の 平 均 値(meanvalue)を 表 し て お り 、 式(7.16)のy@,j)は 中 心 値b[j] に 関 す る 正 ・零 ・負 の 偏 差 値 を 表 し て い る 。 正 ・零 の 偏 差 値 な ら ば 、 式(7.11)の 大 分 類 関 数BSC (ψ,j)の 値 が1に な り、 負 の 偏 差 値 な ら ば0に な る こ と に 注 意 し て お く。 ・第8章 式(7 .13)内 の 各 代 表 パ タ ー ン ω[j]={ω[1]k2}の 学 習 第j∈J番 目 の カ テ ゴ リ(Σjに 帰 属 し て い る 訓 練 パ タ ー ン(trainingpattem) ψ 自;t] ={ψ[j;t]k4ik=0 ,1,2・ ・。,±p,4=0,1,2。 ・・,±q}(8.1) の 系 列 ψ[j;0],ψ[j;1],…,(;ρ[j;t],…(」 ∈J)・r(8.2) を 用 意 す る 。 以 下 の 手 法 は 、Kohonenの 学 習 ベ ク ト ル 量 子 化LVQ(LeamingVectorQuantization)の 手 法(文 献 佃3]の 付 録1を 参 照)を 簡 単 化 し 、 第j∈J番 目 の カ テ ゴ リ(Σjの 代 表 パ タ ー ン ω[」]を 適 応 的 に 決 定 で き る よ う に 適 用 し た も の で あ る: 第j∈J番 目 の カ テ ゴ リ ◎jの 代 豪 パ タ ー ン ω ■[j]を 仮 に 決 定 し 、 こ れ を 初 期 値 ω[j;t]k61t_o=・ ωノ[j]k4.(8.3) に 選 び 、 更 に 、 不 等 式 0≦ α[j;t一 ト1]kゼ ≦ α[j;t]k4<l foranyt∈ 「0,1,2,…}-(8.4) を 満 た す よ う な 非 負 実 数 値 関 数 α[j;t] ={α[j;t]k41k=0 ,1,2…,±p,4=0,1,2…,±q}(8.5) を 選 び 、.離 散 時 刻t(=0,1,2,…)に 入 力 さ れ た 式(8.1)の 訓 練 パ タ ー ン ψ[j;t]に 適 応 し て 、 ω .[j;t]k4の 変 更 分 △6[j;t]k4を △ ω[j;t]k4 =α[j;t]kゼ[ψ[j;t]k4一 ω[j;t]k2](8 .6) と 採 用 し 、 ω[j;t]k4を ω[j;t+1]k4へ と 、 ω[j;t+1]k6=ω[j;t]k召+△ ω[j;t]k2(8.7) と 修 正 し て ゆ く 。 □ こ こ に 、 式(8.6)の △ ω[j;t]k4内 の α[j;t]k4は 、 maXk日 ∼〃[j;t]k4一 ω[j;t]k412
=19)[j;重]k*4*一 ω[j;t]k*4*12・(8 .8) を 満 た す2つ の 整 数 値 拭4*を 選 び 、 α[j;t]k8 一,xp[一{(k・ 一k)・ 午(4・ 一4)・)} 1(v[j;t]kの2](8.9) の よ う に 選 ぶ 。 ま た 、 登 場 し た 式(8.9)のv[j;t]k4は 、Dk6を 正 定 数 に 選 び 、 不 等 式(8.4)を 満 た す よ う に 、 11(v[j;t]kの2 =[(2p)2十(2q)2]・[Dk乏 、 ・loge(1→ 一t)]2(8.10) v[j;t]k6=Dk〃[(2p)2十(2q)2・log,(1十t)](8.11) と 選 定 す る 。 2式(8.6),(8.7)か ら ω[j;t1が 訓 練 パ タ ー ン ψ[j;t]に 近 づ く 方 向 に ω[j;t+1]へ と 更 新 さ れ て ゆ く こ と が わ か り 、 こ の 更 新 分 △ ω[j;t]は 不 等 式(8.4)を 満 た す 式(8.11)のv[j;t]の 選 定 法 か ら 、 訓 練 時 刻tが 増 加 す る に つ れ て 、 小 さ く な っ て い る こ と に 注 意 し て お こ う 。 あ ら か じ め 、 与 え ら れ て い る 正 数 δ1に 対 し 、 [1ω[j;t+1]一 ω[j;t]H2<δ1(8.12) が 成 立 す る 時 刻tが 得 ら れ た ら 、 求 め る ω[j]は ω[j]=ω[」;t](8.13) と得 ら れ る 。
亀 大 分 類 関 数BSC内Q閾
値b[1]の 決 定 、
4式(7.8)∼(741) 、大 分 類 関 数BSC内 の 各 重 み 珊[j]k6が 決 定 さ れ て い る と し て 、 各 閾 値b国 を 決 定 す る 方 法 を 説 明 し て お く 。 各W[j]k4の 非 負 性 ∀j∈J,∀k∈{0,±1,±2,…,±P}, ∀ 乏∈.{0,±1,±2,…,±q},W[j]k4≧0(9.1) が 満 た さ れ る よ う に 、 常 に 選 ぶ と し よ う 。 Yj∈J・BSC(ωj・j)=1(∵axio;n3の(i)).、,(9・2) を 満 た さ な け れ ば な ら な い か ら 、 y(ωj,j) =W m。、n(ωj,j)一b[j]∵ 式(7.16>、 、 ・(9.3)一
、
婁訊W田
…P繭)
一b[j]∵ 式(7 .15)一(9.4)一
、
豊,澤,鴨]・ ゼ
qk4(ωj,i)}]・1(95)[1/{1+Σ i∈卜1ji一b[j]∵ 式(7 .14) ≧0 で な け れ ば な ら な い 。 こ こ で 、2式(9.5),(9.6)に 、 不 等 式 (1一一x)一11(1十x)=一x2/(1→ 一x)≦Oifx≧0 .'.(1-x)≦1!(1+x)ifx≧0 (1-x)=1/(1十x)ifandonlyifx=0 を 考 慮 す れ ば 、 ∀j∈J, b[j]
≦
、
豊 訊
哨]・ ・
・[1一 Σqk4(ωj ,i)] i∈ 卜{j}一
、
霎 訊
哨]・ ・
一
、
翌 訊
鴨]・ ・
㌫ 、依 ・(ω・・i)一
、
豊,試W自]・
・
一
、
尋、j嵩
譯,嚇
・
qk2(ω」,1) が 満 た さ れ る 各 閾 値b[j]を 選 べ ば よ い 。(9.6)
(9.7)
(9.8)
(9.9)
10.大 分 類 関数 白SC内 の重 みW[1】 良2の、最急 降 下法 に よ る学 習
母 小 に し た い"u(t)を 変 数 に 持 つ 量"IE;E(u(t))の 偏 微 分 係i数 一 ∂耳 ∂u(t)に 比 例 す る 量 △u(t)=・(t)・[一 ∂E!∂u(t)](ε(t)>0)
を,助 変 数 と し て 時 刻tを 持 つ よ う に 考 え た 変 数u(t)に 加 え る こ と に よ っ て 、 時 刻tの 変 数u(t)
を 時 刻t+1の 変 数u(t+1)へ
u(t十1)=u(t)+△u(t)
と修 正 し 、Eの 極 小 値 の1つ を 与 え る よ う な 変 数uの 時 刻d≧0)の 値u(t)がtの 大 き い 値 で 求 ま
る こ と を 可 能 に す る の が 、 最 急 降 下 法(methodofsteepestdescent)で あ る 。 時 刻tの 正 値 関 数 ε(t) ・は 学 習 係 数 と 呼 ば れ る も の で あ る 。 こ の 最 急 降 下 法 を 適 用 し 、4式(7.8)∼(7.11)』 の 大 分 類 関 数 BSC内 の 各 重 みW[j]k2を 決 定 し よ う 。 各W[j]k4の 非 負 条 件 式(9.1)を 考 慮 し て お く。 式(5.1)の カ テ ゴ リ 番 号 集 合Jの 下 で 考 え よ う 。 初 期 値 W[」,t]k21ドo=W![j]k4≡1, k∈{0,±1,±2,…,±p},乏 ∈{0,±1,±2,…,±q}、(10.1) を 設 定 し¥
9二)[jt,t]={(9つ[jt,t])ke} は 時 刻tに 入 力 さ れ る 訓 練 パ タ ー ン の 系 列 ∼ρ[jt,t]={(9ク[jt,t])ke}, t=0,1,2」 ・・。■'』 を 用 意 す る 。 こ こ で 、 y^(j):カ テ ゴ リ(Σjに 関 す る 理 想 出 力(desiredoutput) y(q[j、,t],jt):カ テ ゴ リ(Eljに 帰 属 す る パ タ ー ン ψ[j、,t]を 時 刻tに 入 力 し た と き 、 得 ら れ る 現 実 出 力(actUaloutPut) を 導 入 し 、 適 応 に 関 す る 誤 差 エ ネ ル ギ ー(errorenergy) E(j、,t) ≡2一1・[y(q[jt ,t],jt)一y^(j、)]2 ∵ 式(7.11)
一2-1・[
、
霎 訊W[j・]・1
・[(lke(ψ[j、 ,t],j)1Σqke(ψ[jt,t],i)]一b[jt,t]一y^(ψ[j、,t],j)]2 オ ヱ∵
式(7.8)
を最 小 にす る よ う に、 各 重 みW[j]を
逐 次 的 に決 定 し てい こ う。
(10.2)
(10.3)・(10.4)
(10.5)
(10.6)
(10.7)
最 急 降 下 法 に よ れ ば 、W[j、,t]の 更 新 式(学 習 方 程 式)は}正 値 関 数 ε2[j,t]k4>0を 選 定 し時 刻 tに 》 ψ[」,,t]を 入 力 す る な ら ば 、W[j,t]k4の 更 新 分 △W[」, ,t]k4を △W[j,t]k4・ =ε2[」 ,t]kグ[一 ∂E(jt,t)/∂W[j,t]k4] と 求 ゆ る と 、 W[jt+1,t+1]k4=W[j、,t]k4+△W日t,t]k6 と 設 定 す れ ば よ い 。 こ こ で 、 ∂E(j、,t)/∂W[j、,t]k4 =[y(ψ[j, ,t],jt)一y^(j、)]・ ∂y(ψ[jt,t],j、)/∂W[jt,t]k2 =[y(ψ[jt ,t],j,)一y^(jt)]・ 1)k6(9ク[jt,‡],jt) ∵2式(7.16),(7.15)(10.8)
(10.9)
(10.10) と 計 算 さ れ る か ら 、 式(10.10)を 式(10.8)に 代 入 し て 、 結 局 、W[j,t]k,の 更 新 分 ムW[j,t]k4は 、 △W[j,t]k4 =一 ε2[」・t]kピ[y(ψ[jt・ 蔑]乳j・)厂yl(j豆)]. .・ ・ ・P、,@b 、,t]lj、)(10.11)と求 め られ る。
あ らか じめ 、 与 え られ て い る韮 数 δ2に対 し、
、
夐 訊1哨
・+1,t+1]・
・
一W[j 、,t]k412<δ2.・(10.12) が 成 立 す る 時 刻tが 得 ら れ た ら 、 求 め るW[j、]は W[j、]k4=W[j、,t]k4 ,,(10.13)と 得 ら れ る 。 11.大 分 類 関 数BSC内 の 閾 値b[1]の 、 最 急 降 下 法 に よ る 学 習 閾 値b[」]の 学 習 を10章 と 同 様 に 論 じ よ う 。 初 期 値 b[j,,t]1,_o=0(11.1) を 設 定 す る 。 正 値 関 数 ε'[j,t]k4>0を 選 定 し 、 △b[jt,t] =ε ノ[jt ,t]・[一 ∂E(jt,t)/∂b[jt,t]](11.2) を 考 え る と 、 更 新 式 は 、 b[jt+1,t+1]==1)[jt,t]+△b[jt,t](11.3) と い う こ と に な る 。 ∂E(jt,t)/∂b[jt,t] =[y(ψ[j、 ,t],j、)一y^(j、)]・ ∂y(ψ[j、,t],j、)/∂b[j,,t] =[y(ψ[jt ,t],j、)一y^(j,)]。(一1) ∵ 式(7.16>,(7.15)(11.4) と 計 算 さ れ る か ら 、 結 局 、 △b[jt,t] =ε3[jt,t]・[y(ψ[jt,t],j、)一y^(j、)](115) と 決 定 さ れ る 。 あ ら か じ め 、 与 え ら れ て い る 正 数 δ3に 対 し 、 lb[j,+1,t+1]一b[jt,t]1<δ3-『(11.6) が 成 立 す る 時 刻tが 得 ら れ た ら 、 仮 に 求 め るb[jt]は b[j,]=b[j、;t](11.7) と 得 ら れ る 。 こ の 仮 のb自t]・ が10章 で 得 ら れ た 式(10.13)の 各W[j、]に つ い て 、 不 等 式(9.8),』 不 等 式(9.9) の い ず れ か を 満 た す よ う に 選 び 直 す 。 ・ 12.大 分 類 関 数BSC内 の 標 準 偏 差 σk2[1]の 、最 急 降 下 法 に よ る 学 習 式(7.13)内 め σk8[jP,σk6[j]は 各 々 、 分 散(variance),標 準 偏 差(standarddeviation)と い わ れ る 。 閾 値 σk6[j]の学 習 を10章 と 同 様 に 論 じ よ う 。 先 ず 、 十 分 大 き い 正 整 数 値sを 選 定 ・固 定 し 、 初 期 値 σk4[jt,t]21t_0 =2、'懇 ・ 鵯 ・1(Bψ 自・;t])・・
・一 ω[」 、]、e』12 を 設 定 す る 。 正 値 関 数 ε4[j,t]ke>0を 選 定 し 、 △ σke[j、,t] =ε4[jt ,t]・[一 ∂E(jt,t)/∂ σke[j、,t]] を 考 え る と 、 更 新 式 は 、 σL6[jt+1,t+1]=σke[j、,t]+△ σke[jt,t] と い う こ と に な る 。 ∂E(j、,t)/∂ σke[j、,t] =[y(ψ[jt ,t],jt)一y^(j、)]・ ∂y(ψ[jt,t],j、)/∂ σke[j、,t] =[y(ψ[jt ,t],j、)一y^(j、)]・ W[j,]ke・ ∂P@[j、,t],」 、)/∂σke[j、,t]' ∵ 式(7.16),(7.15) と 計 算 さ れ る 。 こ こ で 、 ① ∂P、e(ψ,j)/∂ σke[j] =(∂/∂ σke[j])qke((iZ) ・j)/i葛qk2・(q・i)・ ・ ・=[(∂/∂6ke[j])qke((;o ,j)]/Σqke(q,i)+ qke(∼o,j)・[(∂1∂ σke[j])・[Σqke(ψ,i)]『1ヒ =[(∂/∂ σke'[j])qkb〈(;P ,j)]/Σqke(q,i)一qke・(ψ,j)・ [Σqke'(.q,i)]一2・[(∂/∂まど σke[j])qkセ(∼P,j)] =[(∂/∂ σke[j])qke((;P ,j)]・[Σqke((ii),i)]、 ・[1-qke((;P,j)/Σqke((it',i)] i∈Ji∈J ② ∂qke.(ψ,j)/∂ σke[j] ==qke(ψ ,j)・2・{(BTq)ke一(Tω[j])ke}2 ・σ 、1[」]3 で あ る か ・ら、 ② を ① に 代 入 し て 、 ・. ③ ∂Pke(q,j)!∂ σ、e[j] =qke(q ,j)・2・{(BTq)ke一(Tω[j])ke}2 ・σke[j]3・[Σqke(∼ii) ,i)]一1 エ 。[1-qke(q> ・j)/i≡尹 Jqke(ψ ・i)] と 計 算 さ れ る 。 よ っ て 、 ③ を 式(12.4)に 考 慮 し て 、 結 局 、 式(12.2)か ら 、 △b[jt,t] =ε3[j、 ,t]・(一1)・[y(ψ[j、,t],j,)一y〈(j、)]・W[j、]ke' qke(ψ[j、,t],jt)・2・{(BTq[jt,t])ke 一(Tω[j ,])ke}2 ・9ke[j ']3・[i茗qke(ψ[j・ ・t]・i)]一1 ・[1=q・ ・@[j・ 't]・j・)/、>J「q・e(ψ[j・"t]・ ,i)]. と 決 定 さ れ る 。 あ ら か じ め 、 与 え ら れ て い る 正 数 δ4に 対 し 、 、翌,潔,1・ ・轟+1・.t+1]
(12,1)
(12.2)
(12.3)
(12.4)
(12.5>
一 σk4[j t,t]12<δ4 が 成 立 す る 時 刻tが 得 ら れ た ら 、 仮 に 求 め る σk4[j]は σk2[j]=σk4[j;t] と 得 ら れ る 。
(12.6)
(12.7)
第13章
む すび
imagesegmentationを
含 む画 面 内 の パ タ ー ン認 識 過 程 につ い て、
前 後 の 文脈 を手 が か り と して 、(文 脈 中 の)パ
タ ー ンの(カ
テ ゴ リ帰 属 に 関 し)意 味 上 の 多
義 性 を解 消 し、 文 脈 に 適 合 した"そ
の パ タ ー ン の 帰 属 す る カ テ ゴ リ"を 確 定 さ せ る とい う
「segmentation(1枚
の 画 面 を有 限 個 の 意 味 あ る 区 画 に分 割 す る こ と)を 含 む 画 面 内 の パ
タ ー ン認識 過 程 」
が研 究 さ れ た 。 つ ま り、1つ
の 風 景 画 内 の各 画 素 に 、 そ の 近 傍 の 画 素 集 合 につ い て持 つ 知 識 を用
い カ テ ゴ リ ラベ ル を付 け る こ と に よ って 、 風 景 画 か ら知 識 を抽 出 し、 そ の 画 像 の 概 観 を解 釈 す る
シス テ ム を構 成 す る 手 法 が 研 究 さ れ た 。 構 成 さ れ た 画 像 知 識 抽 出解 釈 シ ス テ ム は 同 時 に 、 画 像 を
意 味 あ る複 数 の 領 域 へ と分 割 す る"領 域 分 割"の
機 能 を 備 え て 来 る こ と に な っ た こ と に注 意 して
お こ う。
以 上 、SS理 論 の 適 用 に よ っ て 、風 景 画 を理 解 ・
解 釈 す る シ ス テ ム を構 築 す る技 法 が 研 究 され た。
4公 理axiom1∼axiom4を
出発 点 とす るSS理 論 は 知 能 情 報 学 の 新 しい原 理 を明 らか に しつ つ あ る
が[B7]∼[B15]、
本 研 究 で は 、1枚 の 風 景 画 像 中 の 各 画 素 に、 想 定 され て い る カ テ ゴ リ集 合 内
の 適 切 な カ テ ゴ リ ラベ ル を貼 付 る手 法 で 、 同 一 カ テ ゴ リ ラベ ル を持 つ 画 素 の 集 ま り(パ
タ ー ン)
を この 画 像 内 に存 在 して い る知 識 と して抽 出 し、 この 画 像 内 に複 数 の ど ん な パ タ ー ンが 存 在 して
い る か?に
つ い て の 質 問 に答 え る こ と の 可 能 な"風 景 画 の 解 釈 シス テ ム"をSS理
論 を 適 用 して 、
構 築 した 。特 に、axiom3を 満 た す 大 分 類 関 数BSCを
フ ァ ジ ィ推 論 ニ ュ ー ラ ル ネ ッ.トと して構 成 し、
最 急 降 下 法 を適 用 し、BSC内
の 各 重 み 、 閾 値 、標 準 偏 差 を学 習 の 働 きで 決 定 した こ と に注 意 を払
っ て お こ う。
SS理 論 の 出 発 点 は、
パ タ ー ン モ デ ルTψ をみ た ら原 パ タ ー ン ψ の よ う にみ え る こ と(同 一 知 覚 原 理)
を 可 能 にす るaxiom1に
あ る 。 処 理 の対 象 とす るパ タ ㌣ ン ψの 集 合 Φ と、 式(2.1)の
写 像Tと
の対
[Φ,T]が
付 録Aのaxiom1を
満 たす 必 要 が あ る 、 とい う の が 、SS理 論[B1]∼[B4]の
主 張 で
あ る 。
パ タ ー ン認 識 の 数 学 的理 論(SS理
論)で は 、入 力 パ ター ン ψ に対 応 す るパ ター ンモ デ ルTψ を 求
め 、Tψ か らカ テ ゴ リ帰 属 知 識 に 関 す る連 想 形 認 識 方 程 式[B3]の
解 と して 、 不 動 点 パ タ ー ンモ
デ ル を連 想 す る形 で 、 ψ の帰 属 す る カ テ ゴ リ を決 定 す る 多 段 階パ ター ン変 換 法 が考 え られ て い る。
.$S理 論 は 、 この よ うな パ タ ー ンモ デ ルTψ
を恰 も 、 原 パ タ ー ン ψ と錯 堂 し)構 造 受 精 変 換 を多
段 階 適 用 し、 カ テ ゴ リ帰 属 知 識 の 不 動 点 知 識 を連 想 形 認 識 方 程 式 を解 く こ と に よ り求 め る とい う
"不 動 点 探 索 形 構 造 受 精 多 段 階変 換 に基 づ く認 識 の働 き"を 提 案 して お り
、.この 認 識 の 働 きが あ り
とあ らゆ るパ ター ン認 識 の働 き を シ ミュ レー トで きる こ とが 証 明 され て い る。
外 界 か ら獲 得 した2次 元 投 影 像 を脳 内 の 記 憶 と照 合 す る情 報 処 理 過 程 が パ タ ー ン認 識 過 程 で あ
る・ 本 研 究 で は ・2次
元 の投 影 像 の み か ら も と.の3次 元 形 状 を復 元 す る とv}つ た"逆
問 題"を
取
り扱 っ て い な い し・ 再 現 さ れ た3次
元 形 状 を脳 内 で 操 作 し・ 新 しい 視 点 か らの 見 ネ を作 り上 げ る
とい っ た 感 覚 運 動 的 な知 能 処 理 も実 現 して い な い 。 知 能 の 内 、 表 象 能 力 に基 づ い た概 念 的 表 象 分
類 知 能 の み を取 り扱 っ て お り、 表 象 を操 作 す る とい った 知 覚 運 動 的知 能 を実 現 して い な い。
1つ の 物 体 が み る視 点 に よ っ て 異 な っ た よ う に み え る とい っ、
た 場 面 を想 定 して レ・な くて 、a
cons伽tゴelationwithoutproducingmotionbe‡weentheviewerandthesceneの
場 合 の シー ン解 釈 を行 う
シ ス テ ム を構 成 した が 、 この種 の 場 面 を取 り扱 うた め に は、.類似 度 関 数 を工 夫 す る 必 要 が あ る 。
SS理 論 を 適 用 して 、風 景 画 像 内 の 画 素 を 単 位 と す る知 識 の抽 出 、 対 象 物 の 認 識 を 、画 像 中 の対
象 の 領 域 につ い て 暗 示 的 な知 識 が 学 習 で 決 定 さ れ た 形 で 、 処 理 の 自動 化 を達 成 し なが ら行 え る こ
とが わ か っ た 。 計 算 機 シ ミ革 レ ー シ ヨン を 繰 り返 し・・
普 遍 性 の低 い 知 識 は 無 論 の こ と、 高 い知 識
まで も抽 出 可 能 な こ と を示 さ な け れ ば な ら ない 。風 景 画 像 内 の対 象 の認 識 は人 間 で も、 難 しい こ
とが 多 い が 、 人 間 に よ る知 識 抽 出 結 果 ・
認 識 結 果 と ほ ど好 く、 ヴ 致 す る こ と も示 され るだ ろ う との
予 測 も成 り立 つ と考 え て い る。,、
更 に、 マ ル チ メ デ ィ アで 表 現 され た 知 識 を変 換 ・
処 理 ・
蓄 積 ・
検 索 す る ξい う機 能 を実 現 しな け れ
ば な ら な い"マ
ル チ メ デ イ ア 入 工 知 能 学"轟 ま、 古 典 的 な状 態 空 間探 索 理 論 、 並 び に論 理 を使 っ た
非 単 調 的 記 号 推 論 理 論 な どや 、 フ ァ ジ ィ ・
ニ ュ ー ラル ネ ッ ト・
遺 伝 的 アル ゴ リズ ム ・
人 工 生 命 の各 理
論 と共 に 、 進 歩 ・
発 展 して い る け れ ど も、・
感 情 ・
感 性 な どの非 論 理 情 報(nonlogicalinfomlation)を
処 理 す る よ う、
に に 成 熟 して い な い,パ
タ ー ン処 理 の 場 面 で も、 この 種 の 非 論 理 情 報 を捨 て てパ タ
ー ン(例 え ば
、 会 話 音 声)を
処 理 した の で は 、 領 域 分 割 ・
解 釈 ・
認 識 の 各 性 能 に 限 界 が 生 ず る とい
う考 え が あ り[Ai3]、.ζ
の種 の 考 え を取 り入 れ る方 向 に本研 究 に改 良 の 余 地 が あ る 。
文.献A
[A1]青 木 利 夫,高 橋 渉:"集 合 ・位 相 空 間 要 論",培 風 館,Sept.1979[A2]Angu・E・T・yl・ ゆavidC・L・y:"ln⑳d・ ・‡i・nt・f・nρti・nan・ly・i・",J・㎞Wil・y&S・n・,ln・ ・, 1980 [A3]い や 富 仁,萩 原 将 文:"ダ ァ ジ ー 推 論 ニ ュ ー ラ 丿レネ ッ トワ ー ク を 用 い た 風 景 画 像 か ら の 知 識 抽 出 も認 識",電 子 情 報 通 信 学 会 論 文 誌D』,vol.」82-D-H,no.4,pp.685-693,Apr.1999 [A4]J.一S.RogerandC.一T.Sun:"Functionalequivalencebetwサenradialbasisfμnctionnetworks碑nd fαzzyinfbrenceSystems';IEEETrans. 、Onneuralnetworks,vol.4,no.1,PP.156〒159,Jan.1993 [A5]MarceUoPelillo,MarioRefice:."LearningcompatibilitycoefficientSforrelaxationlabeling processes",IEEETrans.onpattemanalysisandmachineintelligence,vol.16,no.9,pp.933-945, Sept.1994 [A6]TapanKrDinda,Kumars.Ray,MihiKr.Chakraborty:`IFuzzyrelationalcalculusapproaρhto multidimensionalpattemcIassification';PattemRecog口ition,vol.32,pp.973-995,1999 ・[A7]SyenLoncaric:"AsurYeyofshapeanalysistec㎞iques" ,Pa枕emRecognition,vol.31,no.8,PP. 983「1001,!998 [A8]ShahriarNegahdaripour:"Reviseddefinitionofopticalnow:Integration .ofradiom亭tricand geometriccuesfordynamicsceneanalysis",IEEETrans.onpatter箪 .analysisandmachine
intelligence,voL20,no.9,PP.961-979,Sept.1998 [A9]K.SunilK㎜ar,U.B.Desai:"Jointsegmentationandimageinterpretation';PattemRecognition, vol.32,PP577-589,1999 [A10]三 崎 将 也,乾 敏 郎:1`カ テ ゴ リ 知 識 の 獲 得 に よ る 認 識 空 間 の 変 化",CognitiveStudies,vgl.6, no.2,PP.226-241,Julle1999 [A11]徳 久 雅 人,岡 田 直 之:"パ タ ー ン 理 解 的 手 法 に 基 づ く 知 能 工 一 ジ ェ ン ト の 情 緒 生 起",情 報 処 理 学 会 論 文 誌,vo1.39,no.8,pp.2440「2451,Aug.1998
[A12]横 井 俊 夫:"メ デ ィ ア を 手 掛 か り と し たAI技 術 ・研 究 の 再 構 築",人 工 知 能 学 会 誌,vol.13,
no.5,Sept.1998
.[A13]中 津 良 平:"人 間 の 非 論 理i青 報 をAIは ど う 取 り 扱 う か?",.入 工 知 能 学 会 誌,voL14,no.2, Mar.1999 [A14]Mπgaret.S.LivingstoneandDavid旺Hubel:"PsychΦhysicalevidencefbrseparatecha㎜[elsfbr theperceptionoffb㎜,color,movement,anddepth",TheJo㎜alofN『uroscience,vol.7,nα11, pp.3416-3468」Nov.1987 [A15]Andrz〔 オCichocki,RQIfUnbehauen:"Neuralnetworksfbroptimizationand.signalprocessing'; Joh耳Wiley&Sons,Mar。1994 [A16]肖 業 貴,N.P..チ ャ ン ド ラ シ リ,.田 所 嘉.昭,.尾 田 政 臣:"2-DDCTと ニ ュ 晒 ラ ル ネ ッ ト ワ ー ク .を 用 い た 顔 画 像 の 表 情 認 識"∴ 電 子 情 …報 通 信 学 会 論 文 誌A ,.vol.J$1-A;nα7,:加.1077-1086, July1998 [A17]Hadar'1.Avi-ltzhakJahA.VanMieghem,LeonardolR耳b:6`M"ltiple.subclassp韻emrecognition :Alnaximincorrela‡ionapproach';IEEETrans.onpattem.allalysisand卑achineintelligence, voL17,no.4,pp.418-431,Apr.1995・ [A18]田 中 啓 治:"下 側 頭 葉 と 物 体 認 識",電 子 情 報 通 信 学 会 誌,vol.81,no.7,pp.758-767,July1998 [A19]JinhuiLin,A.K.Jain:"Image-basedffomdocumehtretrieval';PatternRecognition,vol.33,pp.503-513,2000 [A20]杉 本 重 雄:"デ ィ ジ タ ル 図 書 館[フ オ ー ラ.ム]",コ ン ピ ュrタ.ソ フ ト ウ ェ ア.,・v・1.16,no.1, 1)p.57-63,Jan.1999 [A21}長 尾 真 他:."マ ル チ メ デ ィ ア 情 報 学 の 基 礎(岩 波.講 座 マ ル チ メ デ ィ ア 情 報 学1)",岩 波 書 店, 0ct.1.999 [A22].秋 藤 俊 介,辻 洋:"バ ー ジ ョ ン 空 間 法 を 応 用 し た 類 似 事 例 の 検 索 と 索 引 の 更 新 方 式"ジ 情 報 処 理 学 会 論 文 誌,vol.36,no.1,pp.41-50,Jan.1995 … 半 順 序 関 係 が 定 め る バ ー ジ ョ ン 空 間(version-space)に 対 し て、 問 題 の 属 性 値 が 占 め る 相 対 位 置 を 類 似 度 と.し 、 類 似 度 が 高 い 順 に"属 性 を 表 す 述 語 の 論 理 演 算 で 表 現 さ れ る 事 例" を 出 力 す る よ う な 類 似 事 例 検 索 法 [A23]SreeramV。B.Aiyer,MahesanNiranjan,FrankFallside:"Atheoreticalinvestigationintothe Perfb血ance』oftheHop負eldModel';IEEETransactionsonNeuralNetworks,vol.11no.2,June
1990…CAM・ ・(cont㎝taddressablememory).と し て のHQpfieldmodelはapr(麺ectionoftheh}put vectorontothes耳bspace.』(spanlledbythemgmoryvectors)s6tupbythedegenerateeigenvaluesof
..theco皿ectionmatdxの 動 作 を す る.。
「に よ る 実 現" ,電 子 情 報 通 信 学 会 論 文 誌D-H,vol.J81-D』,no、6,pp.1328-1335,June1998 … 或 る 小 領 域 の 多 数 の ニ ュ ー ロ ン の 発 火 に よ っ て 概 念 を 表 現 す る 。 局 所 表 現 と 分 散 表 現 の 中 間 的 な 知 識 表 現 法(領 域 表 現)を 提 案6 [A25]別 所 克 人,岩 瀬 成 入,戸 部 美 春,福 村 好 美:"自 然 言 語 検 索 シ ス テ ム に お け る 分 野 推 論 方 式",電 子 情 報 通 信 学 会 論 文 誌D』,volJ81-D-H,no.6,pp.1317-1327,」 ㎜e1998 ∴ デ ー タ ベ ー ス に は 店 、 企 業 、 或 い は 番 組 な ど に 関 す る 情 報 が 分 野 ご と に 分 類 さ れ て お り、 検 索 者 は 商 品 、 住 所 な ど を 含 む 質 問 文 を 入 力 す る こ と に よ り 、 適 合 す る 分 野 と 該 当 す る 店 、 企 業 、 番 組 な ど の 情 報 を 得 る 。 検 索 者 の 入 力 ・し た 日 本 語 質 問 文 か ら 、 対 応 す る 分 野 を 推 論 す る 分 野 推 論 方 式 を研 究 し て い る 。 [A26]宮 原 隆 行,清 木 康,北 川 高 嗣:"意 味 の 数 学 モ デ ル に よ る 意 味 的 連 想 検 索 の 高 速 化 ア ル ゴ リズ ム と そ の 実 現 方 式",情 報 処 理 学 会 論 文 誌,vol.38,no.7,pp.1399-1411,July1997 … デ ー タ ベ ー ス ・シ ス テ ム に お け る デ ー タ 検 索 の た め の 主 要 な 基 本 操 作 は 、 連 想 検 索 で あ る 。 こ こ で 、 連 想 検 索 と は 、 あ る キ ー ワ ー ド に 関 連 す る 情 報 を そ の キ ー ワ ー ドが 表 す ア ド レ ス で は な く 、 そ の キ ー ワ ー ド の 内 容 に 応 じ て 検 索 す る こ と を い う 。 現 行 の デ ー タ ベ ー ス ・シ ス テ ム に お け る 連 想 検 索 は 、 パ タ ー ン ・マ ッ チ ン グ に よ る 検 索 で あ り、 異 な る 表 現 形 態 で あ る が 同 一 の 意 味 を 持 つ デ ー タ や 近 い 意 味 を 持 つ デ 「 タ の 検 索 を 行 う こ とが で き な い 。 [A27]太 田 学,.高 須 淳 宏,安 達 淳:"認 識 誤 り を 含 む 和 文 テ キ ス トに お け る 全 文 検 索 法",情 報 処 理 学 会 論 文 誌,vol.39,no.3,pp.625-635,Mar.1998 …OCR(光 学 的 文 字 読 み 取 り装 置)を 用 い て 文 書 画 像 を テ キ ス ト コ ー ド に 変 換 す る と き、 認 識 誤 りが 存 在 す る こ と に な る 。3つ の 確 率 的 な 全 文 検 索 法 ①con血sionmatdxretdevalmethod(CMR法) ②extendedCMR法 ③bigrammatrixretdeval孟ethod が 、OCRに よ る 認 識 誤 り を 含 む 和 文 テ キ ス トに 対 し 、 提 案 さ れ て い る 。 全 文 検 索 を 念 頭 に お い て お り 、'テ キ ス ト は1つ の 長 大 な 和 文 の 文 字 列 と し て 記 憶 さ れ て い る 。 認 識 結 果 の テ キ ス トに お い て ユ ー ザ の 入 力 し た 検 索 語 で 検 索 を行 う こ と を 考 え 、 先 ず 、類 似 文 字 テ ー ブ ル を参 照 し 、 こ の 論 文 で 提 案 す る 手 順 で 複 数 の 検 索 文 字 列 を 生 成 し て い る 。 [A28]Wei-ChungLin,Chen-KuoTsao:"Documentclassificationus血gassociativememohes",Jo㎜al ofneuralnetworkcomputing,vol.1,pp33-41,Apr.1990 …the㎜idirectionallinearassociativememoryと し て、the幺radientprojectionmethodを 提 案 し て い る 。 [A29]JinxinLin:"hltegratignofweighted㎞owledgebases",A貢iHcialIntelligence,vol.83,pp.363-378, 1996 '●●ab㎜alsemantics鉛rmergingmulhple㎞owledg6baseswithweightsを 研 究 し て い る 。 [A30]植 野 真 臣:"意 志 決 定 ア プ ロ ー チ に よ るBayesianNetworkの 因 果 モ デ ル 構 築",人 工 知 能 学 会 誌,vol.11,no.5,PP.725-734,Sept.1996 … 因 果 を 構 成 す る こ と の 本 質 は 、 い か に 数 少 な い デ ー タ か ら 未 知 の 現 象 を予 測 で き る か で あ る 、 と 考 え て 、 因 果 モ デ ル の 構 築 を 意 志 決 定 過 程 と み な し、 統 計 的 意 志 決 定 ア プ ロ ー チ に よ り、BayesianNetworkに お い て 最 適 な 推 論 を 保 証 す る 因 果 モ デ ル の 構 築 法 を 提 案 し て い る 。
[A31]出 村 公 成,梶 浦 正 浩,安 西 祐 一 郎:'"実 数 入 力 デ ー タ を1回 の 提 示 に よ り 学 習 で き ・る 教 師 あ り ニ ュ'ラ ル ネ ッ ト ワ ー ク 学 習 則",電 子 情 報 通 信 学 会 論 文 誌D-H,vol.J77-D』,no.10, pp,2083-2092,0ct.1994 [A32]・S.GemanandD.Geman:"Stochastiごrelaxation,Gibbsdistribution,andtheBayesianrestoration"of
ロ
1mages,IEEETrans.PattemAnal.&Mach.lntell.,vol.PAMI-6,no.6,PP.721-741,Nov.1984 [A33]IngridDaubechies:``Orth6normalbasesofcompactlysupPortedwavelets';Communicationson PureandAppliedMathematics,vol.XH,pp.909-996,i988匚A34]Ch・ ・1・・A。Micch・Ili:``lnt・rP・1・ti・n・f・catt・ ・edd・t・:Di・taricematrice・and・ ・nditi・nllyp・ ・itive
definitefunctions'、ConstructiveApproximation,vol.2,pp.11-22,1986 、匚A35]RichardL.Dykstra="Analgoritimforrestrictedleastsquaresregression"JoumaloftheAmerican StatisticalAssociation,vol.78,no.384,pp.837-842,Dec.1983
文
献B
[B1]鈴 木 昇 一:"認 識 工 学",柏 書 房,Feb.1975 [B2]鈴 木 昇 一:."ニ ュ ー ラ ル ネ ッ ト の 新 数 理",近 代 文 芸 社,sept.1996 [B3]鈴 木 昇 一:"パ タ ー ン 認 識 問 題 の 数 理 的 一 般 解 決,',.近 代 文 芸 社,June1997・ [B4]鈴 木 昇 一:"認 識 知 能 情 …報論 の 新 展 、開",近 代 文 芸 社,Aug.1998 [B・5]鈴 木 昇 一:"パ タ ー ン の エ ン ト ロ ピ ー モ デ ル",電 子 情 報 通 信 学 会 論 文 誌(D』)1,vo1」77-D-1,no.10,pp.2220-2238,Nov.1994・.: 、 ・.' [B6]鈴 木 昇 一:"パ タ ー ン 認 識 の 数 学 的 理 論",電 子 情 報 通 信 学 会 技 術 研 究 報 告 ・[パ タ ー ン 認 識 と 学 習, 、 パ タ ー ン 認 識 と 理 解],PRL84-6(第1部)',PRL84-30,PRL84-38,、PRL85-27, PRU86-8,PRU86-35,PRU86-69,PRU87-1,PRU87-28;PRU88-30 ,PRU89-1,PRU89-27,PRU89-40,1PRU89-66,PRU89-77,PRU89-136,PRU90-5 ,PRU9045,PRU90-29,PRU90-125,PRU91-1, PRU91-29,PRU91-42,PRU92-1づPRU92-18,PRU92三25,PRU92-89;PRU92-102(第28部),May 1984∼Jan.1993 [B7]鈴 木 昇 一:"Rosenfeld型 の 確 率 的 弛 緩 ラ ベ リ ン グ 法 の 基 本 的 諸 性 質",情 報 研 究(In%㎜ationandCo㎜ 皿icationS加dies;文 教 大 学 情 報 学 部),呵.11,pp.163'181,Dec.1990
[B8]鈴 木 昇 一:"類 似 度 関 数 を 用 い た 確 率 的 緩 和 法"1情 報 研 究(文 教 大 学 ・情 報 学 部),no 。20, pp.23-75,Dec.1998 [B9]鈴 木 昇 一:"構 造 受 精 法 ど 日 本 語 単 独 母 音.の 認 識",情 報 研 究(文 教 大 学 ・情 報 学 部) , vol.18,pp.17-51,Dec.1998 [B10]鈴 木 昇 一,前 田 英 明 .・:"有声 破 裂 音 の 代 表 パ タ ー ン の 学 習 的 決 定 と＼ そ の 計 算 機 シ ミ ュ レ ー シ ョ ン",'情 報 研 究(文 教 大 学 ・情 報 学 部),no .20,pp.77-95,Dec.1998 [B11]鈴 木 昇 一,前 田 英 明:"変 動 エ ン ト ロ ピ ー に よ る 有 声 破 裂 音 の 順 序 付 け と 、 そ の 計 算 機 シ ミ ュ レ ー シ ョ ン",情 報 研 究(文 教 大 学 ・情 報 学 部) ,no.21,pp.51-78,Mar.1999 [B12]鈴 木 昇 一:"直 交 系 に よ る パ タ ー ン モ デ ル の 構 成",情 報 研 究(文 教 大 学 ・情 報 学 部),no.21, ・pp.23戸491Mar.1999 [B13]鈴 木 昇 一:"認 識 行 為 に 向 け て の 、 効 用 最 大 化 原 理",情 報 研 究(文 教 大 学 ・情 報 学 部),
