認識行為に向けての、効用最大化原理

認識行為 に向 けての、効用 最大化原理

鈴木

昇一

A Maximum

Principle

of Utility

for the Action

of Recognition

Shoichi Suzuki

あ ら ま し

認 識 シ ス テ ム は 、 パ ター ン生 成 シス テ ム が そ の 表 現 をパ タ ー ン に託 した カ テ ゴ リが どの カ テ ゴ

リで あ るか は知 ら ない とい う仮 定(認

識 シ ス テ ム の、 パ タ ー ン生 成 に関 す る無 知 仮 定)

の 下 で 、 通 信 系 に関 す る シ ャ ノ ンの確 率 模 型 、 言 語 行 為 の"水 谷 の 確 率 模 型"に 対 応 して 、 認 識

行 為 の 確 率 模 型 が提 案 され てい る。

パ ター ン生 成 、 パ タ ー ン認 識 の場 面 に お い て 、無曖 昧性 が実現 され る とは、効用 と しての平均

正 解 率 が 最 大 に な っ て い る場 合 の 特 別 な状 況 で あ る事 実 を 、2定 理3.1,3.2の

系1で

明 らか にす る

こ とが 本 研 究 の 目的 で あ る。

パ ター ン表 現(パ

タ ー ン生 成)シ

ス テ ム の 、 各 カ テ ゴ リ の パ タ ー ン に よる 表 現 能 力 が 劣 っ て い

れ ば 、効 用 と して採 用 さ れ た 平 均 正 解 率 を維 持 す る た め に は 、 パ ター ン が どの カ テ ゴ リ を表 す た

め に生 成 さ れ たか を推 定 す る 機 能 を備 え て い る パ タ ー ン認 識 シス テ ム の 、 パ タ ー ン認 識 能 力 が優

秀 で な け れ ば な らな い し、 また 、 表 現 能 力 が優 秀 で あ れ ば 、認 識 能 力 が 劣 っ て い て も よ い こ と を

説 明 可 能 な"パ

タ ー ン生 成 ・パ タ ー ン認 識 に 関す る最 大 化 原 理 理"が

研 究 され て い る。

パ タ ー ン認 識 の働 きの 底 に は 、 パ タ ー ン生 成 の もた らす"典

型 的 な パ ター ンか らの 崩 れ ・変 形"

に応 じ、 平 均 正 解 率 を 最 大 な ら し め よ う と す る"最 大 化 原 理"が

流 れ て い る こ とが 明 らか に な っ

て い るQ

本研 究 に よ り、 パ タ ー ン生 成 の 働 きの 正 確 さ に応 じ、 パ タ ー ン認 識 の 働 きが 考 え られ る こ とが

鮮 明 に な っ た 。

キ ーワー ド

パ ター ン生成

シヤ ノンの通信 モデ ル

平均正解率

生成行列

認識行列

認識行為 の確 率モデ ル

認識行為 の無曖昧性

健 全性

完全性

Abstract

Let us suppose a recognition system does not know to . whose category a pattern in question which is

generated by a pattern representation belongs.This assumotion is needed to construct a probabilistic model of

an action of a generation and a recognition presented here. The model corresponds to the probabilistic model

of an action of a representation and an interpretation by use of a language suggested by Sizuo Mizutani.

Two corollaries of theorem 3.1 and 3.2 pointed out the greatest correct recognition-rate - of the greatest

pattem-set.That

is to say,a realization

of the nonambiguity

in pattern generation

and pattern recognition

means a special case of that an average rate of correct solution is maximized.

An analysis presented here clarified that both the pattern generation (or representation)

system and the

pattern recognition system must obtain a maximum of an average rate of correct solution and that the one

must compensate an incomplete faculty of the other.

Key words:

generation of patterns

Shannon's

model of communication

average rate of correct solution

generation matrix

recognition matrix

probabilistic model of an action of recognition

ambiguity of an action of recognition

soundness

completeness

1.ま え が き

水 谷 静 夫 に よ る`1言 語 に よ る伝 達 行 為(表 現 ・

解 釈 の 行 為)に

関 す る確 率 模 型'「.に.関

す る優 れ た

研 究[16]は

、Sha皿on情 報 理 論[22]で

の 一 般 通 信 系 の確 率 模 型[29]にhintを

得 て 、 獲 得 され

た もの で あ る。こ の研 究 に よ っ て、2言 語 間 に わ た る翻 訳作 業 は 通 信 路 に加 わ る雑 音 行 列 で 表 さ れ 、

平 均 正 解 率 最 大化(効

用)を 規 準 と して の 言 語 行 為.の方 略 が 明 らか に な っ て い る。 話 し上 手 に な

る よ りる 聞 き上 手 に な る方 が 難 しい とか 、 誠 意 だ け で は 話 は通 じ るめ で は な く、 方 略 が 必 要 で あ

る とか 、 表 現 行 為 の効 用 は 同 じ事 を言 う の に も表 し方 で 相 手 に起 こ させ る 効 果 が 異 な る と か 、 言

語 主 体 問 の虚 々実 々 の や り.取りを追 求 で きる な どが 指 摘 さ.れて い る。 水 谷 の この"言

語 に よる伝

達 行 為 の モ デ ル".に よ って 、.何ら かの 効 用(つ

ま・

り、 平 均 正 解 率)を

最 大 化 す る と い う原 理 が 言.

語 行 為 の底 に 流 れ て い る こ とが 明 らか に され て い る 。

知 識 には 、 大 き く分 類 して 、 言 語 知 識 、 パ タ ー ン 知 識 の2つ が あ る とい わ れ るが[13]、"パ

タ ー

ン に よ る伝 達 行 為"、 つ ξ り、"パ タ ー ン に よ る知 識 の 表 現(隼

成)と

、 パ タ ー ンで 表 さ れ た 知 識

.の認 識 と を併 せ た2つ め行 為"で

_{は、如何 なる効用 が その底 に流れて いるのであ ろ うか?}

本 論 文 で は 、 この 水 谷 研 究 に 刺 激 を受 け 、 こ の種 の効 用 が 統 計 的 決 定 理 論 にお け る ベ イ ズ解 か

ら従 う平 均 正 解 率(平 均 認 識 率)で あ る こ と を明 ら か に し、"パ ター ン認 識 の 数 学 的理 論(SS理

論)

[10]∼[15]"

_{、にお け るパ タ ー ン認 識 行 為 の 底 に 流 れ て い る効 用 最 大 化 原 理 が 指 摘 され る 。 従 来}

の パ ター ン認 識 研 究[7]で

_{は、 パ タ ー ンの 、・プ ロ トタ.イプパ ター ンか らの崩 れ ・変形 を伴 ったパ}

タ ー ン生 成 の場 面 にお い て 、 認 識 の立 場 か ら眺 め 、 平 均 正 解 率 を最 大 に す る パ タ ー ン生 成 機 能 の

存 在 に 注 目 して い な い の で あ る が 、 本 研 究 で は、 パ タ ー ン認 識 機 能 の性 能 程 度 に応 じて 、 パ タ ご

ン生 成 機 能 の 性 能 が 要 求 さ れ て よい と い う"パ

ター ン 認識 に関 す る新 しい 考 え"が 提 出 され る(新

規 性)。 つ ま.り、 パ タ ー ン生 成 、 パ タ ー ン認 識 の 両 働 きは 、 一 方 の機 能不 完 全 性 を補 う形 で 、 他 方

が 平 均 正 解 率 を最 大 に し よ う と して い る とい う"相 互 補 完機 能"存

在 の 必 要 性 が 指摘 され る

_。

テ キ ス ト(文 字 列)に

よっ て 計 算 機 の 動 作 を制 御 可 能 な こ と を発 明 ・

発 見 した こ とは

_{、20世 紀 に}

お け る大 き な事 件 で あ っ た 。 テ キ ス トに よ る この 制 御 か ら、 テ キ ス ト以 外 の マ ル チ メ デ ィ ア情 報

(オ ー デ ィオ 、 ビ デ オ 、 グ ラ フ ィ ッ クス な どの 画 像 、 音 声 な ど)に よ っ て 、 計 算 機 に 動作 を指 示 す

る知 能 情 報 メ デ ィ ア時 代 に確 実 に変 わ りつ つ あ る 。

マ ル チ メ デ ィ ア技 術 に よ り、 あ りと あ ら ゆ る情 報 の 電 子 テ キ ス ト化(オ

ー プ ン ・

コ ン ピ ュ ー タネ

ッ トワ ー ク を使 っ た デ ィ ジ タル 形 ペ ーパ ー レス 化)が

可 能 に な っ た。

計 算 機 に 予 め与 え る 意 味 論 理 体 系 は 、 こ の 体 系 との 照 合 に よ っ て そ の動 作 が 決 ま る 計 算 機 に 、

必 要 な と き に 必 要 な マ ル チ メ デ ィ ア知 識 を 能 率 的 に 検 索 す る手 法(マ

ル チ メ デ ィ ァ情 報 の 検 索 手

法)や

、 こ の よ う な マ ル チ メ デ イ ア知 識 を獲 得 し、 組 織 的 に表 現 ・

蓄 積 す る手 法(マ

ル チ メ デ イ ア

情 報 の 表 現 ・

獲 得 手 法)の 確 立 を要 求 して い る。マ ル チ メ デ イ ア内 部 表 現 か ら意 味 関 係 を考 慮 して

_、

質 問 の 前 提 条 件 か らそ の含 意 情 報 を取 り出 す マ ル チ メ デ イ ア情 報 の 推 論 操 作 に よ り、情報 を生 成

しな け れ ば な らな い の が 、 マ ル チ メ デ イ ア 計 算 機 で あ る 。

マ ル チ メ デ ィ ア に 関 す る知 能 ・

_{知 識 情 報 処 理 に お い て は 、"そ の表現 に冗 長性が あ り、然 も、 あ}

る種 の座 標 変 換 の下 で そ の意 味 が 保 存 さ れ 、 あ る 程 度 の 変 形 に も耐 え ら れ る 情 報 と して の パ タ ー

ン"ψ の 表 象Tψ

と は何 か?そ

の 情 報 圧 縮 法 に 関 連 し追 及 し

_{、 付 加 価 値 の 高 い パ タ ー ン処 理 技 術}

(パ タ ー ン検 索 、 動 画 像 処 理 、 テ レ ビ電 話 、 仮 想 現 実 感 、 会 話 音 声 処 理 等)を

開発 しな け れ ば な け

れ ば な ら な い 。

認 識 機 械RECOGNITRONの

上 で ρ 操 作 系 列(カ

テ ゴ リ番 号 の リ ス トに関 す る操 作 系 列)と

_、,

この 操 作 系 列 に よるRECOGNITRONの

記 憶 状 態 変 化 の記 述 に よっ て

_{、 パ タ ー ン認識 とい う概 念 を}

客 観 的 に 定 義 で きる こ とが 、s.Suzukiに よ っ て示 され て い る:

Th・m・th・d・f・e・

・9・i・i・g・p・

賃・mψi・q…ti・ni・t・find・ ・m・・ecursi・

・p・

・cedurewhi・hyi・ld・a

categorical-membership㎞owledge〈

ψ,λ>asaIeastfixed-pointofanequation〈

ψ

_{,λ 〉=△〈Tψ,J>}

]TA(J)T・ 〈ψ,λ 〉 ・f跏ass・ ・i・ti…ec・gniti・nwhi・hmi・imize・ap・t・nti・IE(ψ_,λ).

(認 識 シ ス テ ムRECOGNITRONが)パ タ ー ン モ デ ル Tψ ∈ Φ を 見 た ら 、 原 パ タ ー ン ψ ∈ Φ と 同 じ に 見 え る(知 覚 さ れ る) を 可 能 に す る"モ デ ル構 成 作 用 素 T:Φ → Φ

□

1.1)

(1.2)

に 関 す る 公 理(axiom1)の 存 在"を _{、S .Suzukiは 明 ら か に し た[12],[13]。 こ の 指 摘 が 知 能 情 報} 学 、 知 能 工 学 の 両 分 野 に お け る"ヒ ル ベ ル ト空 間 夢(⊃ Φ)で の パ タ ー ン 認 識 ・パ タ ー ン連 想 形 記 憶(パ タ ー ン 情 報 検 索)・ ニ ュ ー ラ ル ネ ッ ト[11]"を 展 開 す るSS理 論[15]の _{出 発 点 で あ る 。} η(x)は 不 等 式 ∀ ・∈M,0<η(・)≦1'(1 _.3) を 満 た す 閾 値 関 数 で あ り 、 ま た 、(Sq)(x)は (Sψ)(x)= 0… ∀x∈M,ψ(x)=0の と き q(x)/suplq(x)1  ど  … ヨx∈M _{,q(x)≠0の と き ・』(1.4)} と 定 義 さ れ る 写 像Sを 導 入 し 、 有 界 実 数 値 パ タ ー ンq=q(x)に 対 し

(Tψ)(x)=

0…(Sψ)(x)<η(x)の

と き

1…(Sψ)(x)≧

η(x)の と き(1.5)

と定 義 され る写 像TはaxiOm1を

満 た し、2値 画 像Tψ

を ヒ トが 知 覚 す る と き、 視 覚 の 、 ヒ トに 備

わ っ て い る 平 滑化 の 働 きに よ り、2値 画 像Tψ

は ア ナ ロ グ画 像 ψ と して 認 識 さ れ る こ とが 知 られ て

い る こ とか らわ か る よ うに 、 想 定(1.1)は

、 人 間 の視 覚 特 性 が 反 映 され た 設 定 で あ る。

パ ター ン情 報 処 理 に 関 す るSS理 論 は、 可 分 な 一 般 抽 象 ヒル ベ ル ト空 問(複

素 無 限 次 元 空 間)夢

の(零 元0を 含 む)或 る部 分 集 合 Φ を処 理 の 対 象 とす る 問 題 のパ ター ン ψ の 集 合 の 表 現 と して い る。

処 理 の対 象 とす る 問 題 の パ ター ン ψ ∈ Φ に似 て い る パ ター ン集 合 に付 け られ て い る カ テ ゴ リ名

を決 定 す る の に 、 モ デ ル 構 成 作 用 素T,類

似 度 関 数SM,大

分 類 関 数BSCを

使 い 、 連 想 形 認 識 方

程 式(ss方

程 式)の

求 解 過 程 が 利 用 さ れ得 る こ と を、s.Suzukiが 明 らか に した。ss方 程 式 の 求解

過 程 は あ り とあ ら ゆ るパ タ ー ン 認 識 の 働 き を再 現 で き 、 万 能 性 を備 え て い る。

命 を特 に、 ユ ー ク リ ッ ド空 間(有

限次 元 の 数 列 空 間)R・

に とれ ば、SS理 論 で の"多 段 階 パ ター

ン認 識 過 程 の 収 束 に 関 す る挙 動"は

従 来 の ニ ュ ー ラ ル ネ ッ トで の 力 学 的 挙 動 と 同様 に振 る舞 う。

但 し、 こ の 同 様 な振 る舞 い は 、(認 識 過 程 で 、SSポ テ ン シ ャ ル の 減 少 性 を保 証 す る)類 似 度 関 数

SMの

直 交 性 と、(認 識 に 関す る不 動 点 方 程 式 が 成 立 した と きの 、 この 方 程 式 の 解 が 記 憶 ア トラ ク

タ ー に な る こ と を保 証 す る)SMの

ミ ッ ク ス チ ュア 条 件 とが 満 た さ れ て初 め て 実 現 さ れ る。SMの

直 交 性 ・ミ ッ ク ス チ ュ ア 条 件 は 、SS理 論 が 獲 得 した"パ

タ ー ン連 想 形 認 識 に基 本 的 に必 要 と され る

性 質"で

あ る 。

こ の実 現 は何 を意 味 して い る か?

ニ ュ ー ラ ル ネ ッ トで は 、 パ ター ン想 起 に 関 す る力 学 的 挙 動 に よっ て 、 学 習 の働 きで 記 憶 し よ う

と しな か っ た"偽 の 記 憶"が

何 故 、 パ タ ー ン情 報 検 索 され 、 呼 び起 こ さ れ る か を、SS理 論 は説 明

して い る め で あ る。 言 い換 えれ ば 、 直 交 性 ・ミ ック ス チ ュ ア 条件 が 備 わ っ て い な い ニ ュ ー ラ ル ネ ッ

トは 、 学 習 に よ っ て 複 数 個 の 記 憶 ア トラ ク タ ー が シ ナ プ ス 荷 重 の 組 に 形 成 され る 途 中 で 、 必 ず 、

真 の ア トラ ク ター 以外 に偽 の 記 憶 ア トラ ク ター を生 ぜ せ しめ て しま う とい う こ とで あ る。

直 交 性 、 ミ ック ス チ ュ ア 条 件 を満 た さ な い類 似 度 関 数SMを

、 そ の 意 味 す る と こ ろ を失 わ な い

で 、 直 交 性 、 ミ ッ ク ス チ ュ ア 条 件 を満 た す よ う に変i換す る 方 法 も知 ら れ て い る の で 、 直 交 性 、 ミ

ッ クス チ ュ ア 条件 を意 識 しな い で 類 似 度 関 数SMを

構 成 で き る。

直 交 性 、 ミ ック ス チ ュ ア 条 件 を満 た さ な い 類 似 度 関 数SMの

構 成 原 理 も研 究 され 、 この 構 成 原

理 め 適 用 例 を多 数 、 指 摘 さ れ て い る[12],[13],[21]。

記 号(symbol)の

意 味(meaning)と

は、 そ の 記 号 に よ っ て 指示 さ れ る対 象 で あ る 。 順 序 の付 い

た 記 号 の系 列(string)の

あ る 集 ま りは言 語(language)と

呼 ば れ る 。 言 語 と は記 号 列 と意 味 と の

連 合 物 で あ る 。記 号 列 とは 意 味 を収 納 す る箱 で あ る。

S.Suzukiは 、 認 識 シ ス テ ムRECOGNITRONが

パ タ ー ン ψ に対 しも つ 知 識 を 、Tψ と γ と の連

合 物(カ

テ ゴ リ帰 属 知 識)

〈T9フ,γ〉(1

_.6)

で 表 して い る 。Tψ は ψ と 同 じ に見 え る と想 定 した パ タ ー ンモ デ ル で あ り、 γ は ψ が 帰 属 す る 可

能性 の あ る とRECOGNITRONが

想 定 した複 数 の カ テ ゴ リの 番 号 の リス トで あ る。

本 論 文 は、 上 述 の 表 現 〈Tψ,γ 〉 に関 連 し、

パ ター ン集 合 の 表 現 能 力 の極 値 性 と、 認 識 シス テ ム

の 認 識 能 力 の極 値 性 との 問 に は 、何 が 言 え る か?

を研 究 し た も の で あ り、 文 献[16]で の 、 言 語 行 為 の 確 率 模 型 にhintを 得 、 表 現 行 為 ・認 識 行 為 の 確 率 模 型 を 研 究 し た も の で あ る 。 何 ら か の 効 用(utility)を 最 大 化 し な け れ ば な ら な い と い う こ と が 、"パ タ ー ン に 関 す る 表 現 ・認 識 行 為"に 見 ら れ る こ と を 明 ら か に す る 。 認 識 行 為 が 不 十 分 の 場 合 、 表 現 行 為 が こ れ を 補 う よ う に 、 効 用 を 最 大 化 し よ う と し、 ま た 、 表 現 行 為 が 不 十 分 の 場 合(パ タ ー ン 集 合 が 変 形 し て い る 場 合)、 認 識 行 為 が こ れ を 補 う よ う に 、 効 用 を 最 大 化 し よ う と す る こ と を 指 摘 す る 。 言 い 替 え れ ば 、 統 計 的 決 定 理 論 を 適 用 し て 、 ベ イ ズ 解 を 求 め 、 パ タ ー ン 集 合 の 最 大 正 認 識 率 を 論 じ で い る の が 認 識 行 為 に つ い て の 従 来 の 説 明[7]で あ る が 、 こ の 場 合 と 異 な り 、 行 為 の 最 高 理 想 は 、 "最 大 多 数 者 の 最 大 幸 福(th egreatesthappinessofth卿eatestn㎜ber)"の 達 成 に あ る と す る 英 国 のJeremyBentham等 の 倫 理 説 に 相 応 し て 、 本 研 究 は 、 実 利 的 立 場 か ら み れ ば(fromthe utilitationpointofview)、 認 識 行 為 の 最 高 理 想 は 、 最 大 パ タ ー ン 集 合 の 最 大 正 認 識 率(thegreatestcorrectrecognition-rateofthegreatestpa賃em-set)の 達 成 に あ る と す る"功 利 主 義(utilitarianism)"を 主 張 す る も の で あ る(新 規 性)。 従 来 の パ タ ー ン 認 識 論 で は 、 パ タ ー ン が 与 え ら れ た 場 合 の カ テ ゴ リ の 条 件 付 き 生 起 確 率 を 最 大 値1に す る パ タ ー ン の 多 段 階 変 換 の 意 味 を 明 ら か に し た 研 究 は 存 在 し て は い な い が 、 カ テ ゴ リ 帰 属 知 識 の 不 動 点 変 換 論[12],[13]を 適 用 す れ ば 、 こ の 種 の パ タ ー ン 多 段 階 変i換 の 基 本 的 重 要 性 が 理 解 で き る よ う に な っ た し、 本 研 究 に よ り 、 パ タ ー ン生 成 の 働 き の 正 確 さ の 程 度 に 応 じ 、 パ タ ー ン 認 識 の 働 き が 考 え ら れ る こ と が 鮮 明 に な っ た(有 効 性)。 認 識 行 為 に お け る 合 理 性 を 追 求 し て い る"シ ミ ュ レ ー シ ョ ン を 必 要 と し な い 数 理 的 研 究"で あ り、 結 論 は 道 理 に か な う も の で あ る(信 頼 性)。 Apattem-representationsystemandapa枕em-recognitionsystemhavesomeprincipletoactupon _. シ ャ ノ ン」_{情 報 理 論 に お け る 通 信 の モ デ ル にhintを 得 、 パ タ ー ン 生 成 シ ス テ ム 、 パ タ ー ン認 識 シ ス} テ ム の 働 き を 定 式 化 し た が 、 注 意 す べ き こ と は 、 パ タ ー ン 集 合 が 有 限 集 合 で あ る 場 合 を 論 じ た の で あ り、 実 際 の パ タ ー ン 認 識 場 面 で は 通 常 、 こ の 有 限 性 の 極 限 と し て の 可 算 無 限 化 の み な ら ず 、 連 続 無 限 化 の 場 面 を想 定 し な け れ ば な ら な い こ と で あ り、 本 定 式 化 は あ く ま で 、 原 理 的 側 面 に 留 ま っ て い る 。 に も か か わ らず 、 パ タ ー ン 認 識 の 働 き を 理 解 す る 上 に お い て 、 無 用 な 存 在 で は な い と思 え る こ と で あ る 。 尚 、7付 録1∼7が 設 け ら れ て い る こ と を 付 記 す る 。

2.パ

タ ー ン に よ る表 現 、 パ タ ー ン の 認 識 の 定 式 化 と 、 効 用 と し て の 正 認 識 率

① パ タ ー ン 表 現 シ ス テ ム(pa伽m-representationsys毛em;generator)の 役 割 と は 、 パ タ ー ン 認 識 シ ス テ ム の 認 識 能 力 の 程 度 を 推 量 し て 、 そ の 程 度 に 応 じ 、 可 能 な 限 り正 しい 認 識 が 期 待 で き る よ う に 、 パ タ ー ン を 上 手 に 生 成 ・表 現 す る こ と で あ り 、 ② パ タ ー ン 認 識 シ ス テ ム(pa鵬m-recognitionsystem;recognizer)の 役 割 と は 、 パ タ ー ン 表 現 シ ス テ ム の 生 成 表 現 能 力 の 程 度 を 推 量 し て 、 そ の 程 度 に 応 じ 、 可 能 な 限 り正 しい 認 識 が 期 待 で き ゐ よ う に 、 パ タ ー ン を 上 手 に 認 識 す る こ と

で あ る 。『本 章 で は 、 後 者 の 認 識 シ ス テ ム が 最 大 に し な け れ ば な ら な い 効 用(utility) と し て 、 正 認 識 率(therateofcorrectrecognition)が 考 え ら れ る こ と を 可 能 に す る 定 式 化 が な さ れ る 。 2.1情 報 検 索 シ ス テ ム 目 的 意 識 の あ る と こ ろ で 眺 め ら れ た デ ー タ(dat㎜,data)を 情 報(info㎜ation)と い う。 目 的 意 識 の 存 在 し な い と こ ろ で は 、 情 報 の 価 値 は 感 知 さ れ 得 な い 。 デ ー タ を あ る 目 的 意 識 で 解 釈 し て 意 味 を 持 た せ た の が 、 そ の デ ー タ に 対 応 す る 情 報 で あ る 。 一 般 化 さ れ た 通 信(generalizedcommunication)と は 、 空 間 要 素 を 介 し て1つ の 領 域 で 表 現 さ れ た 情 報 を 今1つ の 別 の 領 域 で 再 現 す る こ と だ と 考 え よ う 。 情 報 の 媒 体 と は 、 一 般 化 さ れ た 通 信 に お け る"情 報 の 表 現 要 素"を 指 し て お り 、 メ デ ィ ア (medium,media)と 称 さ れ て い る 。 情 報 を 表 現 す る メ デ ィ ア に は 、 身 体(で 表 現 さ れ る 身 振 り)、 文 字 、 言 語 、 音 声 、 映 像 、 静 止 画 像 、 動 画 像 な ど が あ り、 パ タ ー ン(pattem)と 称 さ れ る こ と が あ る 。 情 報 学(infb㎜atics)は 、 不 確 実 な も の を 確 実 な も の に して い く コ ン ピ ュ ー タ 情 報 処 理 の 過 程 で ど の 程 度 、 知 能(intelligence)の 働 き で 曖 昧 さ(equivocation)が 解 消 さ れ て い く か?と い う 観 点 か ら 、 知 っ て い る と い う こ と は 、 コ ン ピ ュ ー タ の 記 憶 し て い る 知 識 が 適 当 な 場 面 で 利 用 で き る(検 索 可 能)と 考 え 、 情 報 の 世 界 に お け る 法 則 性 を 明 ら か に す る 学 問 分 科 で あ る 。 本 人 に な り 代 わ っ て 、 本 人 に劣 ら な い 判 断 力 を 備 え た 代 理 人 の 機 能 を 果 た す イ ン テ リ ジ ェ ン ト ・エ ー ジ ェ ン ト (inteUigentagent)が 誕 生 す れ ば 、 そ の 成 果 で あ ろ う 。 "デ ー タ"が"情 報'と し て 受 容 さ れ 、 こ の 情 報 が あ る 一 定 の 形 式 を備 え て い る"知 識(㎞owledge)" に 脳 内 知 能 の 働 き で 質 的 に 高 め ら れ 構 造 化 さ れ 、 脳 に 記 憶 さ れ て い る"知 識 の 集 合 体"の 中 か ら 必 要 と す る 知 識 を 捜 し 出 す 作 業(検 索 作 業)か ら始 ま る"ヒ トの 思 考 過 程'に 注 目 し よ う 。 ヒ トの こ の 思 考 過 程 に お い て は 、"情 報 が 入 力 さ れ 、 情 報 を 出 力 す る 情 報 シ ス テ ム(info㎜ation system)"の 典 型 的 な も の と し て 、 ① 情 報 検 索 シ ス テ ム[30](infb㎜ationre甘ievalsystem;IRS)が 基 本 的 に 重 要 な 役 割 を 果 た し て い る 。 そ の 他 に 情 報 シ ス テ ム と し て 、 ②managementinformation system(MIS)③databasemanagementsystem(DBMS)④decisionsupPortsystem(DSS)⑤ question-answeringsystem(QAS)が 考 え ら れ る が 。 情 報 検 索 と は 、 記 憶 媒 体 に 蓄 積 さ れ て い る 情 報 の 集 合 体 か ら 不 十 分 な 情 報(keyinformation) を 媒 介 と し て 目 的 と す る 完 全 な 情 報 を 引 き 出 し て く る 操 作 を 指 す 。 計 算 機 に よ っ て 実 現 さ れ る "情 報 検 索 の シ ス テ ム"の 動 作 は 、 (1)収 集 さ れ た 情 報 を 分 類 し 、 整 理 す る 過 程(収 集 ・分 類 整 理 過 程) (2)分 類 整 理 さ れ た 情 報 を 知 識 と し て 蓄 積 す る 過 程(知 識 へ の 蓄 積 構 造 化 過 程) (3)外 部 か ら 不 完 全 な 情 報 を 入 力 し 、 こ の 入 力 力『hintに な っ て 、 蓄 積 ・構 造 化 さ れ た 知 識 集 合 体 の 中 か ら加 工 し な が ら、 求 め よ う とす る 知 識 を 探 索 す る 過 程(検 索 過 程) (4)要 求 者 へ 求 め ら れ た 知 識 を 提 供 す る 過 程(検 索 出 力 の 表 示 過 程) の4過 程 か ら な る も の で あ る:Thefieldsusedtoobtainaccesstothestoナedrecordsarereferredtoas keys.□

2。2認 識 成 立 の3条 件

"認 識 シス テ ム ・

場 面 ・

パ タ ー ン"を 認 識 行 為 の 成 立 の た め の3条 件 とい う

。

認 識 行 為(actionofrecognition)と は 、 認 識 シ ス テ ム(処 理 主 体;recognizer)が あ る 特 定 の 場 面 に お い て パ タ ー ン(処 理 対 象).ψ に つ い て 、 こ の 事 例 と し て の パ タ ー ン ψ に 似 て い る も の の 集 ま り に 付 い て い る カ テ ゴ リ(類 概 念;category)を 決 定 す る こ と だ と 考 え よ う 。 入 力 は パ タ ー ン と い う 情 報 で あ り、 出 力 は パ タ ー ン の あ る1つ の 集 ま りの 抽 象 化 と して の カ テ ゴ リ と い う 情 報 で あ り、 認 識 シ ス テ ム は 情 報 シ ス テ ム の 一 種 で あ る 。 シ ャ ノ ン(C.E.Sha㎜on)の 情 報 理 論 に お け る 一 般 化 さ れ た 通 信 の モ デ ル[19] ① 情 報 源(infomlationsource)に よ る 通 報(message)の 生 成

→ ② 送 信 機(transmitter) _{、 符 号 器(encoder)に よ る 通 報 か ら 信 号(signal)、 符 号(code)}

へ の 変 換

→ ③ 黯(noise)の あ る 通 信 路(co㎜ 皿icationcha皿el)に よ る 信 号_{、 符 号 の 伝 送}

→ ④ 受 信 機(receiver) _{、 復 号 器(decoder)に よ る 信 号 、 符 号 か ら 通 報 へ の 変 換} → ⑤ 受 信 者(info㎜ationsink)に よ る 通 報 の 解 釈 に 対 応 し て 、 本 論 文 は 、 認 識 の モ デ ル ①!入 力 カ テ ゴ リ 集 合 旦({1,2,…,m}) → ② ノ旦({1 _{,2,…,m})の 各 元 を 表 現 す る 入 力 パ タ ー ン 集 合 Φ({1,2,…,n})} onconditionthat旦({1,2,…,m})isgivenの 生 成 → ③-入 力 パ タ ー ン 集 合 Φ か ら 出 力 パ タ ー ン集 合 Φ ーへ の 多 段 階 変 換 Φ({1,2,…,n})→ Φ-({1,2,…,nD → ④ ノ出 力 パ タ ー ン 集 合 Φ の 解 釈 に よ る 出 力 カ テ ゴ リ 集 合 旦-({1 _{,2,…,m,m+1D}

onconditionthatΦ ノ({1,2,…,nD/isgivenへ の 変i換

→ ⑤-出 力 力 カ テ ゴ リ 集 合 旦 ノ({1_{,2,…,m,m+1})} を 考 え る 。 各 番 号 同 士 ① → ① ノ∼ ⑤ → ⑤ ノは 対 応 し て い る こ と に 注 意 し よ う 。 こ こ に 、 m,nは2よ り大 き な 有 限 な 正 整 数 で あ り、 旦({1,2,…,m})三{◎1,◎ 、,…,◎ 。}(2.1) Φ({1,2,…,n}〉 ≡ ゆ1,ψ,,…,ψ 。}(2 _。2) Φ!({1,2,…,n})≡{∼ ρ∴ ψ2ノ,…,∼ρn■}(2 _.3) 旦 ・"({1,2,…,m,m十1D ≡{◎1;◎ _{・∼… ,◎ ㎡,◎ 。+1'}.(2.4)} 上 記 で は 、 ◎i:第i∈{1,2,…,m}番 目 の 入 力 カ テ ゴ リ(2 _.5) ψ」:第j∈{1,2,…,n}番 目 の 入 力 パ タ ー ン(2.6) ψ∫:第 」∈{1,2,…,n}番 目 の 出 力 パ タ ー ン(2.7) ◎ ∴ 第4∈{1,2,…,m+1}番 目 の 出 力 カ テ ゴ リ(2 .8) で あ る 。 但 し 、 ◎i=(芭i'fbranyi∈{1,2,…,m}(2 _。9) と して お り 、 ◎m+1':認 識 不 能 の 場 合 、 割 り当 て ら れ る カ テ ゴ リ(空 カ テ ゴ リ;出 力 パ タ ー ン が 解 釈 不 能 の 場 合 、 割 り 当 て る カ テ ゴ リ;パ タ ー ン 表 現 シ ス テ ム が 生 成 し た パ タ ー ン が 何 で あ る か が 理 解 不 能 な の 場 合 割 り 当 て ら れ る カ テ ゴ リ)(2 _.10) と す る 。

2.3多 段 階 パ タ ー ン 変 換 過 程 が な い 場 合 2.3.1諸 定 義 先 ず 、 次 の5定 義 ① ∼ ⑤ を 設 け る が 、 ① のA,② のT,④ のRを 各 々 、 簡 単 に 、 入 力 カ テ ゴ リ ベ ク トル 、 生 成 行 列 、 認 識 行 列 と い う こ と が あ る 。 ま た 、 ③ のB,⑤ のCを 各 々 、 簡 単 に 、 入 力 パ タ ー ン ベ ク トル 、 出 力 カ テ ゴ リ ベ ク トル と い う: ① 入 力 カ テ ゴ リ生 起 確 率 ベ ク トルA A≡(ala2…am)(m個 の 要 素 か ら な る 確 率 行 ベ ク トル>

ai≡prOb{(Σi}(第i∈{1,2,…,m}番 目 の 入 力 カ テ ゴ リ(Σiの 生 起 確 率(probabilityof

occurrencesofthei-thcategory(Σi)) こ こ に 、 [∀i∈{1,2,…,m},0<ai〈1]   〈 Σai=1.  ニ  

② 入 力 パ ター ンの 条 件 付 き生 起 確 率 行 列T

T≡(印(m×nの

大 き さの確 率 行 列)

(2.11)

(2.12)

tij≡prob{偽1(射(第i∈{1,2,…,m}番 目 の 入 力 カ テ ゴ リ(Σiが 与 え ら れ た 条 件 の 下 で の 、 第 j∈{1,2,…,n}番 目 の 入 力 パ タ ー ンqjの 生 起 条 件 付 き 確 率(conditionalprobability>) こ こ に 、 [∀i∈{1,2,…,m},∀j∈{1,2,…,n}, 0≦tij≦1]

け

く[∀i∈{1,2,…,m},Σtij=1]. 」=1 (2.13) (2.14) tijは 、 パ タ ー ン 表 現 シ ス テ ム が カ テ ゴ リ ◎ を 表 現 す る た め に パ タ ー ンqjを 生 成 す る 確 率 で あ る 。 ③ 入 力 パ タ ー ン 生 起 確 率 ベ ク トルB B≡(b正b2…b。)(n個 の 要 素 か ら な る 確 率 行 ベ ク トル) bj≡prob{謝(第j∈{1,2,…,n}番 目 の 入 力 パ タ ー ン 勇 の 生 起 確 率) こ こ に 、 [∀j∈{1,2,…,n},0<bj<1](2.15)

け

く Σbj=1.(2.16)  ニ ユ ④ 出 力 カ テ ゴ リ の 条 件 付 き 生 起 確 率 行 列R RiiE(rje)(n×(m+1)の 大 き さ の 確 率 行 列) rl￡≡prob{(Σe'/qj}(第j∈{1,2,…,n}番 目 の 入 力 パ タ ー ン 銘 が 与 え ら れ た 条 件 の 下 で の 、 第4∈{1,2,…,m+1}番 目 の 出 力 カ テ ゴ リ(鉱 の 生 起 条 件 付 き確 率) こ こ に 、 [∀j∈{1,2,…,n},∀e∈{1,2,…,m+1}, 0≦rje≦1]



_キ



_、(2・17) 〈[∀j∈ ≡{1,2,…,n},Σrje=1].(2.18) ぞニ   rjeは、 パ タ ー ン 認 識 シ ス テ ム が パ タ ー ンqjの 意 味 を カ テ ゴ リ(酬 と解 釈 す る 確 率 で あ る 。 ⑤ 出 力 カ テ ゴ リ 生 起 確 率 ベ ク トルC C≡(clc2…cmCm+1)(m+1個 の 要 素 か ら な る 確 率 行 ベ ク トル)

CeEEEprob{(ISie'}(第e∈{1,2,…,m+1}番 目 の 出 力 カ テ ゴ リ ◎!の 生 起 確 率) こ こ に 、 [∀4∈{1,2,…,m十1},0<Ce<1]   キ   ・〈 ΣCe=1 _. ぞニ   但 し 、 Cm+正 ≡prob{◎m+1■}:認 識 不 能 の 確 率

(2.19)

(2.20)

(2.21) □ 2.3.2諸 定 理 前 項 で の 諸 定 義 に 関 し、 得 ら れ る 諸 定 理 を 指 摘 し よ う 。 ◎iとqjと が 同 時 に 生 起 す る 確 率 、 結 合 確 率(jointprobability) prob{(Svli,ψj} は 、 prob{(芭i,qj}==prob{(E],}・prob{9ρj/(Sli}・(2.22) と分 解 で き る こ と に 注 意 す れ ば 、 次 の 定 理2.1が 成 り立 ち 、 行 列Bが2行 列A,Tの 積 で あ る こ と を 指 摘 す る も の で あ る 。 [定 理2.1](入 力 パ タ ー ン 生 起 確 率 ベ ク トルBの 表 現 定 理) AT=B,thatistosay,

 

∀j∈{1,2,…,n},Σai・tij=bj。  ニ  (証 明)bj=probゆj}   =Σprob{(Σi ,ψj} '葛1 =Σprob{(Eli}・prob{qj/(Σi} i=正 ∵ 式(2.22)

 

=Σai・tij . _.'□ ぱニユ ψjと(Sle'と が 同 時 に 生 起 す る 確 率 、 結 合 確 率(jointprobability) prob{(鶏,(E]e'} は 、 prob{gj,(Sle'}=prob{ψj}・prob{◎,'/ψj}(2.23) と 分 解 で き る こ と に 注 意 す れ ば 、 次 の 定 理2.2が 成 り立 ち 、 行 列Cが2行 列B,Rの 積 で あ る こ と を 指 摘 す る も の で あ る 。 [定 理2.2](出 力 カ テ ゴ リ生 起 確 率 ベ ク トルCの 表 現 定 理1) BR=C,thatistosay,



∀4∈{1,2,…,m十1},Σbj・rje=Ce。 」=豆 (証 明) ce=prob{(E]e'}   = 、三P・ ・blq・ ・9,'} ロ = 、三P・ ・b{q・}●P・・b{(S)・'/qj} ∵ 式(2.24)   =Σbj・rje・ □ j=1

上 の 定 理2.2は 次 の こ と を 指 摘 す る: 認 識 シ ス テ ム に よ り、Ceは 、(Ee'が 錫 の 解 釈 内 容 と して 採 用 さ れ る 確 率 で あ る 。 □ 次 の 定 理2.3は 、 行 列 の 積 の 定 義 か ら 直 ち に 得 ら れ る も の で あ り、Cが3行 列A,T,Rの 積 で あ る こ と を 指 摘 し て い る 。。 [定 理2.3](出 カ カ テ ゴ リ生 起 確 率 ベ ク トルCの 表 現 定 理2) ATR=C,thatistosay, ∀e∈ll,2,…,m十1}, け ロ  Σ Σai・tij'rje=Ce.  ニ    ニ ス (証 明)一 般 に 、 行 列Kの 第i行 第j列 の 要 素 を (K)ijと 表 す こ と に す る と 、 C2 n =Σbj'rje' .● 定 理2.2 」=1 け   =Σ[Σai・tij]・rje j=1171 定 理2.1

け

=Σ(AT>j・rje j=1 =(ATR)4 prob{◎ ♂/〈(藷,9j>} □ (2.24)

は 、 パ タ ー ン生 成 シ ス テ ム(パ

タ ー ン表 現 シス テ ム)が

儀 を表 現 す る た め にパ タ ー ン 翰 を生 成 し

た と き 、 認 識 シ ス テ ム が こ の 偽 の 意 味 を 鯢 と 解 釈 す る 確 率 で あ る が 、 こ れ が 取 ≡pr・b{◎6!/9i} で あ る とす る 次 の 仮 定1.1は 、 認 識 シ ス テ ム は 、 パ タ ー ン 生 成 シ ス テ ム が そ の 表 現 を パ タ ー ン 翰 に 託 した カ テ ゴ リが ど め カ テ ゴ リ で あ る か は 知 ら な い と み な し た こ と に な り、 道 理 に か な っ て い る 。

(2.25)

(2.26)

こ こ に 、 パ タ ー ン 生 成 シ ス テ ム の 生 成 す る パ タ ー ン 総 数nは カ テ ゴ リ 総:数mよ り通 常 、 小 さ く な い こ と に 、 即 ち 、 m≦n(2.27) を仮 定 す る こ と は 、 パ タ ー ン 認 識 の 働 き か ら眺 め て 、 素 直 で あ る 。m>nで あ れ ば 、 パ タ ー ン 認 識 が 容 易 に な る か ら で あ る 。 [仮 定1.1](認 識 シ ス テ ム の 、 パ タ ー ン 生 成 に 関 す る 無 知 仮 定) ∀j∈{1,2,…,n},∀4∈{1,2,…,m,m+1}, prob{(5ガ/9ら}≡prob{(Σ ♂/〈(藷,9i>} fbranyi∈{1,2,…,m}.(2.28) □ こ こ で 、 H≡TR(m×(m+1)の 大 き さ の 確 率 行 列)(2.2g) H=(hi4)(2.30) を 定 義 す れ ば 、 次 の 定 理2.4が 成 り立 つ 。

[定 理2.4](カ テ ゴ リ の 正 解 率 ・誤 解 率 ・解 釈 不 能 率 定 理) 仮 定Llの 下 で 、 ∀i∈{1,2,…,m},∀e∈{1,2,…,m,m十1}, hie=prob{(5∠/(iSiil.   (証 明)hi戸 Σtij'rj'e nj=1 「 茗P・ ・blq・/9・}・P・ ・b{9,一/q・}   = 、三P・ ・b{qj/◎ ・}'P・・b{◎ ♂/〈◎i,ψj〉} ∵ 式(2.28)   = 、碁[P・ ・b{(S]1・q・}/P・ ・bl(1;ll] ・[prob{(S vli,ψj,(ISIet}/prob{〈(S,,ψj>}]   = 、三P・ ・b{9・・q・・◎ ♂}/P・・b{◎ ・} =prob{(葦, _{,(Σ♂}/prob{(Svil} =prob{◎ _{♂1◎i}.-[コ} hieは 第i番 目 の 入 力 カ テ ゴ リ 鉱 が 第4番 目 の 出 力 カ テ ゴ リ 錫 と 解 釈 さ れ る 確 率 を 表 し て い る こ と を 、 上 の 定 理2.4は 指 摘 し て い る 。 詳 細 に 説 明 す れ ば 、3つ の 解 釈 ①,②,③ が 得 ら れ る: ①hi、(i≠m+1)は カ テ ゴ リ ◎iの 正 解 率 で あ る 。 ②hie(i≠e〈e≠m+1)は カ テ ゴ リ(ISI,の誤 解 率 で あ る 。 ③him+i(i≠m+1)は カ テ ゴ リ(Sl、の 解 釈 不 能 率 で あ る 。 □ 上 述 の 解 釈 ①,②,、 ③ か ら主 張 で き る こ と は 、 パ タ ー ン 生 成 シ ス テ ム 、 パ タ ー ン認 識 シ ス テ ム

は 共 に 、 正 解 率hii(i≠m+1)を 効 用 と し て 採 用 し 、 す べ て のi∈{1,2 _{,,m}に わ た っ てhiiを 最 大 化}

し よ う と し て い る と考 え ら れ る こ と で あ る 。 2.4多 段 階 パ タ ー ン 変 換 過 程 が あ る 場 合 こ れ ま で は 、2.2節 で の ③ ノに お い て 、 Φ({1,2,…,n})=Φ ■({1,2,…,nD(2 _.31) の 場 合 、 つ ま り、 単 段 階 の パ タ ー ン 変 換 (Σi→∼ρj→(Σ∠(2.32) を考 え て き た 。 そ れ で は 、 Φ({1,2,…,・D≠ Φ-({1,2,…,n})(2 _.33) の 場 合 は ど う 取 り扱 う か?先 ず 、2段 階 の パ タ ー ン変 換 ◎i→ ψk→ ∼ρjノ→(Σ ∠(2 _.34) を 考 え よ う 。 1.パ タ ー ン 表 現 シ ス テ ム の 立 場 か ら の 、 生 成 行 列Tの 分 解 パ タ ー ン 表 現 シ ス テ ム の 立 場 か ら は 、Tを 次 の よ う に 分 解 す れ ば 、2.3節 の 論 で 同 様 に 取 り扱 え る: t茸≡tik・t幻(2 _.35) tik!≡prob{ψk/(Σi}(2 _.36) t㎏"≡prob{ψj-/ψk}(第k∈{1,2,…,n}番 目 の パ タ ー ン ψkが 与 え ら れ た 条 件 の 下 で の 、 第j∈{1,2,…,n}番 目 の パ タ ー ン ψjーの 生 起 条 件 付 き 確 率)(2.37)

H.パ タ ー ン 認 識 シ ス テ ム の 立 場 か ら の 、 認 識 行 列Rの 分 解 パ タ ー ン 認 識 シ ス テ ム の 立 場 か ら は 、Rを 次 の よ う に 分 解 す れ ば 、2.3節 の 論 で 同 様 に 取 り扱 え る: 聖 ≡ ηゼ ・r、,"(2・38) 巧k!≡prob{ψk■/ψj}(第j∈{1,2,…,n}番 目 の パ タ ー ン ψjが 与 え ら れ た 条 件 の 下 で の ・ 第k∈{1,2,…,n}番 目 の パ タ ー ン ψkノの 生 起 条 件 付 き確 率)(2.3g) ・、,"≡P・・b{◎ ∠/ψk-}.(2・38) 3段 階 以 上 の 多 段 階 パ タ ー ン 変 換 に つ い て も 、 上 述 の1,Hの 考 え 方 と 同 様 に 処 理 す れ ば よ い 。

3.パ

タ ー ン 表 現(パ

タ ー ン 生 成)、 パ タ ー ン認 識 に 関 す る 最 大 化 原 理

前 章 にお い て 、 パ タ ー ン生 成(表 現)・ パ ター ン認 識 シス テ ム の モ デ ル

旦 → Φ/旦 → Φ→ Φ!→.豊7Φ!→

亙 ノ(3.1)

を 、 シ ャ ノ ンの 通 信 モ デ ル に習 っ て、 考 え て き た。

本 章 で は、 Φ=Φ 〆

の 場 合 、 パ ター ン表 現(パ

タ ー ン生 成)シ

ス テ ム の 、 各 カ テ ゴ リ のパ ター ン

に よ る表 現 能 力 が 劣 っ て い れ ば 、 効 用(平

均 正解 率f1)を

維 持 す る た め に は 、 パ タ ー ンが どの カ

テ ゴ リを 表 す た め に 生 成 され た か を推 定 す る 機 能 を備 え て い る パ タ ー ン認 識 シ ス テ ム の 、 パ タ ー

ン認 識 能 力 が優 秀 で な け れ ば な らな い し、 ま た 、 表 現 能 力 が優 秀 で あ れ ば、 認 識 能 力 が 劣 っ て い

て も よ い こ とを説 明可 能 な"パ

ター ン生 成 ・

パ タ ー ン認 識 に関 す る最 大 化 原 理 璽

が研 究 さ れ る。

3.1効 用 と し て の 平 均 正 解 率f、 ∀i∈{1,2,…,m},ヨj∈{1,2,…,n}, tl≡P・・b{ψj/◎ 、}一1(3・2) の と き 、 パ タ ー ン 生 成 シ ス テ ム の 表 現 能 力 は 曖 昧 で な い と い う 。 表 現 能 力 の 、 こ の 無 曖 昧 性 は 正 し い 生 成 を 意 味 し て い な い 。 ま た 、 ∀j∈{1,2,…,n},ヨi∈{1,2,…,m}, 巧FP・ ・b{◎ 、7ψ」}一1'(3・3) の と き、 パ タ ー ン 認 識 シ ス テ ム の 認 識 能 力 は 曖 昧 で な い と い う 。 認 識 能 力 の 、 こ の 無 曖 昧 性 は 正 し い 推 論 を 意 味 し て い な い 。 パ タ ー ン 生 成 、 パ タ ー ン 認 識 の 場 面 に お い て 、 無 曖 昧 性 が 実 現 さ れ る と は 、 以 下 の 式(3.4)の 、 効 用 と して の 平 均 正 解 率f1が 最 大 に な っ て い る 場 合 の 特 別 な 状 況 で あ る 事 実 を 、2定 理3.1,3.2の 系1で 明 ら か に す る こ と が 本 章 の 目的 で あ る 。 パ タ ー ン 生 成 場 面 ① パ タ ー ン 表 現 シ ス テ ム が パ タ ー ン 認 識 シ ス テ ム の 認 識 能 力 の 程 度 を 推 量 し て 、 可 能 な 限 り正 しい 認 識 が 期 待 で き る よ う に 、 パ タ ー ン を 生 成 ・表 現 す る と 、 パ タ ー ン認 識 の 場 面 ② パ タ ー ン 認 識 シ ス テ ム が パ タ ー ン 表 現 シ ス テ ム の 生 成 表 現 能 力 の 程 度 を 推 量 し て 、 可 能 な 限 り正 し い 認 識 が 期 待 で き る よ う に 、 パ タ ー ン を 認 識 す る に お い て 、

最 大 に し な け れ ば な ら な い 効 用(utility)と し て 、 平 均 正 解 率(theaveragerateofcorrect recog翠ition> fi一 ￡ 弐 ・、・t、j'・ji(3.4) ト    ニ ユ が 考 え ら れ る 。 平 均 解 釈 不 能 率fb 一 § 弐 ・、・t、j'・j_{。+1層(3.5)} ト    ニ   を 定 義 す る と 、 平 均 誤 解 率f2=1-f。 一fi(3.6) も 定 義 で き る 。 パ タ ー ン 表 現(パ タ ー ン 生 成)シ ス テ ム 、 パ タ ー ン 認 識 シ ス テ ム は 共 に 、flを 最 大 化 す る 目 的 で 、 Tを 制 御 し 、 パ タ ー ン を 生 成 し、 Rを 制 御 し、 パ タ ー ン を 認 識 す る と 考 え ら れ る 。 以 後 、 パ タ ー ン 生 成 シ ス テ ム は 解 釈 不 能 な パ タ ー ン を 生 成 し な い と仮 定 す る 、 つ ま り 、2.3.1項 の ④ に お い て 、 rjm+1=Oforanyj∈{1,2,,n}(3.7) を 仮 定 す る 。 3.2パ タ ー ン 表 現(パ タ ー ン 生 成)に 関 す る 最 大 化 原 理 パ タ ー ン 生 成 シ ス テ ム が 制 御 で き る の は 、A,T,Rの 内 、Tだ け で あ る 。 例 え ば 、 各 入 力 カ テ ゴ リ(iSli(i∈{1,2,,m})の 生 起 確 率aiが 等 し い 場 合 、 h、i一 ￡t、i・rji(3.8)      を 最 大 に す るTを 求 め よ う(定 理2.4を 参 照)。 こ の 最 大 化 は 、 パ タ ー ン 生 成(パ タ ー ン 表 現)に 関 す る最 大 化 原 理 と 呼 ば れ 、 生 成 シ ス テ ム の 、 パ タ ー ン 表 現 能 力 を 最 大 に す る こ と を 意 味 す る 。 Vjiiai・rji(3.9) を考 え る と 、A,T,Rの 非 負 実 数 値 関 数 f(A,T,R)≡ 鞏 韋 ・、・t、j・rji(3.10> まニ   ト   は 、 式(3.8)のhiiを

の

使 え ば 、 f(A,T,R)=Σai・hii(3.11) i=1 と 表 現 さ れ 、 ま た 、 式(3.9)のVjiを 使 え ば 、 f(A,T,R)一 ￡ _{坐 、t、j'・j韮(3ユ2)} i=lj=1 と 表 現 さ れ る 。 こ の と き 、 不 等 式 f(A,T;R)≦f(A,T,R)(3.13) が 成 り立 つ と き 、Tで 規 定 さ れ る パ タ ー ン 表 現 ・生 成 シ ス テ ム は 、T!で 規 定 さ れ る パ タ ー ン 表 現 ・生 成 シ ス テ ム よ り も 、 パ タ ー ン 表 現 能 力 に 関 し 、 優 越 す る(dominate)と い う。 最:も 優 越 し て い る パ タ ー ン 生 成 シ ス テ ム の 構 造 を 規 定 し て い る2.3.1項 の 条 件 付 き 生 起 確 率 行 列

Tを 決 定 し よ う 。 そ れ は 、 次 の 定 理3.1、 並 び に 、 そ の 系1で 与.え ら れ ∼ パ タ ー ン 生 成 シ ス テ ム が 目 的 し て い る 式(3.10)の 効 用f(A,T,R)の 最 大 化 を 与 え る 生 成 行 列Tを 決 定 し た も の で あ る 。 [定 理3.1](パ タ ー ン 生 成 に 関 す る 最 大 化 定 理) A,Rを 固 定 した 条 件 の 下 で 、Tを 動 か す 操 作 に よ り、f(A,T,R)を 最 大 化 す る 、 つ ま り、 ma耳f(A,TlR)・ ・(3.14)   を も た ら す 行 列 T=argm4xf(A,TlR)(3.15)   の 各 要 素 婦 ま次 の ①,② を 満 た す も の と し て 与 え ら れ る: V、■≡maXVj、 一maX{V、 、,V、、,…,V。、}

 

ニトけ

>Ofbri∈{1,2,…,m}・.『 ・(3.16) 'を 与 え る パ _{タ ー ン 番 号} 」=argmaxvji∈{1,2,…,n}(3.17) j=1∼n の 集 合 J(i) ≡{j豆(i),j2(i),…,j。(i)(i)}⊆{1 _{,2,…,n}'(3.18)} を 導 入 す る と 、 ① ∀i∈{1,2,…,m},∀j∈ 」(i),t广0. ② ∀i∈{1・2・ … ・m}・1「 壽(、)tij・ [定 理3.1の 系1](パ タ ー シ 生 成 に 関 す る 最 大 化 を も た ら す 等 確 率 定 理) 本 定 理3.1の ①,② を 満 た すT=(tij)は 、 例 え ば 、 tij= 1/1J(i)lifj∈J(i) Oifj一 ζ「」(i)(3.19) と 与 え ら れ る 。 (定 理3.1、 並 び に 、 そ の 系1の 証 明) δij≡・Vi-Vji≧O fbri∈{1,2,…,m}andj∈{1,2,…,n}(3.20)、 と お く と 、 明 ら か に 、 ノ Vji=Vimδij fori∈{1,2,…,m}andj∈ll,2,…,皿}(3 _.21) ・で あ り 、 δ茸 =Oifj∈J(i) >Oifjて;J(i)(3 .22) に 注 意 し て お く 。

ロ

.gi(A・T・R)≡ 、≧1t・j'・j・ 、(3・23) を 導 入 す る と 、 式(3.14)のmaXT・f(A,Tノ,R)は 、 maXT'f(A,T',R)   1± Σ maxT'gi(A,T,R)'(3 .・24) i=1

と 表 さ れ 、 各 カ テ ゴ リ 毎 に9i(A,TgR)を 最 大 化 す れ ば 、f(A,Tノ,R)は 最 大 化 さ れ る こ と が わ か る 。 ∀i∈{1,2,…,m}, 9i(A,T,R) =Σtij'Vji十 ≧冫tij'Vji j∈J(Dj∈J(1) =Σtij・Vi j∈J(且) 桾 、、)t・j●[・i-一 δ・j] =・ ・!●;i 、、)+、茗 、、)]t・・ 一 Σt ij・δij  セ  くの ≦Viノ ∵ 式(2.14)(3 _.25) が 成 り 立 つ 。 こ こ に 、 gi(A,T,R)=viノ ⇔ ∀jで 「J(i),tij=0(3・26) で あ る こ と に も 、 注 意 し て お く 。 よ っ て 、 ∀j∈J(i),1=[Σ+Σ]tij    くのjeJ(i) 「 爵,、)t・j∵j茗 、、)t・j=0(3・27) を 得 、 ①,② が 満 た さ れ る と き に 限 り、 任 意 のi∈{1,2,…,In}に つ い てg、(A,T,R)は 最 大 値 を と り、 よ っ て 、f(A,T;R)は 最 大 値 を と る こ とが わ か っ た 。 定 理3.1の 系1は 明 ら か で あ る 。 □ 定 理3.1の 系1か ら 言 え る 結 論 は 次 の 通 り で あ る:第j∈{1,2,…,nl番 目 の パ タ ー ン ψjを 確 率 prob{(ISI,'/(Pj}=rjiで 認 識 さ れ る 第i∈{1,2,…,n}番 目 の カ テ ゴ リ ◎ 、とqjと に つ い て 、 式(3.9) のprob{(51i}・prob{◎17ψj}=ai・rji=Vjlを 最 大 に す る パ タ ー ン番 号jがlJ(i)1個 存 在 す る よ う な 各 カ テ ゴ リ(is]iーに 対 し て は 、1/1J(i)1の 確 率 で パ タ ー ンqjを _{生 成 し、 ま た 、Vj、を 最 大 に し な い よ} う な 残 り のm-lJ(i)1個 の 各 カ テ ゴ リ(5,ノ に 対 し て は 、 確 率0で パ タ ー ンqjを 生 成 す る 生 成 行 列Tを 備 え て い る 生 成 シ ス テ ム が 、 効 用 と し て の 、 式(3.4)の 平 均 正 解 率flを 最 大 に す る 。 □ 上 述 の 結 論 は 、 最 適 な 生 成 動 作 を 遂 行 す る 生 成 シ ス テ ム の 備 え な け れ ば な ら な い 生 成 性 質 を 勘 案 す れ ば 、 道 理 に 適 っ た 結 論 で あ る 。 3.3パ タ ー ン 認 識 に 関 す る 最 大 化 原 理 パ タ ー ン 認 識 シ ス テ ム が 制 御 で き る の は 、A ,T,Rの 内 、Rだ け で あ る 。 式(3.4)の 平 均 正 解 率flを 最 大 に す るRを 求 め よ う 。 こ の 最 大 化 は 、 パ タ ー ン 認 識 に 関 す る 最 大 化 原 理 と 呼 ば れ 、 認 識 シ ス テ ム の 、 パ タ ー ン 認 識 能 力 を 最 大 に す る こ と を 意 味 す る 。 Uij≡ai'tij(3 _.28) を 考 え る と 、A,T,Rの

_け

式(3.10)の 非 負 実 数 値 関 数f(A,T,R)は 、 f(A・T・R)= 、≧1、Σ,u・ゴrj・(3・29) と 表 さ れ る 。 こ の と き 、 不 等 式 f(A,T,R!)≦f(A,T,R)(3 _.30)

が 成 り立 つ と き 、Rで 規 定 さ れ る パ タ ー ン 認 識 シ ス テ ム は 、Rノ で 規 定 さ れ る パ タ ー ン 認 識 シ ス テ ム よ り も 、 パ タ ー ン認 識 能 力 に 関 し 、 優 越 す る と い う 。 最 も優 越 し て い る パ タ ー ン 認 識 シ ス テ ム の 構 造 を 規 定 し て い る2.3.1項 の 条 件 付 き生 起 確 率 行 列 Rを 決 定 し よ う 。 そ れ は 、 次 の 定 理3.2、 並 び に 、 そ の 系1で 与 え ら れ 、 パ タ ー ン 認 識 シ ス テ ム が 目 的 し て い る 式(3.10)の 効 用f(A,T,R)の 最 大 化 を 与 え る 認 識 行 列Rを 決 定 し た も の で あ る 。 [定 理3.2](パ タ ー ン 認 識 に 関 す る 最 大 化 原 理 定 理)

A,Tを 固 定 し た 条 件 の 下 で 、Rを 動 か すi操作 に よ り、f(A,T,R)を 最 大 化 す る 、 つ ま り、

maxf(A,T,R「)(3.31)   ノ を も た ら す 行 列 R=arg卑axf(A,T,R■)(3.32)   の 各 要 素rijは 次 の ①,② を 満 た す も の と し て 与 え ら れ る: Ujノ≡maXU广max{Ulj,U、j,…,U。j}

_ヨ

_ニ

_へ

_の

>Oforj∈{1,2,…,n}(3.33) を 与 え る カ テ ゴ リ 番 号 i=argmaxuij∈{1,2,…,m}(3。34) i=1∼m の 集 合 1(j) ≡{il(j),i2(j),…,i。(j)(j)}⊆{1,2,…,m}(3.35) を 導 入 す る と 、 ① ∀j∈{1,2,…,n},∀i百1(j),rj、=0. ② ∀j∈{1・2・ … ・n}・1「 葺(j)rji・ [定 理3.2の 系1](パ タ ー ン 認 識 最 大 化 に 関 す る 等 確 率 定 理) 本 定 理3.2の ①,② を 満 た すR=(rji)は 、 例 え ば 、 rji= 1/11(j)lifi∈1(j) Oifi「 ζ1(j)(3.36) と 与 え ら れ る 。 (定 理3.2、 並 び に 、 そ の 系1の 証 明) ・ij≡可 一u、j≧o f()ri∈ …{1,2,…,m}andj∈{1,2,…,n}(3.37) と お く と 、 明 ち か に 、

Uij-Uj一 εij

f()ri∈{1,2,…,m}andj∈{1,2,…,n}(3.38) で あ り 、 ε巧 =Oifi∈1(j) >Oifiて ≡一1(j)(3.39) に 注 意 し て お く 。

 

fj(A,T,Rノ)≡ …ΣUij・rji(3.40) i=1

を導 入 す る と、

ma琴f(A,T,Rノ>

Rn

= 、≧lm鱒(A・T・Rり'、.(3・41) が 成 立 し 、 各 パ タ ー ン 毎 にfj(A,T,R')を 最 大 化 す れ ば 、f(A,T,R')は 最 大 化 さ れ る こ と が わ か る 。 ∀j∈{1,2,…,n}, fj(A,T,Rノ) = 、昌 、j、u・jO峨 昌 、j、u・j'「j・ ノ 「 呂,j、u・"j・ 十 一Σ[Uj!一 εij]・rji オこ  く   =Uj!●1暑 G、悟(j,]・ji 一 Σ ε ij'rji  ご エゆ ≦Uj'∵ 式(2.18),式(3.7)(3 _.42) が 成 り 立 つ 。 こ こ に 、

fj(A,T,Rノ)=u」 ノ⇔ ∀iで 『1(j>,rji=0(3 _・43)

で あ る こ と に も 、 注 意 し て お く 。 よ っ て 、 ∀i∈1(j)・1=1呂 ω 襠 、j、]rj・ = 、島,j、「… ∵ 、呂 、j、「j・=0(3・44)・ を 得 、 ①,② が 満 た さ れ る と き に 限 り、 任 意 のj∈{1,2,… _{,n}に つ い てfj(A,T,R■)は 最 大 値 を と} り 、 よ っ て 、f(A,T,Rノ)は 最 大 値 を と る こ と が わ か っ た 。 定 理3.2の 系1は 明 ら か で あ る 。 □ 定 理3.2の 系1か ら 言 え る 結 論 は 次 の 通 りで あ る:'第i∈{L2,…,m}番 目 の カ テ ゴ リ ◎ を 確 率 prob{qj/◎i}=tijで 表 す よ う に ・ 生 成 さ れ た 第j∈{1,2,…,n}番 目 の パ タ ー ンqjと(Σiと が 同 時 に 生 起 す る ・ 式(3・28)の 確 率(結 合 確 率)prob{◎,qj}=prob{(Σi}・prob{qj/(Σi}=ai・tij==uijを 最 大 に す る カ テ ゴ リ 番 号iがlI(j)1個 存 在 す る よ う な 各 パ タ ー ンq」 に対 し て は 、1/11(j)1の 確 率 で カ テ ゴ リ(IS],を割 り 当 て 、 ま た 、 同 時 生 起 確 率prob{◎,qj}を 最 大 に し な い よ う な 残 り のm-lI(j)1個 の 各 パ タ ー ンqjに 対 し て は 、 確 率0で カ テ ゴ リ(iSl,を割 り 当 て る 認 識 行 列Rを 備 え て い る 認 識 シ ス テ ム が 、 効 用 と し て の 、 式(3 .4)の 平 均 正 解 率flを 最 大 に す る 。 □ 上 述 の 結 論 は 、 最 適 な 認 識 動 作 を 遂 行 す る 認 識 シ ス テ ム の 備 え な け れ ば な ら な い 認 識 性 質 を 勘 案 す れ ば 、 道 理 に 適 っ た 結 論 で あ る 。 尚 、 付 録6のaxiom2を 満 た す よ う に 構 成 さ れ た 類 似 度 関 数SMを 使 っ て 、 認 識 シ ス テ ム RECOGNITRONは 、 式(3.28)の _{結 合 確 率prob{(El, ,qj}を 、} prob{(Eli,gpj} ロ   =SM(ge}j ・ ω ・)/、≧1、 ≧1SM(q・ ・ ω ・) (=SM(ψj,ωi)11nl

 

∵ ∀j∈{1・2・ ・'・・n}・ i≧1SM(qj・ ωi)=1(3・45) と 推 定 し て い る と い う の が ・SS理 論[10]∼[15]の 主 張 で あ る 。 こOP式(3 _{.45)か ら 、}   ・i1・ip・・b{◎ ・}= 、≧1P・ ・b{(S)1・ ψ ・}

け =(1/1nD・ ΣSM(ψj ,ωi)j =% bj≡prob{qj}=Σprob{(Svi,qj} i=・1 =1/1nI tij≡prob{ψj1(芭i}≡prob{(Svi,ψj}/prob{(11,}

 

=SMゆj _{,ωi)LΣSM(ψj,ωi)} コニユ rji≡prob{(Σi'/￠Pj}… ≡≡prob{(E],',qj}/prob{qj} =SM(qj ,ωi) ∵ ∀i∈{1,2,…,m}(Σiノ=(Sviノ が 成 立 し て い る こ と に 、 注 意 を 払 っ て お こ う 。

(3.46)

(3.47)

(3.48)

(3.49)

4.む

す び

以 上 の 研 究 に よ り、 パ ター ン認 識 の 働 きの 底 に は、 パ タ ー ン生 成 の も た らす"典

型 的 な パ タ ー

ンか らの崩 れ ・変 形"に 応 じ、 式(3 .4)の 平 均 正 解 率f1を 最 大 な ら しめ よ う とす る"最 大 化 原 理"

が 流 れ て い る こ とが 判 明 した 。 つ ま り、

パ タ ー ン生 成 、 パ タ ー ン認 識 の 場 面 に お い て 、 無 曖 昧 性 が 実 現 さ れ る と は 、 効 用 と して の 、式

(3.4)の 平 均 正 解 率f1が 最 大 に な って い る 場 合 の 特 別 な 状 況 で あ る 事 実 が 、2定 理3.1,・3.2の 系1

で 明 ら か に され た 。

パ タ ー ン認 識 分 野 の 歴 史 は、 認 識 方 式 を考 案 す る ・

そ の 認 識 方 式 の性 能 を確 か め る とい う反 復 で

あ っ た 。 しか し、 こ の よ うな場 当 た り的 な繰 り返 しを行 っ て い る だ け で は 、 パ タ ー ン認 識 分 野 は

認 識 技 術 の寄 せ 集 め の域 を脱 出 で きな い 。 パ ター ン認 識 分 野 を1つ の 体 系 だ っ た 学 問 分 科 とす る に

は 、 パ タ ー ン認 識 の働 き に 関 し、 深 い理 解 、 例 え ば 、 人 間 に お け る視 覚 情 報 処 理 の初 期 過 程 に お

い て 、 画像 情 報 は 形(form)、

色(color)、

運 動(movement)、

奥 行 き(depth)な

どの 属 性 ご と に

別 々 の モ ジ ュ ー ル で 処 理 され る こ と[23]な

どの知 識 群 の"活 用 化"と"確

か な 証 拠 が 反 映 され ら

た公 理 に基 づ く理 論 化"が

必 要 と され る。

この よ う な活 用 化 と公 理 化 を 目指 して 、s .suzukiは1984年 か らほ ぼ10年 間 に わ た りパ タ ー ン認

識 の働 きを公 理 論 的 に 定 式 化 し、 万 能性 認 識 の 働 きの 存 在 を証 明 す るす る とい う理 論 的研 究[12]

を着 実 に進 展 させ て き た。

テ キ ス ト、 数 値 な どに 限 られ て い た"コ

ン ピ ュ ー タ で扱 え る デ ー タ"は

マ ル チ メ デ ィ ア時 代 に

な り、 オ ー デ ィオ 、 ビデ オ 、 グ ラ フ ィ ッ クス な ど の画 像 ・

音 声 マ ルチ メ デ ィ ア デ ー タ に な り、 マ ル

チ メ デ ィ ア技 術 に よ り、 あ りとあ ら ゆ る情 報 の 電 子 テ キ ス ト化(オ

ー プ ン ・コ ン ピュ ー タ ネ ッ トワ

ー ク を使 っ た デ ィ ジ タ ル 形 ペ ーパ ー レ ス化)が

可 能 と な っ た現 在

_{、 そ の 表 現 間 の 相 互 変 換 を前 提}

に した"パ

タ ー ン認 識 技 術"の 確 保 が 望 まれ て い る 。 本 論 文 で は 、言 語 行 為 の"水 谷 の確 率 模 型"

に対 応 して 、

認 識 シス テ ム は 、 パ ター ン生 成 ・

表 現 シス テ ム が そ の 表 現 を ∼

ρjに託 した

カ テ ゴ リが どの カ テ ゴ リで あ る ヵ・

は 知 らな い(認 識 シ ス テ ム の 、 パ タ ー

ン生 成 に 関 す る無 知 仮 定;一 種 の マ ル コ フ過 程 性)

の 下 で 、 認 識 行 為 の"鈴 木 の確 率 模 型"が

提 案 さ れ た が 、 パ タ ー ン表 現 シス テ ム が 制 御 で きる の

は 、A,T,Rの 内 、Tだ _{け で あ り、 ま た 、 パ タ ー ン認 識 シ ス テ ム が 制 御 で き る の は 、A ,T,Rの} 内 、Rだ け で あ り、 入 力 カ テ ゴ リ生 起 確 率 分 布Aを 固 定 し た 条 件 の 下 で 、 多 段 階 パ タ ー ン 変 換 を 導 入 し な い 場 合 、 次 の パ タ ー ン 生 成 問 題 ・パ タ ー ン 認 識 問 題 を 解 決 し た: 1.パ タ ー ン 生 成 問 題(パ タ ー ン 集 合 ゆ1,q2,…,ψ,}の カ テ ゴ リ 表 現 能 力 を 最 大 化 せ よ) 確 率 条 件 [∀i∈{1,2,…,m},∀j∈{1,2,…,n}, 0≦tij≦1]



〈[∀i∈{1,2,…,m},Σtij=1] j=1

の 下 で 、 正 解 率

 

hii= 、≧1t・j'…f・ ・anyi∈ll・2・'"・m} を 最 大 に す るT・=(tij)を 求 め よ 。 皿.パ タ ー ン 認 識 問 題(パ タ ー ン 集 合{qi,q2,…,q。}に 関 す る カ テ ゴ リ 認 識 能 力 を 最 大 化 せ よ) 確 率 条 件 [∀j∈{1,2,…,n},∀4∈{1,2,…,m}, 0≦rje≦1]

 

〈[∀j∈{1,2,…,n},Σrje=1] e=:1 の 下 で 、   h・i= 、;1t・j●rj・f・・anyi∈{1・2・ ○●●・m} を 最 大 に す るR=(切 を 求 め よ 。 □ こ の 際 、 指 摘 し て お か ね ば な ら な い こ と は 、 設 計 さ れ た 段 階 か ら現 在 ま で に パ タ ー ン 認 識 シ ス テ ム が 処 理 し た パ タ ー ン の 集 合 は 有 限 集 合 で あ る か ら 、 有 限 集 合 Φ({1,2,…,nD≡{ψi,ψ2,…,qn} に つ き 、 論 を 進 め た の は 決 し て 無 意 味 で は な い と い う こ と で あ る 。 パ タ ー ン 表 現 シ ス テ ム の"パ _{タ ー ン 生 成 能 力 の 不 完 全 性"を 補 う よ う に 、 パ タ ー ン 認 識 シ ス テ ム} が 処 理 の 対 象 と す る 問 題 の パ タ ー ン ψ に 対 し 、 ヨt∈{O,1,2,…},prob{(Sj/ψ(t)}=1 が 成 立 す る よ う に 、 パ タ ー ン 認 識 シ ス テ ム が パ タ ー ン の 多 段 階 変 換 ψ(0)(=∼e,)∈ Φ({1,2,…,n})→ ψ(1)→q(2)→ … → ∼Z)(t-1)→ ψ(t)∈ Φ ノ(ll_,2,…,nD を す る こ と の 基 本 的 重 要 性 が 、 最 大 パ タ ー ン 集 合 の 最 大 正 認 識 率 の 達 成 に あ る と い う"認 識 行 為 の 効 用 に 関 す る 最 大 化 原 理"の 面 か ら研 究 さ れ た 。 こ こ に 、 鷦 を 表 現 す る よ う に 、 パ タ ー ン ψ が パ タ ー ン 表 現 シ ス テ ム に よ り生 成 さ れ た と して い る 。 こ の 種 の 多 段 階 変 換 を 達 成 す る の に は 、 あ る 種 の 連 想 形 認 識 方 程 式(SS方 程 式[12] _,[13]) の 求 解 過 程 を 利 用 す れ ば よ い 。 残 さ れ た 研 究 と して 、 健 全 性 、 完 全 性 に 関 す る 次 の 話 題 が あ る 。 例 え ば 、 偶 数 を 発 生 す る よ う に シ ス テ ム が 設 計 さ れ た と し よ う 。 偶 数 の す べ て の 集 合 をEと 表

し、 この シス テ ム か ら現 実 に得 られ るす べ て の 出力 の 集 合 をEVENと

表 す 。

①EVEV⊆E(シ

ス テ ム か らの 現 実 出力 の 集 合 は す べ て偶 数 で あ る)な

ら ば 、 この 設 計 され た シ

ス テ ム は健 全 性(so㎜dness)、

或 い は、 正 当性(correctness)を

備 え て い る とい い 、

②E⊆EVEN(偶

数 はす べ て シス テ ム か らの 現 実 出力 に属 す る)な

らば 、 こ の 設 計 され た シ ス テ

ム は完 全 性(completeness)を

備 えて い る とい う。

設 計 さ れ た 一 般 シス テ ム に関 す る健 全 性 、 完 全 性 は 上 述 で 説 明 さ れ た が 、 設 計 さ れ たパ タ ー ン

認 識 シ ス テ ム に つ い て は、 次 の2定 理(健 全 性 定 理 、 完 全 性 定 理)が

成 り立 つ か ど う か が 問 題 とな

る 。

導 か れ る 定 理 が 恒 真 式 で あ る(シ ス テ ム か ら、 現 実 に 出力 が 得 られ た とす れ ば、 こ の現 実 出力

は シ ス テ ム 設 計 の 際 意 図 した 出力 集 合 の 元 で あ る)よ

うな形 式 的 論 理 体 系 の健 全 性 に対 応 して 、

[健 全 性 定 理(soundnesstheorem)]

argmaxprob{∼

ρi/(Σj}

i∈{1,2,…,n} =i*∈{1 ,2,…,n} な ら ば 、 パ タ ー ン ψi*は 第j∈{1,2,…,m}番 目 の カ テ ゴ リ(Σjに 正 し く認 識 で き る 。 上 の 健 全 性 定 理 は 、 あ る カ テ ゴ リ を 表 現 す る よ う に 正 し く生 成 さ れ た(最 も変 形 の 少 な い) パ タ ー ン ψi*は そ の カ テ ゴ リ に 正 し く認 識 で き る こ と を 指 摘 し て い る 。 次 に 、

□

恒 真 式 は 常 に 定 理 と し て 導 か れ る(シ ス テ ム 設 計 の 際 意 図 し た 出 力 は す べ て 現 実 に 得 ら れ る 出 力 の 集 合 の 元 で あ る)よ う な 形 式 的 論 理 体 系 の 完 全 性 に対 応 して 、 [完 全 性 定 理(completenesstheorem)] パ タ ー ン ψi*は 第j∈{1,2,…,m}番 目 の カ テ ゴ リ(Σjに 正 し く認 識 で き る な ら ば 、 argmaxprob{(1ρi/(葦j} i∈11,2,…,n}

=i*∈{1 ,2,…,n}

で あ る 。

□

上 の 完 全 性 定 理 は 、

正 し く認 識 さ れ るパ タ ー ン ψi*は そ の カ テ ゴ リ を表 現 す る よ う に正 し く

生 成 され て い る(最

も変 形 が 少 な い)

こ と を指 摘 して い る 。

設 計 さ れ る パ ター ン認 識 シ ス テ ム に つ き、 健 全 性 定 理 、 完 全 性 定 理 が 成 り立 つ か ど うか を検 証

す る手 法 の確 立 が 望 まれ る。

文

献

[1]青 木 利 夫,高 橋 渉:"集 合 ・位 相 空 間 要 論",培 風 館,Sept.1979 [2].AngusE.Taylor,DavidC.Lay:"1雄oductiontofunctionanalysis",Jo㎞Wiley&Sons,Inc.,1980 [3]伊 藤 清:"確 率 論(現 代 数 学14)",岩 波 書 店,Nov.1966

[4]Edit・dbyW・KE・t・ ・:``Handb・ ・k・flp・mi・g㎝d・ ・9・iti・・p・ ・cesse・(V・lum・4 _{.甜 ・nti・n・nd} memoly)",LawrenceErlba㎜Associates,Inc.,1976

[5]ル ー メ ル ハ ー ト:."人 間 の 情 報 処 理(新 し い 認 知 心 理 学 へ の い ざ な い)",御 領 謙 訳,サ イ エ ン ス 社,Sept.1980.

[6]ElaineRichandKevinKnight:"Artificialintelligence(Secondedition)",McGraw-Hil1,Inc.,1991

[7]L・ ・D・v・ ・y・,La・zl・Gy6・HandGab・ ・L・g・ ・i:``Ap・ ・b・bili・ti・th・・取 ・fp・ 伽m・ec・gniti・n", Springer-VerlagNev》York,]㎞c.,1996 [8]PierreA.Dev輯ver:"OnanewclassofboundsonBayesriskinmultihypothesispattemrecognition", IEEETrans.oncomputers,voLC-23,no.1,pp.70-80,Jan.1974 _. [9]Jef匠eyWood:"lnvariantpattemrecognition:Areview",Pa就emRecognition,vol.29,no.1,pp.1-17,1996 [10]鈴 禾 昇 一:"認 識 工 学(上)",柏 書 房,Feb.1975 [11].鈴 木 昇 一:"(マ ル チ メ デ ィ ア 情 報 処 理 の た め の 一 般 化 誤 差 逆 伝 播 学 習)ニ ュ ー ラ ル ネ ッ ト の 新 数 理",近 代 文 芸 社,Sept.1996 [12]鈴 木 昇 一:"((知 能 情 報 メ デ ィ ア 情 報 処 理 の た め の)カ テ ゴ リ 帰 属 知 識 を 用 い た)パ タ ー ン 認 識 問 題 の 数 理 的 一 般 解 決",近 代 文 芸 社,June1997 [13]鈴 木 昇 一:"(カ テ ゴ リ 帰 属 知 識 の ポ テ ン シ ャ ル 論 を 含 む)認 識 知 能 情 報 論 の 新 展 開",近 代 文 芸 社,Aug.1998 [14]鈴 木 昇 一:"パ タ 』 ン の エ ン ト ロ ピ ー モ デ ル",電 子 情 報 通 信 学 会 論 文 誌(D』),vol.J77-D-H,no.10,pp.2220-2238,Nov.1994 [15]鈴 木 昇 一:"パ タ ー ン 認 識 の 数 学 的 理 論",電 子 情 報 通 信 学 会 技 術 研 究 報 告[パ タ ー ン 認 識 と 学 習,パ タ ー ン 認 識 と 理 解],PRL84-6(第1部),PRL84-30,PRL84-38,PRL85-27,PRU86一 合, PRu86-35,PRu86-69,PRu874,PRu87-28,PRu88-3Q,PRu89-1,PRu89-27,PRu89-40,PRu89-66,PRU89-77,.PRU89-136,PRU90-5,PRU90-15,PRU90-29,PRU90-125,PRU91-1 _,PRU91-29, .PRU91-42,PRU92-1,PRU92-18,PRU92-25,PRU92-89,PRU92-102(第28部 〉,.May1984∼ Jan.1993 [16]水 谷 静 夫:"言 語 と 数 学(数 学 ラ イ ブ ラ リ5)",森 北 出 版,Aug.1970 [17]C.EShannon:"Amathematicaltheoryofcommunications",BellSystemTec㎞icalJoumal,vol.27, pp.379二423,pp.623-656,1948 [18]横 沢 一 彦,下 村 満 子:"高 速 系 列 提 示 さ れ る 漢 字 お よ び 部 首 に お け る 錯 合",TheJapanese JournalofPsychology,vol.69,no.3,PP.216-222,1998 [19]瀧 保 夫:"通 信 方 式(電 気 通 信 講 座19)",コ ロ ナ 社,電 気 通 信 学 会 編,June1964 [20]堀 田 政 二,浦 浜 喜 一:"フ ァ ジ ー 領 域 分 割 に 基 づ く画 像 検 索",電 子 情 報 通 信 学 会 論 文 誌D-H, volJ81-D一 】1,no.9,pp.2215-2218,Sept.Jan.1998 [21]鈴 木 昇 一:"類 似 度 関 数 を 用 い た 確 率 的 緩 和 法",情 報 研 究(文 教 大 学 ・情 報 学 部),no.20,

pp.23775,Dec.1998 [22]有 本 卓:"情 報 理 論(共 立 数 学 講 座22)",共 立 出 版,Feb.1976 [23]M・S・Li・ing・t・n・,D.H.H・b・1;"P・y・h・phy・ical・vid・nce飴rseparat・.・h㎜ ・1・鰍h・p・rcepti・n.・f わ ㎜,color,move珥ent,anddeμh",Jo㎜alofNeuroscie皿ce,vol.7,pp.3416-346Sプ1987 [24]鈴 木 昇_{.一,前 田 英 明:"有 声 破 裂 音 の 代 表 パ タ ー ン の 学 習 的 決 定 と 、 そ の 計 算 機 シ ミ ュ レ ー} シ ョ ン",情 報 研 究(文 教 大 学 ・情 報 学 部),no.20,pp.77-95,Dec。1998. [25]鈴 木 昇 一,前 田 英 明:."変 動 エ ン ト ロ ピ ー に よ る 有 声 破 裂 音 の 順 序 付 け と 、 そ の 計 算 機 シ ミ ユ レ ー シ ョ ン",情 報 研 究(文 教 大 学 ・情 報 学 部) _{,nQ.21,PP.51-78,Mar.1999} [26]鈴 木 昇 二:"直 交 系 に よ る パ タ ー ン モ デ ル の 構 成.",情 …報 研 究(文 教 大 学 ・情 報 学 部),no.21, pp.23-49,Mar.1999

[27]Kunihik・F司 …hima:"N・ 矼 ・ln・tw・ ・km・d・lbrsel・ctivea伽ti・ninvi・ua1卿 ・m・ec・gniti・nand associativerecall'㍉AppliedOptics,pp.4985-4992,vol、26,no.23,Dec.1997 [28]森 田 ひ ろ み,森 田 昌 彦:1`形 と 色 の 統 合 に お け る 局 所 結 合 の 働 き",The」apaneseJ・umalof Psychology,vol.69,no.5,PP.358-366,1998 [29]DavidMiddleton:``In甘oductiontos血tisticalco㎜micationtheo取",PehinsulaPublishing(Los Altos,Califbmia),1987 [30]GerardSalton,MichaelJ.McGill:"In甘oductiontomodeminfb㎜ationrεtrieval(McGraw-Hill AdvancedComputerScienceSeries)",McGraw-HillIntemation31BookCo;npany4983 [31]鈴 木 昇 一:"平 均 顔 を 用 い た 顔 画 像 の2値 化 、 並 び に 、 目 、 鼻 、 口 の 抽 出'1,情 報 研 究(文 教 大 学 ・情 報 学 部),no.22,pp.65-150,Dec.1999 、