直交系 によ るパ ターンモデル の構成
鈴 木
昇 一
A Construction
of the Corresponding
Model
of an Original
Pattern
by the Help of an Orthogonal
System
Shoichi Suzuki
あ ら ま し
直 交 系 の 助 け で 原 パ タ ー ンか ら抽 出 さ れ た 知 覚 的 に 意 味 の あ る特 徴 を使 っ たパ ター ンモ デ ル化
機 構 が提 供 さ れ て い る 。 直 交 系 に よる 展 開 係 数 の 絶 対 値 の2乗 の 規 格 化 値 をパ タ ー ンか ら抽 出 され
る特 徴 量 の2乗 と して 採 用 し、 原 パ タ ー ン と同 一 の 特徴 量 の組 を持 つ パ ター ンモ デ ル を、雑 音 除去
性 か つ 次 元 軽 減 的 冗 長 度 圧 縮 性 、 並 び にユ ニ タ リ不 変 性 が 備 わ っ た 形 式 で構 成 して い る 。 実 ヒ ル
ベ ル ト空 間 夢 で は 、 一 般 的 な 条件 の も とで構 成 さ れ た あ る種 の2つ の モデ ル が 、 ノ ル ム規 格 化 原 パ
タ ー ン を絶 対 値1の 実 定 数 倍 を 除 い て 一 意 的 に 決 定 す る こ と も示 さ れ る。
特 徴 抽 出 の 場 面 に お け る フ ェ イ ズ不 確 定 性 をパ ター ンの 、2つ の エ ン トロ ピー で 表 示 す る こ と も
な され 、 パ タ ー ンモ デ ル の ユ ニ タ リ同値 性 が 特 徴 抽 出 に 関 連 して 説 明 され る。
この よ う な パ タ ー ンモ デ ル の 構 成 に関 す る 研 究 は、 他 で は 全 くな され て い な い 。 本研 究 内 容 へ
の理 解 を容 易 に す る た め 、 多 数 あ る 諸 例 の う ち 、 特 に 、 フ ー リ ェ変 換 の 下 で 不 変 な パ タ ー ンモ デ
ル が構 成 例 と して 、 掲 げ られ て い る 。
キ ー ワ ー ド
測 度 的 ユ ニ タ リ不 変 量
パ タ ー ンモ デ ル
ユ ニ タ リ不 変 性
平 坦 パ ワ ー 性
直 交 展 開係 数
Abstract
A new pattern-modelling
mechanism is provided with a form of using a perceptually
meaningful set of
features extracted from a deformed pattern by the help of an orthogonal system.
We shall explain how an unitary invariant model is synthesized. The model obtained by this method has
two properties of noise-and dimensionality-reduction
and redundancy-compression,
and is possessed of the
same set of features that an original pattern has on condition that the absolute values of orthogonal expansion
coefficients of the pattern to be modeled are adopted as features extracted from the patterns. Two models of
the original pattern on a real Hilbert space enable us to bring a norm-normalized original pattern into a
unique representation except for a real constant number whose absolute value is 1.
We shall make clear that a phase-uncertainty in the stage of feature-extraction is represented by a
positivity of a sum of two entropies. An unitary equivalence between models is explained relating to the
feature-extraction .
Researches for such an model have not found so far now so far as we knows . We now can construct a
model picked out in many meaningful examples, which remains invariant under the Fourier transformation
.This model allows us to understand a theoretical framework for a model-construction operator presented
here.
Key words : metrically unitary invariants pattern-model model-construction operato unitary invariance primitive shape-components flat-power property
orthogonal expansion coefficients
1.ま え が き
処 理 の対 象 とす る問 題 ②パ タ ー ン ψ の 代 りと な り、 雑 音 除去 性 か つ 次 元 軽 減 的 冗 長 度 圧 縮 性 、
並 び に ・ あ る種 の ユ ニ タ リ座 標 変 換 の 下 で の不 変 性 を 備 え た パ タ ー ン(正 規 化 パ タ ー ン)Tψ
を
確 保 す る た め の 正 規 化 技 術 は 、 パ タ ー ン か ら の特 徴 抽 出技 術 、 パ タ ー ンの 識 別 ・類 別 技 術 と合 わ
せ て 、.パ ター ン認 識 技術 の確 保 に必 要 な3大 技 術 の1つ で あ る[2],[45]。.
平 均 化 パ タ ー ン を射 影 分 解 して 得 られ る 直 交 系 を使 っ た こ の よ うな パ タ ー ンモ デ ルTψ
は す で
に提 案 され[3],[6],[33]、
手 書 き漢 字 パ タ ー ン、 日本 語 単独 母 音 の構 造 再 生[5]
,.[10],[23]、
認 識[9],[28]、
連想[8]に
関 し計 算 機iシ ミュ レー シ ョン済 で あ る。
本 研 究 の 主 目的 は 、 同 様 な 目的 に役 立 つ 同 様 なパ タ ー ン モ デ ルTψ を、 平 坦 パ ワ ー性 を 持 つ 直
交 系 、 例 え ば、 正 規 直 交 系 と.して のK-L直 交系[2]∼[4],[8],[9]',[12],[30],[33],[36],
[38]を 用 い て 、付 録Aに 説 明 され て い る よ う に、 新 た に確 保 す る こ とで あ る。、
重 回帰 分 析[43]を
行 い 得 られ た 線 形 回 帰 式 をパ タ ー ン と み な し、 こ の パ タ ー ンSPを 最 終 的 に
古 典2値 真 理 関 数 で 近似 す る こ と も提 案 さ れ て い る が[14]、
こ の と き途 中 で得 ら れ て い る"定 義
域 、 値 域 を拡 張 して 得 られ る真 理 関 数"が
、 特 別 の 内積 、
,特 別 の 完 全 正 規 直 交 系 を選 定 す れ ば 、
式(A20)で
定 義 さ れ る本 パ ター ンモ デ ルTψ の 定 数 倍 と一 致 す る こ とが わ か っ て い る 。
そ れ の み な らず 、 リー(Lie)座
標 変 換 をユ ニ タ リ化 可 能 な 内積 を持 つ ヒ ルベ ル ト空 間 夢 で 考 え
た場 合 、 この リー座 標 肇 換 を特 別 な 場 合 と して 含 むユ ニ タ リ座 標 変 換 の下 で 不 変 な パ ター ン モ デ
ルTψ を構 成 で き る こ とを考 慮 す る と、 次 の①
,② の研 究 とは 、/¥タ ー ン モ デ ルTψ を用 い た"付
録Bで の5種 類 の 認 識 法"を
み て わ か る よ う に、 本 研 究 内 容 は異 な っ て い る:
① 知 覚 の 恒 常 性 ・
・[5],[33]を
、"ユニ タ リ化 さ れ て い な い リ ー座 標 変 換 群[41]
,[42]".の
下 で
不 変 な軌 道 と関 連 づ け る諸 研 究[26],[27].
② リー 座 標 変 換 群 の 固 有 ベ ク ・
トル系 に よ る パ タ 「 ン展 開 係 数 の フ ェ イ ズ(phase)を
捨 て 去 る こ
との 可 能 な標 準 座 標 系(文
献[7]の
第25∼28部
を参 照)へ
の 変i換手 段 に基 づ い て 、処理 対象
とす るパ タ ー ン 内 に存 在 す る"ソ
ー座 標 変 換 群 の も た らす 線 形 な 歪"を
取 り除 くだ け の パ タ ー
ン識 別 研 究[37]
.
.1、
□
本 パ ター ンモ デ ルTψ は 、 パ タ ー ン ψ か ら抽 出 され る各 特 徴 量u(∼o;k)を 直 交 展 開 係 数 に持 つ 直
交 展 開 式 で あ る 。 文 献[33]の
パ タ ー ンモ デ ルTψ
とは 異 な る の は、u(SP,k)の 定 義 、使 わ れ る 直
交 系{ψk}k。Lで あ る 。 本u(∼0,k)は
ψ を 直 交 直 和 分 解 し て得 られ る 各 閉 部 分 空 間 に存 在 す る程 度
の 平 方 根 と して い る[2]∼[13],[15],[24],[28],[33]。
こ の存 在 す る程 度 は 各 部 分 空 間へ
の 射 影 成 分 の ノル ム の 自乗 と して の 、 量 子 力 学 的 観 測 確 率[30],[39]
,[40]と
形 式 的 に 一 致 し
て い る。}この 一 致 につ い て は、 文 献[3]の
第2,3章
、 並 び に 文 献[33]の
付 録2に 解 説 が あ る 。
そ の 応 用 研 究[2]∼[16],[18],[21]∼[24],[28],[33]が
あ る こ の よ う なパ タ ー ンモ デ
ル構 成 技 術 は著 者 の研 究 を 除 い て 、存 在 し な い 。 こ れ ま で の パ ター ン モ デ ル と同 様 な諸 性 質 を備
え たパ タ ー ンモ デ ルTψ が 提 案 さ れ て お り、 そ れ 故 、 最 大 類 似 度 法[28]、
不 動 点 探 索 形 構 造 受 精
認 識 法[7],[9],[21]な
どの 識 別 を含 ん だ パ タ ー ン認 識 法 、 パ タ ー ン系 列 連 想 法[8]、
ニ ュ ー
ラ ル ネ ッ ト構 成 法(文
献[7]の
第16∼23部
を参 照)[24]
,[45]に
対 し、 そ の 適 用 が 可 能 で あ る。
尚、 フ ェ イ ズ情 報 限 定 可 能 定 理[4],[15]は
、 実 ヒ ル ベ ル ト空 間 夢 で は成 立 す る が 、 複 素 ヒル
ベ ル ト空 間 夢 で は成 立 し ない こ とが 判 明 した の で
、 第4章 で は、 上 記 の② に関 連 し、 実 ヒ ル ベ ル ト
空 間 夢 で の フ ェ イズ 情 報 限 定 可 能 定 理 の不 変 的 パ タ ー ン認 識[44]へ
の応 用 と して 、本パ ター ン
モ デ ル形 式 の パ タ ー ン表 現 上 の完 全 性 が 説 明 さ れ て い る。
＼2.パ タ ー ン モ デ ルTψ
の 諸 性 質 と そ の 意 味
パ ター ン ψ に対 応 す るバ ター ンモ デ ルTψ は付 録Aの 式(A20)で
定 義 さ れ て い るが
、本 章 で は、
こ のTψ が雑 音 除 去 性 、 次 元 軽 減 的 冗 長 度 圧 縮 性 、 ユ ニ タ リ座 標 変 換 不 変 性 を備 え て い る こ とが
指 摘 され 、 パ ター ン情 報 処 理 にお け る そ の 役 割 が 説 明 さ れ る。
2.1自 己 共 役 作 用 素Hの 表 現 本 論 文 で は 、 処 理 の 対 象 と す る 問 題 の パ タ ー ン ψ の 集 合 Φ は 内 積(SP,rj)が 与 え ら れ た 可 分 な (separable)な ヒ ル ベ ル ト(Hilbert)空 間 命 の あ る 部 分 集 合 で あ る 。 こ こ で 、 ヒ ル ベ ル ト空 間 夢 が 可 分 と い う の は 、 稠 密 な(dense)可 算 部 分 集 合 が 夢 に 存 在 す る こ と を 指 す'[29]。qの ノ ル ム 11ψllはliql≡ 廟 と 定 義 さ れ る 。 理 解 の た め に は 、 例 え ば 、 内 積(ψ ,η)が 、 @・ η)=蓋dm(・)q(・)・T(・) こ こ に 、 万 は ηの 複 素 共 役 で あ り、 M:n次 元 ユ ー ク リ ッ ド空 間R・ の 可 測 部 分 集 合 dm(x):正 値 ル ベ ー グ ・ス テ イ 丿レチ 土 ス(L6beSgue-Stieltjeli)式 測 度(1) と与 え ら れ る 可 分 な ヒ ル ベ ル ト空 間 夢=L2(M;dm)を 想 定 し て お け ば よ い 。 例 え ば 、 内 積(SP,η)が 、 @,η)=≧ ・、・b、 こ こ に 、 q=col(ala2…a。)(実 数 列 と し て の 列 ベ ク トル) η=・ ・1(b,b・…b。)(2) と 表iPさ れ る可 分 な 実 ヒ ル ベ ル ト空 間 夢 と し て のn次 元 ユ ー ク リ ッ ド空 間Rnは 、M ,dm(X)が 、 M…ll,2,…,・},dm(・)一1if・ ∈M(3)と 選 ば れ たL2(M;dm)で あ る 。 付 録Aの 式(A1)を 満 た す 直 交 系{ψk}k.Lを 導 入 す る 。 夢 で の 自 己 共 役 作 用 素Hを 用 意 し 、 そ の 表 現 を Hq… ≡ Σ
し
λk・(∼ii),ψkllψkll-1)。ψkllψk11-1∈ 夢 foranyψ ∈Domain(H)(4) と す る 。 こ こ に 、Domain(H)は 線 形 作 用 素Hの 定 義 域 で あ り、 具 体 的 に は 、 作 用 素 解 析 の 理 論 [17],匚29]に よ れ ば 、 D・mi・(H)一{η ∈ 夢1Σ λk2・1(η,ψ、[1ψ、ll一')12<。 。}(5) し の こ と で あ る[29]。 但 し 、 こ の 点 ス ペ ク トル 型 自 己 共 役 作 用 素Hは 単 純[29]で あ る と は 限 ら な い と し、 実 数 列{λk}k∈Lに つ い て 、 ヨk,ヨm(k≠m)∈L,λ 、=λ 。(6) を 許 し て お く も の と す る 。2式(A1),(4)か ら 、 固 有 値 方 程 式 Hψk=λk・ ψk(7) が 成 り立 っ て い る こ と に 注 意 し て お く。 本 論 文 で は 、 空 集 合 、 虚 数 単 位4=T、 複 素 数zの 共 役 複 素 数 、sは 集 合Sの 元 で は な い こ と の 表 現 と し て 各 々 、 φ,i,T、sζsを 用 い る 。 2.2平 坦 パ ワ ー 性 を 持 つ 直 交 系 本 論 文 で 使 用 さ れ る 直 交 系{ψk}k。Lは 付 録Aの 式(Al4)で い う"平 坦 パ ワ ー 性"を 満 た さ な け れ ば な ら い が 、任 意 の 直 交 剰 ηk}k。Lは常 に こ の 性 質 を 備 え た も の に 直 せ る こ と を 説 明 し て お こ う 。 ヒ ル ベ ル ト空 間 夢 の 元 ηkの 組{ηk}k。Lが 直 交 系 で あ る と し ょ う 。 (イ)ψk≡ ηk・iiηkii-1(8) と お け ば 、{ψk}k.Lは 依 然 と し て 直 交 系 で あ り、 然 も、 ∀k∈L,,iiψkii2=1 、(9) と な り、 こ の{ψk}k∈Lは 条 件 式(A14)を 満 た す 。 (ロ)正 定 数C>0に 対 し、 1・・1≡ ゾ す 、1η、ii-1(10) と 定 義 さ れ る 複 素 定 数Ckを 考 え 、 ψ・≡Ck● η・(11) と お け ば 、{ψk}k.Lは 依 然 と し て 直 交 系 で あ り、 然 も 、 こ の{ψk}k。Lは 条 件 式(A14)を 満 た す 。 尚 、 パ タ ー ン ψ の 直 交 展 開 式(A3)、 並 び に 、 そ の 特 別 な 直 交 展 開 と し て の 式(A20)の パ タ ー ン モ デ ルTψ に 関 し て は 、実 数 値 直 交 系 と複 素 数 値 直 交 系 と を 区 別 す る 必 要 は な い こ と は 、 付 録C の 定 理Clで 示 さ れ て い る 。 2.3パ タ ー ン モ デ ルTψ の 備 え て い る6性 質 本 章 以 降 、 こ れ 以 上 分 解 で き な い と い う 意 味 で 極 小 の パ タ ー ン と し て の 基 本 的 な パ タ ー ン 形 状 素[33]ψkの 組{ψk}k.Lに つ い て は 、 直 交 関 係 式(A1)を 仮 定 し 、 更 に 、 式(A14)で 示 さ れ て い る 平 坦 パ ワ ー 性 を 要 請 す る 。 確 率 条 件 式(A17)を 満 た し、1よ り大 き く な い 、 式(A16)の 非 負 量P(ψ,k)を 用 い て 、 式(A18)の ご と く 、 パ タ ー ン ψ ∈ Φ ⊂ 夢 か ら 抽 出 さ れ る 第k∈L番 目 の 特 徴 量u(SP,k)は 定 義 さ れ る と し ょ う。 こ の よ う に し て 、 特 徴 抽 出 写 像u:Φ ×L→R+(非 負 実 数 全 体 の 集 合)(12) が 導 入 さ れ 、 式(A20)で 定 義 さ れ る 式(21)の 写 像Tが 用 意 さ れ る 。 さ て 、 式(A16)の よ う に 定 義 さ れ る 写 像 p:Φ ×L→R+・ 層 層(13) に つ い て 、2条 件 式(A1),(A14)を 満 た す 直 交 系{ψk}k.Lと 、 任 意 の 複 素 定 数ckの 組{ck}k.Lに 対 し、 ∀k∈L・( 、;。ck●ψ・・血 〉一 …llψ ・ll2一…C(14) が 成 り立 っ て い る か ら 、 表 現 ∀k∈L,P(Σc、 ・ψ、,k)= し lc,12/[Σ[Ckl2]…
し
ヨk∈L,Ck≠0の と き 0… ∀k∈L,Ck=0の と き(15) が 得 ら れ る 。 従 っ て 、 次 節 の 定 理1の(iii)が 成 り立 つ 根 拠 を 与 え る 次 の 不 動 点 定 理 が 成 り 立 つ6 [補 助 定 理1](不 動 点 定 理) 条 件 式(Al4)の 下 で 、 任 意 の 実 定 数Ckの 組{Ck}k。Lを1次 結 合 係 数 に 持 つ η ≡ ΣCk・ し ψk∈ 夢 に つ い て 、 確 率 条 件 式 [∀k∈L,0≦Ck]〈 ΣCk2∈{0,1} しが 成 り立 っ て い る な ら ば、 式(A20)の
ご と く定 義 さ れ る 写 像Tに
つ い て 、 不 動 点 方 程 式
Tη=η
が 成 り立 つ 。
(16)
(17)
(is)
0
実 定 数 λkを第k∈L番 目 の 固 有 値 とす る 固 有 値 方 程 式(7)を 満 た す 自 己 共 役 作 用 素Hは 、 式(4) の ご と く 、 ス ペ ク トル 表 現[17],[29]さ れ る こ と に 注 意 す れ ば 、 上 の 補 助 定 理1な ど か ら次 の 定 理1が 証 明 さ れ る 。 そ の 証 明 中 に 登 場 す る 式(23)か ら わ か る よ う に 、 式(A16)のp(q,k)は 、 f(λ)を 実 変 数 λの ボ レ ル(Borel)可 測 関 数[29]と し て 、S.Suzukiが 提 案 し た 、 自 己 共 役 作 用 素H の 関 数 と し て の 半 正 値 自 己 共 役 作 用 素f(H:)と パ タ ー ン ψ の 規 定 す る 測 度 的 ユ ニ タ リ 不 変 量 (metricallyunitaryinvariants)[3],[11],[12] (f(H)ψ,ψ) =Σf(λk)、(q ,ψkllψkH-1)12≧0(19) し の 特 別 な も の で あ る こ と に 注 意 し て お く。 [定 理1](直 交 系 に よ る モ デ ル 構 成 定 理)式(A1)を 満 た す 直 交 系{ψk}k。Lに つ い て 式(A14)が 成 立 し て い る と し よ う。3式(A16),(A18), (A20)で 定 義 さ れ る 写 像Tに つ い て 、 次 の(i)∼(vi)が 成 り 立 つ 。 (i)(写 像Tの 、 零 元 保 存 性) 例 え ば 、 ψ=0が そ う で あ る よ う に 、 ∀k∈L,(q,ψk)=0を 満 た す パ タ ー ン ψ ∈ Φ に対 し て は 、 Tψ=0. (ii)(写 像Tの 、 正 定 数 倍 の 吸 収 性) 正 実 定 数aに 対 し て は 、 ∀ ψ ∈ Φ,[∀k∈L,u(a・ ψ,k)==u(ψ,k)]〈T(a・ ψ)=Tψ ∈ Φ. (iii)(特 徴 量 の 再 現 性(モ デ ル 変 換 不 変 性)と 写 像Tの べ キ 等 性) ∀ ψ ∈ Φ,[∀k∈L,u(Tq,k)=u(q,k)]〈T(Tψ)=・Tψ ∈ Φ. (iv)(写 像Tの 非 零 性)
ヨ ∼ρ∈ Φ,Tψ ≠0. (v)(写 像Tの ユ ニ タ リ不 変 性) 式(4)の 自 己 共 役 作 用 素Hと 可i換 な 任 意 の ユ ニ タ リ 作 用 素Uに 対 し、 ∀ ψ ∈ Φ,[∀k∈L,u(USP.,k)=u@,k)]〈T(USP)=Tψ ∈ Φ. (vi)(各 形 状 素 ψkの 不 動 点 性) u(ψk,4)=Oif4≠k,=lifQ=k 〈[∀k∈L,Tψk=ψk∈ Φ]. (証 明)(i),(ii)の 成 立 は3式(A16),(A18),(A20)か ら 明 ら か で あ る 。 (iii)は 、2式(A17),(A18)を 考 慮 す る と 、 式(15)、 補 助 定 理1か ら 明 ら か で あ る。 特 に 、 ψ=ψkに つ い て は 、 式(15)か ら、 p(ψ,Q)=Oif4≠k,=1if4=k を得 て 、(iv),(vi)の 成 立 は 明 ら か で あ る 。 最 後 に 、(v)を 証 明 し ょ う 。 ∀k∈L,[λk∈Sk]〈[∀4∈L一{k},λkζ 一S6] を 満 た す ボ レ ル 可 測 な 集 合Skの 系{Sk}k.Lを 用 意 し 、 実 変 数 λの ボ レ ル 可 測 関 数 θk(λ)を、 Bk(λ)=1ifλ ∈Sk,≡Oifλ て喜Sk 、
(ZO)
(21)
と 定 義 す る 。 式(4)で の 自 己 共 役 作 用 素Hは 単 純 点 ス ペ ク トル 形[29]と し ょ う。 そ う で な い 場 合 も 、{ψk}k.Lは 直 交 系 で あ る か ら 、 以 下 と ほ ぼ 同 様 に 証 明 さ れ る 。Hの 関 数 と し て の θ、(H) は 、 θ・(Hゆ 一@,ψ ・llψ、1卜1)・ ψ、llψ 、II-1 f・・a・yq∈ ・9S『(22) と 表 さ れ る 。.θk(H)は 射 影 作 用 素 で あ り 、 条 件 式(A14)の 下 で は 、 ∀`P∈S,∀k∈L,θ ・(H)q-C-1・(9Z, ,ψ、)・ψk ∴(θ ・(H)q,q)一C一'、(q ,晦)1・ が 得 ら れ 、 式(Al6)のp@ ,k)に 関 し 、 ∀k∈L,(θk(H)ψ,ψ)/Σ(θk(H)ψ,ψ)し
=P(鯛(23) の 成 立 が わ か る 。 さ て 、Hと 可 換 な ユ ニ タ リ作 用 素Uは 有 界 作 用 素 θk(H)と 可 換 で あ り[29] 、-Uの 共 役 作 用 素U*は 逆 作 用 素U『1で あ る か ら 、 ∀k∈L,(θk(H)Uψ,uq)=(U*θk(H)Uψ ,ψ) =(U-1Uθk(H)乾 ψ)=(θk(H)9ろ ψ) を 得 、 式(23)を 考 慮 し 、こ れ を2式(A18),(A20)に 代 入 す れ ば 、証 明 さ れ た こ とが わ か る 。 ・ □ 豕 節 で 、 上 記 の 走 理1の 意 味 を 説 明 す る 。2.4パ
タ ー ン モ テ ルTψ の 持 つ6性 質 の 意 味
前 節 の 定 理1で の(i)∼(vi)の
意 味付 け を論 じて お こ う。
2.4.1雑
音 除 去 性
パ タ ー ン ψ∈ 夢の 直 交 展 開 式(A3)に
注 目す る
。 先 ず 、 定 理1の(i)・ よ り、 ψ=oで
雑 音 ψ、が 皆
無 の 時 、雑 音 が 全 く混 入 しなV}モTルTψ=0が
得 ら れ て い る こ とが わ か る。 この性質 は無論 、望
ま し い こ と で あ る 。 更 に 、 雑 音 ψ⊥が 除 去 さ れ て 、 モ デ ルTψ が 得 ら れ る こ と は 、(i)よ り、 SP=SP_⊥ ⇒Tψ=0(24) が 成 立 す る こ と よ り、 わ か る 。 以 上 は 、 (一)(雑 音 除 去 性) ∀ ψ ∈ Φ ・T(C-1・ Σ(ψ,ψk kEL)● ψ・+ψ ・) =T( 、Σ。(ψ・殊)・ψ・) に 要 約 さ れ る 。 2.4.2線 形 ス ケ ー リ ン グ へ の 無 影 響 性 次 に 、 例 え ば 、a=iiSPii>0の 場 合 を 考 え れ ば わ か る よ う に 、 正 実 定 数aに つ い て 、 原 パ タ ー ン ψ の 線 形 ス ケ ー リ ン グ ``∼ρ→ a・ψ"『 .(25) の 影 響 を 受 け て い な い モ デ ルTψ が 得 ら れ て い る と い う の が 、 定 理1の(ii)の 内 容 で あ る 。 2.4.3多 段 階 モ デ ル 化 過 程 と 次 元 軽 減 的 冗 長 度 圧 縮 性 原 パ タ ー ン ψ か らu@,k),k∈Lと い う 特 徴 量 の 組 を 抽 出 し、 ψ の モ デ ルTψ を構 成 し た 後 、 得 ら れ たTψ か らu(Tψ,k),k∈Lと い う 特 徴 量 の 組 を 抽 出 し 、Tψ の モ デ ルT(Tψ)を 構 成 し て も 、T (Tψ)=Tψ が 成 立 す る の で 、 文 献[6]の 第5章 と 同 様 な 多 段 階 モ デ ル 化 過 程 ψ →Tψ →T(Tψ)→T(T(Tψ))→ …(26) は1段 で 完 結 し て お り、 モ デ ル 化 の た め にTψ か ら 再 度 特 徴 抽 出 す る 必 要 は な い こ と を 、 定 理1の (iii)は 指 摘 し て い る 。 こ の 事 実 は 、 モ デ ルTψ が 原 パ タ ー ン φ か ら の 特 徴 抽 出 後 の"完 結 し た 正 規 化 形"で あ る と い う解 釈 を 可 能 な ら し め る も の で あ るOつ ま り、 (二)(次 元 軽 減 的 冗 長 度 圧 縮 性)ゴ ∀k∈L,@,ψk)=0⇒1ψll=0(完 全 性)(27) が 必 ず し も成 立 し な くて も よ い 直 交 系{帽k∈Lを 使 用 し 、 然 も 、 直 交 展 開 係 数(ψ,ψk)のphaseを 捨 て 去 っ た1(ψ,ψk)1を 使 っ た 展 開 係 数u@,k)を 持 つ 直 交 展 開 式 と し て 、 パ タ ー ン モ デ ルTψ が 式(A20)の ご と く、 定 義 さ れ て い る 。 そ れ 故 、 定 理1の(iii)が 成 り立 つ こ と が 、 モ デ ルTψ に 次 元 軽 減 的 冗 長 度 圧 縮 性 が 存 在 す る こ と を 意 味 して い る の で あ る 。 2.4.4モ デ ル で あ る た め の 最 小 限 必 要 な 性 質 ∀ ψ ∈ Φ,Tψ=0(28) が 成 立 す る こ と は 、 勿 論 、Tψ が ψ の モ デ ル と い う 観 点 か ら は 望 ま し くは な い の で 、 こ の 式(28) の 否 定 を 要 請 し た の が 、 定 理1の(iv)で あ る 。 2.4.5ユ ニ タ リ座 標 変 換 の 下 で 不 変 な 処 理 定 理1の(v)に つ い て 論 じ よ う 。 (三)(ユ ニ タ リ座 標 変 換 不 変 性) 式(4)の 自 己 共 役 作 用 素Hと 可 換 な ユ ニ タ リ座 標 変i換Uに よ っ て 、 原 パ タ ー ン ψ が 、 ψ →Uψ 「 、(29) と い う 座 標 変 換 を 受 け て い て も 、 そ の 座 標 変 換 前 後 の2つ の モ デ ルTψ,T(Uψ)は 一 致 し 、 式 (A20)で 定 義 さ れ る 式(A21)の 写 像TがHと 可 換 な 座 標 変i換Uの 作 用 を 除 去 す る 効 果 を 持 っ て お り 、 よ っ て 、 観 測 さ れ たUψ か ら そ の モ デ ルT(ug,)を 構 成 し 、・原 パ タ ー ン ψ の 構 造 と し て の モ デ ルTψ を 推 定 し て い る と い う の が 、 定 理2の(v)の 内 容 で あ る 。 モ デ ルTψ の こ の ユ ニ タ リ座 標 変 換 不 変 性 は 、Uψ と ψ と に 共 通 な 情 報 の み を 使 用 し、 従 っ て 、Uに よ る 座 標 変 換 前 の パ タ ー ン
SPに 含 有 さ れ て い る フ ェ イ ズ 情 報 を 捨 て 去 る こ と に よ り 、 可 能 と な っ た も の で あ る 。 式(4)の 自 己 共 役 作 用 素Hと 可 換 な 任 意 の ユ ニ タ リ作 用 素Uの 典 型 的 な1例exp(一itH)に つ い て は 、 シ ュ レ リ ン ガ ー 方 程 式(D2)に 関 連 し て 、 付 録Dで 論 じ ら れ て い る 。 こ の 付 録Dで は 、 座 標 変 換 が 少 な く と も 、 ユ ニ タ リ 作 用 素 で な い と 、 座 標 変 換 不 変 的 パ タ ー ン 認 識[44]を 達 成 す る の に 都 合 が 悪 い こ と が 説 明 さ れ て い る 。 今1つ 、 式(4)の 自 己 共 役 作 用 素Hと 可 換 な 重 要 な ユ ニ タ リ作 用 素Uと し て 、 行 列 を3重 対 角 行 列 に 変 換 す る と き に 用 い れ ら れ る ハ ウ ス ホ ル ダ ー(House-holder)変 換 と 呼 ば れ て い る も の が あ 、る 。 パ タ ー ン ψ の 、 直 交 展 開 式(A3)で の ψ ⊥と 、 式(22)の 射 影 作 用 素 θk(H)を 用 い 、 固 定 し た 、 任 意 の1つ のQ∈Lに つ い て 、 Uψ ≡[1-2・ θ8(H)]ψ = 、、需,。L(ψ ・ψ・llψ・ll-1)・ψ・llψ・ii-1 一(∼ρ,ψdlψ611-1)・ ψ4iiψ411-1ナ ∼ρ⊥ こ こ に 、1は 恒 等 作 用 素(30) と 表 現 さ れ る ハ ウ ス ホ ル ダ ー 変 換Uは"軸 ψ611ψ611-iに 直 交 し て い る 、 原 点 を通 る 無 限 次 元 平 面"を 鏡 と 見 立 て た 場 合 の 、 鏡 映 変 換 で あ り 、3次 元 の 点 集 合 同 士 を 回 転 さ せ て 一 致 さ せ る と き の 回 転 行 列 と し て も 使 用 さ れ て い る[32]。 一 般 に、 自 己 共 役 作 用 素Hと 可i換 な 有 界 作 用 素 の 全 体 を ユ ニ タ リ作 用 素Uと 可 換 な 有 界 作 用 素 の 全 体 が 部 分 集 合 と し て 含 め ば 、到 る 所 そ の 絶 対 値 が1のBorel可 測 複 素 数 値 関 数g(λ)が 存 在 し て 、 U=g(H)と 表 さ れ[29](Neumann-Riesz-Mimuraの 定 理)、 こ の と き の ユ ニ タ リ作 用 素UはHと 可 換 で あ る が 、Hと 可 換 な ユ ニ タ リ作 用 素Uはg(H)の ご と く表 さ れ る と は 限 ら な い こ と に 注 意 し て お こ う 。 こ の こ と は 、 付 録Eの ヒ ル ベ ル ト空 間 夢=L2(M;dxldx2)に お け る 自 己 共 役 作 用 素 G2≡i、 ・∂1∂x2(31) の 、1実 パ ラ メ ー タtの 指 数 関 数exp(一itG2)は 式(D5)の 自 己 共 役 作 用 素Hと 可 換 な ユ ニ タ リ 作 用 素 で あ る こ と か ら 、 簡 単 に 理 解 で き よ う 。 尚 、2付 録B,Eに お い て も 、 定 理1の(v)に つ い て 検 討 さ れ て い る 。 2.4.6完 全 忠 実 的 に 再 現 さ れ る 形 状 素 ψk 最 後 に 、 定 理1の(vi)は 、 各 形 状 素 ψkが パ タ ー ン 復 元 作 用 素 と し て の 写 像Tの 不 動 点 と し て 、 .誤差 な く完 全 忠 実 的 に 再 現 さ れ る こ と を 意 味 し、 こ の 事 実 は 、 各 形 状 素 ψkの 形 状 が 極 小 で あ る か ら し て 、 要 求 さ れ て 当 然 の こ と で あ っ た 。
3.ユ ニ タ リ同 値 な モ デ ル
シ ュ レ リ ンガ ー 方 程 式(D2)で
の 自己 共 役 作 用 素Hは
、 初 期 条 件 式(D1)の
ψ に対 す るユ ニ
タ リ座 標 変換Uに
よっ て ユ ニ タ リ同 値 な 自己 共 役 作 用 素U-1HUに
変 わ る こ と[40]が
知 られ て い
る。 本 章 で は 、 この 事 実 に注 目 し、 パ タ ー ン ψ に対 す るユ ニ タ リ座 標 変 換Uに
よ っ て 、 式(A20)
で 定 義 され る式(A21)の
モ デ ル 形 式Tが
ユ ニ タ リ 同値 な形U-1TUに
変 わ る こ と を証 明 し、そ の
後 、Uと
して フー リ ェ変 換 を採 用 した1例 を説 明 す る。
3.1パ
タ ー ンモ デ ルTψ のユ ニ タ リ座 標 変 換
す べ て の ユ ニ タ リ作 用 素 は1つ の 完 全 正 規 直 交 系 を今1つ の 完 全 正 規 直 交系 に写 す 線 形 作 用 素 に
よ っ て定 義 され る こ と[17]が
知 られ て い る 。 言 い 換 え れ ば 、
夢 で の直 交 座 標 系 とは 完 全 正 規 直 交 系 の こ とで あ り、 直 交 座 標 変 換 と はユ ニ タ リ作 用 素 の こ と
で あ る。
上 述 に注 意 し、任 意 の ユ ニ タ リ作 用 素Uを
採 り、 固 定 したパ タ ー ン ψ ∈Domain(H)⊂
Φ ⊂ 命 の 、
Uに
よ る座 標 変i換
ψ→U∼ ρ(32)
を想 定 し ょ う。
な らば 、式(4)の
自 己共 役 作 用 素Hか
らの 出力H9,∈
夢 も、
あ る η ∈ 夢 が存 在 して 、
Hψ →HU∼o≡Uη
∴ η=U-1HUSP(33)
と変 換 され 、Hと
ユ ニ タ リ同 値 な 自己 共 役 作 用 素U-1HUは
、Hの 表 現 式(4)か
ら、
η=U、HUψ
=U、 盛 λ・.(Uψ ・ψ・llψ・ii-1)●ψ ・[1ψ・ii-1 一
、書。λ・.ゆ ・U、 ψ・IIU-1ψ ・ii-1)' U、 ψklU、 ψkii-1(34)
∵(Uψ,ψk)=(ψ,U-1ψk)〈lU-1ψkii=IIψkii(35) と 、 ス ペ ク ト ル 分 解[29]さ れ る こ と に な る 。 式(A14)の 平 坦 パ ワ ー 性 を 備 え た 直 交 系(直 交 座 標 系){ψk}k。Lの 各 元(各 直 交 座 標 軸)ψkに 、 直 交 座 標 変i換 と し て の ユ ニ タ リ作 用 素U、 を 、 σk≡U-1ψk∈ 夢,k∈L(36) と作 用 させ て 得 ら れ る{σk}k。Lも 同 様 に 、 平 坦 パ ワ ー 性 を 備 え た 直 交 系 で あ り 、 固 有 値 方 程 式 U-1HU6k=λkσk∵ 式(7)(37) が 成 立 す る こ と か ら わ か る よ う に 、U-IHUの 固 有 ベ ク トル 系 で あ る 。 以 上 に よ り、 {ψk}k∈Lに よ る 定 義 式(A20)のTψ ≡ Σu@;ψk)・ ψkの モ デ ル 構 成 過 程 kEL "ψ →Tψ"に 対 し 、 {σk}k∈Lに よ る モ デ ルTψ ≡ Σu(SP;σk)・6kの モ デ ル 構 成 過 程"ψ →Tψ" kEL
が 考 え られ て よい 。
次 の 定 理2は 、 次 の事 実 を指 摘 して い る:
(38)
任 意 の ユ ニ タ リ 作 用 素Uに つ い て 、 写 像Tと ユ ニ タ リ 同 値 の 関 係 に あ る 写 像U-1TUは 実 は 、 Tノで あ る 。 こ の と き 、 パ タ ー ンSPがUに よ っ て 直 交 座 標 変 換 さ れ て 得 ら れ る パ タ ー ンUψ の 、 モ デ ル 構 成 写 像Tに よ る モ デ ルTUSPは 、 原 パ タ ー ン ψ の 、T〆 に よ る モ デ ルTノ ψ をUに よ り座 標 変 換 し て 得 ら れ るUTψ に 等 し い 。 □ こ の 定 理2に よ っ て 、 ユ ニ タ リ作 用 素Uを 変 え る こ と に よ り 、 固 定 し た 写 像Tを 基 礎 に し て 、固 定 し た パ タ ー ンSPの 多 数 の モ デ ル が 得 ら れ る こ と に な っ た 。 [定 理2](ユ ニ タ リ 同 値 モ デ ル 定 理) 式(A14)を 満 た す 直 交 系{ψk}k.Lに 対 し 、 任 意 に 選 ば れ た ユ ニ タ リ作 用 素Uを 用 い 、 式(36) で 定 義 さ れ て 得 ら れ る{σk}k∈Lは 、 式(Al4)と 同 様 な 等 式 を 満 た す 直 交 系 で あ り、2つ の 直 交 系 {ψk}k∈L,{σk}k∈Lに よ る 各'々 の モ デ ルTψ,Tψ に つ い て 、ユ ニ タ リ 同 値 性 ∀ ψ ∈Domain(H),Tψ=U-1TUSp が 成 立 し 、 同 時 に 、 UT∼ ρ=TUψ. (証 明)式(35)の 前 半 と σkの定 義 式(36)と か ら、 ∀SP∈Domain(H),(Uψ,ψk)=(ψ,σk) foranykEL が 成 立 す る か ら 、 直 交 系{ψk}k∈Lを 使 用 し て の 、 式(A18)のu@;ψk)に 関 し、 ∀ ψ ∈Domain(H),u(Uψ;ψk)=u@;σk) foranykEL の 成 立 が わ か り、 よ っ て 、 U-1TUSO=U-1密 。u(Uψ;ψ ・)・ψ ・ = 、書、U(SP;・ ・〉・U-1ψ ・
.=Tψ
を得 て 、 証 明 され た。
ユ ニ タ リ作 用 素Uが
自 己共 役 作 用 素Hと
可 換 で あ れ ば
、
U-1HU=H
が成 立 す る か ら、 この 場 合 の定 理2は 定 理1の(v)に
相 当 す る こ と に注 意 して お.こう。
(39)
(40)
(41)
(42)
(43) □(44)
3.2調
和 振 動 子 とフ ー リ ェ変 換
定 理2と 同様 なユ ニ タ リ同 値 性 は 、 文 献[6]の4.4節
で もそ こで の パ タ ー ンモ デ ル に 関 し得 られ
て い る が 、 理 解 を深 め る た め もあ っ て、 上 述 の 定 理2に 関 連 して 、 フー リェ変換 の下 で不 変 なパ タ
ー ン モ デ ルTqを
構 成 す る た め に必 要 な基 礎 を
、 次 の 例1で 与 え て お こ う。
[例1](直
交 座 標 変 換 と して のフ ー リ ェ変 換)
(Hq)(Xl,X,)
≡2-1● 、三[(i""∂/∂xj)2+x・2-1]q(xl…)(45) と 定 義 さ れ る 線 形 作 用 素Hは 、M=R2(2次 元 全 平 面)と し て ヒ ル ベ ル ト空 間 夢=L、(M;dx、dx、)で は 、 自 己 共 役 作 用 素 で あ り、 量 子 力 学 で は2次 元 調 和 振 動 子 の エ ネ ル ギ ー 作 用 素'[39] ,[40]と 事 実 上 等 価 で あ る 。 式(45)のHは 、 (Hq)(x1,x2) ガ = 、、1一。k、碁.。 λ・(1)・ ・…(q・:η ・・1)・…)・ 卿 ・…(xl,・ ・)厂 』(46) こ こ に 、k(1),k(2)=0,1,2,… と し て 、 λ ・(1)・(・)≡k(1)+k(2)『(47) η ・(1.)・(・)(xl,・ ・)琴 η・(1)(・1)・ η・(・)(x・).、 、'(48) η ・(・)≡[2e・e!・ff]一112・ ・xp(一 ・・/2)・Qe(・).'.(49) Qe(・)≡(一1)e・exp(x2)・(de/d・ りexp(一 ・・) (e=0,1,2,,…) .'(50) と ス ペ ク ト ル 表 現 さ れ る 。 tを 任 意 の 実 数 と し て 、
(exp(一itH)ψ)てx1,x2)・ = 、、1盈 。k,碁.。exp(一i・ λ ・・・ ・…)'@・ η ・・1・・…)・ η・・1・・…(x1・x2) と ス ペ ク.トル 表 現 さ れ る 作 用 素exp(一itH)は 、Hと 可i換 な ユ ニ タ リ作 用 素 で あ り、 特 に 、 (exp(一i(π/2)H)ψ)(x1,x2) 一(2π)、12・+ttdy、exp(一iylx1)・ (2π)、12・ アdy、exp←iY、x、)・ 一QO ￠P(y1 ,y2)
(51)
(s2> と 表 さ れ る こ と が ・ 式(50)の エ ル ミ ッ ト の 多 項 式QP(x)の 性 質 か ら 示 さ れ 、t=一rr/2の と き 、 exp(一it・H)は2次 元 フ ー リ エ 変 換 で あ る[17]。-2式(A1),(A14)を 瀬 た す 直 交 系!ψk}k∈Lと し て 、 ψ ・(X1,・・)≡ η・(1)・(・)(X1,・、)、 こ こ に 、k=〈k1,k2>∈L 、(53) を 採 用 出 来 、 こ の 場 合 、 式(A20)の パ タ ー ン モ デ ルTφ を 考 え る こ と が で き る 。 こ の よ う に し て 、 定 理1の(v)か ら わ か る よ う に 、 少 な く と も 、 式.(52)の フM一 リ ェ 変 換 に 不 変 な パ タ ー ン モ デ ルTψ が 得 ら れ る 。 更 に ・ 式(45)のHと ユ ニ タ リ 同 値 な 、 式 、(33)で の1例 と し て の 自 己 共 役 作 用 素U、 一1HU,の 具 ' 体 的 表 現 を 求 め て お こ う 。 G1≡≡i、 ・∂/∂xl,K,ｰx,一 』 』= 、 、'(54) と し て 、 作 用 素A,Bの 交 換 子 積 ・ [A,B]≡A・B-B・A・..'・(55) を 用 意 す れ げ ・3?の 自 ・己 共 役 作 用 素H,G1,Klの 問 に 、 [G1,H]=2、 ・i-1・2K,、(56) [Gl,K,]=i-1(57) [H,Kl]=一2、 ・2i・GI .ゴ(58) の 成 立 が 確 か め られ 、 リ ー の 公 式[39] exp(十A)・B・exp(一A) =B十[A ,B]十(2!)一1[A,[A,B]], 十(3!)一'[a,[A,Ca,B]]]十...(s9> を 使 え ば 、 Vt=exp(一itGl)(60) と し て 、Hと ユ ニ タ リ 同 値 なVtHVt-1の 表 現 VtHVt一'=H十2-1・t・(t-2K1). 、 「(61) が 成 立 す る 。 任 意 の 実 数tと 任 意 の ψ に 対 し 、 (Vt9冫)(xl,x2)=∼ ρ(x1-t,x2).(62) が 成 立 し て い る こ と に 注 意 す る 。 こ の と き 、 [VtHVt-1,H]=i-1・(π/2)・t・G1、(63) を 得 て 、 Ut≡Vt-1=V-t(64)と定 義 さ れ る ユ ニ タ リ作 用 素Utを
導 入 す る と、 自己 共 役 作 用 素Hと
ユ ニ タ リ同 値 な 自 己 共 役 作
用 素Ut一'FIUtはHと
非 可 換 で あ る。
□
尚 、 位 置 ず れ[3],[13],[23]、
縮 小 拡 大 ・
回転[5],[10]の
も とで 不 変 なパ タ ー ンモ デ ル も、
自 己共 役 作 用 素Hを
各 々 、 適 切 に選 定 す れ ば 、 同 様 に構 成 で き る。
4.完 全 な表 象機 能 を持 った2つ の パ タ ー ン モデ ル
本 章 で は 、 先 ず 、 実 ヒル ベ ル ト空 間 夢 で は 、 パ タ ー ンSPか ら抽 出 さ れ た 特 徴 量 と して の 不 変 量
の 集 ま りが ψ を 一 意 的 に 定 め る とい うユ ニ タ リ座 標 変 換 不 変 的 パ ター ン認 識 に お け る特 徴 抽 出 の
働 きの 完 全 性[44]の
存 在 を示 す 。 そ の 後 、 この 完 全 な特 徴 抽 出 の働 き を採 用 して 得 られ る2つ の
パ タ ー ンモ デ ルT1ψ,TaSPが
処 理 対 象 と して の 実 数 値 パ ター ンSvを 定 数 倍 を除 い て一 意 的 に表 象 で
き る事 実 を示 そ う。
4.12つ の 特 徴 抽 出 の 働 き の 完 全 性 4.1.1不 完 全 な 特 徴 抽 出 法 式(A20)の パ タ ー ン モ デ ルTψ は 、 特 定 の 直 交 系{ψk}k.、 を 採 用 し た こ と か ら も た ら さ れ る パ タ ー ン 情 報 シ ス テ ム の 主 観 の 立 場 で 、2式(A16),(A18)で 示 さ れ て い る よ う に 、 各 直 交 展 開 係 数(ψ,ψk)の フ ェ イ ズ を 捨 て 去 る と い う"不 完 全 な 特 徴 抽 出 法"を 使 い 、 問 題 と す る パ タ ー ンSP の 構 造 を 明 ら か に し て い る と い え よ う 。 勿 論 、 フ ェ イ ズ を 捨 て 去 る か ら こ そ 、 定 理1 ,(v)の 如 く、 "付 録Dで 説 明 さ れ て い る ヒ ル ベ ル ト空 間 同 士 の 位 相 同 型 写 像 で あ る ユ ニ タ リ 作 用 素"の 下 で 不 変 な パ タ ー ン モ デ ルTψ が 構 成 さ れ 得 た の で あ る 。 そ し て 、 例 え ば 、 付 録Bの 式(B2)か ら 、 式 (B4)が 成 り立 つ と い う ユ ニ タ リ座 標 変 換Uの 下 で 不 変 な パ タ ー ン認 識 の 働 き が 得 ら れ る の で あ る 。 4.1.2完 全 な 特 徴 抽 出 の 働 き の 構 成 式(27)が 成 り 立 つ と い う 意 味 で 、 複 素 数 値 の 正 規 直 交 系{ψk!}kELが 複 素 ヒ ル ベ ル ト空 間 創 で 完 全 と し よ う 。 定 理C1の(a)を 適 用 し て 、 実 数 値 の 正 規 直 交 系{ψk}k.、 を 求 め る 。 系C1に よ り 、 {ψk}k.Lは 創 に 対 応 す る 実 ヒ ル ベ ル ト空 間 夢 で 完 全 で あ る 。 例 え ば 、 創=L、(M;dm)で あ れ ば 、 夢 で の 内 積(∼o,η)と し て 、 式(1)の 内 積(ψ,η)に 対 応 し て 、 @・ η)=fdm M(xゆ(x)・ η(・)・(65) を 採 用 す れ ば よ い 。 無 論 、2.2節 の(イ)か ら わ か る よ う に 、{ψk}k.Lは 式(A14)の 平 坦 パ ワ ー 性 を 満 た し て い る 。 同 様 に 、 今1つ の 完 全 正 規 直 交 系{σk}k.Lを も 用 意 す る 。 集 合 K(n)丕{k∈Ll(σn,ψk)≠0}⊂L(66) を 導 入 し、 集 合Lの 各 元 を す べ て 並 べ て 、 L≡{n(1),n(2),n(3),…}(67) と 表 現 し て お く 。 正 規 直 交 系{ψk}k。Lが 完 全 で あ る か ら 、 ∀ ψ ∈ 夢・1ゆll2一 、Σ、1@・ ψ・)iz(68) が 成 り 立 っ て お り 、 よ っ て 、 式(A16)のp(ψ;ψk)は 、 式(A10)の 形 に 、P(ψ;ψk)= 1(∼ρiiψ1-1・ ψk)12…llψ1≠0の と き 0…llψli=0の と き(69) と再 表 現 さ れ る こ と に 注 意 す れ ば 、 次 の 定 理3は 、 フ ェ イ ズ 情 報 限 定 可 能 定 理[15]に お い て 、 そ こ で 登 場 す るf(λ),g(λ)を ∀ λ,f(λ)=g(λ)=1(70) と お い て 得 ら れ る 。 [定 理3](完 全 な 特 徴 量 の 集 合 の 構 成 定 理) 可 分 な 実 ヒ ル ベ ル ト空 間 夢 で 考 え よ う 。 完 全 的 交 差 条 件 U。∈LK(n)=L(完 全 性)(71) 〈[∀j∈{1,2,…},K(n(j))∩K(n(j+1))≠ φ(交 差 性)(72) の 下 で 、 ∀k∈L,P(SP;ψk)=P(η;ψk)〈 P(97;σk)=P(η;σk)(73) ⇒ そ の 絶 対 値 が1の 実 定 数cが 存 在 し て 、 SPiiψii-1=c・ ηiiηii-1(74) が 成 り立 つ 。 □ 2つ の 不 完 全 な 特 徴 抽 出 法 が 完 全[15]に な る た め に は 、 そ の 間 に 、 量 子 力 学 の 不 確 定 性 原 理 [35]が 成 立 す る た め の 十 分 条 件(2つ の 特 徴 抽 出 法 に お い て 登 場 す る2つ の 自 己 共 役 作 用 素 の 非 可 換 性)よ り 詳 細 な 諸 条 件 が 必 要 で あ り、 上 述 の 定 理3は 、 こ の 諸 条 件 を 明 ら か に し て い る の で あ る 。 2式(71),(72)で 表 さ れ る こ の 完 全 的 交 差 条 件 は 、2つ の 特 徴 抽 出 の 不 確 定 性 原 理 を 指 摘 し て い る 付 録Eの 定 理Elで の2条 件 式(E2),(E3)よ り精 密 で あ る こ と に 注 意 し て お か ね ば な ら な い 。 完 全 的 交 差 条 件 を 課 す る こ と は 、 集 合K(n)の 定 義 式(66)を 考 え て み れ ば 、 パ タ ー ンSPか ら 抽 出 さ れ た 式(A23)の 特 徴 量 の 組u(SP;{ψk}k∈L)が 例 え ば 、 パ タ ー ン ψ の 局 所 的 性 質 を 表 現 す れ ば 、 今1つ の 抽 出 さ れ た 特 徴 量 の 組-@;{σk}k。L)の 方 は 同 じ パ タ ー ン ψ の 局 所 的 で な い 性 質 を 表 現 す る こ と に な る こ と が 、了 解 で き よ う 。 4.22つ の モ デ ルTlgp,T2qに よ る 原 パ タ ー ンqの 一 意 的 表 象 化 さ て 、 上 述 の 定 理3を 適 用 す る と 、 次 の 定 理4が 成 り 立 ち 、Tiq,T2ψ が 処 理 対 象 と し て の パ タ ー ン ψ を 定 数 倍 を 除 い て 一 意 的 に 表 象 で き る2つ の モ デ ル で あ る こ と が わ か る 。 定 理2で 示 さ れ た よ う に 、1つ の モ デ ル と ユ ニ タ リ 同 値 な モ デ ル が 多 数 存 在 す る が 、 線 形 作 用 素U、 を式(36)の ご と く、 定 義 す れ ば 、 こ のU-1は ユ ニ タ リ作 用 素 で あ り、 定 理2の 証 明 と 同 様 に し て 、 T2=U-iTIU(75) と い う ユ ニ タ リ 同 値 性 が 成 立 し て い る こ とが わ か る 。 [定 理4](2つ の モ デ ル に よ る パ タ ー ン 構 造 再 生 の 完 全 性 定 理) 定 理3で のp(・;ψk),p(・;σk)で 式(A18>の ご と く定 義 さ れ るu(・;ψk),u(・;σk)を 使 い 、パ タ ー一 ン ψ ∈ Φ ⊂ 夢 の2つ の モ デ ル Tiψ …≡ Σu(ψ;ψk)。
ψk(76) T2SP≡ Σu(g冫;σk)・ σk(77) k∈N
を 構 成 し た と す る 。 こ の と き 、 T1ψ=T・ η〈T・ ψ 一T・ η(78) ⇒ そ の 絶 対 値 が1の 実 定i数cが 存 在 し て 、 式(74)が 成 り立 つ 。 (証 明){ψk}k。L、 或 い は 、,6、}k.、 の 直 交 性 か ら 、1次 独 立 性 が 従 う か ら 、 式(78)⇒ ∀k∈L,u(sP;ψk)=u(η;ψk) 〈U(ψ;・ ・)一・(η;・ 、) を 得 る 。 こ め 後 、 定 理3を 適 用 す れ ば よ い 。 .□ 尚 、 上 記 の 定 理3で の 完 全 的 交 差 条 件 は 、 文 献[33]の 定 理4で も 登 場 し て お り、 グ ラ ム ー シ ュ ミ ッ ト(Gram-Schmidt)の 直 交 化 法[29]、 平 均 類 似 度 法[2] ,[3],[12]、 摂 動 法[39],[40] で 容 易 に 実 現 可 能 で あ り 、2定 理3 ,4の 具 体 例 で 、 こ の3手 法 を 適 用 し 、 興 味 深 い2モ デ ルT、 ψ, T2ψ の 自 己 組 織 化 形 成 を 論 じ る こ と が で き る が 、 紙 面 の 都 合 上 割 愛 さ れ る 。
5.む す び
文 全 体 の 意 味 は そ の 諸 部 分 の意 味 の 関 数 で あ る とい う"合 成 性 原 理[1]"に
対 応 して 、
パ ター ン ψ の構 造(パ
ター ンモ デ ル)Tψ
は そ の 諸 部 分 の
構 造u(Sp,k)・ ψkの 関 数(1次
形 式)で
あ る
とみ な した 。 条 件 式(A14)の
下 で 式(A20)の
ご と く定 義 さ れ たTψ
は ψ を知 識 表 現 した 結 果 と
して のパ ター ンで あ り、1種 の 合 成 性 原 理 に基 づ き得 られ た モ ジ ュ ー ル 性 に優 れ た 表 現 で あ る
、 と
考 え られ よ う。
変 形 が 許 され な い2つ の 事 物(記 号 列)が
同 一 物 か相 異 な る もの か の 判 断 は 、計算機 に よる記号
処 理 にお い て は例 え ば 、最 汎 単 一化 置 換 を見 つ け て容 易 で あ り、アル ゴリズ ム的 になされる[19],
[20]。 あ る程 度 の 変 形 が 許 され る2つ の パ タ ー ン ψ,η が 類 似 して い る か 、 相 異 な っ て い る か の 判
断 は 、 一 方 の パ タ ー ンが ユ ニ タ リ座 標 変 換 さ れ て い る 簡 単 な場 合[32ユ
で さ え
、 計 算 機 で は通 常
難 しい[21],[22]。
似 た パ タ ー ン同士 は 、Tの 構 造 形 式 か らわ か る よ う に、 似 た パ タ ー ンモ デ ル
を生 じや す い の で 、 本 研 究 で は、 写 像Tを
あ た か も、最汎単 一化置換 かの ご と くみ なせ 、 自己共
役 作 用 素Hと
可 換 な ユ ニ タ リ座 標 変 換Uに
よ っ て変 形 を受 け た2つ の パ タ ー ン ψ
,η=Uψ
同士
に共 通 な パ タ ー ンモ デ ルTψ が 提 案 さ れ 、 パ タ ー ン照 合 に関 す る この 種 の 問 題 点 は少 な く と も解
決 され た 。
フ ェ イズ 情 報 限 定 可 能 定 理[15]は
複 素 ヒ ル ベ ル ト空 間 夢 で は成 立 しな い
。 こ の誤 りを訂 正 し、
実 ヒル ベ ル ト空 間 夢 で適 用 され た定 理4に
示 さ れ て い る よ うに 、2つ のパ ター モ デ ルT1ψ
,TzSPが 、
ノ ル ム 規格 化 原 パ タ ー ンSP・IIψii-1を 絶 対 値1の 実 定 数 倍 を 除 い て
、 一 意 的 に 表 象 で き る よ うな
"パ タ ーン2モ デル構 成法"も 存在 す るこ と も示 され た
。 本 パ ター ンモ デ ル 形 式 の パ タ ー ン表 現 上
の 、 実 ヒル ベ ル ト空 間 夢 で の完 全 性[44]が
、 不 変 量 を抽 出す る特 徴 抽 出 の2つ の働 きで 達 成 さ れ
た の で あ る。
モ デ ルTψ
を ど う利 用 す る か は 、Tψ
が 確 保 さ れ た 段 階 で は あ らか じめ 決 ま っ て い な い の で
、
状 況 に応 じて い ろ い ろ な使 い わ け が 可 能 で あ る が[7]
,[8],[10],[13],[16],[21]∼[23],
[24],[28]、
本 論 文 を終 え る に あ た って 、 指 摘 して お きた い こ と は次 の 通 りで あ る
。
(1)1つ
のパ ター ンモ デ ルTψ が 原 パ タ ー ン ψ を どの 程 度 再 現 す る か の 解 析
(2)部 分 空 間法[25]を
精 密 に構 成 し直 す こ と
(3)文 献[7]の
第17∼23部
と同 様 な 、 無 限 次 元 ニ ユ ー ラ ル ネ ッ ト構 成[8],[21],[24]へ
の応 用
(4)記 号 列 情 報 処 理 と 同様 に精 密 な 推 論 技 術[19]∼[21]の
確 保 に役 立 つ よ う に、あ る程 度 の
変 形 を許 され る情 報 と して の パ タ ー ン と い う もの を帰 納 的 に定 義 す る こ と[7]へ
の応 用
な ど、 紙 面 の都 合 上 割 愛 され た 内 容 が 多 い の が残 念 で あ る が 、 本 写 像Tは
、付 録Bの5種
類 の 認 識
法 の 内 、Vの 不 動 点 探 索 形 構 造 受 精 認 識 法 に お い て用 い れ られ て初 め て 、 そ の 真 の 効 力 が 発 揮 さ
れ る こ と を付 記 す る。
謝 辞
フ ェ イズ 情 報 限 定 可 能 定 理[15]の
、 複 素 ヒル ベ ル ト空 間 で の 反 例 を指 摘 さ れ た 文 教 大
学 情 報 学 部 助 手 佐 久 間拓 也 修 士(理 学)に
感 謝 す る。
文
献
[1]東 条 敏:"自 然 言 語 処 理 入 門",p.82,近 代 科 学 社,1988 [2]鈴 木 昇 一:"認 識 工 学(上)",柏 書 房,1975 [3]鈴 木 昇 一:"測 度 的 不 変 量 検 出 形 認 識 系 の 構 成 理 論'信 学 論(D),vol55-D,no.8,pp.531-538, Aug.1972 [4]鈴 木 昇 一:"測 度 的 不 変 量 検 出 形 認 識 系 に 関 す る 研 究",博 士 論 文(工 学 院 大 学 博 乙 第1号), Mar.1975 [5]鈴 木 昇 一:"抽 出 さ れ た 特 徴:に よ る 手 書 き漢 字 構 造 の 再 生",情 報 処 理,vol.18,no.11, pp.1115-1122,Nov.1977 [6]鈴 木 昇 一:"パ タ ー ン 認 識 に お け る 構 造 化 モ デ ル の4性 質 と そ の 応 用",信 学 論(D),vol.J60-D,no.9,pp.710-717,Sept.1977 [7]鈴 木 昇 一:"パ タ ー ン 認 識 の 数 学 的 理 論",信 学 技 報[パ タ ー ン 認 識 と学 習,パ タ ー ン 認 識 と 理 解],PRL84-6(第1部),PRL84-30,PRL84-38,PRL85-27,PRU86-8,PRU86-35,PRU86-69, PRU87-1,PRU87-28,PRU88-30,PRU89-1,PRU89-27,PRU89-40,PRU89-66,PRU89-77,PRU89-136,PRU90-5,PRU90-15,PRU90-29,PRU90-125,PRU91-1,PRU91-29,PRU91-42,PRU92-1, PRU92-18,PRU92-25,PRU92-89,PRU92-102(第28部),Mayl984∼Jan.1993 [8]鈴 木 昇 一:"連 想 形 記 憶 器MEMOTRONと 日 本 語 母 音 系 列 の 再 生 に 関 す る 計 算 機 シ ミ ュ レ ー シ ョ ン",情 報 研 究(文 教 大 学 情 報 学 部),vol.7,pp.14-29,Dec.1986 [9]鈴 木 昇 一:"平 均 類 似 度 を 用 い た 構 造 受 精 法 に よ る 日 本 語 単 独 母 音 の 認 識",信 学 会 技 報, PRL82-4,May.1982 [10]鈴 木 昇 一:"回 転 群 と 画 像 の 分 解 ・強 調 ・構 造 化 再 構 成 に 関 す る 計 算 機 シ ミ ュ レ ー シ ョ ン", 情 報 研 究(文 教 大 学 情 報 学 部),vol.4,pp.36-56,Dec.1983 [11]鈴 木 昇 一,奧 野 治 雄:"パ タ ー ン 認 識 系 の 特 徴 抽 出 構 造 に 関 す る 解 析",信 学 会 イ ン ホ メ ー シ ョ ン 理 論 研 究 会,IT68-9,May1968 [12]鈴 木 昇 一:"平 均 類 似 度 の 概 念 に 基 づ く特 徴 抽 出 及 び 識 別 法(Φu(m)一 核 型 第1種 特 徴 抽 出 .作 用 素 の 固 有 値 問 題)",信 学 会 イ ン ホ ー メ ー シ ョ ン 理 論 研 究 会,皿71-10,Apr.1971 [13]鈴 木 昇 一:"画 像i青報 量 と そ の 手 書 き 漢 字 へ の 応 用",画 像 電 子 学 会 誌,vo.4,no.1,pp.4-12,1975 [14]月 本 洋:"数 値 デ ー タ か ら の 論 理 命 題 の 発 見",人 工 知 能 学 会 誌,vol.8,no.6,pp .752-75g, Nov.1993 [15]鈴 木 昇 一:"特 徴 量 と し て の 測 度 的 ウ ニ タ リ 不 変 量 の 完 全 な 集 合 の 一 構 成",信 学 論(D), vo1.J59-D,no.9,pp.678-680,Sept.1976 [16]鈴 木 昇 一,佐 久 間 拓 也:"パ タ ー ン モ デ ル を 用 い た 不 動 点 探 索 形 連 想 記 憶 シ ス テ ム 方 程 式'1, 情 報 研 究(文 教 大 学 ・情 報 学 部),vol.15,pp.97-128,Dec.1994 .[17]ス ミ ル ノ ブ:"高 等 数 学 教 程V巻 第 二 分 冊12",p.515,一 松 信 訳,共 立 出 版 ,1966 [18]鈴 木 昇 一,柴 山 秀 雄,福 永 一 保,古 田 晋 吾:"認 識 の 量 子 論 と 画 像 の 微 分 エ ン ト ロ ピ ー", 芝 浦 工 業 大 学 研 究 報 告 理 工 系 編,vo1.23,no.1,pp。117-125,Mar.1979 [19]鈴 木 昇 一,中 村 三 郎:"最 汎 ア トム を 用 い な い 精 密 化 方 法 に よ るprologプ ロ グ ラ ム の 帰 納 的 自 動 合 成 シ ス テ ム の 、C言 語 に よ る 実 現",情 報 研 究(文 教 大 学 情 報 学 部 〉,vol .10,pp.151-167.Dec.1989 [20]中 村 三 郎,田 代 達 也,鈴 木 昇 一:"ソ フ ト ウ ェ ア を コ ン ピ ュ ー タ に 作 ら せ る 夢 一1つ の 提 案' 「MIS」 に つ い て 一",コ ン ピ ュ ー タ ア ク セ ス,pp.54-62,Jan.1990 [21]鈴 木 昇 一:"半lq頁 序 と 情 …報 処 理",情 報 研 究(文 教 大 学 情 報 学 部),vol.12,pp .121-174, Dec.1991 [22]鈴 木 昇 一:"新 し い 情 …報 の 測 度 と パ タ ー ン 情 報 処 理",情 報 研 究(文 教 大 学 情 報 学 部), vo1.13,pp.273-358,Dec.1992 [23]鈴 木 昇 一,斎 藤 静 昭,奥 野 治 雄,太 田 芳 雄:"画 像 の 復 元 と そ の 計 算 機 シ ミ ュ レ ニ シ ョ ン" , 工 学 院 大 学 研 究 報 告,vol.39,pp.198-206,Jan.1976 [24]鈴 木 昇 一:"誤 差 確 率 分 布 を 考 慮 し た 誤 差 逆 伝 播 学 習",情 報 研 究(文 教 大 学 情 報 学 部) , vo1.13,pp.173-202,Dec,1992 [25]E.Oja,J.Parkkin,K.Selkainaho,T.Karki:"Regularitymeasurement,classification,andsegmentation oftextures",FromPixelstoFeatures,Simon(ed.),pp.207-218 ,North-Holland,1989 [26]WilliamC.Hoffman:"TheLiealgebraofvisualperception",JournalofMathematicalPsychology , vol.3,pp.65-98,1966
[27]Willi・mC・H・ 血 ・n:``Th・Li・t・an・f・ ㎜ ・ti・・g・ ・up・pP・ ・acht・vi・u・i・ ・u・・P・y・h。1。gy" ,E. L.J.Leeuwenbergand-H.F.J.M.Buffart .(ed.),FormalTheoriesofVisualPerception,pp.27-66,John Wiley&Sons.Ltd,1978 [28]鈴 木 昇 一:"帰 属 係 数 法 に 基 づ く 類 似 度,帰 属 関 係 あ い ま い 度,認 識 情 報 量 の 計 算 機 シ ミ ュ レ ー シ ョ ン",'情 報 研 究 ・f文 教 大 学 情 報 学 部),vol .11,pp.51-68,Dec.1990 [29]吉 田 耕:作:"近 代 解 析(基 礎 数 学 講 座20)",pp.162-163,共 立 出 版,1963 [30]RonaldR.CoifmanandMladenVictorWickerhauser:"Entropy-basedalgorithmsforbestbasis selection",IEEETrans.lnf.Theory,vo1.38,no.2,pp.713-718,Mar .1992 [31]MartinE.Hellman,andJosefRaviv:"Probabilityoferror,equivocation,andtheChernoffbound" , IEEETrans.Inf.Theory,vo1.IT-16,no.4,pp.368-372 ,July1970 [32]KenichiKanatani:"Analysisof3-Drotationfitting",IEEETrans.PatternAnal .&Mach.lntell., vo1.16,no.5,pp.543-549,May1994 [33]鈴 木 昇 一:"パ タ ー ン の エ ン ト ロ ピ ー モ デ ル",信 学 論(D-II),信 学 論(D-II),vol.J77-D一
II,no.ll,pp.2220-2238(1994-11) [34]M.ミ ン ス キ ー,S.パ パ ー トD"パ ー セ プ ト ロ ン(パ タ ー ン 認 識 理 論 へ の 道)",斎 藤 正 男 訳, 東 京 大 学 出 版 会,1971 [35]梅 垣 壽 春:"情 …報数 理 の 展 開 一 関 数 解 析 的 展 開 一",サ イ エ ン ス 社,1993 [36]JeffB.Burl:"EstimatingthebasisfunctionsoftheKarhunen-Lo騅etransform",IEEE Trans.Acoust.,Speech&SignalProcess.,vo1.37,no.1,pp.99-105,Jan.1989 [37]JacobRubinstein,JosephSegmanandYehoshuaZeevi:"Recognitionofdistortedpatternsby invariancekernels",PatternRecognition,vo1.24,no.10,pp.959-967,1991 [38]JamesB.RoseboroughandHiroshiMurase:"Partialeigenvaluedecompositionforlargeimagesets usingrun-lengthencoding",PatternRecognition,vo1.28,no.3,pp.421-430,1995 [39]SummerN.Levine:"エ レ 外 ロ ニ ク ス の た め の 量 子 物 理",p.26,神 山 雅 英 ・稲 葉 文 男 ・宅 間 宏 共 訳,・1996 [40]金 沢 秀 夫:"量 子 力 学(朝 倉 物 理 学 講 座13)",p.40,Mar.1971 [41]A.Cohen:"リ ー 群 論 の 応 用(コ ー エ ン の 微 分 方 程 式)",高 野 一 夫 訳,pp.8-15,pp.22-24,森 北 出 版,May1971 [42]松 島 与 三:"多 様 体 入 門(数 学 選 書5)",p.24,p.27,pp.72-73,p.173,p.178,pp.184-190,p.222,裳 華 房,May1966L [43]鈴 木 昇 一 、 前 田 英 明:"パ タ ー ン の 変 形 理 論",情 報 研 究(文 教 大 学 情 報 学 部),vol.16, pp.209-267,Dec,1995 [44]JeffreyWood:"lnvariantpatternrecognition:Areview",PatternRecognition,vo1.29,no.1,pp.1-17,1996 [45]鈴 木 昇 一:"マ ル チ メ デ ィ ア 情 報 処 理 の た め の 一 般 化 誤 差 逆 伝 播 学 習 ニ ュ ー ラ ル ネ ッ ト の 新 数 理",近 代 文 芸 社,1996 [46]鈴 木 昇 一="知 能 情 報{デ ィア情 報 処 理 の た め の カ テ ゴ リ 帰 属 知 識 を 用 い た パ タ ー ン 認 識 問 題 の 数 理 的 一 般 解 決",近 代 文 芸 社,1997 [47]鈴 木 昇 一:"カ テ ゴ リ 帰 属 知 識 の ポ テ ン シ ャ ル 論 を 含 む 認 識 知 能 情 報 論 の 新 展 開",近 代 文 芸 社,1998 注 意:信 学 会 と は 電 子 通 信 学 会 、 或 い は 、 電 子 情 報 通 信 学 会 の 略 で あ り 、 信 学 論 と は 信 学 会 の 論 文 誌 の 略 で あ り 、 信 学 技 報 と は 信 学 会 の 技 術 研 究 報 告 の 略 で あ る 。 ま た 、 情 報 処 理 と は 情 報 処 理 学 会 の 学 会 誌 で あ る 。
付 録A(本
論 文 で提 案 す るパ ター ン モデ ルTψ)
本 付 録Aで は、 閉 部 分 空 間 へ の距 離 の 自乗[25]に
基 づ き、 パ タ ー ン ψ ∈ 嶺の モ デ ルTψ の 定 義
とそ の 意 味 が簡 単 に 説 明 され る。
A1.パ タ ー ン ψ の 直 交 展 開 (ψk,ψm) =Oifk≠m ,=1ψkll2>Oifk=m を 満 た す 直 交 系iψk}k。Lに よ っ て 、任 意 の パ タ ー ン ψ ∈ 夢 は 、 次 の よ う に 直 交 展 開 さ れ る: ∀k∈L,(T-,ψ 、)一〇 を 満 た す あ る ψ⊥∈夢 が 存 在 し て 、 ψ=、 署、(ψ,ψ・llψ、ll-1)・ψ・ll血ll一'+免 本 論 文 で は 丶 ψ=0の と き ∼ρ1ψ1-1=0 と約 束 し て お く。(A1)
(A2)
(A3)
0
(A4)
A2、 閉 部 分 空 間SBへ の ノ ル ム 距 離dis(ψ,SB) 一 般 に 、 パ タ ー ンSP∈ 夢 が ーψ=gプ 十 ∼ρ竹 こ こ に 、(ψ;SPノ ノ)=0』 ∴iiψll2=llSP/iiZ+iiψ ■!11・(AS)
と直 交 直 和 分 解 さ れ る と 、iiT,/II2は ψ か ら ψ"と 直 交 す る 最 大 の 閉 部 分 空 間(closedsubspace) SBへ の ノ ル ム 距 離dis(ψ,SB)の 自 乗 を 表 し て い る[30] dis(∼ ρ,SB)2=i∼ ρ"ll2=iiψii2-ii∼ ρ ノii2特 に 、SBと し て 、 直 交 系{ψk}k.、 で 張 ら れ る 閉 部 分 空 間[29] SB ≡{Σak・ ψklak∈Z(複 素 数 体)}の 閉 包[29] こ し を 選 ぶ と 、3式(A2),(A3),(A6)か ら 、 dis(∼c)IlψH-1,SB) 一[1一 Σ1@1ゆll-1 ,ψ 、llψ 、1卜1)1・]1/2 k∈L … …llψ 「1≠0の と き と 表 さ れ る 。 式(A4)で の 約 束 か ら 、 「lqll=oの と き 、dis@llqll-i,SB)=o が 成 り 立 つ 。 式(A8)で 登 場 し て い る1よ り 大 き く な い 非 負 量 1(qllgolr-1,ψ 、llψ 、ll-1)1・ (A6) □
(A7)
(as)
(A9)
(A10)
は 、 文 献[3]の
第2,3章
にあ る そ の 簡 単 な解 説 か ら もわ か る よ う に、 量 子 力 学 にお け る確 率 論 的
物 理 解 釈 に よ れ ば[11],[40]、 パ 彳 一 ン ψ が ψkで 張 ら れ る1次 元 閉 部 分 空 間に含 ま れ て い る 確 率 で あ り、 パ タ ー ン ψ が 部 分 的 に ψkの 状 態 に あ る こ と の 確 率 で あ る[2] ,[30], L33]o A3.白 色 性 パ タ ー ン Ψ 形 式 的 に 考 え た ψ ≡ 盛 、 ψkの エ ネ ル ギ ー E≡IIψII2=盛 。llψ・iiz馳-・(A12) は 、 添 字 集 合Lが 無 限 集 合 な ら ば 、 有 限 値 と は 限 ら な く て 、 ψ ≡ 認 、 ψkは ヒ ル ベ ル ト空 間 夢 の 元 と は 限 ら な い が 、 iiψkII2=(ψ,ψk),k:∈L 、(A13) を 線 エ ネ ル ギ ー 分 布 と み な そ う 。 エ ネ ル ギ ー 分 布 が 問 題 と す る 周 波 数 範 囲 で 一 定 で あ る よ う な雑 音 を 白 色 雑 音 と い う が 、 こ の 概 念 に な ら う と 、 ψ ≡ Σ ψk内 の 各 直 交 成 分 ψkが 、 同 一 の 一 定 の エ kEL ネ ル ギ ー 値C(>0)を 持 つ と い う"白 色 性"は 、 ∀k∈L,iiψkIl2=C(k∈Lに 無 関 係 な 定 数)>0 (平 坦 パ ワ ー 性)馳(A14) と 表 さ れ る 。 特 に 、C=1の 場 合 、{ψk}k。Lは 正 規 直 交 系 と 呼 ば れ て い る 。 A4.パ タ ー ンqか ら 抽 出 さ れ る 各 特 徴 量u(q,k)を 直 交 展 開 係 数 に 持 つ パ タ ー ン と し て の パ タ ー ン モ デ ルTq 本 論 文 で は 、 常 に 式(Al4)を 仮 定 す る 。 ま た 、 処 理 の 対 象 と す る 問 題 の バ タ ー ン ψ の 集 合 Φ を 想 定 す る 。 Φ は 、0∈6を 満 た し、 Φ の あ る 部 分 集 合 で あ る[7],[33]。
こ の 条 件 式(A14)の 下 で は 、 式(A7)の 閉 部 分 空 間sBへ の 、 式(A8)のdis(gPll{Z711-ilsB)の 自 乗 は 、 直 交 展 開 式(A2),(A3)で のq⊥ を 用 い て 、』 dis(qIlψll-1,SB)2 ==1一 認 。(11C)・1@・ ψ・)12 /{(11C)・ 諱 。1ゆ ・ψ・)12+ll{P・.ll2}(A15) と 表 さ れ る 。 こ の 式(A15)で 登 場 し た 各 成 分 P(ψ,k)≡P(ψ;ψk)≡ 1(ψ,ψk)12/[認 LI(q,ψk)12]… ヨk∈L,(ψ,ψk)≠0の と き 0… ∀k:∈L,(q,ψk)=0の と き(A16) は 、 確 率 条 件 式 [∀k∈L,0≦P@,k)≦1]〈 ΣP((;ρ,1()= し 1・ ■■■ヨk∈L,(ψ,ψ 藍)≠0の と き 0… ∀k∈L,@,ψk)=0の と き(A17) を 満 た し、 こ の 各 非 負 実 数 値 成 分p(q,k)の 正 の 平 方 根 』 u(SP,k)≡u(ψ;ψk)≡ ∼ズ酥 ア(A18) を用 い て 、 白 色 性 パ タ ー ン ψ≡ Σk∈L ψk(A19) を 変 調 し 、
Tψ ≡ Σu(ψ,k)・ ψk=Σu(ψ;ψk)・ ψk∈ Φ-(A20) しk∈L
T:Φ → Φ(A21) を 導 入 し ょ う 。 こ こ に 、 式(A18)のu(q,k)は 、 式(Al1)で い う 、 ψkの 張 る1次 元 閉 部 分 空 間 〈ψk>の 内 に 、 原 パ タ ー ン ψ ∈ Φ か ら 冗 長 な 成 分 ψ⊥∈ 夢 を 取 り 除 い て 得 ら れ る パ タ ー ン ψ 一 ψ⊥∈ Φ が ど の 程 度 根 含 ま れ て い る か 、 そ の 程 度 を 反 映:し て い る 非 負 量p@,k)(A22) の 正 の 平 方 根 で あ る 。 式(Al8)で 定 義 さ れ る こ のu(q,k)を 、 パ タ ー ン ψ ∈ Φ か ら抽 出 さ れ る 第 k∈L番 目 の 特 徴 量 と して 採 用 す る 。 す る と 、 』」(ψ)≡三ユL(ψ;{ψk}k∈L)≡{ユ(ψ,k)}k∈L(A23) は 、 パ タ ー ン ψ ∈ Φ か ら抽 出 さ れ る 特 徴 量 の 組 で あ る 。 式(27)が 成 り立 つ と い う 意 味 で 、 直 交 系{ψk}k.Lが 完 全 で あ れ ば 、 パ タ ー ン ψ の 直 交 展 開 式 (A2),(A3)に お け るq⊥ は 、 常 に 、 ψ⊥=0で あ り、 よ っ て 、 こ の 場 合 、3式(A15),(A16), (Al8)の 問 に 、 dis(ψ1[ψII-i,SB)2 =1一 Σp(∼ ρ,k)(A24)
し
=1一 Σu@ ,k)2(A25) し が 成 立 し て い る こ と に 注 意 し て お こ う 。. 式(A20)か ら わ か る よ う に 、Tψ ∈ Φ は 各 特 徴 量u(q,k)を 直 交 展 開 係 数 に 持 つ パ タ ー ン で あ り 、 原 パ タ ー ン ψ ∈ Φ に 対 応 す る パ タ ー ン モ デ ル(ψ の 代 り と な る パ タ ー ン)と 呼 ば れ る 。 A5.部 分 空 間 法 で の パ タ ー ン モ デ ルTψ 式(A25)に 、 定 理1,(iii)の 前 半 を 適 用 す る と 、 直 交 系{ψk}k.Lが 完 全 系 の 場 合 、 等 式 dis(SPlSPii-1,SB)2=dis(TψiiT∼ ρll-1,SB)2(A26) が 得 ら れ る こ と に 注 意 す る 。 つ ま り 、Tψ は 、 閉 部 分 空 間SBか ら 原 パ タ ー ン ψ と 等 距 離 に あ る あ る パ タ ー ン で あ り、 モ デ ルTψ を 見 た り聞 い た り す る と、 原 パ タ ー ン ψ の よ う に 見 え 聞 こ え 、 Tψ は 、 部 分 空 間 法[25]で の 、 ψ の パ タ ー ン モ デ ル で あ る と解 釈 な ら し め る1つ の 根 拠 が 、 等 式(A26)の ご と く 、 成 立 し て い る 。付 録B(パ
タ ー ン モデ ルTψ を用 い た5種 類 の認 識 法)
本 付 録Bで は 、 式(A20)の パ タ ー ン モ デ ルTψ を 使 っ て 、 処 理 の 対 象 とす る パ タ ー ンSP∈ Φ の 帰 属 す る カ テ ゴ リ を 決 定 す る 技 術 と し て の5種 類 の 認 識 法 が 説 明 さ れ る 。 先 ず 、 式(A21)で 定 義 さ れ る 写 像(モ デ ル 形 式)T:Φ → Φ に つ い て 、3性 質 ①0∈ Φ ② ∀ ψ ∈ Φ,a・ ψ ∈ Φforanypositiverealnumbera ③ ∀SP∈ Φ,Tψ ∈ Φ を 満 た す よ う な パ タ ー ン 集 合 Φ を 想 定 し て お く。 こ の よ う なパ タ ー ン 集 合 Φ の 逐 次 決 定 法 に つ いて は 、 文 献[7],第XXIV部 を 参 照[33]。 入 力 パ タ ー ン ψ の 帰 属 す べ き カ テ ゴ リ(類 概 念)を 決 定 す る と い う 認 識 の 働 き と し て は 、 パ タ ー ンqの 代 り と し て の パ タ ー ン モ デ ルTqを 使 い、 次 の5種 類1∼Vが 考 え ら れ る 』: '1 .最 小 特 徴 聞 距 離 に よ る 認 識[3],[4],[11],[12],[28] 2つ の パ タ ー ンq,η ∈ Φ 間 の 特 徴 問 距 離[3],[6] (Featuredistance) Fdi・@,.η) ≡[ 、P。w・・1・(q・k)一 ・(η・k)【2]112 こ こ に 、[∀k∈L,0〈Wk<0]〈 ΣWk<Oo(Bl) し と 、 各 カ テ ゴ リ(iSlj(第j∈J番 目 の カ テ ゴ リ)の 代 表 パ タ ー ン ωjの モ デ ルTωjと を 用 意 し て 、1つ の カ テ ゴ リ 番 号 j=argmink∈JFdis(Tq,Tωk)∈J(B2) を 求 め 、 qbelongstothej-thcategory(芭j・(B3) と 、 認 識 す る 。 尚 、 定 理1の(v),(ii),(iii)か ら わ か る よ う に 、 式(B1)の 特 徴 間 距 離Fdisに は 、3性 質 (i)式(4)の 自 己 共 役 作 用 素Hと 可i換 な ユ ニ タ リ 座 標 変 換uの 下 で の 不 変 性
∀ ψ ∈ Φ,Fdis(Uψ,η)=Fdis({p,η) (ii)正 の 定 数 倍 不 変 性 ∀ ψ ∈ Φ,Fdis(a・ ∼p,η)=Fdis(∼p,η) foranypositiverealnumbera (iii)モ デ ル 構 成 作 用 素Tの 下 で の 不 変 性 ∀ ψ ∈ Φ,Fdis(T￠),η)=Fdis(ψ,η) が あ り 、 表 現 式(B2)が 成 り 立 て ば 、 次 の3表 現 式(B4),(B5),(B6)が 成 ・り 立 つ 。3表 現 式 (B4),(B5),(B6)の い ず れ か1つ が 成 り 立 て ば 、 表 現 式(B2)が 成 り 立 つ: Uqbelongstothej-thcategory(Σ 」'・(B4) a・ ∼c,belongstothej-thcategory(葦j(B5) Tqbelongstothej-thcategory(Σj「 .(B6) □ 3式(B4)∼(B6)で 表 さ れ る3不 変 的 認 識 の 働 き は 、 以 下 のH∼Vに つ い て も 達 成 さ れ で い る 。 1[.木 状 類 別 器(tree-classifier)を 構 成 し た パ ー セ プ ト ロ ン 法[34]に よ る 認 識[5],[24] 実 数 値 の 重 みWkの 組{Wk}k.Lを 、 誤 り 訂 正 学 習 で 決 定 し て お い て 、 空 間 パ ー一!eプ ト ロ ン に よ る 類 別 法[33]、 つ ま り 、 Σwk・[2・u(Tψ,k)一1]≧Oor<0・(B7) ミし か ど う か で 、2分 割 す る こ と を 、 必 要 な 回 数 だ け 繰 り 返 し て 、 パ タ ー ン ψ ∈ Φ を 認 識 す る 。 皿.ニ ュ ー ラ ル ネ ッ トの 不 動 点 へ の 変 換 に よ る 認 識[7],[16],[45] 各 カ テ ゴ リ(Slj(第j∈ 」番 目 の カ テ ゴ リ)の 代 表 パ タ ー ン ωjの モ デ ルTωjを 不 動 点 に 持 つ ニ ュs・一ラ ル ネ ッ ト を 構i成 し て お い て 、 処 理 の 対 象 と す る パ タ ー ンq∈ Φ を 偽 吸 引 点(spuriousattractors) で は な い 不 動 点 、 例 え ば 、Tωjに 収 束 さ せ て 、 表 現 式(B3)の ご と く、 認 識 す る 。
IV.最 大 類 似 度 法 に よ る 認 識[7],[22] ,[28] 各 代 表 パ タ ー ン ωjの 集 合 Ω ≡{ωjlj∈J}・ .(B8) を 、 文 献[7]の 第21部,付 録1の 適 応 的 手 法 で 決 定 し て お く[33]。 3性 質 (一)(直 交 性)SM(ωi,ωj) =lifi==j ,=Oifi≠j
