博士（工学）大鎌 学位論文題名
回帰的最小2 乗法のアルゴリズムの高度化に関する研究 学位論文内容の要旨
回帰的最小2乗法（： Recursive Least Squares，RLS）は、適応信号処理、制御、システム 同定な どの分 野で重要かつ基礎的な位置を占める最小2乗法に基づくアルゴリズムである。
信号あるいは情報を処理する機械（以後、情報処理機械）の数は増え続け、計算機本体の 台数は1984年から1988年の間 に1.54倍 になっている。また情報処理能カに乏しい機械（以 後、機 械1も増 加している。その増加に伴い、人、環境、情報処理機械、機械、の境界を接 する部分の数が爆発的に増加し、また人―機械、人一人、の通信も情報処理機械を間に挟む こ と で 、 通 信 可 能 な 情 報 の 種 類 を 広 げ 、 新 た な 機 能 を 付 加 す る 可 能 性 を 持 つ 。 このことは、ヒューマン・インターフェースやマシン・マシン・インターフェースの需要 と重要 性が増 し続けて いるこ とを意 味し、このようなインターフェースが必要となるとこ ろには、未知の動的システムの推定が必要になる。
情報処 理機械 に取り 込むべ きデータ が測定あるいは受信データと一致していないことが ある。音声信号を例にとると、測定系で取り込んだ情報は音圧に比例した数値信号であり、
このような数値は一部の専門家にとってわずかな意味があるに過ぎず、多くの人にとって意 味 が あ る の は 音 声 信 号 に 含ま れ る 単 語情 報 や 、 誰が 喋 っ た か（ 話 者 認 識） で あ る 。 そこで 測定デ ータに 含まれ る所望の 情報を抽出する必要が生ずる。このような情報の抽 出には 、測定 データが 生成さ れる過 程をあるシステムとみなしその未知の動的システムを 推定することが有用である。
情報のインタフェースのそのものである通信系では情報の圧縮（たとえば音声の低ビット レート 符号化1、エコーキャンセラ、適応等化器、移動体通信におけるアレー・アンテナに よる適 応ピー ムフオー ミング などに 、未知の動的システムを線形システムでモデル化し推 定する技法が有用であることが知られている。
機械一情報処理機械の通信は、主に機械の制御のための操作量を伝えるために必要となり、
操作すべきシステムが動的で未知であれば、制御対象を推定しながら制御する必要がある。
線形 モデ ルの 最 小2乗 推定 は 、最 尤推 定やスペクトル推定の最大 エント口ピー法(MEM) との関連も知 られ、局所的な最小値が存在せず、エネルギーやパワの概念との関係がある。
この 最小2乗 法をインターフェースに 伴う未知の動的システムの 推定に適用するときに は 、あ る時 刻に おける標本値が1組得ら れるたびに、毎回推定計算 をする手法が重要にな り 、そ れがRLSであ る。RLSも上 記の 利 点を当然もっているため、 他の多くのアルゴリズ ムの基礎にな っている。
本研 究は 、こ のRLSアルゴリズムの高 度化として、高速化の手法 としての並列処理向き のアルゴリズ ムおよび並列処理アーキテク チャと知識の導入による推 定の改善について論 ずるものであ る。
本 論 文 は 、 全9章 よ り 構 成 さ れ て い る 。 以 下 に 各 章 の 概 要 を 述 べ る 。 第2章 で は最 小2乗法 の概 説を し、RLSのア ル ゴリ ズム とし てカ ルマンフイルタ型のア ル ゴ リ ズ ム 、QR分 解 に 基 づ く アル ゴ リズ ムとAgee‑TurnerのUD分 解更 新定 理に 基づ く ア ル ゴ リ ズ ム の3手 法 に つ い て比 較し 、Agee−TurnerのUD分解 更 新定 理とQR分 解の 一 過程は、ほぼ 同―の操作を行っていること を明らかにし、Agee−TurnerのUD分解更新定理 の方がRLSの概 念との親和性が良いことを 論じている。
第3章 で はRLSの 並 列 処 理 に 向い て いる 並列 アー キテ ク チャ につ いて 論じ 、RLSの よ うに他の機械 に組み込まれて使われ、高い 性能必要とする時にはシス トリックアレーが向 いていること を示し、逆にシストリックア レーで高い性能を出すため にアルゴリズムの改 変が必要とな ることがあることを主張して いる。
第4章で はRLSの 応用 では 実 時間 の制 約の ため 高 速な 処理 が要 求 され るた め、 並列 処 理 の検 討を した 結果、カルマンフイル タ型のRLSは並列処理に向い ていないことが明らか に なっ た。 そこ で並列処理向きのRLSア ルゴリズムとそれを実行す る三角シストリックア レーを提案し た。提案シストリックアレー で並列処理することでO(N ）倍の高速化が達成 できる。
第5章 で はRLSの 拡張 であ る拡 大最 小2乗法 （ ：ELS)の 並列 処理 をする際の問題点を明 ら かに し、ELSをも 実行 でき る1次元 シ ストリックアレーによる並 列処理法を提案した。
このために残 差の計算と相関行列（のUD分 解形式）の更新を同時に処 理できるアルゴリズ ム を開 発し た。 この1次元シストリック アレーは三角シストリック アレーに比べ並列度は 低 い が 適 用 範 囲 が 広 く ハ ー ド ウ ェ ア 実 現 が 容 易 で あ り、 処理 速 度がO(N)倍に なる 。 第6章 で はRLSが 指数 窓重 みが かか っ た最 小2乗法 であ って 一括 処理のときの真の最小 2乗 法と 違 う推 定結 果を 生む こ とを 問題 にし、真の最小2乗法と同 じ結果になる方形窓の RLSを 議 論 し た 。 そ し て 方 形 窓のRLSの並 列処 理法 を提 案 した 。こ の方 形窓 のRLSは 第 5章 で提 案 のア ーキテクチャとほとんど 同じハードウェアでほとん ど同じ時間で並列処理 可能なことを 示した。
第7章 で は、 推定 結果 を集 合 とす る手 法について述べ、この考え 方から最小2乗法の決 定 論的 解釈 がで きることを示した。そ して最小2乗推定において観 測データのサンプル値
433
が少ないときには真の残差パワと最小2乗の意味での残差パワが一致しなくなり、このと き係数の推定値を雎定係数の個数」次元楕円体と見なし得ることを明らかにし、この楕 円体を推定楕円と呼ぷことにした。
第8章では前章の推定楕円が観測からの推定であることを考慮し、推定楕円内での推定 を分析者の知識で行なうことで、観測に矛盾せず、その限りにおいて分析者の好む推定結 果を得る推定法を提案した。そして、この方法により分析者の知識を生かして霞化の少 ない推定値」を得たり、既知の値のいずれかに近い推定値」を得ることができることを数 値実験により示した。
第9章では、これまでの章を総括し、本研究の成果について要約する。さらに残された 課題について述べる。
本研究の目的である回帰的最小2乗法の高度化として、いくっかの効率の良い並列処理 法と回帰的最小2乗法の観測値からの推定に知識に基づく推定を連係させる端緒となる推
学位論文審査の要旨
学 位 論 文 題 名
回帰 的 最小2乗 法の アル ゴリズムの高度化に関する研 究
回帰的最小2乗法 （： Recursive Least Squares，RLS）は、適応信号処理、制御、システ ム同 定 など の分 野で 重要 か つ基 礎的 な位 置 を占 める最小2乗 法に基づくアルゴリズムで ある。
ヒューマン・イ ンタフェースやマシン・マシン・インタフェースの需要と重要性が、増大 して い る。 未知 の動 的シ ステム の推定問題はインタフェース の様々なところで現れる。
未 知 の動 的シ ステ ムの 推 定の 一手 法と し て、 ある時刻に おける標本値が1組得られる た び に 、 最 小2乗 法 に 基 づ ぃ て 、 毎 回 推 定 計 算 を す る 手 法 がRLSで あ る 。 本 研 究は 、RLSア ルゴ リズ ムの 高 度化 とし て、 高速化の手 法としての並列処理法（ア ルゴリズムおよび アーキテクチャ）と知識の導 入による推定の改善について論ずるもので あ る 。 本 論 文 は 、 全9章 よ り 構 成 さ れ て い る 。 以 下 に 各 章 の 概 要 を 述 べ る 。 第2章 で は 最小2乗 法の 概説 を し、RLSのア ルゴ リズ ムと し てカ ルマ ンフ ィ ルタ 型の アル ゴ リズ ム、QR分 解に 基 づく アル ゴリ ズ ムとAgeel´HrnerのUD分 解更 新定理に基づ くア ル ゴリ ズム の3手法 につ いて 比 較し 、Ageeー ′I'urnerのUD分解更新定理がRLSの概 念との親和性が良 いことを主張している。
第3章 で はRLSの並 列処 理に 向 いて いる 並列 ア ーキ テク チャ につ い て論 じ、RLSのよ うに他の機械に組 み込まれて使われ、高い性能 を必要とする時にはシストリックアレーが 向い て いる こと とシ スト リック アレーで高い性能を出すため にアルゴリズムの改変が必 要となることがあ ることを論じている。
第4章 で はRLSの並 列処 理の 検 討を した 結果 、 カル マン フィ ルタ 型 のRLSは 並列 処理 に向 い てい ない こと が明 ら かに なっ た。 そ こで 並列処理向 きのRLSアルゴリズムとそれ を実行する三角シ ストリックアレーを提案し、 逐次処理に比ぺておよそ「推定係数の個数 の2乗」倍の高速化 になることを示した。
435 ‑
夫 彦
彦 次
弘
信
精 吉
香
信
井 藤
川 内
木
永
伊 小
栃
三
授 授
授 授
授
教
教 教
教 教
助
査 査
査 査
査
主 副
副 副
副
第5章 で はRLSの拡 張 であ る拡大最 小2乗法（：ELS）の並列処理 をする際の問題点を明 ら かに し、 アル ゴリ ズ ムを 改良 し、ELSをも 実行 で きる1次 元シ スト リッ クア レーによ る 並列処 理法を提案した。本章の並列 処理法は、第4章の並列処理 法に比べてハードウェ ア 実 現 が 容 易 で あ り 、 逐 次 処 理 の お よ そ 「 推 定 係 数 の 個 数 」 倍 の 高 速 化 に な る 。 第6章 で は 一 括 処 理 の と き の 真 の 最 小2乗 法 と 同 じ 結 果 に な る 方 形 窓 のRLSを議 論 し 、そ の並 列処 理法 を 提案 した 。こ の 方形 窓のRLSは第5章 で提 案の アー キテ クチャと ほ と ん ど 同 じ ハ ー ド ウ ェ ア で ほ と ん ど 同 じ 時 間 で 並 列 処 理 可 能 な こ と を 示 し た 。 第7章 で は、 推定 結果 を集 合 とす る手 法に つい て 述ペ 、こ の考 え 方か ら最 小2乗法の 決 定諭 的解 釈が でき る こと を示 した 。 最小2乗推 定 において観測 データのサンプル値が 少 ない とき には 真の 残 差パ ワと 最小2乗 の意 味で の 残差パワがー 致しなくなり、このと き係数の推定値 を「推定係数の個数」次元楕円体（：推定楕円）と見なし得ることを明らか にした。
第8章 で は前 章の 推定 楕円 が 観測 から の推 定で あ ることを考慮 し、推定楕円内での推 定を分析者の知 識で行なうことで、観測に 矛盾せず、その限りにおいて分析者の好む推定 結果を得る推定 法を提案した。そして、こ の方法により分析者の知識を生かして「変化の 少ない推定値」 を得たり、「既知の値のい ずれかに近い推定値」を得ることができること を数値実験によ り示した。
第9章で は、これまでの章を総括し 、本研究の成果について要約 する。さらに残された 課題について述 ぺている。
以上 のよ うに 本論 文 では 、回 帰的 最 小2乗 法の 並 列処理向きア ルゴリズムおよび並列 処理法や、観測 値からの推定と知識に基づ く推定の折り合いを付ける推定法を提案し、多 くの新知見を得 ており、適応信号処理および電子工学、ニ寄与するところが大きい。よって 著 者 は 、 博 士 （ 工 学 ） の 学 位 を 授 与 さ れ る 資 格 あ る も の と 認 め る 。
