基于相關(guān)投影分析的特征抽取與圖像識別研究.pdf

1、特征抽取是模式識別研究的最基本問題之一。對于圖像識別而言，抽取有效的圖像特征是完成識別任務(wù)的關(guān)鍵。本文提出的相關(guān)投影分析，包括典型相關(guān)分析、廣義典型相關(guān)分析和偏最小二乘分析是建立在兩組特征或兩個數(shù)據(jù)矩陣上的特征抽取方法。它的基本思想是，首先，在兩組特征之間建立相關(guān)性判據(jù)準則函數(shù)，然后依據(jù)該準則求解兩組相關(guān)投影矢量集，進而抽取各自數(shù)據(jù)上的相關(guān)性特征，最后通過不同的特征融合策略獲得組合的相關(guān)特征，并用于圖像的分類。本文就三種相關(guān)投影分析的理

2、論和算法進行了深入的研究和探討，所提出的各種算法在人臉識別和字符識別方面得到了較成功的應用。 本文基于特征融合的思想，建立和完善了典型相關(guān)分析（CCA）用于組合特征抽取和圖像識別的理論框架，所提出的兩種特征融合策略，為模式的特征抽取和分類提供了新的途徑。本文不僅給出了CCA用于圖像識別的理論和方法，更為重要的是從理論上推廣了CCA的應用范圍，解決了當兩組特征矢量構(gòu)成的總體協(xié)方差矩陣奇異時，典型相關(guān)投影矢量的求解問題，使之適合于高

3、維小樣本的情形。這一理論上的突破，為CCA的應用徹底掃清了障礙。本文進一步從理論上揭示了CCA與Fisher線性鑒別分析的聯(lián)系，在求解典型相關(guān)投影矢量的理論框架下，提出了一種求取不相關(guān)的最佳鑒別矢量集的間接算法。在手寫體阿拉伯數(shù)字數(shù)據(jù)庫和人臉圖像數(shù)據(jù)庫上分別證實了所提出算法的有效性。 本文從有利于模式分類的角度，提出并詳細探討了廣義典型相關(guān)分析（GCCA）的理論與算法。首先，提出了一種改進的相關(guān)判據(jù)準則函數(shù)，依據(jù)該準則，在兩種不

4、同的約束條件下，分別建立了求解廣義典型投影矢量集（GCPV）的算法理論；進一步探討了當兩組原始樣本的類內(nèi)散布矩陣奇異時，求解GCPV的兩種策略，即PCA+GCCA策略與擾動策略。在使用擾動策略求解GCPV時，針對高維小樣本（圖像識別等）問題的計算效率，提出了一種高效的算法；本文提出了一種新的特征融合策略（FFS3），引入了圖像相關(guān)特征矩陣的概念，并提出了基于相關(guān)特征矩陣的兩種分類方法。在手寫體數(shù)字數(shù)據(jù)庫和人臉數(shù)據(jù)庫上的實驗結(jié)果驗證了所提

5、各種算法的有效性。理論分析和實驗結(jié)果都表明了，基于改進的判據(jù)準則函數(shù)，不僅具有明顯的物理意義，而且在分類性能上，基于GCCA所抽取的組合特征明顯地優(yōu)于基于CCA所抽取的組合特征。 本文深入地探討了偏最小二乘（PLS）建模方法用于特征抽取和圖像識別的理論和方法。首先，對傳統(tǒng)的PLS回歸理論和性質(zhì)進行了深入分析。在此基礎(chǔ)上，基于PLS的建模思想，著眼于算法的效率和精度，依據(jù)不同的約束條件，提出了兩種新的PLS建模方法，即非迭代PLS

6、建模方法（NI-PLS）與共軛正交的PLS建模方法（CO-PLS）。進一步研究和探討了PLS建模方法用于圖像識別的三種策略，即基于單一特征的分類方法（PLS鑒別分析，簡記為PLS-DA）、基于兩組特征的分類方法（特征融合）以及基于相關(guān)雙子空間的連續(xù)分類方法。最后，在不同的數(shù)據(jù)庫上分別驗證了所提各種方法的有效性。由于PLS建模方法不受訓練樣本的總體散布矩陣是否奇異的影響，因此，它更適合于處理高維小樣本的問題?？朔酥T如Fisher鑒別分析

7、、典型相關(guān)分析以及多元回歸分析在處理高維小樣本問題時出現(xiàn)的建模困難。 本文提出了直接基于圖像矩陣的相關(guān)投影分析方法（也稱為二維（2D）相關(guān)投影分析）。它的基本思想是，在處理圖像識別問題時不需要事先將圖像矩陣轉(zhuǎn)化為一維（1D）的圖像矢量，而是直接利用圖像矩陣本身構(gòu)造相應的圖像協(xié)方差矩陣，并建立相應的目標準則函數(shù)，在此基礎(chǔ)上抽取圖像的相關(guān)特征?；谏鲜鏊枷耄疚脑敿毞治龊吞接懥酥苯踊趫D像矩陣的三種具體方法（2D-CCA、2D-GC