基于子空間分析的特征抽取及分類方法研究.pdf

1、特征抽取和分類是模式識別領(lǐng)域的兩大熱點，其主要任務(wù)是根據(jù)樣本圖像中的有效信息進行個體的類別識別。本文以代數(shù)統(tǒng)計為研究工具，在子空間學習的基礎(chǔ)上，提出了新的特征抽取及分類方法，并將其與現(xiàn)階段的主流方法進行了比較，驗證了本文方法的有效性。本文的主要工作集中在以下幾個方面:
　　 (1)提出稀疏Fisher線性鑒別分析算法。利用最小二次優(yōu)化問題與Fisher線性鑒別分析在兩類模式的識別問題上的等價性，從求解最小二次優(yōu)化問題獲得稀疏Fi

2、sher線性鑒別投影。所獲得的稀疏Fisher線性鑒別投影可幫助我們從變量層面上發(fā)現(xiàn)是哪些變量在我們的鑒別過程中起了核心作用，這些變量對應(yīng)著哪些物理功能等，從而使我們對數(shù)據(jù)有更深層次的理解。另外，由于稀疏Fisher鑒別投影從求解最小二次優(yōu)化問題得到，因此避免了對特征方程的求解，這在很大程度上減少計算的花銷。除此之外，稀疏鑒別向量比緊致的鑒別向量所需的存貯空間也更少。
　　 (2)提出了處理單樣本識別問題的局部圖嵌入鑒別分析算法

3、。從單樣本識別問題存在的不足入手，作了以下兩方面進行嘗試:一是利用均值濾波器增加訓練樣本，以緩解訓練樣本不足的問題;二是考慮數(shù)據(jù)的局部信息，利用圖嵌入對數(shù)據(jù)的局部結(jié)構(gòu)進行刻畫。綜合以上兩方面，所設(shè)計的局部圖嵌入鑒別分析算法很好地避免了“小樣本問題”的出現(xiàn)，這對提高系統(tǒng)的識別性能和穩(wěn)定性有很大的幫助。
　　 (3)提出了去相關(guān)局部保持投影算法（RLPP）。在局部保持投影(LPP)算法基礎(chǔ)上，利用遞歸的方法，逐一得到去相關(guān)的鑒別投影

4、。與現(xiàn)有的不相關(guān)局部保持投影不同，所提出的RLPP從另外的角度給出了去相關(guān)鑒別投影的求解方法，這一方法簡單且有效，可作為其它算法發(fā)展去相關(guān)鑒別投影的借鑒。
　　 (4)提出了基于統(tǒng)一度量的特征抽取與分類器設(shè)計的一體化框架。從分類器出發(fā)，利用其有效的分類度量，設(shè)計出與之相匹配的特征抽取算法。以正則化K局部超平面最近距離分類器(RHKNN)為例，我們提出了與RHKNN相匹配的局部鑒別分析算法(HOLDA)。RHKNN+HOLDA作為

5、這一框架下發(fā)展而來的識別系統(tǒng)，對整體識別性能的提高有很大的幫助。
　　 (5)提出了模糊相似近鄰分類器(FSNC)。FSNC引入了“模糊集”理論，從數(shù)據(jù)間的“相似度”出發(fā)，對未知測試樣本的類別隸屬度作了具體量化，依據(jù)量化的結(jié)果給出分類的判斷。在“相似近鄰”的尋找上，借助了非負稀疏表示算法的優(yōu)勢，自動獲取到“相似近鄰”及其“相似度”，這在很大程度上減少了由人為因素對系統(tǒng)造成的負面影響，使FSNC的分類結(jié)果更確實可信。
　　

6、 (6)提出了核Hilbert空間下的正則化線性回歸分類器。算法主要對線性回歸分類器（LRC）作了以下兩方面的改進:一是對其原有的度量作了L1-范數(shù)的正則化處理，使得正則化后的LRC度量更具可靠性，這很好地提高LRC的分類性能;二是對正則化的LRC作核化拓展，使得在原空間線性不可分的數(shù)據(jù)樣本，在核Hilbert空間下更具可分性。由于對LRC施加了L1-范數(shù)正則化約束，因此在沒獲得確切投影函數(shù)的基礎(chǔ)上，要完成核化處理，并非件易事。然而，我