基于子空間分析的特征抽取及分類方法研究.pdf

1、特征抽取和分類是模式識(shí)別領(lǐng)域的兩大熱點(diǎn)，其主要任務(wù)是根據(jù)樣本圖像中的有效信息進(jìn)行個(gè)體的類別識(shí)別。本文以代數(shù)統(tǒng)計(jì)為研究工具，在子空間學(xué)習(xí)的基礎(chǔ)上，提出了新的特征抽取及分類方法，并將其與現(xiàn)階段的主流方法進(jìn)行了比較，驗(yàn)證了本文方法的有效性。本文的主要工作集中在以下幾個(gè)方面:
　　 (1)提出稀疏Fisher線性鑒別分析算法。利用最小二次優(yōu)化問題與Fisher線性鑒別分析在兩類模式的識(shí)別問題上的等價(jià)性，從求解最小二次優(yōu)化問題獲得稀疏Fi

2、sher線性鑒別投影。所獲得的稀疏Fisher線性鑒別投影可幫助我們從變量層面上發(fā)現(xiàn)是哪些變量在我們的鑒別過程中起了核心作用，這些變量對(duì)應(yīng)著哪些物理功能等，從而使我們對(duì)數(shù)據(jù)有更深層次的理解。另外，由于稀疏Fisher鑒別投影從求解最小二次優(yōu)化問題得到，因此避免了對(duì)特征方程的求解，這在很大程度上減少計(jì)算的花銷。除此之外，稀疏鑒別向量比緊致的鑒別向量所需的存貯空間也更少。
　　 (2)提出了處理單樣本識(shí)別問題的局部圖嵌入鑒別分析算法

3、。從單樣本識(shí)別問題存在的不足入手，作了以下兩方面進(jìn)行嘗試:一是利用均值濾波器增加訓(xùn)練樣本，以緩解訓(xùn)練樣本不足的問題;二是考慮數(shù)據(jù)的局部信息，利用圖嵌入對(duì)數(shù)據(jù)的局部結(jié)構(gòu)進(jìn)行刻畫。綜合以上兩方面，所設(shè)計(jì)的局部圖嵌入鑒別分析算法很好地避免了“小樣本問題”的出現(xiàn)，這對(duì)提高系統(tǒng)的識(shí)別性能和穩(wěn)定性有很大的幫助。
　　 (3)提出了去相關(guān)局部保持投影算法（RLPP）。在局部保持投影(LPP)算法基礎(chǔ)上，利用遞歸的方法，逐一得到去相關(guān)的鑒別投影

4、。與現(xiàn)有的不相關(guān)局部保持投影不同，所提出的RLPP從另外的角度給出了去相關(guān)鑒別投影的求解方法，這一方法簡(jiǎn)單且有效，可作為其它算法發(fā)展去相關(guān)鑒別投影的借鑒。
　　 (4)提出了基于統(tǒng)一度量的特征抽取與分類器設(shè)計(jì)的一體化框架。從分類器出發(fā)，利用其有效的分類度量，設(shè)計(jì)出與之相匹配的特征抽取算法。以正則化K局部超平面最近距離分類器(RHKNN)為例，我們提出了與RHKNN相匹配的局部鑒別分析算法(HOLDA)。RHKNN+HOLDA作為

5、這一框架下發(fā)展而來的識(shí)別系統(tǒng)，對(duì)整體識(shí)別性能的提高有很大的幫助。
　　 (5)提出了模糊相似近鄰分類器(FSNC)。FSNC引入了“模糊集”理論，從數(shù)據(jù)間的“相似度”出發(fā)，對(duì)未知測(cè)試樣本的類別隸屬度作了具體量化，依據(jù)量化的結(jié)果給出分類的判斷。在“相似近鄰”的尋找上，借助了非負(fù)稀疏表示算法的優(yōu)勢(shì)，自動(dòng)獲取到“相似近鄰”及其“相似度”，這在很大程度上減少了由人為因素對(duì)系統(tǒng)造成的負(fù)面影響，使FSNC的分類結(jié)果更確實(shí)可信。
　　

6、 (6)提出了核Hilbert空間下的正則化線性回歸分類器。算法主要對(duì)線性回歸分類器（LRC）作了以下兩方面的改進(jìn):一是對(duì)其原有的度量作了L1-范數(shù)的正則化處理，使得正則化后的LRC度量更具可靠性，這很好地提高LRC的分類性能;二是對(duì)正則化的LRC作核化拓展，使得在原空間線性不可分的數(shù)據(jù)樣本，在核Hilbert空間下更具可分性。由于對(duì)LRC施加了L1-范數(shù)正則化約束，因此在沒獲得確切投影函數(shù)的基礎(chǔ)上，要完成核化處理，并非件易事。然而，我