面向分類器的子空間分析方法研究與應(yīng)用.pdf

1、特征抽取是模式識別中最基本的問題之一。抽取有效的鑒別特征是解決模式識別問題的關(guān)鍵。子空間分析方法因其計算簡單、有效等特性在特征提取領(lǐng)域得到了廣泛應(yīng)用，其本質(zhì)就是把原始的高維樣本數(shù)據(jù)投影到一個更有利于分類的低維特征子空間。目前，絕大多數(shù)的子空間分析方法抽取的是對于模式最具鑒別力的特征。然而，這些特征對于分類器來說并不一定是最具鑒別力的。因此，分類器使用這些特征分類的時候性能會有損失。為了解決這個問題，該文從分類器的分類準則入手，提出了三種

2、面向分類器的子空間分析方法以抽取對于分類器最具有鑒別性的特征，并將提出的算法應(yīng)用于生物特征識別和手寫數(shù)字體識別中。
　　 本文的工作和主要貢獻集中在以下三個方面:
　　 (1)在線性回歸分類器(LRC)的基礎(chǔ)上，從LRC的重構(gòu)策略和分類準則出發(fā)，分析了LRC在什么樣的空間分類時效果最優(yōu)。為了尋找這樣的子空間，提出了重構(gòu)鑒別分析(RDA)并將其應(yīng)用于特征抽取。
　　 本文指出在高維空間中，RDA一般可以抽取N個特征

3、（N為總訓(xùn)練樣本個數(shù)）。同時還從理論上指出了RDA和線性鑒別分析(LDA)一樣，也存在小樣本問題，并給出了解決辦法。在人臉識別和指關(guān)節(jié)識別中的實驗和統(tǒng)計顯著性測試表明，由于RDA是基于LRC的重構(gòu)方法和分類準則而設(shè)計的，LRC在RDA子空間的分類性能和直接使用LRC在原始圖像空間分類性能相比得到顯著提高。而且RDA和LRC組成的識別系統(tǒng)顯著地優(yōu)于其他特征抽取算法和各種分類器的組合。
　　 (2)本文分析了基于稀疏表示的分類器(S

4、RC)和LRC的分類準則，提出了最大化最近子空間邊緣準則(MNSMC)。針對LRC在低維多樣本（樣本維數(shù)較低且數(shù)量較多）情況下無法使用的問題，用脊回歸擴展了LRC，提出了脊回歸分類器(RRC)。
　　 原始圖像空間由于光照、噪聲等因素影響，可能會使得類內(nèi)重構(gòu)誤差大于類間重構(gòu)誤差，從而導(dǎo)致SRC和LRC的誤分類。MNSMC從多子空間的角度，最小化同類最近子空間邊緣的同時最大化異類最近子空間邊緣，有效地解決了SRC和LRC誤分類的問

5、題。和RDA相比，MNSMC避免了小樣本問題，同時可以抽取更多的特征。在人臉識別、指關(guān)節(jié)紋識別和手寫數(shù)字體識別中的實驗表明，MNSMC顯著地提升了LRC和SRC的性能，而且MNSMC與LRC或者MNSMC與SRC組合的性能均優(yōu)于其他特征抽取方法和分類器組合。
　　 (3)基于鑒別局部排列(DLA)和LRC的分類準則，提出了局部重構(gòu)片排列(LRPA)。
　　 DLA算法是一種基于片(patch)的特征提取算法，通過局部最優(yōu)