基于譜正則化的線性降維方法研究.pdf

1、基于線性變換的特征提取一直是模式識別領(lǐng)域研究的重點,有著許多被廣泛應(yīng)用且被證明有效的方法。其中的主成分分析(PCA)和線性判別分析(LDA)經(jīng)常被用于特征降維。本文的研究重點也是基于這兩種方法所展開。
　　 本文針對由于有限樣本可能引起的小特征值對PCA結(jié)果的影響,將正則化技術(shù)應(yīng)用到PCA中,提出了一種基于譜正則化的PCA,即ER-PCA,通過對其特征譜的正則化,降低了小特征值的影響。在人臉圖像庫和部分UCI數(shù)據(jù)集上進(jìn)行的實驗,

2、證明了該方法的有效性。經(jīng)典LDA方法經(jīng)過特征提取后,產(chǎn)生的投影空間維數(shù)受限于樣本的類別數(shù),一般為類別數(shù)C減一。而且,LDA假設(shè)各類樣本是滿足高斯分布的,對于實際情況中的非高斯分布的數(shù)據(jù),LDA分類效果不一定好?；诖?本文對原類內(nèi)散布矩陣和類間散布矩陣進(jìn)行了重新定義,其中引入了κ近鄰(κ-NN)思想,希望依據(jù)樣本的κ近鄰來反映樣本的分布,提出了一種基于樣本κ近鄰關(guān)系的LDA,即KNN-LDA。最后,通過在兩個手寫體數(shù)據(jù)集上的實驗,可以看