基于譜正則化的線性降維方法研究.pdf

1、基于線性變換的特征提取一直是模式識別領域研究的重點,有著許多被廣泛應用且被證明有效的方法。其中的主成分分析(PCA)和線性判別分析(LDA)經常被用于特征降維。本文的研究重點也是基于這兩種方法所展開。
　　 本文針對由于有限樣本可能引起的小特征值對PCA結果的影響,將正則化技術應用到PCA中,提出了一種基于譜正則化的PCA,即ER-PCA,通過對其特征譜的正則化,降低了小特征值的影響。在人臉圖像庫和部分UCI數(shù)據集上進行的實驗,

2、證明了該方法的有效性。經典LDA方法經過特征提取后,產生的投影空間維數(shù)受限于樣本的類別數(shù),一般為類別數(shù)C減一。而且,LDA假設各類樣本是滿足高斯分布的,對于實際情況中的非高斯分布的數(shù)據,LDA分類效果不一定好?；诖?本文對原類內散布矩陣和類間散布矩陣進行了重新定義,其中引入了κ近鄰(κ-NN)思想,希望依據樣本的κ近鄰來反映樣本的分布,提出了一種基于樣本κ近鄰關系的LDA,即KNN-LDA。最后,通過在兩個手寫體數(shù)據集上的實驗,可以看