局部信息保持投影及應用.pdf

1、在低維空間描述高維數(shù)據(jù)是數(shù)據(jù)分析、模式識別、機器學習、計算機視覺等領域的基礎問題之一。隨著傳感器技術和數(shù)據(jù)采集技術的迅速發(fā)展，實際數(shù)據(jù)的維數(shù)越來越高，如何有效地描述數(shù)據(jù)已成為目前急需要解決和非常活躍的研究方向之一。在已有的眾多方法中，最經(jīng)典且部分得到成功應用的方法是主成分分析(Principal Component Analysis，PCA)。PCA是基于最小均方誤差的特征提取技術，有效地保持了數(shù)據(jù)的全局歐氏距離結構，即差異信息；缺點是

2、不能有效地保持非線性數(shù)據(jù)的差異信息，導致性能比較差。對此，本文從PCA入手，借助流形學習的思想，深入研究了基于圖論的差異信息保持投影，主要內(nèi)容和貢獻如下：
　　 第一，針對PCA不能有效地保持非線性數(shù)據(jù)的局部差異信息，導致性能比較差等問題，提出了局部信息保持投影算法(Local Information Preserving Projection，LIPP)。該算法借助流形學習的思想，在訓練數(shù)據(jù)集上定義一個由頂點和相似矩陣構成的加

3、權鄰接圖，其中頂點是由訓練數(shù)據(jù)構成，相似矩陣度量了頂點之間的差異信息大小。在此基礎上，建立了一個簡明、含義明確的特征提取準則，該準則通過最大化差異離散度尋找投影方向。和傳統(tǒng)的PCA相比，LIPP不僅適用于線性數(shù)據(jù)的描述和分類，而且有效地保持了非線性數(shù)據(jù)的局部差異信息，并取得了不錯的效果。實驗結果證明了所提算法的有效性。
　　 第二，針對LIPP存在小樣本和計算比較復雜等問題，提出了二維局部信息保持投影(two-Dimension

4、al Local Information Preserving Projection，2DLIPP)。該方法借助經(jīng)典的二維特征提取技術如2DPCA，將提出的LIPP算法推廣到二維，有效地避免了將圖像轉換成向量，較好地保持了圖像相鄰像素之間的空間結構信息，同時降低了計算復雜度。和2DPCA相比，2DLIPP不僅適用于線性數(shù)據(jù)的描述和分類，而且有效地保持了非線性數(shù)據(jù)的局部差異信息，并取得了不錯的效果。在Yale，UMIST，AR和ORL等人