基于流形的降維方法及其在計算機視覺中的應用.pdf

1、真實世界應用中的許多高維數(shù)據(jù)都能被建模成為位于低維的線性/非線性流形附近的數(shù)據(jù)點。以圖像數(shù)據(jù)集為例，數(shù)據(jù)集中的潛在變化對應于諸如物體姿態(tài)、光照或人臉表情等等的連續(xù)物理變化。從那些流形上帶噪聲采樣得來的數(shù)據(jù)點中發(fā)現(xiàn)流形的結構，是非監(jiān)督學習中非常具有挑戰(zhàn)性的問題。近年來，人機交互方面與流形相關的方法已經(jīng)成為了日益熱點的研究領域。 真實世界的流形也與人的視覺感知密切相關。人工神經(jīng)網(wǎng)絡是對真實世界流形進行建模和解釋的強有力工具。通過操縱

2、所學習到流形的低維自由參數(shù)，我們還能夠合成或者估計出我們所期望的真實世界數(shù)據(jù)。這種學習和合成的雙向(“bi-directional”)過程與典型的人類認知行為非常近似。在人類的行為中通常都是從無組織的觀察中學習，然后使用學習到的知識去推測未知的事物。 傳統(tǒng)的降維方法如主元分析(PCA)受制于它的線性性質。其他的方法，包括自組織圖、流形學習和核方法等，被提出來處理低維流形的非線性性質。但是這些方法又有他們自身的局限。本文的方法從那

3、些前人的工作中受到啟發(fā)并且進行了改進。按照所描述的潛在低維結構復雜程度遞增的順序，本文的主要貢獻如下： 1.提出了一種新的基于自相關矩陣的均值更新增量主元分析算法。這種方法在使用了在輸入數(shù)據(jù)表示上的兩個變換。更新的特征子空間進行重新居中，而無需重新計算舊數(shù)據(jù)的自相關矩陣。舊信息所需的存儲空間和自相關矩陣的維數(shù)保持恒定，而不是隨著輸入數(shù)據(jù)的總數(shù)增加。在更新完成后不需要存儲舊的數(shù)據(jù)。與目前已有的方法比較，本文提出的方法對于視覺中，要

4、求更低計算時間的子空間學習和識別任務是一個好的選擇。 2.提出了一種新的計算高效的局部主元分析算法來結合NGAS-PCA和PCA-SOM的優(yōu)點。每一個局部單元都有與之對應的平均向量和協(xié)方差矩陣。算法中使用的新的競爭度量隱式地結合了重構誤差和輸入數(shù)據(jù)到單元中心的距離。在該算法中，數(shù)據(jù)分布的學習過程中消除了額外的主元空間更新步驟。該模型適用于非線性的模式學習和回憶。在算法訓練過程完成之后，數(shù)據(jù)分布被表示成為了一系列的局部線性單元。并

5、且在這種模式表示中不需要關于最優(yōu)主元空間的先驗信息。 3.提出了一種新的變形模型，即泛化的拓撲保持自組織圖(gTPSOM)，來將拓撲保持的自組織映射機制引入神經(jīng)元競爭的變形模型。這種模型是從視覺感應自組織圖(ViSOM)中獲得啟發(fā)。在ViSOM中，數(shù)據(jù)的映射在神經(jīng)元圖上同時保持了輸入數(shù)據(jù)點之間的距離和整個輸入空間的拓撲結構。本文提出的gTPSOM模型由對局部邊界變化施加約束的自適應力場來并行驅動的。算法通過區(qū)域輔助的活動輪廓(R

6、egionAidedActiveContour)和水平集(LevelSets)方法來實現(xiàn)。gTPSOM模型適用于精確的邊界檢測和具有較強邊界強度起伏的復雜形狀恢復。 4.提出了一種基于流形的新方法來建一個輸入空間和特征空間之間的非線性映射，從而不再孤立的考慮流形的學習和合成。這個非線性映射是由在輸入空間中建立局部生成單元模型并且在特征空間中構建全局仿射變換來實現(xiàn)的。這種形式的方法導致樣本外數(shù)據(jù)點在輸入空間和特征空間之間來回轉換可