基于流形學(xué)習(xí)的數(shù)據(jù)降維技術(shù)研究.pdf

1、自然界中的數(shù)據(jù)大都以高維非結(jié)構(gòu)化的形式存在，信息化技術(shù)的高速發(fā)展使得獲取這些數(shù)據(jù)成為了可能。高維數(shù)據(jù)不僅難以被人們直觀理解，也難以被現(xiàn)有機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘算法有效處理。降維操作已經(jīng)成為處理這些數(shù)據(jù)的一個(gè)重要手段，經(jīng)過幾十年的發(fā)展，降維技術(shù)已經(jīng)取得了長足的進(jìn)步，出現(xiàn)了如PCA、LDA等一系列經(jīng)典方法，但在當(dāng)下的線性與非線性降維領(lǐng)域仍然存在許多具有挑戰(zhàn)性的問題。21世紀(jì)的頭十年里，以ISOMAP、LLE為代表的流形降維方法突發(fā)猛進(jìn)，成為了當(dāng)

2、下最為熱門方向之一。
　　 論文從廣義流形學(xué)習(xí)定義出發(fā)，圍繞線性流形與非線性流形降維算法展開，從全局線性流形降維、全局非線性流形降維、局部非線性流形降維對(duì)流形學(xué)習(xí)算法進(jìn)行了一些研究，主要工作有：
　　 針對(duì)線性判別分析在實(shí)際識(shí)別任務(wù)中計(jì)算消耗大、內(nèi)存需求多，易出現(xiàn)“小樣本問題”的缺點(diǎn)，將傳統(tǒng)線性判別分析的方法放到圖嵌入的框架下進(jìn)行分析，結(jié)合正則化技術(shù)，設(shè)計(jì)了一種圖嵌入正則化的線性判別分析方法。首先構(gòu)造了非監(jiān)督最優(yōu)類可分準(zhǔn)

3、則，通過圖嵌入理論得出一種求解該判別準(zhǔn)則下最優(yōu)投影向量的方法，最后將求解傳統(tǒng)LDA中投影向量的復(fù)雜特征值分解過程轉(zhuǎn)化成為一個(gè)簡單的特征值分解和一個(gè)正則化擬合問題。
　　 針對(duì)局部線性嵌入算法對(duì)近鄰點(diǎn)個(gè)數(shù)的選擇依賴性較強(qiáng)，不適應(yīng)處理稀疏數(shù)據(jù)源的缺點(diǎn)，提出了一種基于幾何距離攝動(dòng)的局部線性嵌入算法。從幾何直觀的角度，提出了一種根據(jù)幾何攝動(dòng)值來判定流形結(jié)構(gòu)上的兩個(gè)點(diǎn)是否處于同一線性平面的方法，根據(jù)這一方法，提出了一種基于幾何攝動(dòng)的分塊算