基于流形學(xué)習(xí)的特征提取方法及其應(yīng)用研究.pdf

1、流形學(xué)習(xí)方法已經(jīng)成為當(dāng)前機(jī)器學(xué)習(xí)領(lǐng)域研究的一個(gè)熱點(diǎn)?；诰植烤€性和全局非線性的假設(shè)，流形學(xué)習(xí)方法能有效地探測(cè)非線性數(shù)據(jù)的內(nèi)部結(jié)構(gòu)，并且具有保留這些結(jié)構(gòu)的特點(diǎn)，因此流形學(xué)習(xí)方法是一種有效的數(shù)據(jù)可視化方法。然而，流形學(xué)習(xí)方法作為一種非線性特征提取方法，當(dāng)面臨數(shù)據(jù)分類的任務(wù)時(shí)，卻暴露出諸多缺陷，例如小樣本問(wèn)題、樣本外點(diǎn)學(xué)習(xí)問(wèn)題、噪聲敏感問(wèn)題和數(shù)據(jù)可分性能差等問(wèn)題。為了克服數(shù)據(jù)分類過(guò)程中流形學(xué)習(xí)方法的這些缺點(diǎn)，本文提出了幾種基于流形學(xué)習(xí)的特征提

2、取方法，并建立了一個(gè)廣義的Fisher線性特征提取框架。 全文的主要工作概括如下： (1)在應(yīng)用流形學(xué)習(xí)算法進(jìn)行特征提取之前一個(gè)很重要的任務(wù)就是對(duì)噪聲數(shù)據(jù)進(jìn)行預(yù)處理。本文提出了一種基于魯棒主份量分析(RPCA)的去噪方法。首先通過(guò)魯棒主分量分析和循環(huán)賦權(quán)最小均方(IRLS)算法對(duì)數(shù)據(jù)點(diǎn)賦權(quán)；然后由箱(BOX)統(tǒng)計(jì)方法對(duì)這些權(quán)值進(jìn)行分析，以識(shí)別其中的噪聲點(diǎn)和干凈點(diǎn)；最后，對(duì)去掉噪聲后的數(shù)據(jù)采用流形學(xué)習(xí)方法進(jìn)行映射。

3、 (2)局部線形嵌入(LLE)算法是一種經(jīng)典的流形學(xué)習(xí)算法，它通過(guò)保持近鄰點(diǎn)之間的最小重構(gòu)權(quán)值不變，將原始數(shù)據(jù)點(diǎn)投影到低維空間。LLE算法有一個(gè)特點(diǎn)，即近鄰點(diǎn)間的最小重構(gòu)誤差是旋轉(zhuǎn)、平移和比例不變的，利用平移和比例不變特性可以提高嵌入結(jié)果的判別能力。因此提出一種名為局部線性判別嵌入(LLDE)的新方法來(lái)提高LLE算法的分類能力，并且可以通過(guò)一種改進(jìn)的最大邊緣標(biāo)準(zhǔn)(MMMC)自動(dòng)得到最佳的線性平移和比例變換。最后在人臉和基因表達(dá)數(shù)據(jù)上的實(shí)

4、驗(yàn)結(jié)果證實(shí)了LLDE算法的有效性。 (3)在實(shí)際應(yīng)用中，數(shù)據(jù)分類問(wèn)題可以看作是一個(gè)面向分類的多子流形學(xué)習(xí)問(wèn)題。對(duì)于多子流形學(xué)習(xí)問(wèn)題，提出了一種以保留數(shù)據(jù)的局部結(jié)構(gòu)為約束條件，使子流形之間的差異最大為目標(biāo)函數(shù)的模型，該模型被稱為約束最大差異映射算法(CMVM)。CMVM是通過(guò)線性變換找到一個(gè)最佳子空間，使不同子流形數(shù)據(jù)更分散、同一流形數(shù)據(jù)更緊密。在人臉和手寫體數(shù)字上的實(shí)驗(yàn)表明CMVM是一種有效的特征提取方法。 (4)目前大