基于流形學(xué)習(xí)的有監(jiān)督降維方法研究.pdf

1、由于科學(xué)技術(shù)的發(fā)展，高維大規(guī)模的數(shù)據(jù)大量涌現(xiàn)，這些數(shù)據(jù)往往是具有非線性分布結(jié)構(gòu)，如何從這些數(shù)據(jù)中提取有效的信息，顯得尤其重要。因此數(shù)據(jù)降維成為模式識別中必不可少的步驟。然而傳統(tǒng)的降維方法往往無法有效的探尋此類數(shù)據(jù)中的非線性結(jié)構(gòu)。流形學(xué)習(xí)方法的局部線性和全局非線性的假設(shè)，并且在低維空間中能保持這些結(jié)構(gòu)，從而流形學(xué)習(xí)方法能有效地探測數(shù)據(jù)內(nèi)部的非線性結(jié)構(gòu)，是數(shù)據(jù)降維和特征提取的一個研究熱點。本文中我們主要是討論使用流形學(xué)習(xí)方法來進行模式的降維

2、問題，針對傳統(tǒng)的流行學(xué)習(xí)方法沒有利用標(biāo)簽信息的缺點，提出了兩種基于流形學(xué)習(xí)的有監(jiān)督的維數(shù)約簡方法，并將這些方法應(yīng)用于人臉數(shù)據(jù)、腫瘤數(shù)據(jù)的分類預(yù)測問題中，并取得了較好的分類結(jié)果。 全文的主要內(nèi)容概括如下： 1)介紹了維數(shù)約簡中特征選擇和特征提取兩種主要方法。特征提取是通過線性變換或非線性變換來提取需要的特征，這個過程有新的特征出現(xiàn)；特征選擇是從原來特征集中選擇需要的特征子集。此外，從四個方面分別介紹了現(xiàn)有的幾種典型的流形學(xué)

3、習(xí)算法及其代表：投影法、生成法、嵌入法、公有信息法。 2)介紹三種具有代表性的基于流形學(xué)習(xí)的監(jiān)督降維方法：判別的局部線性嵌入(DLLE)，局部敏感判別分析(LSDA)，邊緣菲舍分析(MFA)。進一步介紹了這些算法的線性化，核化，張量化技術(shù)來處理樣本外點問題。最后分析了圖嵌入框架與傳統(tǒng)的降維算法之間的聯(lián)系。 3)針對現(xiàn)行的基于流形學(xué)習(xí)的降維方法的缺點，提出基于流形學(xué)習(xí)的正交判別投影算法。該算法充分考慮了具有類別關(guān)系的鄰域非