基于流形學(xué)習(xí)的有監(jiān)督降維方法研究.pdf

1、由于科學(xué)技術(shù)的發(fā)展，高維大規(guī)模的數(shù)據(jù)大量涌現(xiàn)，這些數(shù)據(jù)往往是具有非線(xiàn)性分布結(jié)構(gòu)，如何從這些數(shù)據(jù)中提取有效的信息，顯得尤其重要。因此數(shù)據(jù)降維成為模式識(shí)別中必不可少的步驟。然而傳統(tǒng)的降維方法往往無(wú)法有效的探尋此類(lèi)數(shù)據(jù)中的非線(xiàn)性結(jié)構(gòu)。流形學(xué)習(xí)方法的局部線(xiàn)性和全局非線(xiàn)性的假設(shè)，并且在低維空間中能保持這些結(jié)構(gòu)，從而流形學(xué)習(xí)方法能有效地探測(cè)數(shù)據(jù)內(nèi)部的非線(xiàn)性結(jié)構(gòu)，是數(shù)據(jù)降維和特征提取的一個(gè)研究熱點(diǎn)。本文中我們主要是討論使用流形學(xué)習(xí)方法來(lái)進(jìn)行模式的降維

2、問(wèn)題，針對(duì)傳統(tǒng)的流行學(xué)習(xí)方法沒(méi)有利用標(biāo)簽信息的缺點(diǎn)，提出了兩種基于流形學(xué)習(xí)的有監(jiān)督的維數(shù)約簡(jiǎn)方法，并將這些方法應(yīng)用于人臉數(shù)據(jù)、腫瘤數(shù)據(jù)的分類(lèi)預(yù)測(cè)問(wèn)題中，并取得了較好的分類(lèi)結(jié)果。 全文的主要內(nèi)容概括如下： 1)介紹了維數(shù)約簡(jiǎn)中特征選擇和特征提取兩種主要方法。特征提取是通過(guò)線(xiàn)性變換或非線(xiàn)性變換來(lái)提取需要的特征，這個(gè)過(guò)程有新的特征出現(xiàn)；特征選擇是從原來(lái)特征集中選擇需要的特征子集。此外，從四個(gè)方面分別介紹了現(xiàn)有的幾種典型的流形學(xué)

3、習(xí)算法及其代表：投影法、生成法、嵌入法、公有信息法。 2)介紹三種具有代表性的基于流形學(xué)習(xí)的監(jiān)督降維方法：判別的局部線(xiàn)性嵌入(DLLE)，局部敏感判別分析(LSDA)，邊緣菲舍分析(MFA)。進(jìn)一步介紹了這些算法的線(xiàn)性化，核化，張量化技術(shù)來(lái)處理樣本外點(diǎn)問(wèn)題。最后分析了圖嵌入框架與傳統(tǒng)的降維算法之間的聯(lián)系。 3)針對(duì)現(xiàn)行的基于流形學(xué)習(xí)的降維方法的缺點(diǎn)，提出基于流形學(xué)習(xí)的正交判別投影算法。該算法充分考慮了具有類(lèi)別關(guān)系的鄰域非