基于流形學(xué)習(xí)的數(shù)據(jù)約簡方法研究與應(yīng)用.pdf

1、隨著信息化技術(shù)的不斷發(fā)展,在大量的科學(xué)研究中,有時(shí)會(huì)遇到具有高維特性的數(shù)據(jù)集,數(shù)據(jù)的高維特性為獲取數(shù)據(jù)內(nèi)在規(guī)律和結(jié)構(gòu)帶來了很大的困難.因此,需要采用適當(dāng)?shù)臄?shù)據(jù)約簡方法對這些數(shù)據(jù)集進(jìn)行約簡處理.數(shù)據(jù)約簡也被稱為維數(shù)約簡或數(shù)據(jù)降維,現(xiàn)有的降維方法對于不同的數(shù)據(jù)集具有不同的處理效果.從數(shù)據(jù)所呈現(xiàn)的結(jié)構(gòu)出發(fā),基于流形學(xué)習(xí)的數(shù)據(jù)約簡方法可以分為兩大類:線性方法和非線性方法.線性降維方法可以對具有線性結(jié)構(gòu)的數(shù)據(jù)集或者高斯數(shù)據(jù)集進(jìn)行有效的處理,非線性

2、降維方法可以對嵌入在高維空間中的數(shù)據(jù)進(jìn)行投影,將其映射到低維空間坐標(biāo)中,從而可以進(jìn)一步探索數(shù)據(jù)的內(nèi)在幾何結(jié)構(gòu).流形學(xué)習(xí)將樣本集內(nèi)的數(shù)據(jù)幾何信息通過運(yùn)用數(shù)據(jù)分析技術(shù)呈現(xiàn)出來,即將高維復(fù)雜的數(shù)據(jù)用簡潔的低維結(jié)構(gòu)來表示.流形學(xué)習(xí)的主要目的是尋求嵌入在高維空間中數(shù)據(jù)的內(nèi)在分布規(guī)律,目前已成為機(jī)器學(xué)習(xí)等相關(guān)領(lǐng)域的研究熱點(diǎn).
　　本文通過對基于流形學(xué)習(xí)的數(shù)據(jù)約簡方法進(jìn)行一定程度的研究,分別從鄰域參數(shù)的選擇、新增數(shù)據(jù)點(diǎn)的處理方面對流形學(xué)習(xí)方法進(jìn)

3、行了研究和詳細(xì)的闡述,將改進(jìn)后的方法有效的應(yīng)用在文本聚類中,并通過實(shí)驗(yàn)驗(yàn)證了方法的有效性和可行性。主要工作總結(jié)如下:
　　1.提出了一種判別鄰域參數(shù)選擇合適性的方法.方法采用核主成分分析方法對數(shù)據(jù)誤差進(jìn)行重構(gòu),然后對重構(gòu)后的數(shù)據(jù)誤差進(jìn)行聚類,根據(jù)聚類的個(gè)數(shù)判斷鄰域選擇的合適性。之所以采用核主成分分析方法是因?yàn)樗鼘儆诜蔷€性方法,是在主成分分析的基礎(chǔ)上產(chǎn)生的,它采用核函數(shù)來代替數(shù)據(jù)向量內(nèi)積,同時(shí)具有主成分分析方法的特性。利用非線性函數(shù)

4、把原始數(shù)據(jù)映射到高維特征空間中進(jìn)行處理,需要進(jìn)行內(nèi)積計(jì)算,通過計(jì)算原始數(shù)據(jù)的核函數(shù)來代替內(nèi)積計(jì)算,那么相應(yīng)的計(jì)算量就會(huì)大大減小.在對誤差進(jìn)行聚類效果的評價(jià)方面,采用AIC信息準(zhǔn)則對聚類個(gè)數(shù)進(jìn)行判斷.當(dāng)數(shù)據(jù)誤差被聚為一類時(shí),則說明所選的鄰域參數(shù)沒有引起誤差結(jié)構(gòu)的變化,此時(shí)鄰域值是合適的;當(dāng)數(shù)據(jù)誤差的聚類的個(gè)數(shù)多于一類時(shí),則說明所選的鄰域參數(shù)導(dǎo)致誤差結(jié)構(gòu)發(fā)生了嚴(yán)重的變化,此時(shí)鄰域值是不合適的.
　　2.探討了一種新的降維方法.從目前的

5、研究來看,局部切空間排列方法使用比較少,經(jīng)過分析可知,之所以研究較少是因?yàn)樵摲椒ㄔ谀承┣闆r下存在一些缺陷.比如,在處理樣本較大的數(shù)據(jù)集的時(shí)候會(huì)出現(xiàn)數(shù)據(jù)內(nèi)在結(jié)構(gòu)扭曲或者不完整現(xiàn)象,由此可知局部切空間排列方法對于新增數(shù)據(jù)樣本點(diǎn)的處理并不是很理想.優(yōu)化的線性判別方法是一種線性降維方法,是將原始線性判別方法中的Fisher準(zhǔn)則進(jìn)行優(yōu)化,使方法執(zhí)行起來更加方便.文中將優(yōu)化的線性判別方法與局部切空間排列方法相結(jié)合,利用經(jīng)過優(yōu)化的Fisher準(zhǔn)則對類

6、內(nèi)和類間投影矩陣進(jìn)行求解變形,最后得到數(shù)據(jù)的最優(yōu)投影矩陣.通過兩種方法的結(jié)合,可以有效的對新增數(shù)據(jù)點(diǎn)進(jìn)行處理.
　　3.探討了基于流形學(xué)習(xí)的降維方法在文本聚類中的應(yīng)用.一般情況下,對文本信息的獲得是通過將文本中出現(xiàn)的詞條信息頻率構(gòu)造成相應(yīng)的矩陣,這些矩陣呈現(xiàn)高維特性。若想進(jìn)一步探究文本數(shù)據(jù)的內(nèi)在規(guī)律,就需要運(yùn)用適當(dāng)?shù)慕稻S方法,近年來數(shù)據(jù)約簡技術(shù)已經(jīng)逐步被應(yīng)用在文本聚類中.文中運(yùn)用基于優(yōu)化線性判別的局部切空間排列方法對高維文本數(shù)據(jù)信