高維數(shù)據(jù)的維數(shù)約簡算法研究.pdf

1、在這個“信息爆炸”的時(shí)代，人類常常要面臨分析和處理各種數(shù)據(jù)信息的要求，如海量web數(shù)據(jù)、大規(guī)模數(shù)據(jù)庫文本、大量遙感圖像等，這就對統(tǒng)計(jì)學(xué)、模式識別、人工智能、數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)等相關(guān)學(xué)科領(lǐng)域的發(fā)展提出了挑戰(zhàn)。這些數(shù)據(jù)不僅呈幾何級數(shù)式增長，而且現(xiàn)實(shí)中通常是高維的。這些高維數(shù)據(jù)常常會引發(fā)所謂的“維數(shù)災(zāi)難”，一方面，它們通常是稀疏的、冗余的，容易掩蓋數(shù)據(jù)的真實(shí)結(jié)構(gòu)，甚至?xí)?dǎo)致錯誤的分析處理結(jié)果；另一方面，它們增加了分析處理數(shù)據(jù)的負(fù)擔(dān)。作為解決“

2、維數(shù)災(zāi)難”的有效途徑，維數(shù)約簡發(fā)展成為一個重要的研究課題，它將數(shù)據(jù)從高維特征空間約簡到低維特征空間，約簡后的特征空間更能體現(xiàn)數(shù)據(jù)的本質(zhì)結(jié)構(gòu)，并且提高了數(shù)據(jù)的分析處理效率。本文對維數(shù)約簡的理論方法和實(shí)際應(yīng)用進(jìn)行了深入的研究，主要工作概括如下：
　　 1．提出一種動態(tài)尋優(yōu)子空間方法。該方法是通過尋找平衡主成分分析(PCA)和最大邊緣準(zhǔn)則(MMC)目標(biāo)函數(shù)的最佳系數(shù)來實(shí)現(xiàn)的，它的目的是使得PCA尋找代表原始數(shù)據(jù)結(jié)構(gòu)的線性投影方向時(shí)，能

3、夠更多地考慮判別信息，同時(shí)也使得MMC在尋找實(shí)現(xiàn)約簡特征維數(shù)和提取分類信息的線性投影方向時(shí)，能夠更好地表達(dá)樣本的原始數(shù)據(jù)結(jié)構(gòu)。另外，不同的數(shù)據(jù)，甚至是同種數(shù)據(jù)不同條件下，會有不同的結(jié)構(gòu)特點(diǎn)，因此應(yīng)該根據(jù)數(shù)據(jù)的結(jié)構(gòu)特點(diǎn)來選擇算法，而該方法很好地滿足了這個要求。使用基因微陣列數(shù)據(jù)的腫瘤分類實(shí)驗(yàn)證明了，這種新的特征提取方法是有效的、穩(wěn)定的。
　　 2．提出一種基于稀疏表示的無監(jiān)督特征選擇算法--稀疏評分(SS)。稀疏表示雖然屬于全局性

4、的方法，卻含有天然的判別性和局部性，這就使得SS不僅具有較強(qiáng)的判別能力，還有局部結(jié)構(gòu)保持能力和一定的全局結(jié)構(gòu)保持能力。另外，SS所選取的特征方差比較大，即信息含量比較大。人臉圖像的聚類實(shí)驗(yàn)結(jié)果顯示，SS對特征重要性的評價(jià)效果明顯優(yōu)于方差評分(VS)和拉普拉斯評分(LS)這兩種特征選擇算法。
　　 3．提出一種基于低秩表示的監(jiān)督特征提取算法--低秩表示判別投影(LRDP)。基于低秩表示，LRDP擁有良好的數(shù)據(jù)全局結(jié)構(gòu)表達(dá)能力和一定

5、的判別結(jié)構(gòu)表達(dá)能力，另外，LRDP依據(jù)SRC決策準(zhǔn)則，使得它擁有良好的判別性能。人臉圖像的分類實(shí)驗(yàn)結(jié)果顯示，LRDP的性能要優(yōu)于其它一些特征提取算法，包括主成分分析(PCA)、線性判別分析(LDA)和稀疏保持投影(SPP)。
　　 4．以本體理論為依據(jù)，提出一種基于農(nóng)業(yè)本體的農(nóng)業(yè)文本特征優(yōu)化方法。首先進(jìn)行特征映射，即用農(nóng)業(yè)本體的概念取代向量空間模型的術(shù)語，概念頻率權(quán)重由術(shù)語頻率權(quán)重統(tǒng)計(jì)得到。其次進(jìn)行特征加權(quán)，即根據(jù)農(nóng)業(yè)本體的概念