基于Tor-r方法的特征選擇算法研究.pdf

1、隨著信息技術(shù)的不斷發(fā)展，信息獲取能力的不斷提高，人們往往需要分析和處理各種高維數(shù)據(jù)，如:海量web數(shù)據(jù)、遙感圖像、微陣列數(shù)據(jù)等等。這些高維數(shù)據(jù)通常會(huì)導(dǎo)致機(jī)器學(xué)習(xí)算法的計(jì)算量成指數(shù)倍增長(zhǎng)，引發(fā)“維數(shù)災(zāi)難”問題，因此對(duì)于高維數(shù)據(jù)的特征選擇問題已成為數(shù)據(jù)挖掘領(lǐng)域的一個(gè)重要課題。通過特征選擇技術(shù)將高維數(shù)據(jù)對(duì)象從高維特征空間映射到低維特征空間，這些低維特征更能體現(xiàn)出數(shù)據(jù)對(duì)象的本質(zhì)含義，同時(shí)又能提高數(shù)據(jù)分析處理的效率。本文以微陣列數(shù)據(jù)為例作為實(shí)驗(yàn)數(shù)

2、據(jù)，對(duì)高維數(shù)據(jù)的特征選擇方法的理論思想和實(shí)際應(yīng)用進(jìn)行了深入研究和探討。主要工作包括以下幾個(gè)方面:
　　提出了一種基于特征相似性的特征選擇算法，首先使用局部標(biāo)準(zhǔn)化信噪比方法剔除無關(guān)特征，然后對(duì)剩余特征進(jìn)行聚類，并將簇中特征數(shù)較少的簇當(dāng)做噪音特征剔除，噪音特征剔除之后，會(huì)得到七個(gè)簇，其中簇內(nèi)特征相互冗余度較高，而簇間特征相互冗余度較低，然后根據(jù)本文提出的評(píng)價(jià)標(biāo)準(zhǔn)，依次對(duì)每個(gè)簇中的每個(gè)特征進(jìn)行評(píng)價(jià)，并決定是否剔除，將最終剩下的特征集合到

3、一起，并按照單獨(dú)分類能力的大小進(jìn)行排序。實(shí)驗(yàn)表明，算法可以很好的剔除無關(guān)特征、噪音特征和冗余特征。
　　分析基于特征相似性的特征選擇算法和Top-r特征選擇算法各自的優(yōu)缺點(diǎn)，然后將這兩種特征選擇算法結(jié)合起來，取長(zhǎng)補(bǔ)短，使得結(jié)合后的新算法不僅可以充分考慮不同特征組合帶來的分類優(yōu)勢(shì)，同時(shí)又能保證算法的執(zhí)行效率較高。新算法首先將特征集合進(jìn)行刪減，得到一個(gè)無關(guān)特征和冗余特征較少的特征子集;然后將該特征子集中相互冗余的特征劃分到不同塊中，相