組特征選擇算法及其應(yīng)用研究.pdf

1、在生物信息學(xué)中，基于基因表達(dá)微陣列數(shù)據(jù)的分類模型以及特征選擇算法已成為機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘領(lǐng)域的研究熱點(diǎn)。由于基因存在共調(diào)控現(xiàn)象，即存在一系列共同發(fā)揮作用的基因，從而導(dǎo)致微陣列數(shù)據(jù)中存在特征組。目前，領(lǐng)域?qū)＜蚁Ｍ軌虬l(fā)現(xiàn)這些相關(guān)基因組成的特征組以進(jìn)行深入研究，因此本文重點(diǎn)研究組特征選擇算法，在降低特征個(gè)數(shù)提高分類精度的同時(shí)，發(fā)現(xiàn)數(shù)據(jù)中存在的關(guān)鍵特征組，為領(lǐng)域?qū)＜姨峁└嗟牡讓訑?shù)據(jù)關(guān)系信息。
　　根據(jù)特征組發(fā)現(xiàn)方式的不同，組特征選擇算

2、法一般分為兩類:顯式組特征選擇和隱式組特征選擇。顯式組特征選擇先根據(jù)一定準(zhǔn)則將特征劃分為若干個(gè)特征組，且組內(nèi)特征彼此高度相關(guān)，然后在特征組的層次上進(jìn)行選擇。隱式組特征選擇則不直接找出特征組，而是根據(jù)其特征選擇的結(jié)果識(shí)別特征組。圍繞上述兩類組特征選擇算法，本文的主要工作如下:
　　1.提出了一個(gè)基于特征聚類的顯式組特征選擇算法FC-gRFE(Feature Clustering based Group SVM-RFE)。該算法首先對(duì)

3、樣本進(jìn)行特征聚類，將每個(gè)聚類看作一個(gè)特征組，然后在特征組的層次上利用SVMRFE進(jìn)行特征選擇，得到最后的組特征選擇結(jié)果?？紤]到樣本個(gè)數(shù)變化對(duì)特征聚類的影響，提出了SW-gRFE算法(Sample Weighting FC-gRFE)，該算法首先根據(jù)樣本重要性計(jì)算樣本權(quán)重，然后在加權(quán)樣本集上進(jìn)行FC-gRFE組特征選擇。微陣列數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，該算法可以在不犧牲分類精度的前提下，有效發(fā)現(xiàn)數(shù)據(jù)中存在的特征組。
　　2.提出了一個(gè)

4、基于改進(jìn)權(quán)重的隱式組特征選擇算法CW-groupS(Coefficient Weight group feature Selection)。該算法首先利用稀疏模型Elastic Net對(duì)每一個(gè)特征在原始訓(xùn)練樣本的特征集上進(jìn)行稀疏編碼，然后根據(jù)這些判別性比原始特征更強(qiáng)的編碼來計(jì)算特征之間的相關(guān)性，最后求解基于特征相關(guān)性加權(quán)的Fused Lasso模型，得到具有組效應(yīng)的稀疏特征系數(shù)，即為組特征選擇結(jié)果。本文利用FISTA算法實(shí)現(xiàn)了CW-gr