面向不平衡數(shù)據(jù)的結(jié)構(gòu)化支持向量機(jī)集成方法研究.pdf

1、不平衡數(shù)據(jù)在實(shí)際應(yīng)用中廣泛存在,如何從不平衡數(shù)據(jù)中學(xué)習(xí)并獲得分類器成為了當(dāng)前機(jī)器學(xué)習(xí)研究領(lǐng)域的一個熱點(diǎn)。該方面的研究已經(jīng)取得了一定的成果,并在入侵檢測、信用卡交易和基因編碼信息發(fā)現(xiàn)等應(yīng)用領(lǐng)域得到了廣泛的應(yīng)用。
　　 已有的針對均衡數(shù)據(jù)或代價不敏感的分類器評價準(zhǔn)則對不平衡數(shù)據(jù)不再適合,因?yàn)椴黄胶鈹?shù)據(jù)的分類器更關(guān)注少數(shù)的分類精度。針對不平衡數(shù)據(jù)的分類問題,研究者側(cè)重從數(shù)據(jù)層面、算法層面和評價準(zhǔn)則等三個方面展開研究,取得了一定的進(jìn)展。

2、在已有的針對不平衡數(shù)據(jù)的分類學(xué)習(xí)方法中,支持向量機(jī)(SVM)的變種成了主流的方法之一,如:結(jié)構(gòu)化不平衡支持向量機(jī)(StASVM),該模型是在不平衡支持向量機(jī)(ASVM)的基礎(chǔ)上,引入數(shù)據(jù)類內(nèi)結(jié)構(gòu)先驗(yàn)信息,有效地提高了分類器的性能。本文以StASVM模型為基礎(chǔ),結(jié)合集成學(xué)習(xí)方法,提出了基于結(jié)構(gòu)化支持向量機(jī)的集成學(xué)習(xí),主要工作如下:
　　 1.提出了基于StASVM的集成算法(EStASVM)。對大類樣本進(jìn)行聚類并進(jìn)行基于聚類的欠采

3、樣,進(jìn)而構(gòu)建多個子分類器,從而設(shè)計出子分類器的集成算法,其中欠采樣可有效地降低類別的不平衡性。實(shí)驗(yàn)表明,集成方法能夠有效地提高算法的穩(wěn)定性和分類性能。
　　 2.提出了基于隨機(jī)子空間、特征選擇和StASVM的集成算法(RsStASVM)。該算法為從數(shù)據(jù)集的特征空間隨機(jī)采樣出發(fā),生成多個新的樣本特征空間,進(jìn)而誘導(dǎo)出多個子分類器,從而設(shè)計出子分類器的集成算法。實(shí)驗(yàn)表明,該方法對不平衡數(shù)據(jù)的分類,尤其能有效改進(jìn)高維數(shù)據(jù)的分類性能。