集成異種分類(lèi)器分類(lèi)稀有類(lèi).pdf

1、對(duì)于許多實(shí)際應(yīng)用，稀有類(lèi)分類(lèi)問(wèn)題都非常重要。而稀有類(lèi)樣本的數(shù)量稀少使得很難使用傳統(tǒng)的分類(lèi)器對(duì)它們準(zhǔn)確分類(lèi)。由于稀有類(lèi)問(wèn)題的特殊性、復(fù)雜性及難解性，目前研究稀有類(lèi)問(wèn)題的專(zhuān)用算法不多。 本文主要研究集成異種分類(lèi)器分類(lèi)稀有類(lèi)問(wèn)題。由于數(shù)據(jù)的高度傾斜，很多傳統(tǒng)分類(lèi)算法在稀有類(lèi)上效果不佳。本文使用一種新的集成方法，稱(chēng)為EDKC(Ensemble of Different Kind of Classifiers)，用來(lái)分類(lèi)稀有類(lèi)。EDKC集

2、成不同的分類(lèi)器形成組合分類(lèi)器，并且通過(guò)加權(quán)投票表決對(duì)未知樣本進(jìn)行分類(lèi)。在UCI機(jī)器學(xué)習(xí)數(shù)據(jù)庫(kù)的多個(gè)稀有類(lèi)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，EDKC對(duì)稀有類(lèi)分類(lèi)不僅具有較高的F-度量值，能達(dá)到目標(biāo)類(lèi)召回率和精度的平衡，而且能夠取得很高的分類(lèi)準(zhǔn)確率。 集成學(xué)習(xí)方法是從機(jī)器學(xué)習(xí)領(lǐng)域逐漸發(fā)展起來(lái)的用于提升弱分類(lèi)器分類(lèi)準(zhǔn)確率的技術(shù)，被認(rèn)為是近十年來(lái)提出的最有效的學(xué)習(xí)思想之一。與單個(gè)算法相比，集成學(xué)習(xí)不容易出現(xiàn)過(guò)適應(yīng)現(xiàn)象。本文使用一種新的集成技術(shù)，它

3、不同于bagging和boosting集成技術(shù)，因?yàn)樗鼈冎荒芗捎孟嗤诸?lèi)算法建立的分類(lèi)器；而這種新的集成技術(shù)可以集成不同分類(lèi)算法建立的分類(lèi)器。所以這種集成技術(shù)更能綜合多種分類(lèi)模型的優(yōu)點(diǎn)，得到更好的分類(lèi)效果。 集成的基礎(chǔ)是多種分類(lèi)算法在數(shù)據(jù)集上的誤分類(lèi)樣本不同，但是我們進(jìn)一步研究發(fā)現(xiàn)，數(shù)據(jù)集中有一些樣本，是多種分類(lèi)器都不能正確分類(lèi)的。數(shù)據(jù)集中一些多個(gè)分類(lèi)算法都不能正確分類(lèi)的樣本對(duì)分類(lèi)算法建立分類(lèi)模型時(shí)存在不利影響，本文中稱(chēng)這些不