基于EP的多分類(lèi)器表決分類(lèi)算法.pdf

1、數(shù)據(jù)挖掘又稱(chēng)數(shù)據(jù)庫(kù)中知識(shí)發(fā)現(xiàn),是從大量數(shù)據(jù)中用非平凡的方法發(fā)現(xiàn)有用的知識(shí).分類(lèi)是數(shù)據(jù)挖掘中的一項(xiàng)非常重要的任務(wù),在商業(yè)、金融、電訊、DNA分析、科學(xué)研究等諸多領(lǐng)域具有廣泛的應(yīng)用.統(tǒng)計(jì)學(xué)、機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等領(lǐng)域的研究者提出了很多分類(lèi)方法,大部分算法是內(nèi)存駐留算法,適用于小型數(shù)據(jù)集.隨著數(shù)據(jù)集的數(shù)據(jù)量和維數(shù)的增加,建立高效的、適用于大型數(shù)據(jù)集的分類(lèi)算法已成為數(shù)據(jù)挖掘的一項(xiàng)挑戰(zhàn)性任務(wù).另一方面,提升(Boosting)與裝袋(Bagging

2、)以及其他基于委員會(huì)的方法能夠顯著改善某些算法的分類(lèi)準(zhǔn)確率.基于委員會(huì)的方法試圖通過(guò)合并多個(gè)弱分類(lèi)器建立一個(gè)有效的委員會(huì)來(lái)構(gòu)造一個(gè)更加有效的分類(lèi)器.以提升和裝袋為代表的組合分類(lèi)方法成為提高某些算法分類(lèi)準(zhǔn)確率的有效方法.但是,現(xiàn)有的組合分類(lèi)方法研究主要使用決策樹(shù)、神經(jīng)網(wǎng)絡(luò)以及貝葉斯方法作為基分類(lèi)器,其他類(lèi)型的分類(lèi)算法還有待進(jìn)一步研究.該文首次提出了建立基于EP的多分類(lèi)器表決分類(lèi)算法的思想.由于采用什么樣的算法建立基分類(lèi)器成為實(shí)現(xiàn)上述思想需

3、要解決的首要問(wèn)題,因此我們又提出了一個(gè)新的基于EP的分類(lèi)算法作為基分類(lèi)器的學(xué)習(xí)算法,即:基于基本顯露模式的分類(lèi)算法(Classification by Essential Emerging Patterns,CEEP).以CEEP算法為基分類(lèi)器學(xué)習(xí)算法,該文進(jìn)一步提出采用自助方式建立多個(gè)并列的基分類(lèi)器,通過(guò)投票表決的方式合并多個(gè)基分類(lèi)器的組織策略,最終實(shí)現(xiàn)了該文提出的算法思想,得到一個(gè)融合了基于EP的分類(lèi)算法和組合分類(lèi)方法兩者優(yōu)勢(shì)的新型

4、的分類(lèi)算法,即:基于EP的多分類(lèi)器表決分類(lèi)算法(Classification by Voting Classifiers based on Essential Emerging Patterns,CVCEEP).CEEP算法采用了一種基于模式樹(shù)(P-樹(shù))的更快速有效算法挖掘eEP,改進(jìn)了已有的同時(shí)使用支持度和增長(zhǎng)率EP的評(píng)分標(biāo)準(zhǔn),提出以增長(zhǎng)率為標(biāo)準(zhǔn)的評(píng)分策略,并且解決了參數(shù)的自適應(yīng)選擇等問(wèn)題,實(shí)驗(yàn)表明CEEP算法具有很好的分類(lèi)性能.因此