選擇性集成學(xué)習(xí)及其應(yīng)用研究.pdf

1、集成學(xué)習(xí)是一種機(jī)器學(xué)習(xí)范式。相對傳統(tǒng)的單個分類器，通過組合多個分類器，集成學(xué)習(xí)能顯著地提高分類器的泛化能力。目前，集成學(xué)習(xí)在疾病診斷、生物特征識別、文本分類和信息處理等領(lǐng)域獲得了廣泛應(yīng)用。作為集成學(xué)習(xí)的一個研究方向，選擇性集成學(xué)習(xí)試圖從已有的個體學(xué)習(xí)機(jī)中剔除一些性能不佳的，從而獲得更好的集成性能。然而，在選擇性集成系統(tǒng)中如何選取基分類器，確定最優(yōu)分類器組合等，仍需進(jìn)一步深入研究。論文研究對提高集成系統(tǒng)性能，促進(jìn)集成學(xué)習(xí)在實際中應(yīng)用，具有

2、重要的理論與現(xiàn)實意義。
　　論文從集成學(xué)習(xí)基礎(chǔ)理論、集成方法、選擇性集成及應(yīng)用等方面進(jìn)行研究，重點研究了集成學(xué)習(xí)中基分類器選取問題，主要研究內(nèi)容和工作成果如下：
　　1、對集成學(xué)習(xí)理論進(jìn)行了深入分析，研究了集成學(xué)習(xí)理論基礎(chǔ)，基分類器產(chǎn)生、基分類器融合方式及集成性能評價指標(biāo)。考慮到實際應(yīng)用數(shù)據(jù)復(fù)雜性，研究了數(shù)據(jù)預(yù)處理、歸一化、降維及不平衡數(shù)據(jù)處理方法，為后續(xù)研究奠定基礎(chǔ)。
　　2、集成學(xué)習(xí)因其顯著提高一個學(xué)習(xí)系統(tǒng)的泛化能

3、力而得到機(jī)器學(xué)習(xí)界的廣泛關(guān)注。以決策樹分類方法為基礎(chǔ)，運(yùn)用Bagging算法，結(jié)合醫(yī)療疾病數(shù)據(jù)，構(gòu)建基于Bagging的決策樹集成診斷模型。對比集成學(xué)習(xí)模型與單一決策樹模型的診斷性能，實驗結(jié)果驗證了集成學(xué)習(xí)診斷方法具有更好的泛化能力。
　　3、基分類器的準(zhǔn)確率與多樣性在集成學(xué)習(xí)機(jī)的構(gòu)建中起著至關(guān)重要的作用。針對基分類器選取問題，提出了一種兼顧準(zhǔn)確率和多樣性的BAD（Balancing Accuracy and Diversity）