利用PCA和AdaBoost建立基于貝葉斯的組合分類器.pdf

1、分類作為數(shù)據(jù)挖掘的重要分支，已經(jīng)有很多成熟的技術(shù)被廣泛應(yīng)用于醫(yī)療、商業(yè)、金融、電訊、科學(xué)研究等眾多領(lǐng)域。分類作為數(shù)據(jù)挖掘領(lǐng)域研究的核心課題之一，如何有效地提高分類準(zhǔn)確率一直是眾多研究者們努力的方向。作為提高弱分類器的有效方法，組合分類方法倍受青睞，現(xiàn)在組合分類方法已成為研究的熱點(diǎn)之一。
　　 組合分類方法是從機(jī)器學(xué)習(xí)領(lǐng)域逐漸發(fā)展而來(lái)的用于提升弱分類器準(zhǔn)確率的技術(shù)，被認(rèn)為是近十年來(lái)提出的最有效的學(xué)習(xí)思想之一。目前組合分類器仍是機(jī)器

2、學(xué)習(xí)和模式識(shí)別方面研究的活躍領(lǐng)域之一。
　　 本文我們介紹了幾種常見的分類方法，其中較多的介紹了貝葉斯分類方法，分析表明，貝葉斯分類算法具有良好的分類性能，尤其是應(yīng)用于大型數(shù)據(jù)集，貝葉斯分類算法能夠表現(xiàn)出高準(zhǔn)確度和高速度；接著我們?cè)敿?xì)的介紹了旋轉(zhuǎn)森林和AdaBoost兩種組合分類方法，分析了兩種算法各自的特點(diǎn)，綜合兩種組合算法的特點(diǎn)再加上貝葉斯的快速準(zhǔn)確分類的特點(diǎn)，我們提出了一種融合兩種組合方法優(yōu)點(diǎn)并且基于貝葉斯的新的組合分類算

3、法。
　　 本文的主要工作是：在創(chuàng)建訓(xùn)練樣本時(shí)，隨機(jī)地將特征集劃分成K個(gè)子集，使用PCA得到每個(gè)子集的主成分，形成新的特征空間，并將全部的訓(xùn)練數(shù)據(jù)映射到新的特征空間作為新的訓(xùn)練集。通過(guò)不同的變換，生成不同的特征空間，從而產(chǎn)生若干個(gè)有差異的訓(xùn)練集。然后在每一個(gè)新的訓(xùn)練集上利用AdaBoost建立一組基于貝葉斯的逐漸提升的分類器(即一個(gè)分類器組)，這樣就建立了若干個(gè)有差異的分類器組，然后在每個(gè)分類器組內(nèi)部通過(guò)加權(quán)投票產(chǎn)生一個(gè)預(yù)測(cè)，再