粒子群優(yōu)化加權(quán)隨機森林算法研究.pdf

1、隨機森林(Random Forest，RF)算法是2001年由Breiman提出的一種分類模型。其本質(zhì)是將 Bagging的 Bootstrap Aggregating算法和 Ho的隨機子空間（Random Subspace）算法結(jié)合起來，通過對多棵決策樹分類結(jié)果采取投票選取機制，確定最終的分類結(jié)果。
　　隨機森林算法自提出之后，被廣泛地運用于數(shù)據(jù)挖掘與分類問題，后來還有許多學者對模型做出了改進。隨機森林是一種高效的分類算法，隨機

2、森林模型的優(yōu)點在于它不需要樣本的背景知識，不用做變量選擇，擁有很高的噪聲容忍度，因此可省略數(shù)據(jù)預處理的繁瑣工作。但模型中的投票選取機制會導致一些訓練精度較低的決策樹也擁有相同的投票能力，從而降低投票準確度。而且隨機森林模型中的決策樹棵數(shù)及其它參數(shù)的選取通常對隨機森林的最終分類結(jié)果也有較大的影響。
　　針對那些訓練精度不優(yōu)、投票能力相對較差的決策樹，本文通過對傳統(tǒng)隨機森林算法進行詳細試驗與分析，基本確定了傳統(tǒng)隨機森林算法性能不足的原

3、因：隨機森林投票選取機制會導致一些訓練精度較低的決策樹也擁有相同的投票能力，這對隨機森林最終的分類結(jié)果準確率造成較大的影響。在分類的同時也可能會產(chǎn)生多個類別的最高票數(shù)相同而最終導致難以分類的現(xiàn)象，本文將此現(xiàn)象定義為“死局現(xiàn)象”。
　　為解決低精度決策和高票數(shù)競爭帶來的分類困難，本文以傳統(tǒng)隨機森林模型為基礎提出一種精確度加權(quán)隨機森林算法(Accuracy Weighted Random Forest，AWRF)，即在投票時將每棵決策