基于Spark的一種改進的隨機森林算法研究.pdf

1、隨機森林算法是一種具有優(yōu)秀分類性能的機器學(xué)習(xí)算法，它具有擅長處理大規(guī)模數(shù)據(jù)集、可以處理多達幾千個屬性的數(shù)據(jù)集、需要調(diào)整的參數(shù)少、不會出現(xiàn)過擬合等特點。因此隨機森林算法在各個領(lǐng)域都得到了廣泛的應(yīng)用和發(fā)展，吸引了大量的學(xué)者對其進行改進和研究，并取得了豐碩的成果。但是傳統(tǒng)隨機森林算法在生成隨機森林模型的過程中，一是生成的決策樹模型在分類性能上參差不齊，二是決策樹模型之間會有相關(guān)性，那些分類性能差的決策樹以及相互之間相關(guān)性強的決策樹會對隨機森林

2、模型的整體分類性能產(chǎn)生消極的影響。
　　本研究針對傳統(tǒng)隨機森林的這兩個特性，提出了一種基于分類精度和相似度的改進的隨機森林算法。該算法選用分類性能評價指標AUC值對隨機森林模型中的決策樹模型的分類性能進行評判，選出其中分類性能在設(shè)定閾值之上的決策樹模型；然后對選出的分類性能好的決策樹模型進行相似度計算，得到這些決策樹模型之間的相似度矩陣，因為相似度高的決策樹，他們之間的相關(guān)性就高，所以再根據(jù)相似度矩陣和相似度評判標準對這些決策樹模

3、型進行聚類；最后選出每一個聚類中AUC值最高的決策樹作為這一個聚類的代表，從而組成新的隨機森林模型。通過對心臟病、乳腺癌、Pima印第安人糖尿病和印度肝病等UCI數(shù)據(jù)集的測試結(jié)果表明，本文提出的基于分類精度和相關(guān)性的改進的隨機森林算法比傳統(tǒng)的隨機森林算法在分類精度上有了一定的提升。在MATLAB平臺上對改進的隨機森林算法進行了實現(xiàn)，然后通過設(shè)計實驗在四個UCI數(shù)據(jù)集上對改進的隨機森林算法和傳統(tǒng)的隨機森林算法在分類精度上進行了比較，結(jié)果表