隨機(jī)森林算法處理不平衡數(shù)據(jù)的改進(jìn)及其并行化.pdf

1、隨機(jī)森林(Random Forest)是用隨機(jī)的方式建立一個(gè)森林，森林里面有很多的決策樹組成，隨機(jī)森林的每一棵決策樹之間是沒有關(guān)聯(lián)的.每一棵決策樹的建立，采用的是隨機(jī)有放回采樣的過程，然后使用投票的形式進(jìn)行分類和預(yù)測(cè).該算法很好的解決了單分類器在性能上的瓶頸，因此被廣泛應(yīng)用在很多方面.當(dāng)然，該算法也存在一些有待完善的地方，針對(duì)隨機(jī)森林算法在處理不平衡數(shù)據(jù)集時(shí)運(yùn)行效率低下的問題，本文提出一種新的處理不平衡問題的方法，同時(shí)隨著計(jì)算量呈現(xiàn)指數(shù)

2、值的增長，如何提高預(yù)測(cè)速度和縮短運(yùn)行時(shí)間，本文根據(jù)隨機(jī)森林算法在構(gòu)建過程中的特點(diǎn)提出了并行化的思想.本文在詳細(xì)參考國內(nèi)外文獻(xiàn)的基礎(chǔ)上，主要從兩個(gè)方面對(duì)隨機(jī)森林進(jìn)行優(yōu)化.
　　一、對(duì)數(shù)據(jù)預(yù)處理的研究，提出一種新的數(shù)據(jù)預(yù)處理方法.
　　針對(duì)隨機(jī)森林算法在處理不平衡數(shù)據(jù)集方面的缺點(diǎn)和SMOTE算法在選取樣本時(shí)存在一定的盲目性和容易邊緣化的問題，本文結(jié)合K-means算法，在SMOTE算法的基礎(chǔ)上，提出一種K SMOTE算法.K S

3、MOTE的主要思想是首先利用K-means方法找出原始負(fù)類的中心點(diǎn)，再根據(jù)SMOTE得出“新增負(fù)類”，將原始數(shù)據(jù)集中的負(fù)類全部替換為“新增負(fù)類”，再次利用SMOTE得出“新數(shù)據(jù)集”.實(shí)驗(yàn)結(jié)果表明該方法在隨機(jī)森林算法上分類性能得到提升.
　　二、基于Mapreduce框架的隨機(jī)森林算法并行化研究.
　　隨著現(xiàn)代社會(huì)數(shù)據(jù)量呈指數(shù)增長，運(yùn)用隨機(jī)森林算法進(jìn)行分類，不但需要花費(fèi)大量的時(shí)間，而且分類性能也低下.在此背景下，本文根據(jù)隨機(jī)森