基于粗糙集的不平衡數(shù)據(jù)采樣方法研究.pdf

1、不平衡數(shù)據(jù)分類問(wèn)題是機(jī)器學(xué)習(xí)領(lǐng)域里一個(gè)重要的研究?jī)?nèi)容。在不平衡數(shù)據(jù)中，樣本在各個(gè)類別之間地分布是不平衡的。由于少數(shù)類樣本數(shù)量稀少，用傳統(tǒng)的機(jī)器學(xué)習(xí)方法在應(yīng)對(duì)不平衡數(shù)據(jù)分類問(wèn)題時(shí)會(huì)出現(xiàn)分類結(jié)果更多傾向于多數(shù)類，而少數(shù)類樣本的識(shí)別準(zhǔn)確率不高，對(duì)少數(shù)類樣本識(shí)別困難。為提高少數(shù)類樣本的識(shí)別率，研究人員在不同層面提出了解決辦法，其中通過(guò)采樣改變數(shù)據(jù)不平衡度從而改善少數(shù)類識(shí)別率的方法取得了比較廣泛地應(yīng)用，這其中最具代表性的算法就是SMOTE智能過(guò)采

2、樣算法。但是，SMOTE采樣算法不加區(qū)分地對(duì)所有少數(shù)類樣本采樣，其采樣范圍過(guò)廣。雖然能夠達(dá)到提高少數(shù)類識(shí)別率的目的，但同時(shí)多數(shù)類的決策空間被新樣本壓縮，其識(shí)別率降低較大。因此采樣前對(duì)需要采樣的少數(shù)類樣本進(jìn)行篩選，研究有針對(duì)性的過(guò)采樣方法很有必要。
　　鄰域粗糙集模型將粗糙集理論應(yīng)用到鄰域系統(tǒng)中，該模型以樣本點(diǎn)及其鄰域半徑為基礎(chǔ)，可以很容易得出整個(gè)不平衡數(shù)據(jù)集在特征空間的分布狀態(tài)，如果能夠把它應(yīng)用到SMOTE采樣算法中，則可能得到采

3、樣效果更好的采樣方法。本文結(jié)合鄰域粗糙集模型，開(kāi)展了基于鄰域粗糙集的采樣方法的研究。首先，根據(jù)鄰域粗糙集模型的理論，計(jì)算每個(gè)樣本的鄰域半徑以及鄰域，根據(jù)其鄰域內(nèi)的樣本分布將不平衡數(shù)據(jù)集進(jìn)行劃分并得到屬于邊界域的少數(shù)類樣本集與屬于正域的多數(shù)類樣本集。在此基礎(chǔ)上，結(jié)合SMOTE采樣算法，提出了基于鄰域粗糙集的邊界采樣算法，即NRSBoundary-SMOTE算法。算法對(duì)邊界域內(nèi)少數(shù)類樣本進(jìn)行過(guò)采樣，同時(shí)將合成樣本與正域內(nèi)的多數(shù)類樣本進(jìn)行比較

4、，若合成樣本屬于某個(gè)正域內(nèi)多數(shù)類樣本的鄰域，則進(jìn)行重采樣，否則將合成樣本加入到訓(xùn)練集中。其次，在將NRSBoundary-SMOTE算法應(yīng)用到大數(shù)據(jù)集上時(shí)出現(xiàn)了運(yùn)行時(shí)間過(guò)長(zhǎng)，執(zhí)行效率過(guò)低的問(wèn)題。因此本文結(jié)合MapReduce編程范式，提出了基于鄰域粗糙集的并行邊界采樣算法，即 Parallel-NRSBoundary-SMOTE。算法通過(guò)將數(shù)據(jù)集劃分的過(guò)程與采樣過(guò)程進(jìn)行并行化，降低了算法的時(shí)間復(fù)雜度，有效改善在大數(shù)據(jù)上的計(jì)算效率。