綜合過采樣和欠采樣的不平衡數(shù)據(jù)集的學(xué)習(xí)研究.pdf

1、不平衡數(shù)據(jù)學(xué)習(xí)已經(jīng)逐漸成為當(dāng)前機(jī)器學(xué)習(xí)領(lǐng)域研究熱點(diǎn)之一。在解決不平衡數(shù)據(jù)集的學(xué)習(xí)分類的問題時(shí)，需要盡可能大的提高分類器對少數(shù)類的預(yù)測精度，而且也要保證分類器的分類精度受到特別大的影響。
　　本課題在對不平衡數(shù)據(jù)的特殊性的研究基礎(chǔ)上，結(jié)合實(shí)際數(shù)據(jù)集中數(shù)據(jù)分布特性和數(shù)據(jù)各個(gè)屬性的在分類過程中的作用，對目前常用于不平衡數(shù)據(jù)的重采樣方法進(jìn)行改進(jìn)，有效的解決存在于傳統(tǒng)方法中的不足，得到了新的重采樣方法。為了確保對少數(shù)類的識別性能，對集成分類

2、器進(jìn)行相應(yīng)的改進(jìn)，最終得到一個(gè)針對不平衡數(shù)據(jù)集的完整的分類學(xué)習(xí)系統(tǒng)。
　　首先，本課題提出了一種針對不平衡數(shù)據(jù)集的基于數(shù)據(jù)密度分布的欠采樣方法。該算法引入數(shù)據(jù)密度的概念，并以此將多數(shù)類數(shù)據(jù)劃分為高密度數(shù)據(jù)簇和低密度數(shù)據(jù)簇，針對不同密度的數(shù)據(jù)簇，執(zhí)行不同的重采樣策略，以達(dá)到改善數(shù)據(jù)平衡度的目的。實(shí)驗(yàn)通過選取6組 UCI數(shù)據(jù)集進(jìn)行驗(yàn)證，選取 C4.5、SVM作為分類器，將該方法與隨機(jī)欠采樣、KNN-NearMiss等方法進(jìn)行比較，實(shí)驗(yàn)

3、結(jié)果表明，該方法對不平衡數(shù)據(jù)分類有較好的效果，能有效提升分類器對少數(shù)類的識別性能。
　　其次，該方法通過研究不同屬性對少數(shù)類樣本識別的不同作用，將屬性劃分為顯性屬性、隱性屬性。顯性屬性偏向于少數(shù)類，為少數(shù)類樣本的識別提供可靠、充分的信息，隱形屬性偏向于多數(shù)類，對少數(shù)類的識別形成干擾。因此,針對不同屬性，采用不同復(fù)制策略，最終實(shí)現(xiàn)對合成少數(shù)類樣本的樣本質(zhì)量提升。通過選取6組UCI數(shù)據(jù)集，與SMOTE、隨機(jī)過采樣等方法進(jìn)行比較，實(shí)驗(yàn)結(jié)