基于隨機子空間的SVM分類算法研究.pdf

1、支持向量機是在堅實理論基礎(chǔ)上發(fā)展起來的一種機器學(xué)習(xí)方法，它能很好的解決關(guān)于小樣本、非線性、高維度、局部極小等類似問題。目前，支持向量機作為一種有潛力的分類技術(shù)，在數(shù)據(jù)分類方面得到了廣泛的應(yīng)用和研究。但早期提出的基于支持向量機的數(shù)據(jù)分類方法，在解決海量數(shù)據(jù)分類特別是不平衡的數(shù)據(jù)分類時會出現(xiàn)很多問題，嚴重影響著數(shù)據(jù)分類算法的計算效率和準確度。
　　隨機子空間方法是為了適應(yīng)特征數(shù)據(jù)篩選的挑戰(zhàn)，其思想就是從大量特征數(shù)據(jù)中選出真正需要的特征

2、，以降低數(shù)據(jù)集的特征維度或平衡特征分布，它對數(shù)據(jù)預(yù)處理方面有著突出的貢獻。對此，論文提出基于隨機子空間的SVM分類算法研究，主要的研究工作分為以下兩個方面：
　　1．基于隨機特征子空間及加權(quán)核函數(shù)的SVM算法
　　結(jié)合隨機子空間和核函數(shù)思想，提出基于隨機特征子空間及加權(quán)核函數(shù)的SVM算法。首先通過采用ReliefF算法計算特征權(quán)值，然后基于隨機特征子空間方法，根據(jù)特征權(quán)值選擇特征，最后將選出的特征及其權(quán)值對核函數(shù)中的內(nèi)積進行

3、加權(quán)計算，從而減少了核函數(shù)中內(nèi)積加權(quán)的計算復(fù)雜度。在平衡數(shù)據(jù)集的分類研究中，該方法在一定程度上解決了傳統(tǒng)的SVM算法缺乏高效率和低準確率的問題。
　　2．基于支持向量機的不平衡樣本集分類算法
　　結(jié)合重采樣技術(shù)和分層抽樣方法，提出基于支持向量機的不平衡樣本集分類算法。該算法以支持向量機為基礎(chǔ)，首先利用分層抽樣方法，選出樣本的正、負特征，以平衡樣本底層特征分布，然后在此基礎(chǔ)上采用重采樣技術(shù)，對樣本數(shù)量進行平衡，因此從樣本底層特