面向不平衡數(shù)據(jù)的支持向量機分類方法研究.pdf

1、支持向量機是一種建立在統(tǒng)計學習理論基礎上的機器學習方法，同神經(jīng)網(wǎng)絡等傳統(tǒng)方法相比，能夠較好地解決高維數(shù)、非線性、局部極小等實際問題，已成為機器學習領域的研究熱點。支持向量機具有堅實的理論基礎，即使在樣本數(shù)量較少的情況下依然能夠獲得良好的應用效果，比較適合解決故障診斷等典型的小樣本學習問題。因此，將支持向量機應用于故障診斷具有重要的理論意義和工程實用價值。
　　通常情況下，支持向量機在診斷數(shù)據(jù)集呈現(xiàn)平衡分布時能夠取得良好的診斷效果。

2、然而在實際應用中由于故障數(shù)據(jù)難以獲得，診斷數(shù)據(jù)集常表現(xiàn)為嚴重的不平衡特性。研究表明，支持向量機在樣本數(shù)量不平衡情況下分類效果不佳。因此本文針對支持向量機在不平衡數(shù)據(jù)集上分類準確率降低的問題展開研究，重點研究基于數(shù)據(jù)預處理的不平衡數(shù)據(jù)分類方法和基于支持向量機算法改進的不平衡數(shù)據(jù)分類方法，并將其應用于模擬電路故障診斷中，解決了實際過程中由于訓練數(shù)據(jù)嚴重不平衡造成的分類準確率下降的問題，提高了支持向量機方法的適用范圍。
　　論文的主要研

3、究工作包括以下幾方面的內(nèi)容：
　　1.原始 SMOTE方法在產(chǎn)生新的少類合成樣本的過程中，沒有考慮少類樣本真實的分布特性，也沒有考慮少類樣本附近多類樣本的分布情況，存在一定的盲目性。針對該問題本文提出了一種改進的 SMOTE方法——自適應 SMOTE。該方法根據(jù)數(shù)據(jù)集內(nèi)部樣本分布特性，自適應地調(diào)整原始過采樣方法中近鄰選擇策略，控制合成樣本的質(zhì)量。仿真實驗表明，采用該方法對數(shù)據(jù)集進行預處理能夠有效提高支持向量機分類方法的分類性能。<

4、br>　　2.單邊采樣技術等傳統(tǒng)樣本集修剪方法在處理邊界樣本的過程中簡單地將邊界樣本從樣本集中刪除，造成分類信息的部分丟失。針對該問題本文提出了一種基于 K-近鄰方法的模糊樣本集修剪技術；針對傳統(tǒng)隨機欠采樣方法中存在的分類信息丟失嚴重的問題，提出了一種基于非監(jiān)督學習方法的指導型欠采樣技術。使用以上兩種方法對數(shù)據(jù)集中多類樣本進行欠采樣處理，能夠有效緩解樣本集不平衡對支持向量機分類方法造成的不良影響。
　　3.在SVM算法改進方面，本

5、文首先詳細分析了支持向量機在不平衡數(shù)據(jù)集上針對少類樣本分類準確率較低的本質(zhì)原因，并以此為基礎提出了一種改進的支持向量機方法——μSVM。這種方法通過引入新參數(shù)μ調(diào)整分類決策函數(shù)中的距離度量準則，使分類超平面向多類樣本傾斜，增大少類樣本的決策空間，提高了少類樣本的分類準確率。
　　4.支持向量機的理論基礎是使用非線性映射將樣本映射到高維特征空間使其線性可分，然而在實際應用過程中常常難以獲得高維空間中具體的映射關系，對高維特征空間的幾

6、何結構缺乏本質(zhì)的認識，因此難以在特征空間中對支持向量機進行有效的改進來處理不平衡數(shù)據(jù)分類問題。針對這一問題，提出了一種新型支持向量機改進方法——BEF-SVM。該方法使用偏置判別分析準則作為核優(yōu)化的目標函數(shù)，在經(jīng)驗特征空間中增大不平衡數(shù)據(jù)集的類可分性，從而獲得最佳的整體分類準確率。
　　5.在電路故障診斷應用研究方面，以兩個典型電路作為診斷對象，在PSPICE軟件環(huán)境下進行仿真，產(chǎn)生電路的輸出波形，并使用Haar小波變換等數(shù)據(jù)預處