類別不平衡和誤分類代價不等的數(shù)據(jù)集分類方法及應用.pdf

1、類別不平衡數(shù)據(jù)集分類是機器學習和模式識別中的一個熱點研究問題。類別不平衡數(shù)據(jù)集存在于許多實際工程領域，如有色冶金過程的故障檢測和網(wǎng)絡入侵檢測等?，F(xiàn)有的分類算法大多以誤分率最小化為目標，并假設訓練數(shù)據(jù)集類別是平衡的和誤分類代價是相等的。當用這些分類算法處理類別不平衡數(shù)據(jù)集分類問題時，容易對多數(shù)類過學習和對少數(shù)類欠學習，從而導致分類器性能下降。
　　 針對數(shù)據(jù)集中類別不平衡、誤分類代價不等、噪音特征和標注代價昂貴等問題，研究了類別不

2、平衡和誤分類代價不等的數(shù)據(jù)集分類新方法。通過實際有色冶金過程數(shù)據(jù)集中仿真實驗驗證了所提方法的有效性和優(yōu)越性。主要的研究工作和創(chuàng)新性成果如下:
　　 第二章研究了有色冶金過程中操作模式集的特點。詳細地分析了有色冶金過程操作模式集中的類別不平衡、誤分類代價不等、噪音特征、標注代價昂貴等問題。闡述了操作模式分類的假設。最后給出了有色冶金過程的操作模式分類流程圖。
　　 第三章針對數(shù)據(jù)集中相對類別不平衡和誤分類代價不等問題，提出

3、了代價敏感概率神經(jīng)網(wǎng)絡方法。分析了在類別不平衡數(shù)據(jù)集上基于密度核估計的概率神經(jīng)網(wǎng)絡和基于密度函數(shù)混合高斯分布的概率神經(jīng)網(wǎng)絡不能有效識別少數(shù)類樣本的原因，引入代價敏感機制，提出代價敏感概率神經(jīng)網(wǎng)絡。并將其應用于銅閃熔煉過程操作模式集分類。實驗結果表明，所提方法提高了故障類和優(yōu)良類操作模式識別率，并減少了平均誤分類代價。
　　 第四章針對數(shù)據(jù)集中極端類別不平衡問題，提出了基于粒子群優(yōu)化和滑動窗口的支持向量數(shù)據(jù)描述方法。采用粒子群算法

4、優(yōu)化支持向量數(shù)據(jù)描述的核參數(shù)。利用滑動窗口的大窗口大小來控制訓練集的規(guī)模，利用滑動窗口的小窗口大小測試誤差來調整大窗口大小，自適應地調整訓練集規(guī)模。將其應用于銅轉爐熔煉過程的操作模式集分類。實驗結果表明，所提方法能有效識別故障類操作模式。
　　 第五章針對數(shù)據(jù)集中類別不平衡、誤分類代價不等和噪音特征問題，提出了基于粒子群優(yōu)化的代價敏感支持向量機和基于同步優(yōu)化的間隔校正的代價敏感支持向量機。首先介紹和比較了標準的支持向量機、代價敏

5、感支持向量機、間隔校正的代價敏感支持向量機，并完整地給出了這3種算法求解方法。然后，利用連續(xù)版的粒子群算法優(yōu)化代價敏感支持向量機的核參數(shù)、誤分類代價參數(shù)和間隔參數(shù);同時利用離散版的粒子群算法優(yōu)化代價敏感支持向量的特征集。最后，將其應用于人工數(shù)據(jù)集和氧化鋁蒸發(fā)過程操作模式集。實驗結果表明，所提方法能有效識別氧化鋁蒸發(fā)過程優(yōu)良類和故障類操作模式，選擇合適的操作模式特征。
　　 第六章針對數(shù)據(jù)集中類別不平衡、誤分類代價不等和標注代價昂

6、貴問題，提出基于不確定性采樣的自訓練代價敏感支持向量機。定義了未標注樣本的不確定性，選擇不確定性高的未標注樣本進行標注。利用已標注樣本集訓練3個代價敏感支持向量機;用其中兩個代價敏感支持向量機預測未標注樣本，如果這兩個代價敏感支持向量機預測的類標一致，則添加到訓練集，最終訓練出代價敏感支持向量機。并用近似概率正確理論分析自訓練方法在主動代價敏感學習中效果。將其應用于銅閃速熔煉過程故障類操作模式檢測。實驗結果表明，所提方法不僅能減少標注代