支持向量機(jī)增量學(xué)習(xí)算法的研究與應(yīng)用.pdf

1、支持向量機(jī)(Support Vector Machine，SVM)是一種在統(tǒng)計(jì)學(xué)習(xí)理論的基礎(chǔ)上求解最優(yōu)分類超平面的機(jī)器學(xué)習(xí)方法，在解決小樣本、非線性、高維的數(shù)據(jù)問(wèn)題中表現(xiàn)出了優(yōu)勢(shì)。然而，經(jīng)典的支持向量機(jī)訓(xùn)練算法是不支持增量式學(xué)習(xí)的，因此對(duì)支持向量機(jī)增量學(xué)習(xí)的研究具有重要的意義。
　　為改進(jìn)經(jīng)典的支持向量機(jī)增量學(xué)習(xí)算法在訓(xùn)練時(shí)間與精度方面的性能，論文將學(xué)習(xí)過(guò)程分為初始訓(xùn)練階段與增量學(xué)習(xí)階段兩個(gè)步驟完成，重點(diǎn)研究基于改進(jìn)初始訓(xùn)練樣本集

2、選取和增量學(xué)習(xí)中非支持向量集選取的支持向量機(jī)方法。從支持向量機(jī)分類原理可知，訓(xùn)練初始階段得到的支持向量集都包含在對(duì)應(yīng)的邊界向量集當(dāng)中，論文改進(jìn)k近鄰法用于選取邊界向量集作為初始訓(xùn)練集，方法為:所選擇的初始求距離點(diǎn)不是從各類別的樣本中隨機(jī)選取，而是通過(guò)一種以各類樣本中心的巾心點(diǎn)為圓心，距離的一半為半徑作圓來(lái)求得各類別對(duì)應(yīng)的邊界向量。這種方法相比于k近鄰法來(lái)說(shuō)減少了初始的訓(xùn)練時(shí)間。在增量學(xué)習(xí)階段:目前常采用(Karush-Kuhn-TucK

3、e，KKT)條件選取有效的非支持向量集，在訓(xùn)練樣本集很大時(shí)難以達(dá)到要求。該文采用了中心密度的方法來(lái)選取有效非支持向量集，效果良好，克服了每當(dāng)增量樣本集逐漸增加時(shí)KKT條件將變得更加復(fù)雜的困難。結(jié)合初始訓(xùn)練階段與增量學(xué)習(xí)階段所提出的改進(jìn)方法，形成基于邊界向量的支持向量機(jī)增量學(xué)習(xí)算法。通過(guò)實(shí)驗(yàn)比較了三種支持向量機(jī)增量學(xué)習(xí)算法的訓(xùn)練時(shí)間與分類精度，驗(yàn)證了改進(jìn)算法在時(shí)間與精度方面的優(yōu)勢(shì)。
　　最后，在Breast-Tissue數(shù)據(jù)集上用改