在線學(xué)習(xí)的集成分類器研究.pdf

1、在互聯(lián)網(wǎng)領(lǐng)域，數(shù)據(jù)集是隨著時間的推移不斷產(chǎn)生的，所以在完整的數(shù)據(jù)集上進行機器學(xué)習(xí)是個幾乎不可能的事情，這就需要學(xué)習(xí)器能夠不斷地進行學(xué)習(xí)，而傳統(tǒng)的機器學(xué)習(xí)方法已經(jīng)無法滿足這一要求。在線學(xué)習(xí)就是針對上述情況應(yīng)運而生的，目前在線學(xué)習(xí)的主要技術(shù)手段是增量學(xué)習(xí)。另一方面，支持向量機(SVM，SupportVectorMachine)作為機器學(xué)習(xí)領(lǐng)域的一個重要研究分支，因為自身完善的數(shù)學(xué)理論和良好的實際應(yīng)用效果，目前在很多領(lǐng)域都獲得了應(yīng)用。但支持向

2、量機屬于性能穩(wěn)定的分類器，不能進行增量學(xué)習(xí)，并有“災(zāi)難性遺忘”現(xiàn)象。所以如何讓支持向量機應(yīng)用到在線學(xué)習(xí)領(lǐng)域，也成為了目前的研究熱點。本文針對這一問題，進行了如下工作:
　　首先，先簡要介紹了支持向量機的數(shù)學(xué)理論基礎(chǔ)、基本概念和算法優(yōu)勢。
　　然后，詳細(xì)地介紹了一種支持向量機的快速分類算法。該分類算法根據(jù)樣本集的幾何結(jié)構(gòu)信息，先從樣本集中挑選出位于樣本集最邊緣位置的樣本——殼向量，并將其組成新的樣本集，進行支持向量機的訓(xùn)練，從

3、而找出最優(yōu)分類超平面。由于在對樣本集進行殼向量提取時，采用的是線性規(guī)劃的運算操作，其次殼向量集組成的新樣本集只是原樣本集的一小部分，所以能有效地降低二次規(guī)劃運算過程的復(fù)雜度，從而達到提高訓(xùn)練速度的目的。另外提取殼向量集時，支持向量等關(guān)鍵樣本也同樣被提取出來，不存在丟失現(xiàn)象，所以對原算法的精度不會造成太大影響。
　　最后，本論文在上述算法的基礎(chǔ)上提出了一種基于殼向量的支持向量機Learn++集成方法。該方法將殼向量引入到支持向量機基