若干求解大規(guī)模問題的支持向量機算法.pdf

1、支持向量機(SVM)是在統(tǒng)計學習理論上的基礎上發(fā)展起來的新一代學習算法，Vapnik在1992年將其介紹進入機器學習領域之后受到了廣泛的關注。SVM在20世紀90年代中后期得到了全面深入的發(fā)展，現(xiàn)在成為機器學習和數(shù)據(jù)挖掘領域的標準技術。它集成了最大間隔超平面、Mercer核、凸二次規(guī)劃、稀疏解和松弛變量等多項技術。本文在介紹支持向量機基本算法及其變形的基礎上，主要研究求解大規(guī)模問題的兩種方法：一種是支持向量聚類技術，另一種是拉格朗日減量

2、學習算法。
　　支持向量聚類技術(SVC)主要有三個步驟：先通過解一個優(yōu)化問題的對偶問題來找出一個最小超平面；其次通過給所有點加以分配以確認該點所在的類；最后需對參數(shù)進行調整。第一步對偶問題的規(guī)模就是輸入數(shù)據(jù)的規(guī)模，它往往是整個運算的瓶頸，但問題的解僅僅依賴于輸入空間的支持向量，其他的輸入對結果沒有任何影響卻大幅度的增加了聚類的復雜性。本文基于R*-tree數(shù)據(jù)結構做出數(shù)據(jù)預處理，避免所有的樣本都參與*訓練，縮小樣本空間，從而大大