基于一類分類的線性規(guī)劃支持向量回歸算法.pdf

1、支持向量機（Support Vector Machine，簡稱SVM）是以統(tǒng)計學(xué)習(xí)理論(StatisticalLearning Theory，簡稱SLT)為基礎(chǔ)的優(yōu)秀算法。此理論是專門針對小樣本情況的統(tǒng)計學(xué)原理。傳統(tǒng)的統(tǒng)計方法會出現(xiàn)“過學(xué)習(xí)”等問題，這是由于傳統(tǒng)的統(tǒng)計方法基于的統(tǒng)計學(xué)原理都是將樣本數(shù)據(jù)近似看成無窮大，但實際情況中樣本數(shù)據(jù)是有限的。所以統(tǒng)計學(xué)原理與它們相比，更適應(yīng)現(xiàn)實中的實際問題。在此理論上建立的支持向量機泛化能力更好。而

2、核函數(shù)思想的引入，不僅解決了非線性情況，更避免了“維數(shù)災(zāi)難”，降低了實際的運算難度。
　　支持向量機提出是針對二值分類問題，由于其良好的表現(xiàn)，人們逐漸將其推廣到其它分類和回歸領(lǐng)域。目前在分類方面的研究已經(jīng)相對完善，而回歸方面還在不斷完善。支持向量回歸機研究中較重要的一項就是改進算法。由于支持回歸機是在支持向量分類機的基礎(chǔ)上發(fā)展而來的，二者有密切的內(nèi)在聯(lián)系，我們以二值分類和回歸為例證明了這種理論上的等價性?；诖宋覀兛梢詫⒁延械姆诸?/p>

3、算法應(yīng)用到回歸問題中，變成一種新的回歸算法。本文就是應(yīng)用這種思路提出一種新的算法。
　　本文提出的新算法是以一類分類思想為基礎(chǔ)的。一類分類算法是一種較特殊的分類問題，它是針對異常值檢測的。而基于這種分類算法的新算法，是一種線性規(guī)劃回歸算法，與那些基于二次規(guī)劃的算法相比，運算速度更快。我們通過正弦函數(shù)、混沌時間序列這兩個實驗，將新算法與標(biāo)準(zhǔn)支持向量回歸法、最小二乘支持向量回歸法、線性規(guī)劃支持向量回歸法比較，發(fā)現(xiàn)新算法的泛化能力要優(yōu)于