支持向量機中Sigmoid核函數(shù)的研究.pdf

1、由Vapnik等人提出的支持向量機(Support Vector Machine，SVM)技術，由于具有極強的模型泛化能力，不會陷入局部極小點，以及很強的非線性處理能力等特點，近十年來取得了全面飛速的發(fā)展，獲得了大量成功的應用。
　　 當前，選擇合適的核函數(shù)及其參數(shù)已成為SVM進一步發(fā)展的關鍵點和難點。不同的核函數(shù)確定了不同的非線性變換和特征空間，因此選取不同的核函數(shù)訓練SVM就會得到不同的分類效果。在支持向量機中，通常所選的核

2、函數(shù)必須滿足Mercer條件。最常用的核函數(shù)有：多項式核、高斯核、Sigmoid核，前兩種核函數(shù)由于其自身的優(yōu)越性質(zhì)，已經(jīng)被廣泛應用。而來自于神經(jīng)網(wǎng)絡的Sigmoid核函數(shù)在實際應用中卻受到了限制，主要是因為只有參數(shù)滿足特定條件時，Sigmoid核才是半正定的(positive semi-definite，PSD)。但令人驚訝的是，在一些實際應用中它也有不俗的表現(xiàn)。基于此，本文對Sigmoid核函數(shù)進行了深入研究，主要工作如下：

3、　　 首先詳細分析了Sigmoid核函數(shù)的性質(zhì)。先解釋了非半正定核也具有分類能力的原因，并分四種情形討論了Sigmoid核函數(shù)的性質(zhì)；然后分析了Sigmoid核與高斯核的關系：當參數(shù)r很小且參數(shù)a→0時，二者不僅具有相似的表達式，而且具有相似的決策函數(shù)，從而說明二者具有相似的分類能力；最后給出了Sigmoid核SVM的算法——序列最小最優(yōu)化算法(SMO)，并通過實驗驗證了上面的結論。
　　 其次根據(jù)Smits等人提出的混合核函