基于SVM的模型選擇和參數(shù)優(yōu)化方案研究與實現(xiàn).pdf

1、支持向量機是一種基于小樣本的學習工具，其基本原理是在兩類分類樣本之間找到一個線性的分類面把兩類樣本分開，并且使兩類之間的分類間隔最大。但實際應用中的分類數(shù)據(jù)幾乎都無法用一個線性的分類面把它們分開，需要通過一個變換把數(shù)據(jù)從一個空間映射到另一個高維的空間，在這個高維的空間中數(shù)據(jù)是線性可分的。變換是使用一個映射函數(shù)實現(xiàn)，這個映射函數(shù)被稱為核函數(shù)。 分類樣本無論是構(gòu)造核函數(shù)還是采用經(jīng)典的核函數(shù)幾乎都需要設(shè)置核函數(shù)的參數(shù)，如何設(shè)置這些參數(shù)

2、才能取得好的分類效果，不同的參數(shù)對分類結(jié)果又有什么樣的影響，如果數(shù)據(jù)集有幾個可以選擇的核函數(shù)又如何去選擇。核函數(shù)的選擇和核函數(shù)參數(shù)的設(shè)置如何影響分類的結(jié)果，本文對這些問題通過實驗進行了觀察與分析。 通過實驗觀察不同參數(shù)設(shè)置對分類的影響。實驗內(nèi)容為對核函數(shù)設(shè)置不同參數(shù)數(shù)值，觀察分類結(jié)果的變化。有可選核函數(shù)的分類樣本，對每個核函數(shù)逐一進行實驗觀察。實驗結(jié)果顯示不同的參數(shù)對分類的精度有很大的影響，不同的核函數(shù)也使分類精度變化很大。分類

3、的目的不僅是要區(qū)分樣本還要取得最好的分類效果。為了保證最高的精度，需要找到一個方法來確定參數(shù)和選擇核函數(shù)。 本文中構(gòu)造一個誤差函數(shù)來量化分類的誤差。由于誤差最小和分類精度高是等價的，能取得誤差函數(shù)的最小值，也就意味著得到了最高的分類精度，于是如何得到最高的分類精度問題轉(zhuǎn)化為求誤差函數(shù)最小值問題。采用求誤差函數(shù)導數(shù)的方法求其最小值，求誤差函數(shù)最小值的方法也是得到各個核函數(shù)參數(shù)的方法，使用這個方法再結(jié)合分類樣本求解每個核函數(shù)的參數(shù)。