支持向量機(jī)核函數(shù)及關(guān)鍵參數(shù)選擇研究.pdf

1、支持向量機(jī)是20世紀(jì)90年代發(fā)展起來的一個(gè)機(jī)器學(xué)習(xí)方法，以統(tǒng)計(jì)學(xué)習(xí)理論為根基，廣泛地應(yīng)用于模式識別、回歸預(yù)測和密度估計(jì)等方面。作為該方法重要的組成部分，種類豐富的核函數(shù)的選用以及相關(guān)核函數(shù)參數(shù)的整定對其性能有著至關(guān)重要的影響，而此問題也引發(fā)了該領(lǐng)域許多學(xué)者的研究興趣。
　　本文首先介紹了支持向量機(jī)的理論，總結(jié)了相關(guān)的統(tǒng)計(jì)學(xué)習(xí)理論，分析了統(tǒng)計(jì)學(xué)習(xí)理論對支持向量機(jī)的優(yōu)越性能所起的決定性作用。接著，本文介紹了核函數(shù)的相關(guān)理論，并對徑向基

2、核、多項(xiàng)式核和Sigmoid核三種常用核函數(shù)的性質(zhì)進(jìn)行了總結(jié)和探究，為核函數(shù)的類型選擇問題提供了理論參考。對于核函數(shù)及參數(shù)的選擇問題，本文重點(diǎn)關(guān)注基于類可分性度量的方法，并提出了一種新的類可分性度量“期望平方距離比”（ESDR），對“期望平方距離比”的性質(zhì)進(jìn)行了詳細(xì)的分析，并與另外兩種常見的類可分性度量進(jìn)行對比，從理論上顯示出了它的優(yōu)越性?？紤]特定的數(shù)據(jù)分布，本文推導(dǎo)了高斯分布數(shù)據(jù)下選用徑向基核函數(shù)時(shí)“期望平方距離比”的表達(dá)式，并據(jù)此分

3、析了相應(yīng)的支持向量機(jī)核函數(shù)參數(shù)選擇問題。最后，引入實(shí)際生產(chǎn)生活中的數(shù)據(jù)集以及高斯數(shù)據(jù)集分別進(jìn)行徑向基核支持向量機(jī)分類仿真實(shí)驗(yàn)。實(shí)際數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，相比于其他類可分性判據(jù)，“期望平方距離比”能夠更好地表征特定核函數(shù)及核參數(shù)下特征空間中兩類數(shù)據(jù)樣本的可分性，基于“期望平方距離比”可以選出更優(yōu)的核參數(shù)，效率遠(yuǎn)高于傳統(tǒng)的網(wǎng)格搜索方法。高斯數(shù)據(jù)上的實(shí)驗(yàn)結(jié)果表明，“期望平方距離比”可以用來研究特定數(shù)據(jù)分布下特定核函數(shù)的參數(shù)選擇問題，具有很高