基于MAs算法的支持向量機參數(shù)優(yōu)化研究.pdf

1、支持向量機作為一個非常有效的機器學(xué)習(xí)方法,已經(jīng)廣泛應(yīng)用于小樣本、高維的分類和回歸問題中。然而,在構(gòu)建支持向量機模型時,一個非常重要的問題是如何優(yōu)化模型參數(shù)與核參數(shù)。
　　針對支持向量機參數(shù)優(yōu)化的問題,本文首先對相關(guān)文獻(xiàn)做了較詳細(xì)的綜述研究。在已有文獻(xiàn)中,最簡單直接的參數(shù)優(yōu)化方法是網(wǎng)格搜索,但是該方法非常耗時,尤其是優(yōu)化多于兩個參數(shù)時;使用經(jīng)典的數(shù)值優(yōu)化算法最小化泛化誤差邊界有非?？斓氖諗克俣?但是該類方法對初始點非常敏感,因此極易

2、陷入局部極值點;進(jìn)化算法由于具有較好的全局搜索能力,近來被許多學(xué)者用來優(yōu)化支持向量機的有關(guān)參數(shù),但是其缺乏在潛在鄰域進(jìn)行局部精細(xì)搜索的能力。
　　針對已有文獻(xiàn)中各方法的不足,本文提出了基于粒子群優(yōu)化算法和模式搜索的文化基因算法,并將該算法應(yīng)用到支持向量機參數(shù)優(yōu)化中。在該算法中,粒子群優(yōu)化算法主要負(fù)責(zé)參數(shù)空間的全局搜索和對存在最優(yōu)解的潛在區(qū)域的探測,而模式搜索則在部分潛在區(qū)域中進(jìn)行局部開采,以提高個體的質(zhì)量。
　　為了驗證本文