支持向量機(jī)相關(guān)方法研究.pdf

1、基于統(tǒng)計(jì)學(xué)習(xí)理論的支持向量機(jī)(Support Vector Machine，SVM)技術(shù)具有堅(jiān)實(shí)的數(shù)學(xué)理論基礎(chǔ)，在模型推廣能力，全局最優(yōu)，非線性處理等方面均表現(xiàn)突出，已成為機(jī)器學(xué)習(xí)領(lǐng)域最活躍的研究重點(diǎn)之一。
　　 本文以傳統(tǒng)的支持向量機(jī)和新興的基于非平衡雙超平面的支持向量機(jī)為主要研究對(duì)象，對(duì)其相關(guān)方法進(jìn)行了較深入的探討和研究。研究?jī)?nèi)容涉及新的加權(quán)型分類器模型的構(gòu)建、多類分類方法、參數(shù)選擇方法、樣本約簡(jiǎn)方法等方面。主要工作包括：<

2、br>　　 1.對(duì)非平衡雙超平面支持向量機(jī)的分類器模型進(jìn)行研究。提出了一種新的加權(quán)最小二乘雙支持向量機(jī)分類器(WLSTSVM)，它通過在錯(cuò)誤變量上設(shè)置權(quán)向量，來解決最小二乘雙支持向量機(jī)(LSTSVM)因采用SSE損失函數(shù)而引起的魯棒性差的問題。給出了WLSTSVM在線性和非線性情況下的問題表達(dá)式及詳細(xì)的推導(dǎo)過程，并給出了相應(yīng)的算法實(shí)現(xiàn)流程。實(shí)驗(yàn)表明，WLSTSVM在提高抗噪能力以及分類識(shí)別率方面均有相對(duì)較好的表現(xiàn)。
　　 2.

3、對(duì)非平衡雙超平面支持向量機(jī)的多類分類方法進(jìn)行探討。以LSTSVM為基本的兩類分類器，給出了一種基于優(yōu)化有向無環(huán)圖的LSTSVM多類分類方法(ODAG-LSTSVM)。用一個(gè)基于平均距離測(cè)度的類別可分性準(zhǔn)則來確定將不同類樣本分開的難易程度，同時(shí)給出了相應(yīng)的類別序號(hào)重排方法，其目的是為了克服傳統(tǒng)DAG結(jié)構(gòu)可能引起的誤差累計(jì)。實(shí)驗(yàn)證明了該方法在測(cè)試精度和執(zhí)行速度方面均有不俗表現(xiàn)。
　　 3.對(duì)支持向量機(jī)的參數(shù)選擇方法進(jìn)行了探討和研究。

4、鑒于微分進(jìn)化算法在尋求全局最優(yōu)解、解決多峰問題等方面的優(yōu)良表現(xiàn)，對(duì)其變異策略和控制參數(shù)兩方面進(jìn)行了探討分析。首先，給出了一種基于自然界量變與質(zhì)變規(guī)律的變異策略，定義了隨進(jìn)化代數(shù)自調(diào)整的變異發(fā)生質(zhì)變的概率公式；然后，遵循適者生存的原則，給出了一種以當(dāng)前代最優(yōu)個(gè)體的適應(yīng)度函數(shù)為調(diào)節(jié)準(zhǔn)則的控制參數(shù)自適應(yīng)調(diào)整策略。從經(jīng)典函數(shù)求最優(yōu)解的實(shí)驗(yàn)驗(yàn)證了基于上述策略的改進(jìn)DE算法可以獲得更好的平均最優(yōu)解，且收斂速度較快。最后，將這種改進(jìn)算法用于NPPC的

5、參數(shù)選擇，給出了相應(yīng)的算法實(shí)現(xiàn)流程，其實(shí)驗(yàn)結(jié)果表明其在精度與速度方面均具有良好的性能。
　　 4.對(duì)基于支持向量機(jī)的樣本約簡(jiǎn)方法進(jìn)行了研究。主要包括兩方面的內(nèi)容，即樣本個(gè)數(shù)約簡(jiǎn)和樣本屬性約簡(jiǎn)。首先，給出了一種被稱為KD-FFMVM的樣本個(gè)數(shù)約簡(jiǎn)方法，該方法考慮到消除孤立點(diǎn)、噪聲點(diǎn)等的不良影響，以及盡可能多的提取邊緣交界樣本，來防止支持向量的流失；然后，在分析現(xiàn)有屬性約簡(jiǎn)方法的基礎(chǔ)上，對(duì)提高核Hebbian算法的收斂速度進(jìn)行了探討