三種有效的核機(jī)器.pdf

1、統(tǒng)計(jì)學(xué)習(xí)理論和核技術(shù)的結(jié)合造就了支持向量機(jī)的成功,同時(shí)也觸發(fā)了核機(jī)器的產(chǎn)生和其迅速的發(fā)展.核機(jī)器已經(jīng)成為機(jī)器學(xué)習(xí)領(lǐng)域一個(gè)新的研究方向.本文在對(duì)統(tǒng)計(jì)學(xué)習(xí)理論和支持向量機(jī)進(jìn)行深入分析的基礎(chǔ)上,進(jìn)一步研究并提出了以下三類核機(jī)器:(1)隱空間核機(jī)器.首先在隱空間中采用最小二乘損失函數(shù)度量經(jīng)驗(yàn)風(fēng)險(xiǎn),提出了最小二乘隱空間支持向量機(jī)(LSHSSVMs).接著為了解決LSHSSVMs沒(méi)有稀疏性的缺陷,我們?cè)陔[空間中構(gòu)造出一種新的結(jié)構(gòu)風(fēng)險(xiǎn),利用這一結(jié)構(gòu)風(fēng)

2、險(xiǎn),提出了稀疏隱空間支持向量機(jī)(SHSSVMs).(2)小波核機(jī)器.基于正交小波尺度函數(shù)良好的逼近性能,直接用其來(lái)構(gòu)造核函數(shù),提出了一種基于小波核的脊回歸算法(WKRR).WKRR對(duì)核函數(shù)沒(méi)有Mercer正定條件的約束,且核函數(shù)構(gòu)造簡(jiǎn)單,易于實(shí)現(xiàn).(3)貝葉斯核機(jī)器.基于秩-1更新,提出了稀疏貝葉斯學(xué)習(xí)算法(SBLA).該算法具有較低的計(jì)算復(fù)雜度和較高的稀疏性,從而適合于求解大規(guī)模問(wèn)題.理論分析以及仿真實(shí)驗(yàn)結(jié)果證明了所提算法的有效性和可