極限學(xué)習(xí)機(jī)及其在分類問題中的應(yīng)用.pdf

1、極限學(xué)習(xí)機(jī)作為一種前饋神經(jīng)網(wǎng)絡(luò)的新型學(xué)習(xí)算法，它有比較簡單的結(jié)構(gòu)、較少的參數(shù)調(diào)整，以及較低的計(jì)算復(fù)雜度等優(yōu)點(diǎn)，并且已經(jīng)取得了國內(nèi)外學(xué)者的廣泛關(guān)注。本文主要針對極限學(xué)習(xí)機(jī)的算法進(jìn)行研究，討論了其改進(jìn)算法，以及其作為分類器的方法，并將其應(yīng)用到了具體的分類問題中，本文所做的主要工作可以用以下幾點(diǎn)表示。
　　 （一）研究了核學(xué)習(xí)理論的原理和方法，將核函數(shù)引入了極限學(xué)習(xí)機(jī)構(gòu)造了核極限學(xué)習(xí)機(jī)，分析討論了核極限學(xué)習(xí)機(jī)的優(yōu)點(diǎn)以及其與最小二乘支持

2、向量機(jī)的異同點(diǎn)。針對傳統(tǒng)的核函數(shù)逼近能力的不足，將小波核函數(shù)引入了其中，證明了小波核函數(shù)可以作為極限學(xué)習(xí)機(jī)的核函數(shù)，并分析了小波核極限學(xué)習(xí)機(jī)的優(yōu)點(diǎn)。通過在雙螺旋問題的分類實(shí)驗(yàn)中發(fā)現(xiàn)，本文的小波核極限學(xué)習(xí)機(jī)具有良好的分類性能，效果要好于高斯核極限學(xué)習(xí)機(jī)和無核極限學(xué)習(xí)機(jī)。同時(shí)小波核極限學(xué)習(xí)機(jī)可以推廣到?jīng)]有訓(xùn)練樣本分部的空間，在這些空間也具有一定的分類能力，而傳統(tǒng)的高斯核極限學(xué)習(xí)機(jī)則不具有這種能力。通過在一些基準(zhǔn)數(shù)據(jù)集上的分類測試發(fā)現(xiàn)小波函數(shù)

3、極限學(xué)習(xí)機(jī)往往具有更好的分類性能。
　　 （二）研究了序貫極限學(xué)習(xí)機(jī)的原理，針對其容易產(chǎn)生過擬合的問題，結(jié)合正則化理論，將正則化因子引入了序貫極限學(xué)習(xí)機(jī)，構(gòu)造了序貫正則極限學(xué)習(xí)機(jī)。針對隨機(jī)產(chǎn)生初始權(quán)值所造成的網(wǎng)絡(luò)性能不穩(wěn)定的問題，提出了采用粒子群算法優(yōu)化序貫極限學(xué)習(xí)機(jī)初始權(quán)值的方法，實(shí)驗(yàn)結(jié)果表明該算法相對傳統(tǒng)的序貫極限學(xué)習(xí)機(jī)具有優(yōu)勢。
　　 （三）在分類的應(yīng)用上，討論了極限學(xué)習(xí)機(jī)處理多分類的幾種方法，并將幾種批量學(xué)習(xí)的極