Boosting算法研究及其在光譜分析中的應(yīng)用.pdf

1、集成學(xué)習(xí)算法通過訓(xùn)練多個(gè)弱學(xué)習(xí)算法并將其結(jié)論進(jìn)行合成,可以顯著地提高學(xué)習(xí)系統(tǒng)的泛化能力.Boosting算法作為集成學(xué)習(xí)算法的主要代表算法,得到了廣泛的研究和應(yīng)用,但其研究成果大部分都集中的分類問題上.該文主要研究了Boosting回歸算法.首先對(duì)以損失函數(shù)梯度下降為原理的樣本無權(quán)值算法進(jìn)行了闡述,并給出了一個(gè)實(shí)際問題的仿真結(jié)果.其次對(duì)按概率取樣本的有權(quán)值算法進(jìn)行了大量實(shí)驗(yàn),實(shí)驗(yàn)結(jié)果顯示出按概率選擇樣本權(quán)值算法比無權(quán)值算法的總體性能更為

2、優(yōu)秀,但其個(gè)體算法的不穩(wěn)定性以及為了獲得穩(wěn)定結(jié)果所需要的巨大計(jì)算時(shí)間使其不可能成為一種能廣泛應(yīng)用的算法.針對(duì)以上兩種方法的缺陷,該文提出了一種新的按概率取樣本的改進(jìn)算法.仿真結(jié)果顯示,改進(jìn)算法比前兩種算法的性能都要優(yōu)秀.算法的計(jì)算時(shí)間和算法的精度相關(guān),因此在實(shí)際應(yīng)用中可以通過平衡算法性能和計(jì)算時(shí)間來獲得需要的結(jié)果.最后,對(duì)改進(jìn)算法所表現(xiàn)出來的不足,該文提出了一種結(jié)合無權(quán)值算法的方法,雖然這個(gè)算法的最終計(jì)算結(jié)果相比改進(jìn)算法在性能上沒有太大