基于LM改進(jìn)的RBF神經(jīng)網(wǎng)絡(luò)算法研究.pdf_第1頁(yè)
已閱讀1頁(yè),還剩72頁(yè)未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

1、機(jī)器學(xué)習(xí)與計(jì)算智能在學(xué)術(shù)和工業(yè)等研究領(lǐng)域得到越來(lái)越多的應(yīng)用,而人工神經(jīng)網(wǎng)絡(luò)正是這許多研究的中心,所以能夠有效地構(gòu)建和訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)是對(duì)此領(lǐng)域極為重要的推進(jìn)。目前研究表明,對(duì)于包含許多計(jì)算節(jié)點(diǎn)的人工神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō),緊湊的結(jié)構(gòu)能表現(xiàn)出更好的泛化性能。而徑向基(Radial Basis Function,RBF)神經(jīng)網(wǎng)絡(luò)即是一種能有效地構(gòu)建緊湊網(wǎng)絡(luò)結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)。RBF神經(jīng)網(wǎng)絡(luò)是由Broomhead和Lowe在80年代末提出的一種具有單隱層的

2、三層前饋型神經(jīng)網(wǎng)絡(luò)。RBF神經(jīng)網(wǎng)絡(luò)是一種局部逼近網(wǎng)絡(luò),如果網(wǎng)絡(luò)中的隱含層節(jié)點(diǎn)數(shù)足夠多,則它能以任意精度逼近任意連續(xù)函數(shù),具有其他前饋網(wǎng)絡(luò)所不具備的全局最優(yōu)特性和最佳逼近性能。人們一直在努力改進(jìn)RBF神經(jīng)網(wǎng)絡(luò)的性能,如收斂速率、泛化性能、魯棒性能等,而這些性能的好壞很大程度上取決于使用何種RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法。對(duì)于RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法而言,我們關(guān)注的主要指標(biāo)有算法的訓(xùn)練時(shí)間、訓(xùn)練后的網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜度、算法的學(xué)習(xí)精度、執(zhí)行時(shí)間以及泛化能力

3、。一旦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)被選定,許多算法,如誤差反向傳播法(BP)、極限學(xué)習(xí)機(jī)(ELM)系列算法都可以用來(lái)訓(xùn)練網(wǎng)絡(luò)。其它算法,如資源分配網(wǎng)絡(luò)(RAN)、最小資源分配網(wǎng)絡(luò)(MRAN)和廣義生長(zhǎng)-剪枝徑向基神經(jīng)網(wǎng)絡(luò)(GGAP)算法被構(gòu)造時(shí)也可以訓(xùn)練網(wǎng)絡(luò)。然而,許多這些算法在達(dá)到適當(dāng)?shù)慕鉀Q方案之前,通常需要數(shù)十或數(shù)百個(gè)訓(xùn)練參數(shù)設(shè)置不同和初始條件隨機(jī)選擇的實(shí)驗(yàn),因此這些算法極有可能導(dǎo)致訓(xùn)練網(wǎng)絡(luò)出現(xiàn)規(guī)模過(guò)大和訓(xùn)練時(shí)間過(guò)長(zhǎng)的問(wèn)題。
  本文提出了基

4、于列文伯格-馬夸爾特(Levenberg-Marquardt,LM)算法改進(jìn)的RBF神經(jīng)網(wǎng)絡(luò)誤差校正算法(LM-EC1誤差校正算法)。通過(guò)采用本文提出的優(yōu)化算法提高了RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的緊湊度和誤差收斂速度。此外,在改進(jìn)的算法基礎(chǔ)上進(jìn)一步優(yōu)化得到LM-EC2誤差校正算法,并在高度非線性Benchmark問(wèn)題和數(shù)據(jù)中進(jìn)行測(cè)試,以展現(xiàn)所改進(jìn)算法的能力和魯棒性。主要工作包括:⑴提出一種基于LM的RBF神經(jīng)網(wǎng)絡(luò)離線算法,稱為L(zhǎng)M-EC1誤差校正

5、算法。LM-EC1誤差校正算法是逐一增量構(gòu)造和訓(xùn)練的,即從頭開(kāi)始,在每次算法迭代中一個(gè)一個(gè)地添加RBF神經(jīng)元節(jié)點(diǎn)。新的RBF神經(jīng)元使用改進(jìn)的LM二階方法來(lái)訓(xùn)練,以消除誤差曲面的最高峰值(或最低谷值)。重復(fù)這個(gè)過(guò)程,直到達(dá)到所需的誤差水平。該算法能以更少的網(wǎng)絡(luò)節(jié)點(diǎn)達(dá)到給定問(wèn)題的期望誤差水平。⑵改進(jìn)LM-EC1誤差校正算法。針對(duì)LM-EC1算法訓(xùn)練時(shí)間過(guò)長(zhǎng)的問(wèn)題,進(jìn)一步提出 LM-EC2誤差校正算法。LM-EC2誤差校正算法通過(guò)每次迭代增加

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫(kù)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論