基于協(xié)同進(jìn)化的RBFNN學(xué)習(xí)研究.pdf

1、從20世紀(jì)80年代神經(jīng)網(wǎng)絡(luò)的研究再次復(fù)蘇并形成熱點(diǎn)以來(lái)，發(fā)展非常迅速。理論研究包括計(jì)算能力、對(duì)任意連續(xù)映射的逼近能力、學(xué)習(xí)理論等取得了豐碩的成果，其應(yīng)用已迅速擴(kuò)展到經(jīng)濟(jì)與企業(yè)管理、金融工程、模式識(shí)別、醫(yī)療診斷及眾多數(shù)據(jù)挖掘領(lǐng)域。其中較為常用的是徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)（Radial Basis Function Neural Network，RBFNN），具有結(jié)構(gòu)簡(jiǎn)單、泛化能力強(qiáng)和收斂速度快等特點(diǎn)。本文結(jié)合數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)中的分類(lèi)任務(wù)，針對(duì)

2、RBFNN學(xué)習(xí)亟需解決的關(guān)鍵問(wèn)題，應(yīng)用協(xié)同進(jìn)化算法進(jìn)行了深入系統(tǒng)地研究。主要研究?jī)?nèi)容包括： （1）介紹了神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的統(tǒng)計(jì)性能和RBFNN基本原理，評(píng)述了相關(guān)研究進(jìn)展和典型RBFNN中心確定算法。概括了協(xié)同進(jìn)化算法理論基礎(chǔ)、整體框架以及發(fā)展現(xiàn)狀。 （2）提出了基于合作型協(xié)同進(jìn)化的RBFNN算法。在標(biāo)準(zhǔn)網(wǎng)絡(luò)結(jié)構(gòu)中加入一個(gè)聚類(lèi)層，對(duì)初始隱節(jié)點(diǎn)聚類(lèi)，把性質(zhì)相似的隱節(jié)點(diǎn)聚集成隱節(jié)點(diǎn)群，以聚類(lèi)后的隱節(jié)點(diǎn)群作為子種群進(jìn)行協(xié)同進(jìn)化操作

3、。各子種群間相互作用、相互影響。實(shí)驗(yàn)結(jié)果表明，該算法能夠在一定程度上克服用傳統(tǒng)優(yōu)化算法進(jìn)行網(wǎng)絡(luò)訓(xùn)練耗時(shí)長(zhǎng)的不足，且構(gòu)建的RBFNN具有較小的網(wǎng)絡(luò)規(guī)模，較強(qiáng)的泛化能力。 （3）提出了基于協(xié)同覆蓋的EBFNN算法。該算法把隱層剝離出來(lái)，直接由覆蓋的情況確定分類(lèi)結(jié)果，從而較好地增強(qiáng)EBFNN可理解性，同時(shí)省去標(biāo)準(zhǔn)網(wǎng)絡(luò)中隱層到輸出層權(quán)值的求取，簡(jiǎn)化了網(wǎng)絡(luò)結(jié)構(gòu)；通過(guò)協(xié)同進(jìn)化算法與啟發(fā)式算法的局部搜索的有效結(jié)合，采用啟發(fā)式搜索自動(dòng)增減隱節(jié)點(diǎn)

4、個(gè)數(shù)，進(jìn)一步改進(jìn)網(wǎng)絡(luò)結(jié)構(gòu)。實(shí)驗(yàn)結(jié)果表明，該算法在初始隱節(jié)點(diǎn)在樣本中隨機(jī)選擇的前提下，能夠充分利用EBFNN覆蓋域特點(diǎn)，達(dá)到較好的樣本覆蓋效果以及分類(lèi)結(jié)果。 （4）提出了帶有特征選擇的雙種群RBFNN分類(lèi)算法。將輸入向量的特征選擇和RBFNN優(yōu)化過(guò)程協(xié)同進(jìn)行，一并獲得較優(yōu)的網(wǎng)絡(luò)結(jié)構(gòu)和約減的輸入向量維數(shù)，有效降低特征空間的維數(shù)，利用較小的網(wǎng)絡(luò)結(jié)構(gòu)獲得較高的分類(lèi)精度。實(shí)驗(yàn)結(jié)果表明，該算法對(duì)于大規(guī)模高維數(shù)據(jù)可以選擇出切實(shí)有效的特征屬性，