基于協(xié)同進化的RBFNN學(xué)習(xí)研究.pdf

1、從20世紀(jì)80年代神經(jīng)網(wǎng)絡(luò)的研究再次復(fù)蘇并形成熱點以來，發(fā)展非常迅速。理論研究包括計算能力、對任意連續(xù)映射的逼近能力、學(xué)習(xí)理論等取得了豐碩的成果，其應(yīng)用已迅速擴展到經(jīng)濟與企業(yè)管理、金融工程、模式識別、醫(yī)療診斷及眾多數(shù)據(jù)挖掘領(lǐng)域。其中較為常用的是徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)（Radial Basis Function Neural Network，RBFNN），具有結(jié)構(gòu)簡單、泛化能力強和收斂速度快等特點。本文結(jié)合數(shù)據(jù)挖掘和機器學(xué)習(xí)中的分類任務(wù)，針對

2、RBFNN學(xué)習(xí)亟需解決的關(guān)鍵問題，應(yīng)用協(xié)同進化算法進行了深入系統(tǒng)地研究。主要研究內(nèi)容包括： （1）介紹了神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的統(tǒng)計性能和RBFNN基本原理，評述了相關(guān)研究進展和典型RBFNN中心確定算法。概括了協(xié)同進化算法理論基礎(chǔ)、整體框架以及發(fā)展現(xiàn)狀。 （2）提出了基于合作型協(xié)同進化的RBFNN算法。在標(biāo)準(zhǔn)網(wǎng)絡(luò)結(jié)構(gòu)中加入一個聚類層，對初始隱節(jié)點聚類，把性質(zhì)相似的隱節(jié)點聚集成隱節(jié)點群，以聚類后的隱節(jié)點群作為子種群進行協(xié)同進化操作

3、。各子種群間相互作用、相互影響。實驗結(jié)果表明，該算法能夠在一定程度上克服用傳統(tǒng)優(yōu)化算法進行網(wǎng)絡(luò)訓(xùn)練耗時長的不足，且構(gòu)建的RBFNN具有較小的網(wǎng)絡(luò)規(guī)模，較強的泛化能力。 （3）提出了基于協(xié)同覆蓋的EBFNN算法。該算法把隱層剝離出來，直接由覆蓋的情況確定分類結(jié)果，從而較好地增強EBFNN可理解性，同時省去標(biāo)準(zhǔn)網(wǎng)絡(luò)中隱層到輸出層權(quán)值的求取，簡化了網(wǎng)絡(luò)結(jié)構(gòu)；通過協(xié)同進化算法與啟發(fā)式算法的局部搜索的有效結(jié)合，采用啟發(fā)式搜索自動增減隱節(jié)點

4、個數(shù)，進一步改進網(wǎng)絡(luò)結(jié)構(gòu)。實驗結(jié)果表明，該算法在初始隱節(jié)點在樣本中隨機選擇的前提下，能夠充分利用EBFNN覆蓋域特點，達到較好的樣本覆蓋效果以及分類結(jié)果。 （4）提出了帶有特征選擇的雙種群RBFNN分類算法。將輸入向量的特征選擇和RBFNN優(yōu)化過程協(xié)同進行，一并獲得較優(yōu)的網(wǎng)絡(luò)結(jié)構(gòu)和約減的輸入向量維數(shù)，有效降低特征空間的維數(shù)，利用較小的網(wǎng)絡(luò)結(jié)構(gòu)獲得較高的分類精度。實驗結(jié)果表明，該算法對于大規(guī)模高維數(shù)據(jù)可以選擇出切實有效的特征屬性，