模塊化神經(jīng)網(wǎng)絡(luò)子網(wǎng)集成方法研究及仿真系統(tǒng)開發(fā).pdf

1、模塊化神經(jīng)網(wǎng)絡(luò)(ModularNeuralNetworks)是一個由多個模塊組成的神經(jīng)網(wǎng)絡(luò)，每個模塊承擔(dān)神經(jīng)網(wǎng)絡(luò)的全局任務(wù)的一個子任務(wù)，通過各個網(wǎng)絡(luò)之間的競爭或協(xié)作來提高系統(tǒng)的整體性能。大量的實例研究表明，模塊化神經(jīng)網(wǎng)絡(luò)在泛化能力和可靠性上比單一神經(jīng)網(wǎng)絡(luò)都有所提高，并且能有效地解決單個神經(jīng)網(wǎng)絡(luò)應(yīng)用和實現(xiàn)時出現(xiàn)的問題，為研究者提供了一條問題求解的新途徑。由于認(rèn)識到模塊化神經(jīng)網(wǎng)絡(luò)所蘊(yùn)含的巨大潛力和應(yīng)用前景，大量研究者涌入該領(lǐng)域，理論和成果不

2、斷涌現(xiàn)，使得模塊化神經(jīng)網(wǎng)絡(luò)成為機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)領(lǐng)域的研究熱點。 本文以回歸問題為例就模塊化神經(jīng)網(wǎng)絡(luò)系統(tǒng)中各個網(wǎng)絡(luò)的組合方法展開研究，提出了基于“一專多能”的模塊化神經(jīng)網(wǎng)絡(luò)子網(wǎng)集成的3種方法。該方法對訓(xùn)練樣本充分利用，通過適度縮放訓(xùn)練集，訓(xùn)練出一批神經(jīng)網(wǎng)絡(luò)個體，這樣產(chǎn)生的個體神經(jīng)網(wǎng)絡(luò)既擁有相對的準(zhǔn)確性，又不失其對其他樣本的適應(yīng)性；將這樣的網(wǎng)絡(luò)進(jìn)行個體的策略集結(jié)，可以使得系統(tǒng)的逼近速度、抗干擾能力、適應(yīng)能力都得到了顯著的提高。文章

3、以8個回歸實例進(jìn)行仿真測試，其結(jié)果通過4個評價指標(biāo)從不同的側(cè)面反應(yīng)其性能。從結(jié)果中看到，“一專多能”的方法在多個試驗中獲得了優(yōu)勝，無論對于較難學(xué)習(xí)的問題還是較容易學(xué)習(xí)的問題上，始終保持著很好的適應(yīng)性和誤差要求，對于復(fù)雜的問題其精度優(yōu)勢表現(xiàn)得更為明顯。 本文還描述了作者所開發(fā)的一套適合于模塊化神經(jīng)網(wǎng)絡(luò)研究的《模塊化神經(jīng)網(wǎng)絡(luò)仿真系統(tǒng)》，詳細(xì)介紹了系統(tǒng)的總體設(shè)計和各模塊的功能(包括：輸入輸出、算法、接口、程序邏輯、存儲分配)以及系統(tǒng)界