模塊化神經(jīng)網(wǎng)絡中的若干問題研究.pdf

1、模塊化神經(jīng)網(wǎng)絡是一種由多個智能體組成的學習機模型,是由多個神經(jīng)網(wǎng)絡以協(xié)作或競爭的方式構(gòu)建的學習系統(tǒng).其基本思想是以多個神經(jīng)網(wǎng)絡來探索各個子學習機的不同行為,以期提高整個學習系統(tǒng)的學習能力、系統(tǒng)精度和泛化性能.大量的實例研究表明,模塊化神經(jīng)網(wǎng)絡在泛化能力和可靠性上比單一神經(jīng)網(wǎng)絡都有所提高,為我們提供了一條問題求解的新途徑.而且最近所提出的各種理論解釋也都證實了一些常用模塊化方法的有效性.當前,模塊化神經(jīng)網(wǎng)絡的研究主要集中在兩個方面,即如何

2、將多個神經(jīng)網(wǎng)絡的輸出結(jié)論進行結(jié)合以及如何生成系統(tǒng)中的個體網(wǎng)絡.該文的工作主要集中在結(jié)論合成方面,提出子網(wǎng)絡選擇性集成的方案,提出一種新的層次模塊化神經(jīng)網(wǎng)絡模型.同時該文還對模塊化神經(jīng)網(wǎng)絡的魯棒性能進行了研究.全文共分五章.第一章,該文首先從需求,神經(jīng)生理學和社會科學等角度闡述了模塊化神經(jīng)網(wǎng)絡出現(xiàn)的可能和必然,然后從理論與應用兩個方面介紹了模塊化神經(jīng)網(wǎng)絡的研究現(xiàn)狀及應用前景.第二章,該文提出了一種模塊化神經(jīng)網(wǎng)絡的魯棒學習算法,實驗研究表明

3、模塊化神經(jīng)網(wǎng)絡的魯棒學習算法對于污染樣本的學習能獲得較好的魯棒性能和較高的學習精度,特別是在模型較復雜時,該算法的效果尤為明顯.該文在第三章討論了模塊化神經(jīng)網(wǎng)絡自適應集成的一些問題,如集成權(quán)的動態(tài)生成,子神經(jīng)網(wǎng)絡配置的最優(yōu)化,以及子神經(jīng)網(wǎng)絡的重組等.第四章,該文應用分而治之的思想提出了一種層次模塊化神經(jīng)網(wǎng)絡新方法一三層結(jié)構(gòu)的模塊化神經(jīng)網(wǎng)絡模型,在提高算法性能方面有一定優(yōu)勢.對比實驗研究也表明該算法有效地提高了系統(tǒng)的泛化能力和算法穩(wěn)定性.