合作型模塊化神經(jīng)網(wǎng)絡的研究與應用.pdf

1、模塊化神經(jīng)網(wǎng)絡(MNN)是采用多個神經(jīng)網(wǎng)絡以合作或競爭的方式所構建的學習系統(tǒng)，其試圖以多個神經(jīng)網(wǎng)絡來探索各個子學習機的不同行為，從而提高整個學習系統(tǒng)的精度和可靠性。面對大規(guī)模復雜問題，單一神經(jīng)網(wǎng)絡往往束手無策，其固有的缺陷顯得尤為突出，而作為一種非常有效的計算方法，模塊化神經(jīng)網(wǎng)絡往往能擔此重任。由于認識到模塊化神經(jīng)網(wǎng)絡所蘊含的巨大潛力和應用前景，大量研究者涌入該領域，理論和成果不斷涌現(xiàn)，使得模塊化神經(jīng)網(wǎng)絡成為機器學習和神經(jīng)網(wǎng)絡領域的研究

2、熱點。 本文以回歸問題為例就模塊化神經(jīng)網(wǎng)絡系統(tǒng)中各個子網(wǎng)絡的訓練及組合方法展開研究，充分考慮了各子網(wǎng)間的相互聯(lián)系和作用隨待解決問題的變化而需不斷調整這一事實，結合了遺傳算法的相關理論知識和現(xiàn)存的MNN的學習方法，提出了名為“合作自適應”的MNN組合方法。該方法首先按照某種相似性測度將樣本集劃分為若干子集，并考量子網(wǎng)對不同樣本子集的適應能力，然后動態(tài)地為子網(wǎng)分配樣本子集用以訓練，這樣產生的個體神經(jīng)網(wǎng)絡既擁有相對的準確性，又不失其對

3、其他樣本的適應性：將這樣的網(wǎng)絡進行合適地組合后可有效提高系統(tǒng)的精度和泛化能力。針對8個回歸實例，本文給出了仿真測試，并對結果進行了對比分析。 本文還描述了作者所開發(fā)的一套名為“NeuralCraft”的適合于模塊化神經(jīng)網(wǎng)絡研究的仿真系統(tǒng)，詳細介紹了該系統(tǒng)的總體架構和各模塊的功能以及人機交互界面的設計等。該系統(tǒng)基于先進的Visual Studio.NET集成開發(fā)環(huán)境，利用.NETframework提供的豐富類庫和己封裝好的展示控件