廣義同余神經(jīng)網(wǎng)絡研究.pdf

1、在過去的二十年，神經(jīng)網(wǎng)絡理論研究取得了很大的進展，在各領域的應用也取得了豐碩的成果。作為神經(jīng)網(wǎng)絡的經(jīng)典模型，BP網(wǎng)絡也得到了快速的發(fā)展，同時，也存在著收斂速度緩慢、難以用數(shù)字硬件實現(xiàn)等問題。隨著研究的深入，人們對神經(jīng)網(wǎng)絡實時性、規(guī)模性的要求越來越高，解決這些問題也就顯得更加迫切。 有關廣義同余神經(jīng)網(wǎng)絡(GCNN)的初步研究表明，相對于普通BP網(wǎng)絡，GCNN具有很快的收斂速度。但是，GCNN也存在著一些不足，主要包括：學習能力略差

2、，激勵函數(shù)模值不易設定，難以開發(fā)出合適的學習算法，缺乏嚴格的理論基礎。 本文針對GCNN的上述問題進行了研究，包括提出新的網(wǎng)絡結構、學習算法、進行相關理論分析以及實際應用分析。本文的研究成果主要有：1)提出了一種改進的廣義同余激勵函數(shù)。同時，對GCNN網(wǎng)絡結構做了一些改進，解決了模值難以設定的問題。并證明了，單隱層的GCNN具有一致逼近能力。 2)提出了兩種新的學習算法：改進的GCNNBP學習算法及LargeMargin

3、學習算法。分析了改進GCNNBP算法的時間復雜度，并證明了其收斂性。實驗結果表明，本文所提出的網(wǎng)絡結構及學習算法是有效的，GCNN比普通BP網(wǎng)絡及其部分變體具有更快的學習速度和較好的逼近、分類精度。 3)分析了GCNN快速收斂的原因。理論分析及實驗結果表明，GCNN實質(zhì)上是通過在誤差函數(shù)空間中增加誤差函數(shù)的極值點數(shù)目而實現(xiàn)快速收斂的。 4)將GCNN成功應用到垃圾郵件過濾中。實驗結果表明，GCNN的過濾性能好于其它幾種機