神經(jīng)網(wǎng)絡(luò)的泛化能力研究及電磁應(yīng)用.pdf

1、近年來，神經(jīng)網(wǎng)絡(luò)的研究得到了異常迅速的發(fā)展。神經(jīng)網(wǎng)絡(luò)的特征充分顯示了其在解決高度非線性和嚴(yán)重不確定性系統(tǒng)的巨大潛力，在各門學(xué)科領(lǐng)域中都有重要的意義。在神經(jīng)網(wǎng)絡(luò)中，多層前饋神經(jīng)網(wǎng)絡(luò)是應(yīng)用最重要的一種網(wǎng)絡(luò)，己經(jīng)廣泛應(yīng)用于函數(shù)逼近、圖像處理、模式識別、自適應(yīng)控制等方面。 目前神經(jīng)網(wǎng)絡(luò)的理論和應(yīng)用都還存在一些困難，如局部極小點(diǎn)、過學(xué)習(xí)、欠學(xué)習(xí)以及泛化能力等問題。在諸多實(shí)際應(yīng)用中，泛化能力，即網(wǎng)絡(luò)識別訓(xùn)練集以外樣本的能力被認(rèn)為是衡量神經(jīng)網(wǎng)

2、絡(luò)性能的最重要指標(biāo)，沒有泛化能力的網(wǎng)絡(luò)是沒有任何實(shí)用價值的。正因?yàn)槿绱?，泛化能力已?jīng)成為近年來國際上十分關(guān)注的理論問題，引起國內(nèi)外學(xué)者的廣泛研究。 本文首先簡要介紹了神經(jīng)網(wǎng)絡(luò)的基本知識，綜述了國內(nèi)外就如何提高網(wǎng)絡(luò)泛化能力的主要方法，然后從對樣本的改造和相應(yīng)學(xué)習(xí)算法以及網(wǎng)絡(luò)結(jié)構(gòu)的改進(jìn)幾個方面對神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化，最后用改進(jìn)的神經(jīng)網(wǎng)絡(luò)處理電磁應(yīng)用中的問題。 本文的主要工作如下： (1) 介紹了神經(jīng)網(wǎng)絡(luò)研究歷史及國內(nèi)外對如

3、何提高網(wǎng)絡(luò)泛化能力提出的主要方法，綜述了國內(nèi)外就如何提高網(wǎng)絡(luò)泛化能力的主要方法，并對前饋神經(jīng)網(wǎng)絡(luò)的工作原理進(jìn)行了描述。 (2) 在對樣本進(jìn)行預(yù)處理的基礎(chǔ)上，結(jié)合信息論中的信息熵理論或互信息方法來改進(jìn)誤差函數(shù)，使泛化能力得到加強(qiáng)；為了加快收斂速度，在訓(xùn)練過程中加入了動量項(xiàng)。 (3) 采用了雙隱蔽層的神經(jīng)網(wǎng)絡(luò)模型，構(gòu)造一個自適應(yīng)網(wǎng)絡(luò)，這種網(wǎng)絡(luò)能在學(xué)習(xí)過程中自動尋找達(dá)到誤差要求的合適的網(wǎng)絡(luò)結(jié)構(gòu)，進(jìn)一步提高了網(wǎng)絡(luò)的泛化能力；另外規(guī)定

4、權(quán)閾值的范圍以加速收斂的速度。 (4) 應(yīng)用改進(jìn)誤差函數(shù)的前饋神經(jīng)網(wǎng)絡(luò)對波導(dǎo)終端匹配負(fù)載進(jìn)行結(jié)構(gòu)設(shè)計并給出實(shí)驗(yàn)結(jié)果。以波導(dǎo)結(jié)構(gòu)的參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸入，以反射系數(shù)S11參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸出。試驗(yàn)結(jié)果表明利用神經(jīng)網(wǎng)絡(luò)進(jìn)行該模型的結(jié)構(gòu)設(shè)計比數(shù)值方法快，且建模簡單，精度較高，系統(tǒng)的魯棒性較強(qiáng)。 (5) 應(yīng)用自適應(yīng)網(wǎng)絡(luò)結(jié)構(gòu)的前饋神經(jīng)網(wǎng)絡(luò)對超寬帶微帶扇形耦合環(huán)天線的結(jié)構(gòu)進(jìn)行優(yōu)化設(shè)計，在設(shè)計過程中以天線的結(jié)構(gòu)參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸入，以