冪激勵和正交基神經(jīng)網(wǎng)絡(luò)的權(quán)值直接確定方法.pdf

1、人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network，ANN，簡稱神經(jīng)網(wǎng)絡(luò)）是由大量神經(jīng)元相互連接而構(gòu)成的系統(tǒng)，以其并行處理、分布式存儲、自適應(yīng)自組織自學習和高度容錯能力等特性，在諸多學科和領(lǐng)域取得了廣泛的應(yīng)用。作為一種重要和典型的神經(jīng)網(wǎng)絡(luò)模型，BP神經(jīng)網(wǎng)絡(luò)存在著諸如收斂速度慢、易陷入局部極小點、隱神經(jīng)元數(shù)難確定、學習率難選取等各種不確定性的本質(zhì)弱點。人們提出了許多改進算法，但似乎仍然無法從理論根本上解決這些長久以來存在的弱

2、點。 本文根據(jù)數(shù)值逼近和多項式插值理論，從網(wǎng)絡(luò)結(jié)構(gòu)和激勵函數(shù)入手，分別以一組階次漸增的冪函數(shù)和多種正交多項式作為隱層神經(jīng)元的激勵函數(shù)，構(gòu)造了一類可統(tǒng)一描述的新型前向神經(jīng)網(wǎng)絡(luò)模型?；谶@類網(wǎng)絡(luò)模型，探討了其實現(xiàn)網(wǎng)絡(luò)逼近的可行性和有效性。類似于誤差回傳（BP）的經(jīng)典做法，推導(dǎo)出了其權(quán)值修正的迭代公式（包括標量形式和矩陣形式）。區(qū)別于反復(fù)迭代訓練而達到最優(yōu)權(quán)值的標準做法，本文基于矩陣偽逆的思想提出了一種權(quán)值直接確定的方法。該新方法可以

3、一步直接計算出網(wǎng)絡(luò)的最優(yōu)權(quán)值，從而避免了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)算法冗長的迭代學習過程。 計算機仿真結(jié)果顯示，本文所構(gòu)造的新型前向神經(jīng)網(wǎng)絡(luò)模型和基于此類模型提出的權(quán)值直接確定方法，具有優(yōu)良的函數(shù)逼近能力，學習速度快、仿真與預(yù)測精度高。并且其網(wǎng)絡(luò)結(jié)構(gòu)簡單、易于硬件實現(xiàn)。 值得指出的是，在此權(quán)值直接確定法的基礎(chǔ)上，本文還進一步探索出一種確定神經(jīng)網(wǎng)絡(luò)最優(yōu)結(jié)構(gòu)的方法。這種網(wǎng)絡(luò)結(jié)構(gòu)自確定法可以快速有效地計算出神經(jīng)網(wǎng)絡(luò)滿足性能要求的最優(yōu)隱神經(jīng)元