BP網絡在多元回歸分析中的應用.pdf

1、"人工神經網絡"(ARTIFICIAL NEURAL NETWORK,簡稱A.N.N.)是在對人腦組織結構和運行機制的認識理解基礎之上模擬其結構和智能行為的一種工程系統(tǒng).人工神經網絡同現行的計算機不同,它是一種非線性的處理單元.只有當神經元對所有的輸入信號的綜合處理結果超過某一閾值后才輸出一個信號.因此神經網絡是一種具有高度非線性的超大規(guī)模連續(xù)時間動力學系統(tǒng).它突破了傳統(tǒng)的以線性處理為基礎的數字電子計算機的局限,標志著人們智能信息處理能

2、力和模擬人腦智能行為能力的一大飛躍.神經網絡的關鍵,就在于每個處理單元之間建立適當的連結,這就像腦神經細胞間彼此用突觸做溝通的渠道一樣.這些神經元的連結并不象想象的那樣雜亂無章,而是通常被組織成層次分明的神經元,每一層內的神經元接受下層神經元的訊號,并向上送出結果.其中,輸入層負責接收資料,而輸出層則送出最終的結果,通常它們之間還存在著隱藏層,夾雜在兩者之間,因此,這種結構使我們無法預測輸入的資料將怎樣在這些神經元之間流動.每個神經元都

3、收到由前一層發(fā)出的訊號,然后,將各個訊號經過加權處理,歸納出最后的結果,再傳給上一層的神經元.于是,神經網絡的關鍵就在于如何決定每一神經元的權值.神經網絡需要經過訓練來調整這個比值,在訓練開始前,每一比值都用隨機方法決定,這種神經網絡可被解讀為人腦最初的渾沌狀態(tài).誤差反向傳播神經網絡BP(Error Back Propagation Neural Network)是1986年由Rumelhart和Hinton提出的,他是一種能向著滿足給

4、定的輸入輸出關系方向進行自組織的神經網絡.當輸出層上的實際輸出與給定的教師輸入不一致時,用最速下降法修正各層之間的結合強度,直到最終滿足給定的輸出輸入關系為止.由于誤差傳播的方向與信號傳播的方向正好相反,故而稱為誤差反向傳播神經網絡.誤差修正型學習算法的基本思想是利用輸出層單元期望輸出與實際輸出值之間的差異作為連接權調整的根據,通過反復循環(huán)直至最后減小這種差異至某一符合要求的范圍內為止.本文重點分析了BP網絡的結構、訓練算法、工作機制及