人工神經(jīng)網(wǎng)絡BP學習算法的研究及在人臉識別中的應用.pdf

1、人工神經(jīng)網(wǎng)絡系統(tǒng)(ArtificialNeuralNetwork，ANN)是通過仿真和模擬生物的神經(jīng)系統(tǒng)而獲得非線性處理能力的一種模型。它是由大量的神經(jīng)元模型按照一定的拓撲結構連接而成。它能通過神經(jīng)元模型的簡單計算復合映射獲得復雜的非線性映射能力，因此被廣泛的應用在模式識別、圖像處理、數(shù)據(jù)挖掘、信號處理、自動控制等多個領域。人工神經(jīng)網(wǎng)絡系統(tǒng)模型中最常用的一種模型是多層感知器網(wǎng)絡模型（Multi-LayerPerceptrons，MLP）

2、。它是由多層神經(jīng)元模型構成，每個神經(jīng)元模型采用Sigmoid激勵函數(shù)。MLP網(wǎng)絡模型最常使用的學習算法是誤差反向傳播算法(Back-Propagation，BP)，因此又稱BP神經(jīng)網(wǎng)絡。神經(jīng)網(wǎng)絡傳統(tǒng)的BP學習算法是梯度下降法，學習因子是實驗者根據(jù)經(jīng)驗設定的固定值，但由于誤差函數(shù)的高維復雜性和學習因子大小設定不當，梯度下降算法在學習過程中存在誤差收斂速度過慢甚至不收斂、誤差出現(xiàn)震蕩、容易陷入局部極小點等問題。
　　 本文在三層全互

3、聯(lián)MLP網(wǎng)絡模型的基礎上，針對傳統(tǒng)BP梯度下降算法存在的不足，介紹了幾種改進算法，主要包括加速梯度下降法、共軛梯度法、輸出權值優(yōu)化算法、學習因子優(yōu)化算法，多重學習因子優(yōu)化算法等。
　　 其中加速梯度法將學習因子修改為根據(jù)誤差函數(shù)對學習因子的梯度為零計算得到;共軛梯度法是將數(shù)學中共軛優(yōu)化的原理應用到計算學習因子的過程中，它首先計算誤差函數(shù)對學習因子的梯度的共軛梯度，然后用共軛梯度代替原來的梯度計算學習因子;輸出權值優(yōu)化算法通過構造

4、線性方程組計算得到輸出層的權值，因為它只對輸出層做優(yōu)化，所以可以和加速梯度法或共軛梯度法結合使用;學習因子優(yōu)化算法是利用了誤差函數(shù)與學習因子之間的高階導數(shù)信息來計算學習因子;多重學習因子優(yōu)化算法是在學習因子優(yōu)化算法的基礎上，將學習因子擴展為一個向量，向量的中每一項對應一個隱含層節(jié)點的學習因子。在公共數(shù)據(jù)集上的實驗結果表明，改進后的算法能夠有效的解決神經(jīng)網(wǎng)絡傳統(tǒng)BP梯度下降法存在的不足。
　　 神經(jīng)網(wǎng)絡模型被廣泛的應用在人臉識別領

5、域。本文設計一個基于MLP神經(jīng)網(wǎng)絡模型的分類器，該分類器使用的BP學習算法，并應用在復雜光照條件下的人臉識別系統(tǒng)中。本文提出了一種人臉圖像特征提取的方法，該方法首先使用Gabor小波濾波器對人臉圖像進行多方向、多尺度的濾波，然后將濾波后的圖像進行自適應閾值二值化，最后分塊提取每個圖像的特征組成特征向量。為了降低神經(jīng)網(wǎng)絡分類器的計算復雜度，首先使用主成分分析(PCA)對特征向量降維，然后使用神經(jīng)網(wǎng)絡分類器進行學習和分類識別。該方法結合了G