多層感知器的模糊線性分析及應用.pdf

1、對神經(jīng)網(wǎng)絡內(nèi)部行為的研究一直是神經(jīng)網(wǎng)絡研究領域的一大課題，特別是對應用廣泛的多層感知器的研究價值尤為突出。研究結(jié)果對深入了解神經(jīng)網(wǎng)絡的內(nèi)部行為、優(yōu)化網(wǎng)絡、提高網(wǎng)絡性能以及知識提取等都有著積極的作用。 線性判別函數(shù)理論是線性分類器的分析基礎，不適于非線性分類器。對于簡單的完成線性分類功能的感知器，已經(jīng)有系統(tǒng)的理論指導，但是對于復雜得多的多層感知器，目前尚無系統(tǒng)的理論指導，仍處在發(fā)展階段。在模式識別經(jīng)典判別函數(shù)理論的基礎上，結(jié)合模糊

2、集合理論，對用于模式識別和分類的多層感知器的行為進行的分析，借用經(jīng)典判別函數(shù)理論的概念，把非線性激勵函數(shù)視作隸屬度函數(shù)，提出了模糊線性判別函數(shù)、模糊判別面和模糊線性分類器的概念，得到了如下結(jié)論F-LDF：1)模糊線性判別函數(shù)net(X)=WTX+b通過超平面(判別邊界)net(X)=0將特征空間分割(帶有模糊區(qū)域)；2)該神經(jīng)元的權重向量W是模糊判別面的法線向量，確定了模糊判別面的朝向；3)原點到判別面的距離為r=-b/‖W‖，偏移量b

3、決定著模糊判別面的位置，改變偏移量b值即移動模糊判別面相對于原點的距離。 利用該概念，對用于模式識別和分類的多層感知器的分類行為進行了解釋，使得對多層感知器分類行為的認識更加明晰。 在此基礎上，利用該概念對多層感知器的權重進行分析，得到了如下結(jié)論： 1)H個隱層神經(jīng)元產(chǎn)生H個模糊超平面將特征空間分割(帶有模糊區(qū))。 2)由于隱層神經(jīng)元權重初始向量W0垂直于各初始判別面，所以，H個權重初始向量均勻分布在權重

4、空間中一個超球面上，意味著在特征空間設定了離原點距離r=-b/‖W‖的H個判別面，它們是某超球面的切面(超平面)，均勻分布(盡可能多朝向)在特征空間中。當對某問題求解時，所需要的任何方向的局部判別面，都有與之較接近的初始判別面存在，這意味著學習過程比較容易實現(xiàn)。與此不同，權重隨機初始化使這H個超平面的朝向隨機分布，有可能以大概率分布在與最終需要的超平面相差甚遠的方向上，學習過程對超平面的調(diào)整將較困難，甚至不能調(diào)整到需要的位置(學習過程不

5、收斂)。 3)偏移量b與權重參數(shù)在學習過程中改變，即調(diào)整模糊判別面的位置，從而最終在輸出層產(chǎn)生該問題所需要的判別邊界。 根據(jù)上述結(jié)論，得出了將網(wǎng)絡的初始權重初始化在超球上的方法。通過若干典型模式分類問題的實驗驗證，表明該方法能夠顯著提高多層感知器的收斂性能和分類能力。 醫(yī)學領域的臨床診斷屬于模式識別的范疇，將多層感知器應用于醫(yī)學臨床診斷中需要解決原始數(shù)據(jù)處理、輸入數(shù)據(jù)降維、保證正確率的前提下提高泛化能力等問題。統(tǒng)