基于神經(jīng)網(wǎng)絡的數(shù)據(jù)分類研究.pdf

1、數(shù)據(jù)分類是數(shù)據(jù)挖掘的主要任務之一，它使用某種分類算法以預先準備好的訓練樣本數(shù)據(jù)為輸入建立分類模型，最后利用分類模型預測元組的分類標號。分類算法的優(yōu)劣直接影響模型的性能，常用的數(shù)據(jù)分類算法包括判定樹歸納算法、貝葉斯分類算法和前饋神經(jīng)網(wǎng)絡分類法。 前饋神經(jīng)網(wǎng)絡使用誤差反向傳遞算法(簡稱BP算法)進行訓練樣本學習和數(shù)據(jù)分類。BP算法首先正向計算網(wǎng)絡中各個神經(jīng)元的激活輸出，如果網(wǎng)絡最終的輸出不能滿足容許條件，則利用能量函數(shù)反向計算網(wǎng)絡中

2、各個神經(jīng)元結(jié)點產(chǎn)生的誤差，最后利用這些誤差調(diào)整網(wǎng)絡中各神經(jīng)元的閥值和各神經(jīng)元之間的連接權(quán)值。使用前饋神經(jīng)網(wǎng)絡進行數(shù)據(jù)分類的最大優(yōu)點在于其分類速度較快，然而缺點是BP算法會因陷入局部最優(yōu)解而導致網(wǎng)絡的分類準確率下降。本文將結(jié)合數(shù)據(jù)分類的屬性編碼機制和BP算法進行自我學習的數(shù)學機理深入分析局部最優(yōu)解產(chǎn)生的根本原因，并在此基礎(chǔ)上提出BP算法進行數(shù)據(jù)分類時的改進算法LMDBP算法。LMDBP算法的基本原理是在BP算法每進行一次網(wǎng)絡參數(shù)調(diào)整之前，

3、檢測網(wǎng)絡是否有可能進入局部最優(yōu)解。如果局部最優(yōu)條件已經(jīng)出現(xiàn)，則只利用可以產(chǎn)生和局部最優(yōu)條件相反條件的樣本進行權(quán)值和閥值調(diào)節(jié)。利用MONKS分類問題的數(shù)據(jù)進行測試表明，LMDBP算法進行數(shù)據(jù)分類時可以避免局部最優(yōu)解，從而保證了前饋神經(jīng)網(wǎng)絡的分類準確率。然而，仍然需要指出的問難是不論采用BP算法還是LMDBP算法，都存在進入學習平滑區(qū)的問題，從而導致在有限的學習時間內(nèi)能量函數(shù)值無法被最小化，這有待于日后的研究加以解決。 小波神經(jīng)網(wǎng)絡

4、是近些年來興起的一種新型前饋神經(jīng)網(wǎng)絡，它將小波元和神經(jīng)元共同作為網(wǎng)絡的信息處理元件，既利用高維小波分析的相關(guān)理論又保留了前饋神經(jīng)網(wǎng)絡的自我學習特性?；谝延械男〔ㄉ窠?jīng)網(wǎng)絡學習算法框架，本文給出了Gaussian小波神經(jīng)網(wǎng)絡學習算法的詳細描述，并使用Gaussian小波神經(jīng)網(wǎng)絡分別對由離散屬性值和連續(xù)屬性值構(gòu)成的兩類不同測試樣本進行了分類試驗。試驗結(jié)果表明，小波神經(jīng)網(wǎng)絡對具有連續(xù)屬性值的樣本具有很強的分類能力，而對于由離散屬性值構(gòu)成的樣本