人工神經(jīng)網(wǎng)絡(luò)在數(shù)據(jù)挖掘中的應(yīng)用研究.pdf

1、神經(jīng)網(wǎng)絡(luò)在數(shù)據(jù)挖掘的應(yīng)用中主要存在兩個(gè)問(wèn)題,一是訓(xùn)練時(shí)間過(guò)長(zhǎng);二是獲得的知識(shí)難以理解和表示.神經(jīng)網(wǎng)絡(luò)中的規(guī)則提取方法是解決"黑箱問(wèn)題"的有效手段,論文分析了基于結(jié)構(gòu)分解和基于輸入輸出映射的神經(jīng)網(wǎng)絡(luò)規(guī)則提取的基本思想和對(duì)應(yīng)的各種算法,并對(duì)它們的性能進(jìn)行比較.BP算法是多層前向神經(jīng)網(wǎng)絡(luò)中應(yīng)用最為廣泛的一種算法,但是由于BP算法實(shí)質(zhì)上是一種基于梯度下降的搜索算法,因此它存在著算法效率較低、收斂速度慢、易于陷入局部極小值等現(xiàn)狀;對(duì)于較大的搜索空

2、間、多峰值和不可微函數(shù)常常不能搜索到全局極小點(diǎn),這些制約了BP網(wǎng)絡(luò)在各個(gè)領(lǐng)域中的應(yīng)用,該文從BP網(wǎng)絡(luò)的工作原理出發(fā),分析產(chǎn)生局部極小的原因,提出了對(duì)BP網(wǎng)絡(luò)全局優(yōu)化的改進(jìn)策略.全局優(yōu)化改進(jìn)策略從基于網(wǎng)絡(luò)模型的優(yōu)化和基于網(wǎng)絡(luò)算法的優(yōu)化兩個(gè)方面考慮.基于網(wǎng)絡(luò)模型的優(yōu)化重點(diǎn)對(duì)結(jié)構(gòu)參數(shù)中的初始權(quán)值的選取、學(xué)習(xí)系數(shù)、神經(jīng)元的激勵(lì)函數(shù)及誤差函數(shù)提出改進(jìn)方法;基于網(wǎng)絡(luò)算法的改進(jìn)主要包括基于標(biāo)準(zhǔn)數(shù)值優(yōu)化的改進(jìn)方法和基于標(biāo)準(zhǔn)梯度下降的改進(jìn)方法.通過(guò)對(duì)BP