基于核方法的脈沖神經(jīng)元脈沖序列在線學(xué)習(xí)研究.pdf

1、人工神經(jīng)網(wǎng)絡(luò)已經(jīng)成功應(yīng)用在很多領(lǐng)域，近年來研究者們對人工神經(jīng)網(wǎng)絡(luò)的關(guān)注逐漸轉(zhuǎn)向了更具生物特性的脈沖神經(jīng)網(wǎng)絡(luò)，尤其是脈沖神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的理論研究。從對脈沖序列的學(xué)習(xí)方式來看，脈沖序列的學(xué)習(xí)算法主要可分為離線學(xué)習(xí)和在線學(xué)習(xí)。傳統(tǒng)的脈沖神經(jīng)網(wǎng)絡(luò)大都采用離線的學(xué)習(xí)方式，一般適用于靜態(tài)數(shù)據(jù)的學(xué)習(xí)，然而對于實時性數(shù)據(jù)的處理，在線學(xué)習(xí)方式則更具有優(yōu)勢。由于脈沖神經(jīng)元內(nèi)在的不連續(xù)和非線性機制，構(gòu)建高效的脈沖神經(jīng)網(wǎng)絡(luò)在線學(xué)習(xí)算法非常困難，同時也是該研究

2、領(lǐng)域的重要方向。
　　本文首先對脈沖神經(jīng)元的建模方法和幾種常見的脈沖神經(jīng)元的模型進(jìn)行討論，基于傳統(tǒng)的神經(jīng)元學(xué)習(xí)規(guī)則 Widrow-Hoff規(guī)則，給出了脈沖神經(jīng)元突觸權(quán)值的在線學(xué)習(xí)規(guī)則和線性脈沖序列核的在線學(xué)習(xí)算法。并通過不同核函數(shù)的性能對比，脈沖序列的學(xué)習(xí)過程和不同參數(shù)設(shè)置時的學(xué)習(xí)性能對該算法進(jìn)行實驗分析，經(jīng)實驗結(jié)果表明，對于大規(guī)模數(shù)據(jù)集和復(fù)雜環(huán)境的學(xué)習(xí)問題，該算法的學(xué)習(xí)精度和速度都要高于相同條件下的離線學(xué)習(xí)方式。
　　其次

3、，從神經(jīng)元突觸信息傳遞過程來看，脈沖序列核的在線學(xué)習(xí)算法是線性的，因為它忽略了樹突信息的傳遞特性。因此從生物可解釋性的角度，本文基于兩種脈沖神經(jīng)元脈沖序列的非線性機制，給出了兩種非線性脈沖神經(jīng)元突觸權(quán)值的學(xué)習(xí)規(guī)則和非線性脈沖序列核的在線學(xué)習(xí)算法。并通過不同核函數(shù)、脈沖序列學(xué)習(xí)過程、不同輸入神經(jīng)元數(shù)目、不同脈沖序列的發(fā)放頻率和不同輸入脈沖序列的長度對該算法進(jìn)行分析，實驗結(jié)果表明更具生物特性的非線性脈沖序列核在線學(xué)習(xí)算法的學(xué)習(xí)精度和速度都要

4、高于相同情況下的線性過程。
　　最后，由于每個核函數(shù)本身都具有不同的空間映射特性，在不同的應(yīng)用情景下，會產(chǎn)生較大的性能差別，而線性和非線性在線學(xué)習(xí)算法都是基于單個特征空間的單一核函數(shù)，因此我們考慮將多個核函數(shù)進(jìn)行組合，從而來獲得更加穩(wěn)定高效的脈沖序列核表示方式。于是我們將支持向量機中的多核學(xué)習(xí)機制引入到脈沖序列的在線學(xué)習(xí)中，采用基本多核學(xué)習(xí)中的合成核方法對核函數(shù)進(jìn)行組合，提出了基于多脈沖序列核的脈沖神經(jīng)元在線學(xué)習(xí)算法，本文中主要采