基于核方法的脈沖神經(jīng)元脈沖序列在線學(xué)習(xí)研究.pdf

1、人工神經(jīng)網(wǎng)絡(luò)已經(jīng)成功應(yīng)用在很多領(lǐng)域，近年來(lái)研究者們對(duì)人工神經(jīng)網(wǎng)絡(luò)的關(guān)注逐漸轉(zhuǎn)向了更具生物特性的脈沖神經(jīng)網(wǎng)絡(luò)，尤其是脈沖神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的理論研究。從對(duì)脈沖序列的學(xué)習(xí)方式來(lái)看，脈沖序列的學(xué)習(xí)算法主要可分為離線學(xué)習(xí)和在線學(xué)習(xí)。傳統(tǒng)的脈沖神經(jīng)網(wǎng)絡(luò)大都采用離線的學(xué)習(xí)方式，一般適用于靜態(tài)數(shù)據(jù)的學(xué)習(xí)，然而對(duì)于實(shí)時(shí)性數(shù)據(jù)的處理，在線學(xué)習(xí)方式則更具有優(yōu)勢(shì)。由于脈沖神經(jīng)元內(nèi)在的不連續(xù)和非線性機(jī)制，構(gòu)建高效的脈沖神經(jīng)網(wǎng)絡(luò)在線學(xué)習(xí)算法非常困難，同時(shí)也是該研究

2、領(lǐng)域的重要方向。
　　本文首先對(duì)脈沖神經(jīng)元的建模方法和幾種常見(jiàn)的脈沖神經(jīng)元的模型進(jìn)行討論，基于傳統(tǒng)的神經(jīng)元學(xué)習(xí)規(guī)則 Widrow-Hoff規(guī)則，給出了脈沖神經(jīng)元突觸權(quán)值的在線學(xué)習(xí)規(guī)則和線性脈沖序列核的在線學(xué)習(xí)算法。并通過(guò)不同核函數(shù)的性能對(duì)比，脈沖序列的學(xué)習(xí)過(guò)程和不同參數(shù)設(shè)置時(shí)的學(xué)習(xí)性能對(duì)該算法進(jìn)行實(shí)驗(yàn)分析，經(jīng)實(shí)驗(yàn)結(jié)果表明，對(duì)于大規(guī)模數(shù)據(jù)集和復(fù)雜環(huán)境的學(xué)習(xí)問(wèn)題，該算法的學(xué)習(xí)精度和速度都要高于相同條件下的離線學(xué)習(xí)方式。
　　其次

3、，從神經(jīng)元突觸信息傳遞過(guò)程來(lái)看，脈沖序列核的在線學(xué)習(xí)算法是線性的，因?yàn)樗雎粤藰渫恍畔⒌膫鬟f特性。因此從生物可解釋性的角度，本文基于兩種脈沖神經(jīng)元脈沖序列的非線性機(jī)制，給出了兩種非線性脈沖神經(jīng)元突觸權(quán)值的學(xué)習(xí)規(guī)則和非線性脈沖序列核的在線學(xué)習(xí)算法。并通過(guò)不同核函數(shù)、脈沖序列學(xué)習(xí)過(guò)程、不同輸入神經(jīng)元數(shù)目、不同脈沖序列的發(fā)放頻率和不同輸入脈沖序列的長(zhǎng)度對(duì)該算法進(jìn)行分析，實(shí)驗(yàn)結(jié)果表明更具生物特性的非線性脈沖序列核在線學(xué)習(xí)算法的學(xué)習(xí)精度和速度都要

4、高于相同情況下的線性過(guò)程。
　　最后，由于每個(gè)核函數(shù)本身都具有不同的空間映射特性，在不同的應(yīng)用情景下，會(huì)產(chǎn)生較大的性能差別，而線性和非線性在線學(xué)習(xí)算法都是基于單個(gè)特征空間的單一核函數(shù)，因此我們考慮將多個(gè)核函數(shù)進(jìn)行組合，從而來(lái)獲得更加穩(wěn)定高效的脈沖序列核表示方式。于是我們將支持向量機(jī)中的多核學(xué)習(xí)機(jī)制引入到脈沖序列的在線學(xué)習(xí)中，采用基本多核學(xué)習(xí)中的合成核方法對(duì)核函數(shù)進(jìn)行組合，提出了基于多脈沖序列核的脈沖神經(jīng)元在線學(xué)習(xí)算法，本文中主要采