基于STDP的多種憶阻神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的研究.pdf

1、人工神經(jīng)網(wǎng)絡(luò)，又簡稱神經(jīng)網(wǎng)絡(luò)，是以生物神經(jīng)網(wǎng)絡(luò)的功能結(jié)構(gòu)為基礎(chǔ)而抽象出來的一種用于實現(xiàn)人工智能的數(shù)學(xué)模型。它是基于神經(jīng)科學(xué)研究成果而提出的一種自適應(yīng)、非線性處理系統(tǒng)，該系統(tǒng)通過大量處理單元的相互作用來實現(xiàn)類似于大腦神經(jīng)網(wǎng)絡(luò)對信息的記憶和處理。由于人腦中的神經(jīng)連接具有相當(dāng)高的復(fù)雜度和密度，因此人工神經(jīng)網(wǎng)絡(luò)今后也必將會向著復(fù)雜化和大規(guī)?；姆较虬l(fā)展。為實現(xiàn)這一目標(biāo)就需要神經(jīng)網(wǎng)絡(luò)中的兩個重要組件——神經(jīng)元和突觸，具有納米級規(guī)模和低能耗特性。由

2、于突觸需要對接受到的各種信號具有可塑性，需要記憶系統(tǒng)動態(tài)變化的歷史，還需要能將對應(yīng)的變化轉(zhuǎn)換成連續(xù)的數(shù)據(jù)存儲起來。因此突觸的選擇對于人工神經(jīng)網(wǎng)絡(luò)的成功與否至關(guān)重要。而憶阻器的出現(xiàn)為這一問題的解決帶來了希望。
　　憶阻器是由蔡少棠教授在1971年對電路理論研究過程中，從其完備性的角度出發(fā)提出的，該元件填補了本應(yīng)存在但卻未被提及的磁通量和電荷之間的關(guān)系。至此，基本電路元件的種類在原有的電容、電阻、電感的基礎(chǔ)上擴充成了四個。自2008年

3、惠普實驗室發(fā)現(xiàn)納米級憶阻器實物以來，憶阻器就以其獨特的非易失性和記憶特性吸引了世界的廣泛關(guān)注，并在阻變式存儲器、人工神經(jīng)網(wǎng)絡(luò)、信號處理等方面獲得了廣泛應(yīng)用。憶阻器所具有的這些特有的性能，使得它非常適合在人工神經(jīng)網(wǎng)絡(luò)電路實現(xiàn)中充當(dāng)一個合格的突觸。
　　本文介紹了幾種常見的憶阻器模型，并借助數(shù)值仿真的方法分析了惠普模型憶阻器的基本特性。介紹了STDP學(xué)習(xí)規(guī)則對應(yīng)的兩種數(shù)學(xué)模型。采用基于非對稱時間窗的STDP作為憶阻神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則，

4、結(jié)合具有自適應(yīng)突變和拓撲變異的基因算法，完成了對不同模型憶阻器學(xué)習(xí)性能的比較。在現(xiàn)有憶阻器的基礎(chǔ)上提出了混合模型憶阻器的構(gòu)想，并驗證了該模型憶阻器用于憶阻神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)效果優(yōu)于原有憶阻器模型。針對以HEBB學(xué)習(xí)規(guī)則對憶阻神經(jīng)網(wǎng)絡(luò)進行學(xué)習(xí)還原巴普洛夫?qū)嶒灤嬖诘娜毕?，提出了更貼近動物大腦思維的憶阻神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)，即以對稱時間窗的STDP數(shù)學(xué)模型作為神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則，結(jié)合遺忘模型憶阻器作為網(wǎng)絡(luò)突觸，驗證了關(guān)于憶阻神經(jīng)網(wǎng)絡(luò)具有聯(lián)想學(xué)習(xí)、修正及遺