憶阻器模型及其在人工神經(jīng)網(wǎng)絡(luò)的應(yīng)用.pdf

1、人腦作為一個高效的神經(jīng)網(wǎng)絡(luò)，一直是人工神經(jīng)網(wǎng)絡(luò)模擬的目標(biāo)。但由于網(wǎng)絡(luò)規(guī)模和突觸元件的制約，人工神經(jīng)網(wǎng)絡(luò)的功能受到了極大的限制。憶阻器的出現(xiàn)，為人工神經(jīng)網(wǎng)絡(luò)從電路上模擬人腦提供了可能。首先，憶阻器的納米級尺寸、低耗能使得憶阻器可以實現(xiàn)人腦的高密度分布；其次，憶阻器的記憶性使得憶阻器可以實現(xiàn)突觸的可塑性；第三，憶阻器新發(fā)現(xiàn)的各種遺忘特性、STDP（Spike time dependent plasticity）特性使得神經(jīng)網(wǎng)絡(luò)可以具有更多與

2、人腦相似的功能。憶阻器是一個天然的突觸，而基于憶阻器創(chuàng)建的神經(jīng)網(wǎng)絡(luò)，也即憶阻神經(jīng)網(wǎng)絡(luò)，將使人工智能達到一個全新的高度。本文重點研究憶阻器數(shù)學(xué)模型的建立和分析、憶阻神經(jīng)網(wǎng)絡(luò)的構(gòu)建和應(yīng)用，具體內(nèi)容分為以下四個方面：
　?、賾涀杵骺赡婺Ｐ偷脑O(shè)計與分析
　　憶阻器作為新興元件，其特性和內(nèi)部機制自發(fā)現(xiàn)以來一直處于實驗室研究階段。隨著不同材料憶阻器的發(fā)現(xiàn)，各種不同的憶阻器轉(zhuǎn)換機制和數(shù)學(xué)模型也相繼提出，但這些提出的憶阻器轉(zhuǎn)換機制和數(shù)學(xué)模型

3、只對應(yīng)特定類型的憶阻器，不能同時描述不同類型的憶阻器。我們通過對各種不同憶阻器物理機制和數(shù)學(xué)模型的分析，首次建立一個理論上的可逆模型，同時對各種不同類型的憶阻器，比如單極憶阻器，雙極憶阻器，具有遺忘效應(yīng)的雙極憶阻器，單雙極可逆的憶阻器等，進行模擬和仿真。這個可逆模型可以使研究人員脫離特定憶阻器模型的束縛，更好的對憶阻神經(jīng)網(wǎng)絡(luò)加以研究。
　　②具有STDP特性的憶阻器模型及應(yīng)用
　　STDP特性是在生物神經(jīng)系統(tǒng)中新發(fā)現(xiàn)的學(xué)習(xí)規(guī)

4、則，即權(quán)重的增加或者降低只與激活時間相關(guān)，與神經(jīng)元的興奮強度無關(guān)，通常被認為是HEBB學(xué)習(xí)規(guī)則的補充。科研人員通過對實物憶阻器的頂電極和底電極施加電壓，發(fā)現(xiàn)憶阻器的阻值變化也具有STDP特性。不過憶阻器所表現(xiàn)出的STDP特性是由電信號作用后生成的突觸后電流導(dǎo)致還是由憶阻器自身阻值非線性變化特性導(dǎo)致并不能確定。本文通過一個簡易模型證明憶阻器自身的阻值變化便具有 STDP特性，同時考慮到突觸后電流的存在，通過外加信號便可實現(xiàn)對 STDP學(xué)習(xí)

5、規(guī)則的控制，比如控制對稱憶阻器（阻值增加和降低對稱變化的憶阻器），和非對稱憶阻器（阻值增加和降低非對稱變化的憶阻器，一般是負向電流受抑制，也即是整流效應(yīng)）的STDP曲線。具有STDP特性的憶阻器構(gòu)建的神經(jīng)網(wǎng)絡(luò)，可實現(xiàn)序列學(xué)習(xí)和預(yù)測。
　?、劬哂袑W(xué)習(xí)和糾錯能力的憶阻神經(jīng)網(wǎng)絡(luò)
　　傳統(tǒng)的聯(lián)想神經(jīng)網(wǎng)絡(luò)一般只研究網(wǎng)絡(luò)的學(xué)習(xí)能力，比如著名的巴甫洛夫聯(lián)想記憶實驗，狗通過學(xué)習(xí)訓(xùn)練建立起鈴聲和食物之間的聯(lián)想記憶。但這個實驗有個漏洞，即忽略了

6、網(wǎng)絡(luò)的糾錯能力，比如，當(dāng)鈴聲和食物之間的聯(lián)想記憶成為錯誤反應(yīng)時，網(wǎng)絡(luò)該如何對錯誤的聯(lián)想進行自動糾正的能力。本文以惠普實驗室提出的荷控憶阻器模型作為突觸，采用多閾值神經(jīng)元構(gòu)建神經(jīng)網(wǎng)絡(luò)，并利用最大輸入反饋（MIF）學(xué)習(xí)規(guī)則，重新實現(xiàn)同時具有學(xué)習(xí)和糾錯能力的巴甫洛夫?qū)嶒?，表明憶阻器可以作為突觸對傳統(tǒng)神經(jīng)網(wǎng)絡(luò)進行改進和革新。
　?、芫哂袌D片存儲和學(xué)習(xí)能力的憶阻神經(jīng)網(wǎng)絡(luò)
　　憶阻器作為納米級的存儲設(shè)備，自身便可以實現(xiàn)對圖片的存儲，而且

7、由于其阻值的連續(xù)性，憶阻器不僅可以直接存儲二值圖片，還可以實現(xiàn)任意灰度級數(shù)的圖片存儲。而相應(yīng)的，以憶阻器構(gòu)建的神經(jīng)網(wǎng)絡(luò)，不僅可以直接存儲和學(xué)習(xí)二值圖片，還可以存儲和學(xué)習(xí)灰度圖。本文構(gòu)建多層憶阻神經(jīng)網(wǎng)絡(luò)，以CMOS電路單元作為神經(jīng)元，以憶阻交叉架構(gòu)作為突觸矩陣，引入圖片疊加去噪技術(shù)，對二值圖片和灰度圖片進行存儲、學(xué)習(xí)、特征提取和識別。由于憶阻器的特性因材料而不同，我們以惠普遷移模型和閾值模型來表示不同的憶阻器，設(shè)計相應(yīng)的電路架構(gòu)和仿真，進