憶阻器模型及其在人工神經(jīng)網(wǎng)絡(luò)的應(yīng)用.pdf

1、人腦作為一個(gè)高效的神經(jīng)網(wǎng)絡(luò)，一直是人工神經(jīng)網(wǎng)絡(luò)模擬的目標(biāo)。但由于網(wǎng)絡(luò)規(guī)模和突觸元件的制約，人工神經(jīng)網(wǎng)絡(luò)的功能受到了極大的限制。憶阻器的出現(xiàn)，為人工神經(jīng)網(wǎng)絡(luò)從電路上模擬人腦提供了可能。首先，憶阻器的納米級(jí)尺寸、低耗能使得憶阻器可以實(shí)現(xiàn)人腦的高密度分布；其次，憶阻器的記憶性使得憶阻器可以實(shí)現(xiàn)突觸的可塑性；第三，憶阻器新發(fā)現(xiàn)的各種遺忘特性、STDP（Spike time dependent plasticity）特性使得神經(jīng)網(wǎng)絡(luò)可以具有更多與

2、人腦相似的功能。憶阻器是一個(gè)天然的突觸，而基于憶阻器創(chuàng)建的神經(jīng)網(wǎng)絡(luò)，也即憶阻神經(jīng)網(wǎng)絡(luò)，將使人工智能達(dá)到一個(gè)全新的高度。本文重點(diǎn)研究憶阻器數(shù)學(xué)模型的建立和分析、憶阻神經(jīng)網(wǎng)絡(luò)的構(gòu)建和應(yīng)用，具體內(nèi)容分為以下四個(gè)方面：
　?、賾涀杵骺赡婺Ｐ偷脑O(shè)計(jì)與分析
　　憶阻器作為新興元件，其特性和內(nèi)部機(jī)制自發(fā)現(xiàn)以來一直處于實(shí)驗(yàn)室研究階段。隨著不同材料憶阻器的發(fā)現(xiàn)，各種不同的憶阻器轉(zhuǎn)換機(jī)制和數(shù)學(xué)模型也相繼提出，但這些提出的憶阻器轉(zhuǎn)換機(jī)制和數(shù)學(xué)模型

3、只對(duì)應(yīng)特定類型的憶阻器，不能同時(shí)描述不同類型的憶阻器。我們通過對(duì)各種不同憶阻器物理機(jī)制和數(shù)學(xué)模型的分析，首次建立一個(gè)理論上的可逆模型，同時(shí)對(duì)各種不同類型的憶阻器，比如單極憶阻器，雙極憶阻器，具有遺忘效應(yīng)的雙極憶阻器，單雙極可逆的憶阻器等，進(jìn)行模擬和仿真。這個(gè)可逆模型可以使研究人員脫離特定憶阻器模型的束縛，更好的對(duì)憶阻神經(jīng)網(wǎng)絡(luò)加以研究。
　　②具有STDP特性的憶阻器模型及應(yīng)用
　　STDP特性是在生物神經(jīng)系統(tǒng)中新發(fā)現(xiàn)的學(xué)習(xí)規(guī)

4、則，即權(quán)重的增加或者降低只與激活時(shí)間相關(guān)，與神經(jīng)元的興奮強(qiáng)度無關(guān)，通常被認(rèn)為是HEBB學(xué)習(xí)規(guī)則的補(bǔ)充?？蒲腥藛T通過對(duì)實(shí)物憶阻器的頂電極和底電極施加電壓，發(fā)現(xiàn)憶阻器的阻值變化也具有STDP特性。不過憶阻器所表現(xiàn)出的STDP特性是由電信號(hào)作用后生成的突觸后電流導(dǎo)致還是由憶阻器自身阻值非線性變化特性導(dǎo)致并不能確定。本文通過一個(gè)簡易模型證明憶阻器自身的阻值變化便具有 STDP特性，同時(shí)考慮到突觸后電流的存在，通過外加信號(hào)便可實(shí)現(xiàn)對(duì) STDP學(xué)習(xí)

5、規(guī)則的控制，比如控制對(duì)稱憶阻器（阻值增加和降低對(duì)稱變化的憶阻器），和非對(duì)稱憶阻器（阻值增加和降低非對(duì)稱變化的憶阻器，一般是負(fù)向電流受抑制，也即是整流效應(yīng)）的STDP曲線。具有STDP特性的憶阻器構(gòu)建的神經(jīng)網(wǎng)絡(luò)，可實(shí)現(xiàn)序列學(xué)習(xí)和預(yù)測(cè)。
　?、劬哂袑W(xué)習(xí)和糾錯(cuò)能力的憶阻神經(jīng)網(wǎng)絡(luò)
　　傳統(tǒng)的聯(lián)想神經(jīng)網(wǎng)絡(luò)一般只研究網(wǎng)絡(luò)的學(xué)習(xí)能力，比如著名的巴甫洛夫聯(lián)想記憶實(shí)驗(yàn)，狗通過學(xué)習(xí)訓(xùn)練建立起鈴聲和食物之間的聯(lián)想記憶。但這個(gè)實(shí)驗(yàn)有個(gè)漏洞，即忽略了

6、網(wǎng)絡(luò)的糾錯(cuò)能力，比如，當(dāng)鈴聲和食物之間的聯(lián)想記憶成為錯(cuò)誤反應(yīng)時(shí)，網(wǎng)絡(luò)該如何對(duì)錯(cuò)誤的聯(lián)想進(jìn)行自動(dòng)糾正的能力。本文以惠普實(shí)驗(yàn)室提出的荷控憶阻器模型作為突觸，采用多閾值神經(jīng)元構(gòu)建神經(jīng)網(wǎng)絡(luò)，并利用最大輸入反饋（MIF）學(xué)習(xí)規(guī)則，重新實(shí)現(xiàn)同時(shí)具有學(xué)習(xí)和糾錯(cuò)能力的巴甫洛夫?qū)嶒?yàn)，表明憶阻器可以作為突觸對(duì)傳統(tǒng)神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn)和革新。
　?、芫哂袌D片存儲(chǔ)和學(xué)習(xí)能力的憶阻神經(jīng)網(wǎng)絡(luò)
　　憶阻器作為納米級(jí)的存儲(chǔ)設(shè)備，自身便可以實(shí)現(xiàn)對(duì)圖片的存儲(chǔ)，而且

7、由于其阻值的連續(xù)性，憶阻器不僅可以直接存儲(chǔ)二值圖片，還可以實(shí)現(xiàn)任意灰度級(jí)數(shù)的圖片存儲(chǔ)。而相應(yīng)的，以憶阻器構(gòu)建的神經(jīng)網(wǎng)絡(luò)，不僅可以直接存儲(chǔ)和學(xué)習(xí)二值圖片，還可以存儲(chǔ)和學(xué)習(xí)灰度圖。本文構(gòu)建多層憶阻神經(jīng)網(wǎng)絡(luò)，以CMOS電路單元作為神經(jīng)元，以憶阻交叉架構(gòu)作為突觸矩陣，引入圖片疊加去噪技術(shù)，對(duì)二值圖片和灰度圖片進(jìn)行存儲(chǔ)、學(xué)習(xí)、特征提取和識(shí)別。由于憶阻器的特性因材料而不同，我們以惠普遷移模型和閾值模型來表示不同的憶阻器，設(shè)計(jì)相應(yīng)的電路架構(gòu)和仿真，進(jìn)