基于時(shí)間集成與自適應(yīng)諧振的深度學(xué)習(xí)方法研究.pdf

1、ART2網(wǎng)絡(luò)是基于自適應(yīng)諧振機(jī)制的無監(jiān)督運(yùn)行的神經(jīng)網(wǎng)絡(luò)，由于其快速響應(yīng)、實(shí)時(shí)學(xué)習(xí)等特點(diǎn)，被廣泛的應(yīng)用在各類實(shí)時(shí)聚類問題中。ART2網(wǎng)絡(luò)是基于人類的認(rèn)知規(guī)律而構(gòu)建起來的，具有非常強(qiáng)的學(xué)習(xí)能力，尤其對(duì)新類的學(xué)習(xí)，因此具有很大的研究?jī)r(jià)值。
　　本文首先在對(duì)ART2網(wǎng)絡(luò)的運(yùn)行機(jī)理做了詳細(xì)的研究基礎(chǔ)上，針對(duì)其存在的模式漂移、幅值信息丟失和警戒參數(shù)設(shè)置難等問題分別提出了改進(jìn)方法，通過模擬實(shí)驗(yàn)證明了各改進(jìn)方法的有效性，使 ART2網(wǎng)絡(luò)的綜合性能

2、得到很大提升。本文第二部分工作是對(duì)認(rèn)知理論中的記憶遺忘和轉(zhuǎn)化機(jī)理進(jìn)行了深入的研究，并將其應(yīng)用到ART2網(wǎng)絡(luò)中。本文定義了綜合記憶強(qiáng)度(CMS)概念，用于記錄ART2網(wǎng)絡(luò)各模式當(dāng)前的記憶量，并在網(wǎng)絡(luò)不斷地學(xué)習(xí)中調(diào)整此CMS值。通過設(shè)置合理的CMS閾值則可以使ART2網(wǎng)絡(luò)具有對(duì)新類別進(jìn)行檢出的能力。同時(shí)，結(jié)合人類辨別事物的規(guī)律-越熟悉的事物回憶速度越快，本文提出了基于 CMS值的獲勝模式選取方法。通過將當(dāng)前CMS值最高的模式作為獲勝模式，降

3、低了網(wǎng)絡(luò)整體的運(yùn)行復(fù)雜度。基于上述兩部分研究，ART2網(wǎng)絡(luò)的性能得到提升且功能得到完善。
　　為了處理大量與時(shí)間相關(guān)的分類問題，本文對(duì)時(shí)間集成神經(jīng)網(wǎng)絡(luò)(TANN)進(jìn)行了深入的研究，并在前文研究的基礎(chǔ)上，構(gòu)建了一種基于TANN和ART2的深度學(xué)習(xí)系統(tǒng)(TANN-ART2)。它不僅保留了原始時(shí)序數(shù)據(jù)中的時(shí)序信息，解決了傳統(tǒng)神經(jīng)網(wǎng)難以處理時(shí)序數(shù)據(jù)的問題，還能在學(xué)習(xí)過程中，從大量連續(xù)的時(shí)序數(shù)據(jù)中發(fā)現(xiàn)新出現(xiàn)的類別，使網(wǎng)絡(luò)表現(xiàn)出強(qiáng)大的學(xué)習(xí)能力