具有廣義分段線性激活函數(shù)的遞歸神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性分析.pdf

1、隨著現(xiàn)代科學技術(shù)的飛速發(fā)展，人們對自動控制、優(yōu)化計算等方面的要求日益增長，對信息處理的低的智能化水平已經(jīng)不能適應時代的發(fā)展。作為在圖像處理、模式識別、最優(yōu)化問題等領(lǐng)域具有廣泛應用背景的動力學系統(tǒng)之一的遞歸神經(jīng)網(wǎng)絡(luò)，其動力學研究是成功應用與設(shè)計的前提。在基于遞歸神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶應用中，記憶模式被設(shè)計為神經(jīng)網(wǎng)絡(luò)的穩(wěn)定平衡點。神經(jīng)網(wǎng)絡(luò)穩(wěn)定平衡點的數(shù)目反應了聯(lián)想記憶的存儲容量，穩(wěn)定平衡點的吸引域的大小反應了聯(lián)想記憶應用中的容錯能力。因此，針對

2、遞歸神經(jīng)網(wǎng)絡(luò)多穩(wěn)定性的研究具有重要的理論價值和實際意義。
　　本文針對幾類遞歸神經(jīng)網(wǎng)絡(luò)模型，研究了多個平衡點的存在性和穩(wěn)定性，分析了穩(wěn)定平衡點的吸引域。本文的主要研究工作如下：
　　1.研究了由兩個實值神經(jīng)元組成的具有多階分段線性激活函數(shù)的時滯遞歸神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性。首先依據(jù)激活函數(shù)的特性將狀態(tài)空間劃分成(2r+1)2個子域，提出了在每個子域中存在一個平衡點的充分條件。通過分析(r+1)2個子域的正不變性，得到了(r+1)2

3、個平衡點的局部指數(shù)穩(wěn)定性。利用超越方程的特性和Lyapunov直接法，得到了(2r+1)2-(r+1)2-r2個平衡點的不穩(wěn)定性。通過分析不穩(wěn)定平衡點所在子域中神經(jīng)元狀態(tài)的運行軌跡，得到了穩(wěn)定平衡點的比不變子域更大的吸引域。
　　2.針對帶有常時滯和多階分段線性激活函數(shù)的實值環(huán)狀遞歸神經(jīng)網(wǎng)絡(luò)模型，通過劃分狀態(tài)空間和介值原理提出了神經(jīng)網(wǎng)絡(luò)存在多個平衡點的充分條件，研究了時滯環(huán)狀遞歸神經(jīng)網(wǎng)絡(luò)所對應的特征方程的純虛根的數(shù)目和穿越方向，分

4、析了所有平衡點的穩(wěn)定性，其中(r+1)n個平衡點是局部穩(wěn)定的，(2r+1)n-(r+1)n個平衡點是不穩(wěn)定的。
　　3.考慮了右端不連續(xù)實值遞歸神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性。首先給出了時變時滯遞歸神經(jīng)網(wǎng)絡(luò)對應的右端不連續(xù)微分系統(tǒng)在Filippov意義下解的定義，利用不動點原理，提出了時滯神經(jīng)網(wǎng)絡(luò)存在rn個平衡點的充分條件，分析了這些平衡點的局部指數(shù)穩(wěn)定性，估計了穩(wěn)定平衡點的吸引域范圍。其次，針對無時滯的右端不連續(xù)實值遞歸神經(jīng)網(wǎng)絡(luò)，研究了平衡

5、點集的存在性和穩(wěn)定性。
　　4.對帶有常時滯的實值雙向聯(lián)想記憶遞歸神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性進行了分析，其中激活函數(shù)為具有多個間斷點的右端不連續(xù)函數(shù)。首先給出了雙向聯(lián)想記憶神經(jīng)網(wǎng)絡(luò)對應的右端不連續(xù)微分系統(tǒng)在Filippov意義下解的定義，提出了神經(jīng)網(wǎng)絡(luò)存在rn個平衡點的充分條件。利用指數(shù)穩(wěn)定性定義分析了這些平衡點的局部指數(shù)穩(wěn)定性，并指出了穩(wěn)定平衡點的吸引域。當神經(jīng)網(wǎng)絡(luò)的外部輸入為周期輸入時，利用壓縮映射原理，提出了神經(jīng)網(wǎng)絡(luò)存在rn個局部指

6、數(shù)穩(wěn)定的周期解的充分條件。
　　5.針對n維復值遞歸神經(jīng)網(wǎng)絡(luò)模型，提出了一類實虛型分段線性激活函數(shù)。這類激活函數(shù)的實部和虛部分別為α階分段線性激活函數(shù)和β階分段線性激活函數(shù)。首先將復數(shù)域劃分成[(2α+1)(2β+1)]n個子域，得到了每個子域中存在一個平衡點的充分條件。利用指數(shù)穩(wěn)定性定義和Lyapunov直接法分析了所有平衡點的穩(wěn)定性，其中[（α+1）（β+1）]n個平衡點是局部指數(shù)穩(wěn)定的，其他的平衡點是不穩(wěn)定的。利用狀態(tài)空間中

7、神經(jīng)網(wǎng)絡(luò)狀態(tài)運行的軌跡估計了穩(wěn)定平衡點的吸引域。此外，針對具有一個復值神經(jīng)元的遞歸神經(jīng)網(wǎng)絡(luò)，分析了一維復數(shù)域中神經(jīng)元狀態(tài)的運行軌跡，建立了穩(wěn)定平衡點的完整的吸引域。
　　6.研究了帶有右端不連續(xù)實虛型激活函數(shù)的復值遞歸神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性，其中激活函數(shù)的實部和虛部分別為具有α-1個間斷點的右端不連續(xù)函數(shù)和具有β-1個間斷點的右端不連續(xù)函數(shù)。給出了Filippov意義下復值遞歸神經(jīng)網(wǎng)絡(luò)所對應的右端不連續(xù)系統(tǒng)的解的定義。通過劃分狀態(tài)空間