Pi-Sigma神經(jīng)網(wǎng)絡(luò)隨機(jī)輸入在線梯度法的收斂性.pdf

1、BP神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最廣泛的前饋神經(jīng)網(wǎng)絡(luò)模型之一．但其收斂速度慢也成為它的一個(gè)重要局限．高階神經(jīng)網(wǎng)絡(luò)既擁有比BP神經(jīng)網(wǎng)絡(luò)更強(qiáng)的非線性分類能力，又將訓(xùn)練時(shí)間大大減少．Pi-Sigma神經(jīng)網(wǎng)絡(luò)(Pi-Sigma Neural Network，簡稱PSNN)是Y. Shin和J．Ghosh在1991年提出的一種新的高階神經(jīng)網(wǎng)絡(luò)[1]．它的結(jié)構(gòu)是簡單的單層感知器，因此收斂速度快．同時(shí)又具有高階神經(jīng)網(wǎng)絡(luò)特有的強(qiáng)非線性映射能力，而且避免了高階神經(jīng)

2、網(wǎng)絡(luò)存在的“維數(shù)災(zāi)難”問題．Pi-Sigma神經(jīng)網(wǎng)絡(luò)和以其為模塊構(gòu)造的神經(jīng)網(wǎng)絡(luò)廣泛應(yīng)用于求解各種分類和逼近問題[2-4]． 關(guān)于神經(jīng)網(wǎng)絡(luò)的收斂性，以往的結(jié)論往往是概率性的．近年來，吳微教授等人在BP神經(jīng)網(wǎng)絡(luò)確定性收斂方面做了大量的工作，也得到了許多成果[5-11]．但關(guān)于高階神經(jīng)網(wǎng)絡(luò)尤其是Pi-Sigma神經(jīng)網(wǎng)絡(luò)的確定收斂性方面的工作才剛剛開始．關(guān)于Pi-Sigma神經(jīng)網(wǎng)絡(luò)離線梯度法和順序樣本輸入在線梯度法的收斂性結(jié)論已經(jīng)分別在