手寫(xiě)體數(shù)字識(shí)別技術(shù)研究.pdf

1、手寫(xiě)體數(shù)字識(shí)別的應(yīng)用非常廣泛，而且要求識(shí)別有較低的誤識(shí)率。傳統(tǒng)的手寫(xiě)數(shù)字識(shí)別的方法是通過(guò)提取手寫(xiě)數(shù)字高維數(shù)特征集，并運(yùn)用特征選擇方法篩選出較低維特征集，然后通過(guò)神經(jīng)網(wǎng)絡(luò)訓(xùn)練得到手寫(xiě)數(shù)字的分類(lèi)器。這種方法往往不能達(dá)到識(shí)別的高精度要求。本文以手寫(xiě)數(shù)字系統(tǒng)的高性能為出發(fā)點(diǎn)，摒棄了上述方法。
　　 本文設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)以字符圖像的所有像素灰度作為輸入，保證了數(shù)字字符的特征信息的完整性。在神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)上，針對(duì)數(shù)字圖像的特點(diǎn)，采用了卷積網(wǎng)絡(luò)

2、的設(shè)計(jì)方法，卷積網(wǎng)絡(luò)是專(zhuān)門(mén)針對(duì)圖像識(shí)別而設(shè)計(jì)的，其權(quán)值共享的特點(diǎn)可以減少網(wǎng)絡(luò)的訓(xùn)練參數(shù)，使神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)變得簡(jiǎn)單，適應(yīng)性變強(qiáng)。本文的卷積網(wǎng)絡(luò)共5層：一個(gè)輸入層、3個(gè)中間層和一個(gè)輸出層，其中中間層包括2個(gè)卷積層。每一個(gè)卷積層的神經(jīng)元組成若干個(gè)特征圖，每一個(gè)特征圖為上一層與特定卷積核進(jìn)行卷積的結(jié)果，這個(gè)卷積核就是該特征圖的神經(jīng)元的共享權(quán)值陣列。
　　 網(wǎng)絡(luò)的學(xué)習(xí)算法仍然采用BP算法，但是在傳統(tǒng)的BP算法上引入了二階方法，即用于權(quán)值更新

3、的學(xué)習(xí)速率不再為固定值，而是與輸出代價(jià)函數(shù)的Hessian矩陣有關(guān)的能自適應(yīng)的變化量。二階方法大大加快了網(wǎng)絡(luò)誤差的下降速度。另外，采用隨機(jī)輸入樣本，加快了收斂速度，而且可以避免陷入局部極小，從而改善訓(xùn)練效果。文中選擇雙曲正切函數(shù)作為激勵(lì)函數(shù)，其(-1，+1)的值域范圍更適合本文的網(wǎng)絡(luò)輸出。對(duì)于那些網(wǎng)絡(luò)誤差小于上次誤差1/10的訓(xùn)練階段，因?yàn)檫@種情況下的權(quán)值修正量比較小，所以本文忽略這些階段的反向傳播過(guò)程，這一處理方式提高了訓(xùn)練的效率。<