神經(jīng)網(wǎng)絡(luò)最新發(fā)展綜述

1、神經(jīng)網(wǎng)絡(luò)最新發(fā)展綜述神經(jīng)網(wǎng)絡(luò)最新發(fā)展綜述學(xué)校：上海海事大學(xué)學(xué)校：上海海事大學(xué)專(zhuān)業(yè)：物流工程專(zhuān)業(yè)：物流工程姓名：周巧珍姓名：周巧珍學(xué)號(hào)：學(xué)號(hào)：2015302101552015302101552的實(shí)現(xiàn)離不開(kāi)大腦神經(jīng)系統(tǒng)的研究。眾所周知，人腦是由幾十多億個(gè)高度互聯(lián)的神經(jīng)元組成的復(fù)雜生物網(wǎng)絡(luò)，也是人類(lèi)分析、聯(lián)想、記憶和邏輯推理等能力的來(lái)源。神經(jīng)元之間通過(guò)突觸連接以相互傳遞信息，連接的方式和強(qiáng)度隨著學(xué)習(xí)發(fā)生改變，從而將學(xué)習(xí)到的知識(shí)進(jìn)行存儲(chǔ)。模擬人

2、腦中信息存儲(chǔ)和處理的基本單元神經(jīng)元而組成的人工神經(jīng)網(wǎng)絡(luò)模型具有自學(xué)習(xí)與自組織等智能行為，能夠使機(jī)器具有一定程度上的智能水平。神經(jīng)網(wǎng)絡(luò)的計(jì)算結(jié)構(gòu)和學(xué)習(xí)規(guī)則遵照生物神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)，在數(shù)字計(jì)算機(jī)中，神經(jīng)細(xì)胞接收周?chē)?xì)胞的刺激并產(chǎn)生相應(yīng)輸出信號(hào)的過(guò)程可以用“線性加權(quán)和”及“函數(shù)映射”的方式來(lái)模擬，而網(wǎng)絡(luò)結(jié)構(gòu)和權(quán)值調(diào)整的過(guò)程用優(yōu)化學(xué)習(xí)算法實(shí)現(xiàn)。按照該方式建立的這種仿生智能計(jì)算模型雖然不能和生物神經(jīng)網(wǎng)絡(luò)完全等價(jià)和媲美，但已經(jīng)在某些方面取得了優(yōu)越的性能

3、。目前神經(jīng)網(wǎng)絡(luò)已經(jīng)發(fā)展了上百種模型，在諸如手寫(xiě)體識(shí)別、顯著性檢測(cè)、語(yǔ)音識(shí)別和圖像識(shí)別、模式識(shí)別、人機(jī)交互、優(yōu)化算法、深度學(xué)習(xí)等技術(shù)領(lǐng)域取得了非常成功的應(yīng)用。2.2.各領(lǐng)域簡(jiǎn)單介紹各領(lǐng)域簡(jiǎn)單介紹2.12.1手寫(xiě)體識(shí)別手寫(xiě)體識(shí)別2009年，認(rèn)識(shí)到自由手寫(xiě)文本是一個(gè)具有挑戰(zhàn)性的任務(wù)。草書(shū)分割或重疊的字符的困難，與需要利用周?chē)沫h(huán)境相結(jié)合，導(dǎo)致了較低的識(shí)別率，即使是當(dāng)時(shí)最好的識(shí)別。GravesAlex等人[1]提出了一種基于一種新型的遞歸神經(jīng)網(wǎng)

4、絡(luò)，專(zhuān)門(mén)為序列標(biāo)注任務(wù)設(shè)計(jì)的，其中數(shù)據(jù)是很難段和含有遠(yuǎn)距離雙向的相互依存關(guān)系的一種方法。在兩個(gè)大型無(wú)約束手寫(xiě)數(shù)據(jù)庫(kù)的實(shí)驗(yàn)中，該方法實(shí)現(xiàn)了對(duì)在線數(shù)據(jù)79.7％，而上的脫機(jī)數(shù)據(jù)74.1％的單詞識(shí)別精度，顯著超越國(guó)家的最先進(jìn)的基于HMM的系統(tǒng)。此外，證明了網(wǎng)絡(luò)的魯棒性詞匯的大小，測(cè)量其隱層的個(gè)人影響力。2010年，CiresanD.C.等人[2]使用整個(gè)未變形的訓(xùn)練集進(jìn)行驗(yàn)證，不浪費(fèi)訓(xùn)練圖像。原始灰度圖像的像素強(qiáng)度的范圍從0（背景）到255（

5、最高前景強(qiáng)度）。每幅圖像的2828=784個(gè)像素被映射到真實(shí)值在[1.0，1.0]，和被饋送到對(duì)NN輸入層。使用2至9隱藏層和單位數(shù)目不等的隱藏單元來(lái)培養(yǎng)MLPs，。大多是每一層隱藏單元的數(shù)量向輸出層（表1）降低，但不都是這樣。結(jié)合AFNE（旋轉(zhuǎn)，縮放和水平剪切）和彈性變形，在每一個(gè)初劃時(shí)代整個(gè)MNIST訓(xùn)練集被變形。小型網(wǎng)絡(luò)初步實(shí)驗(yàn)得到一些參數(shù)。表1的結(jié)果表明：極具競(jìng)爭(zhēng)力的MNIST手寫(xiě)基準(zhǔn)，單精度浮點(diǎn)基于GPU的神經(jīng)網(wǎng)絡(luò)超越所有先前