基于循環(huán)神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別方案的優(yōu)化與設(shè)計(jì).pdf

1、語(yǔ)音識(shí)別是人工智能的重要分支和一項(xiàng)重要的人機(jī)交互技術(shù)，被廣泛的應(yīng)用到各種生活場(chǎng)景中。當(dāng)前的語(yǔ)音識(shí)別系統(tǒng)在純凈無(wú)噪的環(huán)境下的準(zhǔn)確率已經(jīng)超過(guò)了人的聽(tīng)覺(jué)，然而，真實(shí)應(yīng)用場(chǎng)景中的復(fù)雜的環(huán)境因素對(duì)語(yǔ)音識(shí)別系統(tǒng)的準(zhǔn)確度帶來(lái)的影響，以及在開(kāi)發(fā)階段訓(xùn)練語(yǔ)音識(shí)別模型所消耗的時(shí)間成本與計(jì)算成本，成為阻礙語(yǔ)音識(shí)別發(fā)展的難題，因此，快速訓(xùn)練語(yǔ)音識(shí)別模型的同時(shí)提高識(shí)別率是語(yǔ)音識(shí)別的重要研究課題。
　　本文主要研究如何在加快神經(jīng)網(wǎng)絡(luò)訓(xùn)練速度與解碼速度的前提下

2、提高語(yǔ)音識(shí)別模型的準(zhǔn)確率。神經(jīng)網(wǎng)絡(luò)的黑盒性與不可解釋性是改進(jìn)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的主要難題，本文使用可視化的方式，對(duì)神經(jīng)網(wǎng)絡(luò)的內(nèi)部結(jié)構(gòu)進(jìn)行研究，基于可視化的結(jié)果分析了導(dǎo)致網(wǎng)絡(luò)精度低與訓(xùn)練速度慢的主要原因。
　　本文的研究工作主要由以下三個(gè)部分組成:第一部分，提出了一種基于跨層值傳遞的深度神經(jīng)網(wǎng)絡(luò)。深度神經(jīng)網(wǎng)絡(luò)的層數(shù)和參數(shù)的增加，可以有效的抑制過(guò)擬合的現(xiàn)象，而層數(shù)過(guò)深導(dǎo)致的直接問(wèn)題是:信息在傳遞的過(guò)程中的損失。本文通過(guò)深度神經(jīng)網(wǎng)絡(luò)隱藏層的研

3、究，提出了一種基于跨層值傳遞的神經(jīng)網(wǎng)絡(luò)，經(jīng)驗(yàn)證該方法可以有效的防止信息在傳遞過(guò)程中的損失，提升神經(jīng)網(wǎng)絡(luò)的精度。第二部分，提出了一種二值化與線性表示結(jié)合的方法加速循環(huán)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練與解碼。循環(huán)神經(jīng)網(wǎng)絡(luò)內(nèi)部復(fù)雜的結(jié)構(gòu)是導(dǎo)致神經(jīng)網(wǎng)絡(luò)訓(xùn)練與解碼速度慢的直接因素，本文基于對(duì)循環(huán)神經(jīng)網(wǎng)絡(luò)中的門(mén)的研究，提出了二值化與線性表示相結(jié)合的訓(xùn)練方法，經(jīng)驗(yàn)證該方法可以做到在只損失少量精度的前提下加速神經(jīng)網(wǎng)絡(luò)的訓(xùn)練與解碼。第三部分，將以上兩種方式結(jié)合，提出了基于