基于DNN的漢語語音識別聲學模型的研究.pdf

1、在傳統(tǒng)的語音識別聲學模型建模方法中，高斯混合模型（Guasian mixture model, GMM）一直占主導地位。然而，在實際應用場景中，漢語連續(xù)語音識別系統(tǒng)的識別效果并不理想。另一方面，人工神經網絡在早期也用于聲學模型建模，但在實際應用中其效果不及高斯混合模型。深度學習是近年來受到研究學者廣泛關注的新興機器學習技術，該技術主要探討深度神經網絡（Deep neural network, DNN）的建模與學習問題，對復雜問題具有很強

2、的建模能力。深度神經網絡指的是具有多層隱藏層的表示非線性關系的神經網絡結構，該結構已被成功應用到與語音，文本和圖像數據相關的問題。
　　本課題首先結合三元文法語言模型建立了一個上下文相關的高斯混合模型——隱馬爾可夫模型漢語連續(xù)語音識別基準系統(tǒng)，重點分析了模型訓練過程中涉及的相關問題。另外本文還構建了兩個使用了深度神經網絡的漢語連續(xù)語音識別系統(tǒng)。其中一個系統(tǒng)基于深度神經網絡——隱馬爾可夫模型結構，在該系統(tǒng)中，使用深度神經網絡描述給定

3、語音信號觀測特征時隱馬爾可夫模型中不可觀測狀態(tài)的分布模型。在訓練該系統(tǒng)的聲學模型時，利用一種迭代貪婪訓練算法進行訓練，使用該算法能利用大量的無標簽訓練語料，并且可以使用預處理方法初始化深度神經網絡中的權重，以幫助目標函數的優(yōu)化，降低泛化誤差。另外一個為基于深度神經網絡的Tandem語音識別系統(tǒng)，該技術利用深度神經網絡對語音數據作特征提取，并將新的特征向量作為漢語連續(xù)語音識別系統(tǒng)的輸入特征向量。
　　實驗結果顯示，基于深度神經網絡的