聲學(xué)模型區(qū)分性訓(xùn)練及其在自動(dòng)語(yǔ)音識(shí)別中的應(yīng)用.pdf

1、聲學(xué)模型區(qū)分性訓(xùn)練已經(jīng)成為當(dāng)今主流語(yǔ)音識(shí)別系統(tǒng)中最重要的模型訓(xùn)練手段之一。與此同時(shí)，對(duì)區(qū)分性訓(xùn)練準(zhǔn)則、模型優(yōu)化算法以及應(yīng)用性方法的研究，也日益引起越來(lái)越多研究者的重視。在這一背景下，本文圍繞聲學(xué)模型區(qū)分性訓(xùn)練及其在自動(dòng)語(yǔ)音識(shí)別中的應(yīng)用，進(jìn)行了較系統(tǒng)而深入的研究。并且在準(zhǔn)則、優(yōu)化與應(yīng)用三個(gè)方面都有一定的創(chuàng)新。 首先，本文提出了一種新的區(qū)分性訓(xùn)練準(zhǔn)則，即最小詞分類錯(cuò)誤MWCE準(zhǔn)則。通過(guò)將傳統(tǒng)基于句子級(jí)的MCE損失代價(jià)函數(shù)細(xì)化到詞一級(jí)

2、，MWCE準(zhǔn)則嘗試估計(jì)并最小化一個(gè)更直接的詞級(jí)分類錯(cuò)誤度量。由于這一詞級(jí)錯(cuò)誤度量更能夠匹配大詞匯量連續(xù)語(yǔ)音識(shí)別的目標(biāo)，即降低詞錯(cuò)誤率，因此也就能夠取得比句子級(jí)訓(xùn)練準(zhǔn)則更好的識(shí)別性能。與其它的一些次句級(jí)區(qū)分性訓(xùn)練準(zhǔn)則(如MWE、MPE)相比，MWCE準(zhǔn)則提供了對(duì)詞級(jí)錯(cuò)誤的一個(gè)全新角度的表達(dá)，并在我們的實(shí)驗(yàn)中取得了更優(yōu)的識(shí)別性能。這顯示從訓(xùn)練準(zhǔn)則上繼續(xù)尋找物理意義更為明確合理的目標(biāo)來(lái)進(jìn)行優(yōu)化，仍具有重要的意義。 其次，本文提出了一種

3、新的區(qū)分性訓(xùn)練模型參數(shù)更新算法，即MMIE準(zhǔn)則基于Trust Region的模型參數(shù)更新。通過(guò)在參數(shù)更新過(guò)程中引入Trust Region約束，我們使用一種在數(shù)學(xué)上更為合理、物理意義上更為明確的方式來(lái)避免傳統(tǒng)EB方法中無(wú)界優(yōu)化問(wèn)題的一些局限。同時(shí)，由于在每次迭代優(yōu)化中我們都可以得到輔助函數(shù)在約束條件下的全局最優(yōu)解，因此對(duì)準(zhǔn)則更新的效率也就更高。實(shí)驗(yàn)證明，MMIE準(zhǔn)則基于Trust Region的模型參數(shù)更新在準(zhǔn)則優(yōu)化與識(shí)別性能提升兩方面

4、都超過(guò)了傳統(tǒng)的EB模型參數(shù)更新方法。 第三，本文提出了對(duì)軟分類邊緣估計(jì)SME的一些完善和改進(jìn)方法。通過(guò)將區(qū)分性訓(xùn)練領(lǐng)域近年來(lái)的一些重要技術(shù)引入，我們首次實(shí)現(xiàn)了句子級(jí)SME估計(jì)在大詞匯量連續(xù)語(yǔ)音識(shí)別中的成功應(yīng)用。接著，我們進(jìn)一步提出SME估計(jì)下的幀級(jí)區(qū)分性訓(xùn)練方法，通過(guò)定義合理的分割度量，在幀尺度上對(duì)包含重要區(qū)分性信息的訓(xùn)練樣本進(jìn)行篩選。我們?cè)趯?shí)驗(yàn)中對(duì)比了傳統(tǒng)MCE準(zhǔn)則、句子級(jí)SME估計(jì)，以及幀級(jí)SME估計(jì)的性能。結(jié)果表明，由于引

5、入了Soft Margin的概念，兩種SME估計(jì)都能夠取得超越MCE準(zhǔn)則的性能。而我們提出的幀級(jí)SME估計(jì)在引入抑制噪聲樣本的參數(shù)后可以取得最好的、明顯超過(guò)傳統(tǒng)MCE準(zhǔn)則的識(shí)別性能。 最后，本文提出了一種區(qū)分性訓(xùn)練的應(yīng)用性方法，即基于MMIE準(zhǔn)則的HMM模型拓?fù)浣Y(jié)構(gòu)優(yōu)化方法。我們根據(jù)MMIE準(zhǔn)則定義出指導(dǎo)模型結(jié)構(gòu)優(yōu)化的啟發(fā)性度量，嘗試在各個(gè)HMM狀態(tài)間“交換”高斯核以實(shí)現(xiàn)各狀態(tài)混合高斯成份數(shù)目的非均勻分配。此外，還對(duì)高斯核交換完