貝葉斯風(fēng)險(xiǎn)解碼及多系統(tǒng)聯(lián)合語音識(shí)別應(yīng)用技術(shù)研究.pdf

1、提高語音識(shí)別精度一直是自動(dòng)語音識(shí)別研究領(lǐng)域所關(guān)注的核心問題之一。本文分別從單系統(tǒng)以及多系統(tǒng)聯(lián)合解碼方面展開研究，以提高大詞匯量連續(xù)語音識(shí)別的系統(tǒng)識(shí)別精度。首先基于單詞識(shí)別精度評(píng)價(jià)準(zhǔn)則考虐，本文對(duì)貝葉斯風(fēng)險(xiǎn)準(zhǔn)則的解碼方法提出多種創(chuàng)新實(shí)現(xiàn)，這不但為解碼方法提供更多有價(jià)值的參考，而且能更好地改善系統(tǒng)的識(shí)別性能?；诟鞣N單系統(tǒng)解碼方法，本文還對(duì)多系統(tǒng)聯(lián)合解碼進(jìn)行了大量地研究，為全面改善語音系統(tǒng)的識(shí)別性能提供更多的途徑。最小音子誤差區(qū)分性訓(xùn)練方法

2、在大詞匯量連續(xù)語音識(shí)別中對(duì)改善系統(tǒng)性能方面取得了顯著效果，究其本質(zhì)，它是一廣義的貝葉斯風(fēng)險(xiǎn)準(zhǔn)則。其基本思想是通過更新模型參數(shù)優(yōu)化目標(biāo)函數(shù)，使得模型的區(qū)分性性能得到提高。受其啟發(fā)，本文提出一種最小音子誤差準(zhǔn)則的解碼方法。該方法在實(shí)現(xiàn)中以字圖為假設(shè)空間，以N．最佳句子列表為假設(shè)參考空間，利用前后向算法估計(jì)假設(shè)參考相對(duì)字圖的平均正確度，而目標(biāo)是從N．最佳句子列表中選取使目標(biāo)字圖平均正確度最大的假設(shè)參考作為解碼結(jié)果。該解碼方法的顯著優(yōu)點(diǎn)是實(shí)現(xiàn)簡(jiǎn)

3、單、效果明顯。為進(jìn)一步研究該解碼方法的性能，文中對(duì)其解碼結(jié)果與N-最佳句子列表容量關(guān)系進(jìn)行了研究，發(fā)現(xiàn)較小的N．最佳句子列表即能使其解碼性能達(dá)到飽和。另外，本文還研究了改進(jìn)的正確度計(jì)算方法，將一個(gè)局部?jī)?yōu)化問題轉(zhuǎn)化為全局優(yōu)化問題求解，從理論上減小局部?jī)?yōu)化方法所造成的近似。
　　 基于最小音子誤差解碼方法對(duì)單系統(tǒng)解碼的成功應(yīng)用，本文另一研究重點(diǎn)是利用該方法實(shí)現(xiàn)多系統(tǒng)聯(lián)合解碼。為此，本文提出兩種系統(tǒng)聯(lián)合解碼方法。一種是改進(jìn)的N．最佳投

4、票方法，該方法通過優(yōu)化聯(lián)合目標(biāo)函數(shù)從合并的N．最佳句子列表中選擇若干個(gè)最優(yōu)的解碼結(jié)果。第二種多系統(tǒng)聯(lián)合解碼方法為改進(jìn)的N．最佳句子列表解碼方法，該方法以混清網(wǎng)絡(luò)為假設(shè)參考空間，通過遍歷混淆網(wǎng)絡(luò)搜索基于聯(lián)合目標(biāo)函數(shù)最優(yōu)的解碼結(jié)果。以上兩種系統(tǒng)聯(lián)合解碼方法都取得改進(jìn)的識(shí)別結(jié)果。
　　 最小音子誤差解碼方法雖然在單系統(tǒng)和多系統(tǒng)聯(lián)合解碼任務(wù)中對(duì)系統(tǒng)識(shí)別性能有顯著的改善，但它的不足之處是在多系統(tǒng)聯(lián)合解碼實(shí)現(xiàn)方面不直接，計(jì)算量偏大。為此文中

5、提出一種迭代實(shí)現(xiàn)的貝葉斯風(fēng)險(xiǎn)解碼方法。該解碼方法通過三個(gè)子算法完成：首先通過二維前向算法估計(jì)假設(shè)參考相對(duì)目標(biāo)字圖的期望誤差（風(fēng)險(xiǎn)值）：其次，依據(jù)前向算法中獲取的對(duì)齊信息，利用改進(jìn)的后向算法累積字圖中單詞標(biāo)注與假設(shè)參考每一位置對(duì)齊的似然度；最后利用累積的似然度更新假設(shè)參考，重復(fù)迭代直至估計(jì)風(fēng)險(xiǎn)不再降低為止。該優(yōu)化方法與離散的期望最大化優(yōu)化方法類似，通過迭代更新假設(shè)參考優(yōu)化目標(biāo)函數(shù)。在結(jié)果形式上，迭代的貝葉斯風(fēng)險(xiǎn)解碼方法類似于混淆網(wǎng)絡(luò)，混淆

6、集為相互支持或競(jìng)爭(zhēng)的單詞標(biāo)注組成。為表明該解碼方法在目標(biāo)近似和收斂特性上具有嚴(yán)格的理論依據(jù)，文中證明該算法的估計(jì)風(fēng)險(xiǎn)值為理論風(fēng)險(xiǎn)值的上限，同時(shí)證明該算法在有限步迭代后收斂。在多系統(tǒng)聯(lián)合解碼方面，該迭代解碼方法的顯著優(yōu)點(diǎn)是通過聯(lián)合目標(biāo)函數(shù)直接在不同系統(tǒng)中累積統(tǒng)計(jì)分量，避免在不同分量系統(tǒng)之間進(jìn)行動(dòng)態(tài)規(guī)劃運(yùn)算，使分量系統(tǒng)的結(jié)果充分地融合，以得到更好的解碼結(jié)果。不但如此，對(duì)迭代的貝葉斯風(fēng)險(xiǎn)解碼方法而言，單系統(tǒng)解碼只是多系統(tǒng)解碼的一個(gè)特例，因此能

7、將單系統(tǒng)解碼和多系統(tǒng)聯(lián)合解碼統(tǒng)一起來，實(shí)現(xiàn)更為靈活。
　　 為研究迭代的貝葉斯風(fēng)險(xiǎn)解碼的近似特性，本文從三個(gè)方面提出改進(jìn)嘗試．首先為避免極端條件下初始化對(duì)解碼結(jié)果造成更大的影響，文章提出基于單詞的廣義損失函數(shù)，該損失函數(shù)通過一控制參數(shù)改變其特性，當(dāng)該控制參數(shù)為一較小正數(shù)時(shí)，該損失函數(shù)近似為概率密度函數(shù)，反之，該損失函數(shù)等價(jià)于常規(guī)的0-1損失函數(shù)。通過廣義損失函數(shù)，不但使得迭代的貝葉斯風(fēng)險(xiǎn)解碼實(shí)現(xiàn)靈活，而且使其魯棒性得到了增強(qiáng)：其

8、次，本文提出了基于模擬隨機(jī)退火的迭代解碼方法，通過設(shè)定不同初始溫度和溫度改變量搜索最優(yōu)解。對(duì)比該隨機(jī)迭代解碼方法取得的識(shí)別結(jié)果，實(shí)證了確定性迭代解碼方法具有極好的近似特性。最后，為減小因字圖拓?fù)浣Y(jié)構(gòu)對(duì)估計(jì)風(fēng)險(xiǎn)可能造成過分近似的影響，文章分別提出前后向字圖展開方法，對(duì)該假設(shè)進(jìn)行了充分的驗(yàn)證。
　　 本文最后為體現(xiàn)研究問題的應(yīng)用價(jià)值，文章對(duì)基于貝葉斯風(fēng)險(xiǎn)的系統(tǒng)聯(lián)合解碼的實(shí)際應(yīng)用展開研究。它的直接動(dòng)機(jī)源于貝葉斯風(fēng)險(xiǎn)準(zhǔn)則的系統(tǒng)聯(lián)合解碼方

9、法能顯著改善識(shí)別結(jié)果，因此，用多系統(tǒng)的聯(lián)合解碼結(jié)果顯然有助于無監(jiān)督的系統(tǒng)自適應(yīng)性能的改善，后者在廣播語音自動(dòng)標(biāo)注方面有著廣泛的應(yīng)用前景?；诼?lián)合解碼結(jié)果，文中分別用最大似然線性回歸方法以及最大后驗(yàn)概率方法對(duì)模型參數(shù)進(jìn)行自適應(yīng)訓(xùn)練，發(fā)現(xiàn)經(jīng)過以上兩種自適應(yīng)方法訓(xùn)練后的模型在識(shí)別性能上均有顯著的提高。不但如此，模型通過最大似然線性回歸自適應(yīng)方法訓(xùn)練之后，分量模型之間依然保持性能互補(bǔ)特性，再次將它們聯(lián)合解碼，識(shí)別結(jié)果仍然能取得進(jìn)一步改善。與其對(duì)