基于短語的統(tǒng)計(jì)機(jī)器翻譯模型訓(xùn)練中若干關(guān)鍵問題的研究.pdf

1、上世紀(jì)90年代前后,IBMWatson研究中心的Brown等人提出了基于信源信道模型的統(tǒng)計(jì)翻譯方法,此類方法的性能遠(yuǎn)遠(yuǎn)超越了傳統(tǒng)的基于規(guī)則的翻譯方法。其后德國亞琛工業(yè)大學(xué)的Och等人根據(jù)Brown的理論發(fā)布了開源詞對齊工具GIZA++,從此統(tǒng)計(jì)機(jī)器翻譯成為自然語言處理研究領(lǐng)域的一個熱點(diǎn)問題。
　　Och將機(jī)器翻譯的錯誤歸結(jié)為Bayes錯誤,模型定義上的錯誤,模型訓(xùn)練中的錯誤,解碼過程中的搜索錯誤。本文以短語模型為例,從模型訓(xùn)練方面

2、入手,分析統(tǒng)計(jì)機(jī)器翻譯模型構(gòu)造的過程中,各個環(huán)節(jié)所可能引入的錯誤,并探討一些有效的方法來減少這些錯誤。更具體地講,本文的研究內(nèi)容主要包括以下幾方面:
　　(1)詞對齊的改進(jìn):統(tǒng)計(jì)機(jī)器翻譯系統(tǒng)所使用的句對齊訓(xùn)練語料,大部分都是從篇章級的對齊語料中自動抽取出來的,因此訓(xùn)練語料中通常存在大量的錯誤對齊句對,本文提出一種基于對齊困惑度的雙語語料過濾方法來過濾這些錯誤的對齊句對;針對單向詞對齊算法在對低頻單詞處理上的不足,本文提出一種基于I

3、BM模型4特征的判別式詞對齊算法。
　　(2)短語抽取的改進(jìn):為了在有限的雙語訓(xùn)練語料抽取出更多的短語翻譯規(guī)則,本文提出了非嚴(yán)格短語抽取方法和在多種詞對齊結(jié)果上抽取短語的方法,這兩種方法都可以在訓(xùn)練語料上抽取到更多的翻譯規(guī)則,但同時也會將很多有錯誤的翻譯規(guī)則抽取出來。本文通過一種有效的過濾方法對這些翻譯規(guī)則進(jìn)行過濾,在保證翻譯質(zhì)量不過度下降的前提下,過濾掉短語表中大部分的錯誤翻譯規(guī)則,以確保短語模型的精確性。
　　(3)調(diào)序

4、模型的改進(jìn):從訓(xùn)練語料上抽取到的短語規(guī)則集有很嚴(yán)重的數(shù)據(jù)稀疏問題,因此基于短語的調(diào)序規(guī)則對自然語言中一些調(diào)序現(xiàn)象的統(tǒng)計(jì)并不充分。本文提出了一種基于句法信息的調(diào)序模型,由于詞性標(biāo)注與句法標(biāo)注的數(shù)量比訓(xùn)練語料中的單詞數(shù)量要少得多,通過這些標(biāo)注構(gòu)造調(diào)序規(guī)則,可以使調(diào)序規(guī)則在訓(xùn)練語料上得到更充分的統(tǒng)計(jì),調(diào)序模型也會更加精確。
　　(4)模型參數(shù)訓(xùn)練的改進(jìn):當(dāng)前統(tǒng)計(jì)機(jī)器翻譯中最流行的模型參數(shù)訓(xùn)練方法是最小錯誤率訓(xùn)練,本文提出了一種在最小錯誤