基于短語的統(tǒng)計機器翻譯模型訓練中若干關鍵問題的研究.pdf

1、上世紀90年代前后,IBMWatson研究中心的Brown等人提出了基于信源信道模型的統(tǒng)計翻譯方法,此類方法的性能遠遠超越了傳統(tǒng)的基于規(guī)則的翻譯方法。其后德國亞琛工業(yè)大學的Och等人根據(jù)Brown的理論發(fā)布了開源詞對齊工具GIZA++,從此統(tǒng)計機器翻譯成為自然語言處理研究領域的一個熱點問題。
　　Och將機器翻譯的錯誤歸結為Bayes錯誤,模型定義上的錯誤,模型訓練中的錯誤,解碼過程中的搜索錯誤。本文以短語模型為例,從模型訓練方面

2、入手,分析統(tǒng)計機器翻譯模型構造的過程中,各個環(huán)節(jié)所可能引入的錯誤,并探討一些有效的方法來減少這些錯誤。更具體地講,本文的研究內容主要包括以下幾方面:
　　(1)詞對齊的改進:統(tǒng)計機器翻譯系統(tǒng)所使用的句對齊訓練語料,大部分都是從篇章級的對齊語料中自動抽取出來的,因此訓練語料中通常存在大量的錯誤對齊句對,本文提出一種基于對齊困惑度的雙語語料過濾方法來過濾這些錯誤的對齊句對;針對單向詞對齊算法在對低頻單詞處理上的不足,本文提出一種基于I

3、BM模型4特征的判別式詞對齊算法。
　　(2)短語抽取的改進:為了在有限的雙語訓練語料抽取出更多的短語翻譯規(guī)則,本文提出了非嚴格短語抽取方法和在多種詞對齊結果上抽取短語的方法,這兩種方法都可以在訓練語料上抽取到更多的翻譯規(guī)則,但同時也會將很多有錯誤的翻譯規(guī)則抽取出來。本文通過一種有效的過濾方法對這些翻譯規(guī)則進行過濾,在保證翻譯質量不過度下降的前提下,過濾掉短語表中大部分的錯誤翻譯規(guī)則,以確保短語模型的精確性。
　　(3)調序

4、模型的改進:從訓練語料上抽取到的短語規(guī)則集有很嚴重的數(shù)據(jù)稀疏問題,因此基于短語的調序規(guī)則對自然語言中一些調序現(xiàn)象的統(tǒng)計并不充分。本文提出了一種基于句法信息的調序模型,由于詞性標注與句法標注的數(shù)量比訓練語料中的單詞數(shù)量要少得多,通過這些標注構造調序規(guī)則,可以使調序規(guī)則在訓練語料上得到更充分的統(tǒng)計,調序模型也會更加精確。
　　(4)模型參數(shù)訓練的改進:當前統(tǒng)計機器翻譯中最流行的模型參數(shù)訓練方法是最小錯誤率訓練,本文提出了一種在最小錯誤