基于神經(jīng)網(wǎng)絡(luò)的復(fù)述抽取和重排序研究.pdf

1、因?yàn)檎Z(yǔ)言的多樣性和計(jì)算機(jī)對(duì)語(yǔ)言的理解能力有限，目前的機(jī)器翻譯性能與我們期待的仍有一定的差距。尤其在一些小語(yǔ)種上并沒(méi)有大量的雙語(yǔ)平行語(yǔ)料庫(kù)，語(yǔ)料相對(duì)比較稀疏，機(jī)器翻譯性能并不是很好。復(fù)述，作為解決稀疏問(wèn)題的一種方法，通過(guò)引入復(fù)述來(lái)提升機(jī)器翻譯的性能。其次，全局特征，往往對(duì)機(jī)器翻譯的性能提升具有重要作用。非線性的神經(jīng)網(wǎng)絡(luò)模型具備更強(qiáng)的表達(dá)能力，而且，它通過(guò)引入隱含層，可以根據(jù)翻譯的平均度量對(duì)輸入層的特征進(jìn)行進(jìn)一步的抽象和解釋，從而能夠更好地

2、利用特征來(lái)提高翻譯的性能。因此，我們決定用神經(jīng)網(wǎng)絡(luò)模型來(lái)實(shí)現(xiàn)重排序中的判別函數(shù)，利用其全局特征、RNN語(yǔ)言模型特征和線性插值的方法提高翻譯的性能。本課題的研討內(nèi)容有以下幾個(gè)方面：
　　（1）我們提出了一種短語(yǔ)劃分的標(biāo)準(zhǔn)，首先對(duì)雙語(yǔ)語(yǔ)料進(jìn)行句法標(biāo)注，將句法解析后的語(yǔ)料按樹(shù)結(jié)構(gòu)存儲(chǔ)，抽取相應(yīng)的包含名詞短語(yǔ)和動(dòng)詞短語(yǔ)的子樹(shù)作為短語(yǔ)劃分。并且我們對(duì)不同粒度的名詞短語(yǔ)動(dòng)詞短語(yǔ)的實(shí)驗(yàn)結(jié)果進(jìn)行對(duì)比，針對(duì)出現(xiàn)的嵌套問(wèn)題，對(duì)算法進(jìn)行改進(jìn)，解決嵌套問(wèn)

3、題，得到更精確的短語(yǔ)劃分，準(zhǔn)確率和召回率都可以達(dá)到80％以上。
　　（2）我們根據(jù)詞向量模型建立了短語(yǔ)向量模型，對(duì)短語(yǔ)劃分后生成的短語(yǔ)進(jìn)行短語(yǔ)向量表示，我們利用K-均值聚類來(lái)抽取復(fù)述，我們將抽取的復(fù)述結(jié)果應(yīng)用到統(tǒng)計(jì)機(jī)器翻譯系統(tǒng)中，通過(guò)修改短語(yǔ)翻譯概率來(lái)解決訓(xùn)練語(yǔ)料庫(kù)數(shù)據(jù)稀疏的問(wèn)題，從實(shí)驗(yàn)結(jié)果中我們也可以看到，改善后的短語(yǔ)表可以提高機(jī)器翻譯的性能，大概提高0.3BLEU值。
　?。?）我們嘗試引入了基于神經(jīng)網(wǎng)絡(luò)的統(tǒng)計(jì)機(jī)器翻譯重