依存語言模型在信息檢索中的應用研究.pdf

1、統(tǒng)計語言模型是上世紀80年代興起的語言建模方法.經過20多年的發(fā)展,它已經滲透到了計算語言學的各個層面,并且在以下各個領域都取得了極大的成功,如語音識別、手寫識別、機器翻譯、信息檢索、中文自動分詞、亞洲語言輸入等.然而傳統(tǒng)意義上的統(tǒng)計語言模型,也即n-gram模型,僅僅考慮了先后相鄰的n個詞之間的關系,即依據前面已經出現的詞來預測下一個要出現的詞,這樣,在構建模型時便丟失了許多有用的信息,如詞法關系、詞之間的組合、共現信息及其鄰接關系信

2、息等,導致模型性能下降.該文提出了一種新穎的通過依存語言模型進行信息檢索的方法,該方法在Unigram模型的基礎上,引進詞匯之間的鏈接關系作為其依存信息,并用于語言模型構建過程中.我們認為,句子里詞與詞之間的所有鏈接關系形成了無向、無環(huán)的平面圖,基于此,文檔生成查詢的過程可分為兩個步驟:首先是生成詞與詞之間的鏈接關系,其次,根據鏈接關系產生具體的詞.同時,該文還解決了傳統(tǒng)依存模型中存在的依存關系表征及其規(guī)范化的問題.在語言模型訓練過程中