基于統(tǒng)計(jì)學(xué)習(xí)的統(tǒng)計(jì)詞義識(shí)別方法研究.pdf

1、如何解決語(yǔ)言的歧義問(wèn)題一直困擾著自然語(yǔ)言處理技術(shù)的研究人員。語(yǔ)言的歧義最重要的一個(gè)表現(xiàn)就是一詞多義現(xiàn)象。如何根據(jù)歧義詞出現(xiàn)的上下文語(yǔ)言環(huán)境識(shí)別出正確詞義是詞義識(shí)別要解決問(wèn)題。在自然語(yǔ)言理解領(lǐng)域,詞義識(shí)別是應(yīng)用基礎(chǔ)研究課題,也是自然語(yǔ)言理解的重點(diǎn)和難點(diǎn)之一。
　　 早期的詞義識(shí)別研究以基于規(guī)則的方法為主,近些年米隨著計(jì)算技術(shù)和存儲(chǔ)技術(shù)的改進(jìn)和提高,統(tǒng)計(jì)學(xué)習(xí)方法越來(lái)越受到廣泛的歡迎,迅速成為了主流的研究方法。有監(jiān)督的學(xué)習(xí)方法應(yīng)用于詞

2、義識(shí)別可以獲得較高的識(shí)別精度,但是該類方法需要有規(guī)模足夠大的訓(xùn)練樣本,這樣的樣本不是容易獲得。無(wú)監(jiān)督的方法不需要人工標(biāo)注訓(xùn)練樣本,但是詞義識(shí)別相對(duì)效果不是十分理想。
　　 本文分析了統(tǒng)計(jì)詞義識(shí)別研究需要解決的幾個(gè)關(guān)鍵性問(wèn)題。從詞典資源和語(yǔ)料庫(kù)資源的建設(shè)到詞義識(shí)別問(wèn)題的建模方法,以及詞義分類問(wèn)題的特征選擇,對(duì)所涉及的問(wèn)題都一進(jìn)行了討論。在這些基礎(chǔ)上,本文最后給出了詞義類擴(kuò)展思想,并探討了如何將其應(yīng)用于統(tǒng)計(jì)詞義識(shí)別的研究上。

3、　　 本文研究成果和創(chuàng)新如下:
　　 1.從詞義的可計(jì)算性角度探討詞義刻畫(huà)與詞義識(shí)別的關(guān)系,探討如何通過(guò)科學(xué)控制詞義刻畫(huà)粒度來(lái)重新整合現(xiàn)有的詞典資源,建設(shè)新的機(jī)讀詞典,更好地為同義識(shí)別的應(yīng)用服務(wù)。實(shí)驗(yàn)分析說(shuō)明詞義刻畫(huà)粒度的大小直接影響了詞義識(shí)別的精度,適當(dāng)控制詞義粒度再不產(chǎn)生二義性的前提下可以提高詞義識(shí)別的精度。本文提出在詞義再刻畫(huà)的基礎(chǔ)上整合現(xiàn)有詞典資源,建設(shè)面向詞義計(jì)算的新的分類詞典;
　　 2.在探討而向詞義識(shí)別

4、的特征選擇方法的基礎(chǔ)上提出以信息增益改進(jìn)貝葉斯模型的詞義識(shí)別新方法。實(shí)驗(yàn)中以樸素貝葉斯模型、最大熵方法和支持向量機(jī)建立的詞義分類器作為參照模型,討論信息增益改進(jìn)貝葉斯模型的效果。實(shí)驗(yàn)結(jié)果顯示參照系中使用最大熵和支持向量機(jī)構(gòu)建的詞義分類器都比樸素貝葉斯模型強(qiáng),其中基于支持向量機(jī)的詞義分類器最好,而經(jīng)過(guò)信息增益改進(jìn)的貝葉斯模型在詞義識(shí)別上表現(xiàn)更突出,實(shí)驗(yàn)結(jié)果比SVM還要高出1.4個(gè)百分點(diǎn),獲得了對(duì)比實(shí)驗(yàn)中最優(yōu)的識(shí)別結(jié)果;
　　 3.

5、從語(yǔ)料庫(kù)資源難于大規(guī)模建設(shè)的角度出發(fā),實(shí)驗(yàn)分析和探討了人造歧義詞技術(shù)的使用問(wèn)題,并在此基礎(chǔ)卜提出替換詞的概念,以及基于替換詞技術(shù)的詞義識(shí)別新方法。實(shí)驗(yàn)結(jié)果表明,人造歧義詞技術(shù)可以幫助研究者緩解訓(xùn)練語(yǔ)料短缺的壓力,源于此的替換詞技術(shù)可以讓研究者避開(kāi)人工標(biāo)注訓(xùn)練樣本,實(shí)現(xiàn)一種無(wú)監(jiān)督的詞義識(shí)別方法。實(shí)驗(yàn)結(jié)果表明基于替換詞技術(shù)的詞義識(shí)別方法具有較高的識(shí)別精度;
　　 4.針對(duì)詞義識(shí)別訓(xùn)練語(yǔ)料規(guī)模不足夠大的問(wèn)題,提出了詞義類擴(kuò)展思想和基于

6、詞義類擴(kuò)展的詞義識(shí)別新方法。該方法通過(guò)詞義類擴(kuò)展,可以在有限訓(xùn)練語(yǔ)料中獲得更多的詞義信息,提高訓(xùn)練的效率,改善詞義識(shí)別的效果,此外詞義類擴(kuò)展技術(shù)可以從無(wú)詞義標(biāo)注(無(wú)詞義標(biāo)記等先驗(yàn)知識(shí))的生語(yǔ)料中統(tǒng)計(jì)相關(guān)詞語(yǔ)信息,以此來(lái)為小規(guī)模的訓(xùn)練樣本提供補(bǔ)充。實(shí)驗(yàn)結(jié)果表明基于詞義類擴(kuò)展思想的方法提高了訓(xùn)練語(yǔ)料的使用效率,改善了有監(jiān)督詞義識(shí)別的效果,這為增強(qiáng)小規(guī)模訓(xùn)練樣本的統(tǒng)計(jì)學(xué)習(xí)效果提供一個(gè)嶄新的思路。
　　 綜上所述,本文在資源建設(shè)、詞義識(shí)