漢語(yǔ)依存句法分析關(guān)鍵技術(shù)研究.pdf

1、依存句法分析的目標(biāo)是分析輸入句子的句法結(jié)構(gòu),將詞語(yǔ)序列轉(zhuǎn)化為樹狀的依存結(jié)構(gòu)。一條依存弧兩個(gè)詞語(yǔ)構(gòu)成搭配關(guān)系,依存弧上的標(biāo)簽表示搭配的具體類型,如主語(yǔ)、賓語(yǔ)、狀語(yǔ)等。在不同語(yǔ)法體系中,依存語(yǔ)法以其形式簡(jiǎn)潔、易于標(biāo)注、便于應(yīng)用等優(yōu)點(diǎn),逐漸受到研究人員的重視。計(jì)算自然語(yǔ)言學(xué)習(xí)國(guó)際會(huì)議(CoNLL)聯(lián)合舉辦的公開評(píng)測(cè)任務(wù)從2006年至2009年連續(xù)四年關(guān)注面向多語(yǔ)言的依存句法分析,大大推動(dòng)了依存句法分析的發(fā)展。依存句法分析也越來(lái)越廣泛的應(yīng)用于機(jī)

2、器翻譯、問(wèn)答系統(tǒng)、文本挖掘、信息檢索等。
　　依存句法分析的研究工作旨在提高依存分析的準(zhǔn)確率和效率。高準(zhǔn)確率的分析結(jié)果可以為上層應(yīng)用提供更可信的句法結(jié)構(gòu)。隨著互聯(lián)網(wǎng)數(shù)據(jù)的迅速膨脹,上層應(yīng)用系統(tǒng)需要迅速處理海量的信息,因此效率對(duì)于依存句法分析的應(yīng)用也很關(guān)鍵。本文的研究?jī)?nèi)容涵蓋這兩個(gè)問(wèn)題,包括以下四個(gè)方面。
　　1.提出了基于柱搜索和標(biāo)點(diǎn)切分的快速高階依存句法分析方法。針對(duì)前人提出的面向高階依存句法分析模型的動(dòng)態(tài)規(guī)劃解碼算法時(shí)間

3、復(fù)雜度高的問(wèn)題,本文提出使用柱搜索的近似解碼算法,一方面允許模型可以方便的融入豐富的高階句法子樹特征,另一方面保證較低的時(shí)間復(fù)雜度,我們實(shí)現(xiàn)的基于柱搜索的高階依存句法分析系統(tǒng)在CoNLL2009年多語(yǔ)依存句法分析和語(yǔ)義角色標(biāo)注聯(lián)合評(píng)測(cè)任務(wù)上取得了優(yōu)異的成績(jī)。進(jìn)而,我們針對(duì)漢語(yǔ)的特點(diǎn),提出一種利用標(biāo)點(diǎn)符號(hào)進(jìn)行長(zhǎng)句切分的二階段依存句法分析方法,進(jìn)一步提高依存句法分析模型處理長(zhǎng)句時(shí)的效率。實(shí)驗(yàn)證明,這種方法可以大幅度提高依存句法分析的速度,長(zhǎng)

4、句子的句法分析準(zhǔn)確率也有提高。
　　2.提出了漢語(yǔ)詞性標(biāo)注和依存句法分析聯(lián)合模型。由于缺少詞語(yǔ)的形態(tài)變化信息,漢語(yǔ)詞性標(biāo)注和其他語(yǔ)言如英語(yǔ)相比,準(zhǔn)確率較低。這對(duì)對(duì)漢語(yǔ)依存句法分析帶來(lái)嚴(yán)重的錯(cuò)誤蔓延問(wèn)題。實(shí)驗(yàn)表明使用自動(dòng)詞性時(shí)依存句法分析準(zhǔn)確率比使用正確詞性時(shí)低大約6％。對(duì)此,本文提出并深入系統(tǒng)的研究了漢語(yǔ)詞性標(biāo)注和依存句法分析聯(lián)合模型。首先,我們擴(kuò)展了前人提出的面向依存句法分析的解碼算法,提出了相應(yīng)的面向聯(lián)合模型的基于動(dòng)態(tài)規(guī)劃的解

5、碼算法。并且,為了解決聯(lián)合解碼算法的時(shí)間復(fù)雜度過(guò)高的問(wèn)題,我們又提出了一種有效地基于邊緣概率的詞性裁剪方法。實(shí)驗(yàn)結(jié)果表明聯(lián)合模型可以提高詞性和句法準(zhǔn)確率。深入的錯(cuò)誤分析表明聯(lián)合模型可以幫助消解句法敏感的詞性歧義。
　　3.提出了面向聯(lián)合模型的分離被動(dòng)進(jìn)取訓(xùn)練算法。詞性標(biāo)注和依存句法分析聯(lián)合模型中句法特征占據(jù)主導(dǎo)地位,導(dǎo)致詞性特征無(wú)法貢獻(xiàn)其消歧作用。對(duì)此,本文提出一種面向詞性標(biāo)注和依存句法分析聯(lián)合模型的訓(xùn)練算法。算法分別不同的步長(zhǎng)對(duì)

6、詞性特征和句法特征的權(quán)重進(jìn)行更新。和傳統(tǒng)的平均感知器和被動(dòng)進(jìn)取訓(xùn)練算法相比,分離被動(dòng)進(jìn)取訓(xùn)練算法可以很自然的增大詞性特征的權(quán)重,從而更好的平衡聯(lián)合模型中詞性特征和句法特征的消歧作用。實(shí)驗(yàn)發(fā)現(xiàn),我們的基于分離被動(dòng)進(jìn)取訓(xùn)練算法的聯(lián)合模型在漢語(yǔ)和英語(yǔ)數(shù)據(jù)上都可以取得最好的詞性和句法準(zhǔn)確率。
　　4.提出了基于準(zhǔn)同步文法的多樹庫(kù)融合方法。漢語(yǔ)存在多個(gè)異構(gòu)樹庫(kù),而利用多個(gè)樹庫(kù)以提高依存句法分析準(zhǔn)確率是一個(gè)非常有吸引力的課題。本文提出一種基于

7、準(zhǔn)同步文法的多樹庫(kù)融合方法,充分利用標(biāo)注規(guī)范不同的多個(gè)單語(yǔ)樹庫(kù),以提高句法分析準(zhǔn)確率。我們?cè)O(shè)計(jì)了豐富的轉(zhuǎn)換模式來(lái)刻畫不同標(biāo)注規(guī)范間的對(duì)應(yīng)規(guī)律,然后基于這些轉(zhuǎn)化模式形成準(zhǔn)同步文法特征,從而增強(qiáng)基準(zhǔn)依存句法分析模型。準(zhǔn)同步文法特征用來(lái)指導(dǎo)句法模型做出更好的決策,并且可以很自然的融入到基于圖的句法分析解碼算法中。實(shí)驗(yàn)結(jié)果表明,我們的方法可以充分利用源樹庫(kù)的知識(shí)。從而提高句法模型在目標(biāo)樹庫(kù)上的準(zhǔn)確率。
　　總之,本文針對(duì)漢語(yǔ)特點(diǎn),深入研究