漢語(yǔ)框架語(yǔ)義角色的自動(dòng)標(biāo)注技術(shù)研究.pdf

1、為了給大規(guī)模的漢語(yǔ)框架語(yǔ)義資源的構(gòu)建提供一個(gè)自動(dòng)標(biāo)注工具，本文基于山西大學(xué)自主開發(fā)的漢語(yǔ)框架語(yǔ)義知識(shí)庫(kù)(CFN)，在給定句子中的一個(gè)目標(biāo)詞及目標(biāo)詞所屬框架情形下，將其語(yǔ)義角色（框架元素）的自動(dòng)標(biāo)注問題通過(guò)IOB策略轉(zhuǎn)化為整個(gè)句子上的詞序列標(biāo)注問題，使用條件隨機(jī)場(chǎng)模型(CRF)，采用統(tǒng)計(jì)學(xué)中的正交表實(shí)驗(yàn)方案，研究了漢語(yǔ)框架語(yǔ)義角色的自動(dòng)標(biāo)注模型。
　　本文的全部實(shí)驗(yàn)語(yǔ)料使用的是現(xiàn)有的CFN中選出25個(gè)框架的6692個(gè)例句。將語(yǔ)料均勻

2、分為4份，分3組作2-fold交叉驗(yàn)證，以3組交叉驗(yàn)證的平均F1-值作為系統(tǒng)性能評(píng)價(jià)指標(biāo)。本文給出了系統(tǒng)性能評(píng)價(jià)指標(biāo)的方差估計(jì)，以及兩個(gè)標(biāo)注系統(tǒng)性能差異的顯著性檢驗(yàn)方法。
　　本文以詞為基本標(biāo)注單元，將標(biāo)注步驟分為1）邊界識(shí)別、2）角色分類、3）后處理三個(gè)步驟。分別采用了邊界識(shí)別與角色分類一起進(jìn)行，以及先邊界識(shí)別，再角色分類兩種標(biāo)注策略。在后處理步驟上，對(duì)輸出的標(biāo)注序列要求在整個(gè)句子上滿足IOB序列合法性約束，并以所有合法序列中概

3、率最大的序列作為最后的標(biāo)注輸出。
　　本文總共提取了26個(gè)特征，對(duì)每個(gè)特征設(shè)定若干可選的窗口，組合構(gòu)成CRF模型的各種特征模板。為了選出較好的特征模板，本文基于統(tǒng)計(jì)學(xué)中的正交表給出了一種模板選優(yōu)方法，并采用三種方案進(jìn)行了實(shí)驗(yàn)。方案一:基于11個(gè)詞層面特征，其特征包括詞、詞性、詞相對(duì)于目標(biāo)詞的位置、目標(biāo)詞等，實(shí)驗(yàn)選用正交表L32(49×24);方案二:基于全部的26個(gè)特征，包括11個(gè)詞層面的特征和基本塊的句法標(biāo)記、結(jié)構(gòu)標(biāo)記等15個(gè)特

4、征，選用正交表L54(21×325)。其中基本塊特征提取使用的是清華大學(xué)周強(qiáng)的自動(dòng)分析器;方案三:分批正交表實(shí)驗(yàn)，即先用正交表L32(49×24)，在11個(gè)詞層面特征選出的最好模板基礎(chǔ)上，再加入15個(gè)基本塊特征，使用正交表L54(21×325)，通過(guò)適當(dāng)選擇正交表的水平以確保性能不低于前一批實(shí)驗(yàn)結(jié)果。對(duì)每種方案的實(shí)驗(yàn)進(jìn)行了詳細(xì)分析。
　　本文對(duì)正交表模板選優(yōu)方法與傳統(tǒng)的基于貪心算法的方法進(jìn)行了比較。也比較了本文的基于詞序列標(biāo)注方法

5、和采用完全句法分析樹的方法，也對(duì)選用不同標(biāo)注模型，如支持向量機(jī)(SVM)模型和最大熵模型的實(shí)驗(yàn)結(jié)果進(jìn)行了比較。
　　實(shí)驗(yàn)結(jié)果表明:
　　(1)在基于11個(gè)詞層面特征上（方案一），最好結(jié)果（平均F1-值）達(dá)到61.61％，比基于完全句法分析樹，將角色標(biāo)注看做句法成分的分類問題的結(jié)果顯著高。與傳統(tǒng)的貪心算法特征選擇方法比較，本文的正交表模板選擇方法與其在標(biāo)注性能上沒有顯著差異，但正交表方法的計(jì)算更簡(jiǎn)單，且在通用模板的選擇上更適宜

6、。
　　(2)加入15個(gè)基本塊特征（方案二）可以顯著提高標(biāo)注模型的性能。這類特征主要對(duì)角色分類有顯著作用，對(duì)角色的邊界識(shí)別作用不顯著。
　　(3)分批正交表實(shí)驗(yàn)（方案三）比實(shí)驗(yàn)方案二在性能上有顯著提高。
　　(4)每個(gè)框架訓(xùn)練一個(gè)模型，邊界識(shí)別與角色分類一起進(jìn)行，與先邊界識(shí)別，再角色分類兩個(gè)步驟在標(biāo)注性能上沒有顯著差別，但由前者得到的標(biāo)注性能有較小的方差。
　　(5)基于條件隨機(jī)場(chǎng)標(biāo)注模型(CRF)與基于支持向量

7、機(jī)(SVM)模型的標(biāo)注結(jié)果沒有顯著差異，但顯著好于基于最大熵(ME)模型的標(biāo)注結(jié)果。
　　(6)在全部25個(gè)框架的所有實(shí)驗(yàn)中，語(yǔ)義角色邊界識(shí)別最好的結(jié)果（平均F1-值）為71.68％;在給定語(yǔ)義角色邊界下，角色分類的最好結(jié)果（平均精確率）為84.08％;在給定句子中的目標(biāo)詞以及目標(biāo)詞所屬的框架情況下，最好結(jié)果（平均F1-值）達(dá)到63.26％.
　　本文的創(chuàng)新之處主要是首次系統(tǒng)地研究漢語(yǔ)框架語(yǔ)義角色的自動(dòng)標(biāo)注模型，給出了一種采