現(xiàn)代漢語自動分詞歧義分析及其消歧處理研究.pdf

1、自然語言處理的目標之一就是找到一種方法把由簡單詞序列構(gòu)成的句子中加上豐富的注釋符號，使句子表達的含義從有結(jié)構(gòu)標注的句子中比無結(jié)構(gòu)信息標注的句子中更易于抽取出來。眾所周知，漢語的句子是由字串構(gòu)成的，詞與詞之間沒有空格隔開。因此漢語的自動分詞就成了漢語信息處理的第一步，同時也是后續(xù)的詞性標注、句法分析和語義分析的基礎(chǔ)。其中，分詞歧義排歧和未登錄詞識別成為漢語自動分詞的兩大障礙，本文集中研究了分詞歧義的特征與消歧處理。首先給出了漢語分詞及其歧

2、義類型的形式化描述；然后分別對兩種主要分詞歧義及其消歧處理做了詳細的研究；最后給出了實驗結(jié)果。對于組合型歧義，通過語料庫學習到歧義字段的消歧規(guī)則列表并對其進行優(yōu)化，然后用來糾正這些歧義字段的分詞錯誤。與語言學專家總結(jié)的規(guī)則相比，自動學習到的規(guī)則更客觀、更全面、更節(jié)省人力，是今后計算語言學研究的發(fā)展方向。對于交集型歧義，首先通過語料庫學習到了每一類交集型歧義的消歧規(guī)則，然后用于糾正交集型歧義字段。同時也采用了最大概率算法和查表的方法對交集