具有中文人名識別功能的漢語自動分詞算法研究.pdf

1、隨著信息技術(shù)的飛速發(fā)展，中文信息處理技術(shù)已經(jīng)滲透到計算機(jī)應(yīng)用的各個領(lǐng)域。 詞處理平臺技術(shù)是中文信息處理的中間環(huán)節(jié)，是連接字處理平臺和句處理平臺的關(guān)鍵環(huán)節(jié)，其核心難題是分詞問題。漢語自動分詞是對漢語文本進(jìn)行自動分析的第一步，是詞處理平臺的基礎(chǔ)，漢語自動分詞技術(shù)的發(fā)展直接影響著中文信息處理技術(shù)的發(fā)展。 本文對漢語自動分詞的知識進(jìn)行了全面的描述，介紹了漢語自動分詞的概念和國內(nèi)外研究與應(yīng)用的現(xiàn)狀。對漢語自動分詞技術(shù)的原理、方法、

2、評價標(biāo)準(zhǔn)以及基本流程進(jìn)行了分析和總結(jié)。其中重點對漢語自動分詞歧義的采集和處理以及中文人名識別所用到的技術(shù)和各種算法進(jìn)行了深入的研究與實驗分析，并提出了一些改進(jìn)思路。 文中使用逆向最大匹配法和改進(jìn)的正向最大匹配法相結(jié)合的方法對待切分字段進(jìn)行雙向掃描來采集歧義字段；并在歧義處理過程中做出一些改進(jìn)，采用規(guī)則和統(tǒng)計相結(jié)合的方法，運用一些歧義切分的規(guī)則及最大概率分詞法消解歧義字段；同時采用了統(tǒng)計和規(guī)則相結(jié)合的方法對未登錄詞中的人名識別進(jìn)行