基于優(yōu)化最大匹配的中文分詞方法研究.pdf

1、隨著Internet飛速發(fā)展和網(wǎng)上中文信息的逐漸增多，中文信息處理應(yīng)用日益廣泛，而中文分詞是中文信息處理的首要前提。中文與英文不同，中文文本是一個連續(xù)的字符流，詞與詞之間并沒有明顯的切分標(biāo)志，因而中文信息處理的首要問題是詞的切分問題。中文文本的自動分詞已成為中文信息處理的一個前沿課題。本文對中文文檔分詞進行了研究。
　　首先，介紹了中文分詞的相關(guān)知識，提出了中文分詞所面臨的困難，分析了現(xiàn)有中文分詞的主要方法和最大匹配方法(Maxi

2、mum Matching Method，MM)，并指出了它們的優(yōu)缺點。
　　其次，基于提高分詞速度的迫切需求，根據(jù)最大匹配方法的思想，提出了一個優(yōu)化最大匹配的分詞方法。在分詞過程中，只比較待分字串的末尾字，替換現(xiàn)有的最大匹配方法，將待分字串中的所有字符與詞典中詞進行匹配，快速判斷待分字串是否成詞。最大匹配方法屬于基于詞典的分詞方法，因此建立一個詞典存儲結(jié)構(gòu)，并給出了優(yōu)化最大匹配的分詞算法。
　　再次，基于中文分詞時常常出現(xiàn)的