中文文本分類中特征描述及分類器構(gòu)造方法研究.pdf

1、隨著信息時(shí)代的到來和Internet的日益普及，電子文本迅速膨脹，如何在海量的文本中提取潛在的、有價(jià)值的知識(shí)和模型成為信息處理的一大目標(biāo)。其中，文本分類作為信息處理的一個(gè)重要環(huán)節(jié)，已經(jīng)成為信息技術(shù)領(lǐng)域的一個(gè)主要研究方向。文本分類技術(shù)的出現(xiàn)，使文檔可以自動(dòng)地按照類別組織和處理，符合人類組織和處理信息的方式，方便了人們準(zhǔn)確地定位所需的信息。同時(shí)，作為信息過濾、信息檢索、搜索引擎等領(lǐng)域的技術(shù)基礎(chǔ)，文本分類技術(shù)有著廣泛的應(yīng)用前景。 本文

2、對(duì)文本分類中涉及的兩個(gè)關(guān)鍵技術(shù)(文本特征描述和分類器構(gòu)造方法)進(jìn)行了研究，具體內(nèi)容主要包括以下兩個(gè)方面： 1. 提出了基于上下文關(guān)系的文本特征描述方法。 文本特征描述是文本分類的基礎(chǔ)，它的目標(biāo)是用一定的可計(jì)算的特征來表示文本，在分類的時(shí)候用這些特征來區(qū)分文本。在向量空間模型（Vector Space Model，簡(jiǎn)記為VSM）中采用“詞袋”法來處理文本，即文本被看成是由相互無關(guān)的詞語構(gòu)成的集合，不考慮詞語之間的關(guān)系，但是

3、這種處理方法不是很合理，因?yàn)槲谋镜慕Y(jié)構(gòu)是完整的，孤立的對(duì)待單個(gè)詞語將丟失文本的內(nèi)容信息。在實(shí)際的語言環(huán)境中，詞語有一定的上下文“作用域”，“作用域”中的詞語對(duì)表達(dá)同一主題具有一定的共性，因此不能獨(dú)立看待。本文提出了一種基于上下文關(guān)系的文本特征描述方法，包括特征選擇方法CBFS及權(quán)重計(jì)算方法CBFW，該方法是在提取一個(gè)初始特征詞語集合的基礎(chǔ)上，通過用互信息(MI)來衡量詞語在上下文中的依賴度，選取對(duì)主題貢獻(xiàn)大的詞語加入特征集合，同時(shí)調(diào)整不

4、同貢獻(xiàn)的特征詞語的權(quán)重，從而更加合理地表示文本。 2. 提出了基于SVM主動(dòng)學(xué)習(xí)的文本分類器訓(xùn)練算法。 文本分類算法是有監(jiān)督的學(xué)習(xí)算法，它需要一個(gè)已標(biāo)識(shí)類別的文本數(shù)據(jù)集來訓(xùn)練分類器，然后用訓(xùn)練好的分類器對(duì)未標(biāo)識(shí)類別的文本分類?；趥鹘y(tǒng)機(jī)器學(xué)習(xí)算法訓(xùn)練的分類器，其分類精度隨著訓(xùn)練文本的增多而提高，但在實(shí)際分類問題中，訓(xùn)練文本數(shù)目往往是有限的，而且這些隨機(jī)取得的訓(xùn)練數(shù)據(jù)中包含大量冗余數(shù)據(jù)，這些數(shù)據(jù)不能提高分類器的精度，因此傳