文本分類中特征提取相關(guān)技術(shù)研究與實(shí)現(xiàn).pdf

1、近二十年來(lái)，隨著科學(xué)技術(shù)的發(fā)展，人們產(chǎn)生和收集數(shù)據(jù)的能力迅速提高，數(shù)據(jù)的規(guī)模急劇增加，數(shù)據(jù)的復(fù)雜性、異構(gòu)性、動(dòng)態(tài)性顯著提高。傳統(tǒng)的統(tǒng)計(jì)分析技術(shù)已無(wú)法滿足現(xiàn)代數(shù)據(jù)處理的要求。人們渴求一種新的工具，能夠自動(dòng)分析和整理龐大和復(fù)雜的數(shù)據(jù)，從中挖掘有價(jià)值的信息，為決策提供充分的支持。面對(duì)這一要求，文本分類技術(shù)應(yīng)運(yùn)而生。
　　 文本分類作為處理和組織大量文本數(shù)據(jù)的關(guān)鍵技術(shù)，可以在很大程度上解決信息的雜亂問題，對(duì)于信息的高效管理和有效利用都具

2、有極其重要的意義，并且已成為數(shù)據(jù)挖掘、信息檢索等領(lǐng)域中一個(gè)重要的研究方向。
　　 本文主要對(duì)特征選取和集成分類器兩個(gè)方面展開研究。
　　 (1)特征選取。特征選擇是一種從數(shù)以萬(wàn)維特征詞的文本中挑選具有代表性特征詞的技術(shù)。本文對(duì)基于互信息的特征選擇技術(shù)做了深入全面的研究。為解決互信息(MI)在特征選取中的類別缺失和傾向低頻詞問題，提出LDA-σ方法。該方法使用潛在狄利克雷分配模型(LDA)提取潛在主題，以“詞-主題”間互信

3、息的標(biāo)準(zhǔn)差作為特征評(píng)估函數(shù)。在Reuters-21578語(yǔ)料集上提取特征詞并進(jìn)行分類，LDA-σ方法的微平均F1最高達(dá)0.9096；宏平均F1優(yōu)于其他算法，最高達(dá)0.7823。實(shí)驗(yàn)表明，LDA-σ方法可用于文本特征選取。
　　 (2)分類器改進(jìn)。針對(duì)BP神經(jīng)網(wǎng)絡(luò)在文本分類中準(zhǔn)確率較低和參數(shù)設(shè)置困難的問題，提出GABP_Adaboost算法。該算法使用Adaboost算法級(jí)聯(lián)多個(gè)遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)，實(shí)現(xiàn)一個(gè)無(wú)參數(shù)的“強(qiáng)”分