基于SVM的文本分類系統(tǒng)中特征選擇與.pdf

1、近年來(lái)，隨著互聯(lián)網(wǎng)技術(shù)的飛快發(fā)展，人們已經(jīng)從信息較為缺乏的時(shí)代過(guò)渡到信息豐富的數(shù)字化時(shí)代。面對(duì)如此龐大的電子信息，如何在較短的時(shí)間內(nèi)獲取對(duì)用戶有用的信息也就成為當(dāng)前的一個(gè)研究熱點(diǎn)。文本分類技術(shù)是數(shù)據(jù)挖掘領(lǐng)域中的一項(xiàng)關(guān)鍵技術(shù)，它能夠幫助用戶快速、準(zhǔn)確地定位所需要的信息。同時(shí)該技術(shù)作為信息過(guò)濾和搜索引擎的基礎(chǔ)，有著廣泛的發(fā)展前景，能夠?yàn)樯鐣?huì)帶來(lái)巨大的經(jīng)濟(jì)效益。文本分類的任務(wù)是將待分類的文本對(duì)象根據(jù)其具體內(nèi)容自動(dòng)劃分到事先設(shè)置的類別內(nèi)。它的研

2、究?jī)?nèi)容主要包括文本預(yù)處理、特征選擇、特征項(xiàng)權(quán)重計(jì)算、文本表示、分類器的訓(xùn)練與測(cè)試以及分類性能評(píng)價(jià)六個(gè)模塊。其中特征選擇和權(quán)重計(jì)算在文本分類技術(shù)中有著非常關(guān)鍵的作用。
　　 本研究主要內(nèi)容包括：⑴特征選擇的目的是從原始的高維特征空間中，選取出對(duì)分類貢獻(xiàn)程度大的特征來(lái)表示文本。經(jīng)典的特征選擇算法在統(tǒng)計(jì)特征項(xiàng)和類別之間的關(guān)聯(lián)性信息時(shí)，僅僅考慮了特征項(xiàng)對(duì)文本分類的能力，卻沒(méi)有考慮特征項(xiàng)之間的相關(guān)性信息，因此使得具有同義或近義現(xiàn)象的特征項(xiàng)

3、都被選擇出來(lái)表示文本，降低了分類的準(zhǔn)確度。鑒于此缺點(diǎn)，本文提出了一種新的特征選擇算法----組合特征選擇算法。該算法首先通過(guò)文本證據(jù)權(quán)重方法選擇出一些對(duì)文本分類貢獻(xiàn)程度大的特征項(xiàng)；其次通過(guò)互信息方法刪減了一些在文本分類方面有冗余信息的特征項(xiàng)。⑵經(jīng)典的TP-IDF權(quán)重計(jì)算方法只考慮了特征詞頻率TF和反比文檔頻率IDF，沒(méi)有考慮特征項(xiàng)的類別分布和位置分布對(duì)分類的影響。因此本文在經(jīng)典權(quán)重算法TF-IDF的基礎(chǔ)上，結(jié)合特征詞的類別分布與位置分布