改進(jìn)的互信息與LDA結(jié)合的特征降維方法研究.pdf

1、文本分類是文本挖掘中的一個熱門研究領(lǐng)域。分類的流程包含關(guān)鍵的幾個環(huán)節(jié)，每個環(huán)節(jié)處理的合適與否都對文本分類的結(jié)果有一定的影響，其中文本特征降維是分類過程中最重要的環(huán)節(jié)之一。如何將文本的特征有效的選擇出來是目前一個較熱門的研究課題。
　　本文主要以文本特征選擇中的互信息方法為研究對象，通過分析互信息特征選擇方法存在的不足，提出了一種互信息特征選擇改進(jìn)的方法。由于傳統(tǒng)方法進(jìn)行特征選擇時都是以數(shù)理統(tǒng)計為基礎(chǔ)的，忽視了詞項間的語義關(guān)系。結(jié)合

2、LDA主題模型在分類領(lǐng)域中的應(yīng)用，通過將傳統(tǒng)的特征選擇方法與LDA結(jié)合的思路來對文本進(jìn)行特征降維，以便提高分類的效果。本文的主要工作如下:
　　1、研究文獻(xiàn)資料，在分析中文文本分類研究的發(fā)展現(xiàn)狀，重點以文本分類中互信息特征選擇為例進(jìn)行研究。分析互信息方法在做特征選擇時表現(xiàn)的不足，提出了一種互信息特征選擇的改進(jìn)方法。
　　2、由于互信息特征選擇方法沒有將特征詞的詞頻信息以及文本類別之間的信息考慮進(jìn)來，而只是考慮了特征詞在文本集

3、中的文本頻率。針對這個問題在基于文本詞頻互信息改進(jìn)的基礎(chǔ)上，引入類間離散度和類內(nèi)分散度兩個概念，提出了一種特征詞詞頻與類別區(qū)分詞相結(jié)合的互信息特征選擇方法，實驗分析表明本文提出的改進(jìn)方法能夠使文本分類的效果得到一定程度的提高。
　　3、針對傳統(tǒng)方法在做特征選擇時都是以數(shù)理統(tǒng)計為基礎(chǔ)的，并未考慮詞項間的語義信息，將本文改進(jìn)的互信息與LDA相結(jié)合來對文本進(jìn)行特征降維，在Linux環(huán)境下對LDA進(jìn)行建模學(xué)習(xí)，并通過實驗選取合適的參數(shù)，然