基于聚類(lèi)和分類(lèi)技術(shù)的文本分類(lèi)研究.pdf

1、90年代以來(lái)隨著信息存儲(chǔ)技術(shù)和通訊技術(shù)的發(fā)展,大量的信息爆炸式增長(zhǎng),信息自動(dòng)分類(lèi)已經(jīng)成為人們獲取有用信息不可或缺的工具。文本分類(lèi)是中文信息處理的一個(gè)重要的研究領(lǐng)域,其目標(biāo)是在分析文本內(nèi)容的基礎(chǔ)上,給文本分配一個(gè)或多個(gè)比較合適的類(lèi)別,從而提高文本檢索等應(yīng)用的處理效率。目前已經(jīng)有許多方法應(yīng)用到該領(lǐng)域,如支持向量機(jī)方法(SVM)、K近鄰方法(KNN)、樸素貝葉斯方法(Naive Bayes)、決策樹(shù)(DecisionTree)等等。樸素貝葉斯

2、分類(lèi)以其堅(jiān)實(shí)的數(shù)學(xué)基礎(chǔ)和豐富的概率表達(dá)能力,尤其是它能充分利用先驗(yàn)信息的特性越來(lái)越受到人們的重視,是目前公認(rèn)的一種簡(jiǎn)單有效的概率分類(lèi)方法,在某些領(lǐng)域中表現(xiàn)出很好的性能。貝葉斯方法的一大優(yōu)點(diǎn)是利用了先驗(yàn)信息,能夠在不確定性的推理中提供一種模式和處理方法。樸素貝葉斯與其他分類(lèi)法相比,具有更小的出錯(cuò)率和較高的健壯性和效率。
　　 但是對(duì)于中等規(guī)模以上的文本數(shù)據(jù)集,其特征詞往往達(dá)到數(shù)萬(wàn)個(gè),這種高維度的數(shù)據(jù)對(duì)于貝葉斯分類(lèi)算法來(lái)說(shuō),影響是致

3、命的。這樣會(huì)導(dǎo)致其分類(lèi)速度慢,難以在大規(guī)模海量信息處理中得到有效應(yīng)用。采用k—means聚類(lèi)算法對(duì)待分文本進(jìn)行聚類(lèi)分類(lèi),降低貝葉斯分類(lèi)器分類(lèi)文本維度,有效地解決維數(shù)災(zāi)難的問(wèn)題。既能克服貝葉斯分類(lèi)速度慢的缺陷,又能保持較高的分類(lèi)準(zhǔn)確率,使得貝葉斯文本分類(lèi)應(yīng)用更加廣泛。本文所做的工作:
　　 1.描述了文本分類(lèi)和文本聚類(lèi)技術(shù),著重介紹了文本聚類(lèi)和文本分類(lèi)處理過(guò)程中所需要的文本表示、文本特征提取、分類(lèi)器測(cè)試等重要步驟。
　　

4、2.分析了K—means文本聚類(lèi)和樸素貝葉斯分類(lèi)方法的優(yōu)缺點(diǎn),將K—means文本聚類(lèi)方法和樸素貝葉斯分類(lèi)方法相結(jié)合,利用K—means文本聚類(lèi)方法對(duì)樸素貝葉斯分類(lèi)方法速度慢的缺點(diǎn)進(jìn)行改進(jìn)。
　　 3.根據(jù)文本挖掘的一般過(guò)程,構(gòu)建了一個(gè)基于向量空間模型的文本自動(dòng)分類(lèi)原型系統(tǒng)。
　　 4.在構(gòu)建的文本自動(dòng)分類(lèi)原型系統(tǒng)中實(shí)現(xiàn)了K—means文本聚類(lèi)方法對(duì)樸素貝葉斯分類(lèi)方法進(jìn)行改進(jìn),驗(yàn)證了其對(duì)普通樸素貝葉斯分類(lèi)方法進(jìn)行改進(jìn)的有