文本分類中基于概念聚合的KNN算法優(yōu)化問題研究.pdf

1、隨著知識經濟時代的到來，信息已成為這個時代的最重要標志之一，對于信息的獲取與管理也越來越得到重視。信息的表現(xiàn)形式也從最初的結構化、半結構化逐漸向非結構化過渡。對于非結化信息的組織和處理顯得越來越重要，文本分類作為其中的關鍵技術之一，已廣泛用于信息檢索，知識挖掘和管理等領域，但對于海量的文本信息，文本分類的效率與精確度嚴重制約著它在即時領域的應用和推廣。
　　 當前較常用的文本分類算法主要是基于統(tǒng)計的，較著名的有貝葉斯(Bayes

2、)、K最鄰近法(KNN)、支持向量機(SVM)、神經元網絡(Nnet)等。其中，KNN作為一種簡單、高效、非參數(shù)的方法，取得了較好的分類效果，使其得到較為廣泛的應用。但KNN算法的大計算量限制了它在即時領域的應用，因此如何有效地提高KNN算法的分類效率得到了學者們的廣泛關注。本文的研究重點是如何在不犧牲分類精度的前提下，提高文本分類的效率。
　　 本文首先提出了概念聚合，在概念聚合的基礎上提出文本特征位串和特征多類別矩陣兩種方式

3、，從不同的角度來提高文本的分類效率。
　　 本文研究的主要創(chuàng)新部分有:
　　 1、基于語義相關的概念聚合。在文本的特征詞中常常會出現(xiàn)一些義同形異的詞，傳統(tǒng)的相似度計算中，由于無法判別這類詞的關系，而忽略它們在文本相似的作用，本文將對這類詞進行語義聚合，形成概念。實驗結果顯示，關于概念的聚合能有效的表達出這類特征詞的含義，使得在相似度計算中，能充體現(xiàn)這類詞對文本相似度的貢獻，提高文本分類的精度，同時也降低了文本向量的維數(shù)。

4、
　　 2、通過文本特征位串來減小KNN算法的計算量。針對KNN算法計算量大的問題，提出文本特征位串來快速的篩選出與待分類文本可能相似的文本，即選出與待分類文本存在概念共現(xiàn)的文本，從而縮小進行KNN相似度計算的訓練文本集，達到減小KNN計算量的目的。理論分析和實驗結果表明，文本特征位串能在不降低分類準確率的情況下，提高KNN算法的分類效率。
　　 3、提出特征多類別矩陣來降低KNN算法的計算量。在KNN算法中，要減小計算