基于機器學(xué)習的文本分類算法研究與應(yīng)用.pdf

1、近些年信息網(wǎng)絡(luò)技術(shù)飛快發(fā)展，特別是網(wǎng)絡(luò)使用率的大幅提升，用文本形式表示的信息已經(jīng)越來越多，人們早已經(jīng)不能單純依靠人工勞力達到高效率地獲取到海量信息中的關(guān)鍵內(nèi)容。為了解決這個問題，基于機器學(xué)習的文本分類方法開始為人們所知道并逐漸呈現(xiàn)熱門趨勢。本文主要的研究內(nèi)容如下：
　　1.本文提出了一種能有效降低空間維度的概念索引及主成分分析算法。該算法通過計算分類的原型向量，通過原始文本向量和原型向量做內(nèi)積，將原始文本投影到子空間，從而將原始空

2、間的維度大大降低。然后，分別計算每個內(nèi)部文檔分類的協(xié)方差矩陣，進而得到其特征值與特征向量，將每一個向量被轉(zhuǎn)移到新的子空間。通過兩種技術(shù)的結(jié)合來實現(xiàn)在不影響分類精確度的情況下達到維數(shù)降低的目標。
　　2.本文提出了一種基于語境的文本學(xué)習算法。該算法的核心分為分類訓(xùn)練集與語境學(xué)習分類。分類訓(xùn)練集主要根據(jù)關(guān)鍵詞詞頻分類，并給每個類一個相應(yīng)的指數(shù)，計算每個分類中所有的文檔里的特征詞權(quán)重，通過反復(fù)迭代從而給出特征詞的評分。語境學(xué)習分類先通過

3、關(guān)聯(lián)規(guī)則挖掘算法得到特征詞，再將特征詞構(gòu)成語境特征詞矩陣，所有矩陣的值都是用于評分的參考值，并且都是通過訓(xùn)練所有語境的數(shù)據(jù)而獲得的，評分的參考值強調(diào)了該特征詞對于語境的重要性，對每一個特征詞而言，求出所有語境評分參考值的和，那么具有最高評分參考值的語境就被設(shè)置為輸入文本的語境。該算法結(jié)合傳統(tǒng)統(tǒng)計分析和語境分析，能夠一次性地學(xué)習一個文檔內(nèi)的所有分類。
　　3. 本文對提出的算法進行了詳細的實驗并給出了相應(yīng)的分析與結(jié)果。本文采用了5個

4、經(jīng)典的數(shù)據(jù)集作為實驗對象，每個數(shù)據(jù)集都超過上千條數(shù)據(jù)。在不同的數(shù)據(jù)集上，本文提出的算法與經(jīng)典高效的算法進行了詳細比較，評價算法性能。實驗表明：兩種算法都能夠高效地分類文本，且具備較強的實用性。
　　本文提出的兩種學(xué)習算法從不同角度處理訓(xùn)練集，前者通過降維，而后者通過評分排序，但都可以降低學(xué)習成本，提高分類準確度。通過仿真實驗可以清晰地看出，該算法在各類數(shù)據(jù)集，尤其是復(fù)雜度很高的數(shù)據(jù)集上，優(yōu)于現(xiàn)有的很多高效算法。最后對本文所提出的兩