基于VSM的網(wǎng)頁文本分類技術(shù)研究.pdf

1、隨著信息技術(shù)的不斷發(fā)展,因特網(wǎng)上的網(wǎng)頁數(shù)量日益激增,但是Web頁面的復雜程度使得人們很難準確而快速地獲取自己所需的信息。為了使人們能夠迅速從網(wǎng)絡(luò)中獲取到自己感興趣的信息,網(wǎng)頁分類技術(shù)應運而生,并逐漸成為繼文本分類之后機器學習領(lǐng)域的研究熱點。同時這也促進了其在信息檢索、信息過濾、搜索引擎等多個領(lǐng)域的廣泛應用。
　　本文首先介紹了中文文本分類的研究背景和意義,以及簡要介紹文本分類的國內(nèi)外研究現(xiàn)狀。并針對網(wǎng)頁文本分類的相關(guān)技術(shù)進行了詳細

2、地介紹,包括中文網(wǎng)頁預處理、網(wǎng)頁文本表示、特征選取技術(shù)、網(wǎng)頁分類算法和網(wǎng)頁分類效果的評價指標和幾種常見的文本分類技術(shù)。
　　其次,本文結(jié)合網(wǎng)頁的半結(jié)構(gòu)化特性,并根據(jù)網(wǎng)頁中不同標簽內(nèi)的特征詞對分類結(jié)果的影響大小,以及特征詞在網(wǎng)頁中出現(xiàn)位置的語義特點,分析并提出了一種根據(jù)不同標簽和特征詞的位置的權(quán)重確定方法。同時,研究了傳統(tǒng)的tf-idf公式在網(wǎng)頁分類中的應用及其存在的不足,發(fā)現(xiàn)tf-idf公式在選擇特征詞時未考慮特征詞在類內(nèi)及類間的

3、分布情況,然而針對此不足之處對傳統(tǒng)的tf-idf公式進行了改進,提出了一種結(jié)合類內(nèi)分布率和類間偏差的特征選擇方法。本文將這兩種方法綜合起來統(tǒng)稱為基于特征詞復合權(quán)重的網(wǎng)頁分類算法WCA(Webpage Classification Algorithm)。再通過實驗證明該算法的優(yōu)越性和可行性。
　　最后,本文運用改進的WCA算法并基于半監(jiān)督的機器學習理論構(gòu)建了一個網(wǎng)頁分類器,使用搜狗實驗室的互聯(lián)網(wǎng)語料庫SougouCS和網(wǎng)絡(luò)爬蟲得到的