基于SVM和半監(jiān)督學(xué)習(xí)的短文本分類算法研究.pdf

1、隨著互聯(lián)網(wǎng)時(shí)代的到來，網(wǎng)絡(luò)上各種文本的數(shù)據(jù)量呈爆發(fā)式的增長(zhǎng)。其中，短文本形式的文本也逐漸成為主流的文本形式。面對(duì)大量的短文本，如何高效的獲取其中有效的信息，是如今數(shù)據(jù)挖掘中的新熱點(diǎn)，而在短文本中挖掘出有效信息，就需要有效的短文本分類算法作基礎(chǔ)。
　　然而以往的一些文本分類算法主要是用來對(duì)長(zhǎng)文本進(jìn)行分類的，例如K近鄰（K-Nearest Neighbor，KNN）、支持向量機(jī)(Support Vector Machines，SVM)

2、、樸素貝葉斯(Naive Bayes，NB)等，由于短文本具有實(shí)時(shí)性、稀疏性、不規(guī)則性等特點(diǎn)，這些適用于長(zhǎng)文本分類的分類算法并不能直接拿來對(duì)短文本進(jìn)行分類，因此，需要一種適合短文本分類的分類算法來對(duì)如今網(wǎng)絡(luò)上大量的短文本進(jìn)行數(shù)據(jù)挖掘。本文針對(duì)短文本的特點(diǎn)重點(diǎn)做了以下工作:
　　首先，本文提出了一種基于自監(jiān)督的半監(jiān)督學(xué)習(xí)短文本預(yù)處理方法。首先需要對(duì)收集的樣本進(jìn)行預(yù)處理，以去掉一些噪聲干擾。通過對(duì)訓(xùn)練集的迭代訓(xùn)練，將未標(biāo)注的樣本分類并

3、學(xué)習(xí)，直到樣本完全被標(biāo)注。這種方法有效的解決了預(yù)處理時(shí)噪聲樣本不足而導(dǎo)致預(yù)處理效果不理想的問題。
　　其次，本文提出了一種基于半監(jiān)督學(xué)習(xí)和搜索引擎的自選擇短文本特征擴(kuò)展方法，該方法針對(duì)基于自選擇的特征擴(kuò)展方法對(duì)短文本不規(guī)則性問題的忽略，引入了半監(jiān)督學(xué)習(xí)和搜索引擎的方法，通過半監(jiān)督學(xué)習(xí)的迭代訓(xùn)練和搜索引擎龐大的知識(shí)庫(kù)，解決短文本的不規(guī)則性問題。
　　最后，本文提出了一種基于SVM和半監(jiān)督學(xué)習(xí)(Semi-supervised L

4、earning and Support Vector Machines，SLAS)的短文本分類算法。普通的SVM對(duì)短文本的分類效果并不是很理想，而本文提出的基于SVM和半監(jiān)督學(xué)習(xí)的短文本分類算法有效的解決了短文本的特征稀疏和不規(guī)則的問題，擴(kuò)充了數(shù)據(jù)字典中的標(biāo)注樣本，接著在SLAS的基礎(chǔ)上，本文提出了SLAS-C短文本分類算法。該方法結(jié)合了分類回歸樹，利用Gini指數(shù)改進(jìn)分類模型，解決了SLAS在分類效率上提升不明顯的問題。實(shí)驗(yàn)結(jié)果中本文