基于短文本的分類算法研究.pdf

1、短文本指的是長度較短，通常不超過100個字符，內(nèi)容精煉內(nèi)聚的文本，例如新聞標題和手機短信息都是典型的短文本。由于海量信息資源的出現(xiàn)，采用人工方式進行管理越來越不切實際。分類可以在一定程度上解決網(wǎng)上信息雜亂的現(xiàn)象，方便用戶準確地定位所需的信息和分流信息，文本分類則有助于用戶有選擇地閱讀和處理海量文本。短文本分類與普通文本分類有很大的不同，本文將針對短文本的特殊性，對短文本分類算法進行研究。新聞標題和手機短信這兩類典型的短文本將作為本文的研

2、究重點。通過對短文本特有規(guī)律以及相關領域的深入分析，本文將包括基于短文本的多分類以及一類分類算法的研究。本文將以具有確定分類標準的短文本分類為應用背景，利用基于統(tǒng)計學方法對短文本進行詞頻統(tǒng)計，同時利用基于支持向量機(SVM)的分類技術，評價短文本與類別的相關關系。本文將短文本的多分類算法和一類分類算法的算法實現(xiàn)和精度提高作為主要研究方向。多分類算法指的是：對于給定的文本和已知的類別集合(多于一個)，確定給定文本所屬的類別。一類分類算法指

3、的是：對于給定的文本和一個類別，確定給定文本屬于這一類別的概率。在介紹多分類算法的過程中將以文本新聞標題的分類算法作為研究對象；在介紹一類分類算法的時候將以手機短信息的分類算法作為研究對象。本文的特點是充分利用短文本的獨有特點，確定短文本與類別相關程度，在現(xiàn)有文本分類方法的基礎上做出了適當改進，經(jīng)過實驗和參數(shù)調(diào)整，多分類算法和一類分類算法在訓練集內(nèi)部的分類準確率超過98%的情況下，多類分類算法平均準確率超過了86%，一類分類算法的平均準