基于短文本的分類(lèi)算法研究.pdf

1、短文本指的是長(zhǎng)度較短，通常不超過(guò)100個(gè)字符，內(nèi)容精煉內(nèi)聚的文本，例如新聞標(biāo)題和手機(jī)短信息都是典型的短文本。由于海量信息資源的出現(xiàn)，采用人工方式進(jìn)行管理越來(lái)越不切實(shí)際。分類(lèi)可以在一定程度上解決網(wǎng)上信息雜亂的現(xiàn)象，方便用戶(hù)準(zhǔn)確地定位所需的信息和分流信息，文本分類(lèi)則有助于用戶(hù)有選擇地閱讀和處理海量文本。短文本分類(lèi)與普通文本分類(lèi)有很大的不同，本文將針對(duì)短文本的特殊性，對(duì)短文本分類(lèi)算法進(jìn)行研究。新聞標(biāo)題和手機(jī)短信這兩類(lèi)典型的短文本將作為本文的研

2、究重點(diǎn)。通過(guò)對(duì)短文本特有規(guī)律以及相關(guān)領(lǐng)域的深入分析，本文將包括基于短文本的多分類(lèi)以及一類(lèi)分類(lèi)算法的研究。本文將以具有確定分類(lèi)標(biāo)準(zhǔn)的短文本分類(lèi)為應(yīng)用背景，利用基于統(tǒng)計(jì)學(xué)方法對(duì)短文本進(jìn)行詞頻統(tǒng)計(jì)，同時(shí)利用基于支持向量機(jī)(SVM)的分類(lèi)技術(shù)，評(píng)價(jià)短文本與類(lèi)別的相關(guān)關(guān)系。本文將短文本的多分類(lèi)算法和一類(lèi)分類(lèi)算法的算法實(shí)現(xiàn)和精度提高作為主要研究方向。多分類(lèi)算法指的是：對(duì)于給定的文本和已知的類(lèi)別集合(多于一個(gè))，確定給定文本所屬的類(lèi)別。一類(lèi)分類(lèi)算法指

3、的是：對(duì)于給定的文本和一個(gè)類(lèi)別，確定給定文本屬于這一類(lèi)別的概率。在介紹多分類(lèi)算法的過(guò)程中將以文本新聞標(biāo)題的分類(lèi)算法作為研究對(duì)象；在介紹一類(lèi)分類(lèi)算法的時(shí)候?qū)⒁允謾C(jī)短信息的分類(lèi)算法作為研究對(duì)象。本文的特點(diǎn)是充分利用短文本的獨(dú)有特點(diǎn)，確定短文本與類(lèi)別相關(guān)程度，在現(xiàn)有文本分類(lèi)方法的基礎(chǔ)上做出了適當(dāng)改進(jìn)，經(jīng)過(guò)實(shí)驗(yàn)和參數(shù)調(diào)整，多分類(lèi)算法和一類(lèi)分類(lèi)算法在訓(xùn)練集內(nèi)部的分類(lèi)準(zhǔn)確率超過(guò)98%的情況下，多類(lèi)分類(lèi)算法平均準(zhǔn)確率超過(guò)了86%，一類(lèi)分類(lèi)算法的平均準(zhǔn)