基于貝葉斯理論的增量文本分類算法研究.pdf

1、傳統(tǒng)的文本分類算法需要大量的標(biāo)注文本,但標(biāo)注大量訓(xùn)練文本需要艱苦而緩慢的手工勞動(dòng),從而制約了整個(gè)分類系統(tǒng)的構(gòu)建。增量學(xué)習(xí)技術(shù)可以利用少量的已標(biāo)注文本對(duì)大量的未標(biāo)注文本進(jìn)行標(biāo)注,可以有效解決標(biāo)注瓶頸問題,因此逐漸引起人們的關(guān)注。
　　 由于貝葉斯方法能夠充分利用先驗(yàn)知識(shí),使它成為增量式文本分類的重要選擇?；?-1分類損失的增量貝葉斯分類算法是通過計(jì)算測(cè)試集中文本的分類損失大小來確定新增訓(xùn)練集中文本加入到原始訓(xùn)練集的順序。但該算法

2、存在下述三個(gè)問題:
　　 首先,噪音數(shù)據(jù)影響分類器精度的問題。由于當(dāng)前分類器存在知識(shí)儲(chǔ)備不足等因素而容易產(chǎn)生噪音數(shù)據(jù),一旦這些噪音數(shù)據(jù)被過早地加入到原始訓(xùn)練集中,就會(huì)降低當(dāng)前分類器的性能,進(jìn)而影響整體分類精度。
　　 其次,新增訓(xùn)練集的規(guī)模影響增量學(xué)習(xí)效率的問題。當(dāng)新增訓(xùn)練集規(guī)模過大時(shí)會(huì)增加增量學(xué)習(xí)時(shí)間。因此在處理大規(guī)模新增訓(xùn)練集時(shí),如何提高效率成為增量學(xué)習(xí)的一個(gè)重要問題。
　　 此外,如何利用新增訓(xùn)練集中有用知

3、識(shí)的問題。新增訓(xùn)練集中存在一種有用知識(shí)--具有高度相似性的文本,把這些文本作為一個(gè)整體來處理,它能夠有效改善增量學(xué)習(xí)的性能。
　　 針對(duì)以上問題,本文提出的基于序列選擇增量貝葉斯分類算法,該算法既通過選擇合理的增量學(xué)習(xí)序列解決噪音數(shù)據(jù)影響分類器精度的問題,又通過基于劃分的思想對(duì)新增訓(xùn)練集進(jìn)行分割解決新增訓(xùn)練集規(guī)模影響增量學(xué)習(xí)效率的問題；還提出了基于快速聚類的增量貝葉斯分類算法來解決新增訓(xùn)練集中有用知識(shí)的利用問題,即通過近鄰傳播算