分布式話題檢測(cè)方法研究.pdf

1、隨著社會(huì)化媒體的興起,人們可以更頻繁更便捷的與互聯(lián)網(wǎng)互動(dòng),互聯(lián)網(wǎng)的資源呈現(xiàn)爆炸式增長(zhǎng)。豐富的互聯(lián)網(wǎng)資源帶給人們便捷的社交資源的同時(shí)也給人們帶來信息冗余的困擾,為了解決以上問題本文進(jìn)行了分布式話題檢測(cè)方法研究,在提高話題檢測(cè)準(zhǔn)確率以及提高話題檢測(cè)速度兩方面展開研究。本文主要研究成果包括:
　　首先,開展前期調(diào)研,研究了話題檢測(cè)的起源、相關(guān)算法,實(shí)現(xiàn)原始Single-Pass話題檢測(cè)算法,并進(jìn)行相關(guān)研究。
　　其次,由于進(jìn)行Si

2、ngle-Pass話題檢測(cè)以后算法能夠得到比較高的精度,但是召回率比較低,提出二次檢測(cè)(Double-Pass)話題檢測(cè)算法,第一次檢測(cè)以后再用Single-Pass算法對(duì)第一次檢測(cè)的結(jié)果做二次檢測(cè),用第一次檢測(cè)的結(jié)果指導(dǎo)二次檢測(cè),對(duì)某些簇合并,實(shí)驗(yàn)證明二次檢測(cè)可以讓算法的準(zhǔn)確度有所提高。接著,為了進(jìn)一步讓簇信息加強(qiáng),把前人運(yùn)用于分類的 CFC(Class Feature Centroid)思想運(yùn)用到話題檢測(cè)中,在第一次檢測(cè)以后用CFC

3、思想調(diào)整簇權(quán)重,提出了CFC-DP算法,實(shí)驗(yàn)證明,改進(jìn)后的算法較原始算法F值有所提高。
　　再次,為了提高話題檢測(cè)的速度,滿足處理海量數(shù)據(jù)的需求,在 Hadoop這一分布式框架上進(jìn)行分布式計(jì)算,定義話題檢測(cè)的任務(wù)分解以及合并操作,提出了基于 Hadoop的分布式話題檢測(cè)方法,實(shí)驗(yàn)證明,該分布式話題檢測(cè)能維持穩(wěn)定的話題檢測(cè)精度、召回率及F值,并加速檢測(cè)速度。
　　最后,基于以上的研究,設(shè)計(jì)并實(shí)現(xiàn)了分布式話題檢測(cè)系統(tǒng),系統(tǒng)包括五