分布式話題檢測方法研究.pdf

1、隨著社會化媒體的興起,人們可以更頻繁更便捷的與互聯(lián)網(wǎng)互動,互聯(lián)網(wǎng)的資源呈現(xiàn)爆炸式增長。豐富的互聯(lián)網(wǎng)資源帶給人們便捷的社交資源的同時也給人們帶來信息冗余的困擾,為了解決以上問題本文進行了分布式話題檢測方法研究,在提高話題檢測準確率以及提高話題檢測速度兩方面展開研究。本文主要研究成果包括:
　　首先,開展前期調(diào)研,研究了話題檢測的起源、相關(guān)算法,實現(xiàn)原始Single-Pass話題檢測算法,并進行相關(guān)研究。
　　其次,由于進行Si

2、ngle-Pass話題檢測以后算法能夠得到比較高的精度,但是召回率比較低,提出二次檢測(Double-Pass)話題檢測算法,第一次檢測以后再用Single-Pass算法對第一次檢測的結(jié)果做二次檢測,用第一次檢測的結(jié)果指導二次檢測,對某些簇合并,實驗證明二次檢測可以讓算法的準確度有所提高。接著,為了進一步讓簇信息加強,把前人運用于分類的 CFC(Class Feature Centroid)思想運用到話題檢測中,在第一次檢測以后用CFC

3、思想調(diào)整簇權(quán)重,提出了CFC-DP算法,實驗證明,改進后的算法較原始算法F值有所提高。
　　再次,為了提高話題檢測的速度,滿足處理海量數(shù)據(jù)的需求,在 Hadoop這一分布式框架上進行分布式計算,定義話題檢測的任務(wù)分解以及合并操作,提出了基于 Hadoop的分布式話題檢測方法,實驗證明,該分布式話題檢測能維持穩(wěn)定的話題檢測精度、召回率及F值,并加速檢測速度。
　　最后,基于以上的研究,設(shè)計并實現(xiàn)了分布式話題檢測系統(tǒng),系統(tǒng)包括五