基于突發(fā)詞地域分析的微博突發(fā)事件檢測方法研究.pdf

1、面對海量的微博數(shù)據(jù)，及時準(zhǔn)確地檢測出微博突發(fā)事件，對于網(wǎng)絡(luò)輿情檢測具有重要的意義。
　　在對微博突發(fā)事件傳播規(guī)律的研究分析中，發(fā)現(xiàn)微博突發(fā)事件相關(guān)微博文檔的發(fā)布地域覆蓋范圍會隨微博突發(fā)事件演變，出現(xiàn)從小開始逐漸擴(kuò)大，再到出現(xiàn)極值，最后逐漸縮小的規(guī)律，根據(jù)該規(guī)律提出一種基于突發(fā)詞地域分析的微博突發(fā)事件檢測方法。該方法從突發(fā)詞的地域?qū)傩院颓楦袑傩詢蓚€維度去識別微博突發(fā)事件，首先通過情感計算過濾非負(fù)值文檔;然后根據(jù)特征詞的地域擴(kuò)散程度對

2、剩余文檔進(jìn)行突發(fā)詞檢測;最后使用新突發(fā)事件檢測方法，對突發(fā)詞集進(jìn)行聚類，從而發(fā)現(xiàn)微博突發(fā)事件。實(shí)驗(yàn)結(jié)果表明本文的微博突發(fā)事件檢測方法與兩個對比文獻(xiàn)相比，正確率、召回率和F均值均有明顯提升。
　　大數(shù)據(jù)情況下，為了實(shí)時高效地從海量的微博文檔中檢測識別出微博突發(fā)事件的，提出基于Spark的微博突發(fā)事件檢測方法的并行化模型;該模型主要分為四個步驟進(jìn)行并行化設(shè)計:并行噪聲文檔過濾、并行特征詞地域突發(fā)性檢測、并行構(gòu)建共現(xiàn)矩陣、并行檢測與跟蹤

3、突發(fā)事件。第一步，通過Spark Streaming將微博流式數(shù)據(jù)進(jìn)行時間窗劃分，然后將指定時間窗內(nèi)的微博文檔通過分布式計算其文檔情感值，并行過濾掉非消極情感的微博文檔，達(dá)到并行噪聲文檔過濾的目的。第二步，通過Spark提供的Join操作特征詞的地域廣度擴(kuò)散度和深度擴(kuò)散度計算特征詞的地域擴(kuò)散度，過濾得到滿足突發(fā)特性的突發(fā)詞，實(shí)現(xiàn)并行特征詞地域突發(fā)性檢測。第三步，通過LeftOuterJoin操作突發(fā)詞集RDD和微博文檔集RDD進(jìn)行構(gòu)建突

4、發(fā)詞共現(xiàn)矩陣。第四步，通過采用分而治之的思想，首先采用MapPartitions操作進(jìn)行局部絕對聚類，然后，在Reduce階段使用聚類中心的突發(fā)詞共現(xiàn)次數(shù)計算局部聚類結(jié)果之間的相似度，最終得到當(dāng)前時間窗內(nèi)的微博突發(fā)事件集RDD;最后，采用MapToPair操作將當(dāng)前時間窗內(nèi)的微博突發(fā)事件集RDD和已檢測到的其它時間窗內(nèi)的微博突發(fā)事件集RDD進(jìn)行微博子突發(fā)事件檢測，最終得到所有時間段內(nèi)的微博突發(fā)事件集。實(shí)驗(yàn)結(jié)果表明本文并行化的微博突發(fā)事件