基于突發(fā)詞地域分析的微博突發(fā)事件檢測(cè)方法研究.pdf

1、面對(duì)海量的微博數(shù)據(jù)，及時(shí)準(zhǔn)確地檢測(cè)出微博突發(fā)事件，對(duì)于網(wǎng)絡(luò)輿情檢測(cè)具有重要的意義。
　　在對(duì)微博突發(fā)事件傳播規(guī)律的研究分析中，發(fā)現(xiàn)微博突發(fā)事件相關(guān)微博文檔的發(fā)布地域覆蓋范圍會(huì)隨微博突發(fā)事件演變，出現(xiàn)從小開始逐漸擴(kuò)大，再到出現(xiàn)極值，最后逐漸縮小的規(guī)律，根據(jù)該規(guī)律提出一種基于突發(fā)詞地域分析的微博突發(fā)事件檢測(cè)方法。該方法從突發(fā)詞的地域?qū)傩院颓楦袑傩詢蓚€(gè)維度去識(shí)別微博突發(fā)事件，首先通過情感計(jì)算過濾非負(fù)值文檔;然后根據(jù)特征詞的地域擴(kuò)散程度對(duì)

2、剩余文檔進(jìn)行突發(fā)詞檢測(cè);最后使用新突發(fā)事件檢測(cè)方法，對(duì)突發(fā)詞集進(jìn)行聚類，從而發(fā)現(xiàn)微博突發(fā)事件。實(shí)驗(yàn)結(jié)果表明本文的微博突發(fā)事件檢測(cè)方法與兩個(gè)對(duì)比文獻(xiàn)相比，正確率、召回率和F均值均有明顯提升。
　　大數(shù)據(jù)情況下，為了實(shí)時(shí)高效地從海量的微博文檔中檢測(cè)識(shí)別出微博突發(fā)事件的，提出基于Spark的微博突發(fā)事件檢測(cè)方法的并行化模型;該模型主要分為四個(gè)步驟進(jìn)行并行化設(shè)計(jì):并行噪聲文檔過濾、并行特征詞地域突發(fā)性檢測(cè)、并行構(gòu)建共現(xiàn)矩陣、并行檢測(cè)與跟蹤

3、突發(fā)事件。第一步，通過Spark Streaming將微博流式數(shù)據(jù)進(jìn)行時(shí)間窗劃分，然后將指定時(shí)間窗內(nèi)的微博文檔通過分布式計(jì)算其文檔情感值，并行過濾掉非消極情感的微博文檔，達(dá)到并行噪聲文檔過濾的目的。第二步，通過Spark提供的Join操作特征詞的地域廣度擴(kuò)散度和深度擴(kuò)散度計(jì)算特征詞的地域擴(kuò)散度，過濾得到滿足突發(fā)特性的突發(fā)詞，實(shí)現(xiàn)并行特征詞地域突發(fā)性檢測(cè)。第三步，通過LeftOuterJoin操作突發(fā)詞集RDD和微博文檔集RDD進(jìn)行構(gòu)建突

4、發(fā)詞共現(xiàn)矩陣。第四步，通過采用分而治之的思想，首先采用MapPartitions操作進(jìn)行局部絕對(duì)聚類，然后，在Reduce階段使用聚類中心的突發(fā)詞共現(xiàn)次數(shù)計(jì)算局部聚類結(jié)果之間的相似度，最終得到當(dāng)前時(shí)間窗內(nèi)的微博突發(fā)事件集RDD;最后，采用MapToPair操作將當(dāng)前時(shí)間窗內(nèi)的微博突發(fā)事件集RDD和已檢測(cè)到的其它時(shí)間窗內(nèi)的微博突發(fā)事件集RDD進(jìn)行微博子突發(fā)事件檢測(cè)，最終得到所有時(shí)間段內(nèi)的微博突發(fā)事件集。實(shí)驗(yàn)結(jié)果表明本文并行化的微博突發(fā)事件