基于隱馬爾科夫模型的網(wǎng)絡(luò)輿情挖掘.pdf

1、互聯(lián)網(wǎng)飛速發(fā)展，網(wǎng)民規(guī)模不斷增加，新型媒體不斷涌現(xiàn)，使得網(wǎng)絡(luò)輿情成為一股強(qiáng)大的輿論力量，影響著社會(huì)熱點(diǎn)事件的發(fā)展，如果不能正確的引導(dǎo)，將嚴(yán)重威脅到社會(huì)公共安全。所以，挖掘網(wǎng)絡(luò)輿情，將對(duì)搭建文明網(wǎng)絡(luò)，穩(wěn)定社會(huì)秩序，促進(jìn)國(guó)家發(fā)展做出貢獻(xiàn)。網(wǎng)絡(luò)輿情挖掘大致包括輿情采集、話題發(fā)現(xiàn)和分析預(yù)測(cè)三步。其中，網(wǎng)絡(luò)輿情數(shù)據(jù)的采集是重中之重，因?yàn)橹挥屑皶r(shí)地采集到真實(shí)、可靠、完整的網(wǎng)絡(luò)輿情數(shù)據(jù)，才能保證之后的深入分析真實(shí)、可靠、具有實(shí)際指導(dǎo)意義。本文主要研究

2、的就是網(wǎng)絡(luò)輿情數(shù)據(jù)采集技術(shù)，在分析了網(wǎng)絡(luò)輿情及其來源的特點(diǎn)后，針對(duì)現(xiàn)有的網(wǎng)絡(luò)輿情信息的采集技術(shù)存在的不足提出了改進(jìn)方法。
　　 首先，網(wǎng)絡(luò)輿情采集的工作是采集到同一主題事件網(wǎng)民言論，可以采用主題爬蟲來實(shí)現(xiàn)。主題爬蟲能夠提取相關(guān)URL鏈接，預(yù)測(cè)下一步爬取的鏈接，從而有效地抓取與目標(biāo)主題相關(guān)度高的網(wǎng)頁(yè)，但是現(xiàn)有的主題爬蟲在及時(shí)性和完整性上達(dá)不到輿情分析的要求，本文通過文獻(xiàn)學(xué)習(xí)，理論上認(rèn)識(shí)到使用隱馬爾科夫模型(Hidden Marko

3、v Model，HMM)指導(dǎo)網(wǎng)絡(luò)輿情采集是可行的，并對(duì)現(xiàn)有HMM爬蟲進(jìn)行分析，針對(duì)其不足，從網(wǎng)頁(yè)訓(xùn)練集聚類策略、主題相關(guān)度判別算法和HMM建模方式三個(gè)方面提出了改進(jìn)的方法，用來提高HMM爬蟲的性能。
　　 其次，網(wǎng)絡(luò)輿情的棲息地是微博、博客、論壇和新聞評(píng)論這樣的新型網(wǎng)絡(luò)載體，大多都采用了異步交互的AJAX技術(shù)來提高用戶體驗(yàn)，導(dǎo)致傳統(tǒng)爬蟲無(wú)法采集到這些動(dòng)態(tài)生成的信息，大大降低了網(wǎng)絡(luò)輿情采集的覆蓋率，為了解決這一問題，本文在HMM爬

4、蟲中增加了AJAX頁(yè)面爬取單元，用以完成AJAX頁(yè)面的網(wǎng)絡(luò)輿情采集工作，完成了本文AHMM(AjaxHMM)爬蟲的設(shè)計(jì)。
　　 最后，研究了開源系統(tǒng)Nutch，將改進(jìn)后的能夠爬取AJAX頁(yè)面的HMM爬蟲(AHMMCrawler)和Nutch系統(tǒng)結(jié)合使用，替換掉Nutch系統(tǒng)原有的爬蟲系統(tǒng)，搭建了實(shí)驗(yàn)?zāi)Ｐ?，列出了?shí)驗(yàn)環(huán)境和詳細(xì)的實(shí)驗(yàn)步驟，進(jìn)行了對(duì)比實(shí)驗(yàn)，驗(yàn)證了本文理論的準(zhǔn)確性和有效性，證明了本文設(shè)計(jì)AHMM爬蟲不但具有重要的理論價(jià)