基于LDA的情感分類及主題情感變化分析.pdf

1、在互聯(lián)網(wǎng)以及大數(shù)據(jù)快速發(fā)展的時(shí)代，在各種互聯(lián)網(wǎng)媒體上會(huì)產(chǎn)生越來越多的信息，包括評論信息、用戶信息、新聞資訊等。這些海量的信息背后通常蘊(yùn)藏著大量的數(shù)據(jù)價(jià)值，通過對這些信息進(jìn)行挖掘分析，能夠更好的理解用戶的消費(fèi)需求和心理，分析熱點(diǎn)事件的發(fā)展及社會(huì)輿情的走勢，能夠給商家或者政府等提供一定的決策依據(jù)。
　　海量數(shù)據(jù)中的大部分是以文本的形式呈現(xiàn)，在這些文本信息中，通常傳遞著客觀事實(shí)信息和用戶的主觀的情感色彩信息，因此基于文本情感信息的挖掘是

2、近年來研究的熱點(diǎn)。其中在文本情感分類方面，如果分類方法可以自動(dòng)的對文本的主觀情感信息進(jìn)行劃分，則能夠根據(jù)這些劃分信息更好的分析用戶的心理。傳統(tǒng)的分類方法在文本特征提取方面存在一定的缺陷，如未考慮文本間關(guān)系或者特征維度的問題。此外基于文本的主題情感挖掘也是研究熱點(diǎn)之一，主題模型也證實(shí)是文本挖掘方面比較有效的方法。傳統(tǒng)的主題模型，如 PLSA（Probability Latent Semantic Analysis）和 LDA（Latent

3、 Dirichlet Allocation），主要是針對文本隱含的主題進(jìn)行建模來挖掘文本的主題信息。但是由于文本信息或者研究內(nèi)容的不同，使基礎(chǔ)模型不再適用，這也就給文本挖掘在某些方面帶來了一定的挑戰(zhàn)。
　　針對傳統(tǒng)文本情感分類以及主題情感挖掘所存在的不足，近年來已經(jīng)有很多研究對這些不足進(jìn)行了改進(jìn)，其中在文本情感分類方面主要是對分類器進(jìn)行了改進(jìn)，在主題情感挖掘方面主要是根據(jù) LDA主題模型的思想進(jìn)行改進(jìn)。本文在已有的研究基礎(chǔ)上所做的

4、工作主要有兩個(gè)方面：（一）在中英文評論數(shù)據(jù)集上對文本的特征提取進(jìn)行了改進(jìn)，主要是結(jié)合 LDA主題模型和 SVM分類器進(jìn)行文本情感分類的分析；（二）在新浪新聞的數(shù)據(jù)集上，利用新聞信息的一些屬性，如時(shí)間、情感注釋等，進(jìn)行LDA主題模型的擴(kuò)展來挖掘主題情感的關(guān)系并分析主題的變化趨勢。
　　在文本情感分類方面，本文在LDA模型的基礎(chǔ)上提出了一種新的文本特征提取模型ELDA（External Knowledge-based Latent D

5、irichlet Allocation），可以說是一種弱監(jiān)督形式的模型。該模型針對實(shí)驗(yàn)數(shù)據(jù)集的內(nèi)容尋找合適的外部數(shù)據(jù)集，首先利用LDA主題模型對外部數(shù)據(jù)集進(jìn)行主題抽取，之后在外部數(shù)據(jù)集主題抽取的基礎(chǔ)上對實(shí)驗(yàn)數(shù)據(jù)集和外部數(shù)據(jù)集整體上進(jìn)行主題的抽取，把主題特征看作文本的特征，其中外部數(shù)據(jù)集的引入在一定程度上增加了情感特征的權(quán)重。在實(shí)驗(yàn)中設(shè)置不同的模型主題數(shù)，并結(jié)合SVM分類器來分析文本情感分類所需要的合適的特征維度，尋找最佳的文本情感分類模

6、型。實(shí)驗(yàn)結(jié)果證明，無論是在中文評論數(shù)據(jù)集還是英文評論數(shù)據(jù)集上，此特征提取方法在分類效果上均達(dá)到了較好的效果，相較于傳統(tǒng)的文本情感分類方法在準(zhǔn)確率方面有了4%的提升。
　　在主題情感挖掘與主題變化分析兩個(gè)方面，本文在已有的研究基礎(chǔ)上提出了一種新的四層主題模型JTSoT（Joint Topic-Sentiment over Time）。為了主題情感的挖掘，本文在傳統(tǒng) LDA模型的基礎(chǔ)上在主題與單詞層之間引入了情感層，主要是避免傳統(tǒng)JS

7、T（Joint Sentiment Topic）模型中情感因素會(huì)對主題的劃分產(chǎn)生影響，同時(shí)在主題情感之間引入狄利克雷分布。而在主題變化分析方面，根據(jù)已有的時(shí)間標(biāo)簽，將時(shí)間信息作為主題的屬性，并引入了主題對時(shí)間的Beta分布，來分析主題的變化。最終實(shí)驗(yàn)結(jié)果表明，相較于已有工作TOT(Topic over Time)以及eToT(emotion Topic over Time)模型而言，本文提出的JTSoT模型能夠直接體現(xiàn)主題情感之間的關(guān)系