融合知識(shí)的主題模型研究及應(yīng)用.pdf

1、隨著互聯(lián)網(wǎng)信息的爆炸式發(fā)展，網(wǎng)絡(luò)上的資源和數(shù)據(jù)越來(lái)越豐富，使得人們理解這些動(dòng)態(tài)的海量文本變得非常困難。為了應(yīng)對(duì)這種挑戰(zhàn)，我們需要從海量文本中抽取出關(guān)鍵概念，以便人們直觀、快速地理解和處理，因此主題模型就應(yīng)運(yùn)而生。主題模型算法通過(guò)對(duì)原始文本中詞匯的分析，挖掘隱含其中的主題，這些主題之間的關(guān)系，以及隨時(shí)間演變的情況。但是，近年來(lái)研究人員發(fā)現(xiàn)，這些沒(méi)有融合任何人類(lèi)知識(shí)的無(wú)監(jiān)督模型往往會(huì)導(dǎo)致生成的主題解釋性不強(qiáng)，也就是說(shuō)，無(wú)法生成語(yǔ)義連貫的主題

2、。并且，這些傳統(tǒng)的主題模型通常需要大量訓(xùn)練數(shù)據(jù)。為了解決這些問(wèn)題，本文進(jìn)行了融合知識(shí)的主題模型研究，并對(duì)其在微博話題發(fā)現(xiàn)上的應(yīng)用進(jìn)行了探索:
　　(1)本文設(shè)計(jì)了一個(gè)融合先驗(yàn)知識(shí)的主題模型PLTM，通過(guò)對(duì)主題模型中兩個(gè)重要概率分布之一——主題-詞分布的改進(jìn)，從人工提供先驗(yàn)知識(shí)和自動(dòng)挖掘兩方面擴(kuò)展了傳統(tǒng)主題模型。并且，針對(duì)實(shí)際應(yīng)用中的文本往往會(huì)以數(shù)據(jù)流形式出現(xiàn)的特點(diǎn)，對(duì)PLTM模型進(jìn)行了在線擴(kuò)展，并設(shè)計(jì)了兩種在線方法。
　　(

3、2)在微博熱點(diǎn)話題發(fā)現(xiàn)的任務(wù)中，設(shè)計(jì)了增量PLTM模型與兩層k-均值聚類(lèi)和層次聚類(lèi)的混合聚類(lèi)結(jié)合的方法。本文針對(duì)微博語(yǔ)料的特點(diǎn)，采取了較為細(xì)致的文本預(yù)處理方法，將模型關(guān)注的數(shù)據(jù)對(duì)象規(guī)模大大減小，并且減少了數(shù)據(jù)噪音的干擾。與此同時(shí)，利用融合知識(shí)的主題模型方法，有效地解決了微博短文本數(shù)據(jù)稀疏性的問(wèn)題;使用兩層k-均值和層次聚類(lèi)的混合聚類(lèi)算法，可以快速地將微博聚集到相應(yīng)的話題下。
　　(3)針對(duì)上述兩部分的研究工作，本文分別在亞馬遜評(píng)論