面向主題的博客資源挖掘關(guān)鍵技術(shù)研究.pdf

1、隨著Web2.0時代的到來，用戶在互聯(lián)網(wǎng)上發(fā)布信息的門檻變得越來越低，使得互聯(lián)網(wǎng)上的信息量變得極其龐大。博客作為一種典型的Web2.0應(yīng)用，以其簡單、方便的使用方式吸引著越來越多的用戶。在由博客所構(gòu)成的博客空間中，由于用戶可以根據(jù)興趣發(fā)表文章記錄自己的觀點(diǎn)，閱讀他人的文章并給出評論，使得博客空間中蘊(yùn)含了大量的關(guān)于主題（或者興趣）的信息。在這種情況下，用戶從這些海量數(shù)據(jù)中獲取自己想要的信息是非常困難的。因此，如何從這些海量博客數(shù)據(jù)中挖掘出

2、對用戶有價值的信息就變得十分重要。為此，本文研究了三個問題，主要研究內(nèi)容包括以下幾個方面：
　　第一，本文在分析了現(xiàn)有關(guān)鍵詞抽取算法依賴于外部資源和具體文本格式的局限性之后，提出了一種基于主題模型 Latent Dirichlet Allocation（LDA）的博文關(guān)鍵詞抽取算法，并通過與TFIDF和層次隱馬爾科夫模型（Hierarchical Hidden Markov Model, HHMM）的對比實(shí)驗(yàn)對該算法的有效性進(jìn)行了

3、驗(yàn)證，最后利用皮爾遜相關(guān)系數(shù)從關(guān)鍵詞權(quán)重與其詞頻之間的線性相關(guān)程度這一角度分析了算法優(yōu)越性的原因。
　　第二，本文通過對四種典型聚類算法 K-means、K-means++、Affinity Propagation和Markov Cluster的對比分析，優(yōu)選出更適合于本文具體應(yīng)用的算法Markov Cluster；并在此基礎(chǔ)上，設(shè)計(jì)了一個三層算法用于對博客文章進(jìn)行主題聚類，自動生成聚類結(jié)果的描述信息；最后通過對比實(shí)驗(yàn)對算法的有效

4、性和穩(wěn)定性進(jìn)行了驗(yàn)證。
　　第三，本文在傳統(tǒng)鏈接分析的基礎(chǔ)上，結(jié)合博客空間的具體特征——評論和轉(zhuǎn)載現(xiàn)象，提出了一種融合評論和正文相似性信息的博客排序算法，并通過在兩個真實(shí)博客數(shù)據(jù)集上的對比實(shí)驗(yàn)對該算法的有效性和穩(wěn)定性進(jìn)行了驗(yàn)證。結(jié)果顯示，本文所提出的算法在 Normalized Discounted Cumulative Gain（NDCG）指標(biāo)下，與傳統(tǒng)鏈接分析方法相比，分別獲得了17％和29%的性能提升，同時具有比較好的穩(wěn)定性