概率主題模型的研究及其在多媒體主題發(fā)現(xiàn)和演化中的應(yīng)用.pdf

1、隨著信息技術(shù)、互聯(lián)網(wǎng)和數(shù)據(jù)庫技術(shù)的發(fā)展，人們積累的數(shù)據(jù)不斷增加，信息泛濫問題日益嚴(yán)重。如何從大量的數(shù)據(jù)集中發(fā)現(xiàn)用戶感興趣的熱點(diǎn)主題以及這些主題隨時(shí)間發(fā)展演化的情況，逐漸成為這個(gè)信息爆炸時(shí)代的重要問題。搜索引擎的出現(xiàn)為人們從海量的存檔數(shù)據(jù)中快速檢索和尋找有用信息提供了一種有效途徑。然而，搜索引擎所返回的搜索結(jié)果往往是零碎的非結(jié)構(gòu)化的信息，它不能反映整個(gè)主題隨時(shí)間發(fā)展演化的情況。隨著以LDA為代表的概率主題模型的出現(xiàn)，各種主題發(fā)現(xiàn)和演化的研

2、究大量涌現(xiàn)，為解決熱點(diǎn)主題的發(fā)現(xiàn)和主題隨時(shí)間的演化等問題提供了很好的途徑。本文對各種概率主題模型中的典型模型進(jìn)行了綜述分析和對比研究；在此基礎(chǔ)上，針對科研文獻(xiàn)數(shù)據(jù)中廣泛存在的多源結(jié)構(gòu)化信息，提出了一種內(nèi)容和引用信息相結(jié)合的概率主題模型，并應(yīng)用到科研文獻(xiàn)的主題發(fā)現(xiàn)和跟蹤中；其次，提出了一種新的基于隨機(jī)游走模型的主題演化圖構(gòu)建算法，解決了不同主題之間的演化問題；最后，提出了一種兩層結(jié)構(gòu)的非參數(shù)化的概率主題模型，并應(yīng)用到交通視頻中的運(yùn)動模式識

3、別和異常行為檢測中。
　　本研究主要內(nèi)容包括：⑴對最新的各種不同類型的概率主題模型進(jìn)行了綜述分析。首先根據(jù)模型對時(shí)間變量處理的特點(diǎn)，將其分為三類典型模型----離散時(shí)間主題模型、連續(xù)時(shí)間主題模型和在線式的主題模型。其次，分別對這三類模型的特點(diǎn)進(jìn)行了總結(jié)，并選取每類模型中的典型模型進(jìn)行了詳細(xì)的分析，包括模型的建模過程、模型特點(diǎn)以及各種模型的優(yōu)缺點(diǎn)。針對各類概率主題模型的對比實(shí)驗(yàn)問題，分析了模型性能比較的各種可能方法，并總結(jié)了兩種有效

4、的性能指標(biāo)----困惑度值和sKL散度值。分別對三類主題模型中的典型模型，在兩個(gè)典型的科研文獻(xiàn)數(shù)據(jù)庫上進(jìn)行了對比實(shí)驗(yàn)研究，通過對比實(shí)驗(yàn)驗(yàn)證了綜述分析中對各種模型特點(diǎn)的分析。⑵提出了一種Citation-Content-LDA主題模型,該模型在一個(gè)概率主題模型中綜合利用文檔的文本信息和文檔之間的引用信息來進(jìn)行主題的建模。該Citation-Content-LDA模型是一種兩層的主題模型，其分別利用引用信息來生成“父主題”和文本信息生成“子

5、主題”，在此基礎(chǔ)上還實(shí)現(xiàn)了主題跟蹤算法，并利用吉布斯采樣算法來求解模型的參數(shù)。通過在兩個(gè)典型的科研文獻(xiàn)數(shù)據(jù)集上的對比實(shí)驗(yàn)研究，驗(yàn)證了該模型的有效性和優(yōu)越性。⑶提出了一種基于主題分割和主題關(guān)系度量的主題演化圖的構(gòu)建算法。針對不同主題之間的演化問題，在Citation-Content-LDA模型發(fā)現(xiàn)的主題的基礎(chǔ)上，利用主題中文檔的時(shí)間信息進(jìn)行主題的分割，解決了主題對齊的問題；提出了一種基于隨機(jī)游走的主題關(guān)系度量算法，借鑒PageRank算法

6、的思想，建立主題之間關(guān)聯(lián)關(guān)系的有向無環(huán)圖，并通過對圖的隨機(jī)游走遍歷實(shí)現(xiàn)了主題之間關(guān)系的概率度量，最終實(shí)現(xiàn)了不同主題之間演化關(guān)系圖的構(gòu)建算法。通過在兩個(gè)典型的科研文獻(xiàn)數(shù)據(jù)集上的實(shí)驗(yàn)，分別得到了這兩個(gè)數(shù)據(jù)集上不同主題之間的演化圖。⑷提出了一種非參數(shù)化的兩層結(jié)構(gòu)的主題模型，應(yīng)用于交通視頻數(shù)據(jù)的運(yùn)動模式識別和異常行為檢測。該兩層結(jié)構(gòu)的非參數(shù)化的主題模型能夠自動確定每層的主題數(shù)量，可分別提取出交通視頻中的局部主題（視覺活動）和全局主題（交通模式）