信息檢索中遷移Markov網(wǎng)絡(luò)模型的研究.pdf

1、Web信息的快速增長，給信息檢索系統(tǒng)帶來了巨大挑戰(zhàn)。傳統(tǒng)的檢索模型需要在一個相對固定的數(shù)據(jù)集上通過訓(xùn)練得到，不具備開放的學(xué)習(xí)功能，而Web上的信息是實時更新的，檢索模型由于無法對新的數(shù)據(jù)進行學(xué)習(xí)，檢索性能必將隨著Web信息的更新而逐漸下降，現(xiàn)有的解決辦法之一是將新數(shù)據(jù)加入到原有的數(shù)據(jù)集中對模型重新進行訓(xùn)練，由于模型對原有數(shù)據(jù)集學(xué)習(xí)所獲得的知識并沒有被保留，這勢必浪費大量的時間進行重復(fù)學(xué)習(xí)；另一種方法則是在新數(shù)據(jù)集上對模型進行訓(xùn)練，若新的

2、數(shù)據(jù)集數(shù)據(jù)量不夠則會影響模型的學(xué)習(xí)效果。因而，如何使得檢索模型能較好學(xué)習(xí)新的數(shù)據(jù)并實現(xiàn)在目標數(shù)據(jù)集上的準確檢索，成為了信息檢索模型研究的熱點之一。 本文中我們將檢索模型在發(fā)生變化的數(shù)據(jù)上的訓(xùn)練可以看作是一個學(xué)習(xí)遷移的過程，檢索模型在原有數(shù)據(jù)集上的訓(xùn)練勢必對其在新數(shù)據(jù)上的學(xué)習(xí)有所影響，即在原有數(shù)據(jù)集上建立模型中所獲得的知識對該模型在新數(shù)據(jù)上的訓(xùn)練有所幫助，從而減少由于數(shù)據(jù)發(fā)生改變而導(dǎo)致模型需要重新進行學(xué)習(xí)所耗費的時間。 因

3、此，為解決上述問題，我們結(jié)合遷移學(xué)習(xí)理論和Markov網(wǎng)絡(luò)理論，提出了一種新的方法，思想是遷移Markov網(wǎng)絡(luò)用于實現(xiàn)檢索模型的學(xué)習(xí)，通過獲取先驗知識，實現(xiàn)在目標數(shù)據(jù)集上高效檢索目的。具體的思路是：首先建立一個數(shù)據(jù)集上的初始檢索模型，其次，衡量用于建模的先驗數(shù)據(jù)集和目標數(shù)據(jù)集中數(shù)據(jù)分布的差異性，在本文中我們使用Kullback-Leibler divergence（KL偏離度）的測量公式來度量這一分布的不同。且所得的KL偏離值也可用于確

4、定檢索公式中的平衡參數(shù)（也就是確定遷移先驗數(shù)據(jù)中知識的“量”），然后，通過遷移舊數(shù)據(jù)集上的先驗知識到目標數(shù)據(jù)集上，我們對基于Markov網(wǎng)絡(luò)的檢索模型進行修正，并在目標數(shù)據(jù)集上進行檢索。這樣就可以將以將以往被摒棄的先驗數(shù)據(jù)通過有效的遷移學(xué)習(xí)利用到目標數(shù)據(jù)集的學(xué)習(xí)中，使檢索模型能夠快速學(xué)習(xí)并實現(xiàn)目標文檔的高效檢索。多組實驗結(jié)果驗證了我們的新方法在性能上要優(yōu)于BM25算法，T-檢驗的結(jié)果也顯示模型的性能提高水平是顯著的。 本文的工作

5、和創(chuàng)新點在于： 1．首次將遷移學(xué)習(xí)理論用于信息檢索領(lǐng)域，將知識的遷移和有指導(dǎo)的遷移學(xué)習(xí)等思想成功應(yīng)用在基于Markov網(wǎng)絡(luò)的信息檢索模型中，從構(gòu)造的Markov網(wǎng)絡(luò)中成功地學(xué)習(xí)先驗數(shù)據(jù)。 2．本文通過遷移先驗數(shù)據(jù)集的知識，并利用部分新數(shù)據(jù)集，來修正所提出的檢索模型，并最終實現(xiàn)基于Markov網(wǎng)絡(luò)的檢索模型能在新的數(shù)據(jù)集上的高效檢索。這樣可以大大減少重新建立一個適用于新數(shù)據(jù)集的檢索模型所耗費的時間。 3．通過實驗驗