基于克隆選擇算法的排序?qū)W習方法研究.pdf

1、信息檢索是指信息按一定的方式組織起來，并根據(jù)信息用戶的需要找出有關(guān)的信息的過程和技術(shù)。信息檢索的核心問題之一是排序問題，即決定哪些信息是相關(guān)的、符合用戶的習信息需求。不失一般性，本文主要關(guān)注文檔排序的研究。排序問題的目的在于根據(jù)文檔和查詢之間的相關(guān)性，將相關(guān)的文檔排在靠前的位置。隨著互聯(lián)網(wǎng)信息的急劇增長，排序問題逐漸成為信息檢索領(lǐng)域的研究熱點之一。
　　 在過去的研究中，學者們提出了布爾模型、向量模型、概率模型和語言模型等信息檢

2、索模型。這些傳統(tǒng)模型將文檔表示為關(guān)鍵詞的集合，并且定義一個排序函數(shù)來計算文檔和查詢之間的相關(guān)性。通常這些模型屬于非監(jiān)督學習，因此排序函數(shù)的參數(shù)必須靠經(jīng)驗由人工設(shè)定，可以利用的信息少而且不靈活。
　　 近年來隨著機器學習的發(fā)展，學者們提出了排序?qū)W習方法。排序?qū)W習的目的在于利用機器學習的方法從已標注的數(shù)據(jù)集中學習得到排序模型或排序函數(shù)。排序?qū)W習方法分為基于單文檔的排序?qū)W習算法、基于文檔對的排序?qū)W習算法和基于文檔列的排序?qū)W習算法三種。

3、排序?qū)W習的核心問題之一是選擇合適的損失函數(shù)來尋找近乎最優(yōu)的排序函數(shù)。盡管信息檢索排序測評使用的評估函數(shù)是最理想的損失函數(shù)，但是通常這些函數(shù)不能直接用來優(yōu)化，因為他們不滿足傳統(tǒng)機器學習中要求的平滑特性。通常在過去的工作中，我們使用評估函數(shù)的替代損失函數(shù)來解決這一問題。然而大多數(shù)情況下替代函數(shù)和評估函數(shù)本身之間并不等價。直觀的，我們認為直接優(yōu)化算法將會具有很大優(yōu)勢并且?guī)硇阅苌系奶嵘?br>　　 綜上，在本文中我們提出了一種新的方法Ra

4、nkCSA來直接優(yōu)化評估函數(shù)。RankCSA利用克隆選擇算法將信息檢索中的各種特征結(jié)合起來，學習得到一個最有效的學習函數(shù)。在該算法中，RankCSA將同一查詢對應(yīng)的一系列文檔作為抗原，將候選排序函數(shù)當作抗體，這一設(shè)定使得RankCSA具有基于文檔列的排序?qū)W習算法的天然優(yōu)勢。同時，本文還提出基于信息檢索排序問題的形態(tài)空間用于建立抗原與抗體的關(guān)系模型。此外，由于克隆選擇算法的進化過程是離散的，因此可以將評估函數(shù)直接當作親和力函數(shù)來優(yōu)化。進化

5、過程從抗體庫中選擇出最優(yōu)的抗體作為最終的排序函數(shù)。為了驗證RankCSA的有效性，我們在LETOR標準數(shù)據(jù)集上進行了實驗，并以具有代表性的算法RankSVM、ListNet、AdaRank和RankBoost作為基準。實驗結(jié)果表明RankCSA在P@1-10、MAP和NDCG@1-10指標上優(yōu)于基準并且還有進一步優(yōu)化的潛力。同時根據(jù)對比和分析我們證明了直接優(yōu)化評估函數(shù)的優(yōu)勢。
　　 本文的主要貢獻分為如下幾部分:(1)本文提出了

6、基于克隆選擇算法的排序?qū)W習算法。結(jié)合信息檢索排序問題本身的特點，我們定義了抗原和抗體的在克隆選擇過程中的表示形式以及計算親和力的形態(tài)空間模型。在該定義下RankCSA繼承了基于文檔列的排序?qū)W習算法的優(yōu)點(2)本文直接使用IR評估函數(shù)MAP作為進化過程中的親和力函數(shù)。使用評估函數(shù)本身而不是替代函數(shù)使得RankCSA在學習過程中具有很大的優(yōu)勢，并且結(jié)果也由于其他方法。(3)通過在LETOR標準數(shù)據(jù)集上進行實驗，并與其他具有代表性的方法進行比