排序學習中基于直接優(yōu)化信息檢索評價準則算法的理論分析.pdf

1、隨著互聯網技術的迅速發(fā)展，互聯網上的信息量也以驚人的速度不斷地膨脹，從海量的互聯網信息中準確快捷的獲取所需信息也變得日益困難。搜索引擎的出現正是為了使人們能夠從海量的互聯網信息中快速和便捷地獲取所需信息。搜索引擎背后的關鍵技術是網頁排序算法。如何設計一個有效的網頁排序算法是信息檢索領域中十分重要和流行的課題。近年來，將機器學習方法引入排序學習獲得了很大成功，吸引了越來越多研究人員的注意。
　　 在排序學習領域中，直接優(yōu)化信息檢索

2、評價準則算法已經成為一個重要分支。由于信息檢索評價準則（例如MAP和NDCG）的不連續(xù)和不可導性導致其難以優(yōu)化。直接優(yōu)化信息檢索評價準則算法的核心思想是通過優(yōu)化一個與信息檢索評價準則近似的替代函數達到優(yōu)化信息檢索評價準則的目的。我們稱此替代函數為替代評價準則。
　　 直接優(yōu)化信息檢索評價準則算法的一個關鍵性基礎問題是一對替代評價準則的優(yōu)化是否能保證對相應的信息檢索評價準則的優(yōu)化？這個問題的解答，將直接決定直接優(yōu)化信息檢索評價準則

3、算法的理論正確性。因為，如果對替代評價準則的優(yōu)化不能保證對相應的信息檢索評價準則的優(yōu)化，那么直接優(yōu)化信息檢索評價準則算法將無法從理論上保證能夠獲得一個性能良好的排序模型。然而目前并無任何工作對這個問題有深入的理論研究，故而研究人員對直接優(yōu)化信息檢索評價準則的理論性質并不了解。
　　 本論文以直接優(yōu)化信息檢索評價準則算法的一個關鍵性基礎問題（對替代評價準則的優(yōu)化是否能保證對相應的信息檢索評價準則的優(yōu)化）為主線，以探索直接優(yōu)化信息檢

4、索評價準則算法的理論性質為目標，創(chuàng)新性的提出了直接性和趨勢相關性兩個概念，用于以衡量替代評價準則與相應的信息檢索評價準則之間的關系。并以直接性和趨勢相關性為分析工具，獲得了主流的直接優(yōu)化信息檢索評價準則算法中替代評價準則的理論性質。最后通過在公共基準數據集LETOR上對各個直接優(yōu)化信息檢索評價準則算法的實驗驗證了本文所得的理論分析結果，說明了用直接性和趨勢相關性來衡量替代評價準則與相應的信息檢索評價準則之間關系的科學性和正確性。

5、　　 ·本論文首先提出直接性和趨勢相關性兩個概念以衡量替代評價準則與相應的信息檢索評價準則的關系。我們從理論上證明了，如果一個替代評價準則，相對于一個信息檢索評價準則而言，具有任意大的直接性，或者任意強的趨勢相關性，則對此替代評價準則的優(yōu)化能保證對相應的信息檢索評價準則的優(yōu)化。
　　 ·在理論研究結論的基礎上，我們分析了主流的直接優(yōu)化信息檢索評價準則算法的直接性和趨勢相關性。通過理論分析，證明了SoftRankNDCG，App

6、roxRankMAP，ApproxRankNDCG中所優(yōu)化的替代評價準則，在合適的參數設置下（例如，令SoftRankNDGG中參數σs→以及ApproxRankMAP和ApproxRankNDCG中參數α→∞），對任意數據分布都能具有任意大的直接性和任意強的趨勢相關性。證明了SVMMAP，DORMNDCG，PermuRankMAP，SVMNDCG所優(yōu)化的替代評價準則在某類數據分布上不能具有任意大的直接性和任意強的趨勢相關性。因此，我們

7、得到了SoftRankNDCG，ApproxRankMAP，ApproxRankNDCG相比于SVMMAP， DORMNDCG，PermuRankMAP，SVMNDCG具備更好的理論性質，因而能獲得更好的排序性能的結論。
　　 ·最后通過在公共基準數據集LETOR上的實驗研究，我們驗證了對主流直接優(yōu)化信息檢索評價準則算法所優(yōu)化的替代評價準則的直接性和趨勢相關性的理論研究結果，說明了用直接性和趨勢相關性衡量替代評價準則與相應的信息