增量矩陣分解中線性特征變換的研究與應(yīng)用.pdf

1、矩陣分解是推薦系統(tǒng)中應(yīng)用最為廣泛的技術(shù)之一，由于其高精度、高效率、易實(shí)現(xiàn)、易拓展而為人們所知?，F(xiàn)如今，大部分的矩陣分解都是批處理式模型。此類模型一般要求訓(xùn)練階段與測試階段明確分離，利用數(shù)據(jù)完成相關(guān)模型的訓(xùn)練之后不再對(duì)模型進(jìn)行更新及修改。然而在現(xiàn)實(shí)世界的在線場景中，新數(shù)據(jù)的到來，往往意味著特征的改變。因此增量地對(duì)矩陣分解模型進(jìn)行更新完善是一類非常重要的需求。雖然目前對(duì)于增量式矩陣分解問題，已經(jīng)有相當(dāng)一部分研究工作用于改善其分解效果，但除了

2、精度的提升之外還有許多亟待解決的問題。例如，更新效率如何改善，超參數(shù)是否能夠重用，模型的一般性如何保證以及是否能夠?qū)υ隽窟^程的誤差界進(jìn)行分析。
　　為了解決上述問題，由向量自回歸模型的啟發(fā)，本文對(duì)增量矩陣分解模型提出了一種具有一般性的框架。當(dāng)一批增量數(shù)據(jù)到來時(shí)，該框架能夠高效地對(duì)用戶及項(xiàng)目的潛在特征向量進(jìn)行更新。而所提出框架的關(guān)鍵技術(shù)在于:通過訓(xùn)練用戶和項(xiàng)目特征隨時(shí)間進(jìn)行的線性變換取代傳統(tǒng)方法中直接對(duì)原問題所有參數(shù)進(jìn)行的重訓(xùn)練。此

3、外對(duì)于所提出框架，通過利用與規(guī)模無關(guān)參數(shù)的批量式矩陣分解模型，使模型規(guī)模增大時(shí)的調(diào)參代價(jià)大幅減少。不僅如此，本文還通過形式化定義對(duì)所提出框架的一般性進(jìn)行說明，即大部分具有顯式目標(biāo)函數(shù)的批量式矩陣分解模型可以通過該框架拓展為增量式矩陣分解模型。與此同時(shí)，本文還從低秩近似角度對(duì)該框架進(jìn)行了合理性的解釋，并給出在某些特殊情況下使用該框架進(jìn)行增量學(xué)習(xí)時(shí)所能達(dá)到的訓(xùn)練誤差上界。最后，通過對(duì)所提出框架在兩個(gè)真實(shí)世界數(shù)據(jù)集上進(jìn)行大量實(shí)驗(yàn)，說明其在精度