推薦系統(tǒng)中矩陣分解算法研究.pdf

1、隨著在線服務(wù)的快速發(fā)展，互聯(lián)網(wǎng)上擁有的信息量呈現(xiàn)爆炸性增長趨勢，導(dǎo)致人們很難有效地獲取感興趣的內(nèi)容。推薦系統(tǒng)是幫助用戶發(fā)現(xiàn)符合其興趣偏好的物品，緩解信息過載問題的有效工具之一。矩陣分解算法是目前推薦系統(tǒng)領(lǐng)域研究的前沿之一。該算法將用戶對物品的評分矩陣分解為隱因子空間上用戶、物品隱因子矩陣，具有理論基礎(chǔ)好、預(yù)測準(zhǔn)確性高等諸多優(yōu)點(diǎn)。目前，矩陣分解算法仍存在學(xué)習(xí)速率調(diào)參耗時(shí)、傾斜數(shù)據(jù)集上并行效果差和稀疏評分?jǐn)?shù)據(jù)集上推薦效果不理想等問題。

2、>　　本文圍繞矩陣分解算法，深入分析其存在的三個(gè)問題，并提出了相應(yīng)的改進(jìn)方案。本文的主要內(nèi)容和貢獻(xiàn)如下:
　　我們提出了一個(gè)求解矩陣分解模型的自適應(yīng)學(xué)習(xí)速率算法。隨機(jī)梯度下降算法是求解矩陣分解模型的有效算法之一，其性能很大程度上依賴于訓(xùn)練過程中學(xué)習(xí)速率的調(diào)整方案。在優(yōu)化矩陣分解算法的目標(biāo)函數(shù)時(shí)，由于學(xué)習(xí)速率選取的不合適，目標(biāo)函數(shù)會(huì)出現(xiàn)收斂速度慢、收斂結(jié)果不理想等問題。本文在分析各種學(xué)習(xí)速率方案缺點(diǎn)的基礎(chǔ)上，提出了一個(gè)求解矩陣分解模

3、型的自適應(yīng)學(xué)習(xí)速率算法AALRSMF。該算法來源于ADADELTA算法，不需要手動(dòng)設(shè)置全局學(xué)習(xí)速率，并且表現(xiàn)出對超參數(shù)選擇的魯棒性。和ADADELTA算法相比，AALRSMF算法將空間復(fù)雜度從O(k(m+n))降低為O（m+n），將每次迭代的計(jì)算代價(jià)減少了O(10k)。實(shí)驗(yàn)結(jié)果表明，AALRSMF算法能夠顯著地減少目標(biāo)函數(shù)收斂的迭代次數(shù)。
　　我們提出了一個(gè)并行矩陣分解算法。矩陣分解算法的并行化一直是一個(gè)研究熱點(diǎn)，但是當(dāng)用戶評分矩

4、陣傾斜時(shí)，已有的并行矩陣分解算法會(huì)導(dǎo)致目標(biāo)函數(shù)出現(xiàn)收斂速度慢、收斂結(jié)果不理想等問題。本文在分析已有的并行算法在分解傾斜評分矩陣缺點(diǎn)的基礎(chǔ)上，提出了一個(gè)基于KD樹的并行矩陣分解算法KDMF。該算法利用KD樹對用戶評分矩陣進(jìn)行劃分，使得每個(gè)分區(qū)塊中的評分?jǐn)?shù)目盡可能相近，然后基于部分匹配查詢，設(shè)計(jì)出一個(gè)異步調(diào)度算法，最小化調(diào)度分區(qū)塊的時(shí)間花費(fèi)。實(shí)驗(yàn)結(jié)果表明，KDMF算法能夠顯著地減少目標(biāo)函數(shù)收斂所需要的時(shí)間，并且收斂結(jié)果好于其他并行算法。

5、r>　　我們提出了一個(gè)基于文本上下文的矩陣分解算法。在實(shí)際應(yīng)用中，用戶評分矩陣往往是極度稀疏的。在這樣的數(shù)據(jù)集上，傳統(tǒng)的矩陣分解算法學(xué)習(xí)效果往往不理想。研究人員考慮將一些輔助信息加入到矩陣分解模型中，來提高推薦算法的性能。本文基于前人的工作，并針對他們工作中存在的問題，提出了一個(gè)基于字符表征信息的矩陣分解算法CharConvMF。該算法將物品的文本內(nèi)容作為輔助信息，利用深度卷積神經(jīng)網(wǎng)絡(luò)從字符的角度提取文本內(nèi)容的表征信息，然后將提取到的表