松弛約束非負(fù)矩陣分解算法研究.pdf

1、非負(fù)矩陣分解是一種新興的能夠保持?jǐn)?shù)據(jù)非負(fù)性的非監(jiān)督機(jī)器學(xué)習(xí)技術(shù)。傳統(tǒng)的非負(fù)矩陣分解算法實(shí)現(xiàn)非負(fù)約束主要有兩種方法。第一種方法只在迭代過(guò)程中使用矩陣乘法、矩陣加法、矩陣點(diǎn)乘和矩陣點(diǎn)除這四種能夠保持矩陣非負(fù)性的矩陣運(yùn)算，從而整個(gè)迭代算法也是可保持非負(fù)性的。這類(lèi)算法普遍存在收斂速度慢或重構(gòu)誤差大的問(wèn)題。第二種算法允許數(shù)值計(jì)算過(guò)程中自由使用各種矩陣運(yùn)算。對(duì)于出現(xiàn)的負(fù)元素，這類(lèi)算法需要強(qiáng)制添加一步非負(fù)化的操作，比如將出現(xiàn)的負(fù)元素投影為0。投影操作

2、會(huì)使收斂性的理論分析變得復(fù)雜，甚至導(dǎo)致算法的失去穩(wěn)定性。
　　針對(duì)傳統(tǒng)非負(fù)矩陣分解算法在數(shù)值計(jì)算的每次迭代中強(qiáng)制非負(fù)約束而帶來(lái)的種種問(wèn)題，本文提出了兩種全新的NMF算法：松弛約束非負(fù)矩陣分解算法和弱約束非負(fù)矩陣分解算法。
　　松弛約束非負(fù)矩陣分解算法是一種在數(shù)值計(jì)算之后再實(shí)現(xiàn)非負(fù)約束的算法。該算法把非負(fù)矩陣分解問(wèn)題拆分松弛問(wèn)題和約束問(wèn)題。在松弛階段，不考慮非負(fù)約束，先在實(shí)數(shù)范圍內(nèi)求解出一組矩陣分解；在約束階段，再通過(guò)適當(dāng)?shù)姆?/p>

3、法將這組實(shí)數(shù)分解轉(zhuǎn)化為非負(fù)分解。通過(guò)這樣兩步來(lái)完成非負(fù)矩陣分解。對(duì)于松弛階段，本文提出了自適應(yīng)松弛約束非負(fù)矩陣分解算法，并證明了算法的收斂性。對(duì)于約束階段，本文在給出了兩個(gè)實(shí)數(shù)矩陣可非負(fù)化的判定條件；對(duì)秩為2的情況，設(shè)計(jì)了非負(fù)化算法；對(duì)秩大于2的情況，給出了近似非負(fù)化算法。
　　弱約束非負(fù)矩陣分解算法是一種對(duì)數(shù)值求解的單次迭代沒(méi)有強(qiáng)制的非負(fù)性要求、而是在整個(gè)求解過(guò)程中逐漸實(shí)現(xiàn)非負(fù)性約束的一種新型非負(fù)矩陣分解算法。通過(guò)引入非負(fù)約束強(qiáng)