基于L2-Fused Lasso變量選擇方法的性質(zhì)及應(yīng)用研究.pdf

1、模型的變量選擇問(wèn)題是現(xiàn)代統(tǒng)計(jì)學(xué)中的一個(gè)重要問(wèn)題，前人做了很多研究，特別是Lasso以及相關(guān)改進(jìn)方法的研究已成為當(dāng)今的熱門(mén)問(wèn)題.考慮到各變量間的次序作用，Tibshirani和Saunders(2005)借鑒了Land和Friedman(1996)關(guān)于系數(shù)差分的懲罰，與Lasso的懲罰相結(jié)合，提出了Fused Lasso.這種方法不但滿(mǎn)足了模型系數(shù)的稀疏性要求，而且實(shí)現(xiàn)了系數(shù)差分的稀疏性，產(chǎn)生一個(gè)分段平臺(tái)式的解.本文將研究系數(shù)差分的平方和

2、懲罰與Lasso估計(jì)的懲罰相結(jié)合的一種變量選擇方法，即L2-Fused Lasso.這種方法既滿(mǎn)足了模型系數(shù)的稀疏性要求，又實(shí)現(xiàn)了對(duì)系數(shù)差分的壓縮，但不會(huì)將系數(shù)差分壓縮為0.理論上，我們將研究L2-FusedLasso估計(jì)是否具有Oracle性質(zhì);應(yīng)用上，主要通過(guò)實(shí)例觀察這種方法的表現(xiàn)，研究它與Lasso，F(xiàn)used Lasso等其他變量選擇方法的不同.
　　本文首先介紹了研究背景和相關(guān)變量選擇方法的發(fā)展?fàn)顩r.第二章主要是背景知識(shí)

3、，介紹了線性模型和Lasso，Elastic Net，F(xiàn)used Lasso這些變量選擇方法.在第三章我們給出了L2-Fused Lasso估計(jì)的定義，并把它擴(kuò)展為L(zhǎng)asso的形式，說(shuō)明它可以解決p(＞＞)n的問(wèn)題.然后我們?cè)敿?xì)的證明了L2-Fused Lasso估計(jì)的漸近性，并對(duì)它是否具有一致性進(jìn)行討論，發(fā)現(xiàn)它在最優(yōu)的收斂效率下，不具有一致性.第四章我們通過(guò)糖尿病案例和白血病基因案例兩個(gè)實(shí)例來(lái)觀察L2-Fused Lasso估計(jì)的表現(xiàn)