交互Lasso模型及改進ADMM算法研究.pdf

1、隨著大數(shù)據(jù)時代的到來，很多領(lǐng)域存在“維數(shù)災(zāi)難”問題。為了從高維數(shù)據(jù)中獲取有用信息，特征選擇已經(jīng)成為眾多學(xué)者的首選。然而傳統(tǒng)特征選擇方法依賴高維數(shù)據(jù)的原始特征，很少考慮特征間的交互。因此本文基于特征交互思想，將其加入回歸模型特征提取與分類，并在模型上添加分層約束來對主效應(yīng)和交互特征建模。而后對其添加罰函數(shù)，以達到收縮模型系數(shù)，得到主校應(yīng)和交互系數(shù)的稀疏解，增強模型穩(wěn)定性，提高模型效率的目的。
　　首先，本文介紹了弱分層交互logis

2、tic模型，并基于一般迭代收縮和閾值優(yōu)化框架應(yīng)用鄰近算子算法求解模型，然后應(yīng)用性質(zhì)簡化模型算法。并在模擬數(shù)據(jù)和真實數(shù)據(jù)中進行試驗。實驗結(jié)果證明本文應(yīng)用的方法具有可解釋性、分類性能高和運行時間低的特點。
　　其次，本文考慮擬合回歸模型的任務(wù)，涉及到潛在的大集合的協(xié)變量之間的交互，在此期間希望產(chǎn)生強分層。作者采用一個非常普遍的框架，稱之為FAMILY。它可以轉(zhuǎn)化為一個凸優(yōu)化問題的解，本文對于強分層交互線性lasso，使用改進的交替方向

3、乘子法算法求得模型參數(shù)。該算法保證收斂到全局最優(yōu)，可以很容易的專攻任何感興趣的凸罰函數(shù)，并允許簡單的擴展到廣義線性模型和高階模型的建立。作者在模擬數(shù)據(jù)、臭氧數(shù)據(jù)和天氣數(shù)據(jù)上進行試驗。結(jié)果表明廣義強分層線性交互能獲得更好的預(yù)測性能。
　　最后，作者研究了廣義強分層交互logistic回歸分類。首先定義了廣義強分層交互logistic模型定義，然后給出了改進交替方向乘子法求解方法。文章最后基于肝炎數(shù)據(jù)和帕金森數(shù)據(jù)進行兩組實驗。實驗結(jié)果