分布式非凸正則化方法研究.pdf

1、隨著信息技術(shù)的飛速發(fā)展，在經(jīng)濟(jì)學(xué)、生物信息學(xué)、社會(huì)科學(xué)和醫(yī)學(xué)等諸多領(lǐng)域中對海量、高維數(shù)據(jù)的采集成為可能.由于這些數(shù)據(jù)量級過大，如何對其進(jìn)行存儲、整理并開展進(jìn)一步的數(shù)據(jù)分析均面臨著巨大的挑戰(zhàn).數(shù)據(jù)存儲通常采用分布式方式，通過將數(shù)據(jù)集按某種規(guī)則分割，或者按數(shù)據(jù)流的方式存儲于不同的機(jī)器，實(shí)現(xiàn)數(shù)據(jù)量過大時(shí)的存儲問題.一個(gè)自然的問題是，現(xiàn)有的機(jī)器學(xué)習(xí)算法是否適用于分布式存儲的數(shù)據(jù).近年來，基于稀疏先驗(yàn)的正則化方法是對高維數(shù)據(jù)進(jìn)行特征提取和變量選擇

2、的主要研究工具之一，但是這類方法往往都基于單機(jī)存儲和處理.因此，如何開展針對分布式存儲的數(shù)據(jù)分析是目前機(jī)器學(xué)習(xí)和統(tǒng)計(jì)學(xué)的主要工作之一.本文推廣現(xiàn)有的稀疏正則化方法，使其適合于分析處理分布式存儲數(shù)據(jù).
　　本文各章內(nèi)容安排如下:
　　第一章中簡單敘述研究分布式非凸正則化方法的意義以及相關(guān)研究背景.
　　第二章中提出分布式SCAD方法.基于ADMM算法提出分布式SCAD算法，并證明了算法的收斂性.實(shí)驗(yàn)表明，分布式SCAD算