切換網(wǎng)絡(luò)分布式Push-sum無梯度算法.pdf

1、近年來，伴隨著網(wǎng)絡(luò)、通迅、計算機等技術(shù)的快速發(fā)展，分布式優(yōu)化研究課題備受學(xué)者們關(guān)注，尤其是大數(shù)據(jù)時代的到來給分布式優(yōu)化算法提供了新的研究課題。多個體網(wǎng)絡(luò)是由眾多個體通過信息通訊耦合成的網(wǎng)絡(luò)化系統(tǒng)，其中每個個體均具有感知、處理和通迅的能力。分布式優(yōu)化目的是要求網(wǎng)絡(luò)中各個個體團隊合作解決網(wǎng)絡(luò)中各個目標(biāo)函數(shù)之和的最小值問題，其優(yōu)點不僅能有效節(jié)約企業(yè)或公司中的投資成本而且具有極強的魯棒性。但現(xiàn)實中，很多通迅條件都會影響個體間信息通訊，如切換非平

2、衡網(wǎng)絡(luò)、個體目標(biāo)函數(shù)次梯度計算復(fù)雜或者通迅通道故障等約束條件，因此目前研究切換網(wǎng)絡(luò)下分布式優(yōu)化算法意義重大。
　　本文主要解決多個體網(wǎng)絡(luò)中所有個體通過相互協(xié)作來尋求各個個體目標(biāo)函數(shù)之和的最小值問題，其中每個個體僅知其自身目標(biāo)函數(shù)且僅可以與其鄰居個體交互信息。針對個體目標(biāo)函數(shù)次梯度計算復(fù)雜和不存在情況，以及對個體間信息通訊出現(xiàn)的其它復(fù)雜問題進行深入研究。本文包括兩部分主要內(nèi)容:
　　一、針對多個體網(wǎng)絡(luò)中個體間信息通訊常會出現(xiàn)數(shù)

3、據(jù)丟包、個體目標(biāo)函數(shù)通常是非光滑及單變量信息通迅具有一定局限性等問題，提出數(shù)據(jù)丟包情形下分布式無梯度Push-sum算法。通過增加虛擬節(jié)點進行系統(tǒng)擴維，為此建立一個有限的非均勻的馬爾可夫鏈，這意味著與網(wǎng)絡(luò)拓?fù)湎鄬?yīng)的權(quán)矩陣為列隨機矩陣而無需雙隨機矩陣，因而網(wǎng)絡(luò)拓?fù)涫乔袚Q非平衡的。并利用遍歷性系數(shù)的結(jié)論理論上驗證了算法的收斂性，其中誤差值與高斯近似函數(shù)的光滑參數(shù)、目標(biāo)函數(shù)的lipschitz常數(shù)成正比。故有效解決了數(shù)據(jù)丟包及個體目標(biāo)函數(shù)次

4、梯度計算復(fù)雜的分布式優(yōu)化問題。
　　二、針對多個體網(wǎng)絡(luò)中所有個體在同一時刻進行信息通迅使得信息量巨大致使信息擁塞或網(wǎng)絡(luò)坍塌的情況頻繁發(fā)生的問題，提出分布式流言Push-sum無梯度算法來解決上述問題。個體選擇鄰居進行信息通訊的過程均服從一個泊松分布時鐘的轉(zhuǎn)動規(guī)律，時鐘每轉(zhuǎn)動一次代表與選擇的鄰居信息通訊一次。接著在網(wǎng)絡(luò)連通和迭代步長下降的基礎(chǔ)上證明了所提算法具有收斂性。最后，通過MATLAB軟件分析得出的圖像驗證了所提算法理論結(jié)果的