多個體系統(tǒng)分布式Push-sum次梯度優(yōu)化算法的研究.pdf

1、近年來，多個體系統(tǒng)在人工智能、生物界、網(wǎng)絡通信，衛(wèi)星定位方面有著廣泛的應用，因此引起了國內(nèi)外眾多學者的濃厚興趣。隨著科學技術的發(fā)展反應更為靈敏的，操作更為簡單的分布式處理方法得到了人們的廣泛關注，因此多個體系統(tǒng)的分布式優(yōu)化算法得到了迅猛發(fā)展。多個體凸優(yōu)化算法就是借助于多個體系統(tǒng)模型解決其中的優(yōu)化問題，但如果系統(tǒng)中的個體在同一時刻進行信息交互時，很容易出現(xiàn)信息擁塞，使信息不能及時的到達接收端，使得整個系統(tǒng)缺乏魯棒性并且與理想中的系統(tǒng)模型相

2、差較大，之前的算法將不再適用。因此解決上述問題在研究多個體系統(tǒng)的優(yōu)化問題上具有更重要的意義。
　　本文主要研究了有向切換網(wǎng)絡中的優(yōu)化問題，針對系統(tǒng)中的信息交互容易出現(xiàn)阻塞的情況提出了以下兩種解決方法:
　　一、研究信息異步交互情形下的多個體系統(tǒng)Push-sum次梯度優(yōu)化算法。對于有向切換網(wǎng)絡信息的同步交互即為在同一時刻系統(tǒng)中的所有個體在同一時刻相互交換信息，使得通信道路上信息量過大，從而導致阻塞甚至使得系統(tǒng)崩潰。因此，考慮系

3、統(tǒng)中的個體在某一時刻隨機的兩兩交換信息，而其他的個體保持上一時刻的信息不變，直到系統(tǒng)中的個體信息達到一致。這樣從根本上避免了系統(tǒng)中信息擁塞的情況，但上述方法將會延緩多個體系統(tǒng)達到一致狀態(tài)的速度。本文在次梯度有界和一致強連通的的情況下證明了所提出的異步交互的Push-sum次梯度優(yōu)化算法收斂，收斂速度為O(tne-Kt+lnt/√t)，該速度與系統(tǒng)中的個體數(shù)目和每次個體被選中的概率有關，比同步交互情況下的收斂速度較慢。
　　二、研究

4、具有通信時延情形下的Push-sum次梯度優(yōu)化算法。對于有向切換網(wǎng)絡中信息同步交互已經(jīng)使得系統(tǒng)阻塞或是由于實際的通信線路受損或是其他原因的系統(tǒng)中斷產(chǎn)生時延的情況，提出了帶有時延的Push-sum次梯度優(yōu)化算法，由于對帶有時延的優(yōu)化算法的收斂性分析具有一定的困難，本文采用系統(tǒng)擴維的方法將帶有通信時延的算法轉(zhuǎn)化為無時延的算法然后再分析其收斂性。在已有的系統(tǒng)擴維中，擴維之后的鄰接矩陣的對角線元素均為正值，但本文所采用的擴維方法不要求隨機鄰接矩

5、陣的對角線元素均為正值，有可能為0。并在時延有界、次梯度有界和有向切換網(wǎng)絡周期強連通的假設下理論證明了上述優(yōu)化算法收斂，但比無時延的情形下收斂速度要慢而且具有一定的誤差。隨后應用MATLAB仿真證明了上述結論。
　　綜合上述，本文在次梯度有界和有向網(wǎng)絡圖是一致強連通的情況下證明了異步情形下的Push-sum分布式次梯度優(yōu)化算法收斂，并在時延有界、次梯度有界和有向切換網(wǎng)絡周期強連通的條件下證明了時延情形下的Push-sum分布式次梯