黎曼流形上次梯度算法的收斂性及其應(yīng)用.pdf

1、本文研究黎曼流形上的兩類(lèi)凸優(yōu)化問(wèn)題，包括凸最優(yōu)化問(wèn)題和凸可行性問(wèn)題.如果沒(méi)有特別說(shuō)明，我們總是假設(shè)黎曼流形的截面曲率有下界以及相關(guān)的函數(shù)是真凸函數(shù)(定義域可以不是整個(gè)流形）.在這些假設(shè)下，分別研究了流形上的次梯度算法，循環(huán)次梯度投影算法的收斂性;并在一定的假設(shè)條件下，得到了循環(huán)次梯度投影算法的線(xiàn)性收斂性結(jié)果.主要內(nèi)容如下.
　　在第二章中，介紹了一些相關(guān)背景知識(shí)之后，證明了黎曼流形上的基本不等式.
　　在第三章中，提出了兩種

2、不同步長(zhǎng)的次梯度算法求解凸最優(yōu)化問(wèn)題，并證明了收斂性，即文中稱(chēng)為遞減步長(zhǎng)(diminishing)和動(dòng)態(tài)步長(zhǎng)(dynamic).當(dāng)目標(biāo)函數(shù)可以寫(xiě)成一簇真凸函數(shù)的和時(shí)，提出增量次梯度算法解凸最優(yōu)化問(wèn)題并證明了當(dāng)算法選取遞減步長(zhǎng)時(shí)的收斂性.最后，我們分別應(yīng)用遞減步長(zhǎng)的次梯度法，增量次梯度算法計(jì)算黎曼質(zhì)心，得到了收斂性定理并與已有方法進(jìn)行了比較.最后，數(shù)值例子表明算法有效性，同時(shí)也表明增量次梯度算法比次梯度法更有效，這一結(jié)果與Hilbert空

3、間類(lèi)似.
　　在第四章中，對(duì)一類(lèi)特殊的凸可行性問(wèn)題，即每個(gè)弱凸集分別是某個(gè)真凸函數(shù)的水平集，提出循環(huán)次梯度投影算法并證明了收斂性.在Slater條件下，得到了循環(huán)次梯度投影算法線(xiàn)性收斂的結(jié)果，同時(shí)給出了有限步停止的算法.進(jìn)一步，在有界誤差界的條件下也得到了線(xiàn)性收斂的結(jié)果.考慮到Hadamard流形上的投影算子是嚴(yán)非擴(kuò)張的，我們把Hilbert空間上的投影算法推廣到了Hadamard流形上，并得到了Hadamard流形上投影算法的收