基于copula理論的分布估計(jì)算法研究.pdf

1、分布估計(jì)算法綜合了智能計(jì)算領(lǐng)域和統(tǒng)計(jì)學(xué)領(lǐng)域的知識(shí),是一種基于群體的算法,在每代循環(huán)體中,根據(jù)適應(yīng)值選擇出一些較好的個(gè)體組成優(yōu)勢(shì)群體,通過(guò)分析優(yōu)勢(shì)群體的概率分布模型來(lái)指導(dǎo)新一代群體的產(chǎn)生。多變量相關(guān)的分布估計(jì)算法是目前研究的熱點(diǎn),為反映變量的相關(guān)性,往往采用貝葉斯網(wǎng)絡(luò)、高斯網(wǎng)絡(luò)或馬爾科夫網(wǎng)絡(luò)等結(jié)構(gòu)。但是,這些網(wǎng)絡(luò)結(jié)構(gòu)的學(xué)習(xí)本身要花費(fèi)大量的時(shí)間,因此,目前的分布估計(jì)算法多數(shù)運(yùn)行時(shí)間花費(fèi)在對(duì)優(yōu)勢(shì)群體概率分布模型的估計(jì)操作上。有些分布估計(jì)算法假

2、設(shè)變量服從聯(lián)合正態(tài)分布,通過(guò)估計(jì)數(shù)學(xué)期望和協(xié)方差矩陣獲得具體的概率分布模型。但是由于正態(tài)分布本身具有對(duì)稱性等特點(diǎn),不能準(zhǔn)確地反映實(shí)際優(yōu)化問(wèn)題中變量的相關(guān)性。而且,由方差和協(xié)方差計(jì)算得到的相關(guān)系數(shù)也僅僅能夠反映變量之間的線性相關(guān)性。因此,基于聯(lián)合正態(tài)分布的分布估計(jì)算法優(yōu)化效果一般。
　　 在統(tǒng)計(jì)學(xué)領(lǐng)域中,copula理論將多變量的聯(lián)合分布函數(shù)分解成為兩個(gè)部分:一是各個(gè)變量的一維邊緣分布函數(shù),二是反映這些變量相關(guān)結(jié)構(gòu)的copula函

3、數(shù)。Copula函數(shù)擯棄了邊緣分布的干擾,而對(duì)變量的相關(guān)性單獨(dú)進(jìn)行研究。這里的相關(guān)性更全面,而不僅僅是線性相關(guān)性。學(xué)者們通過(guò)對(duì)大量現(xiàn)實(shí)數(shù)據(jù)的分析總結(jié)出了一些典型的copula函數(shù),并對(duì)其性質(zhì)進(jìn)行了深入的研究。本文提出了基于copula理論的分布估計(jì)算法,在估計(jì)優(yōu)勢(shì)群體的概率分布模型時(shí),將邊緣分布函數(shù)的估計(jì)操作和copula函數(shù)的估計(jì)操作分別進(jìn)行,實(shí)際上這兩個(gè)操作是可以獨(dú)立地并行實(shí)現(xiàn)的。邊緣分布函數(shù)的估計(jì)和copula函數(shù)的估計(jì)要比復(fù)雜網(wǎng)

4、絡(luò)結(jié)構(gòu)的學(xué)習(xí)簡(jiǎn)單省時(shí)的多。在這一思想下,本文主要完成了以下工作:
　　 (1)通過(guò)分析分布估計(jì)算法和copula理論,給出了基于copula理論的分布估計(jì)算法的總體框架和實(shí)現(xiàn)步驟,并證明了該算法的全局收斂性。在模型估計(jì)階段,分兩個(gè)部分分別進(jìn)行:估計(jì)各個(gè)變量的邊緣分布函數(shù);估計(jì)copula函數(shù)。在估計(jì)copula函數(shù)時(shí),一般是選擇一個(gè)帶參數(shù)的copula函數(shù),然后根據(jù)優(yōu)勢(shì)群體對(duì)其參數(shù)進(jìn)行估計(jì);或者是根據(jù)優(yōu)勢(shì)群體直接構(gòu)造copula

5、函數(shù),如經(jīng)驗(yàn)copula函數(shù)。在模型采樣階段,主要是對(duì)copula函數(shù)的采樣。根據(jù)copula函數(shù)采樣得到服從該分布的單位超立方體上的向量,然后根據(jù)邊緣分布函數(shù)的反函數(shù)計(jì)算得出搜索空間中的點(diǎn)作為新個(gè)體。理論上證明了在群體規(guī)模無(wú)限的情況下,copula分布估計(jì)算法收斂于全局最優(yōu)解。
　　 (2)在copuIa分布估計(jì)算法框架下分別用二維正態(tài)copula函數(shù)和兩個(gè)二維阿基米德copuIa函數(shù)表示變量的相關(guān)性,針對(duì)二維數(shù)值優(yōu)化問(wèn)題,實(shí)

6、現(xiàn)了三種具體的copula分布估計(jì)算法,在理論和實(shí)驗(yàn)上驗(yàn)證了copula分布估計(jì)算法的可行性和有效性。另外,實(shí)驗(yàn)結(jié)果表明阿基米德copula分布估計(jì)算法優(yōu)于正態(tài)copula分布估計(jì)算法。
　　 (3)針對(duì)多維的數(shù)值優(yōu)化問(wèn)題,提出了經(jīng)驗(yàn)copula分布估計(jì)算法。在估計(jì)模型時(shí),將單位超立方體等分成若干個(gè)小區(qū)間,統(tǒng)計(jì)優(yōu)勢(shì)群體中落入各個(gè)小區(qū)間的個(gè)體數(shù),構(gòu)造經(jīng)驗(yàn)copula函數(shù),并以此采樣.邊緣分布可以是任何形式的分布,在本文中研究了正態(tài)

7、分布和經(jīng)驗(yàn)分布兩種情況.在該算法中,經(jīng)驗(yàn)copula函數(shù)不需要顯式表示出來(lái),而是根據(jù)其構(gòu)造方式直接推出了經(jīng)驗(yàn)copula函數(shù)的采樣方式,因此在算法具體實(shí)現(xiàn)時(shí),只需要統(tǒng)計(jì)個(gè)體數(shù)并直接采樣就可以.實(shí)驗(yàn)結(jié)果表明,經(jīng)驗(yàn)copula分布估計(jì)算法能夠有效地解決多維數(shù)值優(yōu)化問(wèn)題,其全局探測(cè)能力較強(qiáng),能夠很快地找到全局最優(yōu)解附近。
　　 (4)針對(duì)多維的數(shù)值優(yōu)化問(wèn)題,提出了阿基米德copula分布估計(jì)算法。用阿基米德copula函數(shù)反映優(yōu)化變量

8、之間的相關(guān)性,具體實(shí)現(xiàn)了Clayton copula EDA、Gumbel copula EDA和Frank copula EDA,在適應(yīng)值計(jì)算次數(shù)相同的條件下,這些阿基米德copula分布估計(jì)算法的優(yōu)化效果優(yōu)于典型的分布估計(jì)算法。
　　 (5)針對(duì)阿基米德copula分布估計(jì)算法的參數(shù)和采樣方法進(jìn)行了研究。提出了兩種參數(shù)的估計(jì)方法:PMLE估計(jì)和根據(jù)Kendallτ估計(jì)。分別針對(duì)小種群低維數(shù)、小種群高維數(shù)、大種群低維數(shù)和大種群

9、高維數(shù)四種情況分析了參數(shù)估計(jì)對(duì)阿基米德copula分布估計(jì)算法的影響,并與典型的分布估計(jì)算法進(jìn)行了比較,表明無(wú)論在收斂速度還是收斂精度方面,具有參數(shù)估計(jì)的阿基米德copula EDA.都優(yōu)于典型的分布估計(jì)算法。另外,根據(jù)Kendallτ估計(jì)參數(shù)的阿基米德copula EDA比PMLE估計(jì)參數(shù)的阿基米德copula EDA更簡(jiǎn)單有效。由于copula函數(shù)本身也可以看作是隨機(jī)變量,因此可以直接估計(jì)其服從的密度函數(shù),并從中采樣。對(duì)該采樣方法在