粒子群優(yōu)化算法及其參數(shù)設(shè)置

1、<p>　　粒子群優(yōu)化算法及其參數(shù)設(shè)置</p><p><b>　　摘 要</b></p><p>　　粒子群優(yōu)化是一種新興的基于群體智能的啟發(fā)式全局搜索算法，粒子群優(yōu)化算法通過(guò)粒子間的競(jìng)爭(zhēng)和協(xié)作以實(shí)現(xiàn)在復(fù)雜搜索空間中尋找全局最優(yōu)點(diǎn)。它具有易理解、易實(shí)現(xiàn)、全局搜索能力強(qiáng)等特點(diǎn)，倍受科學(xué)與工程領(lǐng)域的廣泛關(guān)注，已經(jīng)成為發(fā)展最快的智能優(yōu)化算法之一。論文介紹了粒子群

2、優(yōu)化算法的基本原理，分析了其特點(diǎn)。論文中圍繞粒子群優(yōu)化算法的原理、特點(diǎn)、參數(shù)設(shè)置與應(yīng)用等方面進(jìn)行全面綜述，重點(diǎn)利用單因子方差分析方法，分析了粒群優(yōu)化算法中的慣性權(quán)值，加速因子的設(shè)置對(duì)算法基本性能的影響，給出算法中的經(jīng)驗(yàn)參數(shù)設(shè)置。最后對(duì)其未來(lái)的研究提出了一些建議及研究方向的展望。</p><p>　　關(guān)鍵詞：粒子群優(yōu)化算法；參數(shù)；方差分析；最優(yōu)解 </p><p>　　Particle sw

3、arm optimization algorithm and its </p><p><b>　　Abstract</b></p><p>　　Particle swarm optimization is an emerging global based on swarm intelligence heuristic search algorithm, partic

4、le swarm optimization algorithm competition and collaboration between particles to achieve in complex search space to find the global optimum. It has easy to understand, easy to achieve, the characteristics of strong glo

5、bal search ability, and has never wide field of science and engineering concern, has become the fastest growing one of the intelligent optimization algorithms. This pap</p><p>　　Key word：Particle swarm optim

6、ization; Parameter; Variance analysis; Optimal solution</p><p><b>　　目 錄</b></p><p><b>　　摘 要II</b></p><p>　　AbstractIII</p><p><b>　　1.引言

7、1</b></p><p>　　1.1 研究背景和課題意義1</p><p>　　1.2 參數(shù)的影響1</p><p>　　1.3 應(yīng)用領(lǐng)域2</p><p>　　1.4 電子資源2</p><p>　　1.5 主要工作2</p><p>　　2.基本粒子群算法3<

8、/p><p>　　2.1 粒子群算法思想的起源3</p><p>　　2.2 算法原理4</p><p>　　2.3 基本粒子群算法流程5</p><p><b>　　2.4 特點(diǎn)6</b></p><p>　　2.5 帶慣性權(quán)重的粒子群算法7</p><p>　　2

9、.7 粒子群算法的研究現(xiàn)狀8</p><p>　　3.粒子群優(yōu)化算法的改進(jìn)策略9</p><p>　　3.1 粒子群初始化9</p><p>　　3.2 鄰域拓?fù)?</p><p>　　3.3 混合策略12</p><p><b>　　4.參數(shù)設(shè)置14</b></p>&

10、lt;p>　　4.1 對(duì)參數(shù)的仿真研究14</p><p>　　4.2 測(cè)試仿真函數(shù)15</p><p>　　4.3 應(yīng)用單因子方差分析參數(shù)對(duì)結(jié)果影響33</p><p>　　4.4 對(duì)參數(shù)的理論分析34</p><p><b>　　5結(jié)論與展望39</b></p><p><

11、;b>　　致謝43</b></p><p><b>　　附錄44</b></p><p><b>　　1.引言</b></p><p>　　1.1 研究背景和課題意義</p><p>　　“人工生命”是來(lái)研究具有某些生命基本特征的人工系統(tǒng)。人工生命包括兩方面的內(nèi)容：</p

12、><p>　　1、研究如何利用計(jì)算技術(shù)研究生物現(xiàn)象。</p><p>　　2、研究如何利用生物技術(shù)研究計(jì)算問(wèn)題。</p><p>　　現(xiàn)在已經(jīng)有很多源于生物現(xiàn)象的計(jì)算技巧。 例如，人工神經(jīng)網(wǎng)絡(luò)是簡(jiǎn)化的大腦模型。遺傳算法是模擬基因進(jìn)化過(guò)程的?，F(xiàn)在我們討論另一種生物系統(tǒng)- 社會(huì)系統(tǒng)。也可稱(chēng)做“群智能”(swarm intelligence)。這些模擬系統(tǒng)利用局部信息從而可能

13、產(chǎn)生不可預(yù)測(cè)的群體行為。</p><p>　　粒子群優(yōu)化算法(PSO) 也是起源對(duì)簡(jiǎn)單社會(huì)系統(tǒng)的模擬。最初設(shè)想是模擬鳥(niǎo)群覓食的過(guò)程。但后來(lái)發(fā)現(xiàn)PSO是一種很好的優(yōu)化工具。</p><p>　　優(yōu)化是科學(xué)研究、工程技術(shù)和經(jīng)濟(jì)管理等領(lǐng)域的重要研究課題。粒子群優(yōu)化算法[1] (簡(jiǎn)稱(chēng)PSO)是由Kennedy和Eberhart通過(guò)對(duì)鳥(niǎo)群、魚(yú)群和人類(lèi)社會(huì)某些行為的觀察研究，于1995年提出的一種新穎

14、的進(jìn)化算法。雖然PSO算法發(fā)展迅速并取得了可觀的研究成果,但其理論基礎(chǔ)仍相對(duì)薄弱，尤其是算法基本模型中的參數(shù)設(shè)置和優(yōu)化問(wèn)題還缺乏成熟的理論論證和研究。鑒于PSO的發(fā)展歷史尚短，它在理論基礎(chǔ)與應(yīng)用推廣上都還存在一些缺陷，有待解決。本文通過(guò)對(duì)PSO算法的步驟的歸納、特點(diǎn)的分析，利用統(tǒng)計(jì)中的方差分析，通過(guò)抽樣實(shí)驗(yàn)方法，論證了該算法中關(guān)鍵參數(shù)因子:慣性權(quán)值、加速因子對(duì)算法整體性能的影響效果，并提出了參數(shù)設(shè)置的指導(dǎo)原則，給出了關(guān)鍵參數(shù)設(shè)置，為PS

15、O算法的推廣與改進(jìn)提供了思路。</p><p><b>　　1.2 參數(shù)的影響</b></p><p>　　標(biāo)準(zhǔn)粒子群算法中主要的參數(shù)變量為（慣性權(quán)值）， ，（加速因子），，本文重點(diǎn)對(duì)參數(shù)， ，做數(shù)據(jù)統(tǒng)計(jì)實(shí)驗(yàn)。包括不變的情況下通過(guò)，變化找出加速因子對(duì)算法的影響。還有保持，不變對(duì)分別取不同值分析其對(duì)算法結(jié)果影響。</p><p><b>

16、;　　1.3 應(yīng)用領(lǐng)域</b></p><p>　　近年來(lái)，PSO快速發(fā)展，在眾多領(lǐng)域得到了廣泛應(yīng)用。本文將應(yīng)用研究分典型理論問(wèn)題研究和實(shí)際工業(yè)應(yīng)用兩大類(lèi)。典型理論問(wèn)題包括：組合優(yōu)化、約束優(yōu)化、多目標(biāo)優(yōu)化、動(dòng)態(tài)系統(tǒng)優(yōu)化等。</p><p>　　實(shí)際工業(yè)應(yīng)用有：電力系統(tǒng)、濾波器設(shè)計(jì)、自動(dòng)控制、數(shù)據(jù)聚類(lèi)、模式識(shí)別與圖像處理、化工、機(jī)械、通信、機(jī)器人、經(jīng)濟(jì)、生物信息、醫(yī)學(xué)、任務(wù)分配、

17、TSP等等。</p><p><b>　　1.4 電子資源 </b></p><p>　　身處信息和網(wǎng)絡(luò)時(shí)代的我們是幸運(yùn)的，豐富的電子資源能讓我們受益匪淺。如果想較快地對(duì)PSO有一個(gè)比較全面的了解，借助網(wǎng)絡(luò)空間的電子資源無(wú)疑是不二之選。對(duì)一些初學(xué)者而言，哪里能下載得到PSO的源程序，是他們很關(guān)心的話(huà)題；即使對(duì)一些資深的讀者，為了驗(yàn)證自己提出的新算法或改進(jìn)算法，如果能找

18、到高級(jí)別國(guó)際期刊或會(huì)議上最近提出的算法源程序，那也是事半功倍的美事。這里介紹當(dāng)今PSO研究領(lǐng)域較有影響的一個(gè)網(wǎng)址： </p><p>　　Maurice Clerc 博士(Maurice.Clerc@WriteMe.com)的PSO主頁(yè)：http://clerc.maurice.free.fr/pso/</p><p>　　該主頁(yè)主要介紹Maurice Clerc博士帶領(lǐng)的PSO研究小組的

19、研究成果。除了從中可以得到他們近幾年公開(kāi)發(fā)表的相關(guān)文獻(xiàn)和源代碼，還可以下載一些未公開(kāi)發(fā)表的文章。這些未公開(kāi)發(fā)表的文章往往是Maurice Clerc博士的一些設(shè)想，而且在不斷更新，如“Back to random topology”、“Initialisations for particle swarm optimization”、“Some ideas about PSO”等等，對(duì)PSO研究人員很有啟發(fā)。 </p>&l

20、t;p><b>　　1.5 主要工作</b></p><p>　　論文內(nèi)容介紹了基本粒子群算法，用matlab實(shí)現(xiàn)標(biāo)準(zhǔn)粒子群算法算法，對(duì)兩個(gè)不同類(lèi)型函數(shù)做具體分析，然后對(duì)其參數(shù)（慣性權(quán)值），，（加速因子）測(cè)試。分別對(duì)其利用單因子方差分析法，說(shuō)明不同參數(shù)水平對(duì)算法速率性能的影響。并且通過(guò)公式計(jì)算準(zhǔn)確判斷參數(shù)對(duì)算法影響。最后說(shuō)明粒子群優(yōu)化算法在實(shí)際中的應(yīng)用以及對(duì)未來(lái)展望，最后總結(jié)了算法的優(yōu)

21、缺點(diǎn)，附錄里面附有測(cè)試程序和測(cè)試函數(shù)。</p><p><b>　　2.基本粒子群算法</b></p><p>　　2.1 粒子群算法思想的起源</p><p>　　粒子群優(yōu)化(Particle Swarm Optimization, PSO)算法 [1]是Kennedy和Eberhart受人工生命研究結(jié)果的啟發(fā)、通過(guò)模擬鳥(niǎo)群覓食過(guò)程中的遷徙和

22、群聚行為而提出的一種基于群體智能的全局隨機(jī)搜索算法，1995年IEEE國(guó)際神經(jīng)網(wǎng)絡(luò)學(xué)術(shù)會(huì)議發(fā)表了題為“Particle Swarm Optimization”的論文，標(biāo)志著PSO算法誕生(注：國(guó)內(nèi)也有很多學(xué)者譯為“微粒群優(yōu)化”)。它與其他進(jìn)化算法一樣，也是基于“種群”和“進(jìn)化”的概念，通過(guò)個(gè)體間的協(xié)作與競(jìng)爭(zhēng)，實(shí)現(xiàn)復(fù)雜空間最優(yōu)解的搜索；同時(shí)，PSO又不像其他進(jìn)化算法那樣對(duì)個(gè)體進(jìn)行交叉、變異、選擇等進(jìn)化算子操作，而是將群體(swarm)中的

23、個(gè)體看作是在D維搜索空間中沒(méi)有質(zhì)量和體積的粒子(particle)，每個(gè)粒子以一定的速度在解空間運(yùn)動(dòng)，并向自身歷史最佳位置pbest和鄰域歷史最佳位置聚集，實(shí)現(xiàn)對(duì)候選解的進(jìn)化。PSO算法具有很好的生物社會(huì)背景[2]而易理解、參數(shù)少而易實(shí)現(xiàn)，對(duì)非線性、多峰問(wèn)題均具有較強(qiáng)的全局搜索能力，在科學(xué)研究與工程實(shí)踐中得到了廣泛關(guān)注[3-10]。</p><p>　　自然界中各種生物體均具有一定的群體行為，而人工生命的主要研究

24、領(lǐng)域之一是探索自然界生物的群體行為，從而在計(jì)算機(jī)上構(gòu)建其群體模型。自然界中的鳥(niǎo)群和魚(yú)群的群體行為一直是科學(xué)家的研究興趣，生物學(xué)家Craig Reynolds在1987年提出了一個(gè)非常有影響的鳥(niǎo)群聚集模型[7]，在他的仿真中，每一個(gè)個(gè)體遵循：</p><p>　　(1) 避免與鄰域個(gè)體相沖撞；</p><p>　　(2) 匹配鄰域個(gè)體的速度；</p><p>　　(3

25、) 飛向鳥(niǎo)群中心，且整個(gè)群體飛向目標(biāo)。</p><p>　　仿真中僅利用上面三條簡(jiǎn)單的規(guī)則，就可以非常接近的模擬出鳥(niǎo)群飛行的現(xiàn)象。1990年，生物學(xué)家Frank Heppner也提出了鳥(niǎo)類(lèi)模型[8]，它的不同之處在于：鳥(niǎo)類(lèi)被吸引飛到棲息地。在仿真中，一開(kāi)始每一只鳥(niǎo)都沒(méi)有特定的飛行目標(biāo)，只是使用簡(jiǎn)單的規(guī)則確定自己的飛行方向和飛行速度（每一只鳥(niǎo)都試圖留在鳥(niǎo)群中而又不相互碰撞），當(dāng)有一只鳥(niǎo)飛到棲息地時(shí)，它周?chē)镍B(niǎo)也會(huì)跟

26、著飛向棲息地，這樣，整個(gè)鳥(niǎo)群都會(huì)落在棲息地。</p><p>　　1995年，美國(guó)社會(huì)心理學(xué)家James Kennedy和電氣工程師Russell Eberhart共同提出了粒子群算法，其基本思想是受對(duì)鳥(niǎo)類(lèi)群體行為進(jìn)行建模與仿真的研究結(jié)果的啟發(fā)。他們的模型和仿真算法主要對(duì)Frank Heppner的模型進(jìn)行了修正，以使粒子飛向解空間并在最好解處降落。Kennedy在他的書(shū)中描述了粒子群算法思想的起源。自20世紀(jì)3

27、0年代以來(lái)，社會(huì)心理學(xué)的發(fā)展揭示：我們都是魚(yú)群或鳥(niǎo)群聚集行為的遵循者。在人們的不斷交互過(guò)程中，由于相互的影響和模仿，他們總會(huì)變得更相似，結(jié)果就形成了規(guī)范和文明。人類(lèi)的自然行為和魚(yú)群及鳥(niǎo)群并不類(lèi)似，而人類(lèi)在高維認(rèn)知空間中的思維軌跡卻與之非常類(lèi)似。思維背后的社會(huì)現(xiàn)象遠(yuǎn)比魚(yú)群和鳥(niǎo)群聚集過(guò)程中的優(yōu)美動(dòng)作復(fù)雜的多：首先，思維發(fā)生在信念空間，其維數(shù)遠(yuǎn)遠(yuǎn)高于3；其次，當(dāng)兩種思想在認(rèn)知空間會(huì)聚于同一點(diǎn)時(shí)，我們稱(chēng)其一致，而不是發(fā)生沖突。</p>

28、;<p><b>　　2.2 算法原理</b></p><p>　　PSO從這種模型中得到啟示并用于解決優(yōu)化問(wèn)題。PSO 中，每個(gè)優(yōu)化問(wèn)題的潛在解都是搜索空間中的一只鳥(niǎo)，稱(chēng)之為粒子。所有的粒子都有一個(gè)由被優(yōu)化的函數(shù)決定的適值( fitness value) ，每個(gè)粒子還有一個(gè)速度決定它們飛翔的方向和距離。然后粒子們就追隨當(dāng)前的最優(yōu)粒子在解空間中搜索[1]。</p>

29、<p>　　PSO初始化為一群隨機(jī)粒子(隨機(jī)解)，然后通過(guò)迭代找到最優(yōu)解。在每一次迭代中，粒子通過(guò)跟蹤兩個(gè)極值來(lái)更新自己；第一個(gè)就是粒子本身所找到的最優(yōu)解，這個(gè)解稱(chēng)為個(gè)體極值；另一個(gè)極值是整個(gè)種群目前找到的最優(yōu)解，這個(gè)極值是全局極值。另外也可以不用整個(gè)種群而只是用其中一部分作為粒子的鄰居，那么在所有鄰居中的極值就是局部極值。</p><p>　　假設(shè)在一個(gè)維的目標(biāo)搜索空間中，有個(gè)粒子組成一個(gè)群落，其中

30、第個(gè)粒子表示為一個(gè)維的向量</p><p><b>　　，。</b></p><p>　　第個(gè)粒子的“飛行 ”速度也是一個(gè)維的向量，記為</p><p><b>　　，。</b></p><p>　　第個(gè)粒子迄今為止搜索到的最優(yōu)位置稱(chēng)為個(gè)體極值，記為</p><p><

31、b>　　，。</b></p><p>　　整個(gè)粒子群迄今為止搜索到的最優(yōu)位置為全局極值，記為</p><p>　　在找到這兩個(gè)最優(yōu)值時(shí)，粒子根據(jù)如下的公式(2.1)和( 2.2)來(lái)更新自己的速度和位置[12]：</p><p><b>　　(2.1)</b></p><p><b>　　(2.

32、 2)</b></p><p>　　其中：和為學(xué)習(xí)因子，也稱(chēng)加速常數(shù)(acceleration constant)，和為[0，1]范圍內(nèi)的均勻隨機(jī)數(shù)。式(2.1)右邊由三部分組成，第一部分為“慣性(inertia)”或“動(dòng)量(momentum)”部分，反映了粒子的運(yùn)動(dòng)“習(xí)慣(habit)”，代表粒子有維持自己先前速度的趨勢(shì)；第二部分為“認(rèn)知(cognition)”部分，反映了粒子對(duì)自身歷史經(jīng)驗(yàn)的記憶(

33、memory)或回憶(remembrance)，代表粒子有向自身歷史最佳位置逼近的趨勢(shì)；第三部分為“社會(huì)(social)”部分，反映了粒子間協(xié)同合作與知識(shí)共享的群體歷史經(jīng)驗(yàn)，代表粒子有向群體或鄰域歷史最佳位置逼近的趨勢(shì)，根據(jù)經(jīng)驗(yàn)，通常。。是粒子的速度，，是常數(shù)，由用戶(hù)設(shè)定用來(lái)限制粒子的速度。和是介于之間的隨機(jī)數(shù)[2][5]。</p><p>　　2.3 基本粒子群算法流程</p><p>

34、<b>　　算法的流程如下：</b></p><p>　　① 初始化粒子群，包括群體規(guī)模，每個(gè)粒子的位置和速度</p><p>　?、?計(jì)算每個(gè)粒子的適應(yīng)度值；</p><p>　?、?對(duì)每個(gè)粒子，用它的適應(yīng)度值和個(gè)體極值比較，如果 ，則用替換掉；</p><p>　　④ 對(duì)每個(gè)粒子，用它的適應(yīng)度值和全局極值比較，如果則

35、用替；</p><p>　?、?根據(jù)公式（2.1），（2.2）更新粒子的速度和位置 ；</p><p>　　⑥ 如果滿(mǎn)足結(jié)束條件(誤差足夠好或到達(dá)最大循環(huán)次數(shù))退出，否則返回②。</p><p>　　圖2.1. PSO算法流程圖</p><p><b>　　2.4 特點(diǎn)</b></p><p>　

36、　1、式(2.1)中第1部分可理解為粒子先前的速度或慣性；第2部份可理解為粒子的“認(rèn)知”行為，表示粒子本身的思考能力；第3部分可理解為粒子的“社會(huì)”行為，表示粒子之間的信息共享與相互合作。公式(2.2) 表示了粒子在求解空間中，由于相互影響導(dǎo)致的運(yùn)動(dòng)位置調(diào)整。整個(gè)求解過(guò)程中，慣性權(quán)重、加速因子和和最大速度共同維護(hù)粒子對(duì)全局和局部搜索能力的平衡。</p><p>　　2、粒子群優(yōu)化算法初期，其解群隨進(jìn)化代數(shù)表現(xiàn)了更

37、強(qiáng)的隨機(jī)性，正是由于其產(chǎn)生了下一代解群的較大的隨機(jī)性，以及每代所有解的“信息”的共享性和各個(gè)解的“自我素質(zhì)”的提高。</p><p>　　3、PSO 的一個(gè)優(yōu)勢(shì)就是采用實(shí)數(shù)編碼，不需要像遺傳算法一樣采用二進(jìn)制編碼(或者采用針對(duì)實(shí)數(shù)的遺傳操作) 。例如對(duì)于問(wèn)題求解， 粒子可以直接編碼為 ，而適應(yīng)度函數(shù)就是 。</p><p>　　4、粒子具有“記憶”的特性，它們通過(guò)“自我”學(xué)習(xí)和向“他人”學(xué)

38、習(xí)，使其下一代解有針對(duì)性的從“先輩”那里繼承更多的信息，從而能在較短的時(shí)間內(nèi)找到最優(yōu)解。</p><p>　　5、與遺傳算法相比，粒子群優(yōu)化算法的信息共享機(jī)制是很不同的:在遺傳算法中，染色體互相共享信息，所以整個(gè)種群的移動(dòng)是比較均勻的向最優(yōu)區(qū)域移動(dòng);在粒子群優(yōu)化算法中，信息流動(dòng)是單向的，即只有將信息給其他的粒子，這使得整個(gè)搜索更新過(guò)程跟隨當(dāng)前解。</p><p>　　2.5 帶慣性權(quán)重的粒

39、子群算法</p><p>　　探索是偏離原來(lái)的尋優(yōu)軌跡去尋找一個(gè)更好的解，探索能力是一個(gè)算法的全局搜索能力。開(kāi)發(fā)是利用一個(gè)好的解，繼續(xù)原來(lái)的尋優(yōu)軌跡去搜索更好的解，它是算法的局部搜索能力。如何確定局部搜索能力和全局搜索能力的比例，對(duì)一個(gè)問(wèn)題的求解過(guò)程很重要。1998年，Yuhui Shi[9]提出了帶有慣性權(quán)重的改進(jìn)粒子群算法。其進(jìn)化過(guò)程為：</p><p><b>　?。?.3

40、） </b></p><p><b>　?。?.4）</b></p><p>　　在式(2.1)中，第一部分表示粒子先前的速度，用于保證算法的全局收斂性能；第二部分、第三部分則是使算法具有局部收斂能力?？梢钥闯觯剑?.3)中慣性權(quán)重表示在多大程度上保留原來(lái)的速度。較大，全局收斂能力強(qiáng)，局部收斂能力弱；較小，局部收斂能力強(qiáng)，全局收斂能力弱。</

41、p><p>　　當(dāng)時(shí)，式(2.3)與式(2.1)完全一樣，表明帶慣性權(quán)重的粒子群算法是基本粒子群算法的擴(kuò)展。實(shí)驗(yàn)結(jié)果表明，在之間時(shí)，PSO算法有更快的收斂速度，而當(dāng)時(shí)，算法則易陷入局部極值。</p><p>　　2.7 粒子群算法的研究現(xiàn)狀</p><p>　　在算法的理論研究方面。目前PSO算法還沒(méi)有成熟的理論分析，少部分研究者對(duì)算法的收斂性進(jìn)行了分析，大部分研究者在

42、算法的結(jié)構(gòu)和性能改善方面進(jìn)行研究，包括參數(shù)分析，拓?fù)浣Y(jié)構(gòu)，粒子多樣性保持，算法融合和性能比較等。PSO由于有簡(jiǎn)單、易于實(shí)現(xiàn)、設(shè)置參數(shù)少、無(wú)需梯度信息等特點(diǎn)，其在連續(xù)非線性?xún)?yōu)化問(wèn)題和組合優(yōu)化問(wèn)題中都表現(xiàn)出良好的效果。</p><p>　　3.粒子群優(yōu)化算法的改進(jìn)策略</p><p>　　由于PSO中粒子向自身歷史最佳位置和鄰域或群體歷史最佳位置聚集，形成粒子種群的快速趨同效應(yīng)，容易出現(xiàn)陷入局

43、部極值、早熟收斂或停滯現(xiàn)象[12-14]。同時(shí)，PSO的性能也依賴(lài)于算法參數(shù)[15]。為了克服上述不足，各國(guó)研究人員相繼提出了各種改進(jìn)措施。本文將這些改進(jìn)分為4類(lèi)：粒子群初始化、鄰域拓?fù)洹?shù)選擇和混合策略。 </p><p>　　3.1 粒子群初始化 </p><p>　　研究表明，粒子群初始化對(duì)算法性能產(chǎn)生一定影響[16]。為了初始種群盡可能均勻覆蓋整個(gè)搜索空間，提高全局搜索能力，Ri

44、chard 和Ventura[17]提出了基于centroidal voronoi tessellations (CVTs)的種群初始化方法；薛明志等人[18]采用正交設(shè)計(jì)方法對(duì)種群進(jìn)行初始化；Campana 等人[19]將標(biāo)準(zhǔn)PSO迭代公式改寫(xiě)成線性動(dòng)態(tài)系統(tǒng)，并基于此研究粒子群的初始位置，使它們具有正交的運(yùn)動(dòng)軌跡；文獻(xiàn)[16]認(rèn)為均勻分布隨機(jī)數(shù)進(jìn)行初始化實(shí)現(xiàn)容易但尤其對(duì)高維空間效果差，并另外比較了3種初始化分布方法。 </p&g

45、t;<p><b>　　3.2 鄰域拓?fù)?</b></p><p>　　根據(jù)粒子鄰域是否為整個(gè)群體，PSO分為全局模型和局部模型 [20]。對(duì)于模型，每個(gè)粒子與整個(gè)群體的其他粒子進(jìn)行信息交換，并有向所有粒子中的歷史最佳位置移動(dòng)的趨勢(shì)。Kennedy[21]指出，模型雖然具有較快的收斂速度，但更容易陷入局部極值。為了克服全局模型的缺點(diǎn)，研究人員采用每個(gè)粒子僅在一定的鄰域內(nèi)進(jìn)行信息

46、交換，提出各種局部模型[21,]。根據(jù)現(xiàn)有的研究成果，本文將鄰域分為空間鄰域(spatial neighborhood)、性能空間(performance space)鄰域和社會(huì)關(guān)系鄰域(sociometric neighborhood)。空間鄰域直接在搜索空間按粒子間的距離(如歐式距離)進(jìn)行劃分，如Suganthan[23]引入一個(gè)時(shí)變的歐式空間鄰域算子：在搜索初始階段，將鄰域定義為每個(gè)粒子自身；隨著迭代次數(shù)的增加，將鄰域范圍逐漸擴(kuò)展

47、到整個(gè)種群。性能空間指根據(jù)性能指標(biāo)(如適應(yīng)度、目標(biāo)函數(shù)值)劃分的鄰域，如文獻(xiàn)[24]采用適應(yīng)度距離比值(fitness-distance-ratio)來(lái)選擇粒子的相鄰粒子。社會(huì)關(guān)系鄰域通常按粒子存儲(chǔ)陣列的索引編號(hào)進(jìn)行劃分[25]，這也是研究最多的一種劃</p><p>　　此外，還有其它一些主要對(duì)群體進(jìn)行劃分的鄰域結(jié)構(gòu)(本文暫稱(chēng)“宏觀鄰域”；則上述鄰域稱(chēng)為“微觀鄰域”)。文獻(xiàn)[19]引入了子種群，子種群間通過(guò)繁殖

48、(Breeding)實(shí)現(xiàn)信息交流。Kennedy[20]提出了社會(huì)趨同(Stereotyping)模型，使用簇分析將整個(gè)粒子群劃分為多個(gè)簇，然后用簇中心代替帶收縮因子PSO中的粒子歷史最佳位置或群體歷史最佳位置。X. Li[21]根據(jù)粒子相似性動(dòng)態(tài)地將粒子群體按種類(lèi)劃分為多個(gè)子種群，再以每個(gè)子種群的最佳個(gè)體作為每個(gè)粒子的鄰域最佳位置。Stefan Janson等人[22]提出等級(jí)PSO(hierarchical particle swa

49、rm optimizer, HPSO)，采用動(dòng)態(tài)等級(jí)樹(shù)作為鄰域結(jié)構(gòu)，歷史最佳位置更優(yōu)的粒子處于上層，每個(gè)粒子的速度由自身歷史最佳位置和等級(jí)樹(shù)中處于該粒子上一個(gè)節(jié)點(diǎn)的粒子的歷史最佳位置決定。文獻(xiàn)[13]采用主－仆模型(master–slaver model)，其中包含一個(gè)主群體，多個(gè)仆群體，仆群體進(jìn)行獨(dú)立的搜索，主群體在仆群體提供的最佳位置基礎(chǔ)上開(kāi)展搜索。文獻(xiàn)[14]將小生境(niche)技術(shù)引入到PSO中，提出了小</p>

50、<p>　　在標(biāo)準(zhǔn)的PSO算法中，所有粒子僅僅向自身和鄰域的歷史最佳位置聚集，而沒(méi)有向鄰域內(nèi)其他個(gè)體(即使這些個(gè)體很優(yōu)秀)學(xué)習(xí)，造成信息資源的浪費(fèi)，甚至因此而陷入局部極值；考慮到此因素，Kennedy 等人[17]提出了全信息粒子群(fully informed particle swarm, FIPS)，在FIPS中，每個(gè)粒子除了自身和鄰域最佳歷史位置外，還學(xué)習(xí)鄰域內(nèi)其他粒子的成功經(jīng)驗(yàn)。 </p><p

51、>　　上述粒子間學(xué)習(xí)是在整個(gè)維空間中構(gòu)造鄰域進(jìn)行的，這樣當(dāng)搜索空間維數(shù)較高時(shí)往往容易遭受“維數(shù)災(zāi)(curse of dimensionality)”的困擾[14]。基于這方面的考慮，Van den Bergh等人[18]提出了協(xié)作PSO(Cooperative PSO)算法，其基本思路就是采用協(xié)作行為，利用多個(gè)群體分別在目標(biāo)搜索空間中的不同維度上進(jìn)行搜索，也就是一個(gè)優(yōu)化解由多個(gè)獨(dú)立群體協(xié)作完成，每個(gè)群體只負(fù)責(zé)優(yōu)化這個(gè)解矢量部分維上

52、的分量。Baskar和Suganthan[19]提出一種類(lèi)似的協(xié)作PSO，稱(chēng)為并發(fā)PSO(concurrent PSO， CONPSO)，它采用兩個(gè)群體并發(fā)地優(yōu)化一個(gè)解矢量。近來(lái)，El-Abd 等人[20]結(jié)合文獻(xiàn)[18,19]的技術(shù)，提出了等級(jí)協(xié)作PSO(hierarchal cooperative PSO)。 </p><p>　　無(wú)論是粒子群在D-維的搜索還是多個(gè)粒子群在不同維上的協(xié)作搜索，其目的都是為了每

53、個(gè)粒子能夠找到有利于快速收斂到全局最優(yōu)解的學(xué)習(xí)對(duì)象。J. Liang 等人[4]提出了一種既可以進(jìn)行D-維空間搜索、又能在不同維上選擇不同學(xué)習(xí)對(duì)象的新的學(xué)習(xí)策略，稱(chēng)為全面學(xué)習(xí)PSO (Comprehensive Learning Particle Swarm Optimizer，CLPSO)。與傳統(tǒng)PSO只向自身歷史最佳位置和鄰域歷史最佳位置學(xué)習(xí)不同，CLPSO的每個(gè)粒子都隨機(jī)地向自身或其它粒子學(xué)習(xí)，并且其每一維可以向不同的粒子學(xué)習(xí)；該

54、學(xué)習(xí)策略使得每個(gè)粒子擁有更多的學(xué)習(xí)對(duì)象，可以在更大的潛在空間飛行，從而有利于全局搜索。CLPSO的速度更新公式為： </p><p><b>　?。?.1）</b></p><p>　　其中為加速因子，為[0,1]內(nèi)的均勻隨機(jī)數(shù)，表示粒子在第維的學(xué)習(xí)對(duì)象，它通過(guò)下面的策略決定：產(chǎn)生[0,1]內(nèi)的均勻隨機(jī)數(shù)，如果該隨機(jī)數(shù)大于為粒子預(yù)先給定的學(xué)習(xí)概率，則學(xué)習(xí)對(duì)象為自身歷史

55、最佳位置；否則，從種群內(nèi)隨機(jī)選取兩個(gè)個(gè)體，按錦標(biāo)賽選擇(tournament selection)策略選出兩者中最好的歷史最佳位置作為學(xué)習(xí)對(duì)象。同時(shí)，為了確保粒子盡可能向好的對(duì)象學(xué)習(xí)而不把時(shí)間浪費(fèi)在較差的對(duì)象上，上述學(xué)習(xí)對(duì)象選擇過(guò)程設(shè)定一個(gè)更新間隔代數(shù)(refreshing gap)，在此期間的學(xué)習(xí)對(duì)象保持上次選擇的學(xué)習(xí)對(duì)象不變。</p><p>　　以上的各種鄰域結(jié)構(gòu)，無(wú)論是微觀拓?fù)溥€是宏觀鄰域，也無(wú)論是在整個(gè)

56、搜索空間進(jìn)行信息交流還是以空間的不同維分量為單位協(xié)作搜索，都不主動(dòng)改變鄰域狀態(tài)，而只是在給定的鄰域內(nèi)進(jìn)行學(xué)習(xí)交流，本文稱(chēng)之為PSO的被動(dòng)局部模型。還有一類(lèi)局部模型就是主動(dòng)改變粒子鄰域空間，避免碰撞和擁擠，本文稱(chēng)之為PSO的主動(dòng)局部模型。Blackwell 等人[3]將粒子分為自然粒子和帶電粒子，當(dāng)帶電粒子過(guò)于接近時(shí)產(chǎn)生斥力，使之分開(kāi)以提高粒子多樣性；Løvbjerg 等人為每個(gè)粒子引入與相鄰粒子距離成反比的自組織危險(xiǎn)度(sel

57、f-organized criticality)指標(biāo)，距離越近則危險(xiǎn)度越高，當(dāng)達(dá)到一定閾值后，對(duì)該粒子進(jìn)行重新初始化或推開(kāi)一定距離降低危險(xiǎn)度，達(dá)到提高群體多樣性的目的；文獻(xiàn)[15]提出一種帶空間粒子擴(kuò)展的PSO，為每個(gè)粒子賦一半徑，以檢測(cè)兩個(gè)粒子是否會(huì)碰撞，并采取隨機(jī)彈離、實(shí)際物理彈離、簡(jiǎn)單的速度—直線彈離等措施將其分開(kāi)。 </p><p><b>　　3.3 混合策略 </b></p

58、><p>　　混合策略混合PSO就是將其它進(jìn)化算法或傳統(tǒng)優(yōu)化算法或其它技術(shù)應(yīng)用到PSO中，用于提高粒子多樣性、增強(qiáng)粒子的全局探索能力，或者提高局部開(kāi)發(fā)能力、增強(qiáng)收斂速度與精度。這種結(jié)合的途徑通常有兩種：一是利用其它優(yōu)化技術(shù)自適應(yīng)調(diào)整收縮因子/慣性權(quán)值、加速常數(shù)等；二是將PSO與其它進(jìn)化算法操作算子或其它技術(shù)結(jié)合。文獻(xiàn)[16]將螞蟻算法與PSO結(jié)合用于求解離散優(yōu)化問(wèn)題；Robinson 等人[17]和Juang[18]

59、將GA與PSO結(jié)合分別用于天線優(yōu)化設(shè)計(jì)和遞歸神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)；文獻(xiàn)[19]將種群動(dòng)態(tài)劃分成多個(gè)子種群，再對(duì)不同的子種群利用PSO或GA或爬山法進(jìn)行獨(dú)立進(jìn)化；Naka等人[10]將GA中的選擇操作引入到PSO中，按一定選擇率復(fù)制較優(yōu)個(gè)體；Angeline [11]則將錦標(biāo)賽選擇引入PSO 算法，根據(jù)個(gè)體當(dāng)前位置的適應(yīng)度，將每一個(gè)個(gè)體與其它若干個(gè)個(gè)體相比較，然后依據(jù)比較結(jié)果對(duì)整個(gè)群體進(jìn)行排序，用粒子群中最好一半的當(dāng)前位置和速度替換最差一半的位置

60、和速度，同時(shí)保留每個(gè)個(gè)體所記憶的個(gè)體最好位置；El-Dib 等人[12]對(duì)粒子位置和速度進(jìn)行交叉操作；Higashi [13]將高斯變異引入到PSO中；M</p><p>　　此外，其它一些搜索技術(shù)與PSO結(jié)合以提高算法的局部搜索能力，如文獻(xiàn)[9]提出一種基于PSO和Levenberg-Marquardt的混合方法;文獻(xiàn)[10]將PSO與單純形法相結(jié)合；文獻(xiàn)將PSO與序貫二次規(guī)劃相結(jié)合；文獻(xiàn)[12]將模擬退火與P

61、SO結(jié)合；文獻(xiàn)[13]將禁忌技術(shù)與PSO結(jié)合；文獻(xiàn)[8]將爬山法與PSO結(jié)合；文獻(xiàn)[15]將PSO與擬牛頓法結(jié)合。 </p><p>　　還有作者引入其它一些機(jī)制，以改進(jìn)PSO的性能。文獻(xiàn)[6]根據(jù)耗散結(jié)構(gòu)的自組織性，提出一種耗散粒子群優(yōu)化算法(dissipative PSO)。該算法通過(guò)附加噪聲持續(xù)為粒子群引入負(fù)熵(negative entropy)，使得系統(tǒng)處于遠(yuǎn)離平衡態(tài)的狀態(tài)，又由于群體中存在內(nèi)在的非線性相

62、互作用，從而形成自組織耗散結(jié)構(gòu)，使粒子群能夠“持續(xù)進(jìn)化”，抑制早熟停滯。文獻(xiàn)[7]將自然進(jìn)化過(guò)程中的群體滅絕現(xiàn)象引入PSO，在微粒的位置和速度更新之后，按照一個(gè)預(yù)先定義的滅絕間隔重新初始化所有微粒的速度。文獻(xiàn)[8]通過(guò)模擬自然界的被動(dòng)聚集(Passive Congregation)行為修改速度更新公式，實(shí)現(xiàn)種群內(nèi)信息充分共享，防止了微粒因缺乏足夠的信息而判斷失誤所導(dǎo)致陷入局部極小。文獻(xiàn)[9]將引力場(chǎng)模型引入到PSO。此外，還有其它一些混

63、合PSO： </p><p>　　1）高斯PSO：由于傳統(tǒng)PSO往往是在全局和局部最佳位置的中間進(jìn)行搜索，搜索能力和收斂性能?chē)?yán)重依賴(lài)加速常數(shù)和慣性權(quán)值的設(shè)置，為了克服該不足，Secrest等人[10]將高斯函數(shù)引入PSO算法中，用于引導(dǎo)粒子的運(yùn)動(dòng)；GPSO不再需要慣性權(quán)值，而加速常數(shù)由服從高斯分布的隨機(jī)數(shù)產(chǎn)生。 </p><p>　　2）拉伸PSO(Stretching PSO, SPSO

64、)：SPSO將所謂的拉伸技術(shù)(stretching technique)[11]以及偏轉(zhuǎn)和排斥技術(shù)應(yīng)用到PSO中，對(duì)目標(biāo)函數(shù)進(jìn)行變換，限制粒子向已經(jīng)發(fā)現(xiàn)的局部最小解運(yùn)動(dòng)，從而利于粒子有更多的機(jī)會(huì)找到全局最優(yōu)解[4, 6]。 </p><p>　　混沌粒子群優(yōu)化：混沌是自然界一種看似雜亂、其實(shí)暗含內(nèi)在規(guī)律性的常見(jiàn)非線性現(xiàn)象，具有隨機(jī)性、遍歷性和規(guī)律性特點(diǎn)。文獻(xiàn)[3]利用混沌運(yùn)動(dòng)的遍歷性以粒子群的歷史最佳位置為基礎(chǔ)產(chǎn)

65、生混沌序列，并將此序列中的最優(yōu)位置隨機(jī)替代粒子群中的某個(gè)粒子的位置，提出混沌PSO (chaos particle swarm optimization, CPSO)。除此之外，文獻(xiàn)[4]利用慣性權(quán)值自適應(yīng)于目標(biāo)函數(shù)值的自適應(yīng)PSO進(jìn)行全局搜索、利用混沌局部搜索對(duì)最佳位置進(jìn)行局部搜索，提出一種PSO與混沌搜索相結(jié)合的混沌PSO；文獻(xiàn)[15]則利用混沌序列確定PSO的參數(shù)(慣性權(quán)值和加速常數(shù));文獻(xiàn)[9]提出一種不含隨機(jī)參數(shù)、基于確定性混

66、沌Hopfield神經(jīng)網(wǎng)絡(luò)群的粒子群模型。 </p><p>　　3）免疫粒子群優(yōu)化：生物免疫系統(tǒng)是一個(gè)高度魯棒性、分布性、自適應(yīng)性并具有強(qiáng)大識(shí)別能力、學(xué)習(xí)和記憶能力的非線性系統(tǒng)。文獻(xiàn)[6]將免疫系統(tǒng)的免疫信息處理機(jī)制(抗體多樣性、免疫記憶、免疫自我調(diào)節(jié)等)引入到PSO中，分別提出了基于疫苗接種的免疫PSO和基于免疫記憶的免疫PSO。 </p><p>　　4）量子粒子群優(yōu)化：文獻(xiàn)[9]采

67、用量子個(gè)體提出離散PSO；文獻(xiàn)[9]則基于量子行為更新粒子位置。 </p><p>　　5）卡爾曼PSO：文獻(xiàn)[9]利用Kalman濾波更新粒子位置。 </p><p>　　主成分PSO：文獻(xiàn)[10]結(jié)合主成分分析技術(shù)，粒子不僅按照傳統(tǒng)算法在維的x空間飛行，而且還在維的z空間同步飛行。</p><p><b>　　4.參數(shù)設(shè)置</b></

68、p><p>　　4.1 對(duì)參數(shù)的仿真研究</p><p>　　PSO的參數(shù)主要包括最大速度、兩個(gè)加速常數(shù)和慣性常數(shù)或收縮因等。 </p><p>　　a) 最大速度的選擇：如式(2.1)所示的粒子速度是一個(gè)隨機(jī)變量，由粒子位置更新公式(2.2)產(chǎn)生的運(yùn)動(dòng)軌跡是不可控的，使得粒子在問(wèn)題空間循環(huán)跳動(dòng)[3, 6]。為了抑制這種無(wú)規(guī)律的跳動(dòng)，速度往往被限制在內(nèi)。增大，有利于全局

69、探索(global exploration)；減小，則有利于局部開(kāi)發(fā)(local exploitation)[3]。但是過(guò)高，粒子運(yùn)動(dòng)軌跡可能失去規(guī)律性，甚至越過(guò)最優(yōu)解所在區(qū)域，導(dǎo)致算法難以收斂而陷入停滯狀態(tài)；相反太小，粒子運(yùn)動(dòng)步長(zhǎng)太短，算法可能陷入局部極值[16]。的選擇通常憑經(jīng)驗(yàn)給定，并一般設(shè)定為問(wèn)題空間的 [3]。此外，文獻(xiàn)[17]提出了的動(dòng)態(tài)調(diào)節(jié)方法以改善算法性能；而文獻(xiàn)[48]提出了自適應(yīng)于群體最佳和最差適應(yīng)度值的選擇方法。&

70、lt;/p><p>　　b) 加速常數(shù)的選擇：式(1)中的加速常數(shù)和分別用于控制粒子指向自身或鄰域最佳位置的運(yùn)動(dòng)。文獻(xiàn)[20]建議，并通常取。Ratnaweera 等人[13]則提出自適應(yīng)時(shí)變調(diào)整策略，即隨著進(jìn)化代數(shù)從2.5線性遞減至0.5，隨著進(jìn)化代數(shù)從0.5線性遞增至2.5。與傳統(tǒng)PSO取正數(shù)加速常數(shù)不同，Riget和Vesterstrom[11]提出一種增加種群多樣性的粒子群算法，根據(jù)群體多樣性指標(biāo)調(diào)整加速常數(shù)

71、的正負(fù)號(hào)，動(dòng)態(tài)地改變“吸引”(Attractive)和“擴(kuò)散”(Repulsive)狀態(tài)，以改善算法過(guò)早收斂問(wèn)題。 </p><p>　　c) 慣性權(quán)值或收縮因子的選擇：當(dāng)PSO的速度更新公式采用式(1)時(shí)，即使和兩個(gè)加速因子選擇合適，粒子仍然可能飛出問(wèn)題空間，甚至趨于無(wú)窮大，發(fā)生群體“爆炸(explosion)”現(xiàn)象[12]。有兩種方法控制這種現(xiàn)象：慣性常數(shù)(inertia constant)[3]和收縮因子(

72、constriction factor)[12]。帶慣性常數(shù)PSO的速度更新公式如下：</p><p><b>　　（4.1）</b></p><p>　　其中為慣性常數(shù)。文獻(xiàn)[8]建議隨著更新代數(shù)的增加從0.9線性遞減至0.4。近來(lái)，文獻(xiàn)[15]通過(guò)采用隨機(jī)近似理論(stochastic approximation theory)分析PSO的動(dòng)態(tài)行為，提出了一種隨更

73、新代數(shù)遞減至0的取值策略，以提高算法的搜索能力。帶收縮因子PSO由Clerc 和 Kennedy[12]提出，其最簡(jiǎn)單形式[20]的速度更新 公式如下： </p><p><b>　　（4.2）</b></p><p>　　其中，；通常從而，。</p><p>　　11122{()(

74、 雖然慣性權(quán)值PSO和收縮因子PSO對(duì)典型測(cè)試函數(shù)表現(xiàn)出各自的優(yōu)勢(shì)[16]，但由于慣性常數(shù)方法通常采用慣性權(quán)值隨更新代數(shù)增加而遞減的策略，算法后期由于慣性權(quán)值過(guò)小，會(huì)失去探索新區(qū)域的能力，而收縮因子方法則不存在此不足[18]。 </p><p>　　4.2 測(cè)試仿真函數(shù)</p><p>　　例1. 函數(shù)對(duì)于適應(yīng)度函數(shù)fitness對(duì)其參數(shù)，，做出不同方式的比較已測(cè)試其對(duì)函

75、數(shù)結(jié)果影響。</p><p><b>　?。?）當(dāng)，，。</b></p><p>　　當(dāng)慣性權(quán)值不變的情況下對(duì)取不同的值1.5和2。</p><p>　　程序（1）運(yùn)行結(jié)果為：</p><p>　　圖4.1 粒子群位置初始化</p><p>　　圖4.2 粒子群速度初始化</p>&

76、lt;p>　　圖4.3 迭代結(jié)果對(duì)比</p><p><b>　　最優(yōu)點(diǎn)坐標(biāo)（1）：</b></p><p>　　[0.452429778718878 0.320640272233576 0.521629692208334 -0.037721251936116 -0.587907547759961 -0.197327841733574 0.0594

77、72309970162 -0.105031512919075 -0.060192285082351 0.840740574648050]</p><p><b>　　最優(yōu)點(diǎn)坐標(biāo)（2）：</b></p><p>　　[-0.295863893648182 -0.228564770714395 0.244463764764120 0.4751157142

78、43873 -0.330571564292149 -0.153811057636018 -0.262874734324870 -0.134696331837768 -0.249466572982610 0.248526708588574]</p><p>　　適應(yīng)度值（1）為：1.690633278729210</p><p>　　適應(yīng)度值（2）為：0.7694554964

79、24646</p><p>　?。?）當(dāng)于對(duì)比（加速因子與正常情況對(duì)比）且運(yùn)行程序（2）得如下結(jié)果：</p><p>　　圖4.4 初始化速度</p><p>　　圖4.5 初始化速度</p><p>　　圖4.6 迭代結(jié)果對(duì)比</p><p><b>　　最優(yōu)點(diǎn)坐標(biāo)（1）：</b></p&

80、gt;<p>　　[-0.301082521586939 0.130176903218111 0.149468203209848 -0.002964214272033 -0.101420705756867 -0.123775878581260 -0.888573463449087 0.505280093056671 0.707421391133458 -0.243136586226299]<

81、;/p><p><b>　　最優(yōu)點(diǎn)坐標(biāo)（2）：</b></p><p>　　[-0.541610401047606 -0.107148776434457 -0.066670850819150 0.669477968063575 -0.349186281873742 0.605184616096295 0.051863122302620 -0.101089

82、710356064 0.406977740018377 0.009764111144065]</p><p>　　適應(yīng)度值（1）為：1.759984065528661</p><p>　　適應(yīng)度值（2）為：1.424283049626009</p><p>　?。?）當(dāng)于對(duì)比（加速因子與正常情況對(duì)比）的結(jié)果為：</p><p>　　圖

83、4.7 初始化位置</p><p>　　圖4.8 初速度位置</p><p>　　圖4.9 迭代結(jié)果對(duì)比</p><p><b>　　最優(yōu)點(diǎn)坐標(biāo)（1）：</b></p><p>　　[0.032596367547015 -0.253447234013828 0.220174027850755 -0.1840509

84、29120391 -0.060526233943504 0.325089660099637 -0.505184051372427 0.081261771085495 0.495050821497124 -0.194148350056426]</p><p><b>　　最優(yōu)點(diǎn)坐標(biāo)（2）：</b></p><p>　　[-1.0999753001654

85、43 0.213471891229638 0.230838988305651 0.620982109338000 -0.022759191613578 0.136151982169503 0.595836418318090 0.059545555995647 0.132504460404116 -0.344875728471985]</p><p>　　適應(yīng)度值（1）為：0.801

86、579381651326</p><p>　　適應(yīng)度值（2）為：2.208540081759679</p><p>　　（4）當(dāng)，分別對(duì)其取值，，，。分析結(jié)果如下：</p><p>　　圖4.10 初始化位置</p><p>　　圖4.11 初始化速度</p><p>　　圖4.12 迭代結(jié)果對(duì)比</p>

87、<p><b>　　最優(yōu)點(diǎn)坐標(biāo)（1）：</b></p><p>　　[-0.069619159841467 0.488557857942322 -0.587877368802422 0.577000714765126 -0.255019353943860 -0.326212573465861 -0.630693562346744 -0.3

88、60652175419648 0.104997980821461 0.624967732306244]</p><p><b>　　最優(yōu)坐標(biāo)（2）：</b></p><p>　　[0.360645808223021 -0.462713179464868 0.172157445992416 0.161165210517313 0.1584

89、16597461891 -0.805569345032097</p><p>　　0.640951653807223 -0.309321710810512 0.519209219049760 0.010556466456078]</p><p>　　適應(yīng)度值（1）為：2.022968351158053</p><p>　　適應(yīng)度值（2）為

90、：1.850007680165146</p><p>　?。?）對(duì)，對(duì)分別取，對(duì)比其迭代影響</p><p>　　圖4.13 初始化位置</p><p>　　圖4.14 初速度位置</p><p>　　圖4.15 迭代結(jié)果</p><p><b>　　最優(yōu)點(diǎn)坐標(biāo)（1）：</b></p>

91、<p>　　[0.148332996728680 0.464843694691154 -0.379559837826470 0.656268331316766 0.104011057125470 0.550631814306402 -0.069905771435114 -0.607186822378544 -0.044385131261800 0.060375755047727</p

92、><p><b>　　最優(yōu)坐標(biāo)（2）：</b></p><p>　　[-0.078496311635274 0.053450658106748 0.040978014348305 0.070447936565837 0.034324881708865 -0.189785878868686 0.032804423901163 -0.03858026

93、6459785 0.221247950866089 0.061389486373012]</p><p>　　適應(yīng)度值（1）為：1.506027752348302</p><p>　　適應(yīng)度值（2）為：108141522528168</p><p>　?。?）標(biāo)準(zhǔn)粒子群算法無(wú)參數(shù)對(duì)比，</p><p>　　圖4.16 粒子群位置初始化&l

94、t;/p><p>　　圖4.17 粒子群初始化速度</p><p>　　圖4.18 迭代結(jié)果</p><p>　　在以上仿真中，我們5個(gè)實(shí)驗(yàn)實(shí)數(shù)的選擇分別對(duì)，，不同情況做出對(duì)比得出結(jié)論：</p><p>　　慣性權(quán)重的不同取值對(duì)PSO的影響</p><p>　　試驗(yàn)表明權(quán)值將影響PSO 的全局與局部搜優(yōu)能力，值較大，全局搜

95、優(yōu)能力強(qiáng)，局部搜優(yōu)能力弱;反之，則局部搜優(yōu)能力增強(qiáng)，而全局搜優(yōu)能力減弱。線性慣性權(quán)的引入使PSO可以調(diào)節(jié)算法的全局與局部搜優(yōu)能力，但，還有兩個(gè)缺點(diǎn):其一，迭代初期局部搜索能力較弱，即使初始粒子已接近于全局最優(yōu)點(diǎn)，也往往錯(cuò)過(guò);其二，在迭代后期，則因全局搜索能力變?nèi)?，而易陷入局部極值。時(shí)，粒子群優(yōu)化算法的搜索效率和搜索精度高。實(shí)驗(yàn)結(jié)果證明:按照方差分析選擇適應(yīng)的參數(shù)設(shè)置水平，能夠獲得穩(wěn)健和高效的優(yōu)化效果。</p><p&

96、gt;　　4.3 應(yīng)用單因子方差分析參數(shù)對(duì)結(jié)果影響</p><p>　　按照方差分析選擇適應(yīng)的參數(shù)設(shè)置水平，能夠獲得穩(wěn)健和高效的優(yōu)化效果。關(guān)鍵參數(shù)設(shè)置如下:粒子種群大小N:較小的群能充分探索解空間，避免了過(guò)多的適應(yīng)值評(píng)估和計(jì)算時(shí)間。一般取[20 -40]，對(duì)于大部分的問(wèn)題， 10個(gè)粒子已經(jīng)足夠取得好的結(jié)果，對(duì)于比較難的問(wèn)題或者特定類(lèi)別的問(wèn)題，粒子數(shù)可以取到100，200。粒子的長(zhǎng)度(空間維數(shù)) :這是由優(yōu)化問(wèn)題決

97、定，就是問(wèn)題解的長(zhǎng)度。粒子的坐標(biāo)范圍:由優(yōu)化問(wèn)題決定，每一維可以設(shè)定不同的范圍。決定粒子在一個(gè)循環(huán)中最大的移動(dòng)距離，通常設(shè)為粒子的范圍寬度。學(xué)習(xí)因子： 和通常等于2，不過(guò)文獻(xiàn)中也有其它的取值，一般，且范圍在0和4之間。終止條件:按最大循環(huán)數(shù)及最小偏差要求，這個(gè)終止條件由具體問(wèn)題確定。例如，最小錯(cuò)誤可以設(shè)定為1 個(gè)錯(cuò)誤分類(lèi)，最大循環(huán)數(shù)設(shè)定為2000。慣性權(quán)值: 控制著速度前一變化量對(duì)當(dāng)前變化量的影響，如果較大，則影響較大，能夠搜索以前所未

98、能達(dá)到的區(qū)域，整個(gè)算法的全局搜索能力加強(qiáng)，有利于跳出局部極小點(diǎn)；而值較小，則前一動(dòng)量項(xiàng)的影響較小，主要是在當(dāng)前解的附近搜索，局部搜索能力較強(qiáng)，有利于算法收斂。研究表明，讓?xiě)T性權(quán)值隨著疊代次數(shù)的增加在1. 4到0之間逐</p><p>　　4.4 對(duì)參數(shù)的理論分析</p><p>　　方差分析是分析試驗(yàn)數(shù)據(jù)的一種方法。利用此方法亦可分析算法中同一參數(shù)的不同水平或者不同參數(shù)的各個(gè)水平對(duì)算法性能

99、影響的差異性，從而探究不同參數(shù)設(shè)置范圍與算法系統(tǒng)性能之間的潛在關(guān)系。單因子方差分析是通過(guò)觀察一個(gè)因子的量值變化，分析這個(gè)因子變化對(duì)整個(gè)試驗(yàn)的影響程度。利用這種方法可考查PSO中和這兩個(gè)關(guān)鍵的參數(shù)因子各自對(duì)算法性能的影響。在試驗(yàn)中影響指標(biāo)的因素稱(chēng)為因子，因子所處的狀態(tài)，所取的等級(jí)稱(chēng)為因子水平。本文采取相等的試驗(yàn)次數(shù)進(jìn)行方差分析。首先，假定因子有個(gè)水平，在每種水平下，做次試驗(yàn)，在每次試驗(yàn)后可得一試驗(yàn)值，記做它表示在第個(gè)水平下的第個(gè)試驗(yàn)值;，

100、 如表1 所示，在考察因子對(duì)試驗(yàn)結(jié)果的影響程度時(shí)，把因子的個(gè)水平看成是個(gè)正態(tài)總體，因此可設(shè)， ， 。其中， ，是因子的第水平所引起的差異。因此檢驗(yàn)因子的各水平之間是否有顯著的差異，相當(dāng)于判斷公式(4.2)：或(3)利用公式(4.1) 表述的平方和分解公式可將總的離差平方和進(jìn)行分解，從而將因子水平不同而造成的結(jié)果差異與隨機(jī)因素影響而造成的結(jié)果差異從量值上區(qū)分開(kāi)來(lái)。</p><p>　　，

101、 （4.3）</p><p><b>　　其中，</b></p><p><b>　　，，</b></p><p>　　總離差平方和是所有觀察值與其總平均值之差的平方和，是描述全部數(shù)據(jù)離散程度的數(shù)量指標(biāo)。由于是服從正態(tài)分布的隨機(jī)量，當(dāng)公式(4.2) 成立時(shí)是獨(dú)立同分布。同正態(tài)分布的隨機(jī)變</p><p&

102、gt;　　量， 則有公式(4.3) 是服從的分布:</p><p><b>　?。?.4）</b></p><p>　　是觀察值與組內(nèi)平均值之差的平方和，也就是組內(nèi)平均和，它反映了組內(nèi)(同一水平下) 樣本的隨機(jī)波動(dòng)，其自由度為，是組內(nèi)平均值與總平均值之差的平方和，即組間平方和。它在一定程度上反映了因子各個(gè)水平不同而引起的差異，其自由度為。平方和分解公式說(shuō)明觀察值關(guān)于其

103、總平均值之的差異是由組內(nèi)平方和組間平方和組成的。因此，公式(4.4) 表示的和之間的比值F就是反映了兩種差異所占的比重。</p><p><b>　　（4.5）</b></p><p>　　F越大說(shuō)明因子各水平不同引起的差異越顯著，所以統(tǒng)計(jì)量可用來(lái)檢驗(yàn)各因子的影響效應(yīng)。慣性權(quán)值、加速常數(shù)和的不同設(shè)置水平，每個(gè)設(shè)置水平進(jìn)行10次測(cè)試，通過(guò)單因子方差分析，說(shuō)明不同參數(shù)水平

104、對(duì)算法速率性能—迭代次數(shù)和算法優(yōu)化性能———近似最優(yōu)解的影響能力，能夠獲得比較一致的迭代次數(shù)均值， 且在此范圍內(nèi)進(jìn)行更細(xì)致的單因子方差分析進(jìn)一步證明較小的慣性權(quán)值能夠提高算法速率。在需要較高計(jì)算速率的應(yīng)用中，可適當(dāng)減小慣性權(quán)值。</p><p>　　針對(duì)本程序（適應(yīng)函數(shù)）令，做單因子方差分析，判斷因子對(duì)程序的影響。運(yùn)行程序（6），在此基礎(chǔ)作5次試驗(yàn)的結(jié)果。</p><p>　　第一組實(shí)驗(yàn)對(duì)

105、應(yīng)的迭代次數(shù)為43，適應(yīng)值為0.043133738358137</p><p>　　第一組實(shí)驗(yàn)對(duì)應(yīng)的迭代次數(shù)為20，適應(yīng)值為0.978441955858031</p><p>　　第一組實(shí)驗(yàn)對(duì)應(yīng)的迭代次數(shù)為9，適應(yīng)值為1.704780367886482</p><p>　　第一組實(shí)驗(yàn)對(duì)應(yīng)的迭代次數(shù)為7，適應(yīng)值為3.165437900832790</p>

106、<p>　　第二組實(shí)驗(yàn)對(duì)應(yīng)的迭代次數(shù)為45， 適應(yīng)值為0.116223586568965</p><p>　　第二組實(shí)驗(yàn)對(duì)應(yīng)的迭代次數(shù)為132，適應(yīng)值為0.024791910872392</p><p>　　第二組實(shí)驗(yàn)對(duì)應(yīng)的迭代次數(shù)為8， 適應(yīng)值為1.434014355783529</p><p>　　第二組實(shí)驗(yàn)對(duì)應(yīng)的迭代次數(shù)為7， 適應(yīng)值為4.10

107、9304406313233</p><p>　　第三組實(shí)驗(yàn)對(duì)應(yīng)的迭代次數(shù)為47，適應(yīng)值為0.028101866552785</p><p>　　第三組實(shí)驗(yàn)對(duì)應(yīng)的迭代次數(shù)為80，適應(yīng)值為0.978441955858031</p><p>　　第三組實(shí)驗(yàn)對(duì)應(yīng)的迭代次數(shù)為8，適應(yīng)值為1.704780367886482</p><p>　　第三組實(shí)驗(yàn)

108、對(duì)應(yīng)的迭代次數(shù)為9，適應(yīng)值為4.109304406313233</p><p>　　第四組實(shí)驗(yàn)對(duì)應(yīng)的迭代次數(shù)為44，適應(yīng)值為0.004206314348390</p><p>　　第四組實(shí)驗(yàn)對(duì)應(yīng)的迭代次數(shù)為85，適應(yīng)值為0.002833378597589</p><p>　　第四組實(shí)驗(yàn)對(duì)應(yīng)的迭代次數(shù)為12，適應(yīng)值為1.147718650602618</p>