粗集神經(jīng)網(wǎng)絡(luò)集成方法及其在模式識(shí)別中的應(yīng)用.pdf

1、粗糙集理論是處理不確定、不完整、不精確知識(shí)的有力工具，該理論已成為不確定性計(jì)算領(lǐng)域的一個(gè)重要分支。粗糙集對(duì)信息系統(tǒng)的分析建模，涵蓋了人類邏輯思維的歸納推理、演繹推理和常識(shí)推理這三種形式，直接模擬了人腦的邏輯思維能力。而通過(guò)大量神經(jīng)元互連形成的神經(jīng)網(wǎng)絡(luò)是不確定性計(jì)算領(lǐng)域的另一個(gè)重要分支，具有很強(qiáng)的非線性映射能力及自適應(yīng)、自學(xué)習(xí)、魯棒性和容錯(cuò)能力，是對(duì)人腦直觀形象思維的模擬。鑒于粗糙集和神經(jīng)網(wǎng)絡(luò)在信息處理方式、知識(shí)獲取、抗噪聲能力、泛化性能

2、等方面有很多互補(bǔ)之處，將兩者集成的粗集神經(jīng)網(wǎng)絡(luò)反映了人類智能中定性和定量、清晰和隱含、串行和并行交叉混合的思維機(jī)理，其研究必然具有前沿性、科學(xué)性及優(yōu)越性。作為當(dāng)今智能集成系統(tǒng)的一個(gè)重要分支，粗集神經(jīng)網(wǎng)絡(luò)集成可望成為開(kāi)發(fā)下一代專家系統(tǒng)的主流技術(shù)。 本文通過(guò)增強(qiáng)粗集神經(jīng)網(wǎng)絡(luò)的信息處理能力，建立新的決策系統(tǒng)建模方式，拓展其應(yīng)用領(lǐng)域，解決其易構(gòu)造性和計(jì)算復(fù)雜性問(wèn)題等方面進(jìn)行了一系列的探索和研究，提出了一些新的粗集神經(jīng)網(wǎng)絡(luò)集成方法并研究了

3、它們?cè)谀Ｊ阶R(shí)別領(lǐng)域的應(yīng)用。 通過(guò)對(duì)近十幾年發(fā)展起來(lái)的國(guó)內(nèi)、外粗集神經(jīng)網(wǎng)絡(luò)集成方法的總結(jié)和歸納，本文將粗集神經(jīng)網(wǎng)絡(luò)劃分為三種主要的集成方式：粗集神經(jīng)網(wǎng)絡(luò)綜合集成系統(tǒng)、粗邊界神經(jīng)網(wǎng)絡(luò)、粗—顆粒神經(jīng)網(wǎng)絡(luò)。介紹了每一種集成方式的研究現(xiàn)狀，并對(duì)其原理及特點(diǎn)進(jìn)行了分析和闡述。 不同于以往單純基于粗糙集數(shù)據(jù)分析和約簡(jiǎn)基礎(chǔ)下的粗集神經(jīng)網(wǎng)絡(luò)模型，基于粗邏輯理論，研究了粗邏輯意義下，基于粗邏輯決策規(guī)則的“強(qiáng)耦合”形式的具有模糊化神經(jīng)元的粗邏

4、輯神經(jīng)網(wǎng)絡(luò)模型的設(shè)計(jì)，分析和比較了粗邏輯神經(jīng)網(wǎng)絡(luò)和模糊邏輯神經(jīng)網(wǎng)絡(luò)的特點(diǎn)和性質(zhì)。在重慶地區(qū)和長(zhǎng)白山天池地區(qū)Landsat TM遙感圖像的地物分類實(shí)驗(yàn)中，驗(yàn)證了粗邏輯神經(jīng)網(wǎng)絡(luò)模型的有效性，同時(shí)可以發(fā)現(xiàn)其在網(wǎng)絡(luò)結(jié)構(gòu)和收斂性方面的優(yōu)勢(shì)。 通過(guò)在輸入層和隱含層之間加入一個(gè)模糊化神經(jīng)元層，構(gòu)造了一種集成模糊神經(jīng)元和粗神經(jīng)元的模糊粗神經(jīng)網(wǎng)絡(luò)模型。由于粗神經(jīng)元的不可微性，BP算法不再適用，因此本文采用遺傳算法(GA)來(lái)進(jìn)行網(wǎng)絡(luò)權(quán)值的學(xué)習(xí)，同時(shí)

5、融入具有局部最優(yōu)解搜索能力的爬山法改善了進(jìn)化后期的計(jì)算效率。仿真表明，融合了模糊信息和粗糙集信息處理能力的模糊粗神經(jīng)網(wǎng)絡(luò)模型在圖像融合濾波方面比BP網(wǎng)絡(luò)和單純由粗神經(jīng)元構(gòu)成的粗集神經(jīng)網(wǎng)絡(luò)模型具有更好的性能，是一種性能很好的混合智能神經(jīng)網(wǎng)絡(luò)。 由于系統(tǒng)中模糊不確定性信息和粗糙不確定性信息往往是并存的，有必要采用模糊粗糙集(Fuzzy-Rough Set)理論來(lái)進(jìn)行處理，基于模糊粗隸屬函數(shù)，本文創(chuàng)建了一種模糊粗隸屬函數(shù)神經(jīng)網(wǎng)絡(luò)(FR

6、MFN)模型。融入了粗糙不確定性信息處理能力的FRMFN，在保留原有模糊相似信息的基礎(chǔ)上，很大程度減少了分類中的粗糙不確定性。在遙感圖像分類和元音字母語(yǔ)音識(shí)別的實(shí)驗(yàn)中，顯示FRMFN網(wǎng)絡(luò)具有比相應(yīng)徑向基函數(shù)(RBF)網(wǎng)絡(luò)更好的分類精度，同時(shí)保留有RBF網(wǎng)絡(luò)學(xué)習(xí)速度快的優(yōu)點(diǎn)。 基于經(jīng)典Pawlak粗糙集分析設(shè)計(jì)的應(yīng)用系統(tǒng)的推廣泛化能力弱，抗噪聲性能差。為更好地解決這些問(wèn)題，研究了基于“多數(shù)包含關(guān)系”的變精度粗糙集模型下的粗集神經(jīng)網(wǎng)

7、絡(luò)設(shè)計(jì)。文中對(duì)β近似約簡(jiǎn)條件進(jìn)行了弱化推廣，在結(jié)合約簡(jiǎn)異常分析和實(shí)例分析的基礎(chǔ)上，提出了β近似約簡(jiǎn)的選取原則，給出了變精度粗糙規(guī)則集提取和β閾值穩(wěn)定區(qū)間求取算法。在對(duì)Brodatz紋理圖像的分類實(shí)驗(yàn)中，比較了經(jīng)典粗集神經(jīng)網(wǎng)絡(luò)(RNN)和變精度粗集神經(jīng)網(wǎng)絡(luò)(VPRNN)的性能，VPRNN不僅具有更為精簡(jiǎn)的結(jié)構(gòu)和更短的訓(xùn)練時(shí)間，而且VPRNN對(duì)測(cè)試樣本分類表現(xiàn)出了更強(qiáng)的泛化性能。 為降低集成特征選擇方法的計(jì)算復(fù)雜性，提出一種基于粗糙

8、集約簡(jiǎn)的神經(jīng)網(wǎng)絡(luò)集成分類方法。首先，通過(guò)結(jié)合遺傳算法求約簡(jiǎn)和重采樣技術(shù)介紹了一種動(dòng)態(tài)約簡(jiǎn)方法，通過(guò)動(dòng)態(tài)約簡(jiǎn)方法可以獲得穩(wěn)定的、泛化能力較強(qiáng)的屬性約簡(jiǎn)集。然后，基于不同約簡(jiǎn)設(shè)計(jì)BP網(wǎng)絡(luò)作為待集成的基分類器，并依據(jù)選擇性集成思想，通過(guò)一定的搜索策略，找到具有最佳泛化性能的集成網(wǎng)絡(luò)。最后，通過(guò)多數(shù)投票法實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)集成分類。該方法在某地區(qū)Landsat 7波段遙感圖像的分類實(shí)驗(yàn)中得到了驗(yàn)證，由于通過(guò)粗糙集約簡(jiǎn)，過(guò)濾掉了大量分類性能欠佳的特征子

9、集，和傳統(tǒng)的集成特征選擇方法相比，本文方法時(shí)間開(kāi)銷少，計(jì)算復(fù)雜性低，具有良好的分類性能。 增加集成神經(jīng)網(wǎng)絡(luò)中個(gè)體網(wǎng)絡(luò)的差異度有利于提高神經(jīng)網(wǎng)絡(luò)集成的泛化性能，基于此，提出了Rough_Boosting和Rough_Bagging個(gè)體網(wǎng)絡(luò)生成算法。在Boosting或Bagging算法對(duì)樣本進(jìn)行擾動(dòng)的基礎(chǔ)上，通過(guò)粗糙集約簡(jiǎn)實(shí)現(xiàn)屬性選擇，從而有效的將擾動(dòng)訓(xùn)練樣本和擾動(dòng)輸入屬性結(jié)合起來(lái)，生成精確度高且差異度大的個(gè)體網(wǎng)絡(luò)。實(shí)驗(yàn)結(jié)果表明，

10、本文算法泛化能力明顯優(yōu)于Boosting和Bagging算法，生成的個(gè)體網(wǎng)絡(luò)差異度更大。和同類算法相比，本文算法具有相近或相當(dāng)?shù)男阅堋?由于傳統(tǒng)聚類方法設(shè)計(jì)RBF網(wǎng)絡(luò)時(shí)，帶有一定盲目性和主觀性，而且聚類結(jié)果對(duì)初始值具有敏感性，在輸入特征空間進(jìn)行的聚類僅考慮到樣本在輸入特征空間的相似性，而沒(méi)有考慮樣本本身的輸出類別信息，生成的聚類并不能完全反映輸入輸出之間的映射關(guān)系。因此，本文提出一種基于不可分辨劃分的有監(jiān)督粗糙集聚類算法的RBF

11、網(wǎng)絡(luò)設(shè)計(jì)方法。文中由布爾邏輯推理方法進(jìn)行屬性離散化，得到初始決策模式集，通過(guò)定義在粗糙集分析基礎(chǔ)上的差異度對(duì)初始決策模式的相似度進(jìn)行衡量并實(shí)現(xiàn)聚類，以聚類決策模式構(gòu)造RBF網(wǎng)絡(luò)。針對(duì)RBF網(wǎng)絡(luò)輸出單元的線性權(quán)值和隱層單元的非線性基函數(shù)是在一種不同的“時(shí)間尺度”上更新的特點(diǎn)，提出分別對(duì)隱層參數(shù)采用BP算法，而對(duì)輸出權(quán)值采用線性最小二乘濾波法進(jìn)行訓(xùn)練的混合學(xué)習(xí)算法。實(shí)驗(yàn)結(jié)果表明，該方法設(shè)計(jì)的RBF網(wǎng)絡(luò)結(jié)構(gòu)精簡(jiǎn)，具有良好的泛化性能，所采用的混

12、合學(xué)習(xí)算法收斂速度優(yōu)于單純的BP算法。為解決粗邏輯神經(jīng)網(wǎng)絡(luò)精度和網(wǎng)絡(luò)規(guī)模復(fù)雜性及推廣泛化能力之間的矛盾，提出一種具有可變離散精度的粗邏輯神經(jīng)網(wǎng)絡(luò)模型設(shè)計(jì)方法。該方法通過(guò)近似域劃分，將論域空間劃分為確定性區(qū)域和可能性區(qū)域，由于可能性區(qū)域信息粒度過(guò)大是造成誤分類的重要原因，只需對(duì)可能性區(qū)域離散區(qū)間進(jìn)一步細(xì)化，即可達(dá)到提高粗邏輯神經(jīng)網(wǎng)絡(luò)模型的精度，同時(shí)抑制網(wǎng)絡(luò)規(guī)模增長(zhǎng)過(guò)快的目的。在長(zhǎng)白山天池地區(qū)的遙感圖像分類實(shí)驗(yàn)中，常規(guī)離散精度等級(jí)確定的粗邏

13、輯神經(jīng)網(wǎng)絡(luò)方法在離散等級(jí)為7時(shí)有最好性能，而本文方法以較小的網(wǎng)絡(luò)代價(jià)和訓(xùn)練時(shí)間獲得了逼近的分類結(jié)果。 為避免約簡(jiǎn)計(jì)算，研究了基于模糊粗糙模型(FRM)，從自底向上的角度進(jìn)行粗神經(jīng)網(wǎng)絡(luò)建模的方法。該方法通過(guò)自適應(yīng)G-K聚類算法，實(shí)現(xiàn)基于輸入—輸出積空間聚類的模糊劃分，在基于聚類數(shù)和約簡(jiǎn)屬性搜索的基礎(chǔ)上，提取優(yōu)化的FRM模型，在此基礎(chǔ)上融合神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)粗神經(jīng)網(wǎng)絡(luò)建模(FRM_RNN_M)。對(duì)Brodatz紋理圖像的實(shí)驗(yàn)表明：①其性能