深度時(shí)空推理網(wǎng)絡(luò)中的相變現(xiàn)象及其抗噪性能研究.pdf

1、相變現(xiàn)象在自然界中普遍存在，在計(jì)算機(jī)科學(xué)和人工智能領(lǐng)域也是如此。現(xiàn)有的研究表明，相變的發(fā)生與求解問(wèn)題的解的結(jié)構(gòu)有著密切的關(guān)系。因此對(duì)相變現(xiàn)象進(jìn)行研究的意義在于，其研究結(jié)果對(duì)于設(shè)計(jì)有效的求解工具和方法具有指導(dǎo)意義。
　　近年受到極大關(guān)注的深度學(xué)習(xí)網(wǎng)絡(luò)，在不同的領(lǐng)域都展現(xiàn)出令人驚訝的能力，然而如何進(jìn)一步提高這些連接主義計(jì)算模型在高噪聲情況下的性能，仍有很多工作有待完成。
　　本文以深度時(shí)空網(wǎng)絡(luò)推理網(wǎng)絡(luò)為研究對(duì)象，針對(duì)其對(duì)不同類型

2、噪聲的反應(yīng)，開(kāi)展了有關(guān)相變及其應(yīng)用的研究工作。我們的目的是從研究深度網(wǎng)絡(luò)的相變現(xiàn)象產(chǎn)生機(jī)理人手，明確其定量刻畫指標(biāo)，從而提高深度時(shí)空網(wǎng)絡(luò)的抗噪和容錯(cuò)能力，以進(jìn)一步拓寬其應(yīng)用領(lǐng)域。
　　研究的貢獻(xiàn)可以總結(jié)為如下三點(diǎn):
　　1、通過(guò)對(duì)深度時(shí)空推理網(wǎng)絡(luò)進(jìn)行理論分析，給出了相關(guān)相變發(fā)生的定量刻畫方法。提出當(dāng)聚類中心的信念值變化超過(guò)變異系數(shù)k時(shí)，這種深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的識(shí)別率會(huì)發(fā)生相變現(xiàn)象。
　　2、從兩組不同的實(shí)驗(yàn)出發(fā)驗(yàn)證上述推

3、理的正確性。
　　3、根據(jù)分析得到的原因，分別提出兩種方法來(lái)提高深度時(shí)空推理網(wǎng)絡(luò)的抗噪性能。第一種方法是采用傳統(tǒng)濾波降噪的方法，對(duì)網(wǎng)絡(luò)的聚類操作進(jìn)行優(yōu)化和改進(jìn)。第二種方法是利用遷移學(xué)習(xí)的思想，通過(guò)深入挖掘已經(jīng)得到的圖像特征，利用已有的數(shù)據(jù)知識(shí)對(duì)測(cè)試數(shù)據(jù)中的聚類操作進(jìn)行優(yōu)化和調(diào)整，從而提高目標(biāo)網(wǎng)絡(luò)的抗噪能力。
　　對(duì)兩種優(yōu)化方案進(jìn)行對(duì)比，實(shí)驗(yàn)證明后者能夠更加有效的提高網(wǎng)絡(luò)對(duì)噪聲的魯棒性。在同等噪聲程度下，深度時(shí)空推理網(wǎng)絡(luò)的識(shí)別