基于動態(tài)神經(jīng)網(wǎng)絡(luò)的支持向量機(jī)的FPGA實(shí)現(xiàn).pdf

1、支持向量機(jī)(Support Vector Machines, SVMs)作為一種通用的機(jī)器學(xué)習(xí)算法，能夠較好的解決小樣本學(xué)習(xí)問題。目前對支持向量機(jī)的研究主要是集中在理論研究和算法優(yōu)化方面。與之相比，在實(shí)現(xiàn)方法及應(yīng)用方面的研究相對較少，而且很多實(shí)現(xiàn)方法都是基于軟件實(shí)現(xiàn)的，使SVM的應(yīng)用受到了限制。
　　近年來，出現(xiàn)了利用神經(jīng)網(wǎng)絡(luò)解決支持向量機(jī)學(xué)習(xí)的方法，該方法將神經(jīng)網(wǎng)絡(luò)與支持向量機(jī)相結(jié)合，利用部分對偶的方法，將求解SVM的二次規(guī)劃問

2、題轉(zhuǎn)化成對動態(tài)神經(jīng)網(wǎng)絡(luò)的動態(tài)方程組求解的問題。由于神經(jīng)網(wǎng)絡(luò)具有便于硬件實(shí)現(xiàn)的特點(diǎn)，因此就使SVM的硬件實(shí)現(xiàn)成為可能。但是現(xiàn)有的SVM的硬件實(shí)現(xiàn)方法都是基于模擬器件的簡單應(yīng)用。模擬電路具有拓?fù)浣Y(jié)構(gòu)一旦確定就很難改變、功耗大和占用空間大的缺點(diǎn)，所以這種方法在實(shí)際應(yīng)用中也受到了較大的限制。
　　針對上面的問題，論文提出了SVM學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的FPGA實(shí)現(xiàn)方法。FPGA本身具有可重構(gòu)、能耗小和占用空間小的特點(diǎn)，因此該方法具有很好的靈活性。該

3、方法主要是將SVM學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的連續(xù)動態(tài)方程組進(jìn)行離散化處理，然后對離散后的動態(tài)方程組進(jìn)行FPGA實(shí)現(xiàn)。在此基礎(chǔ)上論文進(jìn)一步提出了最小二乘支持向量機(jī)(LS-SVM)分類與回歸學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，LS-SVM消除了網(wǎng)絡(luò)中的非線性部分，使得神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)更加簡潔、實(shí)現(xiàn)更簡單。同時論文也提出了LS-SVM分類與回歸學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的FPGA實(shí)現(xiàn)方法。論文分別對S V M學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的分類問題、LS-SVM學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的分類和回歸問題完成了Simuli