基于機器學(xué)習(xí)的入侵檢測系統(tǒng)的研究與實現(xiàn).pdf

1、統(tǒng)計學(xué)習(xí)理論是在有限樣本情況下新建立起來的統(tǒng)計學(xué)理論體系。統(tǒng)計學(xué)習(xí)為人們系統(tǒng)地研究小樣本情況下機器學(xué)習(xí)問題提供了有力的理論基礎(chǔ)。支持向量機（Support Vector Machine,SVM）是在該理論體系下產(chǎn)生的一種新的、非常有力的機器學(xué)習(xí)方法。它較好地解決了以往很多學(xué)習(xí)方法的小樣本、非線性、過學(xué)習(xí)、高維數(shù)、局部極小點等實際問題，具有很強的推廣能力。作為SVM方法的一個分支，最小二乘支持向量機（Least Squares Suppo

2、rt Vector Machine，LSSVM）繼承了SVM在理論與應(yīng)用方面的許多研究成果。相對于SVM，LSSVM所具有的一些特性可以概括為：求解線性方程組，具有更快的求解速度，求解所需的計算資源較少，其解滿足極值條件。 本文首先闡述了論文研究背景和意義，介紹入侵檢測的模型、分類，比較了應(yīng)用于入侵檢測的不同方法的優(yōu)缺點。然后介紹了統(tǒng)計學(xué)習(xí)理論,支持向量機和最小二乘支持向量機的相關(guān)理論，提出了基于最小二乘支持向量機的網(wǎng)絡(luò)入侵檢測

3、系統(tǒng)模型，并對模型的各個組件的功能、機制，實現(xiàn)進行了深入的探討。對用于入侵檢測的網(wǎng)絡(luò)數(shù)據(jù)特征，本文利用異構(gòu)數(shù)據(jù)集上的距離度量函數(shù)（Heterogeneous Value Difference Metric，HVDM）進行特征數(shù)據(jù)的預(yù)處理，針對LSSVM喪失魯棒性的缺點，使用加權(quán)的方法增強其魯棒性，由于計算經(jīng)驗風(fēng)險的損失函數(shù)為二次函數(shù)形式，LSSVM喪失了標(biāo)準(zhǔn)支持向量機的稀疏性，導(dǎo)致了其訓(xùn)練完畢后，用于分類時的效率降低的特點，為使LSSV

4、M具有稀疏性，本文從統(tǒng)計分析的角度出發(fā)，應(yīng)用主成分分析的方法，對樣本集進行特征提取，消除變量間的相關(guān)性，選取訓(xùn)練樣本中分類作用最大的若干樣本個體作為支持向量，并將非支持向量上的分類信息轉(zhuǎn)移至支持向量上，從而改善模型的預(yù)測精度和泛化能力，提出了新的LSSVM稀疏化算法—基于主成分分析的最小二乘支持向量機算法，在模擬實驗中，選取徑向基核函數(shù)，將訓(xùn)練數(shù)據(jù)從低維空間映射到高維空間中，使數(shù)據(jù)在高維空間中能夠線性可分,并采用三步搜索法進行參數(shù)的選擇