面向逆向分析的程序關(guān)鍵屬性混淆技術(shù)研究.pdf

1、混淆是一種用來增加逆向分析難度的軟件保護技術(shù)。開展面向逆向分析的程序關(guān)鍵屬性混淆技術(shù)研究，對優(yōu)化混淆技術(shù)的理論模型，拓展混淆技術(shù)的應(yīng)用領(lǐng)域，以及促進軟件反逆向分析技術(shù)的發(fā)展，具有重要的理論價值和現(xiàn)實意義。本文著重對基于代碼和數(shù)據(jù)屬性的軟件混淆方法中若干關(guān)鍵問題進行了研究?；煜夹g(shù)研究成果和背景知識方面。首先概要介紹了當前混淆技術(shù)的研究進展，并從混淆方法，混淆評估方面指出了混淆技術(shù)研究存在的主要問題，在此基礎(chǔ)上，就采用多種防御思想對程序關(guān)

2、鍵代碼和數(shù)據(jù)屬性進行有效混淆的問題，給出了本文主要研究內(nèi)容和組織結(jié)構(gòu)。然后介紹了軟件分類，軟件語言層次，軟件抽象屬性，軟件逆向分析的過程、方法和工具。最后介紹了幾種典型軟件反逆向分析技術(shù)的基本思想和原理，并提出了一種面向軟件逆向分析的程序關(guān)鍵屬性混淆評估框架。代碼屬性混淆方面?；诓煌６鹊拇a屬性，從指令角度出發(fā)，提出了一種基于陷門不透明謂詞的指令重疊和自修改混淆算法；從基本塊角度出發(fā)，提出了一種基于指令片段多樣化和執(zhí)行路徑隨機化的混

3、淆算法；從函數(shù)角度出發(fā)，提出一種基于多樣化函數(shù)和多加解密算法隨機執(zhí)行的混淆算法。從指令系統(tǒng)角度出發(fā)，提出了一種基于代碼并行化和多套虛擬指令集解釋執(zhí)行的混淆算法。
　　本研究主要內(nèi)容包括：⑴針對靜態(tài)反匯編能夠準確對匯編指令序列中的控制轉(zhuǎn)移指令進行正確解析，并進一步構(gòu)建控制流圖的問題，提出了一種基于陷門不透明謂詞的指令重疊和自修改混淆算法。首先介紹了基于陷門不透明謂詞的指令重疊和自修改混淆框架，基于陷門不透明謂詞組合算式構(gòu)造用來實現(xiàn)指

4、令重疊和自修改的跳轉(zhuǎn)和數(shù)據(jù)偏移，向程序嵌入不透明謂詞組合算式、重疊指令和自修改代碼實現(xiàn)跳轉(zhuǎn)指令的混淆。然后闡述了一種基于二維超混沌映射方程組構(gòu)造陷門不透明謂詞簇的實現(xiàn)方法，由于二維超混沌系統(tǒng)的隨機性和復(fù)雜性，混淆后程序能有效抵御靜態(tài)反匯編分析。⑵針對控制流圖的“動態(tài)提取，靜態(tài)分析”的逆向方法，為了增加控制流圖結(jié)構(gòu)的復(fù)雜性和控制流執(zhí)行路徑的不確定性，提出一種基于指令片段多樣化和執(zhí)行路徑隨機化的混淆算法。首先構(gòu)建了多種指令等價變換規(guī)則，然后

5、運用這些規(guī)則生成構(gòu)建多分支路徑的多樣化指令片段，并給出一種基于多分支路徑的隨機執(zhí)行算法，最后對所有基本塊進行多樣化拆分和迭代，從而實現(xiàn)控制流圖的混淆。對控制流圖分析難度將轉(zhuǎn)化為對指令片段和指令軌跡進行語義等價判定難度，該過程往往是困難的，方法增加了運用靜態(tài)和動態(tài)逆向分析對程序控制流進行分析的難度。⑶針對動態(tài)加解密混淆中加解密算法單一和函數(shù)執(zhí)行路徑確定易受攻擊的問題，為抵御斷點調(diào)試和內(nèi)存轉(zhuǎn)儲動態(tài)分析，提出一種基于函數(shù)多樣化和多加密算法隨機

6、執(zhí)行的混淆算法。首先在等價變換規(guī)則基礎(chǔ)上，對函數(shù)序列進行隨機切分和亂序，然后構(gòu)建跳轉(zhuǎn)表對切分序列進行重組，并將多樣化函數(shù)首地址表和跳轉(zhuǎn)表隱藏到隨機地址數(shù)組中，最后引入多種加解密算法對多樣化函數(shù)進行加密，在執(zhí)行時動態(tài)對其解密。多種不同加解密函數(shù)和函數(shù)片段粒度指令軌跡的執(zhí)行提升了混淆強度。⑷針對多套虛擬指令集嵌套混淆帶來的高時間開銷問題，考慮到并行和多指令系統(tǒng)程序逆向分析難度大大高于串行和單指令系統(tǒng)程序，提出一種基于代碼并行化的多套虛擬指令

7、集解釋執(zhí)行的混淆算法。首先基于依賴圖對串行代碼進行并行劃分，然后構(gòu)建多虛擬指令集的解釋器、調(diào)度器和規(guī)則，最后采用不同虛擬指令集對劃分后并行代碼進行解釋執(zhí)行。相比單虛擬機和嵌套虛擬機混淆，該方法在降低混淆程序時間開銷的同時保證了混淆強度。⑸針對逆向分析者通過?；厮菁夹g(shù)獲取反映函數(shù)調(diào)用關(guān)系的函數(shù)調(diào)用鏈問題，提出了一種基于混淆表映射和哈希函數(shù)編解碼的棧幀數(shù)據(jù)混淆算法。該算法隨機動態(tài)生成了混淆地址表和哈希函數(shù)，在函數(shù)調(diào)用時對棧幀數(shù)據(jù)進行地址映射

8、和編碼，在函數(shù)返回時對棧幀數(shù)據(jù)進行解碼和地址逆映射，并對實現(xiàn)數(shù)據(jù)混淆的代碼模塊進行了多樣化處理。映射隨機化和編碼隨機化增加了動態(tài)逆向分析棧幀數(shù)據(jù)的難度，數(shù)據(jù)混淆模塊代碼的多樣化，增加了混淆代碼模塊靜動態(tài)逆向分析的難度，方法能夠有效抵御通過棧回溯技術(shù)獲取函數(shù)的調(diào)用鏈信息。⑹針對mea ly機模型代碼和內(nèi)存所對應(yīng)的狀態(tài)轉(zhuǎn)移圖結(jié)構(gòu)簡單且易于靜態(tài)分析和動態(tài)測試的問題，提出了基于mealy機狀態(tài)轉(zhuǎn)移圖膨脹的數(shù)據(jù)混淆算法。通過迭代混淆增加mea l