面向隱私保護的多方協(xié)作集成學(xué)習(xí)算法研究.pdf

1、集成學(xué)習(xí)是大數(shù)據(jù)分析中重要的組成部分，它通過學(xué)習(xí)一系列的規(guī)則并將它們組合起來共同解決一個問題，如分類、回歸。當(dāng)多方協(xié)作地建立集成學(xué)習(xí)模型時，如何確保該模型的有效性和隱私性是集成學(xué)習(xí)研究方向的一個挑戰(zhàn)。不同機構(gòu)獨立地建立本地的集成學(xué)習(xí)模型，由于受限于數(shù)據(jù)資源大小和計算資源規(guī)模，故模型的性能難以滿足大數(shù)據(jù)挖掘的需要。傳統(tǒng)的多方用戶共享數(shù)據(jù)或者集成學(xué)習(xí)模型的方法，存在個人隱私泄露的風(fēng)險。
　　本文提出面向差分隱私的多方協(xié)作的集成學(xué)習(xí)框架

2、和具體算法。方案的主要思想是多方在本地建立集成學(xué)習(xí)分類器，分類器是受到差分隱私約束的，能夠保護個體的敏感屬性；在半誠實的中心機構(gòu)融合多個機構(gòu)的集成學(xué)習(xí)分類器，然后再分發(fā)給各個機構(gòu)。融合函數(shù)考慮了每個本地集成學(xué)習(xí)分類器的準確度和各方的數(shù)據(jù)量大小，并使得不同的本地模型在最終的融合模型中有不同的權(quán)重貢獻。基于此框架，實現(xiàn)了差分隱私約束下的隨機森林算法（CRFsDP）和自適應(yīng)提升算法（CAdaBoostDP）；理論分析和實驗結(jié)果證明了本文的方案

3、在隱私和模型有效性之間尋找到平衡點，并且個性化的隱私預(yù)算配置能夠提升融合分類器的性能。
　　本文在提出的差分隱私方案基礎(chǔ)上，討論了廣告點擊率預(yù)估的隱私問題。有效地預(yù)測廣告點擊率是解決包括廣告推薦、產(chǎn)品定位和用戶畫像等問題的基礎(chǔ)，在計算廣告學(xué)方向具有舉足輕重的地位。首先設(shè)計了混淆方法，即直接向廣告點擊數(shù)據(jù)集加入噪聲記錄。其次通過在KDD CUP2012真實數(shù)據(jù)集的實驗比較了混淆和差分隱私兩種方法，實驗結(jié)果也說明差分隱私的策略使得融合