不同決策環(huán)境下決策樹模型的研究.pdf

1、隨著計算機技術的不斷發(fā)展，數(shù)據(jù)挖掘和機器學習技術已經(jīng)被廣泛地應用于社會的各個領域。數(shù)據(jù)挖掘和機器學習中的一項重要研究課題是決策樹分類。傳統(tǒng)的決策樹分類方法只注重分類的精度，沒有考慮到不同的誤分類會造成不一樣的代價這一事實，不能應用于代價敏感的決策環(huán)境中。為解決代價敏感環(huán)境下的決策問題，在傳統(tǒng)決策樹的基礎上提出了代價敏感決策樹，之后經(jīng)過近十年的研究和發(fā)展，取得了豐碩的成果，相繼出現(xiàn)了分類代價，測試代價，師資代價，計算代價，干預代價等不同類

2、型的代價敏感學習技術，并進一步提出了異構代價敏感決策樹。
　　代價敏感決策樹提出之后，具有代價敏感的決策問題得到了很好的解決。然而人類社會的任何決策都是綜合復雜的，除了考慮代價因素之外還可能要考慮其他方方面面的影響因素，例如具有收益敏感的決策問題需要考慮收益因素，具有偏好敏感的決策問題需要考慮決策者的偏好因素。傳統(tǒng)決策樹和代價敏感決策樹的理論和方法已經(jīng)難以適應這些決策環(huán)境，新的理論和方法必須繼續(xù)擴充發(fā)展，以迎接新問題，解決新挑戰(zhàn)。

3、
　　面對上述的新問題和新挑戰(zhàn)，本文主要研究在收益敏感環(huán)境下和偏好敏感環(huán)境下決策樹的構建。在傳統(tǒng)決策樹和代價敏感決策樹的基礎上提出了代價與收益雙敏感的決策樹，以及偏好敏感的決策樹，分別用來解決收益敏感的決策問題和偏好敏感的決策問題，并用實驗證實了所提方法的可行性和有效性。本文的主要創(chuàng)新點如下:
　　(1)提出復雜決策環(huán)境下決策樹面臨的問題。首先通過介紹決策樹的基礎理論，回答了什么是決策樹，如何建立決策樹的問題。然后對當前各種

4、決策樹進行了總結，把以獲得最小錯誤率為最終目標的決策樹統(tǒng)稱為傳統(tǒng)決策樹，把以獲得最小化代價為目標的決策樹統(tǒng)稱為代價敏感決策樹，并進一步分析了傳統(tǒng)決策樹和代價敏感決策樹存在的問題和不足，進而提出收益敏感的決策環(huán)境和偏好敏感的決策環(huán)境對決策樹帶來的新挑戰(zhàn)。
　　(2)在收益敏感的決策環(huán)境下，提出了一種代價與收益并存的決策樹分類算法，在該算法中利用UCB(Unit cost-benefit)作為類標號判斷標準，同時考慮誤分類代價和正確分

5、類收益，設計了基于代價和收益都敏感的屬性選擇因子，構造了代價與收益并存的決策樹(CBDT)，最終目的是得到最小化代價下的最大收益。我們進行了各種實驗，包括“不同算法下的比較”，“不同缺失率下的比較”和“UCB值的顯著性差異分析”。實驗證明我們的方法具有較高的有效性和實用性。
　　(3)在偏好敏感的決策環(huán)境下，提出了一種偏好敏感決策樹分類算法。分析了偏好敏感問題的產(chǎn)生，定義了偏好度和偏好代價，給出了偏好敏感學習的概念。然后描述了確定