基于TrI-training的半監(jiān)督學(xué)習(xí)算法研究.pdf

1、半監(jiān)督學(xué)習(xí)是一種應(yīng)用驅(qū)動而產(chǎn)生的機器學(xué)習(xí)方法，已經(jīng)成為人工智能和模式識別領(lǐng)域的研究熱點之一。作為該領(lǐng)域的主要分支，半監(jiān)督聚類將給定的少量監(jiān)督信息引入最優(yōu)聚類的搜索過程中，來改善算法性能;半監(jiān)督分類試圖挖掘無標(biāo)記樣本所隱含的有用信息來輔助分類器的訓(xùn)練。近年來，研究學(xué)者們不斷提出了各種半監(jiān)督聚類或分類方法，并將其應(yīng)用于自然語言處理、圖像處理和生物特征識別等實際領(lǐng)域中。
　　Tri-training算法作為協(xié)同訓(xùn)練機制的代表性算法，雖然

2、能夠利用分類器完成對無標(biāo)記樣本的標(biāo)注，但是它需要給定足夠多的有標(biāo)記樣本來保證初始得到的分類器具有較大的差異性，同時也無法處理監(jiān)督信息中包含成對約束的情形。
　　因此，鑒于上述不足，本文以Tri-training算法為出發(fā)點，研究當(dāng)給定不同形式的監(jiān)督信息時，如何有效選取并標(biāo)注無標(biāo)記樣本，來實現(xiàn)半監(jiān)督聚類和半監(jiān)督分類。
　　主要內(nèi)容包括以下三個方面:
　　(1)針對監(jiān)督信息中既給定有標(biāo)記樣本又包含成對約束的情形，設(shè)計了一種

3、基于Tri-training的半監(jiān)督聚類算法。該算法首先結(jié)合Tri-training方法，選取某些無標(biāo)記樣本并提供類別標(biāo)記，來增加原始有標(biāo)記樣本的數(shù)量;然后利用樣本間的約束關(guān)系來優(yōu)化擴充得到的有標(biāo)記樣本集，以改善其質(zhì)量;最后根據(jù)優(yōu)化后的有標(biāo)記樣本集來獲取K-Means算法所需的類中心，同時在聚類的過程中，運用成對約束對每一次的劃分結(jié)果進行調(diào)整。通過與K-Means、Seeded-K-Means和COP-K-Means算法的比較實驗表明，

4、提出的算法能夠充分利用給定的監(jiān)督信息，并得到較好的聚類結(jié)果。
　　(2)針對監(jiān)督信息中只給定少量有標(biāo)記樣本的情形，提出了一種基于Tri-training和少量標(biāo)記樣本的主動半監(jiān)督分類算法。該算法借鑒主動學(xué)習(xí)思想，從無標(biāo)記樣本集中選取最有可能被錯誤標(biāo)記和最有可能代表類特征的樣本，交由專家用戶進行標(biāo)注，來增加原始有標(biāo)記樣本的數(shù)量。對比實驗表明，當(dāng)給定的初始有標(biāo)記樣本數(shù)量很少，Tri-training算法無法取得滿意的效果時，提出的算法

5、能夠獲得具有較好分類能力的學(xué)習(xí)模型。
　　(3)針對監(jiān)督信息中只給定成對約束的情形，給出了一種基于Tri-training和成對約束的主動半監(jiān)督分類算法。該算法運用樣本間的約束關(guān)系從中選擇有價值的樣本交由專家用戶進行標(biāo)注，來得到有標(biāo)記樣本集;同時在半監(jiān)督分類的過程中，利用成對約束優(yōu)化每次用于重新訓(xùn)練分類器的有標(biāo)記樣本集，以提高數(shù)據(jù)使用的安全性。實驗結(jié)果表明，與Tri-training方法相比，提出的算法能夠有效處理監(jiān)督信息包含成對