基于演化算法的序回歸技術(shù)研究.pdf

1、在很多實(shí)際應(yīng)用中，數(shù)據(jù)的類別之間存在一種自然的序關(guān)系。例如，我們用1～5星去評(píng)價(jià)一部電影，3星評(píng)價(jià)高于2星評(píng)價(jià)，而4星評(píng)價(jià)低于5星評(píng)價(jià)。和標(biāo)稱數(shù)據(jù)不同，我們稱這樣一類數(shù)據(jù)為有序數(shù)據(jù)。有序數(shù)據(jù)的類別之間可以排序，但類別之間的差異卻沒有精確的定義。例如，對(duì)電影的3星評(píng)價(jià)通常被認(rèn)為優(yōu)于2星評(píng)價(jià)，但是3星究竟比2星好多少卻難以度量。預(yù)測(cè)有序數(shù)據(jù)的序的學(xué)習(xí)問題，稱之為序回歸。序回歸有著廣泛的實(shí)際應(yīng)用場(chǎng)景，例如情感分析、信息檢索、推薦系統(tǒng)、信用評(píng)價(jià)

2、、醫(yī)學(xué)等。
　　序回歸問題作為機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘領(lǐng)域重要的問題之一，越來越受到研究者們的關(guān)注。已有的工作主要集中在研究有監(jiān)督序回歸問題。然而，當(dāng)缺少足夠的有標(biāo)簽數(shù)據(jù)時(shí)，該問題變得難以處理。在很多實(shí)際應(yīng)用中，有標(biāo)簽數(shù)據(jù)往往難以獲取并且校對(duì)起來代價(jià)很高。而無標(biāo)簽數(shù)據(jù)通常大量存在，并且易于獲得。因此，同時(shí)考慮有標(biāo)簽數(shù)據(jù)和無標(biāo)簽數(shù)據(jù)的半監(jiān)督序回歸問題具有重要的研究意義和實(shí)際價(jià)值。本文以此為動(dòng)機(jī)，對(duì)半監(jiān)督序回歸問題做了一定的研究和討論。

3、r>　　本文提出了一種基于加權(quán)核判別分析的半監(jiān)督序回歸技術(shù)。該算法通過一個(gè)加權(quán)策略來引入無標(biāo)簽數(shù)據(jù)，而權(quán)重體現(xiàn)了不同訓(xùn)練數(shù)據(jù)對(duì)于類分布的貢獻(xiàn)大小。通過同時(shí)使用有標(biāo)簽數(shù)據(jù)和無標(biāo)簽數(shù)據(jù)，可以更準(zhǔn)確地估計(jì)類的分布信息，從而獲得更好的投影向量和閾值。該投影向量將原始數(shù)據(jù)映射到一個(gè)一維的空間，使得相鄰類別之間可以分隔開、相同類別的數(shù)據(jù)可以聚合緊，同時(shí)保持正確的序關(guān)系;閾值用來預(yù)測(cè)新樣例的序。該算法使用一種標(biāo)簽傳播的方法來計(jì)算權(quán)重。然而，由于標(biāo)簽傳

4、播算法沒有考慮數(shù)據(jù)中的序信息，導(dǎo)致估計(jì)的權(quán)重有時(shí)不是很準(zhǔn)確。為了更準(zhǔn)確地估計(jì)類的分布信息并進(jìn)一步提升性能，我們提出了改進(jìn)的算法——基于演化算法的半監(jiān)督序回歸技術(shù)。該算法通過使用演化算法來優(yōu)化無標(biāo)簽數(shù)據(jù)的權(quán)重，優(yōu)化目標(biāo)是使學(xué)習(xí)器擁有良好的學(xué)習(xí)性能和泛化能力。由于同時(shí)引入了無標(biāo)簽數(shù)據(jù)和序信息，所以該問題是一個(gè)非凸且不可導(dǎo)的優(yōu)化問題。演化算法適用于處理這類問題，我們?cè)诒疚氖褂貌罘诌M(jìn)化算法。為了降低優(yōu)化問題的維度，本文提出了一種權(quán)重更新規(guī)則和個(gè)