用戶畫像構(gòu)建中知識(shí)表示與模型融合研究.pdf

1、隨著互聯(lián)網(wǎng)技術(shù)特別是以谷歌和百度等為代表的搜索引擎的飛速發(fā)展，互聯(lián)網(wǎng)的數(shù)據(jù)呈現(xiàn)爆炸性增長(zhǎng)。數(shù)據(jù)就是我們這個(gè)時(shí)代的石油，如何高效地、系統(tǒng)地開發(fā)利用這些海量數(shù)據(jù)顯得尤為重要。我們每天都通過搜索引擎留下大量行為記錄如歷史查詢?cè)~等，這些數(shù)據(jù)為分析用戶人口屬性和愛好習(xí)慣，細(xì)致、全面地構(gòu)建用戶畫像，提供了豐富的數(shù)據(jù)基礎(chǔ)。能否充分利用用戶行為記錄數(shù)據(jù)，刻畫出用戶屬性信息全貌，可以看作是企業(yè)大數(shù)據(jù)應(yīng)用的基礎(chǔ)，用戶畫像構(gòu)建任務(wù)越來越受到企業(yè)的關(guān)注。201

2、6年由中國計(jì)算機(jī)協(xié)會(huì)舉辦的大數(shù)據(jù)競(jìng)賽《搜狗用戶畫像挖掘》中，本題目的數(shù)據(jù)集包括了搜狗用戶的歷史查詢記錄數(shù)據(jù)與用戶的人口屬性（包括年齡、性別、學(xué)歷）標(biāo)簽。
　　針對(duì)用戶歷史查詢?cè)~語料，本文比較系統(tǒng)地對(duì)比分析了多種表示學(xué)習(xí)方法，Bag of ngrams特征反映了用戶用詞習(xí)慣的差異，主題詞向量（Topic Word Embedding, TWE）用于提取用戶查詢?cè)~的主題信息，文檔向量（Doc2Vec）用于總結(jié)用戶查詢?cè)~之間的語義關(guān)聯(lián)信

3、息；此外，針對(duì)用戶查詢?cè)~的短文本的特點(diǎn)，本文專門改進(jìn)了Doc2Vec模型，分別提出了 Query Document Vector: distributed bag of words（qdv-dbow）和 Query Document Vector:A distributed memory model（qdv-dm）2種算法，進(jìn)一步提升了查詢?cè)~文檔向量的知識(shí)表示質(zhì)量。
　　針對(duì)用戶畫像構(gòu)建任務(wù)，本文提出了一種用于預(yù)測(cè)多維人口屬性標(biāo)簽

4、（包括性別、年齡、學(xué)歷）的二級(jí)融合算法框架。（1）在第一級(jí)單任務(wù)單模型中，結(jié)合Trigram特征與傳統(tǒng)機(jī)器學(xué)習(xí)模型來總結(jié)用戶用詞習(xí)慣的差異，結(jié)合 Doc2Vec知識(shí)表示與神經(jīng)網(wǎng)絡(luò)模型來抽取用戶查詢語義關(guān)聯(lián)信息；（2）在第一級(jí)多任務(wù)單模型中，使用深層卷積神經(jīng)網(wǎng)絡(luò)模型（Very Deep Convolutional Neural Network, VDCNN）來從字符粒度上深層萃取上下文關(guān)聯(lián)信息，使用 FastText神經(jīng)網(wǎng)絡(luò)模型從單詞粒度