版權說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權,請進行舉報或認領
文檔簡介
1、隨著信息時代的到來,互聯(lián)網(wǎng)技術得到了飛速的發(fā)展,數(shù)字化圖書館、數(shù)字化辦公也變得越來越普及,于是網(wǎng)絡上的信息在以幾何級數(shù)般的速度在膨脹。面對網(wǎng)絡上如此浩瀚的信息,和人們有限的精力,快速提取出自己需要的信息,成為了人們的迫切需求。目前存在的主題挖掘系統(tǒng),能夠提取出文檔的主題,從一定程度上滿足了人們的需求,但是它們大都存在著效率低,主題提取不準確的問題,為此,本課題認真分析了他們的不足之處,通過改進提出了一種面向文本的主題挖掘的新技術。
2、> 面向文本的主題挖掘技術,旨在利用日益成熟的文本挖掘技術,首先抽取某一領域的一篇文檔,和其他領域的幾百篇文檔,進行特征表示和中文切詞處理,然后統(tǒng)計詞頻,計算權重大小,得出這一領域的此篇文檔中的詞語,在代表該領域詞語特征方面的重要程度。一般認為,一個詞語在該領域內(nèi)越重要,那么它在該領域的文檔中的出現(xiàn)頻率就越高,而在其它領域內(nèi)的出現(xiàn)頻率越低,甚至不出現(xiàn)。然后按重要程度的大小排序,并按比例提取詞語放入該領域的詞庫中。同時,很多文本文檔
3、都帶有標題、摘要、關鍵字等信息,而這些信息跟正文相比,對于文本主題的貢獻程度是不同的,它們往往都是經(jīng)過作者提煉加工得出的,因此,比正文信息更能代表文檔的中心思想,所以還要對將這些信息經(jīng)過切詞處理后與正文信息進行詞語相似度計算,將符合閾值要求的詞語加入到該領域的詞庫中,然后還要將中文切詞中切碎的詞語,進行組合詞拼接,以使專業(yè)詞語保留在該領域的主題詞庫中,最后,按比例提取主題詞,得到該領域的主題詞庫,同時,由于“爸爸”與“父親”具有相同的含
4、義,因此,還需要將得到的該領域的主題詞庫中的詞語查找同義詞表,并將這些詞語的同義詞一塊加入到該領域的詞庫中。通過不斷的訓練,該領域的文檔,逐步擴展該領域的詞語數(shù),并且通過設定的參數(shù)優(yōu)化本領域中的詞語,使其保留最具代表性的詞語,提高主題發(fā)現(xiàn)的效率和準確性。
在得到的領域詞庫的輔助下,將需要進行主題挖掘的文檔經(jīng)過特征表示后,用該領域的主題詞庫進行切詞處理,通過詞頻統(tǒng)計和權重計算后,得到按權重大小排序的詞集,最終得到形如“體育→
5、足球→任意球技術”的主題。
實驗表明:在建立領域詞庫的過程中該方法的準確率在80%以上,并會隨著背景文檔數(shù)的增加,準確率成緩慢上升的趨勢,因為隨著詞語數(shù)量的增加,專業(yè)詞語在該領域中的出現(xiàn)頻率不變而在其它領域中的出現(xiàn)頻率會逐漸降低,這樣經(jīng)過權重計算,就會使主題提取的準確率提高。
在主題提取實驗中,該方法在領域詞庫的幫助下,能夠準確、高效的提取出該文檔表達的主要思想,能夠幫助人們從浩瀚的文本信息中,快速識別自己需
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經(jīng)權益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
- 6. 下載文件中如有侵權或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 面向web文本挖掘的主題搜索技術研究.pdf
- 面向Web文本挖掘的主題網(wǎng)絡爬蟲研究.pdf
- 面向文本分類的中文文本挖掘技術研究及實現(xiàn).pdf
- 面向企業(yè)競爭情報的Web文本挖掘關鍵技術的研究與實現(xiàn).pdf
- 面向Web挖掘的主題網(wǎng)絡爬蟲的研究與實現(xiàn).pdf
- 面向隱式微博主題挖掘系統(tǒng)的設計與實現(xiàn).pdf
- 面向隱式微博主題挖掘系統(tǒng)的設計與實現(xiàn)
- 基于Web文本挖掘的主題搜索系統(tǒng)的研究與實現(xiàn).pdf
- 面向?qū)υ捨谋镜闹黝}分割技術研究.pdf
- Web文本挖掘關鍵技術的研究與實現(xiàn).pdf
- 面向領域的文本分類與挖掘關鍵技術研究.pdf
- web文本挖掘研究與實現(xiàn).pdf
- 基于文本挖掘的短信分類技術的研究與實現(xiàn).pdf
- 面向主題的數(shù)據(jù)挖掘研究.pdf
- 面向文本的自動語義標注技術研究與實現(xiàn).pdf
- 基于主題模型的文本語義挖掘.pdf
- 漢語文本主題分析技術的研究與實現(xiàn).pdf
- 面向主題型的網(wǎng)頁分類技術的研究與實現(xiàn).pdf
- 面向生物醫(yī)學領域的文本挖掘技術研究.pdf
- 面向web文本挖掘的中文文本自動摘要關鍵技術研究.pdf
評論
0/150
提交評論