面向生產(chǎn)管理的日志處理系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf

1、隨著現(xiàn)代互聯(lián)網(wǎng)行業(yè)的飛速發(fā)展，以及企業(yè)生產(chǎn)規(guī)模的不斷擴(kuò)大，網(wǎng)站或者管理系統(tǒng)不停運(yùn)行產(chǎn)生了大量的數(shù)據(jù)，數(shù)據(jù)反映了生產(chǎn)中的模式和問(wèn)題，對(duì)于管理者來(lái)說(shuō)具有極大的參考價(jià)值。針對(duì)交易數(shù)據(jù)或生產(chǎn)線的日志處理，已經(jīng)成為現(xiàn)代企業(yè)數(shù)據(jù)統(tǒng)計(jì)和生產(chǎn)管理的重大需求。通過(guò)對(duì)日志文件的數(shù)據(jù)抓取和分析處理，可以得到一個(gè)大規(guī)模生產(chǎn)線產(chǎn)品的監(jiān)控狀態(tài)，以及生產(chǎn)數(shù)量的趨勢(shì)走向和相關(guān)的數(shù)據(jù)統(tǒng)計(jì)。對(duì)于一個(gè)生產(chǎn)線管理者而言，通過(guò)對(duì)海量日志文件的分析處理，得到產(chǎn)品相關(guān)的監(jiān)控狀況和數(shù)

2、據(jù)統(tǒng)計(jì)，將具有重大的實(shí)用價(jià)值和參考意義。
　　本論文針對(duì)生產(chǎn)線系統(tǒng)進(jìn)行日志處理來(lái)實(shí)現(xiàn)一個(gè)大規(guī)模生產(chǎn)線的數(shù)據(jù)抓取，完成數(shù)據(jù)的自動(dòng)化處理，包括對(duì)生產(chǎn)線海量日志文件的數(shù)據(jù)抽取，以及產(chǎn)品統(tǒng)計(jì)、趨勢(shì)分析、數(shù)據(jù)緩存的分析和研究等。
　　本論文主要從如下幾個(gè)方面進(jìn)行展開(kāi)：
　?。?）數(shù)據(jù)抓取技術(shù)的概述。主要介紹了Http協(xié)議相關(guān)的技術(shù)、多線程數(shù)據(jù)處理模式、Hash分組數(shù)據(jù)處理、數(shù)據(jù)高速緩存Memcache等相關(guān)技術(shù)以及其在數(shù)據(jù)處理和

3、挖掘方面的典型應(yīng)用。
　?。?）日志分析流程的綜述。本文對(duì)日志分析的處理流程進(jìn)行了詳細(xì)敘述。主要包括系統(tǒng)啟動(dòng)流程、日志分析流程和統(tǒng)計(jì)輸出流程。每個(gè)流程都與系統(tǒng)多個(gè)模塊相對(duì)應(yīng)，涵蓋了模塊之間的相互交互，涉及到了數(shù)據(jù)在其中的相互傳遞。敘述了從生產(chǎn)線日志文件收集到數(shù)據(jù)抽取、緩存輸出和永久保存的完整流程。
　　（3）日志處理系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)。從日志分析的系統(tǒng)需求出發(fā)，然后通過(guò)功能架構(gòu)圖和模塊劃分，詳細(xì)分析和討論了模塊的設(shè)計(jì)思想、模塊