面向生產(chǎn)管理的日志處理系統(tǒng)的設(shè)計與實現(xiàn).pdf

1、隨著現(xiàn)代互聯(lián)網(wǎng)行業(yè)的飛速發(fā)展，以及企業(yè)生產(chǎn)規(guī)模的不斷擴大，網(wǎng)站或者管理系統(tǒng)不停運行產(chǎn)生了大量的數(shù)據(jù)，數(shù)據(jù)反映了生產(chǎn)中的模式和問題，對于管理者來說具有極大的參考價值。針對交易數(shù)據(jù)或生產(chǎn)線的日志處理，已經(jīng)成為現(xiàn)代企業(yè)數(shù)據(jù)統(tǒng)計和生產(chǎn)管理的重大需求。通過對日志文件的數(shù)據(jù)抓取和分析處理，可以得到一個大規(guī)模生產(chǎn)線產(chǎn)品的監(jiān)控狀態(tài)，以及生產(chǎn)數(shù)量的趨勢走向和相關(guān)的數(shù)據(jù)統(tǒng)計。對于一個生產(chǎn)線管理者而言，通過對海量日志文件的分析處理，得到產(chǎn)品相關(guān)的監(jiān)控狀況和數(shù)

2、據(jù)統(tǒng)計，將具有重大的實用價值和參考意義。
　　本論文針對生產(chǎn)線系統(tǒng)進(jìn)行日志處理來實現(xiàn)一個大規(guī)模生產(chǎn)線的數(shù)據(jù)抓取，完成數(shù)據(jù)的自動化處理，包括對生產(chǎn)線海量日志文件的數(shù)據(jù)抽取，以及產(chǎn)品統(tǒng)計、趨勢分析、數(shù)據(jù)緩存的分析和研究等。
　　本論文主要從如下幾個方面進(jìn)行展開：
　?。?）數(shù)據(jù)抓取技術(shù)的概述。主要介紹了Http協(xié)議相關(guān)的技術(shù)、多線程數(shù)據(jù)處理模式、Hash分組數(shù)據(jù)處理、數(shù)據(jù)高速緩存Memcache等相關(guān)技術(shù)以及其在數(shù)據(jù)處理和

3、挖掘方面的典型應(yīng)用。
　?。?）日志分析流程的綜述。本文對日志分析的處理流程進(jìn)行了詳細(xì)敘述。主要包括系統(tǒng)啟動流程、日志分析流程和統(tǒng)計輸出流程。每個流程都與系統(tǒng)多個模塊相對應(yīng)，涵蓋了模塊之間的相互交互，涉及到了數(shù)據(jù)在其中的相互傳遞。敘述了從生產(chǎn)線日志文件收集到數(shù)據(jù)抽取、緩存輸出和永久保存的完整流程。
　?。?）日志處理系統(tǒng)的設(shè)計與實現(xiàn)。從日志分析的系統(tǒng)需求出發(fā)，然后通過功能架構(gòu)圖和模塊劃分，詳細(xì)分析和討論了模塊的設(shè)計思想、模塊