基于Hadoop的分布式中央日志系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf

1、在互聯(lián)網(wǎng)高速發(fā)展的今天，在一個(gè)數(shù)據(jù)爆炸的時(shí)代，隨著電子商務(wù)、社交網(wǎng)絡(luò)應(yīng)用的普及，每個(gè)用戶(hù)與應(yīng)用的交互過(guò)程都將產(chǎn)生大量的日志數(shù)據(jù)。應(yīng)用系統(tǒng)利用日志系統(tǒng)記錄系統(tǒng)運(yùn)行的狀態(tài)和用戶(hù)的行為。在各種系統(tǒng)運(yùn)行期間，需要根據(jù)系統(tǒng)的日志來(lái)推斷錯(cuò)誤發(fā)生的原因，日志往往是重要的調(diào)試判斷依據(jù)。
　　本文提出了基于Hadoop的分布式中央日志系統(tǒng)。由于現(xiàn)在的大型系統(tǒng)都是分布式的，一個(gè)大型的應(yīng)用系統(tǒng)往往有很多個(gè)子系統(tǒng)（如支付寶這個(gè)系統(tǒng)涉及到上百的子系統(tǒng)），每

2、個(gè)子系統(tǒng)需要單獨(dú)部署在一個(gè)服務(wù)器里，如何方便快速快捷的獲取這些日志，并且方便的查看和分析這些日志是個(gè)問(wèn)題，本文提供了一套這樣的日志系統(tǒng)。該系統(tǒng)實(shí)現(xiàn)了日志的統(tǒng)一獲取，日志的大批量傳輸，日志的統(tǒng)一存儲(chǔ)，日志的搜索。主要用到了當(dāng)今流行的大數(shù)據(jù)處理工具，如Hadoop,HBase,Kafka。在設(shè)計(jì)上，分布式日志系統(tǒng)支持高并發(fā)，大吞吐，無(wú)單點(diǎn)。
　　本文調(diào)研了當(dāng)前日志系統(tǒng)的主要發(fā)展現(xiàn)狀和應(yīng)用場(chǎng)景，并且結(jié)合對(duì)開(kāi)源日志系統(tǒng)的調(diào)研，提出了分布式