業(yè)務(wù)流程架構(gòu)圖:
創(chuàng)新互聯(lián)為您提適合企業(yè)的網(wǎng)站設(shè)計?讓您的網(wǎng)站在搜索引擎具有高度排名,讓您的網(wǎng)站具備超強的網(wǎng)絡(luò)競爭力!結(jié)合企業(yè)自身,進行網(wǎng)站設(shè)計及把握,最后結(jié)合企業(yè)文化和具體宗旨等,才能創(chuàng)作出一份性化解決方案。從網(wǎng)站策劃到成都網(wǎng)站制作、網(wǎng)站建設(shè)、外貿(mào)網(wǎng)站建設(shè), 我們的網(wǎng)頁設(shè)計師為您提供的解決方案。
一個基于logstash,redis,elasticSearch,kibana的一套數(shù)據(jù)收集分析的系統(tǒng)
架構(gòu)圖描述:
日志收集系統(tǒng):(數(shù)據(jù)來源)生產(chǎn)者產(chǎn)生的日志記錄行為,通過被logstash收集、轉(zhuǎn)發(fā),然后傳送給redis做序列話,最后通過ELK處理分析展示。
elasticSearch會對數(shù)據(jù)做存儲,索引(基于Lunce),再kibana中建立對elasticSearch的鏈接,實時的抓取索索引后的數(shù)據(jù),這樣數(shù)據(jù)就可以實時的進行展示,通過一些數(shù)據(jù)組裝,查詢條件,得到我們想要的結(jié)果(可以通過各種方式例如圖表,表格,折線圖等顯示)
效果圖:
####
一、ELK搭建
http://dbspace.blog.51cto.com/6873717/1879106
二、Redis部署
注意redis必須是3.0版本以上,不然會有各種問題,之前遇到坑
三、根據(jù)架構(gòu)編寫logstash的日志收集配置
[root@mycat conf]# cat /usr/local/logstash/conf/logstash_client.conf
input{
file{
type => "log_count"
path => "/var/log/messages"
}
}
output{
redis{
host => "192.168.1.114"
port => 6379
data_type => "list"
key => "key_count"
db => 0
}
}
四、編寫logstash的配置從redis讀取數(shù)據(jù)轉(zhuǎn)發(fā)到ELK
[root@mycat conf]# cat /usr/local/logstash/conf/logstash_server.conf
input{
redis{
host => "192.168.1.114"
port => 6379
type => "redis-input"
data_type => "list"
key => "key_count"
db => 0
}
}
output{
elasticsearch{
hosts =>"192.168.1.114:9200"
codec =>"json"
}
}
###紅色部分要相同
啟動2個服務(wù)
/usr/local/logstash/bin/logstash -f /usr/local/logstash/conf/logstash_server.conf &
/usr/local/logstash/bin/logstash -f /usr/local/logstash/conf/logstash_client.conf &
五、餅圖分析