日志服务搭建-ES-FileBeat-Kibana
创始人
2024-05-30 21:24:58
0

      1次订单量突增问题,导致了有几个数据没有录库,但是确有支付的记录,啥玩意,还能有这个操作,组内安排问题定位,解决,一看打出来的日志,只有支付有,生成订单这边没有,就相当于是俩眼一抹黑。 处理方案,销售确定有下订单后先按照支付的日志,把订单信息维护上。

      搞在线日志和核心业务监控,这看linux的日志还是挺费事的。

如果我们是在springboot的每个服务下面都配置了

 1. 不影响程序和不给程序更多的带宽消耗,就没有在xml中直接配置日志同步给es

采用的是本地服务生成日志后,通过FileBeat去监听指定log文件有变化,就同步数据到es中。

这里就要对所有服务提供log日志模板:

参考:

log.info("业务标识 |   业务操作  |  主要记录日志内容 : {}", 变化的参数)方式输出。

log.error("业务标识 |   业务操作  |  主要错误日志内容 : {}", 变化的参数)方式输出。

 搭建  elasticsearch / filebeat / logstash/ kibana服务

先安装docker 和docker-compose

version: "2.2"
services:es:image: elasticsearch:7.8.0container_name: elasticsearch ports:- "9200:9200"- "9300:9300"environment:discovery.type: single-node##es的密码ELASTIC_PASSWORD: changemeES_JAVA_OPTS: "-Xmx512m -Xms256m"volumes:- /mydata/elasticsearch/:/usr/share/elasticsearch/data- /opt/elk/elasticsearch/elasticsearch.yml:/usr/share/elasticsearch/config/elasticsearch.yml- /opt/elk/elasticsearch/plugins:/usr/share/elasticsearch/pluginsls:image: logstash:7.8.0container_name: logstashports:- "5000:5000/tcp"- "5000:5000/udp"- "9600:9600"environment:discovery.type: single-nodeES_JAVA_OPTS: "-Xmx512m -Xms256m"volumes:- /opt/elk/logstach/pipeline:/usr/share/logstash/pipeline- /opt/elk/logstach/logstash.yml:/usr/share/logstash/config/logstash.yml- /opt/elk/logstach/jars:/usr/share/logstash/logstash-core/lib/jars/depends_on:- eskb:image: kibana:7.8.0container_name: kibanaports:- "5601:5601"volumes:- /opt/elk/kibana/kibana.yml:/usr/share/kibana/config/kibana.ymldepends_on:- es

在运行docker-compose.yml 

 

 

 然后就是elasticsearch的配置  elasticsearch.yml

## Default Elasticsearch configuration from Elasticsearch base image.
cluster.name: "docker-cluster"
network.host: 0.0.0.0
xpack.license.self_generated.type: trial
xpack.security.enabled: true
xpack.monitoring.collection.enabled: true

logstash.yml  文件配置

## Default Logstash configuration from Logstash base image.
http.host: "0.0.0.0"
xpack.monitoring.elasticsearch.hosts: [ "http://ip:9200" ]
xpack.monitoring.enabled: true
xpack.monitoring.elasticsearch.username: 账号
xpack.monitoring.elasticsearch.password: 密码

filebeat.yml  文件配置

filebeat.inputs:
- type: logenabled: truepaths: - /home/log-info.log  # 文件位置
setup.ilm.enabled: false
setup.template.settings:index.number_of_shards: 1output.elasticsearch:hosts: 'ip:9200'username: "账号"password: "密码"indices:- index: 'springboot-%{+yyyy.MM.dd}'  # 对应的索引

kibana.yml文件

##Default kibana configuration from Kibana base image.
server.name: kibana
server.host: 0.0.0.0
i18n.locale: "zh-CN"
server.basePath: "/kibana"
elasticsearch.hosts: [ "http://ip:9200" ]
xpack.security.enabled: true
monitoring.ui.container.elasticsearch.enabled: true
elasticsearch.username: 账号
elasticsearch.password: 密码

登入kibana ,可以查看索引数据,查看日志,功能比较强大,需要点时间研究。

 搭建好:

我要加一个服务到在线日志系统 流程

以A 服务为例子

原来看log-info    TAIL -F LOG-INO.LOG

_index : a-log-error-* 查看所有a服务error日志

_index : a-*  查看所有a服务info日志

  1. 到filebeat目录下修改filebeat.yml 参照已经完成的

 

 在配置完filebeat.yml都要重新执行filebeat容器

docker run -d --name=filebeat  --restart=always
-v对应文件映射
elastic/filebeat:7.8.0

最终实现现在看,根据时间查看

后面可以配置告警功能,优化日志展示格式。

相关内容

热门资讯

安卓系统有什么便利功能 你有没有发现,安卓系统自从问世以来,就一直是手机界的“人气王”?它那丰富的功能,简直让人爱不释手。今...
网易棋牌安卓系统不能用 最近有没有小伙伴发现,网易棋牌在安卓系统上有点儿不给力呢?这可真是让人头疼啊!今天,就让我来给你详细...
什么软件只支持安卓系统,解锁移... 你知道吗?在手机应用的世界里,有些软件可是只对安卓系统情有独钟呢!它们就像那些只对某一款香水情有独钟...
信息延迟解决安卓系统,解锁安卓... 你有没有遇到过这种情况?手机里下载了新应用,却总是慢吞吞地加载,或者打开网页时总是卡壳,这可真是让人...
如何破解系统回到安卓,揭秘破解... 你是不是也和我一样,对安卓系统爱得深沉,但又偶尔想体验一下其他系统的魅力呢?比如,有时候想破解一下系...
安卓系统如何批量传图 你是不是也有过这样的烦恼:手机里的照片太多,想要一次性传给朋友或者备份到电脑上,却不知道怎么操作?别...
安卓跟苹果的系统版本,全面解析... 你有没有发现,手机更新换代的速度简直就像坐上了火箭呢?这不,最近安卓和苹果的系统版本又来了一场“大比...
安卓系统matter是什么,智... 你有没有听说最近安卓系统里有个新玩意儿叫Matter?没错,就是那个听起来有点神秘,又让人好奇不已的...
ios能转安卓系统吗,揭秘如何... 你有没有想过,你的iPhone换成安卓手机后,那些珍贵的iOS系统应用怎么处理呢?今天,就让我来带你...
小米7是不是安卓系统,安卓系统... 你有没有想过,小米7这款手机是不是运行在安卓系统上呢?这个问题听起来可能有点简单,但你知道吗,它背后...
安卓系统的手机搬家软件,一键迁... 你有没有想过,当你换了一部新手机,如何把旧手机里的照片、联系人、音乐、应用等宝贝全部搬到新手机上呢?...
苹果手机支持的安卓系统,探索跨... 你知道吗?最近有个话题在科技圈里可是炸开了锅,那就是苹果手机竟然支持安卓系统了!是不是觉得有点不可思...
鸿蒙系统安装安卓早期app,畅... 你有没有发现,最近手机界又掀起了一股热潮?没错,就是华为的鸿蒙系统!这款全新的操作系统一经推出,就吸...
安卓机耍苹果系统,跨界体验新篇... 你知道吗?在科技圈里,最近可是掀起了一股不小的风浪呢!那就是安卓机竟然开始“耍”苹果系统了。这可不是...
安卓手机修改系统界面,安卓手机... 你有没有想过,你的安卓手机界面其实可以变得超级个性?没错,就是那种别人一看就知道是你手机的感觉!今天...
安卓更新新系统很卡,安卓系统升... 亲爱的安卓用户们,最近是不是发现更新了新系统后,手机变得超级卡顿?别急,今天就来聊聊这个让人头疼的问...
安卓登录注册系统有哪些,功能解... 你有没有想过,每次打开安卓手机,那熟悉的登录注册界面背后,竟然隐藏着如此复杂的系统?今天,就让我带你...
安卓学生系统下载地址,开启智慧... 你有没有听说最近安卓学生系统火得一塌糊涂?这可是专为学生们打造的操作系统,听说功能强大,学习生活两不...
安卓原厂悦联系统,智能生活新体... 你知道吗?在手机界,有一个系统可是隐藏的宝藏哦!那就是安卓原厂悦联系统。它就像是一颗璀璨的明珠,镶嵌...
为何中国做不出安卓系统 你有没有想过,为什么咱们中国做不出像安卓那样全球知名的操作系统呢?这背后可是有着不少故事和原因哦!让...