DockerCompose部署系列:构建ELK并同步MySQL数据
admin
2024-03-15 16:46:05
0
# 拉取镜像
docker pull mysql:5.7
# 启动镜像
docker run -p 3306:3306 --name mysql -v /data/mysql/log:/var/log/mysql -v /data/mysql/data:/var/lib/mysql -v /data/mysql/conf:/etc/mysql -e MYSQL_ROOT_PASSWORD=123456 -d mysql:5.7# 配置MySQL
vim /data/mysql/conf/my.cnf[client]
default-character-set=utf8
[mysql]
default-character-set=utf8
[mysqld]
init_connect='SET collation_connection = utf8_unicode_ci'
init_connect='SET NAMES utf8'
character-set-server=utf8
collation-server=utf8_unicode_ci
skip-character-set-client-handshake
skip-name-resolve
# 重启MySQL
docker restart mysql# 建表
DROP TABLE IF EXISTS `sys_log`;
CREATE TABLE `sys_log`  (`id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '日志主键',`title` varchar(50) CHARACTER SET utf8 COLLATE utf8_general_ci NULL DEFAULT '' COMMENT '模块标题',`business_type` int(2) NULL DEFAULT 0 COMMENT '业务类型(0其它 1新增 2修改 3删除)',`method` varchar(100) CHARACTER SET utf8 COLLATE utf8_general_ci NULL DEFAULT '' COMMENT '方法名称',`request_method` varchar(10) CHARACTER SET utf8 COLLATE utf8_general_ci NULL DEFAULT '' COMMENT '请求方式',`oper_name` varchar(50) CHARACTER SET utf8 COLLATE utf8_general_ci NULL DEFAULT '' COMMENT '操作人员',`oper_url` varchar(255) CHARACTER SET utf8 COLLATE utf8_general_ci NULL DEFAULT '' COMMENT '请求URL',`oper_ip` varchar(128) CHARACTER SET utf8 COLLATE utf8_general_ci NULL DEFAULT '' COMMENT '主机地址',`oper_time` datetime(0) NULL DEFAULT NULL COMMENT '操作时间',PRIMARY KEY (`id`) USING BTREE
) ENGINE = InnoDB AUTO_INCREMENT = 1585197503834284034 CHARACTER SET = utf8 COLLATE = utf8_general_ci COMMENT = '操作日志记录' ROW_FORMAT = Dynamic;SET FOREIGN_KEY_CHECKS = 1;# ELK搭建准备
# elasticsearch挂载
mkdir -p /data/elk/elasticsearch/{config,plugins,data,logs}
# 赋权
chmod 777 /data/elk/elasticsearch/{config,plugins,data,logs}# kibana挂载
mkdir -p /data/elk/kibana/config# logstash挂载
mkdir -p /data/elk/logstash/config
# 赋权
chmod 777 /data/elk/logstash/config# 配置elasticsearch
vim /data/elk/elasticsearch/config/elasticsearch.ymlhttp.host: 0.0.0.0
xpack.security.enabled: false# 配置kibana
vim /data/elk/kibana/config/kibana.ymlserver.host: 0.0.0.0
elasticsearch.hosts: [ "http://192.168.5.11:9200" ]# 配置logstash
vim /data/elk/logstash/config/logstash.ymlhttp.host: 0.0.0.0
xpack.monitoring.elasticsearch.hosts: [ "http://192.168.5.11:9200" ]# 创建日志文件
touch /data/elk/logstash/config/log
chmod 777 /data/elk/logstash/config/log# 自行下载mysql-connector-java-8.0.28.jar 放到/data/elk/logstash/config/
# 配置logstash文件
vim /data/elk/logstash/config/logstash.conf
input {stdin {}jdbc {jdbc_connection_string => "jdbc:mysql://192.168.5.11:3306/test?useUnicode=true&characterEncoding=utf8&serverTimezone=UTC"jdbc_user => "root"jdbc_password => "123456"jdbc_driver_library => "/usr/share/logstash/config/mysql-connector-java-8.0.28.jar"jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "300000"statement => "SELECT id, title, business_type, method, request_method, oper_name, oper_url, oper_ip, oper_time FROM sys_log"schedule => "*/1 * * * *"use_column_value => falsetracking_column_type => "timestamp"tracking_column => "oper_time"record_last_run => truejdbc_default_timezone => "Asia/Shanghai"last_run_metadata_path => "/usr/share/logstash/config/log"}
}output {elasticsearch {hosts => ["192.168.5.11:9200"]index => "sys_log"document_id => "%{id}"}stdout {codec => json_lines}
}# 配置流水线
vim /data/elk/logstash/config/pipelines.yml- pipeline.id: sys_logpath.config: "/usr/share/logstash/config/logstash.conf"# 编辑dockerCompose一键搭建
vim docker-compose.ymlversion: '3'
services:elasticsearch:image: elasticsearch:7.17.7container_name: elasticsearchports:- "9200:9200"- "9300:9300"environment:- cluster.name=elasticsearch- discovery.type=single-node- "ES_JAVA_OPTS=-Xms64m -Xmx512m"volumes:- /data/elk/elasticsearch/plugins:/usr/share/elasticsearch/plugins- /data/elk/elasticsearch/data:/usr/share/elasticsearch/data- /data/elk/elasticsearch/logs:/usr/share/elasticsearch/logskibana:image: kibana:7.17.7container_name: kibanaports:- "5601:5601"depends_on:- elasticsearchenvironment:I18N_LOCALE: zh-CNvolumes:- /data/elk/kibana/config/kibana.yml:/usr/share/kibana/config/kibana.ymllogstash:image: logstash:7.17.7container_name: logstashports:- "5044:5044"volumes:- /data/elk/logstash/config:/usr/share/logstash/configdepends_on:- elasticsearch# docker-compose.yml文件下执行	  
docker-compose up -d  # 测试访问Kibana
http://192.168.5.11:5601/app/home#/# 安装完之后,单个启动使用
# 启动elasticsearch
docker run --name elasticsearch -p 9200:9200 -p 9300:9300 -e "discovery.type=single-node" -e ES_JAVA_OPTS="-Xms64m -Xmx512m" -v /data/elk/elasticsearch/config/elasticsearch.yml:/usr/share/elasticsearch/config/elasticsearch.yml -v /data/elk/elasticsearch/data:/usr/share/elasticsearch/data -v  /data/elk/elasticsearch/plugins:/usr/share/elasticsearch/plugins -d elasticsearch:7.17.7
# 启动kibana
docker run --name kibana -e ELASTICSEARCH_HOSTS=http://192.168.5.11:9200 -p 5601:5601 -d kibana:7.17.7
# 启动logstash
docker run --name logstash -p 5044:5044 -v /data/elk/logstash/config:/usr/share/logstash/config -d logstash:7.17.7

在Kibana上创建索引,然后再数据库的sys_log表中添加测试数据。将会自动同步到ES中去

# 创建与数据库表一样的索引结构
PUT /sys_log
{"settings": {"number_of_shards": 1,"number_of_replicas": 0,"index": {"max_result_window": 100000000}},"mappings": {"dynamic": "strict","properties": {"@timestamp": {"type": "date"},"@version": {"type": "text","fields": {"keyword": {"type": "keyword","ignore_above": 256}}},"business_type": {"type": "integer"},"title": {"type": "text"},"method": {"type": "text"},"request_method": {"type": "text"},"oper_name": {"type": "text"},"oper_url": {"type": "text"},"oper_ip": {"type": "text"},"oper_time": {"type": "date"},"id": {"type": "long"}}}
}# 查询索引
GET /sys_log/_search
{"query": {"match_all": {}}
}

相关内容

热门资讯

怎么解除订阅安卓系统,安卓系统... 你是不是也和我一样,手机里订阅了好多服务,结果现在想解除订阅,却一头雾水?别急,今天就来手把手教你如...
安卓系统停用怎么开启,轻松恢复... 亲爱的手机控们,你是否曾经遇到过安卓系统突然停用的情况,让你手忙脚乱,不知所措?别担心,今天就来教你...
安卓系统电池健康度,电池健康度... 你有没有发现,你的安卓手机最近是不是有点儿不给力了?电池续航能力大不如前,充电速度也慢了不少?别急,...
安卓系统按键怎么截图,安卓系统... 你是不是也和我一样,有时候想截个图分享给朋友,却发现安卓手机的截图功能有点神秘呢?别急,今天就来手把...
购票系统安卓源代码,架构设计与... 你有没有想过,那些我们每天离不开的购票系统,它们背后的秘密是什么呢?今天,就让我带你一探究竟,揭开购...
安卓手机系统后台测试,深度解析... 你有没有发现,你的安卓手机后台总是悄悄地忙碌着?别小看了这些后台程序,它们可是手机系统稳定运行的关键...
安卓系统重启的图标,解锁设备新... 手机突然重启,是不是心里有点慌?别急,今天就来和你聊聊安卓系统重启的图标,让你一眼就能认出它,再也不...
车载智慧屏安卓系统,智能出行新... 你有没有发现,现在的车载智慧屏越来越智能了?尤其是那些搭载了安卓系统的,简直就像是个移动的小电脑,不...
安卓系统连上网权限,解锁设备无... 你有没有发现,你的安卓手机里有些应用总是偷偷连上网?别小看这个小小的网络权限,它可是能影响你隐私、消...
安卓谷歌操作系统,探索安卓谷歌... 你知道吗?在智能手机的世界里,有一个操作系统可是无人不知、无人不晓,那就是安卓谷歌操作系统。它就像一...
安卓系统手写%怎样调出,具体实... 你有没有遇到过这种情况:在使用安卓手机的时候,突然想用手写输入法来记录一些灵感或者重要信息,可是怎么...
安卓手机重置 系统设置,轻松恢... 手机用久了是不是感觉卡顿得厉害?别急,今天就来教你怎么给安卓手机来个大变身——重置系统设置!想象你的...
win如何安装安卓系统,Win... 哇,你有没有想过,让你的Win系统也能玩转安卓应用?没错,就是那种在手机上轻松自如的安卓系统,现在也...
苹果qq和安卓系统,跨平台体验... 你有没有发现,现在手机市场上,苹果和安卓的较量可是越来越激烈了呢!咱们就来聊聊这个话题,看看苹果QQ...
显示最好的安卓系统,探索最新旗... 你有没有想过,为什么安卓系统那么受欢迎呢?它就像一个魔法盒子,里面装满了各种神奇的魔法。今天,就让我...
安卓app怎么降级系统,系统版... 你有没有发现,有时候安卓手机的系统更新后,新功能虽然炫酷,但老系统用起来更顺手呢?别急,今天就来教你...
雷军脱离安卓系统,引领科技变革... 你知道吗?最近科技圈可是炸开了锅,因为我们的雷军大大竟然宣布要脱离安卓系统,这可真是让人大跌眼镜啊!...
安卓系统自动开网络,安卓系统自... 你有没有发现,手机里的安卓系统有时候会自动开启网络连接,这可真是让人又爱又恨啊!有时候,你正专心致志...
安卓系统怎样控制后台,因为服务... 手机里的安卓系统是不是感觉越来越卡了?后台程序太多,不仅耗电还影响性能。别急,今天就来教你怎么巧妙地...
安卓系统打游戏推荐,一触即达! 你有没有发现,现在手机游戏越来越好玩了?不管是休闲小游戏还是大型MMORPG,都能在手机上畅玩。但是...