大数据周会-本周学习内容总结05
创始人
2024-06-02 00:24:50
0

目录

00【陈师兄字节大厂经验分享】

01【MySQL数据同步ES】

1.1【Linux MySQL数据库数据同步Windows ES】

1.1.1【自动创建分片数为0的索引】

1.1.2【数据导入时间过长】

1.2【数据同步,增删改】

1.3【遇到的细节问题】

1.3.1【logstash配置文件,索引名必须小写】

1.4【Linux搭建es】

02【调研】

2.1【Mysql-ES 全量—增量更新机制并实现】

2.2【数据检索(也叫超市或中台)】


00【陈师兄字节大厂经验分享】

大数据
书:《大数据之路》阿里巴巴

大数据,计算和存储,分别用什么!

一致性模型和一致性协议

数据同步:dts canal datax sqoop

数据倾斜方面数据优化

拍照存储计算选型
存储 纠删码

省钱 减少数据资源

监控binlog日志,标计es,es增加一列,查询的时候根据列显示数据!
canal   logstash   并发流读取删除

计算:spark  sparkstreaming  flink  kafka
flume scpoop监听日志文件夹

rabbitmq保证数据一致性,kafka会丢失数据

数据调度,面经,肯定要问!

01【MySQL数据同步ES】

1.1【Linux MySQL数据库数据同步Windows ES】

步骤

  1. MySQL数据库Jar包
  2. xxx.conf配置文件,配置MySQL数据库信息与ES信息
  3. logstash -f ../config/gaokao/mysql03.conf
input {stdin {}jdbc { # 01# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from course_match_requirementcode"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "course_match_requirementcode"}jdbc { # 02# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from enroll_plan_finally"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "enroll_plan_finally"}jdbc { # 03# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from epp"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "epp"}jdbc { # 04# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from id_2022_2021"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "id_2022_2021"}jdbc { # 05# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from major_22_21"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "major_22_21"}jdbc { # 06# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from major_info_category"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "major_info_category"}jdbc { # 07# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from major_name_hot_cold"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "major_name_hot_cold"}jdbc { # 08# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from major_score"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "major_score"}jdbc { # 09# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from recommend_form"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "recommend_form"}jdbc { # 10# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from recommend_form_2021"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "recommend_form_2021"}jdbc { # 11# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from requirement_code"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "requirement_code"}jdbc { # 12# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from school_info"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "school_info"}jdbc { # 13# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from sectionscore"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "sectionscore"}
}filter {json {source => "message"remove_field => ["message"]}
}output {if[type] == "course_match_requirementcode" { # 01elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_course_match_requirementcode"document_id => "%{id}"}}if[type] == "enroll_plan_finally" { # 02elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_enroll_plan_finally"document_id => "%{id}"}}if[type] == "epp" { # 03elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_epp"document_id => "%{id}"}}if[type] == "id_2022_2021" { # 04elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_id_2022_2021"document_id => "%{id}"}}if[type] == "major_22_21" { # 05elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_major_22_21"document_id => "%{id}"}}if[type] == "major_info_category" { # 06elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_major_info_category"document_id => "%{id}"}}if[type] == "major_name_hot_cold" { # 07elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_major_name_hot_cold"document_id => "%{id}"}}if[type] == "major_score" { # 08elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_major_score"document_id => "%{id}"}}if[type] == "recommend_form" { # 09elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_recommend_form"document_id => "%{id}"}}if[type] == "recommend_form_2021" { # 10elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_recommend_form_2021"document_id => "%{id}"}}if[type] == "requirement_code" { # 11elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_requirement_code"document_id => "%{id}"}}if[type] == "school_info" { # 12elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_school_info"document_id => "%{id}"}}if[type] == "sectionscore" { # 13elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_section_score"document_id => "%{id}"}}stdout {codec => json_lines}
}

1.1.1【自动创建分片数为0的索引】

es中若未创建索引,则Logstash会根据配置文件xxx.conf中的信息自动创建索引:

查询数据,enroll_plan_finally数据库,在数据浏览页面数据字段展示不完全。

进行基本查询,可以查到单条数据的所有字段。

1.1.2【数据导入时间过长】

1.2【数据同步,增删改】

修改

1.3【遇到的细节问题】

1.3.1【logstash配置文件,索引名必须小写】

1.4【Linux搭建es】

 

02【调研】

2.1【Mysql-ES 全量—增量更新机制并实现】

ELK 是目前业界使用最广泛的日志数据处理平台。

调研文档:

  1. logstash jdbc全量更新与增量更新_我在北国不背锅的博客-CSDN博客,时间戳、唯一主键id
  2. centos7配置Logstash同步Mysql数据到Elasticsearch - JavaClub全栈架构师技术笔记

第一次同步时需要全量的数据,之后则需要定时去同步增量数据。1、根据唯一主键,2、根据时间戳。

2.2【数据检索(也叫超市或中台)】

数据检索

  1. 概念:数据检索即把数据库中存储的数据根据用户的需求提取出来。数据检索的结果会生成一个数据表,既可以放回数据库,也可以作为进一步处理的对象。
  2. 工作流程:先排序再筛选。
  3. 检索方法:顺序检索、对分检索、索引检索。

数据中台是对既有/新建信息化系统业务与数据的沉淀,是实现数据赋能新业务、新应用的中间、支撑性平台。

各种信息系统大多是独立建设的,无法做到信息的互联互通,导致形成了多个数据孤岛。数据中台的作用是融合新老信息,整合各个孤岛上的信息,快速形成数据服务能力,为企业经营决策、精细化运营提供支持。

数据中台详解:数据中台详解

数据中台解决方案:数据中台解决方案-最新全套文件_数据中台 技术方案

相关内容

热门资讯

安卓导航怎么重做系统,系统重做... 你的安卓导航是不是突然卡壳了,或者你只是想给它来个焕然一新的大变身?别急,今天就来手把手教你如何给安...
安卓手写平板系统重装,轻松恢复... 你那安卓手写平板系统是不是突然间就闹起了别扭,各种卡顿、崩溃,让你头疼不已?别急,今天就来给你详细说...
小米刷安卓13系统教程,小米手... 亲爱的米粉们,你是否已经迫不及待想要升级你的小米手机到最新的安卓13系统呢?别急,今天我就要手把手教...
语音包在哪里安卓系统,语音包生... 你有没有想过,有时候一句话就能让气氛瞬间活跃起来?没错,就是那些有趣的语音包!它们就像魔法一样,能让...
htc g10安卓系统,性能与... 你知道吗?最近我在手机圈里发现了一个小秘密,那就是HTC G10这款手机。这款手机搭载的安卓系统,简...
那几款手机是安卓系统 说到手机,安卓系统可是占据了半壁江山呢!市面上那么多手机,哪几款才是安卓系统中的佼佼者呢?今天,就让...
三星安卓系统评测,体验升级 你有没有发现,手机市场里总是有那么几个品牌,它们就像明星一样,总是能吸引我们的目光?今天,咱们就来聊...
老电脑装安卓6.0系统,轻松安... 你那台老电脑是不是已经服役多年,性能越来越不给力了?别急,今天就来给你支个招——给老电脑装上安卓6....
流畅度最高的安卓系统,揭秘安卓... 你有没有想过,为什么你的手机用起来那么顺滑,而别人的手机却总是卡得要命?这背后,其实隐藏着一个秘密—...
安卓手机系统服务在哪有,安卓手... 你有没有遇到过这种情况:手机里装了各种各样的应用,但是有时候想找某个服务却怎么也找不到?别急,今天就...
安卓11系统有哪些版本 你有没有发现,你的安卓手机最近是不是有点儿不一样了?没错,那就是安卓11系统的魅力所在!自从安卓11...
rog3安卓系统更新,体验极致... 亲爱的玩家们,你是否已经迫不及待地想要了解最新的Rog3安卓系统更新了呢?那就跟我一起,深入探索这次...
安卓系统隐藏应用appstor... 亲爱的手机控们,你是否曾好奇过,安卓系统里那些神秘的隐藏应用?没错,就是那些你不经意间就能发现,却又...
安卓系统车机互联软件 你有没有发现,现在开车的时候,手机和车机之间的互动越来越频繁了呢?想象你正驾驶着爱车,一边享受着音乐...
荣耀play4安卓系统,智能生... 你有没有发现,最近手机圈里又掀起了一股热潮?没错,就是荣耀Play4这款新机!它不仅外观时尚,性能强...
安卓模拟苹果多开系统,打造跨平... 你有没有想过,在安卓手机上也能享受到苹果系统的多开功能呢?没错,这就是今天我要跟你分享的神奇话题——...
广汽埃安是安卓系统吗,搭载安卓... 你有没有想过,你的爱车广汽埃安,它的操作系统是不是安卓呢?这个问题,估计不少车友都在心里默默琢磨过。...
安卓系统是google的吗,谷... 你有没有想过,安卓系统是不是谷歌的亲生孩子呢?这个问题,就像是在问苹果是不是苹果树的宝宝一样,让人好...
安卓系统的设置程序下载,轻松掌... 你有没有发现,手机里的安卓系统设置程序真是五花八门,让人眼花缭乱?今天,就让我带你一起探索这个神秘的...
安卓系统的手机家园,打造个性化... 你有没有发现,现在手机的世界里,安卓系统的手机家园可是越来越热闹了呢!想象每天打开手机,就像走进了一...