大数据周会-本周学习内容总结05
创始人
2024-06-02 00:24:50
0

目录

00【陈师兄字节大厂经验分享】

01【MySQL数据同步ES】

1.1【Linux MySQL数据库数据同步Windows ES】

1.1.1【自动创建分片数为0的索引】

1.1.2【数据导入时间过长】

1.2【数据同步,增删改】

1.3【遇到的细节问题】

1.3.1【logstash配置文件,索引名必须小写】

1.4【Linux搭建es】

02【调研】

2.1【Mysql-ES 全量—增量更新机制并实现】

2.2【数据检索(也叫超市或中台)】


00【陈师兄字节大厂经验分享】

大数据
书:《大数据之路》阿里巴巴

大数据,计算和存储,分别用什么!

一致性模型和一致性协议

数据同步:dts canal datax sqoop

数据倾斜方面数据优化

拍照存储计算选型
存储 纠删码

省钱 减少数据资源

监控binlog日志,标计es,es增加一列,查询的时候根据列显示数据!
canal   logstash   并发流读取删除

计算:spark  sparkstreaming  flink  kafka
flume scpoop监听日志文件夹

rabbitmq保证数据一致性,kafka会丢失数据

数据调度,面经,肯定要问!

01【MySQL数据同步ES】

1.1【Linux MySQL数据库数据同步Windows ES】

步骤

  1. MySQL数据库Jar包
  2. xxx.conf配置文件,配置MySQL数据库信息与ES信息
  3. logstash -f ../config/gaokao/mysql03.conf
input {stdin {}jdbc { # 01# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from course_match_requirementcode"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "course_match_requirementcode"}jdbc { # 02# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from enroll_plan_finally"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "enroll_plan_finally"}jdbc { # 03# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from epp"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "epp"}jdbc { # 04# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from id_2022_2021"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "id_2022_2021"}jdbc { # 05# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from major_22_21"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "major_22_21"}jdbc { # 06# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from major_info_category"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "major_info_category"}jdbc { # 07# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from major_name_hot_cold"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "major_name_hot_cold"}jdbc { # 08# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from major_score"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "major_score"}jdbc { # 09# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from recommend_form"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "recommend_form"}jdbc { # 10# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from recommend_form_2021"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "recommend_form_2021"}jdbc { # 11# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from requirement_code"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "requirement_code"}jdbc { # 12# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from school_info"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "school_info"}jdbc { # 13# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/recommend_form"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "hadoop"# MySQL驱动jar包存放位置jdbc_driver_library => "D:\\elk\\logstash\\logstash-7.1.1\\jar\\mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from sectionscore"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "sectionscore"}
}filter {json {source => "message"remove_field => ["message"]}
}output {if[type] == "course_match_requirementcode" { # 01elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_course_match_requirementcode"document_id => "%{id}"}}if[type] == "enroll_plan_finally" { # 02elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_enroll_plan_finally"document_id => "%{id}"}}if[type] == "epp" { # 03elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_epp"document_id => "%{id}"}}if[type] == "id_2022_2021" { # 04elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_id_2022_2021"document_id => "%{id}"}}if[type] == "major_22_21" { # 05elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_major_22_21"document_id => "%{id}"}}if[type] == "major_info_category" { # 06elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_major_info_category"document_id => "%{id}"}}if[type] == "major_name_hot_cold" { # 07elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_major_name_hot_cold"document_id => "%{id}"}}if[type] == "major_score" { # 08elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_major_score"document_id => "%{id}"}}if[type] == "recommend_form" { # 09elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_recommend_form"document_id => "%{id}"}}if[type] == "recommend_form_2021" { # 10elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_recommend_form_2021"document_id => "%{id}"}}if[type] == "requirement_code" { # 11elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_requirement_code"document_id => "%{id}"}}if[type] == "school_info" { # 12elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_school_info"document_id => "%{id}"}}if[type] == "sectionscore" { # 13elasticsearch {hosts => ["127.0.0.1:9200"]index => "gaokao_test_section_score"document_id => "%{id}"}}stdout {codec => json_lines}
}

1.1.1【自动创建分片数为0的索引】

es中若未创建索引,则Logstash会根据配置文件xxx.conf中的信息自动创建索引:

查询数据,enroll_plan_finally数据库,在数据浏览页面数据字段展示不完全。

进行基本查询,可以查到单条数据的所有字段。

1.1.2【数据导入时间过长】

1.2【数据同步,增删改】

修改

1.3【遇到的细节问题】

1.3.1【logstash配置文件,索引名必须小写】

1.4【Linux搭建es】

 

02【调研】

2.1【Mysql-ES 全量—增量更新机制并实现】

ELK 是目前业界使用最广泛的日志数据处理平台。

调研文档:

  1. logstash jdbc全量更新与增量更新_我在北国不背锅的博客-CSDN博客,时间戳、唯一主键id
  2. centos7配置Logstash同步Mysql数据到Elasticsearch - JavaClub全栈架构师技术笔记

第一次同步时需要全量的数据,之后则需要定时去同步增量数据。1、根据唯一主键,2、根据时间戳。

2.2【数据检索(也叫超市或中台)】

数据检索

  1. 概念:数据检索即把数据库中存储的数据根据用户的需求提取出来。数据检索的结果会生成一个数据表,既可以放回数据库,也可以作为进一步处理的对象。
  2. 工作流程:先排序再筛选。
  3. 检索方法:顺序检索、对分检索、索引检索。

数据中台是对既有/新建信息化系统业务与数据的沉淀,是实现数据赋能新业务、新应用的中间、支撑性平台。

各种信息系统大多是独立建设的,无法做到信息的互联互通,导致形成了多个数据孤岛。数据中台的作用是融合新老信息,整合各个孤岛上的信息,快速形成数据服务能力,为企业经营决策、精细化运营提供支持。

数据中台详解:数据中台详解

数据中台解决方案:数据中台解决方案-最新全套文件_数据中台 技术方案

相关内容

热门资讯

手机安卓系统越高越好,探索最新... 你有没有发现,每次手机更新系统,你的手机就像脱胎换骨了一样?没错,说的就是你,那个安卓手机!今天,咱...
鸿蒙系统怎么用回安卓,轻松实现... 你是不是也和我一样,对鸿蒙系统的新鲜感还没过,却又忍不住想回到熟悉的安卓世界?别急,今天就来手把手教...
苹果7跟安卓系统,性能对决与用... 你有没有想过,为什么苹果7那么受欢迎,而安卓系统却有着庞大的用户群体?今天,我们就来聊聊这个话题,看...
安卓手机刷简化系统,轻松实现流... 你有没有想过,你的安卓手机其实可以变得更加轻快、流畅呢?没错,就是通过刷简化系统!今天,就让我带你一...
社保掌上通安卓系统,轻松掌握在... 你有没有发现,现在的生活越来越离不开手机了?无论是购物、聊天还是办公,手机都能轻松搞定。这不,今天就...
安卓系统便宜的手机,盘点安卓系... 你有没有想过,拥有一部安卓系统的手机,却不用花大价钱?现在,我就要给你揭秘那些价格亲民,性能却不打折...
安卓8.0系统单机游戏,探索单... 你有没有发现,自从安卓8.0系统更新后,手机里的游戏体验简直像开了挂一样?没错,今天就来聊聊这个话题...
适合安卓系统平板笔记,高效笔记... 你有没有发现,随着科技的发展,平板电脑已经成为了我们生活中不可或缺的好伙伴呢!尤其是安卓系统的平板,...
旗鱼平板刷安卓系统,畅享智能生... 你有没有想过,你的旗鱼平板刷上安卓系统后,世界会变得多么精彩?想象那些原本只能在电脑上畅游的APP,...
安卓系统更新强行停止,揭秘原因... 最近你的安卓手机是不是也遇到了一个让人头疼的问题?没错,就是安卓系统更新突然强行停止了!这可真是让人...
安卓系统如何备份图片,轻松保存... 手机里的照片可是我们珍贵的回忆啊!有没有想过,万一手机不小心摔了或者丢失了,那些珍贵的瞬间可就找不回...
安卓主流系统哪个好用,探寻最佳... 你有没有想过,手机里的安卓系统就像是我们生活中的各种品牌,各有各的特色和魅力。那么,这么多安卓系统里...
喜欢苹果像素安卓系统,系统之魂 你有没有发现,身边的朋友对手机的选择越来越有个性了呢?有的人偏爱苹果的优雅,有的人则钟情于安卓的活力...
安卓xp系统哪个好用,探寻最佳... 你有没有想过,手机系统就像是我们生活中的各种软件,各有各的特色和优势。今天,咱们就来聊聊安卓系统中的...
安卓系统云端怎么备份,轻松实现... 你有没有想过,手机里的那些珍贵的照片、视频和文件,万一不小心丢失了怎么办?别担心,今天就来给你支个招...
安卓系统9.0与ios,系统革... 你知道吗?在智能手机的世界里,安卓系统和iOS系统就像是一对相爱相杀的“欢喜冤家”。今天,咱们就来聊...
新机安卓怎么激活系统,体验流畅... 你新入手的安卓手机是不是有点儿蒙圈?别急,今天就来手把手教你如何激活系统,让你的新机焕发活力!?一、...
如何删除安卓系统信息,安卓系统... 手机里的信息越来越多,是不是感觉自己的隐私都快要被暴露无遗了?别担心,今天就来教你怎么轻松删除安卓系...
国产安卓系统哪个流畅,揭秘哪家... 你有没有想过,手机里的操作系统就像是我们的大脑,有时候它运行得快慢,直接影响我们的使用体验呢?今天,...
安卓怎么刷主机系统,掌握主机系... 你有没有想过,你的安卓手机或者平板,是不是也能像电脑一样,装上各种酷炫的系统呢?没错,今天就要来给你...