HBase 常见问题总结(一)
admin
2024-01-21 00:21:51
0

前言

本文隶属于专栏《大数据异常问题汇总》,该专栏为笔者原创,引用请注明来源,不足和错误之处请在评论区帮忙指出,谢谢!


问题一:业务表出现大量空Region

应用背景

业务流水表的Rowkey设计是按照字典序严格递增的,采用分桶机制由多个进程向一个或多个独享的分桶写人数据。

产生问题

随着数据持续不断地人库到 HBase 表,该表的 Region 不断发生分裂,分裂后前一个 Region 不再会有数据写人,数据继续写入新生成的 Region。

一段时间后,当一个Region中的数据全部过期,RegionServer触发 major compaction 后,Region 中的数据就会被物理删除,此时该 Region 就会变成一个没有用的空 Region。

当集群中的空 Region 过多时,会给集群管理带来麻烦,meta 表持续增大,增大了 HMaster 节点的压力。

解决措施

HBase 支持在线合并 Region,我们只需要例行化检查该表中 Region 的状态,如果出现多个连续空 Region 时,我们将这些空 Region 合并成一个 Region 即可。


问题二:业务 HBase 客户端 RPC 连接异常关闭

应用背景

业务系统数据是从 MySQL 同步人库 HBase,同步入库频率跟业务系统的用户使用频率直接相关。

产生问题

我们从业务 HBase 客户端日志中观察到在某些时间段总是打印 RPC 连接异常关闭。

解决措施

调整 HBase 客户端参数,将 RPC 超时时间从 60s 调整到 180s,同时客户端强制每分钟或是满 1000 条记录就执行一次 flush commit,从 DB 同步一次 HBase,保证 RPC 长连接不会自动关闭。


问题三:单台 RegionServer 的 I/O 使用率一直为100%,HBase 集群请求量为0

应用背景

为了提高数据的人库速率,业务 HBase 客户端采用 putlist 接口减少客户端与服务端 RPC 连接的次数。

产生问题

当单台 RegionServer 出现磁盘异常时,某个磁盘 IO 使用率一直 100% 时,整个集群出现不可用,集群请求量直接为0。

解决措施

对集群机器增加磁盘 IO 异常的监控,发现有分区磁盘使用率过高,就自动将该机器从集群中剔除。

相关内容

热门资讯

122.(leaflet篇)l... 听老人家说:多看美女会长寿 地图之家总目录(订阅之前建议先查看该博客) 文章末尾处提供保证可运行...
育碧GDC2018程序化大世界... 1.传统手动绘制森林的问题 采用手动绘制的方法的话,每次迭代地形都要手动再绘制森林。这...
育碧GDC2018程序化大世界... 1.传统手动绘制森林的问题 采用手动绘制的方法的话,每次迭代地形都要手动再绘制森林。这...
Vue使用pdf-lib为文件... 之前也写过两篇预览pdf的,但是没有加水印,这是链接:Vu...
PyQt5数据库开发1 4.1... 文章目录 前言 步骤/方法 1 使用windows身份登录 2 启用混合登录模式 3 允许远程连接服...
Android studio ... 解决 Android studio 出现“The emulator process for AVD ...
Linux基础命令大全(上) ♥️作者:小刘在C站 ♥️个人主页:小刘主页 ♥️每天分享云计算网络运维...
再谈解决“因为文件包含病毒或潜... 前面出了一篇博文专门来解决“因为文件包含病毒或潜在的垃圾软件”的问题,其中第二种方法有...
南京邮电大学通达学院2023c... 题目展示 一.问题描述 实验题目1 定义一个学生类,其中包括如下内容: (1)私有数据成员 ①年龄 ...
PageObject 六大原则 PageObject六大原则: 1.封装服务的方法 2.不要暴露页面的细节 3.通过r...
【Linux网络编程】01:S... Socket多进程 OVERVIEWSocket多进程1.Server2.Client3.bug&...
数据结构刷题(二十五):122... 1.122. 买卖股票的最佳时机 II思路:贪心。把利润分解为每天为单位的维度,然后收...
浏览器事件循环 事件循环 浏览器的进程模型 何为进程? 程序运行需要有它自己专属的内存空间࿰...
8个免费图片/照片压缩工具帮您... 继续查看一些最好的图像压缩工具,以提升用户体验和存储空间以及网站使用支持。 无数图像压...
计算机二级Python备考(2... 目录  一、选择题 1.在Python语言中: 2.知识点 二、基本操作题 1. j...
端电压 相电压 线电压 记得刚接触矢量控制的时候,拿到板子,就赶紧去测各种波形,结...
如何使用Python检测和识别... 车牌检测与识别技术用途广泛,可以用于道路系统、无票停车场、车辆门禁等。这项技术结合了计...
带环链表详解 目录 一、什么是环形链表 二、判断是否为环形链表 2.1 具体题目 2.2 具体思路 2.3 思路的...
【C语言进阶:刨根究底字符串函... 本节重点内容: 深入理解strcpy函数的使用学会strcpy函数的模拟实现⚡strc...
Django web开发(一)... 文章目录前端开发1.快速开发网站2.标签2.1 编码2.2 title2.3 标题2.4 div和s...