【CDP】更改solr 存储路径导致ranger-audit 大量报错问题解决
创始人
2024-05-29 14:43:43
0

前言

我们生产上公司是使用的CDP集群,一次管理员通知,Solr 组件的数据存放路径磁盘空间不够。

我们的solr 组件时为 Ranger 服务提供日志审计功能,

在我们更改了磁盘路径,并重启了Solr 组件,然后发现相关组件,如 HDFS, Kafka 等会报相关的报错。具体如下:

报错

在重启 Solr 后,有大量的404报错,无法找到 ranger_audit 这个索引。
在这里插入图片描述
由于换了新的存储路径,那么索引肯定时找不到了,于是我们决定重启相关受影响的组件,这样的话,可能索引就会新建。

也正是这一步,让我们一错再错。

重启

在重启相关受影响组件后,发现 404 的报错是没了,变成了 403 的报错。

并且新的路径下,solr 的shard 数据也没有生成。

报错如下图:

在这里插入图片描述
到这里,才反应过来,这个问题和其余的组件的关系不太,主要根源是,更改了新的路径后,solr 集群之间,solr 与 zk 之间的联系出了问题。

解决方案

1. 停止solr 组件

集群 -> CDP INFRA SOLR -> 操作 -> 停止。

在这里插入图片描述

2. 更换新的路径

这部之前已经操作过了,所以跳过。

3. zookeeper znode 清理

由于我们的zk 有jaas 认证,所以需要先导入环境变量

export JVMFLAGS="-Djava.secury.auth.login.conf=jaas.conf"

进入zookeeper

zookeeper-client -server `hostname -f`

删除节点

rmr /solr-infra/collections/ranger_audits
rmr /solr-infra/configs/ranger_audits

4. 优化审计索引存储时间,副本数(可跳过)

这一步骤不是必须操作,只是对 ranger_audit 该索引进行一些优化。如 TTL,副本数,shard个数 等等。这个因人而异,配置符合自己集群性能才是关键。

修改最大shard 个数。
在这里插入图片描述

shard 个数在这里插入图片描述

副本数
在这里插入图片描述

5. 启动Solr

集群 -> CDP INFRA SOLR -> 操作 -> 启动。

6. 重启ranger

集群 -> Ranger -> 实例 -> ranger admin -> 重启。

在这里插入图片描述

到此,问题应该是可以解决了,如果相关受影响组件仍在报错。继续执行第七步。

7. 进入solr web ui 修改索引

  1. 跳转KNOX WEB UI

集群 -> KNOX -> KNOX GATEWAY HOME -> Solr
在这里插入图片描述
在这里插入图片描述

  1. 删除collection

进入 solr web ui -> Collections > Delete collection -> 输入要删除的collection 名字
在这里插入图片描述

此处输入 ranger_audit,然后点击 Delete 按钮。
在这里插入图片描述

  1. 新增collection

Add Collection -> 内容如下:

keyvalue
nameranger_audit
config setranger_audit
numsShards4
replicationFact1
maxShardsPer10

在这里插入图片描述

此时观察日志,发现已经恢复。问题解决。

相关内容

热门资讯

122.(leaflet篇)l... 听老人家说:多看美女会长寿 地图之家总目录(订阅之前建议先查看该博客) 文章末尾处提供保证可运行...
育碧GDC2018程序化大世界... 1.传统手动绘制森林的问题 采用手动绘制的方法的话,每次迭代地形都要手动再绘制森林。这...
育碧GDC2018程序化大世界... 1.传统手动绘制森林的问题 采用手动绘制的方法的话,每次迭代地形都要手动再绘制森林。这...
Vue使用pdf-lib为文件... 之前也写过两篇预览pdf的,但是没有加水印,这是链接:Vu...
PyQt5数据库开发1 4.1... 文章目录 前言 步骤/方法 1 使用windows身份登录 2 启用混合登录模式 3 允许远程连接服...
Android studio ... 解决 Android studio 出现“The emulator process for AVD ...
Linux基础命令大全(上) ♥️作者:小刘在C站 ♥️个人主页:小刘主页 ♥️每天分享云计算网络运维...
再谈解决“因为文件包含病毒或潜... 前面出了一篇博文专门来解决“因为文件包含病毒或潜在的垃圾软件”的问题,其中第二种方法有...
南京邮电大学通达学院2023c... 题目展示 一.问题描述 实验题目1 定义一个学生类,其中包括如下内容: (1)私有数据成员 ①年龄 ...
PageObject 六大原则 PageObject六大原则: 1.封装服务的方法 2.不要暴露页面的细节 3.通过r...
【Linux网络编程】01:S... Socket多进程 OVERVIEWSocket多进程1.Server2.Client3.bug&...
数据结构刷题(二十五):122... 1.122. 买卖股票的最佳时机 II思路:贪心。把利润分解为每天为单位的维度,然后收...
浏览器事件循环 事件循环 浏览器的进程模型 何为进程? 程序运行需要有它自己专属的内存空间࿰...
8个免费图片/照片压缩工具帮您... 继续查看一些最好的图像压缩工具,以提升用户体验和存储空间以及网站使用支持。 无数图像压...
计算机二级Python备考(2... 目录  一、选择题 1.在Python语言中: 2.知识点 二、基本操作题 1. j...
端电压 相电压 线电压 记得刚接触矢量控制的时候,拿到板子,就赶紧去测各种波形,结...
如何使用Python检测和识别... 车牌检测与识别技术用途广泛,可以用于道路系统、无票停车场、车辆门禁等。这项技术结合了计...
带环链表详解 目录 一、什么是环形链表 二、判断是否为环形链表 2.1 具体题目 2.2 具体思路 2.3 思路的...
【C语言进阶:刨根究底字符串函... 本节重点内容: 深入理解strcpy函数的使用学会strcpy函数的模拟实现⚡strc...
Django web开发(一)... 文章目录前端开发1.快速开发网站2.标签2.1 编码2.2 title2.3 标题2.4 div和s...