hdfs清理数据后,Blocks Pending Deletion持续增长导致磁盘不释放问题记录
admin
2024-01-18 15:52:02
0

今天收到测试环境磁盘资源告警,发现hdfs占用磁盘过多,于是清理了一波,删除了很多大文件

然后奇葩的事情发生了,清理之后磁盘占用不仅没用变少,反而还变多了

但是使用hdfs dfs -du -s -h /命令查看,数据确实是清理了的,排除回收站问题

通过hdfs ui观察,发现Number of Blocks Pending Deletion变得好大,而且还在持续增长
一般来说这个值变大是因为突然删除了大量数据导致,hdfs通过命令删除文件时,namenode只是把目录入口删掉,然后把需要删除的数据库记录到pending deletion blocks列表,当下一次datanode向namenode发送心跳的时候,namenode再把删除命令和这个列表发送到datanode。

但是照理来说应该时变大之后再慢慢变小才对,为何还会持续增长呢

然后查资料的时候发现一个参数设置:dfs.namenode.startup.delay.block.deletion.sec
官网文档释义如下:

The delay in seconds at which we will pause the blocks deletion after Namenode startup. By default it's disabled. In the case a directory has large number of directories and files are deleted, suggested delay is one hour to give the administrator enough time to notice large number of pending deletion blocks and take corrective action.

大概意思时说namenode重启后的一段时间,暂停数据块的删除
然后我们这个值配置的3600,也就是重启后1小时内不会进行数据块删除
好巧不巧,我删除数据之前正好重启了namenode。。。

于是把这个配置改为0,再重启hdfs,问题解决

参考链接:
https://blog.csdn.net/hejiangtju/article/details/80152341
https://hadoop.apache.org/docs/r3.2.2/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml

相关内容

热门资讯

华为安卓系统换头,换头技术引领... 你知道吗?最近科技圈可是炸开了锅,华为安卓系统换头的大动作引起了广泛关注。这可不是什么小打小闹,而是...
安卓系统支持国语吗,畅享本地化... 你有没有想过,当你拿起手机,打开那个熟悉的安卓系统时,它是不是真的支持我们的大国语言——国语呢?这个...
电脑安装安卓完美系统,电脑安装... 你有没有想过,把安卓系统装在你的电脑上,是不是就像给电脑穿上了时尚的新衣?想象那些你手机上爱不释手的...
安卓oppo系统更新包,体验流... 你有没有发现,你的OPPO手机最近是不是变得有点儿不一样了?没错,这就是安卓系统更新包的魔力!今天,...
安卓系统车载导航更新了,安卓系... 你知道吗?最近安卓系统车载导航可是来了一次大变身呢!是不是觉得开车的时候导航系统有点儿慢吞吞的,信息...
安卓移动点餐系统报告,助力餐饮... 你有没有发现,现在点外卖已经成了生活中不可或缺的一部分?手机轻轻一点,美食就能送到家门口,是不是超级...
国产系统为什么都是安卓,兼容性... 你有没有发现,现在市面上很多国产手机和电脑,虽然品牌各异,但操作系统大多都是安卓呢?这究竟是为什么呢...
台电如何删除安卓系统,轻松删除... 你有没有遇到过这种情况:手机里装了安卓系统,但是台电的某些功能让你觉得不爽,想要彻底删除它?别急,今...
安卓系统的id在哪找,揭秘设备... 你有没有遇到过这种情况:手机里装了各种各样的应用,有时候想找某个应用,却怎么也找不到它的ID。别急,...
华为怎么退出安卓系统,探索退出... 你知道吗?最近华为可是闹得沸沸扬扬的,他们竟然要退出安卓系统了!这可不是一个简单的决定,背后可是有着...
windows系统上安装安卓,... 你有没有想过在Windows系统上也能用上安卓系统呢?没错,这可不是天方夜谭,而是完全可行的。今天,...
安卓手机系统设置apk,轻松生... 你有没有发现,你的安卓手机最近有点儿“懒”了呢?运行速度慢了下来,应用层出不穷,你有没有想过,是不是...
土鸡视频安卓系统下载,轻松享受... 你有没有想过,一只土鸡在高清视频里跳起舞来会是怎样的场景?想象那毛茸茸的小家伙,欢快地摇着尾巴,在绿...
电脑下载安卓系统软件,探索安卓... 你有没有想过,你的电脑也能装上安卓系统呢?没错,就是那个我们手机上常用的安卓系统!今天,就让我带你一...
欧版安卓系统怎么样,探索欧版安... 你有没有想过,为什么安卓系统在全球范围内这么受欢迎呢?尤其是那个传说中的欧版安卓系统,它到底有什么特...
dx220纯音系统和安卓系统,... 你有没有想过,为什么有时候听音乐的感觉就是那么不一样呢?是不是因为你的音响系统不够强大,或者是你的操...
安卓系统版本名字,版本变迁之旅 你有没有发现,每次打开手机,系统都会提醒你更新安卓系统版本?那些听起来像是外星语言的名字,是不是让你...
安卓以外的系统有什么,多系统平... 你有没有想过,除了安卓这个大家伙,还有其他操作系统在默默耕耘呢?是的,你没听错,这个世界不仅仅只有安...
怎么看安卓几系统,如何识别与选... 亲爱的读者们,你是否也像我一样,对安卓系统的更新换代充满了好奇?安卓系统,这个陪伴我们手机生活的“老...
安卓版系统怎么删除,副标题被成... 手机里的安卓版系统里是不是也堆满了你不想再看到的文件和应用程序?别急,今天就来手把手教你如何轻松删除...