hdfs清理数据后,Blocks Pending Deletion持续增长导致磁盘不释放问题记录
admin
2024-01-18 15:52:02
0

今天收到测试环境磁盘资源告警,发现hdfs占用磁盘过多,于是清理了一波,删除了很多大文件

然后奇葩的事情发生了,清理之后磁盘占用不仅没用变少,反而还变多了

但是使用hdfs dfs -du -s -h /命令查看,数据确实是清理了的,排除回收站问题

通过hdfs ui观察,发现Number of Blocks Pending Deletion变得好大,而且还在持续增长
一般来说这个值变大是因为突然删除了大量数据导致,hdfs通过命令删除文件时,namenode只是把目录入口删掉,然后把需要删除的数据库记录到pending deletion blocks列表,当下一次datanode向namenode发送心跳的时候,namenode再把删除命令和这个列表发送到datanode。

但是照理来说应该时变大之后再慢慢变小才对,为何还会持续增长呢

然后查资料的时候发现一个参数设置:dfs.namenode.startup.delay.block.deletion.sec
官网文档释义如下:

The delay in seconds at which we will pause the blocks deletion after Namenode startup. By default it's disabled. In the case a directory has large number of directories and files are deleted, suggested delay is one hour to give the administrator enough time to notice large number of pending deletion blocks and take corrective action.

大概意思时说namenode重启后的一段时间,暂停数据块的删除
然后我们这个值配置的3600,也就是重启后1小时内不会进行数据块删除
好巧不巧,我删除数据之前正好重启了namenode。。。

于是把这个配置改为0,再重启hdfs,问题解决

参考链接:
https://blog.csdn.net/hejiangtju/article/details/80152341
https://hadoop.apache.org/docs/r3.2.2/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml

相关内容

热门资讯

【MySQL】锁 锁 文章目录锁全局锁表级锁表锁元数据锁(MDL)意向锁AUTO-INC锁...
【内网安全】 隧道搭建穿透上线... 文章目录内网穿透-Ngrok-入门-上线1、服务端配置:2、客户端连接服务端ÿ...
GCN的几种模型复现笔记 引言 本篇笔记紧接上文,主要是上一篇看写了快2w字,再去接入代码感觉有点...
数据分页展示逻辑 import java.util.Arrays;import java.util.List;impo...
Redis为什么选择单线程?R... 目录专栏导读一、Redis版本迭代二、Redis4.0之前为什么一直采用单线程?三、R...
【已解决】ERROR: Cou... 正确指令: pip install pyyaml
关于测试,我发现了哪些新大陆 关于测试 平常也只是听说过一些关于测试的术语,但并没有使用过测试工具。偶然看到编程老师...
Lock 接口解读 前置知识点Synchronized synchronized 是 Java 中的关键字,...
Win7 专业版安装中文包、汉... 参考资料:http://www.metsky.com/archives/350.htm...
3 ROS1通讯编程提高(1) 3 ROS1通讯编程提高3.1 使用VS Code编译ROS13.1.1 VS Code的安装和配置...
大模型未来趋势 大模型是人工智能领域的重要发展趋势之一,未来有着广阔的应用前景和发展空间。以下是大模型未来的趋势和展...
python实战应用讲解-【n... 目录 如何在Python中计算残余的平方和 方法1:使用其Base公式 方法2:使用statsmod...
学习u-boot 需要了解的m... 一、常用函数 1. origin 函数 origin 函数的返回值就是变量来源。使用格式如下...
常用python爬虫库介绍与简... 通用 urllib -网络库(stdlib)。 requests -网络库。 grab – 网络库&...
药品批准文号查询|药融云-中国... 药品批文是国家食品药品监督管理局(NMPA)对药品的审评和批准的证明文件...
【2023-03-22】SRS... 【2023-03-22】SRS推流搭配FFmpeg实现目标检测 说明: 外侧测试使用SRS播放器测...
有限元三角形单元的等效节点力 文章目录前言一、重新复习一下有限元三角形单元的理论1、三角形单元的形函数(Nÿ...
初级算法-哈希表 主要记录算法和数据结构学习笔记,新的一年更上一层楼! 初级算法-哈希表...
进程间通信【Linux】 1. 进程间通信 1.1 什么是进程间通信 在 Linux 系统中,进程间通信...
【Docker】P3 Dock... Docker数据卷、宿主机与挂载数据卷的概念及作用挂载宿主机配置数据卷挂载操作示例一个容器挂载多个目...