【Linux内核三】网络丢包debug案例
创始人
2024-06-01 16:52:12
0次

👉个人主页:highman110

👉作者简介:一名硬件工程师,持续学习,不断记录,保持思考,输出干货内容 

目录

前言

测试环境

测试现象

​编辑 定位过程

​编辑 优化手段

1、加大ring buffer

2、加大socket buffer

3、尝试中断绑核


前言

前面两篇文章分享了Linux网络收发包流程和常用的网络问题定位工具,本期分享一个实际的测试案例,结合前面两篇的理论基础,逐步分析丢包的原因和解决办法。

测试环境

使用某国产CPU平台的两台设备,用iperf3工具进行udp报文测试。

设备A配置网口IP为192.168.1.12。

设备B配置网口IP为192.168.1.100。

设备A作为server端,从默认端口5201监听报文。

设备B作为client端,从默认端口发送udp报文,设置带宽1000M,测试时间5S。

测试现象

从设备A端监听到有丢包,且传输速率也只有六百多兆,没有达到设定的1000M水平:

 定位过程

用ifconfig查询网口统计,看是接收出错还是发送出错。

设备B发送端,可以看到发送没有错误统计:

设备A接收端,可以看到有rx error和overrun:

 

以下是从网上其他文章中看到的接收端错误解释,我上一篇文章中也有说明,由于我不是做做软件的,不懂看内核代码,具体这些统计的含义,建议有条件看代码的大佬以代码为准,我这里只是拾人牙慧,我个人觉得上一篇文章开头中提到的那篇雄文对于细节的理解应该是比较到位的:

(1) RX errors

表示总的收包的错误数量,这包括 too-long-frames 错误,crc 校验错误,帧同步错误以及 missed pkg 等等。

(2) RX dropped

表示数据包已经进入了Ring Buffer,但是由于内核处理不过来等系统原因,导致在数据从网卡拷贝到内存的过程中被丢弃。(这句话描述有误,ring buffer不是存数据包的,存的是描述符,描述符指向了socket buffer的位置,可以理解为数据DMA到socket buffer时丢了,可能是当前的数据内容大于socket buffer的容量)。

(3) RX overruns

overruns意味着数据包没到 ring buffer就被网卡物理层给丢弃了。当驱动处理速度跟不上网卡收包速度时,驱动来不及分配缓冲区(这句话同样有误,数据包不会到ring buffer),NIC 接收到的数据包无法及时写到socket buffer,就会产生堆积。当NIC内部缓冲区写满后,就会丢弃部分数据,引起丢包。这部分丢包为 rx_fifo_errors,在 /proc/net/dev 中体现为 fifo 字段增长,在 ifconfig 中体现为 overruns 指标增长。

(4) RX frame

表示 misaligned 的 frames。

可以看到接收错误为57个缓存(指的是网卡fifo溢出还是socket buffer还不明确)溢出错误和824非对齐帧错误,可能这两个是关联错误,由于缓存溢出导致一些帧无法对齐。

由于是udp报文测试,通过如下命令查询udp统计,可以看到InErrors和RcvbufErrors相等,更指向接收端缓存溢出错误。

确定为接收端问题后,可以继续查询rx error的具体类型,ifconfig命令统计的是帧对齐错误,这里ethtool没有统计帧对齐错误,而统计了rx resource error,这个不明白是什么意思。

 优化手段

1、加大ring buffer

设备A、B的网口ring buffer默认RX=512,TX=512。

将接收端设备B的ring参数改为tx=2048,rx=2048:

继续测试发现,丢包率降低一点点,带宽提升了一点点,效果不明显。

继续加大ring参数也没有明显效果,甚至丢包率还会劣化。

2、加大socket buffer

设备A、B socket buffer默认为rmem_default=212992,rmem_max=212992。

将接收端加大:

结果有改善,但是仍存在丢包现象。

3、尝试中断绑核

查询当前网卡中断集中在CPU core0上:

将此网卡中断数最多的中断号184重新绑定到core1和core2。其中6 表示的是 core2 和 core1,core0 的掩码是 0x1 (0001),core1掩码是 0x2 (0010),core2掩码是 0x4 (0100),core3掩码是 0x8 (1000) 依此类推。

另外需要注意的是设置 smp_affinity 的话不能开启 irqbalance 或者需要为 irqbalance 设置 –banirq 列表,将设置了 smp_affinity 的 IRQ 排除。不然 irqbalance 机制运作时会忽略你设置的 IRQ affinity 配置。

重新绑核测试无丢包:

 

 

相关内容

热门资讯

存储芯片巨头的好日子何时结束 ... 摩根士丹利最新报告指出,旧存储芯片行业的前景被低估。曾经因供需失衡而获得高额利润的旧存储芯片现在正处...
国足开场2分钟落后 邵佳一眉头... 点击加载图片直播吧11月17日讯 国足开场2分钟丢球,0-1落后巴林,镜头给到眉头紧锁的邵佳一。国字...
小米:相关内容纯属虚构,警惕虚... 小米旗下微博账号“小米辟谣”于11月17日发布声明,指出近期有不法分子冒充“小米汽车”发送诈骗短信,...
最差密码榜单公布 123456... 网络安全公司 NordPass 发布了《2026 年最常用密码 Top 200》报告,指出“1234...
2岁孩子生命最后11天依然努力... 25岁的妈妈将患有罕见病的儿子兜兜送进了长沙的“雏菊之家”安宁病房。她陪伴儿子度过了最后11天,并每...
13岁少年被控杀害5岁男童案 ... 一名13岁少年因妹妹被邻居5岁男童撒沙而心生怨恨,将男童带至桥上推下水致其溺亡。此案引起了媒体的广泛...
全球顶尖科学家加速回流中国 风... 全球顶尖科学家纷纷选择离开美国,转向中国任职。2026年初,莱斯大学90后斯隆奖得主汪淏田全职加盟同...
APEC工商领导人峰会今天聚焦... 11月17日,来自亚太经合组织21个经济体及英国、法国、德国、瑞士等13个域外经济体的2000多位政...
雷军APEC发言 具身智能潜力... 11月17日,小米CEO雷军在2026年APEC工商领导人峰会上表示,具身智能机器人的潜力超过汽车,...
俄罗斯记者惊呼在深圳谁还用现金... 11月17日,今日俄罗斯国际通讯社记者德米特里·加夫里洛夫在接受采访时分享了他的深圳体验。他提到,刚...
雷军:智能机器人产业潜力超汽车... 11月17日,在2026年亚太经合组织工商领导人峰会上,小米CEO雷军介绍了公司在AI、智能制造和机...
保研举报成风,这不只是“坏人变... 保研举报成风,这不只是“坏人变小了” 制度留操作空间。高校保研季举报成风:这不是学生坏,是制度留了太...
广东01年医护女孩为00年闺蜜... 据河南广播电视台小莉帮忙,广东一位01年的女孩,亲自为自己00年的闺蜜接生。她们的缘分有多深?女孩称...
广东网友为迎接APEC会议周有... 11月14日,2026年APEC领导人会议周新闻中心举办了广东省、深圳市专场中外媒体吹风会。这是20...
动车插座在头顶被吐槽像在打吊瓶... 近日,有网友在社交平台发帖分享自己的乘车经历:乘坐D2928次动车组时,发现车厢内的充电插座安装在顶...
万斯称与特朗普无分歧 一致反对... JD·万斯周一表示,他与总统唐纳德·特朗普在伊朗战争问题上完全一致。此前,他曾将共和党在中期选举中的...
痛风人群这4种饮品要少喝 咖啡... 很多尿酸高、痛风人群都知道啤酒、果汁会升高尿酸,那么有没有什么饮料对尿酸“很友好”,甚至还能降低痛风...
医生辟谣左侧睡根本不伤心:正常... 11月17日,经常朝左睡对心脏的影响引发关注。从解剖学角度看,心脏虽然位于胸腔偏左,但它并非孤零零地...
96岁奶奶扒着车窗含泪送孙女返... 近日,湖南,假期快要结束,孙女准备返程。96岁的奶奶扒着车窗,眼里满是不舍。一句有空常回家看看,戳中...
人民日报:从《持械入宋》火爆看... 有能够让行业内外普遍认可的作品出现,是一种新文艺类型成熟的重要标志。正是因为“家里家外”系列、《盛夏...