【Linux内核三】网络丢包debug案例
创始人
2024-06-01 16:52:12
0

👉个人主页:highman110

👉作者简介:一名硬件工程师,持续学习,不断记录,保持思考,输出干货内容 

目录

前言

测试环境

测试现象

​编辑 定位过程

​编辑 优化手段

1、加大ring buffer

2、加大socket buffer

3、尝试中断绑核


前言

前面两篇文章分享了Linux网络收发包流程和常用的网络问题定位工具,本期分享一个实际的测试案例,结合前面两篇的理论基础,逐步分析丢包的原因和解决办法。

测试环境

使用某国产CPU平台的两台设备,用iperf3工具进行udp报文测试。

设备A配置网口IP为192.168.1.12。

设备B配置网口IP为192.168.1.100。

设备A作为server端,从默认端口5201监听报文。

设备B作为client端,从默认端口发送udp报文,设置带宽1000M,测试时间5S。

测试现象

从设备A端监听到有丢包,且传输速率也只有六百多兆,没有达到设定的1000M水平:

 定位过程

用ifconfig查询网口统计,看是接收出错还是发送出错。

设备B发送端,可以看到发送没有错误统计:

设备A接收端,可以看到有rx error和overrun:

 

以下是从网上其他文章中看到的接收端错误解释,我上一篇文章中也有说明,由于我不是做做软件的,不懂看内核代码,具体这些统计的含义,建议有条件看代码的大佬以代码为准,我这里只是拾人牙慧,我个人觉得上一篇文章开头中提到的那篇雄文对于细节的理解应该是比较到位的:

(1) RX errors

表示总的收包的错误数量,这包括 too-long-frames 错误,crc 校验错误,帧同步错误以及 missed pkg 等等。

(2) RX dropped

表示数据包已经进入了Ring Buffer,但是由于内核处理不过来等系统原因,导致在数据从网卡拷贝到内存的过程中被丢弃。(这句话描述有误,ring buffer不是存数据包的,存的是描述符,描述符指向了socket buffer的位置,可以理解为数据DMA到socket buffer时丢了,可能是当前的数据内容大于socket buffer的容量)。

(3) RX overruns

overruns意味着数据包没到 ring buffer就被网卡物理层给丢弃了。当驱动处理速度跟不上网卡收包速度时,驱动来不及分配缓冲区(这句话同样有误,数据包不会到ring buffer),NIC 接收到的数据包无法及时写到socket buffer,就会产生堆积。当NIC内部缓冲区写满后,就会丢弃部分数据,引起丢包。这部分丢包为 rx_fifo_errors,在 /proc/net/dev 中体现为 fifo 字段增长,在 ifconfig 中体现为 overruns 指标增长。

(4) RX frame

表示 misaligned 的 frames。

可以看到接收错误为57个缓存(指的是网卡fifo溢出还是socket buffer还不明确)溢出错误和824非对齐帧错误,可能这两个是关联错误,由于缓存溢出导致一些帧无法对齐。

由于是udp报文测试,通过如下命令查询udp统计,可以看到InErrors和RcvbufErrors相等,更指向接收端缓存溢出错误。

确定为接收端问题后,可以继续查询rx error的具体类型,ifconfig命令统计的是帧对齐错误,这里ethtool没有统计帧对齐错误,而统计了rx resource error,这个不明白是什么意思。

 优化手段

1、加大ring buffer

设备A、B的网口ring buffer默认RX=512,TX=512。

将接收端设备B的ring参数改为tx=2048,rx=2048:

继续测试发现,丢包率降低一点点,带宽提升了一点点,效果不明显。

继续加大ring参数也没有明显效果,甚至丢包率还会劣化。

2、加大socket buffer

设备A、B socket buffer默认为rmem_default=212992,rmem_max=212992。

将接收端加大:

结果有改善,但是仍存在丢包现象。

3、尝试中断绑核

查询当前网卡中断集中在CPU core0上:

将此网卡中断数最多的中断号184重新绑定到core1和core2。其中6 表示的是 core2 和 core1,core0 的掩码是 0x1 (0001),core1掩码是 0x2 (0010),core2掩码是 0x4 (0100),core3掩码是 0x8 (1000) 依此类推。

另外需要注意的是设置 smp_affinity 的话不能开启 irqbalance 或者需要为 irqbalance 设置 –banirq 列表,将设置了 smp_affinity 的 IRQ 排除。不然 irqbalance 机制运作时会忽略你设置的 IRQ affinity 配置。

重新绑核测试无丢包:

 

 

相关内容

热门资讯

制作安卓系统主题软件,安卓系统... 你有没有想过,给你的安卓手机换一个全新的面貌?没错,就是那种一打开手机,就能感受到完全不同的风格和氛...
安卓系统平板怎么截屏,操作指南... 亲爱的平板用户,你是不是也和我一样,有时候想记录下平板上的精彩瞬间,却发现截屏功能有点神秘?别担心,...
安卓系统不推送更新,揭秘背后的... 最近是不是发现你的安卓手机有点儿“懒”啊?更新推送总是慢吞吞的,让人等得花儿都谢了。别急,今天就来给...
ape格式转换安卓系统,享受音... 你有没有想过,你的安卓手机里的ape格式音乐文件,竟然可以通过一个小小的转换,焕发出全新的生命力?没...
获取安卓系统加载器,核心功能与... 你有没有想过,你的安卓手机里那些神奇的软件和游戏是怎么被安装到你的设备上的呢?没错,就是通过一个叫做...
安卓系统文件夹在哪,安卓系统文... 你有没有遇到过这样的情况:手机里乱糟糟的,想找个文件却找不到?别急,今天就来给你揭秘安卓系统文件夹的...
安卓手感最好的裸机系统,安卓手... 安卓手感最好的裸机系统:探索极致体验的秘密武器在数字世界中,我们常常被各种功能和复杂操作所包围,尤其...
nas如何刷回安卓系统,轻松刷... 你有没有想过,你的NAS(网络附加存储)突然间变成了一个安卓的小天地?别急,这可不是什么天方夜谭,而...
荣耀沿用的安卓系统吗,打造个性... 你有没有注意到,最近荣耀的新机发布,大家都在热议一个问题:荣耀沿用的安卓系统吗?这可是个让人好奇不已...
快麦erp系统安卓下载,一键下... 你有没有听说最近一款叫做快麦ERP系统的软件在安卓平台上大受欢迎呢?没错,就是那个能让你企业管理如虎...
华为安卓系统下载app,一步到... 你有没有发现,最近华为手机的用户们都在忙活一件大事儿?没错,那就是下载安卓系统上的各种app啦!这可...
原生安卓系统游戏模式,畅享沉浸... 亲爱的手机游戏爱好者们,你是否曾为手机游戏运行不畅而烦恼?又或者,你是否渴望在游戏中获得更极致的体验...
安卓9改系统语言设置,轻松切换... 你有没有发现,手机里的语言设置有时候真的让人头疼?比如说,你突然想用一下安卓9的系统语言设置,结果发...
怎么升级安卓最新系统,畅享安卓... 亲爱的手机控们,你是不是也和我一样,对安卓系统的更新充满了期待?每次系统升级,都仿佛给我们的手机带来...
安卓系统电视跳舞毯,家庭娱乐新... 你有没有想过,家里的电视除了用来追剧、看电影,还能变成一个充满活力的娱乐中心?没错,我要给你介绍的就...
安卓系统维护周期,全方位守护您... 亲爱的手机控们,你是不是也和我一样,对安卓系统的维护周期充满了好奇呢?毕竟,我们的手机可是我们日常生...
安卓系统电脑怎么往下滑,一扫即... 你有没有发现,用安卓系统电脑的时候,有时候屏幕上会出现一些小图标或者应用,你想要快速浏览或者切换,却...
手机中判断安卓系统苹果系统js... 你有没有想过,你的手机里到底装的是安卓系统还是苹果系统呢?这可不是一个小问题哦,因为不同的系统,就像...
window系统和安卓系统还原... 你有没有遇到过手机或电脑突然卡顿,或者不小心删掉了重要的文件?别急,今天就来给你详细说说如何让win...
安卓系统打电话变声器,轻松实现... 安卓系统打电话变声器:探索数字时代的通信革新在数字化浪潮中,智能手机已经成为我们生活中不可或缺的一部...