如何排查强开大页内存导致 Linux 内核内存分配死锁的线上故障

轻磊君_9984

轻磊君_9984

2026-05-25

487人浏览

原创

强开大页内存引发内核死锁的本质是hugetlb_lock、zone->lock与mmap_sem多层嵌套锁竞争,叠加hugepages_free=0而hugepages_rsvd>0时的循环等待;典型表现为khugepaged卡死、进程d状态、dmesg报page allocation failure或lockdep警告。

如何排查强开大页内存导致 linux 内核内存分配死锁的线上故障

强开大页内存(HugeTLB)引发的内核内存分配死锁,本质是内存管理子系统在高压下因锁竞争与资源耗尽陷入循环等待。这类故障常表现为系统负载飙升、khugepaged卡死、进程长时间处于 D 状态、cat /proc/meminfo 显示 HugePages_Free 为 0 但 HugePages_Rsvd 持续不归零,且 dmesg 出现 page allocation failurelockdep 报警。排查需聚焦“大页预分配路径”与“常规页分配器”的锁交叠点。

确认是否为大页相关死锁

先快速验证问题根源是否指向 HugeTLB:

  • 运行 grep -i "huge" /proc/meminfo,重点看 HugePages_TotalHugePages_FreeHugePages_Rsvd。若 Rsvd > 0Free == 0,说明有进程已预留大页但未能成功分配物理页,这是典型卡点
  • 执行 cat /proc/sys/vm/nr_hugepagescat /proc/sys/vm/nr_overcommit_hugepages,确认是否人为强制设置了过大值(如直接写入 1024+),尤其在物理内存不足时极易触发
  • 检查 dmesg -T | grep -i -E "(huge|alloc|oom|lockdep|hung_task)",关注是否有 BUG: sleeping function called from invalid context(常见于在中断上下文调用 alloc_huge_page)、lockdep: DETECTED OUT OF ORDER LOCKINGhung_task: blocked tasks 提示

定位阻塞在哪个锁路径上

大页分配涉及多层锁:hugetlb_lock(全局大页池锁)、zone->lock(内存区锁)、mmap_sem(进程地址空间锁),三者嵌套极易形成 AB-BA。关键操作如下:

Linux Journey
Linux Journey

当用户想学习Linux基础、命令行、文件系统等时,在LabEx查找并推荐免费的Linux Journey课程。

下载
  • crash 工具加载 ramdump 后,执行 ps -G | grep "UN" 找出不可中断状态进程,再对每个 PID 执行 bt -v,观察堆栈是否停在 alloc_huge_page__alloc_pages_nodemaskget_page_from_freelist 链路中,尤其是是否卡在 spin_lock(&zone->lock)mutex_lock(&hugetlb_lock)
  • 若启用过 CONFIG_LOCKDEP=y,检查 /proc/lockdep/proc/lockdep_chains,搜索关键词 hugetlbzonemmap_sem,确认是否存在 hugetlb_lock --> zone->lockzone->lock --> hugetlb_lock 的逆向依赖环
  • 查看 /proc/locks 中类型为 FLOCKPOSIX 的条目是否异常增多,有时用户态大页映射(MAP_HUGETLB)会间接阻塞内核线程清理路径

检查大页预分配与 overcommit 配置冲突

线上最常见诱因是配置失当而非代码缺陷:

  • nr_hugepages 设为固定值(如 512)后,系统启动时尝试一次性分配全部大页,若物理内存碎片化严重或被其他模块(如 CMA、GPU DRM)提前占用,会导致 hugetlb 初始化失败并长期持有 hugetlb_lock 重试,阻塞后续所有大页请求
  • nr_overcommit_hugepages 被设为非零值(如 256)时,允许进程“超量预约”大页,但实际分配仍受限于空闲大页数。当多个进程并发 mmap(MAP_HUGETLB)HugePages_Rsvd 累加却无法兑现,khugepaged 在后台反复扫描 hugetlb 全局链表并争抢 hugetlb_lock,加剧锁竞争
  • 对比 cat /sys/kernel/mm/hugepages/hugepages-2048kB/freesurplus 值:若 free == 0surplus > 0,说明内核正试图回收常规页转为大页,但被 pageveclru_lock 卡住,此时需查 slabinfo 是否 page->_refcount 异常高

临时缓解与根治建议

线上优先保服务,再做深度修复:

  • 立即执行 echo 0 > /proc/sys/vm/nr_hugepages 清空预分配大页池(注意:已映射的大页不受影响,但可阻止新卡死);若失败,用 echo 1 > /proc/sys/vm/drop_caches 释放 pagecache,辅助 khugepaged 回收
  • 禁用 overcommit:echo 0 > /proc/sys/vm/nr_overcommit_hugepages,避免预留膨胀;同时检查应用是否滥用 MAP_HUGETLB | MAP_POPULATE 组合,该组合在缺页时同步分配,极易阻塞主线程
  • 根治需从配置入手:生产环境应关闭静态大页(nr_hugepages=0),改用透明大页(transparent_hugepage=always/madvise),由内核按需合并;若必须用显式大页,应通过 libhugetlbfs + mmap 按需申请,并设置合理 max_huge_pages 上限

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

linux

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

2023.06.21

3590

4

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

2023.06.29

3133

10

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2023.06.30

2173

5

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

2023.07.05

5190

7

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

2023.07.06

4862

7

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.20

2933

8

linux查看ip命令
linux查看ip命令

本专题为大家提供linux查看ip命令相关文章内容,感兴趣的朋友可以免费下载体验试试。

2023.07.20

2425

4

linux查看cpu使用率
linux查看cpu使用率

在linux的系统维护中,可能需要经常查看cpu使用率,分析系统整体的运行情况。本专题为大家带来了linux查看cpu使用率的相关文章,感兴趣的朋友千万不要错过了。

2023.07.25

2639

6

linux查找文件命令
linux查找文件命令

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.31

277

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习

CLion 远程开发实战
CLion 远程开发实战

共0课时 | 0人学习