如何在Python中使用resource模块限制进程可调用的系统资源?

陌敏大大_8908

陌敏大大_8908

2026-07-31

523人浏览

原创

resource.setrlimit调用后没效果,是因为它仅约束后续mmap/brk系统调用,无法回溯限制已分配内存;cpython的pymalloc预分配内存池、glibc缓存及线程共享地址空间导致限制延迟生效或被掩盖,必须在进程早期、子进程中设置rlimit_as才可靠。

如何在python中使用resource模块限制进程可调用的系统资源?

resource.setrlimit 为什么调用后没效果?

因为 resource.setrlimit 只能限制当前进程及其后续 fork 出的子进程,不能 retroactively 限制已存在的线程或已分配的内存;更关键的是,它对 Python 层面的内存分配(如 list、dict)无直接约束——Python 的堆内存由解释器管理,而 RLIMIT_AS 或 RLIMIT_DATA 作用在 mmap/malloc 系统调用层面,实际触发限制往往比预期晚,甚至被 glibc 缓存掩盖。

常见误判场景:你设了 RLIMIT_AS 为 100MB,但 [0] * 100_000_000 仍能成功——这是因为 CPython 先从 glibc 的 arena 分配,未立即触达内核限制。只有当进程尝试映射新虚拟内存页且超出硬限(hard limit)时,malloc 才返回 NULL,进而让 Python 抛出 MemoryError。

  • 必须在程序早期调用,最好在导入任何大模块前执行
  • 软限(soft limit)可被进程自行提升(只要不超硬限),硬限(hard limit)需 root 权限才能提高
  • RLIMIT_AS(地址空间)比 RLIMIT_DATA(数据段)更可靠,后者不包含堆栈和 mmap 区域

RLIMIT_CPU 和 RLIMIT_FSIZE 怎么精准生效?

RLIMIT_CPU 是少数真正“准时”触发的限制:内核每秒检查一次累计用户态 + 内核态 CPU 时间,达到软限时发 SIGXCPU(默认终止进程),再超 1 秒仍未退出则发 SIGKILL;RLIMIT_FSIZE 在 write() 超限时直接返回 EFBIG,Python 的 file.write() 会转为 OSError。

注意:RLIMIT_CPU 不统计 sleep 时间,也不限制子进程 CPU 时间(除非显式继承);RLIMIT_FSIZE 对已打开的文件句柄有效,但对 /dev/null 或管道无效。

python-parallelization
python-parallelization

将顺序 Python 代码转换为并行/并发实现,用于在需要并行化 Python 代码、提升性能时使用。

下载
  • 捕获 SIGXCPU 需用 signal.signal(signal.SIGXCPU, handler),且 handler 应尽量轻量
  • 设置 RLIMIT_FSIZE 后,用 open(..., 'a') 追加写入超限时抛 OSError: [Errno 27] File too large
  • 硬限设为 0 表示禁止创建新文件(但已有文件仍可读)

Linux 下哪些 resource 项实际可用?

不是所有 resource.RLIMIT_* 常量在所有系统都有效。例如 RLIMIT_RSS 在现代 Linux 中已被忽略(内核 2.6.32+ 默认禁用),RLIMIT_NPROC 控制的是该 UID 下进程数,不是当前进程的线程数;RLIMIT_NOFILE 限制打开文件描述符总数,包括 socket、pipe、eventfd 等,超限时 open() 或 socket() 直接失败。

  • RLIMIT_NOFILE 软限低于 1024 时,Python 的 logging 模块可能因无法打开日志文件而静默失效
  • RLIMIT_MEMLOCK 影响 mlock() 调用,与 mmap(..., MAP_LOCKED) 相关,普通应用极少需要调整
  • macOS 不支持 RLIMIT_RTPRIO 和 RLIMIT_SIGPENDING,尝试设置会报 ValueError: not supported on this platform

如何验证 resource 限制是否真的起作用?

别只信 resource.getrlimit() 返回值——那只是当前设置,不代表内核已 enforce。最直接的方式是主动触发边界行为:

import resource
resource.setrlimit(resource.RLIMIT_FSIZE, (1024, 1024))  # 1KB 文件大小限制
with open('test.bin', 'wb') as f:
    f.write(b'x' * 2000)  # 触发 OSError: [Errno 27] File too large

或者用 ps -o pid,vsz,rss,pcpu,comm -p $PID 对比限制前后内存/CPU 增长速率;对 RLIMIT_CPU,可故意跑一个死循环并观察是否在设定秒数后被杀。

  • resource.getrusage(resource.RUSAGE_SELF) 能查到当前进程真实消耗(如 ru_maxrss 单位是 KB),比 getrlimit 更反映实际
  • 容器环境(Docker/K8s)中,cgroup 限制优先级高于 setrlimit,此时 setrlimit 可能被静默截断
  • 多线程程序里,RLIMIT_STACK 限制的是主线程栈,每个新线程栈大小由 threading.stack_size() 控制,不走 rlimit

真正难控的是 Python 对象生命周期和引用计数延迟释放——setrlimit 是操作系统层的刹车,但你得自己先踩住 Python 层的油门。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1731

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4424

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1709

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

25997

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3147

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3167

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1183

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2463

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习