如何利用Python的__slots__提升多线程环境下的内存局部性?

浅辰小哥_2257

浅辰小哥_2257

2026-07-12

630人浏览

原创

python 的 slots 不提升缓存行局部性,但通过消除 __dict__、压缩对象体积、减少间接访问,显著降低内存占用与访问开销,从而间接改善多线程下的性能表现。

如何利用python的__slots__提升多线程环境下的内存局部性?

__slots__ 本身不改善 CPU 缓存行局部性,但能间接减少跨缓存行访问

直接回答:Python 的 __slots__ 不控制内存对齐或缓存行布局,CPython 解释器不保证属性在内存中连续打包到同一缓存行(64 字节),所以它无法“提升内存局部性”——这是常见误解。但它能显著减少每个实例的总内存 footprint,从而让大量对象更大概率被装进更少的 cache line,降低 TLB 压力和主存带宽争用。

真正起作用的是:去掉 __dict__ 后,对象从“对象头 + 指向 dict 的指针 + dict 结构体(含哈希桶数组)+ 属性值”变成“对象头 + 若干固定偏移的 PyObject* 指针”。这压缩了对象大小,也消除了间接跳转(访问 attr 不再需要查哈希表、解引用 dict 指针)。

  • 一个空 dict 在 64 位 Python 3.11+ 占约 240–280 字节,哪怕只存两个字符串,它仍维持大块桶数组
  • __slots__ 实例的属性直接存于对象体内部(C level struct),访问 self.x 是纯偏移计算 + 指针解引用,无哈希开销
  • 多线程下,更小的对象意味着 GC 扫描更快、内存分配器(pymalloc)碎片更少、线程本地堆(TLS heap)利用率更高

多线程场景下必须配合显式内存对齐(但 Python 不支持)

如果你真在优化缓存行局部性,比如想让 x 和 y 总落在同一 cache line,__slots__ 本身做不到。CPython 不提供字段对齐控制(如 C 的 __attribute__((aligned(64)))),也不保证 __slots__ 中声明顺序 = 内存布局顺序(实际取决于 CPython 的 slot 分配策略,且可能随版本变化)。

可行替代路径只有两条:

  • 用 ctypes.Structure 或 numpy.dtype 定义紧凑二进制结构,手动控制 offset 和 alignment,再通过 from_buffer 映射——但这已脱离纯 Python 对象模型
  • 改用 Cython,在 .pxd 中定义 cdef class 并用 __align__ 指令约束字段对齐,但需编译且失去动态性
  • 接受现实:对绝大多数 Python 多线程服务(如 Web API、数据管道),__slots__ 带来的 footprint 下降 + 访问去间接化,已是性价比最高的“局部性优化”

继承链中 __slots__ 必须全显式声明,否则前功尽弃

多线程常伴随复杂类继承(如 WorkerBase → IOBoundWorker → DBWorker),这时一个没写 __slots__ 的中间类,会让整条链失效——子类实例自动获得 __dict__,内存膨胀立刻回归。

Python数据分析(免费版)
Python数据分析(免费版)

提供Python数据清洗、统计分析与可视化建议,覆盖业务报表与科研数据的快速处理流程。

下载

正确做法是逐层声明,且子类 __slots__ 必须包含父类所有 slot 名(除非你明确放弃继承该属性):

class WorkerBase:
    __slots__ = ('task_id', 'status')
<p>class IOBoundWorker(WorkerBase):
<strong>slots</strong> = ('timeout', 'buffer_size')  # ❌ 错误:不包含父类 slots,导致实例有 <strong>dict</strong></p><p>class CorrectIOBoundWorker(WorkerBase):
<strong>slots</strong> = ('task_id', 'status', 'timeout', 'buffer_size')  # ✅ 显式合并</p>
  • 漏声明会导致该类及所有下游子类实例悄悄携带 __dict__,内存节省归零
  • 若父类 slot 很多,可用 __slots__ = WorkerBase.__slots__ + ('new_field',) 拼接(注意类型是 tuple)
  • 使用 __slots__ = () 表示“禁止任何属性”,适合纯接口基类

多线程高频创建/销毁时,__slots__ 能降低 pymalloc 压力

在 asyncio 任务、线程池 worker、消息队列消费者等场景,对象生命周期短但创建频次极高。__slots__ 缩小单个对象体积后,pymalloc 的 small block 分配器能更高效复用内存页,减少系统调用(mmap/brk)和锁竞争。

实测对比(100 万次构造 + 立即 del):

  • 普通类:每次分配 ~300 字节,触发更多 arena 切换和 freelist 查找
  • __slots__ 类:对象压到 64–96 字节区间(典型 3–4 个字段),稳定落在 pymalloc 的 64B 或 96B size class 中,复用率飙升
  • 效果:线程间 malloc/free 锁争用下降,GC 频率降低(因为更少的 dict 对象需要追踪)

真正容易被忽略的点是:你得确保所有参与高频实例化的类——包括临时包装器、DTO、event 对象——都加了 __slots__。漏掉一个,就可能成为内存热点。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1571

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

3764

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1589

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

21537

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2647

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2707

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1083

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

576

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2103

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程