如何在Python中高效计算多个集合的交集与并集?

阿雪姑娘_8176

阿雪姑娘_8176

2026-10-01

778人浏览

原创

python中用set.intersection(*sets)和set.union(*sets)可高效处理多集合交并,需解包列表且判空;推荐流式收缩与intersection_update()省内存,避免numpy/pandas语义偏差。

如何在python中高效计算多个集合的交集与并集?

用 set.intersection() 和 set.union() 处理多个集合

Python 的 set 原生支持多参数交集与并集,但必须传入可迭代对象(如列表、元组),不能直接展开成位置参数。常见错误是写成 set1.intersection(set2, set3) —— 这其实没问题,但若集合数量动态变化,就容易卡在“怎么传参”上。

正确做法是用解包:set.intersection(*list_of_sets) 或 set.union(*list_of_sets)。注意:空列表会报 TypeError: intersection() takes at least 1 argument,所以得先判空。

  • 交集要求所有集合非空;任一为空,结果就是空集
  • 并集对空集合安全,set().union(*[]) 返回空 set()
  • 性能上,*list_of_sets 解包开销很小,实际耗时主要取决于集合大小和元素哈希分布

避免反复创建新集合:用 set.intersection_update() 原地计算

如果原始集合较大,且你只关心最终交集结果(不保留中间状态),用 intersection_update() 比 intersection() 更省内存。它会修改调用者本身,不生成副本。

例如:result = sets[0].copy(); [result.intersection_update(s) for s in sets[1:]] —— 注意这里不能直接对 sets[0] 原地操作,除非你确定可以丢弃原始数据。

  • 原地操作不适用于 frozenset
  • 若中途某个集合为空,intersection_update() 后结果立即变为空,后续调用无影响
  • 多线程下禁止原地更新共享集合,否则引发未定义行为

当集合来自不同来源(如文件、数据库)时,别一次性全读进内存

比如要算 100 个 CSV 文件每行的整数集合的交集,把全部内容 load 成 set 再交集,可能 OOM。更稳妥的是流式收缩:先读第一个文件建初始集合,再逐个文件读取、做 &=(即 intersection_update)。

python-code-analyz
python-code-analyz

专业Python代码分析与优化,支持语法检查、安全扫描、性能评估、复杂度分析及重构后优化代码生成。

下载

示例逻辑:common = None; for path in paths: s = set(map(int, open(path))); common = s if common is None else common & s。这样峰值内存≈最大单个集合大小,而非总和。

  • 文件编码、空行、非数字需提前清洗,否则 int() 报 ValueError
  • 用生成器表达式替代 list 构造(如 set(int(x.strip()) for x in f if x.strip()))能进一步减内存
  • 磁盘 I/O 是瓶颈时,并行读多个文件反而可能加剧争抢,不如顺序处理+适当缓存

NumPy 或 Pandas 不适合纯集合运算,除非已全是数值且规模极大

有人看到“高效”就想到 NumPy,但 np.intersect1d() 和 np.union1d() 默认会排序并去重,语义不等价于 Python 集合(后者不保证顺序,且 hash-based 更快)。而且 NumPy 数组转 set 的开销常高于直接用原生 set。

只有当你已经用 np.ndarray 存储百万级整数,且后续还要做数值计算,才值得考虑 np.isin() 配合布尔索引模拟交集逻辑——但这本质是过滤,不是集合代数。

  • pandas.Series.unique() 返回 numpy 数组,同样不等于集合语义
  • 混合类型(如字符串+数字)或含 NaN 时,NumPy 行为更难预测,原生 set 更可靠
  • CPython 下,小到中等规模(set 几乎总是更快

最易被忽略的一点:集合交集的“空集短路”行为。只要遇到一个空集合,后续所有计算都可跳过——但标准库不会自动帮你做这个判断,得自己加 if not s: return set() 检查,尤其在流式场景里省下的不只是 CPU,还有 I/O 和解析时间。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1631

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

3964

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1629

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

22837

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2807

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2847

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1123

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2203

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程