为什么在处理I/O密集型任务时Python协程比多线程更高效?

梦磊吖_7644

梦磊吖_7644

2026-08-16

641人浏览

原创

协程切换在用户态、线程切换需进内核:协程仅保存局部变量和执行位置,切换耗时纳秒级;线程需保存寄存器、栈指针等完整上下文,耗时微秒级且随数量非线性增长。

为什么在处理i/o密集型任务时python协程比多线程更高效?

协程切换在用户态,线程切换必须进内核

协程每次 await 挂起,只保存局部变量和执行位置(本质是生成器状态),事件循环在用户态直接跳转到下一个就绪协程;而线程调用 socket.recv() 或 time.sleep() 时,会立刻陷入内核态等待,操作系统得保存寄存器、栈指针、页表等完整上下文——这个过程耗时从数百纳秒到微秒级,且随线程数增长非线性飙升。

实操建议:
- 观察现象:用 ps -o pid,vsz,comm -p $(pidof python) 对比内存占用最直观
- 1000个HTTP请求,aiohttp.ClientSession.get() + asyncio.gather() 常驻内存约20–30MB
- 同量请求用 requests.get() + threading.Thread,内存通常超200MB,甚至突破8GB(Linux默认线程栈8MB × 1000)

协程天然规避竞态,线程必须显式加锁

协程跑在单线程里,任意时刻只有一个在执行,counter += 1 这种操作只要不被 await 打断,就是原子的;多线程则天然共享全局变量,但该操作实际是读-改-写三步,不加 threading.Lock 必然出错。

Shadows Python Sensei
Shadows Python Sensei

Python 最佳实践助手——代码规范、设计模式、性能优化、测试与类型注解。适用于编写或审查 Python 代码。

下载

但注意:
- 协程间不自动共享状态。误写 global counter; counter += 1 看似没报错,其实是竞态灾难
- 需要跨 Task 计数/缓存,用 asyncio.Lock 包裹临界区,别碰 threading.Lock(它会阻塞整个事件循环)
- 复杂状态逻辑优先走 asyncio.Queue,生产者-消费者模型比锁更清晰、更易测

协程无GIL争抢,但也不等于“自动并行”

asyncio.run() 启动的是单线程事件循环,绑定在主线程,无法利用多核CPU。这点常被忽略:很多人以为“异步=多核并行”,其实 asyncio 只解决 I/O 等待效率,不解决 CPU 计算瓶颈。

常见错误现象:
- 在协程里写 sum(range(10**7)) 或 re.findall(r'.*', big_text),整个事件循环卡死,其他所有协程冻结
- 用 time.sleep(1) 代替 await asyncio.sleep(1),效果等同于上面的 CPU 密集型阻塞
- 实操建议:CPU 密集操作必须扔进线程池——await loop.run_in_executor(None, func, *args)

I/O密集型任务选协程,不是“更高效”,而是资源维度不同

协程能用单线程承载数千并发任务,而多线程一上几百个就可能触发 OSError: can't start new thread 或被 OOM killer 干掉。这不是“更高效”,而是根本不在同一资源维度上竞争。

真正容易被忽略的点:
- 协程调度依赖显式让渡(await),任何依赖执行顺序的逻辑都得显式建模
- await 点就是潜在的状态让渡点,比如 await asyncio.sleep(0) 也会交出控制权
- 如果你混用 threading 和 asyncio(比如在协程里直接调用带锁的同步函数),极易引发死锁或不可预测行为

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1591

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

3784

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1589

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

21797

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2687

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2727

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1103

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2103

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程