Python 并发编程常见陷阱与解决方法

小涛君_7177

小涛君_7177

2026-02-27

562人浏览

原创

GIL导致CPU密集型任务无法并行,应使用multiprocessing、NumPy等绕过GIL;共享变量需加锁或用线程安全结构;asyncio中禁用阻塞调用,须用异步替代或run_in_executor;协程必须正确await;资源须用with或finally清理。

python 并发编程常见陷阱与解决方法

全局解释器锁(GIL)导致 CPU 密集型任务无法真正并行

CPython 解释器的 GIL 保证同一时刻只有一个线程执行 Python 字节码,这对 I/O 密集型任务影响不大,但会让多线程在 CPU 密集型场景下几乎不提速,甚至因线程切换开销而变慢。

解决方法:

Python Dependency Candidate Fetcher 2
Python Dependency Candidate Fetcher 2

根据包的能力以及 Jupyter 环境中的导入语句,从候选列表中挑选最适合用户表格工作流的 Python 包。

下载
  • 用 multiprocessing 替代 threading:每个进程有独立 GIL 和内存空间,适合计算密集型任务
  • 对可并行的数值计算,优先使用 NumPy、Numba 或 Cython,它们底层绕过 GIL
  • 混合场景(如部分计算 + 部分 I/O)可考虑 concurrent.futures.ProcessPoolExecutor + ThreadPoolExecutor 组合使用

共享状态未加锁引发竞态条件

多个线程同时读写同一变量(如字典、列表、计数器),不加同步机制会导致数据错乱。例如,counter += 1 实际包含读取、计算、写入三步,非原子操作。

解决方法:

  • 对简单变量用 threading.Lock 或 threading.RLock 显式加锁
  • 优先使用线程安全的数据结构:如 queue.Queue(内置锁)、threading.local()(为每个线程提供独立副本)
  • 避免跨线程直接共享可变对象;改用消息传递(如通过 Queue 传递不可变数据)

异步代码中混用阻塞调用导致事件循环卡死

在 asyncio 环境中,调用 time.sleep()、requests.get()、open() 等同步阻塞函数会挂起整个事件循环,使其他协程无法运行。

解决方法:

  • 用 asyncio.sleep() 替代 time.sleep()
  • 网络请求改用 aiohttp、httpx.AsyncClient 等异步库
  • 必须调用同步函数时,用 loop.run_in_executor() 将其提交到线程池/进程池执行,不阻塞主循环

忘记 await 或错误地 await 非协程对象

常见错误包括:调用协程函数但没加 await(返回协程对象而非结果)、对普通函数或 None 使用 await(抛出 TypeError)、在非 async 函数里直接 await。

解决方法:

  • 明确区分协程函数(async def 定义)与普通函数;调用协程函数必须 await
  • 用 asyncio.create_task() 或 asyncio.gather() 并发调度多个协程,而非逐个 await(避免串行等待)
  • 启用类型检查工具(如 mypy + asyncio 插件)或 IDE 提示,提前发现 await 使用错误

资源未正确清理:线程/进程/连接泄漏

忘记关闭线程池、数据库连接、HTTP 会话或异步客户端,可能导致句柄耗尽、内存持续增长或服务端拒绝连接。

解决方法:

  • 用 with 语句管理上下文资源:如 with ThreadPoolExecutor() as pool:、async with aiohttp.ClientSession() as session:
  • 在 try/finally 或 async with 中确保 close()、shutdown()、cancel() 被调用
  • 对长期运行的服务,定期检查活跃线程/任务数量(threading.enumerate()、asyncio.all_tasks()),及时排查泄漏点

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

编程速学教程(入门课程)
编程速学教程(入门课程)

编程怎么学习?编程怎么入门?编程在哪学?编程怎么学才快?不用担心,这里为大家提供了编程速学教程(入门课程),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

python 并发编程

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
session失效的原因
session失效的原因

session失效的原因有会话超时、会话数量限制、会话完整性检查、服务器重启、浏览器或设备问题等等。详细介绍:1、会话超时:服务器为Session设置了一个默认的超时时间,当用户在一段时间内没有与服务器交互时,Session将自动失效;2、会话数量限制:服务器为每个用户的Session数量设置了一个限制,当用户创建的Session数量超过这个限制时,最新的会覆盖最早的等等。

2023.10.17

580

4

session失效解决方法
session失效解决方法

session失效通常是由于 session 的生存时间过期或者服务器关闭导致的。其解决办法:1、延长session的生存时间;2、使用持久化存储;3、使用cookie;4、异步更新session;5、使用会话管理中间件。

2023.10.18

876

5

cookie与session的区别
cookie与session的区别

本专题整合了cookie与session的区别和使用方法等相关内容,阅读专题下面的文章了解更详细的内容。

2025.08.19

1946

14

treenode的用法
treenode的用法

​在计算机编程领域,TreeNode是一种常见的数据结构,通常用于构建树形结构。在不同的编程语言中,TreeNode可能有不同的实现方式和用法,通常用于表示树的节点信息。更多关于treenode相关问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.12.01

2741

7

C++ 高效算法与数据结构
C++ 高效算法与数据结构

本专题讲解 C++ 中常用算法与数据结构的实现与优化,涵盖排序算法(快速排序、归并排序)、查找算法、图算法、动态规划、贪心算法等,并结合实际案例分析如何选择最优算法来提高程序效率。通过深入理解数据结构(链表、树、堆、哈希表等),帮助开发者提升 在复杂应用中的算法设计与性能优化能力。

2025.12.22

376

20

深入理解算法:高效算法与数据结构专题
深入理解算法:高效算法与数据结构专题

本专题专注于算法与数据结构的核心概念,适合想深入理解并提升编程能力的开发者。专题内容包括常见数据结构的实现与应用,如数组、链表、栈、队列、哈希表、树、图等;以及高效的排序算法、搜索算法、动态规划等经典算法。通过详细的讲解与复杂度分析,帮助开发者不仅能熟练运用这些基础知识,还能在实际编程中优化性能,提高代码的执行效率。本专题适合准备面试的开发者,也适合希望提高算法思维的编程爱好者。

2026.01.06

417

22

C++ 数据结构与算法实现教程合集
C++ 数据结构与算法实现教程合集

以 C++ 为实现语言,系统讲解核心数据结构与算法,涵盖链表(单链表/双链表/环检测)、栈与队列(单调栈/优先队列)、二叉树(遍历/BST/AVL/红黑树)、哈希表(开地址法/链地址法)、图(邻接表/BFS/DFS/Dijkstra/拓扑排序)、常见排序算法(快排/归并/堆排/计数排序)的实现与复杂度分析,同时分享 LeetCode 刷题技巧、竞赛编程常用模板(二分/前缀和/滑动窗口/动态规划),帮助开发者夯实算法基础。

2026.05.09

492

25

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

2023.08.10

4558

6

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

2025.12.24

1269

20

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程