Python并发编程让脚本性能提升十倍的实际技巧【教学】

夜明君_5559

夜明君_5559

2025-12-18

746人浏览

原创

Python并发性能提升关键在于匹配任务类型:I/O密集用asyncio,CPU密集用multiprocessing,混合任务需拆分处理;识别“等”或“算”是优化起点,避免GIL陷阱与盲目并发。

python并发编程让脚本性能提升十倍的实际技巧【教学】

Python并发编程不是靠堆线程或进程数量,而是选对模型、避开GIL陷阱、减少等待时间。真正提升十倍性能的关键,在于匹配任务类型——I/O密集用asyncio或threading,CPU密集必须上multiprocessing,再配合合理调度和资源控制。

识别任务类型:先分清是“等”还是“算”

这是所有优化的起点。I/O密集型(比如发HTTP请求、读写文件、数据库查询)大部分时间在等响应,CPU几乎空闲;CPU密集型(比如数值计算、图像处理、加密解密)则持续占用CPU核心。

  • 用time.time()粗略测:如果脚本总耗时中,CPU使用率长期低于30%,大概率是I/O密集
  • 用psutil.cpu_percent(interval=1)实时观察,对比单任务和多任务下的波动
  • 别凭感觉判断——下载100个网页看着慢,其实是I/O密集;但用Python做矩阵乘法慢,就是CPU密集

I/O密集任务:优先用asyncio,别急着开线程

asyncio在单线程内通过事件循环调度协程,开销远低于线程,且无锁竞争问题。requests不支持异步?换httpx或aiohttp就行。

  • 把阻塞调用全换成async版本:比如await httpx.AsyncClient().get(url)
  • 并发数别盲目设高,通常10–100足够;太多反而触发服务端限流或本地端口耗尽
  • 加简单错误重试+退避:asyncio.sleep(0.1 * (2 ** attempt)),避免雪崩

CPU密集任务:multiprocessing是唯一正解

threading在CPU密集场景几乎无效——CPython的GIL会让多线程变成轮流执行。必须用multiprocessing真正并行,但要注意数据传递成本。

Python健壮编程
Python健壮编程

编写可靠Python代码,避免可变默认值、导入陷阱与运行时意外

下载
  • 用concurrent.futures.ProcessPoolExecutor比原始Process更易管理
  • 函数必须可序列化(不能是lambda或嵌套函数),参数尽量轻量;大数组用shared_memory或numpy.memmap
  • 进程数建议设为os.cpu_count() - 1,留一个核给系统和其他任务

混合任务:拆开处理,别混在一起跑

真实脚本常既有网络请求又有本地计算(比如下载图片→缩略图处理)。强行用一种并发模型会拖垮整体效率。

  • 先用asyncio批量下载,保存到临时目录
  • 再用ProcessPoolExecutor批量处理本地文件
  • 中间结果用文件或Redis暂存,避免进程间传大量数据
  • 必要时用asyncio.to_thread()(Py3.9+)包裹短时阻塞操作,不阻塞事件循环

基本上就这些。没有银弹,但只要分清任务性质、选对工具、控住并发度,十倍提升不是夸张——很多脚本卡在串行等API响应,一改成asyncio,耗时直接从2分钟降到12秒。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
lambda表达式
lambda表达式

Lambda表达式是一种匿名函数的简洁表示方式,它可以在需要函数作为参数的地方使用,并提供了一种更简洁、更灵活的编码方式,其语法为“lambda 参数列表: 表达式”,参数列表是函数的参数,可以包含一个或多个参数,用逗号分隔,表达式是函数的执行体,用于定义函数的具体操作。本专题为大家提供lambda表达式相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.15

1191

5

python lambda函数
python lambda函数

本专题整合了python lambda函数用法详解,阅读专题下面的文章了解更多详细内容。

2025.11.08

345

7

Python lambda详解
Python lambda详解

本专题整合了Python lambda函数相关教程,阅读下面的文章了解更多详细内容。

2026.01.05

694

7

C++ Lambda 表达式与函数式编程
C++ Lambda 表达式与函数式编程

深入讲解 C++ Lambda 表达式与函数式编程范式,涵盖 Lambda 基础语法与返回值推导、值捕获与引用捕获的区别与陷阱、初始化捕获(C++14 广义捕获)、泛型 Lambda(auto 参数)、mutable 关键字修改捕获变量、std::function 类型擦除与函数包装、std::bind 参数绑定(及其被 Lambda 替代的趋势)、Lambda 在 STL 算法(sort/transform/for_each/remo

2026.05.06

889

22

Java 函数式接口与 Lambda 进阶技巧
Java 函数式接口与 Lambda 进阶技巧

在 Java Stream 基础之上进一步深入函数式编程,涵盖 @FunctionalInterface 注解与自定义函数式接口设计、四种方法引用(静态/实例/对象/构造器)的使用场景、Lambda 中的 effectively final 变量捕获规则、函数组合(andThen/compose)与柯里化技巧、Comparator 链式比较器构建、CompletableFuture 异步函数式编排、Reactor / RxJava 响应

2026.05.08

468

28

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

7207

5

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2023.08.10

2948

6

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

2023.08.10

4978

6

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

2025.12.24

1389

20

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程