为什么Python接口压测吞吐量低

夜萱大大_9429

夜萱大大_9429

2026-09-13

572人浏览

原创

locust压测rps上不去且cpu低,本质是工具未真正并发:需检查用户数、wait_time配置、master/worker版本一致性、本机连接数限制及服务端i/o模型、连接池、http客户端异步性等。

为什么python接口压测吞吐量低

吞吐量低不是代码写得慢,而是请求根本没跑起来——多数情况是压测工具、网络或服务端配置卡在了“发不出去”或“接不住”的环节。

Locust 启动后 RPS 上不去,CPU 却很低

这是最典型的假性性能问题:压测工具没真正并发起来,服务器资源自然空转。

  • wait_time = between(1, 5) 写成 wait_time = constant(0.1) 也不行——Locust 默认每用户串行执行任务,constant(0.1) 表示“每个用户每 0.1 秒发一个请求”,但若只启了 10 个用户,理论最大 RPS 就是 10;要上量,必须提高 user_count 或改用 constant_pacing
  • 忘记加 catch_response=True 导致失败请求不计入统计,RPS 虚高但实际大量超时被静默丢弃
  • Master/Worker 版本不一致(比如 Master 是 locust 2.15.1,Worker 是 2.14.0),Worker 注册失败却不报错,看起来人很多,其实只有 Master 在单线程跑
  • 压测机本机带宽或连接数打满:netstat -an | grep :80 | wc -l 超过 65535,说明本地端口耗尽,需调大 net.ipv4.ip_local_port_range

Python 服务端响应快,但压测 QPS 卡在 200 左右

瓶颈不在业务逻辑,而在 I/O 模型和连接管理。

Python数据分析(免费版)
Python数据分析(免费版)

提供Python数据清洗、统计分析与可视化建议,覆盖业务报表与科研数据的快速处理流程。

下载
  • Flask + WSGI(如 gunicorn) 默认是同步阻塞模型,workers=4 + threads=2 最多撑 8 并发,再多请求就排队等线程——换 FastAPI + Uvicorn --workers 4 --http 1.1 可轻松突破 3000+ QPS
  • uvicorn 启动时漏掉 --limit-concurrency--backlog,内核连接队列溢出,新连接被直接拒绝(看 ss -sfailed 计数)
  • 数据库连接池设得太小:比如 SQLAlchemypool_size=5,但压测开 100 用户,95% 请求在等连接——应设为并发用户的 1.5~2 倍,并确认 max_overflow 允许临时扩容
  • HTTP 客户端(如调第三方 API)用了同步 requests,每个请求卡住整个协程——必须换成 aiohttphttpx.AsyncClient

内网压测 QPS 是外网 3 倍,且 CPU 利用率差 5 倍

这基本锁定是网络层问题,不是 Python 代码能调的。

  • 外网 DNS 解析慢:curl -w "%{time_namelookup}\n" -o /dev/null -s http://your-api.com 查看是否 >100ms;压测时应直连 IP 或预填 /etc/hosts
  • TCP 连接复用没打开:Locust 默认启用 keep-alive,但服务端 Nginx 或负载均衡器可能配了 keepalive_timeout 5,连接刚建好就被关,反复握手拖垮吞吐
  • SSL/TLS 握手耗时高:用 openssl s_time -connect your-api.com:443 -new 测新建连接耗时;生产环境务必开启 TLS session resumption(ssl_session_cache shared:SSL:10m
  • 运营商中间设备限速或 QoS 策略:对比同一台压测机分别走电信/联通线路的结果,差异大则基本可判定

压测中出现偶发长尾延迟(P99 > 1s),但平均 RT 很低

这类问题最容易被忽略,却直接拖垮吞吐上限——因为一个慢请求会阻塞整个连接或线程。

  • 数据库慢查询未覆盖索引:哪怕 99% 请求走索引,剩下 1% 的 SELECT * FROM orders WHERE status = 'pending' 没加索引,就会触发全表扫描,把连接池拖死
  • 日志写入同步阻塞:比如用 logging.basicConfig 直接写磁盘文件,在高并发下 f.write() 成为瓶颈;应切到异步 handler 或用 concurrent.futures.ThreadPoolExecutor 提交写日志任务
  • Python GIL 下的 CPU 密集操作(如 JWT 验签、AES 解密)没做 asyncio.to_threadconcurrent.futures.ProcessPoolExecutor 卸载,单个请求吃满一个核,其他协程全卡住
  • Redis 连接未复用:每次请求都 redis.Redis() 新建实例,TCP 连接反复创建销毁——必须用连接池(ConnectionPool)并全局复用 client

吞吐量不是算出来的,是压出来的;但压不出来时,先别翻业务代码——查连接、看网络、盯线程池,这三个地方占了八成以上的真实瓶颈。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1531

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

3584

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1549

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

20357

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2527

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2587

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1063

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

576

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2003

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程