如何测试高并发下Redis发布订阅的延迟与消息丢失率?

冬萱同学_7782

冬萱同学_7782

2026-10-22

554人浏览

原创

redis-benchmark无法真实压测pub/sub,因其单连接循环模式不触发client-output-buffer-limit溢出;应使用多线程python脚本模拟30+独立订阅连接,结合时间戳测延迟、sorted set统计丢包,并注意docker网络栈对延迟的影响。

如何测试高并发下redis发布订阅的延迟与消息丢失率?

用多线程 Python 模拟真实订阅压力,别信 redis-benchmark

redis-benchmark -t pubsub 压不出真实延迟和丢包,它只建 1 个发布连接 + 1 个订阅连接,反复循环发收,不触发 client-output-buffer-limit 溢出,也不模拟多客户端竞争缓冲区。线上一开 30+ 个订阅线程,Redis 就开始断连、丢消息——这压测根本测不出来。

正确做法是写一个 Python 脚本,用 threading 启动 N 个独立 redis.Redis().pubsub() 实例,每个都 SUBSCRIBE 同一频道,再由另一个线程高频 PUBLISH 带递增序号的消息(如 "msg:12345")。关键点:

  • 每个线程必须调用 pubsub.listen() 进入阻塞读,不能用 get_message(block=False) 轮询,否则无法复现 TCP 长连接下的缓冲区堆积
  • 发布端要记录每条消息的发送时间戳(time.time_ns()),订阅端收到后比对,算单跳延迟
  • 用集合或 Redis Sorted Set 在服务端暂存已发序号,订阅端上报收到的序号,最后比对差集得丢失率

检查 client-output-buffer-limit 是否被击穿

Redis 默认配置 client-output-buffer-limit pubsub 32mb 8mb 60,意思是:当某个订阅连接的输出缓冲区超过 32MB,或连续 60 秒内超过 8MB,就强制断开该连接。高并发下极易触发,表现为客户端日志出现 Connection closed by server 或 Redis 日志打印 Client output buffer too big。

实操建议:

  • 在测试前先用 CONFIG GET client-output-buffer-limit 确认当前值,必要时临时调大(如 128mb 32mb 120),但注意内存水位
  • 监控 redis_connected_clients 指标是否突降,配合 redis_rejected_connections_total 上升,基本可锁定是缓冲区溢出导致的批量断连
  • 不要只看 INFO PUBSUB 返回的 channels 和 patterns 数,它们不反映连接健康状态

Docker 环境下必须绕过 bridge 网络栈

同一宿主机上跑发布/订阅容器,延迟从 0.5ms 跳到 6–12ms,90% 是 Docker 默认 --network bridge 搞的鬼:veth → docker0 → iptables → NAT,每跳加 0.5–2ms。TCP 往返路径拉长,直接抬高 RTT,尤其对 pubsub.listen() 这种长轮询模式影响显著。

redis-tools
redis-tools

按类别查找Redis命令、检测服务器连接、监控键数量和内存占用,支持离线速查表。

下载

解决方式很直接:

  • 改用 --network host,延迟回落至 0.3–0.8ms;但要注意:redis-cli 必须连 127.0.0.1:6379,不能用 localhost(可能走 Unix socket 失败)
  • 若必须用 bridge,创建自定义网络:docker network create mynet,让 Redis 容器和客户端容器都加入,并用容器名(如 redis)互连,绕过 docker0 网桥
  • 绝对避免让 Python 客户端通过 127.0.0.1:6379 连宿主机 Redis——这会触发 Docker 的 port mapping,引入 DNAT 和 conntrack,延迟更不可控

丢包率只能靠客户端自埋点,Redis 本身不提供

Redis 没有原生「丢包数」指标,INFO PUBSUB 只返回当前订阅者数量,不记录任何溢出、驱逐或丢弃计数。redis_exporter 默认采集不到丢包率,因为它只解析 INFO 命令输出。

可行方案只有应用层补全:

  • 发布端每发一条消息,往 Redis 的 Sorted Set 写入:ZADD pubseq:order_updates <ts> msg:12345</ts>
  • 每个订阅线程收到消息后,立刻用 pipeline 执行 ZREM pubseq:order_updates msg:12345 并记录成功数
  • 定时任务(如每 10 秒)执行 ZCARD pubseq:order_updates,剩余数量即为「疑似丢失」消息数
  • 注意:这个方法测的是「未被任一消费者处理」的消息,不是网络层丢包,但对业务已足够敏感

真正难处理的是慢消费者——它不报错、不断连,只是越积越多,把输出缓冲区悄悄撑爆。这种问题不会出现在压测报告里,只会在线上凌晨三点突然爆发。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

redis

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4549

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

4115

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

7672

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

643

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

756

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

7622

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1160

6

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1136

6

redis主要作用有哪些
redis主要作用有哪些

redis 的主要作用包括:1. 缓存数据,提高访问速度;2. 充当消息队列,实现消息传递;3. 存储各种数据类型,如字符串、散列和集合;4. 管理会话信息,确保可靠性和可用性;5. 限制请求速率,防止服务器超载等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

6638

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习