如何评估Redis发布订阅在百万QPS下的内存与CPU消耗

雨宇小哥_7876

雨宇小哥_7876

2026-10-09

658人浏览

原创

百万qps下redis pub/sub的瓶颈在于cpu与内存耦合恶化:cpu高致分发延迟,延迟推高缓冲区,缓冲区满触发断连重连,形成恶性循环;需合理配置client-output-buffer-limit、控制pattern数量并规范客户端重连逻辑。

如何评估redis发布订阅在百万qps下的内存与cpu消耗

百万 QPS 的 Redis Pub/Sub 不是单纯“加机器就能扛住”的问题,它会在内存和 CPU 两个维度同时触发隐性瓶颈,且彼此耦合:CPU 高了导致消息分发延迟,延迟又推高输出缓冲区,缓冲区涨满再触发连接断开重连,形成恶性循环。真实压测中,90% 的崩溃点不在 PUBLISH 本身,而在 client-output-buffer-limit 未设、PSUBSCRIBE pattern 过多、或客户端监听逻辑失控。

client-output-buffer-limit 必须手动配置,否则内存会失控

Redis 对 pubsub 客户端的输出缓冲区默认有值(如 8mb 2mb 60),但这个“默认”不写进 redis.conf 就等于没设——CONFIG SET 不支持动态修改该参数。一旦某个订阅者消费卡顿,缓冲区就会按「单条消息体积 × 订阅数 × 卡顿时长」线性堆积。

  • 例如:平均消息 120KB,8 个 tab 同时订阅,允许卡住 5 秒 → 理论积压 4.8MB,soft-limit 至少设为 6mb,hard-limit 设为 16mb(留毛刺余量)
  • CLIENT LIST 中 omem 持续 >1MB 就该预警;>5MB 很可能已拖慢主线程,甚至触发 OOM kill
  • 禁用限制(0 0 0)等同于放弃内存保护,尤其在百万 QPS 下,几秒积压就能吃光数十 GB 内存

PSUBSCRIBE pattern 数量直接决定 CPU 开销

每次 PUBLISH 都要遍历所有已注册的 pattern 做 glob 匹配,无索引、无缓存、无短路。pattern 越多,CPU 耗时越接近线性增长——这不是客户端问题,是 Redis 服务端纯 CPU 密集型操作。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载
  • PUBSUB NUMPAT 返回值超 20,单次 PUBLISH 延迟就可能从 0.1ms 升至 1ms+;到 100+,CPU 毛刺明显,instantaneous_ops_per_sec 反而可能下降
  • pattern 写法影响匹配效率:order.*.* 比 order.* 多一次字符串扫描;Order.*(大写 O)永远不匹配 order.xxx(大小写敏感),但 CPU 仍白跑一遍
  • 没有调试命令验证 pattern 是否生效,只能靠发布后观察;线上误配 pattern + 百万 QPS = 白耗 CPU 还收不到消息

真实压测必须绕过 redis-benchmark,用多连接多频道模拟

redis-benchmark -t pubsub 只建一个发布者 + 一个订阅者,完全忽略广播模型的本质——百万 QPS 场景下,真正吃资源的是“1 发 N 收”的网络复制、缓冲区管理、连接调度,而非单条命令执行。

  • 必须用 Python/Go 等构造 N 个独立 TCP 连接,每个连接订阅不同 channel(避免单 channel 竞争),并持续调用 pubsub.listen()
  • 每个线程必须用新 redis.Redis() 实例,不能复用连接——否则 socket 共享会导致状态错乱、消息丢失
  • 监听循环里禁止做耗时操作(如 HTTP 请求、DB 查询),否则消息积压 → 缓冲区暴涨 → 连接被踢 → 客户端无限重连 → CPU 100%

最容易被忽略的是:百万 QPS 下,问题往往不出在 Redis 自身,而出在客户端是否设置了 socket_timeout、是否监听了 reconnect 事件、是否用了指数退避重连。一个没设 timeout 的 get_message() 调用,在连接中断后可能退化成忙等,把应用进程 CPU 打满——而 Redis 的 INFO stats 里却看不出任何异常。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

redis

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4349

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

3855

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

7032

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

623

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

756

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

6742

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1160

6

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1036

6

redis主要作用有哪些
redis主要作用有哪些

redis 的主要作用包括:1. 缓存数据,提高访问速度;2. 充当消息队列,实现消息传递;3. 存储各种数据类型,如字符串、散列和集合;4. 管理会话信息,确保可靠性和可用性;5. 限制请求速率,防止服务器超载等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

5978

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习