如何解决Redis发布订阅在高并发下的延迟问题_通过多线程消费逻辑优化

老丽姑娘_2296

老丽姑娘_2296

2026-06-24

486人浏览

原创

如何解决redis发布订阅在高并发下的延迟问题_通过多线程消费逻辑优化

Redis发布订阅在高并发下出现延迟,根本原因不是Redis发不出消息,而是消费端卡在了pubsub.listen()的阻塞循环里——它单线程、不批处理、不做超时控制,一卡全卡。

Python中用多线程启动listen()必须隔离连接

每个订阅线程必须持有独立的redis.Redis实例和pubsub对象,不能共用一个连接或连接池。共用会导致:

  • ConnectionError: Connection closed by server —— 因为其他线程调用unsubscribe()或reset()会重置整个连接状态
  • 消息错收:A线程订阅order:paid,B线程误发PUBLISH order:canceled ...,服务端可能直接断连
  • client_longest_output_list持续上涨,超过1000就说明消费者已严重积压

正确写法是在线程内新建连接:

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载
def subscribe_to_channel(channel_name):
    r = redis.Redis(host='127.0.0.1', port=6379, decode_responses=True, socket_timeout=5)
    pubsub = r.pubsub()
    pubsub.subscribe(channel_name)
    for msg in pubsub.listen():
        if msg['type'] == 'message':
            process_message(msg['data'])  # 真实处理逻辑

阻塞式listen()里不能做耗时操作

pubsub.listen()是同步阻塞迭代器,一旦你在循环里调用数据库写入、HTTP请求或复杂JSON解析,下一条消息就得等几秒甚至几十秒,缓冲区立刻堆积。

  • 把反序列化、路由判断、日志记录等逻辑移到异步任务队列(如concurrent.futures.ThreadPoolExecutor)中执行
  • 设置socket_timeout=3,避免网络抖动导致无限挂起
  • 加try/except RedisError捕获断连,自动重连并重新subscribe

Java用Lettuce时别共享StatefulRedisPubSubConnection

Lettuce的StatefulRedisPubSubConnection是线程不安全的,多个业务模块共用一个连接对象,极易触发READONLY You can't write against a read only replica错误——这其实不是权限问题,而是连接被其他模块误发了PUBLISH,导致内部状态混乱,服务端强制断开。

  • 每个订阅逻辑(如库存变更监听、支付回调监听)应使用独立的ClientResources和EventLoopGroup
  • 配置spring.redis.lettuce.pool.max-active=200只对命令连接有效,Pub/Sub连接不走这个池,必须显式创建新连接
  • 用connection.addListener()注册回调,而非长期阻塞sync().listen()

真正卡住的从来不是Redis,而是你没意识到listen()是个单点瓶颈,且默认行为完全不适应高并发消费场景——它不批、不异步、不熔断,只安静地等你把它拖垮。

相关专题

更多
Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

2025.12.24

1069

20

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.21

363

30

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

2026.01.21

539

24

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

2026.02.06

369

20

C++多线程并发控制与线程安全设计实践
C++多线程并发控制与线程安全设计实践

本专题围绕 C++ 在高性能系统开发中的并发控制技术展开,系统讲解多线程编程模型与线程安全设计方法。内容包括互斥锁、读写锁、条件变量、原子操作以及线程池实现机制,同时结合实际案例分析并发竞争、死锁避免与性能优化策略。通过实践讲解,帮助开发者掌握构建稳定高效并发系统的关键技术。

2026.03.16

213

22

Java 多线程与并发编程实战
Java 多线程与并发编程实战

深入讲解 Java 并发编程体系,涵盖 Thread / Runnable / Callable 线程创建方式、线程生命周期与状态转换、synchronized 同步锁与 Lock/ReentrantLock 显式锁、volatile 可见性保证、ThreadPool 线程池配置与调优(核心参数/拒绝策略)、JUC 并发工具类(CountDownLatch/CyclicBarrier/Semaphore/ConcurrentHashMa

2026.04.17

329

31

C++ 多线程使用教程大全
C++ 多线程使用教程大全

系统讲解 C++11 及后续标准引入的多线程编程能力,涵盖 std::thread 线程创建与生命周期管理、std::mutex / shared_mutex 互斥锁与读写锁、std::condition_variable 条件变量同步、std::atomic 原子操作与内存序(memory_order)、std::future / promise / async 异步任务、线程池的设计与实现、死锁检测与避免策略,帮助开发者编写正确高效

2026.04.28

196

17

Python多线程、多进程与并发编程教程大全
Python多线程、多进程与并发编程教程大全

系统讲解 Python 的并发与并行编程体系,涵盖 GIL 全局解释器锁的原理与影响分析、threading 模块的线程创建/锁/事件/信号量、multiprocessing 模块的进程创建/进程间通信(Queue/Pipe/共享内存)、concurrent.futures 线程池与进程池的统一接口、I/O 密集型与 CPU 密集型任务的方案选择、多线程竞态条件排查与线程安全数据结构、subprocess 子进程管理,帮助开发者根据任务

2026.05.08

174

32

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4309

19

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习