在K8s集群中如何保证Pod扩缩容时Redis订阅连接不中断

落伟小哥_6412

落伟小哥_6412

2026-09-27

860人浏览

原创

根本原因是k8s缩容时redis pod被强制终止前未主动关闭pub/sub连接或通知客户端下线,且客户端未及时感知拓扑变更;需prestop+sigterm协同处理退订,并配合客户端拓扑刷新与连接重建。

在k8s集群中如何保证pod扩缩容时redis订阅连接不中断

Redis 订阅连接在 K8s 扩缩容时中断,根本原因不是客户端没重连,而是服务端(Redis Pod)被强制终止前,pub/sub 连接未被主动关闭、未通知客户端“即将下线”,导致 TCP 连接突然断开,客户端收到 ECONNRESET 或超时;更关键的是,若用的是 Redis Cluster 或 Sentinel 架构,扩缩容还可能触发拓扑变更,而客户端未及时刷新节点列表。

为什么滚动更新/缩容会导致 Redis 订阅断连

滚动更新或 cluster-autoscaler 缩容时,K8s 会向旧 Pod 发送 SIGTERM,然后等待 terminationGracePeriodSeconds(默认 30 秒),超时即 SIGKILL。但 Redis 服务进程(尤其是 redis-server 自身)默认不响应 SIGTERM 做优雅退订 —— 它不会主动向所有 pub/sub 客户端发送 FIN 包,也不会广播“本节点将退出集群”。订阅连接靠 TCP 心跳维持,一旦 Pod 网络栈被 kubelet 清理(如 netns 销毁),连接就静默失效。

  • StatefulSet 滚动更新时,旧 Pod 被删,但客户端仍往其 IP 发送 SUBSCRIBE 请求,直到 DNS/Service 更新或连接超时
  • Redis Cluster 扩容后,槽位(slot)重新分配,但客户端缓存的旧拓扑未刷新,PUB 可能打到错误节点,SUB 则因目标节点无对应 channel 而静默失败
  • Headless Service + publishNotReadyAddresses: true 能暴露 Pod IP,但不解决连接生命周期管理问题

必须同时配置 preStop + SIGTERM 捕获 + 主动退订逻辑

单靠 preStop 或单靠信号捕获都不够:前者是容器层面钩子,后者是进程层面响应。二者需协同触发“通知客户端下线 → 关闭监听 → 等待订阅连接自然断开或强制清理”的完整链路。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载
  • preStop 钩子中调用脚本,向注册中心(如 Nacos/Eureka)标记实例为下线,并通过 Redis 的 PUBLISH 机制广播“maintenance:start”事件,让客户端主动退订并切换节点
  • Redis 服务进程本身需支持 SIGTERM:若使用自研代理层(如基于 Go 的 redis-proxy),应在 main() 中注册 signal.Notify(ch, syscall.SIGTERM),收到后执行 redis.Client.Close() 并调用 UNSUBSCRIBE 清理本地 channel
  • 若直接跑官方 redis-server,无法改源码,则必须用 wrapper 启动:例如用 sh -c 'trap "redis-cli shutdown save" TERM; exec redis-server /etc/redis.conf',但注意这仅停服务,不处理已有 pub/sub 连接 —— 所以 wrapper 必须额外加一步:redis-cli --scan --pattern '__keyspace@*:*' | xargs -I{} redis-cli PUBLISH maintenance "going-down"

客户端侧必须实现拓扑感知与连接重建

服务端再优雅,客户端不配合也白搭。很多 SDK(如 Jedis、Lettuce、redis-py)默认不自动刷新 Redis Cluster 拓扑或重试 SUBSCRIBE。

  • Lettuce 必须启用 DynamicNodeResolver 并设置 refreshTriggersReconnectEnabled = true,否则扩容后新主节点上线,客户端仍连旧地址
  • redis-py 的 PubSub 对象不自动重连,需手动捕获 ConnectionError 后重建 pubsub 实例并重新 SUBSCRIBE
  • 所有客户端都应配置合理的 socket_timeout 和 health_check_interval,避免长时间卡在已断开的 fd 上
  • 避免在单个连接上混用 PUB/SUB 和普通命令 —— Redis 不允许在 pub/sub 连接上发 GET,否则连接会被服务端关闭

Operator 模式是生产环境最稳的选择

手动维护 StatefulSet + ConfigMap + preStop 的组合极易遗漏环节(比如忘记调大 terminationGracePeriodSeconds,或 preStop 脚本超时)。Redis Operator(如 redis-operator 或 spotahome/redis-operator)把“集群初始化、故障转移、扩缩容时的槽迁移、节点退订广播”全封装成控制器逻辑。

  • Operator 在缩容前,会先调用 redis-cli cluster forget 清理旧节点元数据,并触发 redis-cli cluster check 确保槽分布一致
  • 它通过自定义资源(CR)声明期望状态,例如 spec.cluster.nodes: 6,控制器自动完成分片重平衡,期间持续提供 CLUSTER NODES 查询接口供客户端拉取最新拓扑
  • 配套的 Helm Chart 通常内置了带健康检查的 livenessProbe 和 readinessProbe,确保只有真正可服务的 Pod 才进入 Endpoints

真正容易被忽略的点是:即使用了 Operator,客户端仍要自己做连接池隔离 —— 订阅连接和命令连接不能共用一个 ConnectionPool,否则一个连接断开可能触发整个池重建,放大抖动影响。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

redis

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4149

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

3615

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

6432

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

603

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

716

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

5922

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1140

6

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

956

6

redis主要作用有哪些
redis主要作用有哪些

redis 的主要作用包括:1. 缓存数据,提高访问速度;2. 充当消息队列,实现消息传递;3. 存储各种数据类型,如字符串、散列和集合;4. 管理会话信息,确保可靠性和可用性;5. 限制请求速率,防止服务器超载等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

5358

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习