Redis主从同步过程中出现大Key怎么办?

星瑶大大_5315

星瑶大大_5315

2026-09-02

470人浏览

原创

大key导致主从同步卡住时,需同时观察info replication中slave_repl_offset与master_repl_offset差值长期不缩小、net_output_bytes突增、从节点日志出现timeout waiting for bulk read;三者共现即为大key单次传输阻塞复制流。

redis主从同步过程中出现大key怎么办?

主从同步卡住时怎么确认是大Key导致的

直接看 INFO replication 输出里的 slave_repl_offset 和 master_repl_offset 差值是否长期不缩小,再结合 net_output_bytes 是否突增、从节点日志里有没有 Timeout waiting for bulk read —— 这三者同时出现,基本就是大Key在单次传输中把复制流堵死了。

别只信 redis-cli --bigkeys,它只告诉你“哪个key大”,不告诉你“它正在拖垮同步”。更准的方式是:MEMORY USAGE bigkey_name 查实际内存占用,再用 OBJECT FREQ bigkey_name 和 OBJECT IDLETIME bigkey_name 判断是不是冷数据、值不值得立刻拆。

用 HSCAN/SSCAN 拆分大Hash或大Set时不踩坑的关键点

不能直接 HDEL 或 DEL,否则主节点CPU瞬间拉满,且删除命令本身又会作为一条大指令同步到从节点,形成二次冲击。

  • 必须在主节点执行:所有 HSET、HDEL、SADD、SREM 都要走复制流,从节点只读,不参与任何写逻辑
  • HSCAN myhash 0 COUNT 100 每次最多拉 100 个 field;SSCAN myset 0 COUNT 500 同理,别贪多——从节点同步时单条命令超 500KB 就容易触发 client-output-buffer-limit 断连
  • 每次操作后加 SLEEP 0.01(比如用 redis-cli --eval 调 Lua),避免连续高密度命令压垮主线程或复制缓冲区
  • 新 key 命名要有规律,比如 myhash:shard001、myset:part1,方便后续清理和监控

UNLINK 在主从同步场景下到底有没有用

UNLINK 不是“分段释放”,只是把删除任务扔给后台线程,主线程不卡了,但对从节点完全没帮助:主节点写入 AOF 和复制流的仍是 DEL 命令,从节点收到后照样得同步执行一次阻塞删除。

所以 UNLINK 单独用,解决不了主从同步问题。它只有配合渐进式拆分才有意义——比如先用 HSCAN 把大 Hash 拆成小份,再对每个小 key 用 UNLINK 清理,这时每条删除都轻量,复制流才安全。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载

注意:即使用了 UNLINK,也得提前调大关键配置,否则照样断连:client-output-buffer-limit slave 512mb 128mb 60、repl-backlog-size 1024mb 必须在出问题前就设好。

集群模式下大Key带来的隐藏风险

Redis Cluster 不会自动拆分大Key,一个几MB的 ZSET 如果 hash 到某个 slot,就会让那个节点内存和网络带宽双双吃紧,造成数据倾斜——其他节点空闲,它却频繁 OOM 或复制延迟飙升。

业务侧必须自己做分片:比如把原 key user:orders:123 改成 user:orders:123:001 ~ user:orders:123:010,按时间或 ID 取模分桶,读取时聚合。别指望 Cluster 自动帮你扛。

监控不能只盯单实例的 bigkey 数量,得叠加看每个 slot 的内存使用率和 slave_repl_offset 差值——倾斜往往发生在某几个 slot 上,而不是整 cluster 均匀分布。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4229

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

3715

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

6672

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

623

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

736

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

6202

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1140

6

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

996

6

redis主要作用有哪些
redis主要作用有哪些

redis 的主要作用包括:1. 缓存数据,提高访问速度;2. 充当消息队列,实现消息传递;3. 存储各种数据类型,如字符串、散列和集合;4. 管理会话信息,确保可靠性和可用性;5. 限制请求速率,防止服务器超载等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

5558

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习