如何解决Redis主从同步因Master节点写入量过于疯狂导致Slave的Output Buffer无限溢出

千墨君_4282

千墨君_4282

2026-05-30

341人浏览

原创

redis主从同步中复制输出缓冲区溢出需立即止损并根治:先用client list和info memory定位omem异常,执行client kill或调大client-output-buffer-limit;长期需调大repl-backlog-size、启用repl-diskless-sync、限流写入、拆分bigkey并升级从节点资源。

如何解决redis主从同步因master节点写入量过于疯狂导致slave的output buffer无限溢出

Redis主从同步中,当Master写入压力极大(例如突发批量写、高QPS写命令、大量bigkey操作),而Slave消费能力跟不上时,Master为每个Slave维护的复制输出缓冲区(replication buffer)会持续堆积,omem飙升,最终触发强制断连或OOM崩溃——这不是配置没调好,而是生产者(Master)和消费者(Slave)严重失衡的表现。

确认是否是复制输出缓冲区溢出

先用以下命令快速定位问题:

  • redis-cli client list | grep -v "omem=0" | awk '{print $NF}' | sort -nr | head -3 —— 查看omem最大的几个从节点,单位字节;超过200MB就要警惕,超500MB已属高危
  • redis-cli info memory | grep -E "(used_memory_rss|used_memory)" —— 若used_memory_rss比used_memory高出1.5倍以上,且差值与omem总和接近,基本可锁定是复制缓冲区吃掉的内存
  • redis-cli info replication | grep -E "(slave_repl_offset|master_repl_offset|repl_backlog_active)" —— 若slave_repl_offset长期远落后于master_repl_offset,且repl_backlog_active=1但repl_backlog_histlen接近满,说明积压严重

立即止损:防止断连与OOM

不要等OOM Killer杀进程,优先做三件事:

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载
  • 对已明显滞后的从节点,执行CLIENT KILL TYPE slave主动断开,避免其继续拉低整体同步效率
  • 临时增大从节点的输出缓冲区硬限:CONFIG SET client-output-buffer-limit slave "512mb 128mb 60"(即:软限512MB、硬限128MB、60秒内超限即断连),缓解瞬时堆积
  • 检查并临时关闭非关键从节点的AOF(CONFIG SET appendonly no),减少从节点本地写盘阻塞,提升命令消费速度

根治策略:平衡写入与同步能力

长期稳定依赖架构与配置协同优化:

  • 调大repl-backlog-size至合理值:按「峰值写入带宽 × 最长容忍断连时间」计算,例如峰值写入4MB/s、允许断连90秒,则设为CONFIG SET repl-backlog-size 377487360(360MB),并写入redis.conf
  • 启用无盘同步:CONFIG SET repl-diskless-sync yes,避免Master在全量同步时因fork+bgsave引发内存翻倍和IO卡顿
  • 限制Master端写入节奏:在业务层对高频写入加令牌桶限流;对bigkey拆分(如大Hash按field分片)、禁用HGETALL/SMEMBERS等全量返回命令
  • 升级从节点资源配置:确保从节点CPU不瓶颈(尤其解析命令)、网络带宽充足(建议万兆或同机房部署)、内存预留足够(除maxmemory外,额外预留≥1GB给复制缓冲区和COW)

监控与预防机制

把以下指标接入告警系统,阈值建议:

  • client_longest_output_list > 100000000(100MB)→ 紧急告警
  • used_memory_rss / total_system_memory > 0.85 → 高内存风险
  • master_repl_offset - slave_repl_offset > 100000000(1亿字节偏移差)→ 同步严重滞后
  • 每5分钟采集一次client list中的omem分布,绘制趋势图,识别“缓慢爬升型”溢出(常由慢从节点或网络抖动引发)

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

redis

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
服务器是什么
服务器是什么

服务器是一种计算机硬件设备或软件程序,它具有强大的计算和存储能力,用请求、存储数据和提供服务。它在互联网中着关重要的作用,为用户提供各种服务和资源。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.15

437

5

连接apple id服务器时出错
连接apple id服务器时出错

连接apple id服务器时出错的原因包括网络连接问题、服务器问题、Apple ID账户问题、设备问题、防火墙或安全软件问题、时间和日期设置问题、Apple服务器维护等。本专题为大家提供apple id相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.08

920

5

搭建互联网服务器
搭建互联网服务器

搭建互联网服务器需要:1、选择合适的硬件和操作系统,第一步是选择合适的硬件和操作系统;2、安装和配置操作系统,是搭建互联网服务器的关键步骤;3、安装和配置服务器软件,是搭建互联网服务器的下一步,常见的服务器软件包括Apache、Nginx、Tomcat等;4、配置防火墙和安全性,是搭建互联网服务器的重要步骤;5、域名解析和配置,是搭建互联网服务器的最后一步。

2023.09.19

2872

5

如何查看服务器状态
如何查看服务器状态

查看服务器状态的方法有使用命令行工具、图形界面工具、监控工具、日志文件和远程管理工具等。本专题为大家提供服务器状态相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.09

956

5

服务器域名转接慢怎么解决
服务器域名转接慢怎么解决

服务器域名转接慢的解决办法有DNS优化、服务器优化、CDN加速、前端优化和网络优化等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.17

849

5

服务器评测软件
服务器评测软件

服务器评测软件有PassMark Software、CPU-Z、GPU-Z、CrystalDiskMark、IOmeter、JMeter、LoadRunner、Apache Bench等等。详细介绍:1、PassMark Software是一款综合性的服务器性能测试软件,可以评估服务器在各种负载条件下的性能;2、CPU-Z是一款可以提供服务器CPU详细信息的软件等等。

2023.10.17

434

3

如何开启TFTP服务器
如何开启TFTP服务器

开启TFTP服务器的步骤包括选择TFTP服务器软件、下载和安装软件、配置TFTP服务器以及启动和测试服务器等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.18

2596

4

服务器负载不兼容怎么解决
服务器负载不兼容怎么解决

解决方法:1、增加服务器资源;2、负载均衡;3、优化应用程序;4、增加缓存机制;5、分布式架构;6、限流和熔断;7、自动化扩容。想知道更详细服务器负载不兼容的解决方法,可以访问本专题下面的文章。

2023.10.20

4832

4

宽带如何接入服务器
宽带如何接入服务器

宽带接入服务器的方法有ADSL宽带接入服务器、光纤接入服务器、无线接入服务器和以太网接入服务器等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.20

767

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习