Redis持久化开启后主从同步延迟_检查RDB传输带宽限制

胖墨君_7933

胖墨君_7933

2026-04-14

162人浏览

原创

主从同步卡在rdb传输阶段主要因带宽低估、tcp缓冲区不足、repl-backlog-size过小、client-output-buffer-limit过严及thp开启导致fork延迟;需逐项排查网络重传、真实吞吐、内核参数、缓冲区配置与内存管理。

redis持久化开启后主从同步延迟_检查rdb传输带宽限制

主从同步卡在RDB传输阶段?先看带宽是否被低估

Redis全量同步时,主节点生成bgsave后要把整个RDB文件发给从节点——这个过程不是“瞬间完成”的,而是实实在在的网络IO。很多团队误以为内网千兆带宽“肯定够”,结果发现RDB传输动辄几十秒,甚至超时断连。根本原因常是:**带宽预估没扣掉系统开销,也没考虑TCP缓冲区和突发流量挤压**。

  • 用redis-cli --stat或netstat -s | grep -i "retransmit"确认是否存在重传;重传率>0.1% 就说明网络链路或缓冲区已成瓶颈
  • 实测RDB大小:du -h dump.rdb(主节点上查),再除以实际传输耗时(INFO replication里看master_repl_offset增长斜率),反推真实吞吐。若远低于理论带宽(如百兆网只跑8MB/s),大概率是TCP窗口或网卡中断队列压不住
  • 别只盯着“带宽”,检查/proc/sys/net/ipv4/tcp_rmem和tcp_wmem:默认四K级缓冲在大文件传输下极易打满,建议调为4096 65536 4194304(min/default/max)

repl-backlog-size设小了,RDB传一半就退化成全量重传

很多人以为repl-backlog-size只是为“断线重连”服务的,其实它直接影响RDB传输的稳定性。当从节点接收RDB慢于主节点写入速度,主节点会把新命令往复制积压缓冲区里塞;一旦缓冲区溢出,从节点重连后无法做部分同步,只能再次触发全量——形成“传RDB→溢出→重传RDB”的死循环。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载
  • 按公式算底线值:QPS × 平均命令字节数 × 最长容忍断连时间。例如写QPS=3000、平均命令200B、容忍断连90秒 → 至少需3000 × 200 × 90 = 54MB
  • 生产环境直接设repl-backlog-size 1024mb更稳妥:它是环形缓冲,设大不占额外内存,只影响主节点内存中一段固定区域
  • 注意:该参数必须在主节点配置,从节点设无效;且修改后需重启或CONFIG REWRITE持久化,仅CONFIG SET在重启后丢失

client-output-buffer-limit slave限制太紧,RDB还没发完就被踢

主节点用client-output-buffer-limit slave控制每个从节点的输出缓冲上限。这个缓冲区不仅存增量命令,还承载着整个RDB文件的发送流。如果RDB有2GB,而限制只设了256MB,主节点会在发到256MB时强制断开连接——从节点日志报Connection with master lost,但你根本看不到RDB传输失败的明确提示。

  • 检查当前值:CONFIG GET client-output-buffer-limit,典型返回类似"slave 268435456 67108864 60"(硬限256MB,软限64MB,超软限60秒触发断连)
  • 安全做法:硬限至少设为预期最大RDB体积的1.5倍。例如RDB通常1.2GB → 设slave 1800000000 0 0(即1.8GB,软限关掉)
  • 风险提示:该值调太大不会导致OOM,但若从节点长期假死,主节点会持续堆积数据直到OOM;所以得配合监控slave0:output_buffer指标做告警

THP开启+大RDB=fork延迟翻倍,bgsave拖垮同步节奏

当主节点执行bgsave生成RDB时,Redis靠fork()创建子进程。若系统启用了透明大页(THP),fork的写时复制(COW)单位从4KB变成2MB——意味着哪怕只改一个字节,也要拷贝2MB内存页。RDB越大,fork越慢,主线程卡顿越久,从节点等不到数据,延迟自然飙升。

  • 查THP状态:cat /sys/kernel/mm/transparent_hugepage/enabled,若显示[always]或[madvise],必须关
  • 临时关闭:echo never > /sys/kernel/mm/transparent_hugepage/enabled
  • 永久关闭:在/etc/default/grub的GRUB_CMDLINE_LINUX加transparent_hugepage=never,再update-grub && reboot
  • 顺手检查INFO memory里的mem_allocator,避免用jemalloc旧版本(<5.2.1)在THP关闭后仍残留页对齐问题
RDB传输不是“发个文件就完事”,它卡在带宽、缓冲区、fork机制三个咬合最紧的环节。最容易被忽略的是:**你以为在调Redis参数,其实是在协调Linux内核、网卡驱动和Redis内存模型的协作边界**。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

redis redis持久化

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

5187

5

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2023.08.10

2288

6

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

2023.08.10

3838

6

default gateway怎么配置
default gateway怎么配置

配置default gateway的步骤:1、了解网络环境;2、获取路由器IP地址;3、登录路由器管理界面;4、找到并配置WAN口设置;5、配置默认网关;6、保存设置并退出;7、检查网络连接是否正常。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.12.07

357

5

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4309

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

3815

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

6932

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

623

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

736

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习