怎么在Redis中利用Pipeline提升大规模写入的执行速度

浅丽小哥_7885

浅丽小哥_7885

2026-04-11

422人浏览

原创

单条命令写入Redis在批量场景下变慢是因为每次操作需一次网络往返(RTT),10,000次逐条执行导致2秒网络开销;Pipeline通过打包多条命令为单次RTT解决该问题。

怎么在redis中利用pipeline提升大规模写入的执行速度

为什么单条命令写入 Redis 在批量场景下会变慢

Redis 是基于 TCP 的请求-响应模型,每次 SET、LPUSH 等操作都需一次网络往返(RTT)。当你要写入 10,000 条数据时,若逐条发送,就产生 10,000 次 RTT —— 即便每轮只要 0.2ms,光网络开销就达 2 秒,远超命令实际执行时间。

根本问题不在 Redis 服务端性能,而在客户端与服务端之间「一问一答」的串行通信模式。Pipeline 把多条命令打包成一个 TCP 包发过去,服务端顺序执行后一次性返回所有结果,把 N 次 RTT 压缩为 1 次。

Python 中用 redis-py 正确开启 Pipeline 的写法

别直接调 r.set(...),要用 pipeline() 获取管道对象,再链式调用命令方法,最后统一 execute():

r = redis.Redis()
pipe = r.pipeline()
for i in range(10000):
    pipe.set(f"key:{i}", f"value:{i}")
    pipe.expire(f"key:{i}", 3600)
pipe.execute()  # ← 这里才真正发包并阻塞等待全部结果

注意几个关键点:

  • pipe.execute() 是同步阻塞调用,返回一个列表,每个元素对应前面第 N 条命令的结果(比如 [True, True, ...])
  • 不要在循环里反复调 r.pipeline() —— 那等于没用;必须复用同一个 pipe 实例
  • 默认情况下,redis-py 的 pipeline 是「无事务」的(transaction=False),即不加 MULTI/EXEC 包裹,仅做批量发送,性能更高
  • 如果中途某条命令语法错误(如 pipe.hset("hash", "field", value, "extra") 参数错),execute() 仍会执行完前面所有合法命令,但该位置返回 ResponseError 异常对象(不是抛出异常)

Pipeline 的边界:什么时候不该用,或要配额拆分

Pipeline 不是越大越好。过长的管道会带来三类实际风险:

Sentinal Redis
Sentinal Redis

监控Redis服务器健康状况、内存、性能及BullMQ队列。检查队列深度、失败任务,分析慢查询并诊断问题。

下载
  • 内存压力:客户端缓存所有命令参数 + 服务端暂存全部响应结果,10 万条 SET 可能吃掉百 MB 内存
  • 失败成本高:一旦连接中断或服务端 OOM,整批命令全丢,重试粒度太大
  • 阻塞时间不可控:execute() 要等全部命令执行完才返回,若其中一条慢查询(如大 ZRANGE)拖累整体

实操建议:

  • 单次 execute() 控制在 1000–5000 条命令内(具体看 value 大小)
  • 写入前先估算总字节数:sum(len(k)+len(v) for k,v in data) * 1.5(含协议开销),超 1MB 就拆
  • 避免在 pipeline 里混入耗时命令(KEYS、SMEMBERS、大 LRANGE),它们会卡住整个批次

对比:Pipeline vs Transaction vs Lua Script 的适用场景

三者都能「减少 RTT」,但语义和约束完全不同:

  • pipeline():纯网络优化,无原子性保证,命令间可被其他客户端穿插执行
  • r.transaction():底层走 MULTI/EXEC,提供原子性(要么全成功,要么全失败),但有额外开销,且不支持条件逻辑
  • Lua script(r.eval(...)):服务端原子执行,支持 if/loop/本地变量,适合复杂逻辑,但脚本过长会阻塞 Redis 单线程

只为了「快写」,选 pipeline;需要「全成功或全失败」才上 transaction;需要「服务端计算+写入」才考虑 Lua。别为了省一次 RTT 把简单写入硬套进 Lua。

真正容易被忽略的是:Pipeline 的加速效果高度依赖网络质量。在本地回环(localhost)上提升可能只有 2–3 倍;但在跨机房、高延迟链路上,10 倍以上很常见 —— 测之前先 ping 一下目标 Redis 地址的 RTT。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

redis

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

5029

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

4615

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

9032

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

683

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

776

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

9482

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1200

6

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1556

6

redis主要作用有哪些
redis主要作用有哪些

redis 的主要作用包括:1. 缓存数据,提高访问速度;2. 充当消息队列,实现消息传递;3. 存储各种数据类型,如字符串、散列和集合;4. 管理会话信息,确保可靠性和可用性;5. 限制请求速率,防止服务器超载等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

8058

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go-Zero官方文档
Go-Zero官方文档

共0课时 | 0人学习