怎么在Redis中利用Pipeline提升大规模数据写入性能

陌枫酱_1616

陌枫酱_1616

2026-04-10

1022人浏览

原创

单条 set 写 redis 慢是因每次请求都经历完整 tcp 往返,10 万次 0.5ms 延迟累计达 50 秒;pipeline 通过打包多命令为单次往返省去 99% rtt,但非事务、不保证原子性,python 中需显式设 transaction=false 并调用 execute()。

怎么在redis中利用pipeline提升大规模数据写入性能

为什么单条 SET 写 Redis 慢得明显?

因为每次 SET 都要走一次 TCP 往返:客户端发命令 → 服务端处理 → 返回 OK。网络延迟(哪怕只有 0.5ms)乘上 10 万次,就是 50 秒。这不是 Redis 慢,是「请求太碎」。

Pipeline 的核心不是让 Redis 跑得更快,而是把多个命令打包成一个 TCP 包发过去,服务端批量执行、批量回包——省掉中间 99% 的 RTT。

注意:pipeline 不是事务,不保证原子性;失败的命令不会中断后续执行,错误结果仍会返回在响应列表里。

Python 中用 redis-py 正确开启 Pipeline 的写法

别直接用 r.pipeline() 就完事——默认是 transaction=True,会额外加 MULTI/EXEC 开销,反而拖慢纯写入场景。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载
  • 必须显式传 transaction=False:r.pipeline(transaction=False)
  • 写完记得调 execute(),否则命令根本没发出去
  • 每批不宜过大(建议 1000–5000 条),太大可能触发客户端内存暴涨或服务端 client-output-buffer-limit 限制
  • 避免在 pipeline 里混用读命令(如 GET),否则无法利用响应合并优势
pipe = r.pipeline(transaction=False)
for i in range(10000):
    pipe.set(f"key:{i}", f"value:{i}")
result = pipe.execute()  # 批量发出,一次性收 10000 个响应

什么时候 Pipeline 反而更慢?

Pipeline 不是银弹。以下情况它帮不上忙,甚至添乱:

  • 数据量小(
  • 命令之间有依赖(比如后一条要用前一条的 GET 结果):Pipeline 无法串行等待,得拆成多段或改用 Lua
  • 用了 WATCH 或需要强一致性的场景:Pipeline 不支持乐观锁,必须退回到单命令 + 重试逻辑
  • Redis 实例本身已高负载(CPU >80% 或内存接近 maxmemory):批量压入可能加剧阻塞,观察 latency doctor 输出是否出现 command 类型延迟尖峰

比 Pipeline 更快的替代方案:redis-cli --pipe 和 RESTORE

如果只是「灌数据」且能接受离线准备格式,绕过 Python 层更高效:

  • redis-cli --pipe 直接从标准输入读取 RESP 协议格式命令流,无序列化/反序列化开销。适合从文件或管道导入:cat commands.txt | redis-cli --pipe
  • 对已有 Redis 数据做迁移或备份恢复,用 RESTORE(配合 DUMP)批量还原整个 key,比逐 key SET 快 3–5 倍,但要求目标 key 不存在且不校验 TTL 兼容性
  • 集群环境下,pipeline 默认不自动分片——你得自己按 key hash 路由到对应节点,否则会报 CROSSSLOT 错误;而 redis-cli --pipe 同样不处理分片,需前置拆分命令流

真正卡点往往不在「怎么发」,而在「发之前有没有预计算好 key 分布」「失败后要不要补漏」「内存够不够缓存整批命令」——这些细节比选 pipeline 还关键。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

redis

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4409

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

3955

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

7232

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

643

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

756

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

7002

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1160

6

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1076

6

redis主要作用有哪些
redis主要作用有哪些

redis 的主要作用包括:1. 缓存数据,提高访问速度;2. 充当消息队列,实现消息传递;3. 存储各种数据类型,如字符串、散列和集合;4. 管理会话信息,确保可靠性和可用性;5. 限制请求速率,防止服务器超载等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

6178

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习