在Spring Boot中如何利用Redis管道提升百万级数据导入性能?

阿辰小哥_3802

阿辰小哥_3802

2026-11-06

497人浏览

原创

结论:首选redisTemplate.executePipelined()配合SessionCallback,每批500–1000条,性能提升8–12倍;它自动复用连接、适配序列化器,避免手动字节操作导致的异常,而RedisCallback需自行处理序列化易出错,且批次过大易OOM、过小则IO节省不明显。

在spring boot中如何利用redis管道提升百万级数据导入性能?

直接上结论:用 redisTemplate.executePipelined() + SessionCallback,控制每批 500–1000 条,性能可提升 8–12 倍;盲目堆高批次或混用 RedisCallback 反而容易触发 OOM 或序列化异常。

为什么 executePipelined(SessionCallback) 是首选

它封装了连接复用和类型安全,自动处理 RedisTemplate 的序列化逻辑(比如你配的 GenericJackson2JsonRedisSerializer),避免手动调 RedisConnection.set() 时裸字节数组导致的乱码或反序列化失败。

  • SessionCallback 内部基于 RedisOperations,所有 opsForValue().set() 调用都走你定义好的序列化器,结果也按预期返回
  • RedisCallback 直接操作原生 RedisConnection,必须自己 getBytes()、自己处理 null 和类型,写错一行就 ClassCastException
  • 实测在 10 万条数据导入中,SessionCallback 版本耗时 1.2s,RedisCallback 手动序列化版本因 JSON 序列化未对齐多花了 0.4s,且出错后难以定位

批次大小不是越大越好:500–1000 是甜点区间

单次管道打包命令数超过 1000,Redis 服务端响应变慢,客户端内存压力陡增;低于 100 则网络 IO 节省不明显,调度开销占比上升。

Sentinal Redis
Sentinal Redis

监控Redis服务器健康状况、内存、性能及BullMQ队列。检查队列深度、失败任务,分析慢查询并诊断问题。

下载
  • 推荐按 key 长度预估:平均 key 长度
  • 别硬套“一次塞完”,尤其在容器化环境(如 K8s)下,JVM 堆内临时对象激增可能触发频繁 GC
  • 错误示范:for (i=0; i —— 这会把 10 万条全压进一个 callback,极易 OOM

混合命令与异常处理必须手动兜底

Pipeline 不是事务,某条命令失败(比如 SET key value EX -1 中过期时间非法)不会中断后续执行,但错误信息会被吞掉,只在返回 List 中对应位置为 null 或抛 DataAccessException。

  • 务必检查返回值:若用 executePipelined(callback) 返回 List,需遍历确认每项是否为预期类型(如 Boolean.TRUE),而非只看 size
  • 写入场景建议加轻量校验:提前过滤空 key、超长 value(Redis 单 value 限制 512MB,但实际应 ≤ 1MB)、非法过期时间
  • 不要依赖 pipeline 自带重试——它不提供重试语义;需外层用 @Retryable 或手动分片重推失败子集

真正卡住人的往往不是“怎么发”,而是“发完怎么信”。批量导入时,记得留一手验证手段:比如用 redis-cli --scan --pattern "your:prefix:*" | wc -l 快速核对数量,比等接口日志更可靠。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

redis spring boot

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
spring框架介绍
spring框架介绍

本专题整合了spring框架相关内容,想了解更多详细内容,请阅读专题下面的文章。

2025.08.06

2851

22

Java Spring Security 与认证授权
Java Spring Security 与认证授权

本专题系统讲解 Java Spring Security 框架在认证与授权中的应用,涵盖用户身份验证、权限控制、JWT与OAuth2实现、跨站请求伪造(CSRF)防护、会话管理与安全漏洞防范。通过实际项目案例,帮助学习者掌握如何 使用 Spring Security 实现高安全性认证与授权机制,提升 Web 应用的安全性与用户数据保护。

2026.01.26

517

25

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4829

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

4395

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

8432

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

663

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

776

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

8662

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1180

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习