Redis怎么优化海量签到数据的内存消耗_使用Bitmaps代替Set并开启位图压缩

胖墨君_6813

胖墨君_6813

2026-04-11

618人浏览

原创

bitmaps 比 set 节省约 99.75% 内存,1000 万用户签到状态仅需约 1.25mb(理论)且 rle 压缩可再降 60%~90%,关键在于 offset 必须为连续数字、避免空洞,并确保 redis ≥4.0 且 key 未被污染。

redis怎么优化海量签到数据的内存消耗_使用bitmaps代替set并开启位图压缩

Bitmaps 比 Set 节省多少内存?

SET 存 1000 万个用户某天的签到状态,每个 user_id 至少占 32 字节(Redis String 编码下 key + value 开销),加上哈希表扩容冗余,实际轻松突破 500MB。而 BITFIELDSETBIT 存同样数据,仅需约 1.25MB —— 因为本质是 1000 万 bit ≈ 1.25MB 连续位数组。

关键不是“能存”,而是“Redis 对 Bitmaps 做了底层压缩”:当一段位全是 0 或有规律重复时(比如大量未签到用户),会自动转成 RLE(行程长度编码)格式存储,实测稀疏签到场景下内存再降 60%~90%。

  • 必须用 user_id 作为偏移量(offset),不能用字符串 ID;否则得先查映射表,失去原子性和空间优势
  • 偏移量建议从 0 开始连续编号(如用自增 ID 或分段 ID 映射),避免出现超大空洞(比如 offset=9999999 但前面全是 0)—— 空洞越大,RLE 压缩效果越差,甚至退化为 raw 存储
  • 单个 Bitmap 最好控制在 5000 万 bit 以内(≈6MB),过大时 BITCOUNT 等操作可能阻塞主线程

怎么安全地把现有 Set 迁移到 Bitmaps?

直接删 SET 再重写 Bitmap 是高危操作:迁移期间新签到会丢失,且无法原子回滚。稳妥做法是双写 + 渐进式切换:

  • 上线前先开一个新 key,比如 sign:20240501:bitmap,所有新签到同时执行 SETBIT sign:20240501:bitmap {uid} 1 和老逻辑 SADD sign:20240501:set {uid}
  • 用后台任务分批读 SMEMBERS sign:20240501:set,每批 1000 个,调 BITFIELD sign:20240501:bitmap SET u1 0 1 批量写入(注意 offset 要映射为数字)
  • 确认无误后,把读逻辑切到 BITFIELD ... GET u1 {uid},并停写老 SET;最后删掉旧 key

⚠️ 容易踩的坑:SMEMBERS 在大数据量下会阻塞,务必用 SSCAN 游标分页;BITFIELDu1 表示无符号 1 位整数,别错写成 i1(有符号)或 u8(占 1 字节,完全失去压缩意义)

为什么开了压缩还是内存没降?

Redis 的位图压缩(RLE)只对 STRING 类型的 bitmap key 生效,且依赖具体数据分布。如果发现 MEMORY USAGE 和理论 bit 数接近,大概率是以下原因:

Redis 8.2.3
Redis 8.2.3

Redis 8.2.3 是一款安全优先的高性能键值存储系统。该版本紧急修复了可能引发远程代码执行(RCE)的高危漏洞(CVE-2025-62507),并解决了 HyperLogLog 及 Cuckoo Filter 等数据结构在特定场景下的崩溃问题。建议所有用户立即升级,以保障生产环境的系统稳定与数据安全。

下载
  • 用了非数字 offset:比如用字符串 "u1001" 当 offset,Redis 会拒绝写入,或静默失败(取决于客户端),实际没存进去
  • 写入太稀疏:offset 分布极度离散(如只存了 1、1000000、2000000),中间全是空洞,RLE 无法压缩,退化为 raw 格式
  • key 被其他命令污染:比如不小心对 bitmap key 执行了 APPENDSETRANGE,导致类型混杂,压缩失效
  • Redis 版本低于 4.0:RLE 压缩是 4.0+ 引入的,低版本只能靠 ziplist 编码勉强省点,效果有限

验证方法:用 DEBUG OBJECT sign:20240501:bitmap 查看 encoding,如果是 rawembstr 就说明没压上;理想状态是 quicklist(内部用 RLE 编码的 listpack)

BITFIELD 多操作原子性够用吗?

BITFIELD 本身是原子命令,一次调用里多个 GET/SET 不会穿插其他客户端操作。但要注意它不等价于事务:

  • 如果某个子操作越界(比如 offset 超出当前 bitmap 长度),Redis 默认补 0 并继续执行后续操作,不会报错中断 —— 这容易掩盖逻辑错误
  • 没有回滚机制:前 3 个 SET 成功,第 4 个失败,前面已生效,没法撤回
  • 返回值是数组,顺序严格对应命令顺序,但部分客户端(如某些 Python SDK)可能把多返回值自动解包成单值,导致误判

真实场景建议:签到只需单次 SETBIT,简单可靠;BITFIELD 更适合批量统计(如本周连续签到天数),用 INCRBY 配合掩码提取位字段 —— 但务必提前规划好每个 bit 的语义,改起来成本很高

Bitmaps 真正的复杂点不在语法,而在 offset 设计和生命周期管理。一个没对齐的 ID 映射,或者一段被遗忘的老迁移脚本,就能让压缩形同虚设。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

redis

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.02

4959

3

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.03

1498

5

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.04

2164

5

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

2023.10.24

5664

49

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

2023.11.24

4609

6

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

2024.03.22

6374

16

php中定义字符串的方式
php中定义字符串的方式

php中定义字符串的方式:单引号;双引号;heredoc语法等等。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

2024.04.29

8394

11

go语言字符串相关教程
go语言字符串相关教程

本专题整合了go语言字符串相关教程,阅读专题下面的文章了解更多详细内容。

2025.07.29

4259

17

c++字符串相关教程
c++字符串相关教程

本专题整合了c++字符串相关教程,阅读专题下面的文章了解更多详细内容。

2025.08.07

4267

13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习