如何优化Redis HyperLogLog的内存分配_了解密集存储与稀疏存储转换

酷伟小哥_3435

酷伟小哥_3435

2026-06-17

566人浏览

原创

redis hyperloglog在稀疏存储字节数超约3000字节或基数达约16000时自动转为密集存储,转换单向不可逆,固定占用12kb内存。

如何优化redis hyperloglog的内存分配_了解密集存储与稀疏存储转换

稀疏存储什么时候会自动转成密集存储

Redis 的 HYPERLOGLOG 默认在基数达到 16000 时触发从稀疏(sparse)到密集(dense)的转换。这个阈值不是硬编码在客户端,而是由 Redis 服务端控制的——你无法通过配置项直接修改它,但可以通过 DEBUG OBJECT key 观察当前存储类型是否已切换。

常见错误现象是:明明只加了几百个元素,MEMORY USAGE 却突然跳到 12KB 左右。这往往不是 bug,而是稀疏结构内部因插入顺序、哈希分布不均,提前触发了“稀疏膨胀”,导致 Redis 主动升级为密集模式。

  • 稀疏模式下,连续零值桶用 RLE(Run-Length Encoding)压缩,比如 00000000 可能只存为 0x80(表示 8 个零)
  • 一旦稀疏编码占用字节数超过某个隐含上限(约 3000 字节),Redis 就会强制转为固定 12KB 的密集格式
  • 转换是单向的:密集 → 不会退回稀疏;哪怕后续所有元素都被 PFADD 重复插入(无实际更新),也不会降级

为什么 PFADD 返回 0 后 MEMORY USAGE 还变大了

这是容易被忽略的关键点:PFADD 虽然返回 0 表示“无新元素加入”,但它仍可能触发内部重编码。例如,当稀疏结构因新增元素导致 RLE 编码效率下降(如零值段被打断),Redis 会在本次操作中完成向密集格式的迁移。

验证方式很简单:

127.0.0.1:6379> PFADD hll a b c
(integer) 1
127.0.0.1:6379> MEMORY USAGE hll
(integer) 240
127.0.0.1:6379> PFADD hll d e f g ... # 插入足够多元素直到触发转换
127.0.0.1:6379> MEMORY USAGE hll
(integer) 12288

注意:即使某次 PFADD 返回 0,只要它参与了重编码流程,MEMORY USAGE 就可能跃升。这不是数据写入,而是结构优化的副作用。

密集存储的 12KB 是怎么算出来的

密集模式本质是一个含 16384 个桶(register)的数组,每个桶用 6 位(bit)存储,总 bit 数 = 16384 × 6 = 98304 bit ≈ 12KB。但要注意:这 12KB 是对齐后的内存块大小,实际有效数据仍是那 98304 位。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载

由于 6 位不整除 8,Redis 必须做位运算访问单个桶,比如读取第 pos 个桶时:

  • 计算所在字节偏移:b0 = (6 * pos) / 8
  • 计算右移位数:fb = (6 * pos) % 8
  • 从 b0 和 b0+1 两个字节中拼出 6 位值,再与 0x3f(即 111111)做 AND

这种设计牺牲了随机访问速度,换来极致空间压缩——但你几乎不需要手动操作这些位,PFCOUNT 和 PFMERGE 全部封装好了。

想省内存?别依赖“等它自动转”,要主动控制

如果你明确知道日活量级长期低于 5000,又极度敏感于内存抖动,就不要把多个业务共用一个 HLL key。因为合并(PFMERGE)或跨 key 统计(PFCOUNT key1 key2)会强制创建临时密集结构,哪怕源 key 都还是稀疏的。

更稳妥的做法:

  • 按业务维度拆分 key,比如 hll:page:home:20260527、hll:page:profile:20260527
  • 避免用 PFCOUNT 多 key 模式做日常统计,改用单 key + 定期 PFMERGE 到汇总 key
  • 监控 DEBUG OBJECT hll_key 输出中的 encoding 字段:值为 raw 表示稀疏,quicklist 或其他则说明已是密集(不同 Redis 版本字段名略有差异)

真正难处理的从来不是“怎么转”,而是“转完不能退”——一旦进入密集模式,12KB 就锁死了,哪怕之后半年只加一个新用户。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

redis

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4289

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

3795

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

6872

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

623

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

736

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

6482

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1140

6

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1016

6

redis主要作用有哪些
redis主要作用有哪些

redis 的主要作用包括:1. 缓存数据,提高访问速度;2. 充当消息队列,实现消息传递;3. 存储各种数据类型,如字符串、散列和集合;4. 管理会话信息,确保可靠性和可用性;5. 限制请求速率,防止服务器超载等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

5778

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习