Redis中如何利用HyperLogLog进行亿级数据的去重统计?

P粉602998670

P粉602998670

2026-08-03

569人浏览

原创

pfadd+pfcount可12kb内存估算10亿uv,误差±0.81%;pfadd登记哈希特征而非插入,重复id不改变计数;pfcount多key等价pfmerge后估算,误差不叠加;hll不支持反查原始元素。

redis中如何利用hyperloglog进行亿级数据的去重统计?

能用 PFADD + PFCOUNT 就别碰 SET,12KB 内存扛住 10 亿 UV 是真实可行的,前提是接受 ±0.81% 误差。

PFADD 添加元素时,重复值不会改变计数结果

这是去重逻辑的底层保障,PFADD 不是“插入”,而是“登记哈希特征”——同一个用户 ID 多次调用,只会触发一次寄存器更新(如果该哈希对应的桶中前导零数未被超越)。

  • 返回值 1 表示内部状态可能变化(不等于“新增了唯一值”,只代表估算值有潜在更新);返回 0 表示所有输入都已被现有哈希分布“覆盖”,估算值不变
  • 不要依赖返回值判断“是否首次访问”,它不是原子级存在性检查,PFADD 本身不提供 EXISTS 语义
  • 字符串、数字、二进制数据均可直接传入,Redis 会统一做 MurmurHash3(128 位),无需客户端预哈希

PFCOUNT 统计时,单 key 和多 key 行为完全不同

PFCOUNT key 是对单个 HyperLogLog 结构做估算;PFCOUNT key1 key2 key3 并非分别统计再相加,而是先隐式执行一次 PFMERGE 临时合并,再估算总基数——这正是它支持“跨日 UV 合并”的关键机制。

Redis 8.2.3
Redis 8.2.3

Redis 8.2.3 是一款安全优先的高性能键值存储系统。该版本紧急修复了可能引发远程代码执行(RCE)的高危漏洞(CVE-2025-62507),并解决了 HyperLogLog 及 Cuckoo Filter 等数据结构在特定场景下的崩溃问题。建议所有用户立即升级,以保障生产环境的系统稳定与数据安全。

下载
  • 多 key 调用等价于:新建一个临时 HLL → PFMERGE 所有输入 key → PFCOUNT → 丢弃临时结构。无持久化开销,但有计算成本
  • 如果每天生成一个 uv:20260713,要算周 UV,直接 PFCOUNT uv:20260707 uv:20260708 ... uv:20260713 即可,不用提前 PFMERGE 到新 key
  • 注意:多 key 的误差仍是 ~0.81%,不是误差叠加。合并本身不放大误差,因为底层是调和平均融合寄存器值

PFMERGE 不是“数据搬运”,而是寄存器层面的按位取最大值

两个 PFMERGE 源 key 必须都是合法 HyperLogLog 类型,否则报错 WRONGTYPE Operation against a key holding the wrong kind of value。合并过程不读原始元素,只对比 16384 个桶中各自存储的“最大前导零数”,取每个桶的较大者填入目标 key。

  • 合并后目标 key 的内存占用仍是固定 12KB,和源 key 一样,不会翻倍或累加
  • 不能用 PFMERGE 合并 HLL 和其他类型(如 SETSTRING),Redis 会拒绝并报错
  • 如果某个源 key 为空(从未 PFADD 过),它会被视作全零寄存器数组,不影响合并结果

真正容易被忽略的点在于:HyperLogLog 不支持反向查询——你永远拿不到“有哪些用户被计入了”,它只存摘要,不存原始 ID。如果业务既要 UV 总数,又要抽样分析用户构成,得额外用 SETSorted Set 做采样,不能指望 HLL 补足这部分能力。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

1886

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

1559

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

2450

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

518

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

525

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

2448

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

941

6

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

687

6

redis主要作用有哪些
redis主要作用有哪些

redis 的主要作用包括:1. 缓存数据,提高访问速度;2. 充当消息队列,实现消息传递;3. 存储各种数据类型,如字符串、散列和集合;4. 管理会话信息,确保可靠性和可用性;5. 限制请求速率,防止服务器超载等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

2352

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习

Redis+MySQL数据库面试教程
Redis+MySQL数据库面试教程

共72课时 | 9万人学习