Redis如何统计海量页面UV_利用HyperLogLog的PFADD与PFCOUNT指令

大萱君_9105

大萱君_9105

2026-03-21

329人浏览

原创

PFADD 支持一次添加多个用户ID并自动去重,非逐个累加;PFCOUNT为概率估算,误差率约0.81%,不适用于强一致性场景;key需设TTL防内存泄漏;HyperLogLog内存仅为SET的1/20000,但不支持精确查询与集合运算。

redis如何统计海量页面uv_利用hyperloglog的pfadd与pfcount指令

PFADD 一次只能加一个用户 ID 吗?

不是。虽然 PFADD 命令语法支持多个参数,但实际效果是「一次性去重后计数」,不是逐个累加。比如 PFADD page:home:user:uv user1 user2 user1,重复的 user1 会被忽略,最终只算 2 个独立用户。

  • 每次调用 PFADD 都会触发内部稀疏寄存器更新,频繁单条写入(如每个 PV 都发一次命令)比批量合并后写入开销更大
  • 如果业务能聚合用户行为(例如 N 秒内同一页面的多次访问只记首次),建议先在应用层 dedupe,再批量 PFADD
  • 注意:Redis 不保证 PFADD 的原子性跨 key,不同页面 UV 必须用不同 key,不能共用一个 PFADD 调用混写

PFCOUNT 返回值突然跳变或不准怎么办?

PFCOUNT 是概率估算,标准误差率约 0.81%,对千万级 UV 来说误差可能达 ±8 万。它不是精确计数工具,跳变本身是正常现象——尤其当新用户集中涌入、触发内部寄存器重组时。

  • 不要把 PFCOUNT 结果用于财务、审计等强一致性场景
  • 如果发现连续两次 PFCOUNT 差值异常大(比如从 100 万突增至 150 万),大概率是底层 HyperLogLog 结构刚完成稀疏→稠密转换,属于设计使然,不是数据损坏
  • 想验证估算是否合理?可用 DEBUG OBJECT 查看 encoding 类型和 lru 字段变化,但生产环境慎用

页面 UV 按天分桶,key 怎么设计才不爆内存?

别用 page:home:uv:20240520 这种静态 key。UV 数据有天然生命周期,长期堆积未清理的 key 会持续占用内存,且无法利用 Redis 的过期策略自动释放。

  • 必须给 key 设置 TTL,推荐用 EXPIRE 配合业务周期,例如 EXPIRE page:home:uv:20240520 86400(24 小时后过期)
  • 更稳妥的做法:用时间戳作为 key 后缀 + 定期脚本清理,避免依赖 Redis 自动过期(存在延迟或被禁用风险)
  • 注意:PFADD 不会自动创建带过期的 key,TTL 必须显式设置;且 EXPIRE 对已存在的 key 才生效,首次 PFADD 后需立即补 EXPIRE

HyperLogLog 和 SET 相比,省多少内存?

差别巨大。一个存 1000 万个用户 ID 的 SET,按平均 ID 长度 32 字节算,至少占 320MB;而同样规模的 HyperLogLog 只需约 12KB —— 内存压缩比超 2 万倍。

  • 代价是:无法获取具体有哪些用户,也不能做交并差(PFMERGE 只支持合并,不支持取交集)
  • 如果业务后续要查「哪些用户同时访问了 A 和 B 页面」,HyperLogLog 就不合适,得切回 SET 或布隆过滤器+日志回溯
  • 另外,PFADD 时间复杂度是 O(1),但常数略高;高频写入下,相比 INCR 或 HINCRBY,仍属轻量级操作

实际部署时最容易被忽略的,是 key 生命周期管理和误差边界的接受程度——很多人测完 PFCOUNT 准确性就上线,结果两周后发现 UV 统计偏差越来越大,其实只是忘了每天清理旧 key 或没意识到这是估算值。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

6827

5

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2023.08.10

2808

6

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4889

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

4475

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

8612

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

663

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

776

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

8922

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1200

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.3万人学习