如何计算Redis Set的差集实现黑名单过滤_使用SDIFF指令对比集合

秋浩酱_3556

秋浩酱_3556

2026-05-26

813人浏览

原创

sdiff不适合实时高并发黑名单过滤,因其仅支持静态字符串匹配、空key误判、无多维条件能力;生产环境应改用sdiffstore预计算缓存、sismember逐个验证或应用层结合数据库过滤。

如何计算redis set的差集实现黑名单过滤_使用sdiff指令对比集合

SDIFF 不能直接用于实时、高并发的黑名单过滤,尤其当黑名单需要动态更新或关联多维状态时。 它适合静态、一次性、小规模集合对比;真要落地黑名单场景,得绕开纯 SDIFF 思路,否则容易卡在原子性、性能或语义误用上。

SDIFF 的差集逻辑和常见误读

SDIFF key1 key2 key3 返回的是「只在 key1 中存在,且在 key2 和 key3 中都不存在」的元素。它不是「key1 减去 key2 ∪ key3」的等价写法,而是逐个排除:先从 key1 剔掉 key2 里的,再从结果里剔掉 key3 里的 —— 这点和数学差集一致,但常被当成“取并集后统一减”来用。

容易踩的坑包括:

  • 把黑名单塞进一个集合、关注列表塞进另一个,直接 SDIFF follow_set blacklist_set,看似合理,但一旦黑名单有分级(如临时封禁/永久拉黑/设备级屏蔽),单集合无法表达维度,SDIFF 就失去意义
  • 误以为 SDIFF 支持通配符或条件过滤,实际它只做成员字符串全等匹配,不支持正则、前缀或时间戳判断
  • 对空 key 处理不设防:SDIFF a b 中若 b 不存在,等价于 SDIFF a [],结果就是整个 a —— 这在配置缺失或 key 名拼错时会悄悄漏放流量

SDIFFstore 比 SDIFF 更适合生产过滤链路

单纯 SDIFF 返回结果不落盘,每次调用都要重算,高并发下 Redis CPU 易打满;而 SDIFFSTORE 把结果固化到新 key,后续可配合 SSCAN 或 SMEMBERS 复用,也方便加 TTL 控制生命周期。

典型用法:

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载
  • 每天凌晨跑一次定时任务:SDIFFSTORE filtered_users white_list blacklist,生成当天可用用户池
  • 用 EXPIRE filtered_users 86400 确保缓存不过期
  • 业务层查 filtered_users 而非反复调 SDIFF,降低延迟抖动
  • 注意 SDIFFSTORE 是覆盖写入,如果多个服务同时触发,可能产生竞态,建议加分布式锁或用 Lua 脚本封装原子操作

为什么纯 Redis Set 差集不适合动态黑名单

真实黑名单往往带状态:比如 uid:123:temp_ban:1716590880 表示用户 123 临时封禁至某时间戳。这种结构无法用 SDIFF 直接参与运算,因为:

  • SDIFF 只比对完整 member 字符串,没法提取和比较其中的 ts 字段
  • 黑名单 key 若用 SSCAN + 正则筛选出有效项,再拼成临时集合供 SDIFF 使用,会丧失原子性,且扫描成本随数据量线性增长
  • 当黑名单需和 MySQL 用户表 JOIN(例如只过滤 VIP 用户中的黑名单)、或和 ES 做多字段组合查询(如「近 7 天登录过 + 在黑名单中」)时,SDIFF 完全无能为力

更可行的路径是:用 SISMEMBER 对关注列表中每个 user_id 做逐个验证,或把黑名单 ID 拉到应用层,走数据库 WHERE id IN (...) + NOT IN 过滤 —— 慢一点,但可控、可审计、可加条件。

SDIFF 时间复杂度与数据规模红线

SDIFF 时间复杂度是 O(N),N 是所有输入集合的元素总数。这意味着:

  • 两个各含 10 万用户的集合做差,Redis 要遍历 20 万次,通常在毫秒级完成;但若集合扩大到百万级,延迟就不可控
  • Redis 是单线程模型,大集合 SDIFF 会阻塞其他命令,影响整体吞吐
  • 没有分片机制,无法横向扩展 —— 别指望靠集群版 Redis 自动拆解大 SDIFF
  • 如果必须处理超大集合,优先考虑 SDIFFSTORE 异步预计算 + 缓存,而不是同步调用

真正该警惕的不是语法会不会用,而是没想清楚:这个差集结果到底要支撑什么业务动作?是一次性导出报表,还是每秒上千次在线过滤?后者几乎必然要跳出 SDIFF 单点思维。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

redis 黑名单

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4329

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

3855

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

7012

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

623

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

756

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

6702

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1160

6

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1036

6

redis主要作用有哪些
redis主要作用有哪些

redis 的主要作用包括:1. 缓存数据,提高访问速度;2. 充当消息队列,实现消息传递;3. 存储各种数据类型,如字符串、散列和集合;4. 管理会话信息,确保可靠性和可用性;5. 限制请求速率,防止服务器超载等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

5938

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习