Redis Lua脚本中如何实现高效的数据过滤算法?

浅雪君_1526

浅雪君_1526

2026-09-04

944人浏览

原创

redis lua脚本应避免全量遍历keys,改用scan+lua组合并正确解构返回值;优先批量操作如mget;数值过滤宜用zinterstore+zrangebyscore而非sinter;redisshake中必须显式调用shake.call()否则数据丢失;布隆过滤器需均匀哈希函数,不可仅用redis.sha1();需主动限制keys数量防oom。

redis lua脚本中如何实现高效的数据过滤算法?

Redis Lua脚本里怎么避免全量遍历KEYS做过滤

直接用 KEYS 命令在生产环境做过滤等于自毁——它会阻塞整个 Redis 实例,且无法分页。真实场景必须用 SCAN + Lua 组合,但注意:Lua 里调用 SCAN 返回的是两元素数组(游标、key 列表),不是单个 key 列表。

  • 正确写法是先 redis.call("SCAN", cursor, "MATCH", pattern, "COUNT", count),再解构返回值:local new_cursor = keys[1]; local key_list = keys[2]
  • 不要在 Lua 循环里反复调用 GET 或 HGETALL——每次调用都算一次 Redis 命令开销,容易拖慢脚本;应优先用 redis.call("MGET", unpack(key_list)) 批量取值
  • 若需按 value 内容过滤(比如只保留 value 包含 "active" 的 key),建议提前约定 value 格式,避免在 Lua 里做 string.find 这类高开销操作

多个集合交集+条件过滤时,为什么 ZINTERSTORE 比 SINTER 快得多

ZINTERSTORE 底层基于有序集合的 score 排序合并,时间复杂度接近 O(N),而 SINTER 在集合大小差异大时可能退化到 O(N×M)。尤其当你要对交集结果再按数值范围过滤(如 “score > 100”),ZSET 天然支持 ZRANGEBYSCORE,不用把全部 member 拉到 Lua 里遍历。

  • 用 ZINTERSTORE 合并多个 ZSET 后,直接 ZREMRANGEBYSCORE temp_key "-inf" "(100" 删除不满足条件的数据,比在 Lua 表里 for 遍历快一个数量级
  • 如果原始数据是 SET,但业务需要数值过滤,建议迁移阶段就转成 ZSET,score 设为业务数值(如用户等级、时间戳),否则每次过滤都要查额外哈希或字符串字段
  • 注意 ZINTERSTORE 的 AGGREGATE 参数:用 MIN 可保留各集合中最小 score,适合“所有集合都满足阈值”的场景

RedisShake 的 function 配置里,shake.call() 忘调会导致数据静默丢失

这是最隐蔽的坑:RedisShake 的 Lua 过滤脚本默认不转发任何命令,必须显式调用 shake.call(DB, CMD, KEYS, ARGV) 才会把命令写入目标端。没调用 ≠ 跳过,而是彻底丢弃。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载
  • 调试时务必打开 log_level = "debug",并用 shake.log("DB:", DB, "CMD:", CMD) 确认脚本执行路径
  • 常见错误是加了 if DB == 0 then return end,但忘了在 else 分支里补 shake.call(...),结果 db 0 被丢弃,其他 db 也全丢了
  • 如果要做重写(如给 key 加前缀),别直接改 KEYS 数组——它是只读的;要用 table.concat 拼新 key,再传给 shake.call,例如:local new_keys = { "prefix:" .. KEYS[1] }; shake.call(DB, "SET", new_keys, ARGV)

Lua 实现布隆过滤器时,哈希函数不能只用 redis.sha1()

redis.sha1() 输出是 40 字符十六进制串,直接取模会严重倾斜——它本质是字符串哈希,不是均匀分布的整数哈希。真实布隆过滤器需要 k 个独立、均匀、可复现的哈希函数。

  • 推荐方案:用 redis.sha1(key) 生成摘要后,用不同位段截取(如前 8 字节、中间 8 字节、后 8 字节),再分别 tonumber(..., 16) % bit_array_size
  • 更稳妥的做法是引入预定义常量做扰动,例如:(tonumber(redis.sha1(key..i), 16) % 1000000) + i * 31,其中 i 是哈希轮次(0~k-1)
  • 别在 Lua 里实现 MurmurHash 或 CityHash——Redis 不带这些库,自己写易出错且性能差;优先考虑加载 redisbloom 模块,或用 Lua 脚本调用已编译好的模块命令(如 BF.ADD)

实际部署时,最易被忽略的是 Lua 脚本的内存限制:Redis 默认单个脚本最大内存 512MB,但超限不会报错,只会触发 OOM kill,表现为 EVAL 命令超时或连接重置。建议在脚本开头加 if #KEYS > 1000 then error("too many keys") end 主动拦截。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

2023.08.14

4736

4

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4089

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

3575

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

6332

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

603

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

716

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

5782

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1140

6

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

936

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习