Redis发布订阅支持消息压缩传输吗_利用客户端压缩算法减少带宽占用

小宇吖_1139

小宇吖_1139

2026-05-11

619人浏览

原创

redis pub/sub 不支持自动消息压缩,因publish内容直写输出缓冲区,绕过lzf等内存压缩逻辑;需客户端自行压缩/解压,并统一算法;高频短消息推荐lz4/snappy;长期应改用stream替代。

redis发布订阅支持消息压缩传输吗_利用客户端压缩算法减少带宽占用

Redis 的 Pub/Sub 本身不支持消息压缩传输,PUBLISH 和 SUBSCRIBE 协议层没有任何内置压缩机制,所有消息都以原始字节流形式在网络上传输。想减少带宽占用,必须在客户端自己动手压缩/解压。

Pub/Sub 消息为什么不能靠 Redis 自动压缩

Redis 的 LZF 压缩仅作用于内存存储结构(如 ziplist、hash 的内部编码)和 RDB/AOF 持久化文件,PUBLISH 发送的内容不会经过任何压缩路径 —— 它直接写入订阅者的输出缓冲区,绕过所有存储编码逻辑。即使你存的是一个被 LZF 压缩过的 SET 值,用 PUBLISH 推出去的仍是明文字符串。

常见错误现象:INFO memory 显示 used_memory_human 很小,但网络监控发现 Pub/Sub 流量巨大;或订阅端收到乱码,其实是没做解压就当 UTF-8 解析了。

  • Redis 不会对 PUBLISH payload 做任何预处理,包括 base64 编码、压缩、序列化
  • 压缩后的二进制数据可能含 \x00 或非 ASCII 字节,直接传给 PUBLISH 没问题,但某些客户端库(如旧版 redis-py)默认按字符串处理,会截断或报错
  • 发布者和订阅者必须约定同一种压缩算法和解包方式,否则无法互通

客户端压缩的实操要点:选算法 + 控制边界

推荐优先用 LZ4 或 Snappy,不是因为压缩率高,而是它们解压快、CPU 友好、且对短消息(

关键参数差异:

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载
  • LZ4:压缩比中等(约 2–3×),解压速度可达 500MB/s+,适合高频小消息
  • Snappy:压缩比略低于 LZ4,但更轻量,Google 内部大量用于 RPC 场景
  • zlib:压缩比高(4–5×),但单核压缩耗时是 LZ4 的 5 倍以上,慎用于实时通知类场景

示例(Python + redis-py):

import lz4.frame
import redis
<p>r = redis.Redis()
msg = b'{"event":"order_created","id":"abc123","items":[]}'
compressed = lz4.frame.compress(msg)  # 注意:返回 bytes,不是 str
r.publish('events', compressed)  # 直接发 bytes</p>

订阅端必须反向解压:

def handle_message(message):
    try:
        raw = message['data']
        decompressed = lz4.frame.decompress(raw)  # 不能跳过这步
        print(decompressed.decode('utf-8'))
    except Exception as e:
        print("解压失败:", e)

压缩带来的隐性成本和兼容性坑

压缩不是白来的。容易被忽略的点:

  • 消息体变小了,但每个 PUBLISH 调用多了 1–2ms CPU 开销;若每秒发万级消息,得评估 CPU 是否成为瓶颈
  • 不同语言客户端要统一压缩逻辑:Go 用 lz4 库,Java 用 net.jpountz.lz4,Python 用 lz4.frame,版本不一致可能导致解压失败
  • 调试困难:Redis CLI redis-cli --csv SUBSCRIBE events 看到的是乱码,得先 xxd 或写脚本解压才能读内容
  • 如果消息里混有未压缩的旧数据(比如历史遗留服务还在直发 JSON),订阅端必须能区分并兼容两种格式,建议加个 magic byte 或头部 flag

真正需要压缩 Pub/Sub 的时候,往往说明消息体已经偏大(>1KB)或频次很高。这时候更该回头看看:是不是该换 Stream?它原生支持 XADD 的 MAXLEN 和消费者组,还能落盘,比纯内存的 Pub/Sub 更可靠。压缩只是权宜之计,不是架构解法。

相关专题

更多
页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

2023.08.14

5096

4

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4249

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

3755

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

6752

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

623

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

736

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

6322

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1140

6

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1016

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习