Hyperf如何避免大对象存入Redis导致内存溢出_压缩序列化后的字符串数据

秋晨小哥_3012

秋晨小哥_3012

2026-05-21

367人浏览

原创

hyperf存大对象前必须序列化压缩:禁用serialize(),改用json_encode()+gzdeflate()压缩并base64编码,key加:gz标记;写入前校验体积≤512kb,读取时严格按标记和魔数解压并try/catch兜底。

hyperf如何避免大对象存入redis导致内存溢出_压缩序列化后的字符串数据

Hyperf里存大对象前必须做序列化压缩

Hyperf默认用serialize()序列化数据,但PHP原生序列化体积大、无压缩、不跨语言。直接把未压缩的数组或对象塞进Redis,比如一个含10万条日志的$logs数组,serialize($logs)可能产出8MB字符串,而json_encode($logs) + gzdeflate()可压到1.2MB——这直接影响maxmemory是否被快速击穿。

关键不是“能不能存”,而是“存完会不会让mem_fragmentation_ratio飙升”或触发qubf-free耗尽导致连接被关。

  • 避免用serialize(),改用json_encode($data, JSON_UNESCAPED_UNICODE | JSON_UNESCAPED_SLASHES),减少冗余字符
  • 对>100KB的value,强制加gzdeflate()(不是gzcompress(),前者无header,Redis解压更轻量)
  • 压缩后用base64_encode()转义,避免二进制内容污染RESP协议(否则*、$等字节可能被误解析为RESP数组头)
  • 务必在key名里打标记,例如cache:report:202605:v2:gz,方便后续排查和灰度下线

Redis客户端写入时要主动控制单次体积

Hyperf的RedisClient底层走RESP协议,输入缓冲区(input buffer)默认1GB但不可调;一旦某次SET命令携带超大payload(如未压缩的5MB JSON),服务端处理慢+网络延迟高,就容易卡在缓冲区堆积,最终触发qubf-free告警甚至断连。

这不是Redis配置问题,是Hyperf业务层没做前置校验。

  • 在调用$redis->set($key, $value)前,加一行if (strlen($value) > 512 * 1024) { throw new RuntimeException('Value too large'); }
  • 对List/Hash等结构,禁用HSETALL、LRANGE key 0 -1这类全量拉取命令;改用分页+游标(HSCAN、SSCAN)
  • Hyperf的CacheInterface::set()不校验大小,必须自己封装一层SafeCache类,拦截超限写入

读取时解压逻辑必须和写入严格对称

存的时候压了,取的时候忘了解,业务会拿到一串乱码;解压时没捕获gzinflate()失败,就会抛Warning: gzinflate(): data error并中断协程——Hyperf里这种错误不会自动gc_collect_cycles(),强引用一直挂着,RSS持续涨到OOM Kill。

Hyperframes Creative
Hyperframes Creative

HyperFrames视频非动画创意指导,包括设计规范(frame.md/design.md)处理、配色、字体设计、旁白及节奏规划等。

下载

解压不是加个函数就行,得兜住所有异常路径。

  • 先检查key后缀是否含:gz,不含则直返$raw,不调gzinflate()
  • 解压前用if (substr($raw, 0, 2) === "\x1f\x8b")判断是否gzip魔数,避免对非压缩数据硬解
  • gzinflate()必须包在try/catch里,失败时记录error_log("Redis decompress failed for {$key}")并返回null,绝不让异常穿透到业务层
  • Hyperf协程内不要用unserialize()反序列化任何来自Redis的数据,一律用json_decode($str, true),避免POP链反序列化漏洞

Hyperf进程内缓存也要防大对象泄漏

很多人只盯着Redis,忘了Hyperf自己的Co\Channel、Table、DI容器属性也可能存着未释放的大对象。比如一个@Cacheable注解方法返回了10MB数组,Hyperf默认会把它整个放进协程本地缓存,下次同协程再调用直接返回——但这10MB永远不会被GC回收,因为注解生成的闭包隐式持有了$this和全部上下文。

这个泄漏在memory_get_usage()里完全看不到,但ps aux --sort=-rss能清楚看到RSS单向爬升。

  • 禁用@Cacheable对大结果的缓存,改用显式$this->redis->get($key) + 手动解压
  • 所有存入Co\Channel或Table的数据,必须限制单条strlen()
  • 在@OnWorkerStart里注册的全局监听器,回调函数严禁use ($bigObject),改用ID传参后按需查Redis

Hyperf里真正危险的从来不是Redis内存溢出,而是PHP层序列化+Redis缓冲区+协程强引用三者叠加——其中任意一环没断,mem_fragmentation_ratio就可能从1.2一路飙到3.0,而你还在看used_memory_human觉得“才200MB,还早”。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

redis hyperf

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4289

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

3795

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

6852

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

623

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

736

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

6462

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1140

6

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1016

6

redis主要作用有哪些
redis主要作用有哪些

redis 的主要作用包括:1. 缓存数据,提高访问速度;2. 充当消息队列,实现消息传递;3. 存储各种数据类型,如字符串、散列和集合;4. 管理会话信息,确保可靠性和可用性;5. 限制请求速率,防止服务器超载等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

5758

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习