Echo框架基于SingleFlight防止缓存击穿实践

星杰君_9066

星杰君_9066

2026-09-12

199人浏览

原创

singleflight.Group 本身不防缓存击穿,仅做请求合并;真正起效需闭环“查缓存→miss后进Do→成功后写缓存”,且Group须全局复用、key需带命名空间前缀、loader内须用ctx控制超时并正确处理redis.Nil。

echo框架基于singleflight防止缓存击穿实践

用 singleflight.Group 防缓存击穿,在 Echo 中不是加个中间件就能完事——关键在于 Do 调用时机、loader 函数的上下文传播、以及空值与错误的区分处理。它不自动写缓存,也不跨实例生效,纯内存级合并,必须嵌入到你的业务查询路径里。

为什么不能在 Echo 中间件里统一 wrap cache Get?

中间件对每个请求都走一遍,但 singleflight.Do 必须和「缓存未命中 → 回源加载」这个逻辑强绑定。如果在中间件里无差别调用 Do("key", loader),会导致: - 所有请求(包括已命中的)都进 Do,徒增锁竞争开销 - loader 里没做缓存写入,结果只返回给当前请求,其他等待者拿到结果后仍不会落缓存 - 无法按 key 动态构造 loader(比如需从 c.Param("id") 提取),中间件缺乏路由上下文

loader 函数必须手动处理 context 超时和 redis.Nil

singleflight.Do 不透传 echo.Context,你得把 c.Request().Context() 显式传进去;同时 Redis 查询返回 redis.Nil 是正常现象,不是错误,不能直接当失败抛出:

result, err, shared := sg.Do("user:123", func() (interface{}, error) {
    // ✅ 正确:用 ctx 控制 DB/Redis 超时
    val, err := rdb.Get(ctx, "user:123").Result()
    if errors.Is(err, redis.Nil) {
        // ✅ 空值要显式返回 (nil, nil),否则会被当错误兜底
        return nil, nil
    }
    if err != nil {
        return nil, err
    }
    return val, nil
})
  • errors.Is(err, redis.Nil) 必须用,不能写 err == redis.Nil(它是变量)
  • 返回 (nil, nil) 表示“查到空”,后续可走空值缓存逻辑;返回 (nil, someErr) 才是真错误,需按业务策略降级
  • loader 内部不做缓存写入,那是调用方的责任——等 Do 返回后,由第一个成功加载者执行 rdb.Set 和本地缓存填充

全局复用一个 singleflight.Group 实例,但 key 要带命名空间前缀

多个业务共用一个 Group 没问题,但 key 冲突会导致无关请求互相阻塞。比如用户服务和订单服务都用 "123" 当 key,就会串线:

Echo框架 5.1.0
Echo框架 5.1.0

Echo框架 5.1.0 版本源码包下载,适合关注 RealIP 行为变化、StartConfig.Listener、NewDefaultFS 和观测性中间件入口的开发团队。

下载
  • ✅ 推荐 key 格式:"load:user:" + userID、"load:order:" + orderID
  • ❌ 避免直接用 c.Param("id") 或原始 ID 字符串,尤其当不同接口可能传相同数字但语义不同(如 /users/123 和 /posts/123)
  • 不建议每次请求 new singleflight.Group,它内部用 map + mutex 管理等待队列,new 太多会泄漏 goroutine

最容易被忽略的是:singleflight 只解决「谁去查」,不解决「查完写哪」和「写失败怎么办」。同一个 key 的等待者共享 loader 返回值,但如果 loader 成功后写 Redis 失败,下次缓存又失效,整套逻辑就重来一遍——所以写缓存那步必须幂等且带重试,且不能放在 Do 外面由调用方统一做(否则只有第一个 goroutine 会写,其余等待者看不到新缓存)。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

echo框架

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

2026.11.17

20

15

GoFrame框架安装与gf命令行工具
GoFrame框架安装与gf命令行工具

本专题围绕GoFrame框架的安装与工具链配置展开,讲清Go版本要求、gf命令行的安装方式、代理镜像与依赖准备,说明项目初始化、热编译、交叉编译打包的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.17

20

15

GoFrame框架零基础入门
GoFrame框架零基础入门

本专题整理GoFrame框架的入门知识,从模块化设计理念、环境准备到跑通第一个Web服务,讲清目录分层、配置加载、日志与中间件的用法,并对比Gin、Go-Zero的差异,帮助Go开发者建立整体认知。

2026.11.17

20

15

SQLAlchemy 一对多关系怎么建立
SQLAlchemy 一对多关系怎么建立

SQLAlchemy 一对多关系怎么建立?本专题整理父子表外键、relationship 双向映射、关联查询、级联删除和加载优化等相关文章,帮助你理解并实现常见的 ORM 关系建模。

2026.11.17

20

10

SQLAlchemy 如何增删改查
SQLAlchemy 如何增删改查

SQLAlchemy 如何增删改查?本专题整理 ORM 新增记录、条件查询、更新和删除、Session 事务提交与批量处理等实用文章,帮助你掌握 Python 数据库操作流程。

2026.11.17

20

11

SQLAlchemy ORM 模型怎么写
SQLAlchemy ORM 模型怎么写

SQLAlchemy ORM 模型怎么写?本专题整理模型类定义、Mapped 字段映射、主键与约束、表结构创建和常见报错的相关文章,帮助你从基础配置到实际建模逐步掌握 SQLAlchemy。

2026.11.17

20

16

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

2026.11.12

180

15

Go-Zero安装与goctl环境配置教程
Go-Zero安装与goctl环境配置教程

本专题围绕Go-Zero的安装与工具链配置展开,讲清Go版本要求、goctl安装方式、代理镜像、protoc依赖与环境变量设置,说明多版本共存、升级回退与CI流水线安装的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.12

120

15

Go-Zero零基础入门教程
Go-Zero零基础入门教程

本专题整理Go-Zero的入门知识,从框架定位、环境准备到跑通第一个API服务,讲清目录分层、配置加载、日志与中间件的基本用法,并对比Gin、Kratos的差异,帮助Go开发者建立整体认知,判断它是否适合当前项目。

2026.11.12

120

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Echo框架IP地址文档
Echo框架IP地址文档

共0课时 | 0人学习

Echo框架中文安装文档
Echo框架中文安装文档

共0课时 | 0人学习

Echo框架快速入门指南
Echo框架快速入门指南

共0课时 | 0人学习