如何利用Envoy代理做Redis Cluster协议解析与流量治理

梦伟大大_6099

梦伟大大_6099

2026-10-14

642人浏览

原创

envoy 必须启用 envoy.filters.network.redis_proxy 过滤器才能原生解析 redis 协议并实现 cluster 拓扑感知,因其深度介入 resp 协议层,完成 cluster slots 获取、slot 映射构建、key 哈希路由、跨 slot 请求拆分等关键逻辑;普通 tcp 代理无法识别协议,仅直通转发。

如何利用envoy代理做redis cluster协议解析与流量治理

Envoy 能原生解析 Redis 协议并完成 Cluster 拓扑感知,但前提是必须用 envoy.filters.network.redis_proxy 过滤器,且集群配置类型必须为 redis_cluster —— 普通 static 或 strict_dns 集群无法触发 slot 路由逻辑。

为什么 redis_proxy filter 是硬性前提

Envoy 对 Redis 的支持不是靠通用 TCP 代理实现的,而是通过专用网络过滤器深度介入协议层。只有启用 envoy.filters.network.redis_proxy,才能:

  • 在连接建立后自动识别 Redis 协议握手(如 RESP 格式解析)
  • 拦截并重写 CLUSTER SLOTS、CLUSTER NODES 等管理命令,用于构建本地 slot 映射表
  • 对客户端发来的任意 key 命令(如 GET user:1001)计算 CRC16(key) % 16384,再查 slot → node 映射,转发到对应后端
  • 将多个 MGET 或 DEL 中跨 slot 的 key 拆成多个请求,分别路由(即 transparent sharding)

若只配了普通 TCP filter(如 envoy.filters.network.tcp_proxy),Envoy 完全不理解 Redis 协议,只会做直通代理,无法做 slot 路由、读写分离或命令改写。

redis_cluster 类型集群如何生成 slot 映射

Envoy 不依赖客户端提供集群拓扑,而是主动向任一节点发起 CLUSTER SLOTS 请求,并缓存响应结果。关键行为包括:

  • 初始化时,从 load_assignment.endpoints 列表中随机选一个节点,发送 CLUSTER SLOTS
  • 响应必须是标准格式:每行包含 start_slot end_slot master_ip:port [replica_ip:port...]
  • 解析后构建 slot_array_[16384],每个 slot 存指向该节点的 Host 引用
  • 后续定期(默认 60s)重拉 CLUSTER SLOTS,检测拓扑变更;若失败,会尝试换节点重试

常见坑:CLUSTER SLOTS 返回空或格式错误(比如节点未完全握手、防火墙拦截响应),会导致 Envoy 认为“无可用 slot”,所有请求返回 MOVED 或直接失败。可通过 admin /stats?filter=redis 查看 redis.upstream_rq_503 和 redis.cluster_slots_fetch_failed 指标确认。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载

读写分离与命令拦截的实际控制点

Envoy 的 Redis 流量治理能力集中在两个地方:一是 redis_proxy 的 settings,二是 typed_extension_protocol_options 下的扩展配置。典型可控项有:

  • op_timeout:单条命令超时(非连接超时),影响 GET/SET 等操作,但不影响 CLUSTER SLOTS 自动刷新周期
  • auth_password(在 typed_extension_protocol_options.envoy.redis_proxy 中):Envoy 代客户端向后端发送 AUTH 命令,避免客户端暴露密码
  • prefix_routes + catch_all_route:目前仅支持兜底路由;Envoy 不支持按 key pattern 做路由(如 user:* → slave),需靠上游 client 或额外 Wasm filter 实现
  • 读写分离只能靠部署结构实现:把 redis_cluster 配置中的 endpoints 列表里只填 slave 节点 IP,则所有流量都打到从库;主库需另起一个 cluster 专供写入

注意:redis_proxy 不支持 READONLY 命令自动降级,也不会把 GET 转发到 slave、SET 转发到 master —— 这些必须由你显式拆成两个 cluster 并在上层路由中区分。

性能与调试必须关注的三个指标

Envoy 的 Redis 代理不是“开箱即用就稳”,尤其在高并发 key 查询场景下,以下三项指标最能暴露问题:

  • redis.downstream_cx_destroy_with_active_rq:代表客户端连接断开时仍有未完成请求,说明 op_timeout 设置过短或后端响应慢
  • redis.upstream_rq_time 直方图:观察 P99 是否远高于预期(如 >50ms),可能因 slot 映射未 warm up 或某节点网络抖动
  • redis.cluster_slots_fetch_success vs redis.cluster_slots_fetch_failed:比值持续低于 0.95,说明集群拓扑同步不稳定,应检查节点间 ping/pong 是否通畅、cluster-node-timeout 是否设得过大

真正容易被忽略的是:Envoy 的 slot 映射是**进程内全局共享**的,但不会自动 fallback 到其他节点重试 slot 查询失败 —— 它会直接拒绝请求。这意味着,哪怕只有一个 Redis 节点失联导致 CLUSTER SLOTS 获取失败,整个 Envoy 实例的 Redis 流量都会中断,除非你配了多个备用 discovery endpoint 并开启重试逻辑(这需要自定义 CDS 或 EDS 实现)。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

redis redis cluster

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4429

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

3955

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

7272

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

643

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

756

6

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

7062

6

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1160

6

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

1076

6

redis主要作用有哪些
redis主要作用有哪些

redis 的主要作用包括:1. 缓存数据,提高访问速度;2. 充当消息队列,实现消息传递;3. 存储各种数据类型,如字符串、散列和集合;4. 管理会话信息,确保可靠性和可用性;5. 限制请求速率,防止服务器超载等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

6218

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习