C++ 不适合开发完整分布式缓存系统,应聚焦高性能轻量级嵌入式组件;需用 libuv+protobuf 实现异步通信,固定 slot 分片并严格保证客户端/服务端哈希一致,采用分桶 shared_mutex 和惰性过期,避免代理转发与全局锁。

直接写一个生产级的分布式缓存系统,C++ 不是首选语言——它不提供开箱即用的网络协议栈、服务发现、自动分片或持久化策略,所有这些都得从零实现或深度集成第三方库。如果你真要用 C++ 做,目标应该是「高性能、可控、嵌入式场景下的轻量级分布式缓存组件」,而不是对标 Redis Cluster 或 Memcached + Twemproxy 的完整方案。
用 libuv + protobuf 实现基础通信层
别碰裸 socket 和 select,现代 C++ 分布式组件必须异步非阻塞。libuv 提供跨平台事件循环,比 boost.asio 更轻、更贴近底层,且与 Node.js 同源,生态调试工具多。
-
libuv负责 TCP 连接管理、读写缓冲、心跳保活;每个连接对应一个uv_stream_t,避免为每个请求创建线程 - 序列化统一用
protobuf(不是 JSON 或自定义二进制),因为字段可选、向后兼容、有成熟 C++ binding,且ParseFromString()比手写解析快 3–5 倍 - 协议定义至少包含
command(GET/SET/DEL)、key、value、cas_token(用于乐观锁)、expire_ms - 切忌在消息头里放不定长字段(如裸字符串长度),一律用 protobuf 的
bytes或string类型,由框架处理边界
分片逻辑必须和客户端一致,且不可热更新
一致性哈希(Consistent Hashing)不是银弹:节点增减时缓存击穿严重;而固定 slot 分片(如 Redis 的 16384 slots)需要客户端和服务端对 slot = crc16(key) % 16384 计算完全一致,否则请求发错节点。
- 服务端启动时加载配置文件,明确声明本实例负责哪些
slot区间(如0-2047),不接受运行时 rehash - 客户端必须使用和服务器**完全相同的哈希函数和参数**,推荐直接共用一个 C++ 头文件(如
sharding.h),里面只导出get_slot(const std::string& key) - 不要在服务端做「代理转发」:如果收到不属于本机的 key,直接返回
MOVED {slot} {host}:{port}错误,让客户端重试——这是 Redis 协议的设计哲学,降低服务端状态复杂度 - slot 映射表不能存在内存里靠定时拉取更新,必须由外部编排系统(如 etcd 或 config server)推送变更,并触发进程 reload(SIGHUP)或滚动重启
std::shared_mutex 保护本地 LRU 缓存,但别锁整个 map
单机内缓存用 std::unordered_map + std::list 实现带过期的 LRU 是常见做法,但并发读写下性能瓶颈往往不在哈希表本身,而在锁粒度。
- 用
std::shared_mutex(C++17)替代std::mutex,允许并发读、独占写;GET 请求走共享锁,SET/DEL 走独占锁 - 绝对不要对整个
std::unordered_map加一把大锁——把数据按 key 哈希分桶(例如 64 个std::shared_mutex+ 64 个子 map),热点 key 冲突率下降 98% - 过期检查不能依赖定时器扫描:在每次 GET 时检查
expire_time ,并惰性删除;否则内存泄漏风险高,且定时器精度在毫秒级难以保障 - value 存储用
std::string_view引用原始 protobuf buffer 中的bytes字段,避免 memcpy;但要注意 buffer 生命周期必须长于 cache entry
真正难的不是代码写出来,而是怎么让多个 C++ 进程在不同机器上达成「缓存状态最终一致」——这要求你亲自处理网络分区时的写冲突、CAS 失败重试路径、以及日志复制(raft?)还是无主复制(dynamo 风格?)。这些已经超出「编写」范畴,进入分布式系统建模阶段。动手前,先想清楚:你要的到底是「能跑的 demo」,还是「敢上生产扛住 10w QPS 的缓存中间件」。
C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!











