评估负载均衡承载能力的关键是吞吐量与新建连接数（cps）的交叉验证：吞吐量反映带宽容量及隐性瓶颈，cps体现连接建立能力与突发抗压性，须结合业务场景、真实流量和组合压测动态校准。

评估负载均衡承载能力，关键不是看它“能不能跑”，而是看它在真实流量压力下是否稳定、可预期。吞吐量和新建连接数（CPS）是两个不可替代的硬性标尺，它们分别反映“带宽容量”和“连接建立能力”，必须结合业务场景一起解读。

吞吐量：看清实际带宽消耗与瓶颈位置

吞吐量指单位时间进出负载均衡器的数据总量（bps），分4层（TCP/UDP）和7层（HTTP/HTTPS）两类。不能只看峰值带宽数字，要关注三点：

• 区分方向：入向流量（客户端→LB）和出向流量（LB→后端）可能严重不对称。例如大量静态资源回源时，出向远大于入向；而大文件上传则相反。需分别监控，避免单侧打满丢包
• 匹配业务类型：纯4层转发（如TCP透传）吞吐接近网卡理论值；但开启SSL卸载、HTTP头解析、WAF规则或gzip压缩后，7层吞吐常降至4层的30%–60%。压测时必须开启全功能链路再测
• 识别隐性瓶颈：当吞吐未达标但延迟飙升、错误增多，问题往往不在带宽，而在CPU（如SSL握手耗尽核）、内存（连接跟踪表溢出）或文件描述符（ulimit未调高）

新建连接数（CPS）：判断连接建立是否成为性能拐点

新建连接数代表每秒能完成三次握手（4层）或HTTP请求首行解析（7层）的能力，是衡量突发流量抗压能力的核心指标。重点看：

• 区分“新建”与“并发”：CPS高但并发连接数低，说明连接短命（如API类请求）；CPS低但并发高，说明长连接多（如WebSocket、SSE）。两者需同步监控，否则误判容量——例如CPS已达上限，但旧连接未释放，新用户就会排队或超时
• 关联健康检查行为：若健康检查间隔为2s、每次检查新建1个TCP连接，100个后端即带来50 CPS固定开销。这部分“非业务连接”会挤占真实用户CPS配额，配置时必须扣除
• 识别攻击特征：正常业务CPS曲线平滑，SYN Flood或慢连接攻击会导致CPS异常脉冲+并发连接数缓慢爬升+大量TIME_WAIT堆积。此时需联动防火墙或LB限速策略

用吞吐量和CPS交叉验证真实承载边界

单独看任一指标都容易失真。真正有效的评估方式是做组合压测，并观察拐点：

• 逐步提升RPS（模拟真实请求），同步记录吞吐量（bps）、CPS、平均响应时间、5xx错误率
• 当吞吐量增长变缓但CPS仍在上升 → 瓶颈在处理逻辑（如正则匹配、证书验签）
• 当CPS增长停滞但吞吐量还在涨 → 瓶颈在连接调度（如epoll wait超时、accept队列满）
• 当两者都趋近平台期，且P95响应时间突破业务容忍阈值（如800ms）或5xx错误率>0.5% → 此即该配置下的实际承载上限

生产环境持续校准建议

上线后不能只依赖压测数据。应基于真实流量动态反推：

• 取过去7天每小时的吞吐量与CPS峰值，乘以1.3作为当前安全水位线
• 当某次发布后，相同QPS下CPS升高15%以上，提示连接复用失效或后端主动断连增多
• 云厂商ELB或硬件LB通常提供“使用率”指标（如“新建连接数使用率”），但注意其分母是规格承诺值，而非实际瓶颈值——务必用自采指标交叉比对