因为net.listen("tcp", addr)不支持so_reuseport,无法让多进程共享同一端口;单进程内靠goroutine轮询仍是单点accept,无法实现内核级连接分发与多核负载均衡。

为什么不能直接用 net.Listen("tcp", addr) 做负载均衡
Go 的 net.Listen 本身不提供连接分发能力,它只是监听端口并接受新连接。多个 Go 进程同时 Listen 同一地址会报 address already in use;而单进程里靠 goroutine 轮询分发,本质仍是单点接收,无法利用多核或横向扩展。真正的负载均衡必须在连接建立前介入——要么靠操作系统(SO_REUSEPORT),要么靠外部代理(如 nginx、haproxy),或者自己实现内核态/用户态的连接转发。
SO_REUSEPORT 是最轻量的多进程负载方案
Linux 3.9+ 和 macOS 支持 SO_REUSEPORT,允许多个进程绑定同一 IP:Port,内核自动把新连接 hash 分发到不同进程。Go 1.11+ 通过 net.ListenConfig 可启用:
lc := net.ListenConfig{
Control: func(fd uintptr) {
syscall.SetsockoptInt32(int(fd), syscall.SOL_SOCKET, syscall.SO_REUSEPORT, 1)
},
}
ln, err := lc.Listen(context.Background(), "tcp", ":8080")
注意点:
Go 配置库,使用 spf13/viper — 分层优先级(flag > env >file > KV > default),提供 BindPFlag/BindPFlags、SetEnvPrefix + SetEnvKeyReplace 等功能。
- 所有 worker 进程必须完全相同(同样二进制、同样启动参数),否则某些系统可能拒绝复用
- 连接分发是内核级的,不保证绝对均匀,但对长连接场景足够稳定
- Windows 不支持
SO_REUSEPORT,该方案不可移植 - 无法做应用层决策(比如按 header 或 TLS SNI 分流)
用 TCP 代理模式实现可编程分发
如果需要根据协议内容(如 HTTP Host、TLS ServerName、自定义握手包)做路由,就得写一个 TCP 代理:监听前端端口,Accept 后解析数据,再 dial 到后端目标地址。关键不是“转发字节”,而是“决策时机”:
- 必须在连接建立后尽快读少量数据(比如前 1024 字节),避免阻塞或超时
- 对 TLS 流量,需解析 ClientHello 获取
ServerName,可用tls.ClientHelloInfo配合tls.Listen的GetConfigForClient回调 - HTTP/1.x 可读第一行判断
Host:,但 HTTP/2 必须依赖 ALPN 或前置 TLS SNI - 不要用
io.Copy直接桥接,否则无法拦截和判断;应使用带缓冲的bufio.Reader+ 显式WriteTo
别忽略连接生命周期和资源泄漏
代理模式下每个连接对应两个 socket(client ↔ proxy ↔ backend),goroutine 和文件描述符增长很快。常见疏漏:
- 没设
SetReadDeadline/SetWriteDeadline,导致空闲连接长期滞留 - backend
dial失败后,忘记clientConn.Close(),造成 half-open 连接堆积 - 没限制最大并发连接数,被慢速客户端(slowloris)轻易打垮
- 日志里打印完整
remoteAddr时未脱敏,暴露内网拓扑
真正难的从来不是“怎么转发”,而是“什么时候断开”和“断开后如何清理”。尤其在高延迟网络或后端抖动时,超时策略、重试逻辑、连接池复用这些细节,比分发算法本身更容易出问题。
golang免费学习笔记(深入):立即使用
在学习笔记中,你将探索golang的核心概念和高级技巧!










