C++怎么实现高并发服务器模型

阿雪小哥_3454

阿雪小哥_3454

2026-11-04

616人浏览

原创

C++高并发服务器必须采用epoll+多线程Reactor模型,而非“一连接一线程”;否则超千连接时CPU陷于上下文切换,业务逻辑无法获得足够时间片。

c++怎么实现高并发服务器模型

直接说结论:C++高并发服务器不能靠“来一个连接开一个线程”硬堆,必须用事件驱动(epoll)+ 多线程 Reactor 模型。否则连接数一过千,CPU 就在上下文切换里打转,业务逻辑根本抢不到时间片。

为什么 std::thread + blocking socket 一定撑不住万级连接

每个 std::thread 默认占 8MB 虚拟栈空间,1000 个连接就是 8GB 地址空间;实际压测中,线程数超 300 后,pthread_create 开始失败,errno 常见为 EAGAIN(资源临时不可用)。更隐蔽的问题是:阻塞式 recv 会让线程挂起,但调度器仍要为其维护上下文,大量空闲线程持续消耗 CPU 调度开销——这不是性能差,是模型错配。

  • 不要用 select 或 poll 替代:它们仍是 O(n) 扫描,fd 数量上万时内核拷贝和用户态遍历成本爆炸
  • 不要手动实现状态机轮询:非阻塞 socket 配合 epoll_wait 是基础,但裸写 EPOLLIN/EPOLLOUT 切换、缓冲区管理、半包粘包处理极易出错
  • 避免在主线程做业务逻辑:accept 后立刻把 fd 分发出去,主线程只做连接接入,否则会成为单点瓶颈

epoll + 多 Reactor 线程模型怎么搭才不翻车

核心是分工明确:主线程只跑一个 epoll_wait 监听 listen_fd,用 accept4 带 SOCK_NONBLOCK | SOCK_CLOEXEC 标志创建新连接,然后通过 eventfd 或管道把 fd 安全传递给某个 Sub Reactor 线程。每个 Sub Reactor 线程独立持有自己的 epoll_fd,注册该连接的读写事件。

  • 必须用边缘触发(ET)模式:配合非阻塞 socket,避免重复通知;但每次 read 必须循环到 EAGAIN,否则可能丢数据
  • 每个连接需配独立 Buffer:读缓冲区要支持自动扩容(如从 4KB 起步,上限 64KB),写缓冲区要用链表或 ring buffer,防止大响应体阻塞整个事件循环
  • 定时器必须走 timerfd_create:和 epoll 统一事件源,不要另起线程轮询 std::chrono,否则精度差且难同步

线程间安全传递 fd 的坑在哪

常见错误是直接把 fd 整数通过队列传给另一个线程,结果目标线程调用 epoll_ctl(EPOLL_CTL_ADD) 失败,报 EBADF。原因:fd 是进程级资源,跨线程传递本身合法,但若原线程已 close 或子线程未正确设置 CLOEXEC,就会失效。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载
  • 务必在 accept4 时带上 SOCK_CLOEXEC,避免 fork 子进程时意外继承
  • 用 sendmsg + SCM_RIGHTS 传递 fd 最可靠,比共享整数或管道更底层、无竞态
  • 如果用 eventfd 唤醒 Sub Reactor,记得每次 write 后 read 清空,否则下次唤醒不触发
  • 不要在 Sub Reactor 线程里直接 close 主线程传来的 fd:应由所属 Reactor 自己管理生命周期

Buffer 和内存管理最容易被忽略的细节

很多实现卡在吞吐量上不去,不是 epoll 写得不对,而是 Buffer 拷贝太多、new/delete 太频繁。一个连接收 1MB 文件,如果每次只 read 1KB 就 memcpy 到业务缓冲区,光内存拷贝就干掉 1000 次系统调用开销。

  • 读缓冲区建议用 mmap 预分配大块内存,按页对齐,连接复用时直接 reset 指针,避免反复 malloc
  • 写缓冲区优先用 splice 或 sendfile:文件直送 socket,绕过用户态拷贝;若不行,至少用 writev 一次提交 header + body,减少 syscall 次数
  • 连接对象必须池化:new Connection 是性能毒药,用对象池(如 boost::pool 或自研 slab allocator)复用,避免锁竞争和碎片

真正卡住人的从来不是 epoll API 怎么调,而是 Buffer 边界判断错一次导致粘包、timerfd 未清空导致定时器堆积、fd 传递漏了 CLOEXEC 导致连接泄漏——这些点不写进日志很难复现,但线上一出就是雪崩。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++面试 c++常见报错 c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c++和c语言的区别有哪些
c++和c语言的区别有哪些

c++和c语言的区别:1、面向对象编程(OOP)支持不同;2、新增特性不同;3、标准库不同;4、编译方式不同;5、命名空间不同等等。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.14

2288

9

c++和python学习顺序推荐
c++和python学习顺序推荐

一般建议先学习C++,再学习Python,因为这样可以逐步从较为底层的编程语言向更高级的语言过渡。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

1039

6

python和c++学习性价比分析
python和c++学习性价比分析

Python易于学习,广泛应用于Web开发、数据科学和人工智能等领域,但性能较低。C语言性能高,适用于对性能要求较高的场景,如游戏开发和系统编程,但学习曲线陡峭,错误处理复杂。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

447

5

c语言和c++一样吗
c语言和c++一样吗

c语言和c++是两种不同的编程语言,虽然有相似之处,但存在显著差异。c语言专注于过程式编程和系统级开发,以简洁、高效著称。c++作为c语言的超集,引入了面向对象编程,增强了代码组织和管理能力,但学习曲线也更陡峭。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

347

5

c语言和c++先学哪个好
c语言和c++先学哪个好

初学者选择学习c语言还是c++语言,需要根据个人学习目标、背景以及编程兴趣和预期应用方向来决定。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

426

5

c语言和c++的区别和联系
c语言和c++的区别和联系

c语言和c++是计算机科学领域应用广泛的编程语言。虽然它们有着相似的基础,但它们在语言类型、语法功能和内存管理方面存在着显著差异。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

600

5

c++软件中文更改教程
c++软件中文更改教程

对于 ide,可通过打开设置,找到语言设置,选择中文,并保存更改。对于非 ide 应用程序,可查找设置或选项,选择语言设置,更改为中文,并保存更改。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.21

1429

9

python和java和c++学习性价比分析
python和java和c++学习性价比分析

Python以其易学性、丰富的库和活跃的社区而著称,适合数据科学、人工智能和Web开发。Java以其跨平台性、企业级应用开发和Android应用开发而闻名。C++以其底层控制能力、高效性能和游戏开发而著称。选择哪种语言取决于个人兴趣、职业方向和特定需求。想了解更多python和java和c++的相关内容,可以阅读本专题下面的文章。

2024.03.22

1237

7

c++和c语言学习顺序推荐
c++和c语言学习顺序推荐

对于初学者,建议先学习C语言,掌握编程基础后再转入C++,便于理解面向对象编程概念。有编程经验者可直接学习C++,快速接触高级编程技术。想了解更多c++和c语言的相关内容,可以阅读本专题下面的文章。

2024.03.25

1325

9

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习