c++怎么利用多线程并发下载并组装文件_分块写入与文件锁【进阶】

夜明吖_3154

夜明吖_3154

2026-03-27

734人浏览

原创

多线程下载应避免fseek+fwrite,改用pwrite(linux/macos)或setfilepointerex+writefile(windows)实现原子写入,并预分配文件大小;仅对预分配和元数据更新加锁,分块大小需动态调整,windows创建文件句柄须显式设置file_share_read。

c++怎么利用多线程并发下载并组装文件_分块写入与文件锁【进阶】

多线程下载时 fseek + fwrite 直接写入会覆盖或错位

分块下载后直接用普通文件指针写入,几乎必然出问题:多个线程同时 fseek 到不同偏移再 fwrite,底层文件指针(FILE* 的内部状态)不是线程安全的,实际写入位置不可控,轻则数据错乱,重则部分块被截断。

正确做法是绕过 C 标准库的缓冲和指针管理,改用系统调用级原子写入:

  • Linux/macOS 用 pwrite:传入绝对偏移,不依赖当前文件位置,天然线程安全
  • Windows 用 SetFilePointerEx + WriteFile,但必须确保每次写前重置指针且加 FILE_FLAG_NO_BUFFERING(否则缓存干扰)
  • 所有平台都推荐先创建空文件并 ftruncate/SetEndOfFile 预分配大小,避免写入时扩容导致的竞态

std::shared_mutex 不适合保护整个文件写入过程

有人想用读写锁串行化所有写操作,这反而把并发下载变成串行写入,吞吐量暴跌——网络等待时间被白白浪费,CPU 和磁盘也闲着。

真正要锁的,只是「预分配文件大小」和「更新已写块元数据」这两处极短临界区:

  • 预分配只需在所有线程启动前做一次,用 std::call_once + std::once_flag 足够
  • 记录哪些块已写完(比如用 std::vector<:atomic>></:atomic>),根本不需要锁——store 是原子的
  • 只有合并阶段(如校验、重排)才需协调,那时下载早已结束,不属并发范畴

分块大小设成 1MB 比 64KB 更稳,但别硬编码

分块太小(如 8KB)会导致 HTTP 请求头开销占比飙升、线程调度压力大;太大(如 50MB)则单块失败重试成本高,内存占用陡增,且可能触发某些服务器的 range 请求限制。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

经验值和适配逻辑比固定值更重要:

  • 起始块大小建议 1–2MB,根据响应头 Content-Range 中的总长度动态调整:总长 1GB → 4MB
  • 务必检查服务器是否支持 Range:发 HEAD 请求,看响应头有无 Accept-Ranges: bytes
  • 遇到 416 错误时,不是立刻重试,而是回退到从 offset 0 开始整文件下载(有些 CDN 对 range 边界敏感)

Windows 下 CreateFile 必须带 FILE_SHARE_READ

即使你只写不读,其他线程或后续校验工具(如 md5sum)可能需要同时读该文件。Windows 默认禁止共享读,会导致 ERROR_SHARING_VIOLATION,而 Linux 的 open 默认允许。

所以 Windows 创建句柄时必须显式声明:

HANDLE h = CreateFileA(path.c_str(), GENERIC_WRITE, FILE_SHARE_READ | FILE_SHARE_WRITE, nullptr, CREATE_ALWAYS, FILE_ATTRIBUTE_NORMAL, nullptr);

漏掉 FILE_SHARE_READ,哪怕所有线程都只写,只要有一个外部进程尝试打开读,就会阻塞或失败——这点容易被忽略,尤其在调试时用资源管理器查看文件就触发了。

跨平台封装时,别迷信 std::ofstream,它在 Windows 下默认不共享,且无法指定底层标志,必须直调系统 API 或用 boost::iostreams 这类可控底座。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
C++ 智能指针与现代内存管理
C++ 智能指针与现代内存管理

深入讲解 C++ 现代内存管理的核心工具——智能指针,涵盖 unique_ptr 独占所有权语义、shared_ptr 引用计数机制与循环引用问题、weak_ptr 弱引用的应用场景、make_unique/make_shared 工厂函数的性能优势、自定义删除器的编写、RAII 资源管理思想的实践,以及从裸指针迁移到智能指针的重构策略,帮助开发者编写安全无泄漏的现代 C++ 代码。

2026.04.23

339

31

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

2023.08.10

3958

6

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

2025.12.24

1109

20

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.21

383

30

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

2026.01.21

539

24

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

2026.02.06

389

20

C++多线程并发控制与线程安全设计实践
C++多线程并发控制与线程安全设计实践

本专题围绕 C++ 在高性能系统开发中的并发控制技术展开,系统讲解多线程编程模型与线程安全设计方法。内容包括互斥锁、读写锁、条件变量、原子操作以及线程池实现机制,同时结合实际案例分析并发竞争、死锁避免与性能优化策略。通过实践讲解,帮助开发者掌握构建稳定高效并发系统的关键技术。

2026.03.16

213

22

Java 多线程与并发编程实战
Java 多线程与并发编程实战

深入讲解 Java 并发编程体系,涵盖 Thread / Runnable / Callable 线程创建方式、线程生命周期与状态转换、synchronized 同步锁与 Lock/ReentrantLock 显式锁、volatile 可见性保证、ThreadPool 线程池配置与调优(核心参数/拒绝策略)、JUC 并发工具类(CountDownLatch/CyclicBarrier/Semaphore/ConcurrentHashMa

2026.04.17

329

31

C++ 多线程使用教程大全
C++ 多线程使用教程大全

系统讲解 C++11 及后续标准引入的多线程编程能力,涵盖 std::thread 线程创建与生命周期管理、std::mutex / shared_mutex 互斥锁与读写锁、std::condition_variable 条件变量同步、std::atomic 原子操作与内存序(memory_order)、std::future / promise / async 异步任务、线程池的设计与实现、死锁检测与避免策略,帮助开发者编写正确高效

2026.04.28

196

17

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习