c++如何实现文件断点续传中的本地分片MD5值比对与完整性校验【实战】

雨婷吖_6779

雨婷吖_6779

2026-03-29

801人浏览

原创

断点续传必须本地计算并验证分片md5,因网络篡改、磁盘错误或客户端重启可能导致数据不一致;md5须写入后从磁盘重读计算,且需原子化落盘校验结果。

c++如何实现文件断点续传中的本地分片md5值比对与完整性校验【实战】

为什么断点续传必须自己算分片 MD5,不能只依赖服务器返回?

因为网络传输可能中途篡改、磁盘写入可能出错、客户端重启后恢复的文件片段未必和上次上传的一致——服务器给的 MD5 是它“认为”的,而你本地必须验证“实际写入磁盘的是不是这个”。fseekfread 读取任意偏移处的分片时,若没校验,后续续传就等于在错误数据上叠加新数据。

  • 常见错误现象:HTTP 206 Partial Content 响应成功,但最终合并后文件损坏,用 md5sum 对比全量文件发现不一致
  • 关键点:MD5 必须在每次写入分片后立即计算,且必须从磁盘重新读取(不能用内存 buffer 缓存值),否则绕过文件系统缓存或 page cache 的异常无法捕获
  • 性能影响:小分片(如 1MB)下 MD5 计算开销可忽略;但分片 >8MB 时建议用 std::thread 异步计算,避免阻塞 I/O 线程

fopen + fseek 安全读取指定偏移分片并计算 MD5

别用 std::ifstream 默认构造,它不保证二进制模式且 seek 可能失败;必须显式用 "rb" 模式打开,并检查 fseek 返回值。

  • 正确姿势:FILE* fp = fopen("part.bin", "rb"); if (!fp) return false; if (fseek(fp, offset, SEEK_SET) != 0) { fclose(fp); return false; }
  • 读取时用 fread(buf, 1, chunk_size, fp),不要用 fread(buf, chunk_size, 1, fp) —— 后者在读不满时返回 0,容易误判为 EOF
  • 注意:Windows 下若文件是 CRLF 换行创建的,但以 "rb" 打开则完全无影响;用 "r" 才会触发自动换行转换,破坏二进制一致性

openssl/evp.h 计算 MD5 时最容易漏掉的三件事

很多代码直接抄 OpenSSL 示例,但断点续传场景下有三个硬性要求:必须重置上下文、必须处理最后一块不足 64 字节的情况、必须用 EVP_DigestFinal_ex 而非 EVP_DigestFinal

C++
C++

"空空如也"

下载
  • EVP_MD_CTX_reset(ctx)EVP_MD_CTX_init(ctx):多分片连续计算时,残留状态导致 MD5 错误
  • 调用 EVP_DigestUpdate 后未确保所有数据已送入:若分片长度不是 64 字节整数倍,OpenSSL 内部缓冲区里还有未处理数据,必须再调一次 EVP_DigestFinal_ex
  • EVP_DigestFinal 会清空 ctx,导致无法复用;而断点续传中常需反复计算不同 offset 的分片,复用 ctx 能省掉重复初始化开销

本地 MD5 缓存文件怎么设计才不怕崩溃丢校验结果?

不能把所有分片 MD5 存一个 JSON 里一次性写入——进程崩溃时整个文件可能损坏。必须每个分片校验完成后,立刻原子化落盘其 MD5。

  • 推荐方案:每个分片对应一个 .md5 后缀文件,如 file.part_001.md5,内容仅为 32 字符小写 hex(如 9e107d9d372bb6826bd81d3542a419d6
  • 写入流程必须是:先写临时文件 file.part_001.md5.tmpfflush + fsyncrename 替换原文件;Linux/macOS 上 rename 是原子的,Windows 需用 MoveFileExMOVEFILE_REPLACE_EXISTING
  • 校验前先检查 .md5 文件 mtime 是否晚于对应分片文件 mtime —— 防止上次写了一半就崩溃,留下陈旧校验值

实际中最容易被忽略的是:分片写入磁盘后,没有强制刷盘就去算 MD5。尤其在 Linux 上,默认 ext4 使用 write-back cache,fwrite 返回成功 ≠ 数据已落盘。务必在 fclose 前加 fflush(fp),必要时补 fsync(fileno(fp))

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

2023.08.07

1955

5

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.23

2582

1

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

2023.10.13

896

3

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

2025.09.10

2879

7

fclose函数的用法
fclose函数的用法

fclose是一个C语言和C++中的标准库函数,用于关闭一个已经打开的文件,是文件操作中非常重要的一个函数,用于将文件流与底层文件系统分离,释放相关的资源。更多关于fclose函数的相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.30

822

9

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

2023.08.10

3418

6

Java 并发编程高级实践
Java 并发编程高级实践

本专题深入讲解 Java 在高并发开发中的核心技术,涵盖线程模型、Thread 与 Runnable、Lock 与 synchronized、原子类、并发容器、线程池(Executor 框架)、阻塞队列、并发工具类(CountDownLatch、Semaphore)、以及高并发系统设计中的关键策略。通过实战案例帮助学习者全面掌握构建高性能并发应用的工程能力。

2025.12.01

503

16

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.26

2979

3

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.27

2538

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Valgrind Quick Start Guide
Valgrind Quick Start Guide

共0课时 | 0人学习

CLion CMake 快速入门教程
CLion CMake 快速入门教程

共0课时 | 0人学习