c++怎么在不加载整个大文件的情况下获取其SHA256校验值【进阶】

千强小哥_8457

千强小哥_8457

2026-03-30

521人浏览

原创

应使用std::ifstream二进制分块读取大文件并流式计算SHA256,缓冲区设64KB–1MB,配合OpenSSL的EVP_MD_CTX RAII管理、正确初始化/清理、gcount()校验读取字节数,输出32字节哈希为小写十六进制字符串。

c++怎么在不加载整个大文件的情况下获取其sha256校验值【进阶】

用 std::ifstream 分块读取避免内存爆炸

大文件(比如几个 GB 的镜像或视频)直接 read() 到内存算 SHA256,不是 OOM 就是卡死。核心思路是流式读取 + 增量哈希更新,每次只拿几 KB 或 MB 进缓冲区。C++ 标准库不带 SHA256,得靠 OpenSSL(EVP_DigestUpdate)或 libsodium 等第三方,但读取逻辑自己控制。

关键点:缓冲区大小别盲目设大——64KB 到 1MB 是较稳区间;太小(如 1KB)系统调用开销高,太大(如 100MB)反而可能触发 swap 或被 OS 杀掉。

  • std::ifstream 必须用 std::ios::binary 模式打开,否则 Windows 下遇到 \r\n 会错位
  • 用 file.gcount() 检查每次 read() 实际读了多少字节,文件末尾往往不满缓冲区,不能直接用 sizeof(buf)
  • 别用 file.eof() 当循环条件——它只在尝试读失败后才置位,容易多算一次

OpenSSL 的 EVP_MD_CTX 必须正确初始化和清理

很多人只记得 EVP_DigestInit,却漏掉 EVP_DigestFinal_ex 后的 EVP_MD_CTX_free,导致内存泄漏;更隐蔽的是,若中途出错(比如磁盘 I/O 失败),没调 EVP_MD_CTX_free 就 return,ctx 对象就永远卡在堆上。

推荐封装成 RAII 类型,或者至少确保每个分支都调用 EVP_MD_CTX_free。另外,EVP_sha256() 返回的是 const 指针,别试图 free 它。

  • 初始化必须用 EVP_DigestInit_ex(ctx, EVP_sha256(), nullptr),第三个参数为 nullptr 表示用默认 engine
  • 计算完调 EVP_DigestFinal_ex(ctx, digest, &digest_len),digest_len 必须传地址,且声明为 unsigned int(不是 size_t)
  • OpenSSL 1.1.1+ 要求先 EVP_MD_CTX_new(),旧版本用 EVP_MD_CTX_create(),混用会 segfault

校验值输出时注意字节序和编码

SHA256 输出是 32 字节二进制数据,直接当字符串打印会截断(遇到

SHA256 输出是 32 字节二进制数据,直接当字符串打印会截断(遇到 \0)或乱码。99% 场景要转成小写十六进制字符串(64 个字符),不是 base64,也不是大写。

)或乱码。99% 场景要转成小写十六进制字符串(64 个字符),不是 base64,也不是大写。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

别手写 hex 转换循环——容易越界或大小写错。用 std::hex + std::setw(2) + std::setfill('0') 最稳妥;如果追求性能,可预分配 string 并用查表法,但对校验值生成这种低频操作没必要。

  • 每字节转 2 位 hex,务必补前导零,否则 0x5 变成 "5",长度不对且无法被其他工具识别
  • 别用 sprintf("%02x") —— C 风格格式化在 C++ 里易栈溢出,且不类型安全
  • 输出字符串建议用 std::string 而非 const char*,避免悬垂指针

Windows 下路径含中文或空格时 std::ifstream 打不开

这是 C++ 文件流的老坑:std::ifstream 构造函数只接受窄字符串(const char*),在 Windows 默认 ANSI 编码下,UTF-8 路径或宽字符路径会直接失败,错误码常是 ENOENT(即使文件明明存在)。

解决方案只有两个:要么把路径转成当前系统代码页(不推荐,跨机器不可靠),要么改用 Windows API 的 CreateFileW + ReadFile 配合 std::vector 手动读,绕过 std::ifstream。后者更可控,也方便做异步读或取消机制。

  • 用 MultiByteToWideChar(CP_UTF8, ...) 把 UTF-8 路径转 wchar_t*,再传给 CreateFileW
  • CreateFileW 返回的 HANDLE 要用 CloseHandle 关,不能用 fclose
  • 别在循环里反复调 GetLastError()——它会被后续任意系统调用覆盖,出错时立刻保存

实际最难的不是算法,是把 I/O 错误、内存生命周期、编码边界这三件事串起来不出错。尤其是边读边哈希时,一处 gcount() 没检查,整个哈希值就全错,还很难复现。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.02

7199

3

fclose函数的用法
fclose函数的用法

fclose是一个C语言和C++中的标准库函数,用于关闭一个已经打开的文件,是文件操作中非常重要的一个函数,用于将文件流与底层文件系统分离,释放相关的资源。更多关于fclose函数的相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.30

842

9

c语言const用法
c语言const用法

const是关键字,可以用于声明常量、函数参数中的const修饰符、const修饰函数返回值、const修饰指针。详细介绍:1、声明常量,const关键字可用于声明常量,常量的值在程序运行期间不可修改,常量可以是基本数据类型,如整数、浮点数、字符等,也可是自定义的数据类型;2、函数参数中的const修饰符,const关键字可用于函数的参数中,表示该参数在函数内部不可修改等等。

2023.09.20

2398

7

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.03

1878

5

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.04

3024

5

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

2023.10.24

6304

49

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

2023.11.24

6309

6

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

2024.03.22

7874

16

php中定义字符串的方式
php中定义字符串的方式

php中定义字符串的方式:单引号;双引号;heredoc语法等等。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

2024.04.29

12014

11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习