C#如何实现读取大文件_C#流式读取和BufferedStream教程【实用】

夏婷吖_1267

夏婷吖_1267

2026-05-11

1056人浏览

原创

直接用 file.readalltext 读 gb 级文本文件大概率触发 outofmemoryexception;应改用 filestream + 合理缓冲区(ssd 用 16kb、机械盘用 64kb),避免默认 4kb 或盲目设过大,慎用 bufferedstream,逐行读取优先用指定缓冲的 streamreader 并注意编码与内存复用。

c#如何实现读取大文件_c#流式读取和bufferedstream教程【实用】

直接用 File.ReadAllText 读 GB 级文本文件,大概率触发 OutOfMemoryException;不是代码写错了,是它本就不该干这活。

FileStream + 缓冲区大小怎么设才不翻车

默认 4KB 缓冲对现代 SSD 来说偏小,但盲目拉到 1MB 又会拖慢 GC。实测在连续读取场景下,16KB–64KB 是吞吐与内存开销的合理交界点:

  • FileStream 构造时显式传入 bufferSize: 65536(64KB),比依赖默认值更可控
  • 机械硬盘建议用 64KB,SSD 可降到 16KB(bufferSize: 16384)
  • 别设成 256KB 以上——磁盘 IO 已不是瓶颈,多占的内存只增加 GC 压力
  • 避免 bufferSize: 0 或未指定:.NET 会悄悄重置为 4096,失去调优意义

BufferedStream 到底要不要套一层

绝大多数情况下不用。因为 FileStream 默认已启用缓冲,再包一层 BufferedStream 不仅不提速,还会多一次内存拷贝,甚至干扰异步调度:

Upload audio to AIOZ Stream
Upload audio to AIOZ Stream

快速上传音频至 AIOZ Stream API。支持默认或自定义编码配置创建音频对象,上传文件并完成处理后返回音频链接。

下载
  • 只有当你拿到的是**无缓冲能力的流**(比如 NetworkStream、或手动创建的 FileStream 并设了 bufferSize: 1)时,BufferedStream 才有意义
  • 真要包装,必须先禁用 FileStream 自身缓冲:new FileStream(path, ..., bufferSize: 1),再传给 BufferedStream
  • 绝对不要嵌套:new BufferedStream(new BufferedStream(fs)) —— 没叠加效果,只加对象开销
  • BufferedStream.ReadAsync 内部仍是同步填缓冲,不能替代 FileStream.ReadAsync 的底层重叠 IO

逐行读大文本文件的正确姿势

用 StreamReader 是最常用也最容易出问题的方式——它默认缓冲 1024 字节,遇到超长行或混合编码会卡住或乱码:

  • 显式指定缓冲区大小:new StreamReader(fs, Encoding.UTF8, detectEncodingFromByteOrderMarks: true, bufferSize: 65536)
  • 避免 ReadLine() 处理超长日志行:改用 ReadBlock + 手动切分,防止单行撑爆内存
  • 如果文件编码不确定,优先用 StreamReader 的 detectEncodingFromByteOrderMarks: true,而不是靠猜测
  • 注意 StreamReader 的 Dispose() 会连带关闭底层 FileStream,若需复用流,构造时传 leaveOpen: true

异步读取时容易漏掉的关键点

ReadAsync 看似简单,但线程上下文、缓冲区生命周期和完成语义常被忽略:

  • 缓冲区数组(如 byte[] buffer)必须在 async 方法作用域内保持有效——不能是栈分配或短命对象
  • 不要在循环里反复 new byte[65536],考虑用 ArrayPool<byte>.Shared.Rent(65536)</byte> 复用
  • FileStream 必须用 FileOptions.Asynchronous 创建,否则 ReadAsync 会退化为同步+线程池模拟
  • await fs.ReadAsync(buffer, 0, buffer.Length) 返回值是实际读取字节数,永远要检查是否为 0(EOF)或小于预期(部分读)

缓冲区不是越大越好,异步不是加个 async 就完事,而 BufferedStream 更不是性能银弹——它只在特定流缺失缓冲能力时才该出场。真正影响大文件吞吐的,往往是缓冲策略、内存复用和底层 IO 选项的组合,不是某一个类名。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

stream c#

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c#是什么意思
c#是什么意思

C#是一种通用的面向对象编程语言,它在.NET框架上运行,可用于开发各种类型的应用程序。本专题为大家提供c#相关的各种文章、以及下载和课程。

2023.08.08

992

5

什么是c#
什么是c#

C#(读作C Sharp)是一种现代的、通用的、面向对象的编程语言。它由微软公司开发,于2000年首次发布,主要用于开发Windows桌面应用程序、Web应用程序、移动应用程序以及游戏开发等领域。C#是一种类型安全和托管的编程语言,它结合了C++的强大性能和C语言的简单易学特点,并引入了许多新的特性和概念,如委托、属性、泛型和异步编程等,以提高开发效率和代码可维护性。

2023.08.31

2831

3

C#中base关键字的用法
C#中base关键字的用法

在C#中,base关键字用于访问当前类的基类成员,这包括基类的字段、属性、方法、构造函数、索引器以及事件。想了解更多C#的相关内容,可以阅读本专题下面的文章。

2024.03.13

865

8

C#Task用法
C#Task用法

Task在C#中是用于表示异步操作的对象,它位于System.Threading.Tasks命名空间中。想了解更多C#中各种用法的相关内容,可以阅读本专题下面的文章。

2024.03.14

2615

11

C# 并发与异步编程
C# 并发与异步编程

本专题系统讲解 C# 异步编程与并发控制,重点介绍 async 和 await 关键字、Task 类、线程池管理、并发数据结构、死锁与线程安全问题。通过多个实战项目,帮助学习者掌握 如何在 C# 中编写高效的异步代码,提升应用的并发性能与响应速度。

2026.02.03

312

18

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

2026.02.06

389

20

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

2026.03.11

611

24

C# Unity游戏开发与ECS架构实践
C# Unity游戏开发与ECS架构实践

本专题聚焦 C# 在 Unity 游戏开发中的应用,系统讲解 ECS(Entity-Component-System)架构设计、游戏对象管理、性能优化与内存控制策略。通过实际游戏案例,帮助开发者构建高性能、结构清晰的游戏系统,提高游戏开发效率与运行性能。

2026.04.13

329

20

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
CentOS 官方文档
CentOS 官方文档

共0课时 | 0人学习

极客学院Java8新特性视频教程
极客学院Java8新特性视频教程

共17课时 | 4.3万人学习

C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习