C#怎么读取Txt文本内容_C#逐行读取大文件【性能优化】

秋丽君_4768

秋丽君_4768

2026-04-29

607人浏览

原创

streamreader.readline()是大文件逐行读取的稳态选择,需显式指定编码、using包裹、复用实例;file.readlines()仅适合简单遍历;随机访问须预建行偏移索引;极致性能可选span手动解析。

c#怎么读取txt文本内容_c#逐行读取大文件【性能优化】

直接读大文本文件,File.ReadAllLines() 会爆内存,StreamReader.ReadLine() 是唯一稳得住的选择;真要兼顾随机访问和速度,得自己建行偏移索引。

StreamReader.ReadLine() 是大文件逐行读取的默认起点

它内部用缓冲区(默认 1024 字节)流式解码,不把整文件拖进内存,稳定占用几 KB 到几十 KB。别图省事写 new StreamReader(path) —— 缺少编码参数容易乱码或触发 BOM 检测开销。

  • 必须显式指定编码:new StreamReader(path, Encoding.UTF8) 或 Encoding.GetEncoding("GB2312"),尤其部署到 Linux 服务器时,Encoding.Default 很可能不是你想要的
  • 用 using 包裹,确保 Dispose() 被调用,否则文件句柄泄漏;别在循环里反复 new 实例,一个复用到底
  • reader.ReadLine() 返回 null 表示 EOF,空行返回空字符串 "",不是 null
  • 如果文件含损坏字节或混合编码,会抛 ArgumentException;可设 detectEncodingFromByteOrderMarks: false 或捕获异常降级处理

File.ReadLines() 看似简洁,但有隐藏约束

它返回 IEnumerable<string></string>,底层也是基于 StreamReader 做延迟加载,语法干净,适合简单遍历。但它不是“万能替代”——不能重复遍历,且异常时机靠前:文件被占用、权限不足、路径不存在,都在第一次 foreach 迭代时就炸,而不是等读到末尾。

C#
C#

"避开 C# 常见错误——空陷阱、异步陷阱、LINQ 陷阱及资源泄漏。"

下载
  • 不能多次 foreach 同一个 File.ReadLines() 结果,除非先 .ToList() 或 .ToArray(),但那就失去流式意义了
  • 不支持跳过前 N 行后再继续,也不支持中途 Seek;想跳过 100 行?只能 for 丢弃,别指望 DiscardBufferedData() 起作用
  • 它自动识别 BOM,对无 BOM 的 UTF-8 文件仍会按系统默认编码解析,所以乱码问题照样发生

需要随机访问某一行?先建行偏移索引

StreamReader 不支持 Seek 到第 N 行,因为行长度不固定。硬扫 100 万行耗时不可控,必须预处理建索引。

  • 第一遍扫描只记每行起始位置:stream.Position,写入轻量二进制或 CSV(每行一个 long),索引文件本身几 MB,远小于原始文件
  • 后续读取时用 FileStream + Seek() 跳转,再用 StreamReader 读该行:fs.Seek(offsets[lineNumber], SeekOrigin.Begin)
  • 加 FileOptions.SequentialScan 提示 OS 使用顺序读优化,对 GB 级文件有效
  • 注意跨缓冲区换行符边界:若 \n 恰好在 buffer 末尾,需保留未完成行头,避免下一次读错位

追求极致性能?考虑 Span 手动解析

绕过字符串解码、避免 GC 分配,纯 ASCII 或简单 CSV 场景下比 StreamReader 快 2–5 倍。但代价是代码复杂、易出错,且只适用于格式可控的文件。

  • 用 FileStream.ReadAsync(Memory<byte>)</byte> 配合栈上 Span<byte></byte> 处理缓冲区
  • 用 IndexOf((byte)'\n') 找行尾,Utf8Decoder.Decode() 按需转目标行字符串
  • 必须处理跨 buffer 的换行符,即 \n 在当前 buffer 末尾时,要把剩余部分暂存,拼到下一块 buffer 开头
  • 别盲目上手——90% 的业务场景,StreamReader + 合理缓冲区(如 bufferSize: 1024 * 1024)已足够

真正难的不是“怎么读”,而是判断哪一行值得花力气建索引、哪一类乱码该提前拦截、以及什么时候该放弃“逐行”思路改用分块+并行处理——这些边界往往在压测后才浮现。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

c#

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c#是什么意思
c#是什么意思

C#是一种通用的面向对象编程语言,它在.NET框架上运行,可用于开发各种类型的应用程序。本专题为大家提供c#相关的各种文章、以及下载和课程。

2023.08.08

1012

5

什么是c#
什么是c#

C#(读作C Sharp)是一种现代的、通用的、面向对象的编程语言。它由微软公司开发,于2000年首次发布,主要用于开发Windows桌面应用程序、Web应用程序、移动应用程序以及游戏开发等领域。C#是一种类型安全和托管的编程语言,它结合了C++的强大性能和C语言的简单易学特点,并引入了许多新的特性和概念,如委托、属性、泛型和异步编程等,以提高开发效率和代码可维护性。

2023.08.31

2951

3

C#中base关键字的用法
C#中base关键字的用法

在C#中,base关键字用于访问当前类的基类成员,这包括基类的字段、属性、方法、构造函数、索引器以及事件。想了解更多C#的相关内容,可以阅读本专题下面的文章。

2024.03.13

885

8

C#Task用法
C#Task用法

Task在C#中是用于表示异步操作的对象,它位于System.Threading.Tasks命名空间中。想了解更多C#中各种用法的相关内容,可以阅读本专题下面的文章。

2024.03.14

2615

11

C# 并发与异步编程
C# 并发与异步编程

本专题系统讲解 C# 异步编程与并发控制,重点介绍 async 和 await 关键字、Task 类、线程池管理、并发数据结构、死锁与线程安全问题。通过多个实战项目,帮助学习者掌握 如何在 C# 中编写高效的异步代码,提升应用的并发性能与响应速度。

2026.02.03

312

18

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

2026.02.06

389

20

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

2026.03.11

631

24

C# Unity游戏开发与ECS架构实践
C# Unity游戏开发与ECS架构实践

本专题聚焦 C# 在 Unity 游戏开发中的应用,系统讲解 ECS(Entity-Component-System)架构设计、游戏对象管理、性能优化与内存控制策略。通过实际游戏案例,帮助开发者构建高性能、结构清晰的游戏系统,提高游戏开发效率与运行性能。

2026.04.13

329

20

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.02

6439

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习