如何在Python中安全处理大文件并记录处理进度(避免重复读取或重写整个文件)

千敏吖_6186

千敏吖_6186

2026-02-07

870人浏览

原创

如何在Python中安全处理大文件并记录处理进度(避免重复读取或重写整个文件)

python标准库不提供“读一行删一行”的内置函数,但可通过外部进度文件记录已处理行号,实现断点续传式文件处理,避免频繁重写文件带来的性能与可靠性问题。

在实际开发中,尤其是处理日志、批量任务或数据导入场景时,常需确保程序意外中断(如断电、崩溃)后能从中断处继续执行,而非从头开始或丢失状态。直接“边读边删行”看似直观,但文件系统本身不支持随机删除某一行——因为文本文件是连续字节流,删除中间一行需重写其后的全部内容,开销大且非原子操作,极易因中断导致文件损坏。

因此,更稳健、专业的做法是分离“状态跟踪”与“数据存储”:保持原始文件只读不变,用独立的轻量级机制(如进度文件)持久化处理位置。以下是推荐实现方案:

Secure Python Code Sandbox
Secure Python Code Sandbox

安全 Python 代码沙箱:在隔离的沙箱中执行任意 Python 代码,预装 requests、NumPy、pandas 库。返回 stdout、stderr。

下载

✅ 推荐方案:基于行号的断点续传处理

def process_file(filepath, progress_filepath):
    # 1. 读取上次处理到的行号(默认为0)
    try:
        with open(progress_filepath, 'r') as pf:
            last_processed = int(pf.read().strip())
    except (FileNotFoundError, ValueError):
        last_processed = 0

    # 2. 逐行读取原文件(使用生成器避免内存爆炸)
    with open(filepath, 'r', encoding='utf-8') as f:
        for line_num, line in enumerate(f, start=1):
            if line_num <h3>⚠️ 关键注意事项</h3>
  • 不要用 readlines() 加载大文件到内存:示例中改用 for line in file 迭代器,内存占用恒定 O(1),适用于 GB 级文件;
  • 进度文件必须及时刷盘:调用 .flush() 强制落盘,配合 os.fsync() 可进一步提升可靠性(尤其在 Linux/macOS 上);
  • 考虑并发安全:若多进程/线程访问同一进度文件,需加锁(如 threading.Lock 或文件锁 portalocker);
  • 备份原始文件:生产环境建议先对源文件做快照或校验(如 hashlib.md5),防止误操作;
  • 替代方案补充:对极高可靠性要求场景,可选用 SQLite 存储每行处理状态(含时间戳、结果、错误信息),比纯文本进度文件更健壮。

该方法兼顾简洁性、可维护性与鲁棒性,是 Python 文件批处理工程实践中的通用范式。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

2023.08.10

4298

6

macOS怎么切换用户账户
macOS怎么切换用户账户

在 macOS 系统中,可通过多种方式切换用户账户。如点击苹果图标选择 “系统偏好设置”,打开 “用户与群组” 进行切换;或启用快速用户切换功能,通过菜单栏或控制中心的账户名称切换;还能使用快捷键 “Control+Command+Q” 锁定屏幕后切换。

2025.05.09

4804

14

磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

2023.06.21

4190

4

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

2023.06.29

3533

10

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2023.06.30

2773

5

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

2023.07.05

6770

7

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

2023.07.06

6402

7

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.20

3693

8

linux查看ip命令
linux查看ip命令

本专题为大家提供linux查看ip命令相关文章内容,感兴趣的朋友可以免费下载体验试试。

2023.07.20

3185

4

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习