Python中如何利用yield语句实现大文件的流式数据处理结构?

大丽大大_4376

大丽大大_4376

2026-08-12

221人浏览

原创

yield通过每次只生成一行或一块数据,使函数变为生成器,实现流式读取大文件避免内存溢出;关键在于控制每次产出的数据量,而非yield本身自动省内存。

python中如何利用yield语句实现大文件的流式数据处理结构?

yield 怎么让大文件不爆内存

直接用 open() 读大文件再 readlines(),Python 会把整份内容塞进内存,动辄几个 GB 就触发 MemoryError。用 yield 的核心是:每次只生成一行(或一块)数据,函数变成生成器,调用时不执行,只返回一个迭代器。

关键不是“用了 yield 就自动省内存”,而是你得控制每次产出的数据量。比如逐行 yield 是最常见也最安全的起点:

def read_large_file(filepath):
    with open(filepath, 'r', encoding='utf-8') as f:
        for line in f:  # 文件对象本身是迭代器,不加载全文
            yield line.strip()

注意这里没用 f.readlines(),否则又全读进来了;for line in f 是底层按缓冲区逐块读取、按行切分,配合 yield 实现真正的流式。

yield 和 return 混用会出什么错

生成器函数里一旦出现 return(哪怕不带值),函数就会立即终止并抛出 StopIteration——这不是错误,但容易误判为“提前结束”。更隐蔽的问题是:如果在 yield 后面写 return value,这个 value 不会作为返回值被拿到,而是被忽略(Python 3.3+ 才支持 return expr 传给 StopIteration.value,但绝大多数场景不需要)。

常见踩坑点:

  • 误以为 return "done" 能被调用方接收到,实际只能靠捕获 StopIteration 异常去取,非常不直观
  • 在循环中混用 yield 和 return,导致部分数据没 yield 就退出
  • 想“先 yield 再清理”,结果把清理逻辑写在 yield 后面又没加异常处理,资源可能泄漏

建议:生成器里只用 yield,收尾逻辑(如 close、flush)放在 with 语句里,靠上下文管理器保证执行。

怎么按块(chunk)而不是按行 yield

有些文件没有明确换行(比如二进制日志、JSON Lines 不规范、超长单行文本),按行 yield 失效,就得手动分块读取。这时候 yield 的单位不再是“行”,而是“字节块”或“记录块”。

Li Python Sec Check
Li Python Sec Check

Python 安全规范检查工具:基于 CloudBase 规范、腾讯安全指南,LLM 智能分析(默认禁用,优先本地执行)

下载

示例:每次读 8192 字节,yield 解码后的字符串片段(注意边界截断问题):

def read_in_chunks(filepath, chunk_size=8192):
    with open(filepath, 'rb') as f:  # 用 binary mode 避免解码干扰
        while True:
            data = f.read(chunk_size)
            if not data:
                break
            yield data.decode('utf-8', errors='ignore')

要点:

  • 用 rb 模式读,避免编码错误打断流程;errors='ignore' 或 'replace' 防止个别坏字节 crash
  • chunk_size 不是越大越好:太大仍可能占内存;太小则系统调用频繁,IO 效率低。8KB–64KB 是较稳妥范围
  • 如果业务需要完整记录(如 JSON 对象),不能简单按字节切,得配合解析器边读边判断边界,这时 yield 的就不是 raw bytes,而是解析后的 dict/list

生成器嵌套时 yield from 别漏掉

当你要组合多个文件、多个数据源,或者把预处理逻辑拆成子生成器时,直接 yield func() 会 yield 出一个生成器对象,而不是它的内容——结果是外层拿到的是 generator object,不是数据。

必须用 yield from 委托子生成器:

def process_files(filepaths):
    for path in filepaths:
        yield from read_large_file(path)  # ✅ 正确:展开子生成器
<p>def bad_example(filepaths):
for path in filepaths:
yield read_large_file(path)  # ❌ 错误:yield 出 generator 对象</p>

另外注意:yield from 在 Python 3.3+ 才支持;如果要兼容旧版本,得手动循环 + yield:

for item in read_large_file(path):
    yield item

嵌套层级深了之后,调试时容易搞不清哪一层 yield 了什么,建议每个生成器函数名体现其粒度,比如 yield_lines()、yield_records()、yield_parsed_dicts()。

真正难的不是写 yield,而是设计好每层 yield 的数据契约:上游拿什么,下游期望什么,中间要不要做 decode / split / validate —— 这些不厘清,流式结构反而会让 bug 更难定位。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1651

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4084

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1649

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

23577

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2887

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2927

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1143

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2263

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程