Python 文件流式传输的实现技巧

酷杰大大_7528

酷杰大大_7528

2025-11-20

941人浏览

原创

流式传输通过分块处理避免内存溢出,适用于大文件读写、网络下载及Web服务。使用yield按块读取文件,结合requests.stream=True实现高效下载,Flask中用生成器响应文件请求,临时处理推荐tempfile安全操作,核心是保持边读边处理,合理设置缓冲区大小以平衡性能与资源消耗。

python 文件流式传输的实现技巧

在处理大文件或网络传输时,流式传输能有效降低内存占用,提升程序稳定性。Python 提供了多种方式实现文件的流式读取和写入,关键在于避免一次性加载整个文件到内存中。

使用分块读取处理大文件

对大文件进行流式读取时,推荐按固定大小的块逐步读取,这样可以控制内存使用量。

示例如下:

def read_file_in_chunks(file_path, chunk_size=8192):
    with open(file_path, 'rb') as f:
        while True:
            chunk = f.read(chunk_size)
            if not chunk:
                break
            yield chunk

这个函数每次返回一个数据块,适合用于上传、哈希计算或转发场景。chunk_size 通常设为 4KB 到 64KB 之间,根据实际 I/O 性能调整。

结合 HTTP 实现文件流式下载

使用 requests 库可以从网络流式下载大文件,避免内存溢出。

操作方法:

import requests
<p>def download_file_stream(url, save_path):
with requests.get(url, stream=True) as r:
r.raise_for_status()
with open(save_path, 'wb') as f:
for chunk in r.iter_content(chunk_size=8192):
f.write(chunk)</p>

设置 stream=True 后,响应内容不会立即下载,而是通过 iter_content 按需获取数据块,适合处理视频、镜像等大文件下载。

服务端实现文件流式响应(Flask 示例)

在 Web 服务中,可以通过生成器将本地文件分块返回给客户端,减少内存压力。

Upstream Recon
Upstream Recon

在与开源项目(如提交PR、Issue或评论)互动前,先对其进行调研。适用于:提交Issue、提交PR或发表评论之前。

下载
from flask import Flask, Response
import os
<p>app = Flask(<strong>name</strong>)</p><p>def generate_file(filename):
with open(filename, 'rb') as f:
while True:
chunk = f.read(8192)
if not chunk:
break
yield chunk</p><p>@app.route('/download')
def download():
file_path = 'large_file.zip'
return Response(
generate_file(file_path),
mimetype='application/octet-stream',
headers={'Content-Disposition': 'attachment; filename=large_file.zip'}
)</p>

Response 接收生成器后会逐步发送数据,适用于提供文件下载接口。

使用 tempfile 进行安全的中间流处理

若需对流数据做临时处理(如解压、转码),建议使用 tempfile 避免手动管理路径和权限问题。

示例:

import tempfile
import shutil
<p>def process_upload_stream(stream):
with tempfile.NamedTemporaryFile(delete=False) as tmpfile:
shutil.copyfileobj(stream, tmpfile, length=64*1024)
temp_path = tmpfile.name</p><pre class="brush:python;toolbar:false;"># 后续处理 temp_path 中的文件
return temp_path

copyfileobj 支持任意类文件对象之间的高效复制,length 参数控制内部缓冲区大小。

基本上就这些。关键是保持“边读边处理”的思路,避免 load all into memory 的模式。合理设置缓冲区大小,兼顾性能与资源消耗。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

python stream

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
flask框架如何搭建
flask框架如何搭建

搭建步骤:1、安装Python和Pip;2、创建虚拟环境;3、安装Flask;4、创建Flask应用;5、运行应用;6、访问应用。想了解更多flask框架的相关内容,可以阅读本专题下面的文章。

2024.06.27

4415

8

Python Flask框架
Python Flask框架

本专题专注于 Python 轻量级 Web 框架 Flask 的学习与实战,内容涵盖路由与视图、模板渲染、表单处理、数据库集成、用户认证以及RESTful API 开发。通过博客系统、任务管理工具与微服务接口等项目实战,帮助学员掌握 Flask 在快速构建小型到中型 Web 应用中的核心技能。

2025.08.25

6864

10

Python Flask Web框架与API开发
Python Flask Web框架与API开发

本专题系统介绍 Python Flask Web框架的基础与进阶应用,包括Flask路由、请求与响应、模板渲染、表单处理、安全性加固、数据库集成(SQLAlchemy)、以及使用Flask构建 RESTful API 服务。通过多个实战项目,帮助学习者掌握使用 Flask 开发高效、可扩展的 Web 应用与 API。

2025.12.15

336

16

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

2023.10.19

3248

3

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

2025.10.17

5509

12

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2025.12.29

3909

9

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

2026.01.19

506

15

length函数用法
length函数用法

length函数用于返回指定字符串的字符数或字节数。可以用于计算字符串的长度,以便在查询和处理字符串数据时进行操作和判断。 需要注意的是length函数计算的是字符串的字符数,而不是字节数。对于多字节字符集,一个字符可能由多个字节组成。因此,length函数在计算字符串长度时会将多字节字符作为一个字符来计算。更多关于length函数的用法,大家可以阅读本专题下面的文章。

2023.09.19

2007

6

http500解决方法
http500解决方法

http500解决方法有检查服务器日志、检查代码错误、检查服务器配置、检查文件和目录权限、检查资源不足、更新软件版本、重启服务器或寻求专业帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.11.09

4103

4

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程