Python中FastAPI如何安全上传超大文件?

千芳同学_4281

千芳同学_4281

2026-11-14

254人浏览

原创

UploadFile处理超大文件不可靠,因其依赖form解析会缓存全量请求体至内存或磁盘;应改用Request.stream()流式读取原始body,配合分块上传与校验实现GB级健壮传输。

python中fastapi如何安全上传超大文件?

直接用 UploadFile 接收超大文件(比如 >500MB)是危险的——它默认走 form 解析,会把整个请求体缓存到内存或临时磁盘,极易触发 RequestEntityTooLarge 或耗尽服务器资源。真正在生产中扛住 GB 级上传,必须绕过 form 解析,自己流式读取原始 body。

为什么 UploadFile 在超大文件场景下不可靠

UploadFile 本质是 Starlette 的封装,底层依赖 python-multipart 解析 multipart boundary。这个过程:

  • 必须完整接收并解析整个 HTTP body 才能提取文件字段,无法“边收边处理”
  • 小文件走内存缓冲(SpooledTemporaryFile),但一旦超过 max_memory(默认 10MB),就写入磁盘临时文件——而这个临时路径、清理逻辑、磁盘空间监控全由 Starlette 控制,你无法干预
  • 如果客户端上传中断,Starlette 不会自动清理已写入的临时碎片,可能堆积大量孤儿文件

正确做法:用 Request.stream() 手动流式读取

去掉所有 UploadFile 参数,改用 Request 对象直接消费原始字节流:

关键点:

  • 用 request.stream()(Starlette 原生方法,不是 FastAPI 封装的)获取异步迭代器,每次 yield 一个 chunk
  • 绝对不要用 await request.body(),它会强制加载全部内容到内存
  • 写入目标文件时,用 asyncio.to_thread(open(...).write) 避免阻塞事件循环
  • 自己控制分块大小(如 8MB)、校验(如每块算 CRC)、超时和中断恢复逻辑

示例片段:

fastapi-pro
fastapi-pro

使用 FastAPI、SQLAlchemy 2.0 和 Pydantic V2 构建高性能异步 API。精通微服务、WebSocket 和现代 Python 异

下载
from fastapi import Request, Response
import asyncio
<p>@app.post("/upload/raw")
async def raw_upload(request: Request):
file_id = request.headers.get("X-File-ID")
if not file_id:
return Response("Missing X-File-ID", status_code=400)</p><pre class="brush:php;toolbar:false;">chunk_size = 8 * 1024 * 1024
target_path = f"/data/uploads/{file_id}.part"

async def stream_to_file():
    async for chunk in request.stream():
        # 每次 chunk 是 bytes,大小不固定(取决于网络包)
        # 这里可加校验、限速、日志等
        await asyncio.to_thread(write_chunk, target_path, chunk)

await stream_to_file()
return {"status": "received"}

部署层必须同步调大限制,否则请求根本到不了 FastAPI

很多人在 FastAPI() 初始化里找上传大小配置,找不到是对的——FastAPI 本身不设这个。真正生效的限制在部署组件:

  • Uvicorn:启动时加 --limit-concurrency 100 --limit-max-requests 0 不够,要配 --http-timeout 3600 和 --backlog 2048;更关键的是 --limit-request-line 8190 --limit-request-fields 100(影响 header 解析)
  • Nginx:必须设 client_max_body_size 4G; 和 client_body_timeout 3600s;,否则 413 错误在 Nginx 就拦截了
  • Cloudflare:免费版默认限制 100MB,需升级或绕过(如用 Workers 中转)

分块上传不是“可选优化”,而是超大文件的唯一可行路径

即使你用 Request.stream() 流式读取,单次 HTTP 请求仍面临现实约束:TCP 超时、代理重置、客户端断连。真正的健壮方案必须分块:

  • 前端按固定大小(如 5MB)切片,每块带 X-File-ID、X-Chunk-Index、X-Total-Chunks 头
  • 后端每个块单独接收、落盘、记录状态(推荐用 Redis 存 {file_id}:status 和 {file_id}:chunks Set)
  • 合并操作必须原子化:先写临时合并文件,再 os.replace() 替换最终文件,避免中间态被读取
  • 断点续传靠查询 Redis 中已上传的 chunk index 列表,前端跳过即可

最易被忽略的一点:分块上传的“完成”判定不能只看 chunk 数量是否达标——要逐个验证每个块的 SHA256,否则网络损坏的数据会被静默拼接进去。

大量免费API接口:立即使用
涵盖生活服务API、金融科技API、企业工商API、等相关的API接口服务。免费API接口可安全、合规地连接上下游,为数据API应用能力赋能!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

python fastapi

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1911

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

5404

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1869

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

32797

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3867

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3867

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1263

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

616

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

3003

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程