fastapi 本身不处理并发,真正支撑高并发的是 asgi 服务器(如 uvicorn)及部署时的进程/线程模型;需用 gunicorn 配合 uvicorn.workers.uvicornworker,禁用 sync worker,并确保数据库使用 async driver(如 asyncpg)和 asyncengine,否则异步链路将退化为同步。

FastAPI 本身不处理并发,靠的是底层 ASGI 服务器和 worker 模式
很多人以为 FastAPI 自带高并发能力,其实它只是个异步 Web 框架,真正扛并发的是运行它的 ASGI 服务器(比如 uvicorn)以及部署时的进程/线程模型。直接用 uvicorn --workers 4 启动看似简单,但和 Gunicorn 配合时容易出问题——Gunicorn 默认是 WSGI 模式,不支持 async,硬套会报 RuntimeError: This event loop is already running。
实操建议:
- 必须用
Gunicorn的uvicorn.workers.UvicornWorkerworker 类,而不是默认的sync - 启动命令里不能同时指定
--workers和--threads,否则UvicornWorker会忽略--workers,只用单进程 + 多线程,失去异步优势 -
uvicorn单进程已能高效处理成百上千并发请求;Gunicorn的作用主要是进程管理、平滑重启、信号转发,不是“加 worker 就一定更稳”
Gunicorn + UvicornWorker 的关键配置项
配置错一个参数,就可能让异步变成同步,或触发死锁。重点盯住这三个:
-
workers:建议设为CPU 核心数 × 2,但不超过 8;超过后上下文切换开销反而上升 -
worker-class:必须是uvicorn.workers.UvicornWorker,写成uvicorn_worker或漏掉uvicorn.前缀都会失败 -
worker-connections:这个对 ASGI 无效,UvicornWorker忽略它;别被 Nginx 配置习惯带偏
典型 gunicorn.conf.py 片段:
workers = 4 worker_class = "uvicorn.workers.UvicornWorker" worker_tmp_dir = "/dev/shm" accesslog = "-" errorlog = "-" loglevel = "info" capture_output = True
为什么不能混用 sync worker 和 async endpoint
如果你不小心用了默认的 sync worker(比如忘了配 worker-class),FastAPI 的 async def 路由会被强制在主线程里同步执行,await 不生效,所有异步 I/O(如数据库查询、HTTP 调用)会阻塞整个 worker 进程。
inference.sh 的 Python SDK:运行 AI 应用、构建智能体,并集成 150 多个模型。包名:inferencesh (pip install inferencesh)。支持同步/异步……
常见错误现象:
- 并发请求响应时间随 QPS 线性增长,而不是稳定在几十毫秒
- 日志里反复出现
RuntimeWarning: coroutine 'xxx' was never awaited -
ps aux | grep gunicorn显示全是syncworker 进程,没有uvicorn字样
数据库连接池和 async driver 是异步链路的真正瓶颈
哪怕 Gunicorn+UvicornWorker 配得再准,如果数据库用的是 psycopg2(同步驱动),或者 SQLAlchemy 没配 AsyncEngine,那每个 await db.execute(...) 实际上还是在跑同步阻塞调用,异步框架只是在等 IO。
必须确认:
- PostgreSQL 用
asyncpg或psycopg(v3+ 的 async 模式),别用psycopg2 -
SQLModel或SQLAlchemy初始化时显式使用create_async_engine - 连接池大小(
pool_size)要匹配workers × worker_connections,否则会排队等待连接
比如 4 个 worker,每个最多处理 1000 并发,连接池至少设为 4000——但实际应结合 DB 承载力压测调整,盲目设大反而耗尽内存
Gunicorn 的UvicornWorker 不是万能胶,它只解决进程层调度;async 的价值从框架穿透到 DB 驱动,中间断一环,整条链路就退化成同步。很多人卡在“明明写了 async def,为啥还是慢”,问题往往不在 FastAPI,而在 requirements.txt 里那行没更新的 psycopg2==2.9.7。大量免费API接口:立即使用
涵盖生活服务API、金融科技API、企业工商API、等相关的API接口服务。免费API接口可安全、合规地连接上下游,为数据API应用能力赋能!










