FastAPI 如何处理并行执行并避免阻塞操作？

FastAPI 和并行执行

FastAPI 中的异步编程

默认情况下，FastAPI 采用异步编程模式，允许它同时处理多个请求。具体来说，它使用协程和事件循环以有效的方式执行请求。

Def 与异步 Def 函数

处理定义为 def（同步）的函数在外部线程池内的单独线程中。定义为 async def（异步）的函数直接在事件循环中执行。

运行阻塞代码

问题：当阻塞操作被执行时在异步定义端点内运行，它可以阻止事件循环并序列化请求

解决方案：

1. 使用 def 定义端点： 如果端点不需要异步操作，则使用普通的声明def 以避免阻塞。
2. 使用run_in_threadpool(): 对于异步定义端点内的阻塞操作，FastAPI run_in_threadpool() 函数允许您在线程池内的单独线程中运行任务，以防止事件循环阻塞。
3. 使用asyncio.loop.run_in_executor(): 该函数提供了 run_in_threadpool() 的替代方法来执行阻塞任务异步。
4. 使用单独的进程（ProcessPoolExecutor）：对于 CPU 密集型计算，建议在单独的进程中运行任务以最大化并行化。

避免线程池耗尽

• 使用 httpx 库和 asyncio.gather() 并行执行多个异步 HTTP 请求。
• 使用多个 FastAPI 工作线程 (uvicorn --workers) 来并行执行多个异步 HTTP 请求。跨多个进程分发请求，每个进程都有自己的线程池。
• 考虑使用外部作业排队系统，例如Celery 用于繁重的后台计算。

附加说明：

• 浏览器缓存：打开隐身标签页或使用其他浏览器session 以避免浏览器缓存对 API 的影响
• 异步 I/O： 异步 HTTP 客户端（如 httpx 和 aiohttp）比同步客户端（如请求）提供更好的性能。

以上是FastAPI 如何处理并行执行并避免阻塞操作？的详细内容。更多信息请关注PHP中文网其他相关文章！