並發與平行：FastAPI 如何處理請求？

FastAPI 中的並發請求與平行請求

在FastAPI 中，存在一個常見的誤解，即為什麼異步定義端點並不總是是在平行線。這種行為不是由 FastAPI 的設計引起的，而是與 FastAPI 如何利用非同步程式設計有關。

使用 def 端點時，FastAPI 在單獨的執行緒中同步執行它們，從而實現並發。然而，async def 端點通常直接在事件循環中執行，從而確保程式碼與非同步 I/O 操作互動時的並發性和並行性。

FastAPI 中的同步與非同步程式碼

FastAPI 透過 async def 支援非同步程式碼，它允許使用 wait 將控制權傳遞回事件循環。此功能支援非阻塞操作，例如等待來自客戶端的資料或資料庫回應。但是，如果在 async def 端點中使用同步任務（如 time.sleep()），它會阻塞事件循環並最終阻塞伺服器，從而導致請求的順序處理。

外部執行緒池

為了確保阻塞任務不會阻礙事件循環，FastAPI 使用外部執行緒池，它在單獨的執行緒上執行用def 定義的任務並等待在恢復事件循環執行之前它們。這種方法實現了 def 端點的並發性，即使它不是真正的平行化。

最佳實踐

• 對需要等待非同步操作的端點使用 async def。
• 對不與非阻塞 I/O 互動或包含簡單的端點使用 def
• 利用 Starlette 的 run_in_threadpool() 函數在非同步定義端點的單獨執行緒中執行阻塞任務。
• 探索使用像loop.run_in_executor()這樣的asyncio方法，它提供了更大的運行靈活性非同步同步任務。
• 考慮使用外部工具，如 Celery 或用於繁重後台計算的 AsyncIOScheduler。

以上是並發與平行：FastAPI 如何處理請求？的詳細內容。更多資訊請關注PHP中文網其他相關文章！