Wie kann FastAPI mit paralleler Ausführung umgehen und blockierende Vorgänge vermeiden?

FastAPI und parallele Ausführung

Asynchrone Programmierung in FastAPI

Standardmäßig verwendet FastAPI asynchrone Programmiermuster, was dies ermöglicht mehrere Anfragen gleichzeitig bearbeiten. Insbesondere werden Coroutinen und die Ereignisschleife verwendet, um Anforderungen effizient auszuführen.

Def vs. Async Def-Funktionen

Als def (synchron) definierte Funktionen werden verarbeitet in einem separaten Thread innerhalb eines externen Threadpools. Als async def (asynchron) definierte Funktionen werden direkt in der Ereignisschleife ausgeführt.

Blockierungscode wird ausgeführt

Problem: Wenn ein blockierender Vorgang vorliegt Wenn es innerhalb eines asynchronen Def-Endpunkts ausgeführt wird, kann es die Ereignisschleife blockieren und die Anforderung serialisieren Verarbeitung.

Lösung:

1. Definieren Sie Endpunkte mit def: Wenn der Endpunkt keine asynchronen Vorgänge erfordert, deklarieren Sie ihn mit einem Normal auf jeden Fall ein Blockieren vermeiden.
2. Verwenden run_in_threadpool(): Zum Blockieren von Vorgängen innerhalb asynchroner Def-Endpunkte können Sie mit der FastAPI-Funktion run_in_threadpool() die Aufgabe in einem separaten Thread innerhalb des Threadpools ausführen, um eine Blockierung der Ereignisschleife zu verhindern.
3. Verwendung asyncio.loop.run_in_executor(): Diese Funktion bietet eine Alternative zu run_in_threadpool() für blockierende Aufgaben asynchron ausführen.
4. Verwenden Sie einen separaten Prozess (ProcessPoolExecutor):Für CPU-intensive Berechnungen wird empfohlen, die Aufgabe in einem separaten Prozess auszuführen, um die Parallelisierung zu maximieren.

Thread-Pool vermeiden Erschöpfung

• Verwenden Sie die httpx-Bibliothek zusammen mit asyncio.gather(), um mehrere asynchrone HTTP-Anfragen parallel auszuführen.
• Beschäftigen Sie mehrere FastAPI-Worker (uvicorn --workers) für Verteilen Sie Anfragen auf mehrere Prozesse, jeder mit seinem eigenen Threadpool.
• Erwägen Sie die Verwendung externer Auftragswarteschlangensysteme wie Celery für umfangreiche Hintergrundberechnungen.

Zusätzliche Hinweise:

• Browser-Caching: Öffnen Sie Inkognito-Tabs oder verwenden Sie eine andere Browsersitzung um Browser-Caching-Effekte auf API-Aufrufe zu vermeiden.
• Asynchron E/A: Asynchrone HTTP-Clients wie httpx und aiohttp bieten eine bessere Leistung als synchrone Clients wie Anfragen.

Das obige ist der detaillierte Inhalt vonWie kann FastAPI mit paralleler Ausführung umgehen und blockierende Vorgänge vermeiden?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!