Mengapa Permohonan FastAPI Saya Memproses Permintaan Serentak Secara Berurutan Daripada Selari?

FastAPI Melaksanakan Panggilan API dalam Serial Daripada Fesyen Selari

Pernyataan Masalah:

Walaupun FastAPI menyediakan keupayaan selari, API panggilan yang dibuat serentak melalui berbilang tab penyemak imbas diproses secara berurutan daripada selari. Tingkah laku ini berlaku apabila titik akhir ditakrifkan dengan def dan bukannya async def.

Analisis dan Penyelesaian:

FastAPI menggunakan threadpool luaran untuk mengendalikan titik akhir yang ditakrifkan dengan def. Apabila titik akhir sedemikian menerima permintaan, FastAPI menjalankannya dalam urutan berasingan daripada kumpulan benang. Walau bagaimanapun, hanya satu permintaan boleh diproses pada satu-satu masa, menghasilkan pemprosesan permintaan berurutan dan bukannya keselarian sebenar.

Sebaliknya, titik akhir yang ditakrifkan dengan async def dilaksanakan terus dalam gelung peristiwa utama, membenarkan pemprosesan permintaan selari benar . Ini kerana menunggu panggilan dalam titik akhir async def menghasilkan tugas lain dalam gelung acara sementara menunggu operasi tak segerak.

Untuk menyelesaikan isu, pastikan titik akhir yang tidak memerlukan penyekatan operasi terikat I/O ditakrifkan dengan async def untuk memanfaatkan keupayaan selari FastAPI. Berikut ialah contoh titik akhir yang boleh dilaksanakan secara selari:

@app.get("/ping")
async def ping(request: Request):
    print("Hello")
    await asyncio.sleep(5)
    print("bye")
    return {"ping": "pong!"}

Cerapan Tambahan:

• Operasi menyekat, seperti time.sleep(), dalam titik akhir async def akan menyekat keseluruhan pelayan, memberikan faedah pemprosesan selari tidak berkesan.
• Tugas terikat CPU atau operasi menyekat I/O boleh dilaksanakan dalam urutan atau proses berasingan menggunakan teknik seperti run_in_threadpool(), loop.run_in_executor(), ThreadPoolExecutor atau ProcessPoolExecutor.
• Meningkatkan bilangan pekerja (proses) boleh meningkatkan keselarasan dan melayani lebih banyak permintaan serentak.
• Untuk pengiraan latar belakang yang berat, pertimbangkan untuk menggunakan alatan seperti Celery atau AsyncIOScheduler daripada apscheduler.

Atas ialah kandungan terperinci Mengapa Permohonan FastAPI Saya Memproses Permintaan Serentak Secara Berurutan Daripada Selari?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!