在 fastapi 0.163 中,可以通过自定义依赖项配合信号量(semaphore)或异步队列来实现并发限制。具体做法是创建一个全局的信号量实例,并在依赖函数中使用 `async with` 语句获取锁,从而控制同时进入处理逻辑的任务数量。这样做可以防止后端服务被突发流量压垮,确保系统稳定性。

如何定义并注册并发限制依赖
要限制并发数,核心在于使用 `asyncio.Semaphore`。你需要在全局作用域初始化一个信号量,然后在依赖函数中将其作为参数注入。当请求到达时,依赖函数会尝试获取信号量,如果当前活跃请求数未达到上限,则允许继续执行;否则,请求将被挂起等待。这种机制天然支持异步环境,不会阻塞事件循环。

import asyncio
from fastapi import FastAPI, Depends, HTTPException
app = FastAPI()
# 设置最大并发数为 5
semaphore = asyncio.Semaphore(5)
async def limit_concurrency():
# 尝试获取信号量,如果超过5个并发请求,这里会等待
await semaphore.acquire()
try:
yield
finally:
# 无论成功还是异常,释放信号量
semaphore.release()
@app.get("/data")
async def get_data(_: None = Depends(limit_concurrency)):
return {"status": "ok", "message": "Processing within concurrency limit"}
运行上述代码后,访问 `/data` 端点。如果同时发起的请求少于或等于 5 个,它们将立即返回结果。如果第 6 个请求到来,它将等待前几个请求完成并释放信号量后才能继续处理。这验证了依赖项确实起到了限流作用。
如何处理并发超限时的错误响应
默认的 Semaphore 行为是让请求排队等待,但在某些场景下,开发者可能希望直接拒绝超出限制的请求。可以通过检查信号量的剩余值或在获取失败时抛出异常来实现。更常见的做法是结合超时机制,或者在获取信号量之前先判断当前状态。不过,最稳健的方式通常是让请求等待,但为了演示如何主动干预,我们可以修改依赖逻辑,使其在无法立即获取资源时返回 429 Too Many Requests。

import asyncio
from fastapi import FastAPI, Depends, HTTPException
app = FastAPI()
max_concurrency = 2
semaphore = asyncio.Semaphore(max_concurrency)
async def strict_limit_concurrency():
# 尝试非阻塞获取,如果失败则立即抛出异常
if not semaphore.locked() and semaphore._value <p>使用这段代码,当并发请求超过设定的阈值时,额外的请求会立即收到 429 状态码,而不是无限期等待。通过测试可以发现,前两个请求正常处理,第三个请求瞬间报错。这展示了如何通过调整依赖逻辑来改变并发限制的行为模式,从“排队”变为“拒绝”。</p><h2>基于程序中某个输入、条件或结果的具体问题</h2><p>在上述代码中,我们使用了 `asyncio.Semaphore` 来控制并发。一个具体的问题是:如果在依赖函数内部发生了未捕获的异常,信号量是否会被正确释放?答案是肯定的,只要我们将释放逻辑放在 `finally` 块中。在我们的示例中,`try...finally` 结构确保了即使业务逻辑抛出异常,`semaphore.release()` 也会被调用,从而避免信号量泄漏导致后续所有请求永久挂起。这是实现可靠并发限制的关键细节。</p>
大量免费API接口:立即使用
涵盖生活服务API、金融科技API、企业工商API、等相关的API接口服务。免费API接口可安全、合规地连接上下游,为数据API应用能力赋能!











