如何在扣子中接入Groq加速模型实现毫秒级超快对话响应-人工智能-PHP中文网

必须通过自定义插件+外部api中转接入groq lpu模型，因扣子不支持直接绑定groq为内置推理后端；需配置fastapi代理服务、安全存储api密钥、启用流式响应并正确解析json返回字段。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如何在扣子中接入groq加速模型实现毫秒级超快对话响应

要在扣子（Coze）中直接调用 Groq 的 LPU 加速模型实现毫秒级响应，必须绕过扣子原生模型绑定机制，通过自定义插件+外部 API 中转方式接入——因为扣子当前不支持在“模型设置”中直接选择 Groq 作为内置推理后端。

确认 Groq 接入前提条件

访问扣子开发者后台 → 进入「Bot 设置」→ 「插件」→ 点击「创建插件」→ 选择「自定义插件」类型。

检查当前 Bot 所属工作区是否已开通「插件开发权限」：若无「插件」菜单项，需联系企业管理员在「成员与权限」中授予「插件管理」角色。

构建 Groq 代理插件（FastAPI 轻量后端）

新建一个 Python 项目目录，执行：

pip install fastapi uvicorn httpx python-dotenv

创建 main.py，写入以下最小可行后端逻辑（仅处理 chat completions 流式请求）：

```python
from fastapi import FastAPI, Request
from httpx import AsyncClient
import os
from dotenv import load_dotenv
load_dotenv()
app = FastAPI()
@app.post("/v1/chat/completions")
async def proxy_groq(request: Request):
  payload = await request.json()
  async with AsyncClient() as client:
    resp = await client.post(
      "https://api.groq.com/openai/v1/chat/completions",
      headers={"Authorization": f"Bearer {os.getenv('GROQ_API_KEY')}"},
      json=payload,
    )
  return resp.json()
```