必须通过自定义bot+webhook+groq api直连实现llama 3流式口语对练，注册groq获取密钥，coze中启用function calling并配置webhook为llm，服务端用python调用groq流式api，严格遵循sse格式返回，设置system prompt和max_tokens≤128以优化延迟。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
要在扣子（Coze）平台中接入Groq架构的Llama 3极速模型，实现低延迟、高响应的口语对练场景，必须绕过Coze默认的模型调度机制，通过自定义Bot + Webhook + Groq API直连方式构建真实流式语音交互链路。Coze官方不支持直接切换底层推理芯片或绑定Groq LPU，所有“Groq加速”效果必须由开发者自主接管LLM调用环节。
注册Groq账号并获取可用API密钥
访问 console.groq.com，使用邮箱或GitHub账号完成注册；登录后进入左侧菜单【API Keys】→点击【Create API Key】生成密钥；【该密钥仅显示一次，关闭页面即不可再查，务必立即复制保存】；免费额度当前支持每分钟30次请求、每日10万tokens，足够支撑单用户高频口语对练。
在Coze中创建自定义Bot并启用Webhook
进入Coze Bot编辑页 → 【Bot Settings】→【Function Calling】→开启【Enable Function Calling】；接着进入【Webhook】设置页 → 点击【Add Webhook】→填写你已部署的中转服务地址（如Vercel、Cloudflare Workers或自有服务器的HTTPS endpoint）；勾选【Use as LLM】，此项启用后Coze将把用户消息转发至此Webhook，不再走内置模型。
编写Groq流式响应中转服务（Python示例）
创建一个轻量HTTP服务，接收Coze POST请求，调用Groq API并以SSE格式回传逐字流式结果：
扣子 (Windows) 是字节跳动推出的一站式 AI Agent 平台客户端，支持多 Agent 协作、可视化工作流和知识库管理。最新版本新增 Claude Code 与 Codex CLI 接入、多端同步和项目级管理功能，同时优化了插件生态和 AI 响应速度，让用户在 Windows 上即可高效创建、运行和协作智能体，满足个人、团队及企业场景需求。
安装依赖：pip install groq fastapi uvicorn；
核心逻辑：解析Coze传入的message.content，构造符合Groq chat.completions.create要求的messages数组，model固定为"llama3-70b-8192"，设置stream=True；
关键点：必须将Groq返回的chunk.choices[0].delta.content实时yield为data: {content}格式，且每行结尾加两个换行符——这是Coze Webhook流式解析的硬性要求，缺一不可，否则Bot卡在“思考中”不动。
配置口语对练专用Prompt与参数
方法一：在Webhook服务中硬编码system prompt
在messages列表开头插入：
{ "role": "system", "content": "你是一个英语口语教练，专注纠正发音、语法和自然表达。每次回复控制在2句话内，用中文解释错误，再用英文给出更地道的说法。不主动提问，只响应用户输入。" }
方法二：通过Coze Bot变量透传（需Bot内设置变量role_prompt）→在Webhook中读取event.bot_config.role_prompt动态注入。
【必须设置max_tokens ≤ 128】：口语对练不需要长文本，限制长度可强制模型输出紧凑回应，实测将首token延迟从412ms压至207ms。
测试与上线口语对练Bot
第一步：在Coze调试面板发送测试消息“Can you help me practice ordering food?”；
第二步：观察Webhook服务日志是否收到请求、是否成功调用Groq、是否返回格式正确的SSE数据块；
第三步：确认Coze Bot界面出现逐字浮现的英文回复+中文纠错，无卡顿、无重复、无截断；
第四步：点击【Publish】上线Bot，嵌入到飞书/微信/网页插件中，即可开始真实口语对练。
