需通过可控并发场景模拟真实负载来验证自定义模型在WorkBuddy中的响应稳定性与吞吐能力，具体路径包括：一、配置本地HTTP服务接口；二、用k6实施轻量级压测；三、用Locust构建分布式压测集群；四、捕获WorkBuddy侧模型调用延迟日志；五、结合Prometheus+Grafana实现长期性能监控。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您需要验证自定义模型在WorkBuddy中面对多用户请求时的响应稳定性与吞吐能力，则需通过可控并发场景模拟真实负载。以下是使用压力测试工具对WorkBuddy接入的自定义模型进行响应性能测试的具体操作路径：
一、配置自定义模型的本地HTTP服务接口
WorkBuddy调用自定义模型前，需确保该模型已封装为标准HTTP API服务，并监听指定端口。此步骤为后续压测提供可访问的目标地址，避免因服务不可达导致测试数据失真。
1、确认模型已部署为Flask/FastAPI服务，且启动时绑定host为0.0.0.0、端口为8000（或其他非特权端口）。
2、在服务代码中添加基础健康检查路由，例如GET /health，返回{"status": "ok"}，用于压测前连通性校验。
3、运行服务命令示例：uvicorn model_api:app --host 0.0.0.0 --port 8000 --workers 4。
4、在浏览器或curl中访问http://localhost:8000/health，确认返回200状态码及预期JSON内容。
二、使用k6实施轻量级并发请求压测
k6是一款开源、脚本驱动的压力测试工具，支持JavaScript编写测试逻辑，可精准控制RPS、VU数量与持续时间，适用于WorkBuddy对接模型的接口级性能验证。
1、下载并安装k6，执行k6 version确认CLI可用。
2、创建测试脚本model_stress_test.js，内容包含：定义目标URL为http://localhost:8000/predict；设置50个虚拟用户（VUs）；每秒发起30个请求（RPS）；持续运行120秒。
3、在脚本中注入典型请求体，如{"input": "测试文本", "max_tokens": 128}，并添加check(response, { 'status is 200': (r) => r.status === 200 })断言。
4、执行命令：k6 run -u 50 -i 3600 model_stress_test.js，观察实时输出中的http_req_failed、http_req_duration p95值及vus_active曲线。
三、利用Locust构建可扩展的分布式压测集群
当单机k6无法模拟千级并发或需跨节点复现生产环境流量分布时，Locust支持主从架构部署，允许将WorkBuddy模型服务作为唯一目标进行长时间高负载扰动测试。
1、安装Locust：pip install locust。
2、编写locustfile.py，继承HttpUser类，在task装饰方法中调用self.client.post("/predict", json=...)。
启用该技能，可以在WorkBuddy对话页的右边栏添加一个日历，提供月历视图、日程增删改查、分类标签（开庭/会议/截止日期/个人/研究/其他），支持从对话中提取事件并自动同步到日历。当用户提到"日历""日程""打开日历""添加日程""我的日程""calendar""安排"或询问已记录的日程信息时使用。
3、启动主节点：locust -f locustfile.py --master --master-bind-host=0.0.0.0 --master-bind-port=5557。
4、在其他机器上启动从节点，指向主节点IP和端口，例如：locust -f locustfile.py --worker --master-host=192.168.1.100 --master-port=5557。
5、访问http://localhost:8089，设置Users为1000、Spawn rate为50/second，启动测试并监控平均响应时间、失败率与每秒请求数。
四、捕获WorkBuddy侧模型调用延迟日志
WorkBuddy自身记录了Skills调用链路中各环节耗时，启用详细日志模式后可定位模型推理阶段是否成为瓶颈，无需依赖外部工具即可完成初步归因分析。
1、进入WorkBuddy设置页，点击「高级选项」→「调试模式」，勾选启用全链路耗时日志。
2、重启WorkBuddy，执行一次含自定义模型调用的Skill任务（如“文档摘要生成”）。
3、打开日志目录：%APPDATA%\WorkBuddy\logs\（Windows）或~/Library/Application Support/WorkBuddy/logs/（macOS），查找最新trace_*.log文件。
4、搜索关键词model_invoke，提取字段duration_ms，筛选出超过2000ms的异常调用记录，比对对应输入长度与系统资源占用情况。
五、结合Prometheus+Grafana实现长期性能趋势监控
对于需持续跟踪模型服务稳定性的场景，可在模型服务端嵌入Prometheus客户端，暴露指标端点，并由WorkBuddy所在主机上的Prometheus定期抓取，最终在Grafana中构建响应延迟、错误率、QPS三维看板。
1、在模型API服务中集成prometheus-client库，注册Histogram类型指标model_response_time_seconds。
2、于FastAPI中添加中间件，在每次请求结束时调用model_response_time_seconds.observe(duration)。
3、配置Prometheus scrape_configs，添加job_name为workbuddy-model，target为localhost:8000/metrics。
4、启动Prometheus与Grafana，导入预置Dashboard ID 12345（WorkBuddy Model Performance Template），查看过去24小时P99延迟热力图与错误计数折线。
