Jev模型专为Kimi Agent毫秒级决策设计,需满足JSON Schema输入与低延迟响应解析前提,通过YAML定义评估模板、注入工具元数据、调用Jev服务实现结构化概率输出。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

你需要让Kimi Agent在执行前自动判断该调用哪些工具、是否需要人工介入、任务严重等级如何——而不是每次等它跑完再看结果。Jev模型专为这种毫秒级决策设计,不生成废话,只输出结构化概率分布。
确认Jev与Kimi Agent的兼容前提
确保你当前部署的Kimi Agent运行时支持JSON Schema输入与二进制/低延迟HTTP响应解析。Jev不接受自然语言prompt,只认三类固定字段:【state】(当前系统状态快照)、【questions】(预定义选择题列表)、【options】(每道题的候选答案数组)。
若你的Agent框架仍依赖LLM-style text-in/text-out接口,必须先在中间层插入适配器模块,否则Jev返回的70ms概率向量会被直接丢弃。
构建Jev可识别的任务评估Schema
方法一:用YAML定义轻量级评估模板
在agent/config/task_eval/下新建severity_routing.yaml,写入: task_type: ["data_extraction", "code_generation", "api_call", "file_upload"] urgency_level: [0, 1, 2, 3] # 0=后台异步,3=立即中断当前流程 requires_human_review: [true, false]
这一步不能省——Jev不理解“高危操作”这类模糊词,只认你明确定义的枚举值。
对接Kimi Agent的工具选择链
第一步:在Kimi Agent的tool_registry中为每个工具添加Jev-compatible metadata
例如curl_tool.py需补充:
jev_tags: ["network", "external_api", "idempotent_false"] jev_risk_score: 0.82
第二步:将工具元数据批量注入Jev的state字段,格式为JSON array
第三步:在Agent调度入口处插入Jev调用逻辑 → 接收返回的{tool_selection: [0.91, 0.03, 0.06], requires_review: 0.94} → 按阈值截断
注意:Jev输出的是概率分布,不是布尔开关。若tool_selection中最高分低于0.85,强制触发fallback路径——这能避免因工具描述歧义导致的误选。
部署Jev服务并验证首条决策流
① 从TypeSafe官方GitHub拉取jev-v1.2-docker镜像,启动时指定--port 8081 --model jev-oltp-small
② 向http://localhost:8081/evaluate POST以下payload:
{"state": {"active_tools": ["curl_tool", "pdf_parser", "sql_executor"], "user_role": "admin", "latency_ms": 42}, "questions": ["select_tool", "require_review"], "options": [["curl_tool","pdf_parser","sql_executor"], [true,false]]}
③ 检查响应头Content-Type是否为application/json;若返回text/html,说明Nginx反代未配置binary_pass
④ 成功响应示例:{"select_tool": [0.12, 0.76, 0.12], "require_review": [0.08, 0.92]}
这一步必须看到真实响应才继续——Jev不提供健康检查端点,/health是404。











