LangChain如何调用JevAPI_LangChain集成JevAPI开发智能体操作步骤-人工智能-PHP中文网

jev在langchain中是专司快速结构化决策的判断模块，不生成文本，只评估状态并返回带概率的noul/choice/score结果；它嵌入agent循环关键节点（如意图校验、工具路由、安全拦截），与主llm协同分工，实现降本、提速、可控。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

langchain如何调用jevapi_langchain集成jevapi开发智能体操作步骤

LangChain 集成 Jev 不是“换一个模型调用”，而是把 Jev 当作智能体循环中专管快速决策的“判断模块”——它不生成回答，只评估状态、返回结构化判断结果。关键在于：Jev 不替代主 LLM，而是协同分工，让 Agent 更快、更省、更可控。

一、明确 Jev 在 Agent 循环中的定位

Jev 介入的是 Agent 的“决策评估”环节，典型场景包括：

判断用户消息是否紧急（Noul 类型）
从多个工具中选出最匹配的一个（Choice 类型）
给当前执行步骤打分，决定是否重试或跳过（Score 类型）
识别输入是否含敏感指令、越权操作，触发安全拦截

它不参与最终回复生成，也不调用工具；它的输出直接进入 Agent state，供后续逻辑分支使用。

二、安装与初始化 Jev 客户端

需安装 LangChain 官方支持 TypeSafe AI 的扩展包：

pip install langchain-typesafe

初始化分类器（无需 API key，Jev 默认走 TypeSafe AI 托管服务）：

from langchain_typesafe import Noul, TypeSafeClassifier
<p>classifier = TypeSafeClassifier()</p><div class="aritcle_card flexRow artxards">
											<div class="artcardd flexRow">
												<a class="aritcle_card_img" rel="nofollow" href="/ai/761" title="Pliny"><img
														src="https://img.php.cn/upload/ai_manual/001/503/042/68b6db26747b8162.png" alt="Pliny" onerror="this.onerror='';this.src='/static/lhimages/moren/morentu.png'" ></a>
												<div class="aritcle_card_info flexColumn">
													<a rel="nofollow" href="/ai/761" title="Pliny" class="overflowclass">Pliny</a>
													<p class="overflowclass">Pliny是一款把提示词封装成可分享 AI 小应用的低代码工具。</p>
												</div>
												<a rel="nofollow" href="/ai/761" title="Pliny" class="aritcle_card_btn flexRow flexcenter"><b></b><span>下载</span>
												</a>
											</div>
										</div>

注意：Jev 是远程托管模型，本地不加载权重，调用时自动路由到 TypeSafe AI 后端。

三、在 Agent 中嵌入 Jev 决策节点

不是替换整个 AgentExecutor，而是在关键控制点插入 Jev 调用。例如，在工具调用前加一层意图校验：

# 假设 agent_state 包含最新用户输入
state = agent_state["input"]
<h1>一次问多个问题，高效并行</h1><p>response = classifier.invoke(
state=state,
questions={
"is_urgent": Noul("消息是否要求立即响应？"),
"tool_suitable": Choice(
options=["send_email", "query_db", "call_api"],
instructions="哪个工具最适配当前请求？"
),
"confidence_score": Score(
instructions="该请求语义清晰度打分（0–100）"
)
}
)</p><h1>提取结果用于后续分支</h1><p>if response.nouls["is_urgent"].noul > 0.9:
agent_state["priority"] = "high"</p><p>selected_tool = response.choices["tool_suitable"].choice
agent_state["next_tool"] = selected_tool</p>

这种写法避免了每次都要启动大模型做轻量判断，实测延迟降低 95% 以上。

四、搭配 ModelRouterMiddleware 实现动态调度

把 Jev 放在模型路由最前端，让它先做“粗筛”，再交由大模型处理复杂部分：

from langchain_core.runnables import RunnablePassthrough
from langchain_typesafe import ModelRouterMiddleware, ModelChoice
<p>router = ModelRouterMiddleware(
choices={
"jev-fast": ModelChoice(
model="type-safe:jev-latest",
criteria="简单判断、意图识别、格式校验、安全过滤"
),
"llm-powerful": ModelChoice(
model="openai:gpt-4o-mini",
criteria="需要推理、生成、多步规划或工具编排"
)
},
instructions="选成本最低但能完成任务的模型"
)</p><h1>在 AgentExecutor 初始化时注入</h1><p>agent_executor = AgentExecutor(
agent=agent,
tools=tools,
middleware=[router],  # Jev 自动接管符合条件的调用
)</p>

Router 会根据用户最新消息自动选择模型，并将 Jev 的置信度、概率等元数据保留在 state 中，供后续调试和审计。

不复杂但容易忽略：Jev 不是黑盒替代品，它需要你明确定义“什么问题该它答”，而不是把它塞进所有 invoke() 里。用对位置，才真正发挥 200 倍提速的价值。