jev模型如何结合LangChain进行本地开发_LangChain接入jev模型完整实例

夜枫酱_1572

夜枫酱_1572

2026-09-24

174人浏览

原创

必须对接typesafe ai云端api,通过环境变量注入jev_api_key和jev_base_url,用runnablelambda封装jev结构化调用,避免硬编码密钥或套用basellm。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

jev模型如何结合langchain进行本地开发_langchain接入jev模型完整实例

要在本地开发环境中让LangChain调用Jev模型完成结构化决策,必须绕过官方未开放的本地权重限制,直接对接TypeSafe AI提供的云端API服务,同时避免在代码中硬编码密钥或暴露敏感凭证。

准备Jev API访问权限

前往 https://typesafe.ai/console 注册账号并创建新项目,获取 【API Key】 和默认 【Base URL】(形如 https://api.typesafe.ai/v1)。该Key具有读写权限,不可泄露,后续将通过环境变量注入。

在项目根目录下新建 .env 文件,写入:

JEV_API_KEY=sk_abc123...
JEV_BASE_URL=https://api.typesafe.ai/v1

安装依赖与初始化环境

执行命令安装LangChain最新版及配套工具:

pip install langchain-core langchain-community python-dotenv httpx

注意:LangChain 0.3.x 起已移除对 langchain 单体包的依赖,必须使用 langchain-core + langchain-community 组合。若仍装旧版会报 AttributeError: module 'langchain' has no attribute 'llms'。

定义Jev结构化问题集

创建 jev_schema.py,用Python字典描述你要判断的问题。例如客服工单路由场景:

QUESTIONS = {
  "route_to": {
    "type": "enum",
    "options": ["billing", "shipping", "returns", "technical"],
    "instructions": "Select the most appropriate department based on user message content"
  }
}

这里 "enum" 类型强制返回预设选项之一,杜绝LLM自由发挥导致的格式错乱——这是Jev区别于传统LLM的关键约束力。

封装Jev调用为LangChain兼容组件

方法一:使用 RunnableLambda 快速桥接

LogoAi
LogoAi

LogoAI是一款用于生成 Logo、品牌视觉和营销素材的 AI 品牌设计平台。

下载

在 jev_runner.py 中写:

from langchain_core.runnables import RunnableLambda
import httpx
import os
from dotenv import load_dotenv
load_dotenv()

def jev_invoke(state: str) -> dict:
  response = httpx.post(
    f"{os.getenv('JEV_BASE_URL')}/models/jev-latest/invoke",
    headers={"Authorization": f"Bearer {os.getenv('JEV_API_KEY')}"},
    json={"state": state, "questions": QUESTIONS}
  )
  return response.json()["answers"]

jev_router = RunnableLambda(jev_invoke)

方法二:继承 BaseLLM 实现完整LangChain接口(仅当需接入AgentRouter等高级组件时才需要)

这一步不推荐新手尝试——Jev本质不是LLM,强行套用BaseLLM会导致token计数、streaming等逻辑失效,LangChain官方文档也明确建议优先使用RunnableLambda模式。

在LangChain链中调用Jev做路由决策

第一步:定义原始输入

user_input = "我的订单显示已发货,但物流信息3天没更新,我要投诉!"

第二步:构建链式调用

from langchain_core.output_parsers import JsonOutputParser
from langchain_core.prompts import PromptTemplate

# Jev输出已是JSON,无需额外解析器,直接取值
route_result = jev_router.invoke(user_input)
target_department = route_result["route_to"]["enum"]

第三步:根据Jev结果分发到对应处理模块

if target_department == "shipping":
  print("→ 转交物流组:触发实时物流查询工具")
elif target_department == "returns":
  print("→ 转交售后组:生成退货预授权码")

这一步不能用 LLMChain 包裹——Jev返回的是纯结构化字典,不是字符串,传给LLMChain会触发类型错误。

相关专题

更多
Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

2026.09.23

60

15

Buffalo框架路由与请求处理实操指南
Buffalo框架路由与请求处理实操指南

本专题讲解Buffalo框架路由与请求处理机制,涵盖路由注册与分组、资源路由、Handler编写规范、Context上下文方法、参数绑定、中间件编写挂载、Session与Cookie读写、Flash消息及错误页面定制方法。

2026.09.23

20

15

Buffalo框架零基础入门教程
Buffalo框架零基础入门教程

本专题整理Buffalo框架入门内容,涵盖Go环境准备、buffalo CLI安装、新项目生成、目录结构说明、dev热加载启动、数据库连接配置与常见报错排查,帮助新手按约定优于配置的思路跑通第一个Buffalo框架应用。

2026.09.23

20

15

Conan创建软件包配方指南
Conan创建软件包配方指南

本专题介绍通过conanfile.py创建软件包的方法,讲解包名、版本、依赖和构建设置等基础信息,以及source、build、package、package_info等常用方法的作用及编写思路。

2026.09.22

20

12

Conan二进制包配置指南
Conan二进制包配置指南

本专题介绍Conan根据操作系统、编译器、架构和构建类型生成二进制包的方法,讲解Profile、Settings、Options及Package ID的作用,帮助管理不同平台和编译环境下的包版本。

2026.09.22

20

13

Conan私有仓库搭建教程
Conan私有仓库搭建教程

本专题系统的讲解Conan私有仓库的搭建流程,涵盖仓库服务部署、存储目录配置、用户认证、权限划分和远程地址添加,并介绍内部C++依赖包的上传、下载及版本维护方法。

2026.09.22

20

19

loomy官网入口地址合集
loomy官网入口地址合集

本专题汇总了 Loomy 桌面 AI 助理的官方入口地址合集及使用指南。提供 macOS 与 Windows 客户端下载 。Loomy 是讯飞推出的桌面级 AI 工作搭子,支持文件整理、数据分析、网页操作及通过飞书/钉钉远程操控电脑,助你高效完成本地办公任务 。

2026.09.22

20

19

NumPy常见函数使用方法
NumPy常见函数使用方法

本专题整理 NumPy 常见函数使用方法相关教程,覆盖函数大全、参数用法、数组运算、统计聚合、排序处理、where 条件筛选、linspace 创建数列等常用场景,帮助读者快速掌握 NumPy 函数调用思路和实际数据处理技巧。

2026.09.22

40

21

NumPy性能优化版本更新与常见报错排查
NumPy性能优化版本更新与常见报错排查

本专题整理 NumPy 性能优化、版本更新与常见报错排查相关教程,覆盖向量化计算、广播性能、内存布局、NumPy 2.0 升级、版本兼容冲突、安装导入报错、dtype 溢出、矩阵运算异常和 broadcasting 报错修复,帮助读者系统掌握 NumPy 性能调优与问题定位方法。

2026.09.22

60

25

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.2万人学习