Atoms多模型同时调用业务场景落地完整代码

小婷小哥_4311

小婷小哥_4311

2026-08-19

856人浏览

原创

需并行调用qwen、glm、claude三模型处理合同文本:qwen做条款摘要、glm识别风险点、claude提供合规建议;通过asyncio.gather并发执行,用dataclass或小写key dict统一响应,经fastapi暴露/analyze接口。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

atoms多模型同时调用业务场景落地完整代码

需要在同一个业务请求中并行调用多个大模型(如Qwen、GLM、Claude)完成不同子任务,并统一编排响应结果,比如用户提交一份合同文本,同时让Qwen做条款摘要、GLM做风险点识别、Claude做合规性建议。

准备多模型客户端与配置

安装必要依赖:pip install dashscope zhipuai anthropic python-dotenv。

在项目根目录创建 .env 文件,填入各平台 API Key:注意必须使用各自平台最新版 SDK 支持的环境变量名,旧版 key 名会导致初始化失败

DASHSCOPE_API_KEY=sk-xxx(通义千问
ZHIPUAI_API_KEY=123456(智谱GLM)
ANTHROPIC_API_KEY=sk-ant-api03-xxx(Claude)

新建 models.py,定义三个独立客户端实例,不共用 session 或超时设置——【每个模型必须使用专属 client,混用会导致 headers 冲突或鉴权失效】

编写并发调用核心函数

使用 asyncio.gather 并发触发三路请求,不采用线程池——模型 API 原生支持异步 HTTP,线程反而增加调度开销。

第一步:定义单模型推理函数 async_qwen(),输入 text,返回摘要字符串;第二步:定义 async_glm(),输入 text,返回 JSON 格式风险列表(含位置、类型、描述字段);第三步:定义 async_claude(),输入 text,返回带段落编号的合规建议 Markdown 字符串。

将三个函数传入 asyncio.gather(),等待全部完成。这一步不能用 asyncio.wait() 或 create_task 单独 await,否则失去并发性。

Atoms
Atoms

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

下载

构造统一响应结构

方法一:用 dataclass 定义 ResponseModel,包含 qwen_summary: str、glm_risks: list、claude_advice: str 三个字段。

方法二:直接用 dict 组装,键名固定为 "summary" / "risks" / "advice",便于前端消费——【键名必须全小写且无空格,否则 FastAPI 自动序列化会出错】

把 gather 返回的三元组按顺序解包,塞进 dict,最后 json.dumps() 输出。

接入 FastAPI 路由

创建 main.py,初始化 FastAPI 实例,添加 POST /analyze 后端接口。

接收 JSON body:{"contract_text": "甲方应于…"},校验字段存在且非空,长度不超过 128KB(防止 OOM)。

调用上一步封装好的并发函数,await 得到结果字典,直接 return 它——FastAPI 会自动处理 JSON 序列化和 Content-Type 头。

启动服务:uvicorn main:app --reload --host 0.0.0.0 --port 8000。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Aionclaw智能助手介绍
Aionclaw智能助手介绍

本专题汇总了AionClaw(AI龙虾助手)的功能介绍与在线使用入口。AionClaw是杭州趣猿人工智能有限公司推出的桌面级AI智能体,能直接在电脑上读写文件、运行脚本、操作浏览器,自动交付Word、PPT、Excel等成品。

2026.09.20

20

13

AionClaw AI智能体与电脑自动化任务执行功能使用教程
AionClaw AI智能体与电脑自动化任务执行功能使用教程

AionClaw专题整理AI智能体与电脑自动化相关功能使用教程,涵盖安装部署、AI任务执行、Skills技能、文件处理、浏览器控制、电脑操作、持久记忆、聊天工具连接以及办公、编程和内容创作等功能,帮助用户快速掌握AionClaw的实际使用方法。

2026.09.20

0

15

AI视频生成软件推荐
AI视频生成软件推荐

本专题汇总了当前主流的AI视频生成软件推荐与排行榜单,涵盖seko、AniShort、剧云、Lovart、LiblibAI及立刻mv等热门工具。同时整理了各软件在文生视频、图生视频、时长限制、画质表现及免费额度等方面的差异对比,助您快速选对适合创作需求的AI视频生成工具。

2026.09.16

180

9

ai生成视频的工具免费版合集
ai生成视频的工具免费版合集

本专题汇总了当前免费AI生成视频工具的排行榜与推荐清单,涵盖seko、讯飞智作、AniShort及剧云、Lovart等多模型集成平台。同时整理了各工具的免费额度、输出时长、水印政策及适用场景差异,助您快速选择合适工具开启AI视频创作。

2026.09.16

100

10

Pandas时间序列分析与可视化报表
Pandas时间序列分析与可视化报表

本专题整理Pandas日期转换、时间索引、重采样、滚动窗口、时区处理、plot绘图、Styler表格样式和报表输出方法。

2026.09.16

80

23

Pandas数据筛选索引与清洗处理
Pandas数据筛选索引与清洗处理

本专题整理Pandas中的loc、iloc、条件筛选、query查询、缺失值处理、重复值删除、类型转换和字符串列清洗方法。

2026.09.16

60

25

Pandas数据读取导入与文件导出处理
Pandas数据读取导入与文件导出处理

本专题整理Pandas读取CSV、Excel、JSON、SQL、Parquet等文件的方法,以及to_csv、to_excel、to_sql和to_parquet等常用数据导出流程。

2026.09.16

40

27

GDB怎么设置断点
GDB怎么设置断点

本专题介绍GDB按照函数名、源代码行号和文件位置设置断点的方法,详细说明run、continue、next、step等命令的配合使用,帮助定位程序崩溃、逻辑异常及代码未按预期执行的问题。

2026.09.11

400

28

GDB怎么查看变量值
GDB怎么查看变量值

本专题介绍GDB调试过程中查看变量值的具体方法,涵盖局部变量、函数参数、数组、结构体和指针内容查询,同时整理变量持续显示、格式化输出及无法读取变量时的排查思路。

2026.09.11

120

22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Claude Code 快速上手核心指南
Claude Code 快速上手核心指南

共0课时 | 0人学习

Claude Code 官方文档
Claude Code 官方文档

共0课时 | 0人学习

Claude Code 官方中文文档
Claude Code 官方中文文档

共0课时 | 0人学习