Atoms多模型同时调用异步调用编写代码

云浩同学_5595

云浩同学_5595

2026-08-26

178人浏览

原创

使用asyncio + aiohttp可实现openai、deepseek、qwen等大模型的并发调用,避免串行等待;需用async with管理clientsession和请求连接,通过asyncio.gather并发执行各模型协程,返回有序响应列表。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

atoms多模型同时调用异步调用编写代码

你需要让多个大模型(如OpenAI、DeepSeek、Qwen)在同一时间发起请求,避免串行等待导致总耗时翻倍,直接用Python asyncio + aiohttp实现并发调用。

准备环境与依赖

确保已安装 Python 3.8+,然后执行:pip install aiohttp。aiohttp 是异步 HTTP 客户端库,比 requests 更适合并发场景;【不要用 requests 在 async 函数里发请求,会阻塞事件循环】

定义单个模型调用协程

每个模型封装为独立协程,统一接收 session、url、payload、headers 参数:

async def call_model(session, url, payload, headers):
  async with session.post(url, json=payload, headers=headers) as response:
    return await response.json()

这一步必须用 async with 管理连接生命周期,否则可能引发连接泄漏或超时错误。

构造多模型并发请求

第一步:整理各模型的 API 配置,包括 URL、密钥头、请求体结构。例如:

Atoms
Atoms

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

下载

openai_cfg = {
  "url": "https://api.openai.com/v1/chat/completions",
  "headers": {"Authorization": "Bearer sk-xxx"},
  "payload": {"model": "gpt-4o", "messages": [{"role": "user", "content": "你好"}], "max_tokens": 64}
}

deepseek_cfg = {
  "url": "https://api.deepseek.com/v1/chat/completions",
  "headers": {"Authorization": "Bearer ds-xxx"},
  "payload": {"model": "deepseek-chat", "messages": [{"role": "user", "content": "你好"}], "max_tokens": 64}
}

第二步:用 asyncio.gather 并发触发所有调用:

async def fetch_all():
  async with aiohttp.ClientSession() as session:
    tasks = [
      call_model(session, **openai_cfg),
      call_model(session, **deepseek_cfg),
      call_model(session, **qwen_cfg)
    ]
    return await asyncio.gather(*tasks)

注意:aiohttp.ClientSession 必须在 async with 中创建并复用,不能为每个请求新建 session,否则会触发连接池耗尽。

运行并获取结果

直接调用 asyncio.run(fetch_all()) 即可启动整个流程。返回值是包含所有模型响应的列表,顺序与 tasks 中定义顺序一致。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Aionclaw智能助手介绍
Aionclaw智能助手介绍

本专题汇总了AionClaw(AI龙虾助手)的功能介绍与在线使用入口。AionClaw是杭州趣猿人工智能有限公司推出的桌面级AI智能体,能直接在电脑上读写文件、运行脚本、操作浏览器,自动交付Word、PPT、Excel等成品。

2026.09.20

0

13

AionClaw AI智能体与电脑自动化任务执行功能使用教程
AionClaw AI智能体与电脑自动化任务执行功能使用教程

AionClaw专题整理AI智能体与电脑自动化相关功能使用教程,涵盖安装部署、AI任务执行、Skills技能、文件处理、浏览器控制、电脑操作、持久记忆、聊天工具连接以及办公、编程和内容创作等功能,帮助用户快速掌握AionClaw的实际使用方法。

2026.09.20

0

15

AI视频生成软件推荐
AI视频生成软件推荐

本专题汇总了当前主流的AI视频生成软件推荐与排行榜单,涵盖seko、AniShort、剧云、Lovart、LiblibAI及立刻mv等热门工具。同时整理了各软件在文生视频、图生视频、时长限制、画质表现及免费额度等方面的差异对比,助您快速选对适合创作需求的AI视频生成工具。

2026.09.16

160

9

ai生成视频的工具免费版合集
ai生成视频的工具免费版合集

本专题汇总了当前免费AI生成视频工具的排行榜与推荐清单,涵盖seko、讯飞智作、AniShort及剧云、Lovart等多模型集成平台。同时整理了各工具的免费额度、输出时长、水印政策及适用场景差异,助您快速选择合适工具开启AI视频创作。

2026.09.16

60

10

Pandas时间序列分析与可视化报表
Pandas时间序列分析与可视化报表

本专题整理Pandas日期转换、时间索引、重采样、滚动窗口、时区处理、plot绘图、Styler表格样式和报表输出方法。

2026.09.16

80

23

Pandas数据筛选索引与清洗处理
Pandas数据筛选索引与清洗处理

本专题整理Pandas中的loc、iloc、条件筛选、query查询、缺失值处理、重复值删除、类型转换和字符串列清洗方法。

2026.09.16

60

25

Pandas数据读取导入与文件导出处理
Pandas数据读取导入与文件导出处理

本专题整理Pandas读取CSV、Excel、JSON、SQL、Parquet等文件的方法,以及to_csv、to_excel、to_sql和to_parquet等常用数据导出流程。

2026.09.16

40

27

GDB怎么设置断点
GDB怎么设置断点

本专题介绍GDB按照函数名、源代码行号和文件位置设置断点的方法,详细说明run、continue、next、step等命令的配合使用,帮助定位程序崩溃、逻辑异常及代码未按预期执行的问题。

2026.09.11

380

28

GDB怎么查看变量值
GDB怎么查看变量值

本专题介绍GDB调试过程中查看变量值的具体方法,涵盖局部变量、函数参数、数组、结构体和指针内容查询,同时整理变量持续显示、格式化输出及无法读取变量时的排查思路。

2026.09.11

120

22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
腾讯元宝使用手册
腾讯元宝使用手册

共0课时 | 0人学习

DeepSeek手册
DeepSeek手册

共0课时 | 0人学习