如何在Dify中接入Together AI云端托管的开源模型

P粉328763957

P粉328763957

2026-07-31

427人浏览

原创

要在dify中调用together ai的llama 3、qwen等模型,需通过openai兼容协议桥接:先在together ai控制台获取有效api key,再在dify中添加openai compatible类型模型提供方,配置base url和key,然后手动或批量注册模型id并启用,最后在workflow中选择对应模型且关闭tool calling功能即可成功调用。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如何在dify中接入together ai云端托管的开源模型

要在Dify中调用Together AI提供的Llama 3、Qwen、Mixtral等开源模型,必须绕过其原生API限制,通过Dify支持的OpenAI兼容协议桥接访问——因为Together AI不提供标准RESTful模型管理接口,仅开放兼容OpenAI格式的/v1/chat/completions等端点。

确认Together AI账户与API Key可用

登录 Together AI控制台 → 进入「API Keys」页面 → 确保至少有一个Active状态的Key,且未被限流或禁用。若Key显示“Revoked”或“Expired”,需重新生成。

【务必复制新生成的Key并立即保存】 页面关闭后无法再次查看明文,丢失即需重置。

在Dify中添加Together AI为自定义模型

进入Dify管理后台 → 「Settings」→「Model Providers」→ 点击右上角「+ Add Model Provider」。

填写以下字段:
• Provider Name:输入Together AI(仅作标识,不影响调用)
• Provider Type:选择OpenAI Compatible
• Base URL:填https://www.php.cn/link/7de938e934f13201785d12b0ebcd4b96v1(注意末尾无斜杠)
• API Key:粘贴上一步复制的密钥
• 勾选「Support Chat Completion」和「Support Completion」

点击「Save」后,Dify会自动发起一次健康检查请求。若右上角出现绿色对勾图标,说明连接成功;若提示“Invalid API Key”或超时,请检查URL是否多加了/,或Key是否已失效。

配置具体模型并启用

返回「Model Providers」列表 → 找到刚添加的Together AI条目 → 点击右侧「Configure Models」。

php获得文件的mime type类
php获得文件的mime type类

php获得文件的mime type类

下载

方法一:手动注册单个模型
• 点击「+ Add Model」→ Model Name填meta-llama/Llama-3-70b-chat-hf(或其他Together AI支持的模型ID,可在其文档页查全称)
• Display Name可简写为Llama-3-70B
• Token Limit建议设为8192(该模型实际支持上下文长度)
• 点击「Save」

方法二:批量导入全部可用模型
访问Together AI官方模型列表页 → 复制所有模型ID(每行一个)→ 在Dify「Configure Models」页点击「Import from Text」→ 粘贴 → Dify将自动解析并创建对应条目。此方式适合需要频繁切换多个开源模型的场景。

完成任一方法后,刷新「Models」总览页,新模型状态应为「Enabled」。若显示「Disabled」,鼠标悬停其上会提示具体错误,常见原因是模型ID拼写错误(如漏掉meta-llama/前缀)。

在Workflow中调用该模型

新建或编辑一个Workflow → 拖入一个「LLM」节点 → 在模型下拉菜单中选择你刚启用的Llama-3-70B → 保存节点。

注意:该模型不支持function calling能力,若Workflow中LLM节点启用了「Tool Calling」开关,执行时将直接报错退出。必须关闭此选项,或改用支持工具调用的模型(如Claude或GPT-4o)。

发布Workflow → 使用「Test」按钮触发 → 查看日志面板中「Model Request」部分,确认请求Header中Host为api.together.xyz,且Response Status为200,即表示调用链路已通。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

claude qwen dify

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Dify 本地部署与企业配置
Dify 本地部署与企业配置

本专题系统讲解 Dify 从零开始的本地部署方法与企业环境配置实践,涵盖 Docker 安装、依赖准备、数据库初始化、反向代理、参数调优、安全加固与多用户开通,帮助开发者与企业团队快速搭建稳定可用的 Dify 平台。

2026.06.05

72

15

Dify Agent智能体开发实战教程
Dify Agent智能体开发实战教程

本专题聚焦 Dify Agent 智能体的设计与开发,涵盖 Agent 模式选择、工具集成、提示词设计、多步推理、上下文记忆与多 Agent 协作,帮助开发者构建可执行复杂业务任务的智能体应用。

2026.06.05

96

15

Dify RAG知识库构建实战教程
Dify RAG知识库构建实战教程

本专题围绕 Dify RAG 知识库的全流程实践展开,从文档导入、分段切片、向量化到混合检索、重排优化与召回评估,帮助你打造高准确率、低幻觉的企业知识问答应用。

2026.06.05

110

15

火山引擎DNS解析配置步骤
火山引擎DNS解析配置步骤

使用火山引擎DNS解析网站域名时,需要确认域名已完成管理接入,并正确配置服务器IP、CNAME地址或验证记录。本专题整理域名添加、记录类型选择、TTL设置、解析状态检查、备案和访问测试等流程,适合新手搭建网站时参考。

2026.08.04

0

10

火山引擎对象存储使用教程
火山引擎对象存储使用教程

火山引擎对象存储适合用于网站图片、视频文件、备份数据、静态资源和应用附件管理。本专题整理TOS控制台入口、存储桶创建、地域选择、权限设置、文件上传、访问链接生成、CDN加速、费用查看和常见上传或访问失败问题,帮助用户快速掌握对象存储基础操作。

2026.08.04

0

10

火山引擎云服务器使用教程
火山引擎云服务器使用教程

火山引擎云服务器使用教程适合第一次购买、部署和管理云服务器的用户参考。本专题整理控制台入口、实例创建、地域和配置选择、系统镜像设置、安全组放行、远程连接、网站部署、续费计费和常见连接失败问题,帮助用户快速完成云服务器基础使用流程。

2026.08.04

3

10

火山引擎API Key绑定大模型教程
火山引擎API Key绑定大模型教程

火山引擎API Key怎么绑定大模型适合需要在火山方舟、应用后台、脚本工具或AI编程软件中调用模型的开发者参考。本专题整理控制台服务开通、API Key创建、模型权限检查、模型ID选择、Base URL填写、调用测试和鉴权失败排查,帮助用户完成从密钥到模型调用的配置流程。

2026.08.04

2

10

火山引擎API Key获取教程
火山引擎API Key获取教程

火山引擎API Key适合需要调用火山引擎云服务、AI模型、火山方舟接口或其他开放能力的开发者参考。本专题整理控制台入口、账号认证、服务开通、API Key创建、密钥复制保存、权限检查、调用测试和Key无效等常见问题排查。

2026.08.04

6

10

火山引擎API接入教程
火山引擎API接入教程

火山引擎API接入适合需要在应用、脚本、后台服务或AI工具中调用火山引擎能力的开发者参考。本专题整理控制台入口、服务开通、API Key获取、接口地址配置、请求参数填写、调用测试、权限设置、额度查询和常见接口报错排查。

2026.08.04

6

10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Dify零基础教程
Dify零基础教程

共0课时 | 98人学习

学习Agent,从Dify开始
学习Agent,从Dify开始

共0课时 | 94人学习

Dify 部署与运维指南
Dify 部署与运维指南

共0课时 | 0人学习