必须开启多模态输入支持、选用带“multimodal”标签的模型、配置文件上传或消息解析节点、串联图像理解等插件并渲染输出,否则多模态功能静默失效。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

多模态大模型应用开发实战指南
要在扣子平台快速构建支持图文理解、语音转写、图像生成等能力的AI应用,必须绕开纯文本智能体的惯性路径,从输入类型识别、模型选型、插件联动到输出渲染全流程重新设计——这一步漏掉任意一个环节,用户上传一张图后就只会收到“我无法查看图片”这类无效回复。
确认当前工作区已启用多模态能力
登录扣子后台 → 点击左上角头像 → 进入「设置」→ 找到「高级功能」选项卡 → 开启「多模态输入支持」开关。
这一步不可跳过。未开启时,即使后续接入了图像生成插件,用户发送的图片也会被自动过滤,【系统不会报错,但所有多模态节点将静默失效】。
选择适配多模态任务的大模型
进入智能体编辑页 → 点击右上角「模型设置」→ 在模型列表中筛选带「 multimodal 」标签的模型(如「Doubao-Pro-VL」「Qwen-VL-Plus」)→ 点击选中并保存。
注意:普通文本模型(如「Doubao-7B」)无法解析图像或音频特征,强行使用会导致输入中断在预处理阶段;而部分标有「VL」但未标注「multimodal」的模型,实测仅支持图文对齐微调,不支持端到端跨模态推理——务必认准官方标注。
配置多模态输入节点
方法一:使用内置「文件上传」节点
在工作流画布中点击「+ 添加节点」→ 选择「输入」分类 → 拖入「文件上传」节点 → 设置「允许类型」为 image/*,audio/*,video/*(根据实际需求勾选)→ 将其连接至后续模型节点。
方法二:通过「消息解析」节点提取用户消息中的附件
当用户在微信/飞书等渠道直接发送图片时,需先添加「消息解析」节点 → 勾选「提取附件」→ 启用「自动解码 Base64」→ 输出字段选择「file_url」→ 再接入模型节点。
⚠️关键点:如果用户发的是截图粘贴(非文件上传),部分渠道会转为 base64 字符串嵌入 text 字段,此时必须启用「消息解析」节点的「base64 提取」功能,否则模型收不到原始二进制数据。
串联多模态插件链路
第一步:添加「图像理解」插件
在插件市场搜索「视觉理解」→ 安装「Doubao-Vision-Analyzer」→ 在工作流中拖入该插件节点 → 将「文件上传」节点的 output.file_url 连接到此插件的 input.image_url。
第二步:条件分支判断理解结果
插入「判断」节点 → 设置条件为「plugin_output.description contains “二维码”」→ 若为真,走「二维码解析」插件;若为假,走「文字OCR提取」插件。
第三步:混合输出渲染
将各插件返回的结构化数据(JSON格式的描述、坐标、文本)统一送入「模板渲染」节点 → 使用 Liquid 语法拼接:{{ vision.description }},检测到{{ ocr.text | size }}处可读文字,其中第3行为:“{{ ocr.text[2] }}” → 最终输出给用户。











