详解 Gemini 多模态请求格式:如何在 JSON 中嵌入图片与视频

陌丽小哥_4769

陌丽小哥_4769

2026-03-23

360人浏览

原创

正确嵌入多模态数据需严格遵循gemini规范:一、图片用inlinedata配准确mimetype;二、视频用data uri作text值;三、大文件用gcs uri配filedata;四、多图需分立parts;五、mimetype须精确匹配且base64无空格。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

详解 gemini 多模态请求格式:如何在 json 中嵌入图片与视频

如果您需要向 Gemini API 发送多模态请求,但不确定如何在 JSON 结构中正确嵌入图片或视频数据,则可能是由于未遵循其特定的 base64 编码与 MIME 类型组合规范。以下是实现该功能的具体方法:

一、使用 inlineData 方式嵌入 Base64 编码的图片

Gemini 要求图片以 base64 编码字符串形式嵌入 JSON 的 inlineData 字段,并明确指定 mimeType,否则 API 将拒绝解析图像内容。

1、将本地图片文件(如 PNG 或 JPEG)转换为 base64 编码字符串,可使用命令行工具或编程语言内置函数完成。

2、构造包含 inlineData 对象的 JSON 片段,其中 mimeType 必须严格匹配原始文件类型,例如 image/pngimage/jpeg

3、将该对象作为 parts 数组中的一个元素,置于 contents 下的单条消息内,确保 inlineDatatext 同级且不嵌套于其他字段。

二、通过 data URI 方式在 JSON 中传递视频片段

视频不支持直接以纯 base64 块嵌入 inlineData,Gemini 当前仅接受符合 data:video/xxx;base64,... 格式的 URI 字符串作为 text 字段值,而非独立 media 字段。

1、提取视频关键帧或截取短时长片段(建议 ≤ 15 秒),使用 FFmpeg 或类似工具导出为 MP4 或 MOV 格式。

2、对该视频文件执行 base64 编码,并拼接前缀 data:video/mp4;base64,(MIME 类型需与实际格式一致)。

3、将完整 data URI 字符串作为 text 字段的唯一内容,放入 contents[0].parts[0],不可与其他文本混合或附加描述语句。

三、采用 Google Cloud Storage URI 引用远程媒体资源

当图片或视频体积较大时,Gemini 支持通过预签名的 GCS URI 直接引用托管在 Google Cloud Storage 中的媒体对象,避免 JSON 负载超限。

1、将图片或视频上传至已启用公共读取权限或配置了短期有效签名的 GCS 存储桶。

Ask Gemini/ChatGPT
Ask Gemini/ChatGPT

用于在用户想通过浏览器自动化与 Google Gemini 或 ChatGPT 交互时。触发短语包括“ask Gemini”“ask ChatGPT”“ask GPT”“让...”。

下载

2、生成形如 gs://your-bucket-name/path/to/image.jpg 的 URI,确保该 URI 可被 Gemini 服务访问。

3、在 JSON 的 parts 中创建新对象,仅包含 fileData 字段,其下 fileUri 设为上述 GCS URI,mimeType 显式声明为对应类型,例如 image/webp

四、组合文本与多张图片的 JSON 构造方式

Gemini 允许单次请求中混合多个 parts,但每张图片必须独占一个 inlineDatafileData 对象,不可合并编码或复用同一字段。

1、对每张待提交的图片分别进行 base64 编码,并记录各自准确的 MIME 类型。

2、在 contents[0].parts 数组中依次添加多个对象:第一个为 text 类型的提示词,后续每个均为独立的 inlineData 对象,各自携带 mime_typedata

3、验证最终 JSON 中所有 parts 的顺序是否符合逻辑意图,例如“描述以下三张图”应使文本 part 置于数组首位,图片 parts 按展示顺序紧随其后。

五、规避常见 MIME 类型误配错误

Gemini 对 mimeType 字段校验极为严格,任何大小写偏差、缺失子类型或使用非标准别名均会导致 media 解析失败。

1、禁用自动推断工具生成的 MIME 类型,例如避免使用 image/jpg(应为 image/jpeg)或 video/x-m4v(应为 video/mp4)。

2、对 PNG 图片,必须使用 image/png;对 WebP 图片,必须使用 image/webp;对 AVIF 图片,必须使用 image/avif

3、检查 base64 字符串是否含换行符或空格,Gemini 仅接受连续无分隔的 base64 字符序列,否则会触发 INVALID_ARGUMENT 错误。

相关专题

更多
Gemini网页版零基础入门:5分钟上手Gemini聊天指南
Gemini网页版零基础入门:5分钟上手Gemini聊天指南

本专题专为零基础用户打造,5分钟快速掌握Gemini网页版核心用法。从账号登录到界面布局,详解如何发起对话、优化提示词及利用多模态功能。通过实战案例,教你高效获取信息、创作内容与分析数据。无论学习还是工作,轻松开启AI辅助新时代,让Gemini成为你的得力智能助手。

2026.03.18

14857

10

如何写出高效Gemini提示:Chain of Thought实用教程
如何写出高效Gemini提示:Chain of Thought实用教程

本专题详解如何利用“思维链”(Chain of Thought)技巧激发 Gemini 模型的深度推理能力。通过引导模型将复杂问题拆解为逐步推导的逻辑链条,显著提升其在数学计算、代码生成及逻辑分析任务中的准确率。文章提供实用提示模板与对比案例,助您掌握结构化提问方法,从简单指令升级为高效交互,轻松获取更精准、可解释的智能回答。

2026.03.23

37

10

Gemini多模态实战:图片PDF视频输入完整处理指南
Gemini多模态实战:图片PDF视频输入完整处理指南

本指南全面解析 Gemini 多模态实战,涵盖图片、PDF 及视频的高效处理流程。从上传技巧到提示词设计,教您如何提取文档关键信息、分析图表数据及解读视频内容。通过真实案例演示,助您掌握跨模态交互核心技能,轻松构建智能文档分析与多媒体理解应用,释放 AI 潜能。

2026.03.23

77

10

Gemini提示工程进阶:Few-shot与角色扮演优化方法
Gemini提示工程进阶:Few-shot与角色扮演优化方法

本进阶指南深入解析 Few-shot 学习与角色扮演在 Gemini 提示工程中的核心应用。通过精选示例引导模型模仿特定风格,结合角色设定规范输出语气与逻辑,显著提升复杂任务的处理精度。文章提供实用模板与调优策略,助您打造个性化 AI 助手,实现从通用回答到专业级交互的质的飞跃。

2026.03.23

76

10

Google AI Studio使用教程:从模板到自定义Prompt实战
Google AI Studio使用教程:从模板到自定义Prompt实战

本教程手把手教您掌握 Google AI Studio,从快速调用官方模板到深度自定义 Prompt 实战。内容涵盖界面导航、参数调优及版本管理,助您灵活构建专属 AI 应用。通过真实案例演示,让您轻松实现从创意构思到原型部署的全流程,高效释放 Gemini 模型潜能,打造智能化解决方案。

2026.03.23

81

12

Gemini API快速上手:Python调用generateContent完整指南
Gemini API快速上手:Python调用generateContent完整指南

本指南详解如何使用 Python 快速调用 Gemini API 的 generateContent 方法。从环境配置、密钥管理到核心代码实现,逐步演示文本生成、多模态输入及流式响应处理。包含完整示例与错误排查技巧,助开发者轻松集成 Gemini 强大能力,构建高效智能应用,开启 AI 开发新篇章。

2026.03.23

90

11

如何实现Gemini函数调用:Tool Use与外部工具集成教程
如何实现Gemini函数调用:Tool Use与外部工具集成教程

本教程深入解析 Gemini 函数调用机制,详解 Tool Use 配置与外部工具集成流程。从定义函数架构到处理动态参数,手把手教您连接数据库、搜索 API 及自定义服务。通过实战案例,展示如何让 AI 自主规划并执行复杂任务,突破纯文本限制,构建具备真实行动力的智能代理系统。

2026.03.23

165

11

Gemini结构化输出JSON模式:API稳定提取数据实战
Gemini结构化输出JSON模式:API稳定提取数据实战

本实战指南详解如何利用 Gemini API 的 JSON 模式实现结构化数据提取。通过配置响应格式约束,确保模型输出严格符合预定义 Schema,彻底解决解析错误难题。内容涵盖字段定义、类型校验及异常处理,助您在信息抽取、数据清洗等场景中构建高稳定性管道,轻松将非结构化文本转化为可靠的应用数据。

2026.03.23

91

13

Gemini上下文缓存功能:如何大幅降低长对话成本指南
Gemini上下文缓存功能:如何大幅降低长对话成本指南

本指南深入解析 Gemini 上下文缓存(Context Caching)功能,助您大幅降低长对话与大规模文档处理成本。通过复用高频输入的嵌入表示,避免重复计算令牌,显著减少延迟与费用。内容涵盖缓存创建、管理及最佳实践,特别适合多轮对话、知识库问答等场景,让您在保持高性能的同时,实现极具性价比的 AI 应用部署。

2026.03.23

55

8

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Gemini Notebook常见问题解答
Gemini Notebook常见问题解答

共0课时 | 0人学习

Gemini Notebook官方手册
Gemini Notebook官方手册

共0课时 | 0人学习