Gemini 4 Carbon 的 1M token 上下文窗口仅限输入侧,不含输出;该限制涵盖所有输入模态编码后的 token 总和,输出长度由 max_output_tokens 单独控制且不计入1M,误判会导致截断长响应。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

Gemini 4 Carbon 的 1M token 上下文窗口仅指输入侧容量,不包含输出生成部分。
上下文窗口的构成定义
谷歌官方明确说明:Carbon 的上下文窗口为“1M token”,该数值特指模型可接收并处理的输入总长度,含文本、图像、视频、语音等所有输入模态经编码后的 token 总和。
输出 token 不计入该 1M 限制。模型实际生成的响应长度由调用方通过 max_output_tokens 参数单独控制,默认值因接口而异,但不受 1M 窗口约束。
为什么输出不纳入窗口统计
输入窗口大小直接影响模型对长文档、大型代码库、多轮对话历史的理解能力,是工程上最关键的资源瓶颈;而输出长度可控、可截断,且在推理阶段才动态产生——因此谷歌将“1M”严格限定为输入侧硬上限。
使用Anthropic TypeScript SDK对Anthropic API调用进行instrumentation,以记录每个请求的token使用量、延迟和成本。封装anthropic.messages.create方法以捕获API响应中的usage.input_tokens、usage.output_tokens和时间信息。通过AWS SDK v3 CloudWatchLogsClient将结构化日志写入CloudWatch Logs。
若误以为输出也占这 1M,可能在设置 max_output_tokens 时过度保守,导致本可完整返回的补丁代码或漏洞分析被意外截断。
验证方式:看 API 响应头与计费明细
方法一:调用时开启 trace_log,检查响应 header 中的 x-goog-llm-input-tokens 字段,该值始终 ≤ 1,000,000;x-goog-llm-output-tokens 则独立上报,常远超此数。
方法二:查看账单明细,输入 token 与输出 token 分列两行,单价不同(当前优惠期分别为 2美元/百万、10美元/百万),【输出 token 消耗不触发上下文溢出错误】。










