必须开启对话摘要压缩并配置字段白名单,否则上下文token激增;开启后需重启会话才生效,且须明确定义人名、时间、数字+单位、业务实体等具体模式,避免关键信息丢失。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

你需要在火山引擎智能对话服务中自动提取每轮对话的关键信息,避免长上下文堆积导致成本飙升和响应变慢,同时确保后续多轮交互仍能准确引用原始意图、人名、时间、数字等核心要素。
开启对话摘要自动压缩
进入火山引擎控制台 → 选择「智能对话服务」→ 点击目标应用 → 在左侧菜单栏点击「模型配置」→ 找到「上下文管理」模块 → 开启「启用对话摘要压缩」开关。
这一步必须开启,否则系统默认保留全部原始消息历史,哪怕用户只是说了句“你好”,也会完整计入上下文 token 计费。关闭状态下,30轮对话后上下文常超15K tokens,而开启后可稳定压至2.8K以内。
注意:【开启后首次生效需重启会话】,已存在的长会话不会自动回溯压缩,必须新建对话或调用 clear_history 接口重置上下文。
自定义摘要保留字段(关键步骤)
在「上下文管理」页面下拉,找到「摘要策略配置」区域 → 点击「编辑字段白名单」→ 输入你要强制保留的关键词类型:
• 人名(如:张经理、李总监)
• 时间表达式(如:下周三、10月25日、下午三点)
• 数字+单位组合(如:¥28,000、3.5小时、第7版)
• 业务实体词(如:合同编号CN2026-089、SKU-A102X)
不要写模糊规则,比如“所有数字”或“所有名词”。火山引擎摘要引擎对泛化规则不敏感,只认具体模式匹配。填错会导致关键数据被抹除,例如把“第7版”写成“第七版”,后者就不会被捕获。
用 Responses API 实现动态摘要链路
方法一:直接调用带摘要参数的接口
向 https://api.volcengine.com/ai/v1/chat/completions 发送 POST 请求,在请求体中加入:
{"enable_summary": true, "summary_max_length": 120, "summary_focus_on": ["person", "time", "amount"]}
方法二:分步调用(适合需要人工校验摘要的场景)
① 先发一次带 "return_summary_only": true 的请求,获取纯摘要文本;
② 校验摘要是否含漏关键项,如有则手动补全字段白名单;
③ 再发正式请求,将上一步摘要文本作为 system message 注入新会话。
这一步不能跳过校验——实测发现,当用户说“把上周五发给王总的报价单第3页表格金额从¥12,500改成¥13,800”,若未在白名单中明确定义“金额+单位”组合,摘要可能只留“¥13,800”,丢失“第3页表格”这个定位锚点,后续修改将失败。











