需适配模型上下文长度并启用context分段处理：一、确认并设置最大上下文长度；二、开启“分段注入”模式及自动分段；三、配置分段粒度与重叠长度；四、设定响应聚合规则；五、用超长文本验证分段效果。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您在使用WorkBuddy配置自定义模型时发现长文本输入被截断或无法完整处理，则可能是模型上下文长度限制未适配，或Context分段处理机制未启用。以下是为自定义模型开启长文本支持并配置Context分段处理的具体操作路径：
一、确认模型基础上下文长度限制
WorkBuddy依赖底层模型的原生context窗口大小，需先明确所接入模型（如Qwen-72B、Llama3-70B等）官方公布的max_position_embeddings或context_length参数值。该数值决定单次推理可接收的最大token数，是分段策略设计的基准阈值。
1、登录WorkBuddy管理控制台，进入【模型管理】→【自定义模型详情页】。
2、在【基础信息】区域查找“最大上下文长度”字段，若显示为空，则需手动输入对应模型文档中标注的数值。
3、若该字段不可编辑，必须通过API方式调用PUT /v1/models/{model_id}接口，在request body中显式传入context_window_size字段。
二、启用Context分段预处理开关
开启分段处理后，WorkBuddy会在推理前自动将超长输入按指定策略切分为多个子片段，并分别注入模型上下文，避免因单次token超限导致报错或静默截断。
1、在自定义模型详情页点击【高级配置】标签页。
2、找到“长文本处理模式”选项，从下拉菜单中选择分段注入（Chunked Context Injection）。
3、勾选“启用自动分段”，此时“分段粒度”与“重叠长度”字段变为可编辑状态。
4、点击【保存配置】，系统将校验参数合法性并实时生效，无需重启服务。
三、设置分段粒度与滑动重叠参数
分段粒度决定每个子片段的token数量上限，滑动重叠则确保相邻片段保留部分共用上下文，防止语义断裂。二者共同影响输出连贯性与计算开销。
1、在【高级配置】中，将“分段粒度”设为小于等于模型context_window_size的整数值，推荐值为context_window_size - 512。
2、将“重叠长度”设为正整数，范围限定在128–512之间；若原文含大量技术术语或专有名词，建议设为384以保障关键实体在相邻片段中重复出现。
3、修改完成后点击【验证参数】按钮，系统将模拟一次分段过程并返回示例切片结果。
四、配置分段后上下文拼接策略
模型对各分段独立生成响应后，WorkBuddy需按特定逻辑合并结果。拼接策略直接影响最终输出结构是否符合业务预期，不可跳过配置。
1、在【高级配置】底部展开“响应聚合规则”区域。
2、选择“按原始顺序串联”模式，适用于摘要、翻译等线性任务。
3、若需保留分段标识，勾选“在每段响应前添加#SEG{index}标记”，该标记后续可用于前端按段落高亮或折叠展示。
4、对于问答类场景，选择“仅返回最后一段响应”，避免冗余信息干扰主答案。
五、验证分段处理实际效果
配置生效后，必须通过真实长文本样例触发端到端链路，观察日志中分段行为与响应完整性，排除参数误设或缓存残留问题。
1、在【调试中心】新建测试会话，输入长度超过context_window_size×1.5的文本（例如12000字符中文段落）。
2、提交后查看【请求详情】面板中的“preprocess_steps”字段，确认包含chunk_count、chunk_0_tokens等分段元数据。
3、检查响应体中是否存在连续的#SEG标记或分段响应体，若返回内容明显缺失中间段落，则需检查重叠长度是否过小或聚合规则是否误选“仅最后一段”。
