Ollama默认上下文长度为2048 token,需通过命令行--num_ctx、Modelfile重建或API options动态设为更高值(如8192或131072),且须确保Ollama≥0.4.0、模型原生支持并正确重建。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

当你用Ollama运行本地大模型时,发现输入一篇5000字的合同却只被看到前2000字,模型反复回复“信息不足”,这通常不是模型能力问题,而是Ollama默认把上下文长度锁死在2048 token——哪怕你用的是标称支持128K的Qwen3-35B或ChatGLM3-128K。
临时启用长上下文(命令行快速验证)
第一步:确认模型已拉取。执行ollama list,确保目标模型(如qoder、deepseek-r1-distill-qwen:7b或entropyyue/chatglm3:128k)出现在列表中。
第二步:直接带参数启动。例如将上下文设为8192:ollama run qoder --num_ctx 8192。这会覆盖默认2048值,立即生效。
第三步:测试是否真正加载成功。启动后输入/set context(部分模型支持)或直接发一段超长文本(≥6000字),观察是否完整接收并响应。若仍被截断,说明模型本身不支持该长度,或Ollama版本低于0.4.0——【必须升级到Ollama ≥0.4.0才识别--num_ctx参数】。
永久修改上下文长度(Modelfile重建法)
方法一:导出并编辑现有Modelfile
执行ollama show qoder --modelfile > ./qoder-modified.Modelfile,将当前模型配置导出为本地文件。
用文本编辑器打开该文件,在FROM行正下方插入一行:PARAMETER num_ctx 131072。注意不要缩进,不要加引号,不要写成parameter(大小写敏感)。
保存后执行重建命令:ollama create qoder-longctx -f ./qoder-modified.Modelfile。新模型名必须与原名不同,否则会报错。
【关键提醒:仅修改Modelfile文件不会生效,必须执行ollama create重建模型】。旧模型缓存不会自动清除,需手动ollama rm qoder再运行新模型名。
方法二:从零创建自定义Modelfile(推荐用于生产环境)
新建纯文本文件,命名为Modelfile,内容如下:
FROM qwen2.5:32b-instruct-q4_K_M
PARAMETER num_ctx 131072
PARAMETER temperature 0.3
PARAMETER top_p 0.85
其中FROM行必须指向一个真实存在的基础模型标签,不能拼错;num_ctx值不可超过该模型原生上限(Qwen2.5-7B最高128K,Qwen2.5-1M才支持1M)。
执行ollama create my-qoder-128k -f ./Modelfile。完成后即可用ollama run my-qoder-128k直接启动,无需每次加参数。
通过API动态控制上下文(适合多任务调度)
如果你的应用通过HTTP调用Ollama API(地址http://localhost:11434/api/chat),可在请求体JSON中嵌入options字段:
{"model":"qoder","messages":[{"role":"user","content":"请总结以下法律条款..."}],"options":{"num_ctx":8192}}
这种方式无需重启Ollama服务,每次请求可独立指定长度,但仅对Ollama原生API有效——【OpenAI兼容接口(/v1/chat/completions)不支持该参数,会静默忽略】。
注意:单次请求的messages + response总token数不能超过num_ctx设定值,否则模型会在中途突然中断输出,且不报错。











