本地模型是官方预编译、开箱即用的完整推理包,自定义模型需手动替换权重、修改配置并适配任务路径;前者一键拉取即用且加载链固化,后者灵活可控但依赖用户掌握路径、参数与加载逻辑。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

Qoder本地模型和自定义模型的区别在于:本地模型是官方预编译、预配置、开箱即用的完整推理包,而自定义模型是你手动替换权重、修改配置、适配特定任务路径的可干预版本——前者省心但固定,后者灵活但需懂路径、参数与加载逻辑。
本地模型:一键拉取即用
在Ollama中执行ollama run qwen3:8b,Ollama会自动从远程仓库下载已打包好的模型文件(含GGUF量化权重、Modelfile、metadata.json),解压到~/.ollama/models/blobs/并建立符号链接。整个过程无需你接触模型结构或路径。
该模型默认绑定qwen3:8b名称,启动后自动加载model.gguf,所有tokenization、chat template、system prompt均由内置Modelfile定义,你无法在运行时修改上下文长度或禁用RoPE位置编码。
【关键前提】必须保证~/.ollama目录有写权限,否则拉取失败且不提示具体错误位置。
自定义模型:手动接管模型文件与加载逻辑
自定义模型的核心动作是把你自己训练或微调后的模型文件,放进Ollama能识别的路径,并用Modelfile重新声明加载方式。
第一步:将你的my-qwen2.5-7b-finetuned/目录(含config.json、pytorch_model.bin、tokenizer.model)复制到~/ai-models/qwen2.5-custom/;
第二步:在该目录下新建Modelfile,内容必须包含FROM ./(指向当前目录)和PARAMETER num_ctx 131072(显式启用Qwen2.5的128K上下文);
第三步:执行ollama create qwen2.5-custom -f ./Modelfile,Ollama会扫描目录、校验文件完整性、生成SHA256哈希并注册到本地模型库;
Qwen 视频智能分析基础客户端(免费版),基于 Qwen 3.5 Plus 多模态模型对本地视频进行内容分析,支持场景描述与基础内容理解,采用默认抽帧频率和提示词,适合快速概览视频,API Key 读取自 ~/.skill-platform/skill-platform.json 的 skills 配置。
第四步:运行ollama run qwen2.5-custom,此时加载的是你指定路径下的原始PyTorch权重,而非GGUF格式——这意味着它依赖本地GPU显存,且支持LoRA动态注入,但无法在无CUDA的Mac M系列芯片上直接运行。
注意:若Modelfile中漏写PARAMETER stop "###",模型会在输出中持续生成指令分隔符,导致响应截断失效。
本质差异:谁控制模型加载链
本地模型的加载链由Ollama固化:远程拉取→GGUF解析→CPU/GPU自动调度→标准tokenizer→预设chat template;
自定义模型的加载链由你定义:本地路径→原始权重格式选择(PyTorch/MLX/GGUF)→显式参数覆盖→可选tokenizer重映射→可替换system prompt模板;
当你需要把Qwen2.5-7B接入企业内网RAG系统,并强制使用"You are a legal assistant. Answer only in Chinese."作为不可绕过的system prompt时,必须用自定义模型——本地模型的system prompt写死在Modelfile里,无法在ollama run命令中用-p参数覆盖。
自定义模型一旦注册成功,其名称(如qwen2.5-custom)就永久绑定到你指定的物理路径。如果后续你删掉了~/ai-models/qwen2.5-custom/目录,再运行ollama run qwen2.5-custom会直接报错model not found,不会回退到网络拉取。










