Qoder怎么配置本地大模型?

风杰酱_2971

风杰酱_2971

2026-08-01

932人浏览

原创

要在qoder中完全本地运行大模型(如ollama加载的qwen2.5或deepseek-coder)并跳过云端计费,必须切断默认http请求链路,将llm调用重定向至本机ollama服务(http://127.0.0.1:11434/v1),否则仍会消耗credits。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

qoder怎么配置本地大模型?

要在Qoder中跳过云端计费、完全使用本地运行的大模型(如Ollama加载的Qwen2.5或DeepSeek-Coder),必须切断其默认HTTP请求链路,将LLM调用重定向至本机服务端口。这一步不做,所有推理请求仍会发往Qoder云API,Credits持续消耗。

CLI临时直连Ollama服务

适合快速验证模型可用性或多模型切换场景,不改动任何配置文件。

第一步:确保Ollama已后台运行且目标模型已加载,例如执行ollama run qwen2.5:7b触发首次拉取与缓存;若未启动,ollama serve手动启服务。

第二步:确认Ollama监听地址为http://127.0.0.1:11434——这是默认值,但若你改过OLLAMA_HOST环境变量,此处必须同步更新。

第三步:在项目根目录终端中执行:qoderclicn --ollama http://127.0.0.1:11434/v1 --model qwen2.5:7b。注意--ollama参数必须带/v1后缀,否则Qoder会因路径不匹配返回404错误。

第四步:启动成功后,终端首行将显示Using local LLM provider at http://127.0.0.1:11434/v1,此后所有Agent决策、工具调用均走本地通道,【不再扣除任何Credits】。

修改config.yaml强制全局走本地

适用于长期本地开发,让Quest、TUI、Memory等所有子模块统一生效。

打开用户级配置文件:~/.qoder/config.yaml(Windows路径为%USERPROFILE%\.qoder\config.yaml)。

定位到llm:区块,若不存在则从空行开始手动写入以下四行,缩进必须为两个空格:

llm:<br>  base_url: "http://127.0.0.1:11434/v1"<br>  api_key: "sk-ollama"<br>  model: "deepseek-coder:6.7b-instruct-q4_K_M"

保存后关闭所有Qoder进程,重新启动CLI或桌面端——旧进程不会自动重载配置,必须彻底退出再进。

OpenClaw YouTube Publisher
OpenClaw YouTube Publisher

OpenClaw YouTube Publisher 是 ClawHub 的公开 YouTube 发布技能。当用户说“youtube creator ops”、“youtube publisher”、“YouTube Studi...”时使用。

下载

通过MCP协议注入自定义LLM插件

当你的本地模型服务不兼容OpenAI标准格式(比如带JWT校验、返回字段非choices[0].message.content结构),此法可绕过Qoder内置适配器,完全掌控请求映射逻辑。

方法一:创建插件目录结构
在项目根目录执行:mkdir -p ./mcp-providers/local-ollama,进入该目录。

方法二:编写provider.py
新建provider.py,核心需包含discovery()返回元信息、call()封装HTTP POST到http://127.0.0.1:11434/api/chat,且必须将Qoder传入的messages数组按Ollama要求转为{"messages": [...], "model": "xxx"}格式。

方法三:启用插件
启动Qoder时追加--mcp-provider ./mcp-providers/local-ollama参数,Qoder会自动扫描并注册该Provider。

这一步操作起来很简单,直接把文件拖进去就行。但要注意:【provider.py中必须处理Ollama的流式响应chunk解析,否则交互模式下会卡死】。

离线环境下预置模型与依赖

针对无网络的封闭开发环境(如军工内网、航空电子舱),所有组件必须提前打包验证,部署时零联网。

① 在有网机器上执行:mkdir -p qoder-offline/{models,libs,venv,bin},然后用modelscope download --model qwen/Qwen2.5-1.5B拉取完整模型权重。

② 将下载好的模型文件夹整体复制进qoder-offline/models/,同时执行pip wheel --no-deps --wheel-dir qoder-offline/libs/wheels -r requirements.txt打包全部Python依赖轮子。

③ 在离线机解压后,先运行python3 -m venv qoder-offline/venv建虚拟环境,再激活并执行:pip install --no-index --find-links=./qoder-offline/libs/wheels --upgrade pip。

④ 安装本地模型框架:pip install ./qoder-offline/libs/openclaw,最后验证:python -c "from transformers import AutoTokenizer; t = AutoTokenizer.from_pretrained('./qoder-offline/models/Qwen2.5-1.5B'); print(t.encode('hello'))"输出数字列表即成功。

相关专题

更多
Qoder大模型教程大全
Qoder大模型教程大全

本专题整合了Qoder大模型教程合集,阅读专题下面的文章了解更多详细内容。

2026.05.21

392

15

Qoder安装与快速上手攻略
Qoder安装与快速上手攻略

面向开发者的 Qoder 快速上手指南,从 Qoder 的产品定位(新一代智能体编程平台)与通义灵码的关系讲起,涵盖 Qoder IDE 客户端下载安装、VS Code / JetBrains 插件的安装与账号登录配置、工作区界面布局与功能模块认识、NEXT(下一条编辑建议)智能补全体验、行间会话(Inline Chat)快速编码、右侧面板 Ask 问答与 Agent 模式初探,帮助开发者快速上手 Qoder 并感受 AI 原生编程的效

2026.05.21

385

15

Qoder部署与配置教程大全
Qoder部署与配置教程大全

本专题整合了Qoder部署与配置教程合集,阅读专题下面的文章了解更多的详细内容。

2026.05.21

305

18

Qoder Agent 模式与全栈自主开发教程合集
Qoder Agent 模式与全栈自主开发教程合集

聚焦 Qoder 最核心的 Agent 智能体编程模式,讲解从自然语言需求描述到完整代码自动生成的全流程操作,涵盖 Agent 模式的启动与任务下发、需求理解与技术方案自动拆解、多文件创建与跨文件代码编排、前后端全栈项目一键生成实战(以电商页面 / API 服务 / 管理后台为例)、人机交互检查点(Checkpoint)的审查与干预、Agent 执行过程的上下文追踪与回滚,帮助开发者从"辅助编码"进阶到"陈

2026.05.22

788

15

PixTV官网入口地址合集
PixTV官网入口地址合集

本专题汇总了 PixTV AI 一站式视频创作平台的官方入口与使用教程。无需下载软件,浏览器直接访问即可使用。平台将剧本、图像、视频、声音与剪辑整合在“无限画布”中,接入 GPT Image 2.5、Seedance 2.5 等头部模型。本专题整理了从新建画布、角色锚定、分镜拆分到视频生成与导出的完整操作指南,助你快速上手 AI 短剧与漫剧创作。

2026.10.10

80

15

Kratos框架HTTP与gRPC服务开发教程
Kratos框架HTTP与gRPC服务开发教程

本专题围绕Kratos框架双协议服务开发,涵盖HTTP路由与处理器编写、参数获取、gRPC服务实现与客户端调用、metadata上下文传递、encoding编解码注册、统一响应封装、超时控制与流式响应实现方法。

2026.10.10

40

15

Kratos框架Protobuf接口定义与代码生成合集
Kratos框架Protobuf接口定义与代码生成合集

本专题讲解Kratos框架接口定义体系,涵盖proto编写规范、proto add/client/server生成命令、http注解路由、validate校验、OpenAPI文档生成、跨服务proto复用与兼容性设计。

2026.10.10

20

15

C++虚函数怎么定义和调用
C++虚函数怎么定义和调用

C++虚函数是实现运行时多态的重要机制。本专题从virtual关键字的基本用法入手,介绍基类与派生类之间的函数重写、基类指针调用派生类方法,以及动态绑定的执行过程,帮助初学者掌握虚函数的核心语法。

2026.10.10

20

26

C++类与对象的封装方法教程
C++类与对象的封装方法教程

C++封装是面向对象编程的核心特性之一,通过类将数据与操作数据的函数组织在一起,并利用访问权限控制外部访问。本专题介绍类的定义、成员变量、成员函数以及public、private和protected的使用方法,帮助初学者掌握封装的基本原理。

2026.10.10

20

32

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Qoder手册
Qoder手册

共0课时 | 0人学习

腾讯混元大模型API参考手册
腾讯混元大模型API参考手册

共0课时 | 0人学习