VSCode怎么配置Ollama加Continue插件在本地免费运行大语言模型写代码

陌磊同学_4046

陌磊同学_4046

2026-05-10

1073人浏览

原创

能跑通但默认配置易卡在“加载中”或补全延迟超2秒,核心问题在于ollama服务未常驻启动、模型名与ollama list输出不一致、tabautocompletemodel配置错误。

vscode怎么配置ollama加continue插件在本地免费运行大语言模型写代码

能跑通,但默认配置大概率卡在“加载中”或补全延迟超2秒——核心问题不在插件本身,而在ollama serve后台服务是否真正就绪、模型名是否和ollama list输出完全一致、以及tabAutocompleteModel没配对。

确认Ollama服务已启动且端口可访问

Ollama不是装完就自动提供API服务的。双击图标或运行ollama run xxx只启动单次对话,Continue需要的是常驻的HTTP API服务(默认http://localhost:11434)。

  • 终端执行ollama serve,看到Listening on 127.0.0.1:11434才算真正就绪;Windows用户若提示端口被占,改用OLLAMA_HOST=127.0.0.1:11435 ollama serve并同步更新Continue配置里的baseUrl
  • curl http://localhost:11434/api/tags测试,返回JSON含"models": [...]才说明API通了;返回Connection refused就是服务没起来
  • Mac/Linux用户注意:如果用brew install ollama安装,可能需先brew services start ollama,否则ollama serve前台运行时关掉终端就断了

Continue配置里model字段必须和ollama list输出严格一致

常见错误是写codellama:7bollama list显示的是codellama:7b-q4_K_M(量化后的真实标签),或漏掉:latest导致匹配失败。

VSCode
VSCode

避免常见的 VSCode 错误——设置冲突、调试器配置和扩展冲突。

下载
  • 先运行ollama list,复制完整NAME列内容(包括冒号后缀),例如deepseek-coder:6.7b-q8_0
  • ~/.continue/config.json中,modelstabAutocompleteModelmodel字段必须粘贴这个完整名称,不能简写
  • 如果模型名含特殊字符(如/),比如qwen2.5-coder:latest,确保JSON字符串用双引号包裹,不加额外转义
  • Windows路径要注意反斜杠:"configPath": "C:\Users\xxx\.continue\config.json",但model名本身不用改

补全延迟高?重点调这三个参数

代码补全卡顿90%源于模型加载策略和请求节流,不是CPU不够。

  • ollama run命令启动模型时加--gpu-layers 20(NVIDIA显卡)或--numa(Intel CPU),能显著降低首token延迟;无GPU时--no-gpu反而更稳
  • config.jsontabAutocompleteModel块里加"temperature": 0.15,避免模型“思考过久”;设"maxTokens": 128限制输出长度,防止补全截断
  • Continue设置里开启prefillCache(需v1.0.20+),并把debounceDelay从默认300ms降到120,让按键松开后更快发请求

模型选错会导致补全乱码或拒绝响应

不是所有Ollama模型都适合代码补全,llama3phi3这类通用模型在函数签名生成上容易出错,而deepseek-coderqwen2.5-coder专为代码训练,补全准确率高一倍以上。

  • 16GB内存机器优先选deepseek-coder:6.7b-q6_K(量化后约4.2GB显存/内存占用),比原生13b更稳
  • Java项目别硬套codellama,实测starcoder2:15b对Spring Boot注解补全更准,但需--ctx-size 4096启动
  • Go项目慎用codellamatinyllama这种小模型反而因上下文短、响应快,在简单函数补全场景体验更好

最易被忽略的点:每次改完config.json或重装模型,必须重启VS Code(不只是重载窗口),否则Continue仍读旧缓存;另外ollama ps能查当前运行中的模型实例,残留进程占着GPU时新请求会直接超时。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

vscode

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
java break和continue
java break和continue

本专题整合了java break和continue的区别相关内容,阅读专题下面的文章了解更多详细内容。

2025.10.24

647

6

vscode是什么_vscode怎么安装配置
vscode是什么_vscode怎么安装配置

VS Code(Visual Studio Code)是一款免费、开源的跨平台代码编辑器,由微软开发和维护。它被广泛用于软件开发和编程,支持多种编程语言和框架。VS Code 同时提供了丰富的功能和扩展性,使开发者可以高效地编写、编辑和调试代码。

2023.06.30

1155

18

vscode怎么运行代码
vscode怎么运行代码

vscode是一个运行于MacOS X、Windows和Linux之上的,针对于编写现代Web和云应用的跨平台源代码编辑器;vscode免费而且功能强大,对JavaScript和NodeJS的支持非常好,自带很多功能,例如代码格式化,代码智能提示补全、Emmet插件等。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.21

2272

3

vscode使用的框架介绍
vscode使用的框架介绍

VSCode是一款跨平台代码编辑器,它基于Electron框架和Monaco Editor构建。想了解更多vscode的相关内容,可以阅读本专题下面的文章。

2024.03.14

1789

12

vscode一般用来写什么语言
vscode一般用来写什么语言

VSCode是一款功能强大的代码编辑器,支持多种编程语言和文件格式。它内置对 JavaScript、Python、Java、C++、TypeScript、HTML/CSS、Go 等语言的支持。想了解更多vscode的相关内容,可以阅读本专题下面的文章。

2024.03.14

1587

8

vscode可以写什么语言
vscode可以写什么语言

vscode是一款强大的代码编辑器,支持多种编程语言的开发。通过安装扩展,可以为 JavaScript/TypeScript、Python、Java、C#、PHP、Go、Ruby、Rust、HTML/CSS 等语言提供智能代码补全、调试和格式化等功能。想了解更多vscode的相关内容,可以阅读本专题下面的文章。

2024.03.15

2487

12

vscode中文设置方法
vscode中文设置方法

方法一:在设置页面中,搜索“locale”,并选择“zh-cn”。方法二:按“Ctrl Shift P”快捷键,输入“Configure Display Language”,将语言修改为“zh-cn”。如果上述方法无效,可考虑安装中文插件。想了解更多vscode的相关内容,可以阅读本专题下面的文章。

2024.03.15

1758

14

vscode用途介绍
vscode用途介绍

Visual Studio Code(VSCode)是一款由 Microsoft 开发的多功能文本编辑器,适用于各种编程语言。作为一款开源软件,VSCode 拥有代码高亮、自动补全、调试、Git 集成等强大功能,成为程序员不可或缺的工具。想了解更多vscode的相关内容,可以阅读本专题下面的文章。

2024.03.15

1202

10

vscode和visualstudio的区别
vscode和visualstudio的区别

Visual Studio是一款功能强大的集成开发环境(IDE),适用于专业开发人员进行复杂项目的构建。而VSCode则是一款轻量级的代码编辑器,更适合各种规模的项目开发。想了解更多vscode的相关内容,可以阅读本专题下面的文章。

2024.03.15

1076

8

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程