怎样用ChatGPTNextWeb连DeepSeek V4_本地服务端地址配置【前端】

秋雪姑娘_7016

秋雪姑娘_7016

2026-04-26

846人浏览

原创

chatgpt-next-web无法连接本地deepseek v4,主因是前端配置与后端服务地址/路径不匹配:一、ollama需设接口为http://127.0.0.1:11434、模型名一致且ollama_origins=*;二、llama.cpp server填http://127.0.0.1:8080/v1并留空api密钥;三、fastapi服务须确保路由为/chat/completions、启用cors;四、nginx反代可绕过cors;五、须用curl验证接口返回含choices[0].message.content。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

怎样用chatgptnextweb连deepseek v4_本地服务端地址配置【前端】

如果您已成功在本地运行 DeepSeek V4 模型服务(例如通过 Ollama 或自建 FastAPI/llama.cpp 后端),但 ChatGPT-Next-Web 前端无法连接或提示“failed to fetch”,则问题通常出在前端配置与本地服务端地址不匹配。以下是针对 DeepSeek V4 本地部署场景的多种前端地址配置方法:

一、使用 Ollama 本地服务(标准端口 11434)

当 DeepSeek V4 模型通过 ollama run deepseek-v4:xxx 启动后,Ollama 默认以 HTTP REST API 形式暴露服务,基础地址为 http://127.0.0.1:11434。ChatGPT-Next-Web 需按 OpenAI 兼容协议对接该端点。

1、打开 ChatGPT-Next-Web 设置页面,进入「基础设置」;

2、将「服务商」选项设为 OpenAI;

3、在「接口地址」字段中填入:http://127.0.0.1:11434;

4、在「自定义模型名」和「模型」两项中均填写:deepseek-v4:7b(请根据实际拉取的标签替换,如 deepseek-v4:14b 或 deepseek-v4:32b);

5、确保环境变量 OLLAMA_ORIGINS 已设为 *,且 Ollama 服务已重启生效。

二、使用自建 llama.cpp + server(自定义端口)

若您采用 llama.cpp 的 server 模式运行 DeepSeek V4(如通过 ./server -m ./models/deepseek-v4.Q5_K_M.gguf -c 4096 -ngl 99),其默认监听地址为 http://127.0.0.1:8080,且兼容 OpenAI `/v1/chat/completions` 路径。

1、确认 server 进程正在运行,并可通过浏览器访问 http://127.0.0.1:8080/health 返回 JSON 健康状态;

2、在 ChatGPT-Next-Web 设置中,「服务商」仍选 OpenAI;

3、「接口地址」填入:http://127.0.0.1:8080/v1(注意末尾 /v1 不可省略);

4、「模型」字段必须与 server 启动时加载的模型文件名一致,例如:deepseek-v4.Q5_K_M.gguf;

5、禁用「API 密钥」输入框(留空),因本地 server 默认无需鉴权。

三、使用 FastAPI 封装的 DeepSeek V4 接口(含 /chat/completions 路由)

部分用户基于 Transformers + FastAPI 构建了专用推理服务,其路径结构可能与 OpenAI 完全对齐,但基础 URL 和模型标识需严格匹配代码定义。

1、检查您的 FastAPI 服务文档(如 http://127.0.0.1:8000/docs),确认存在 POST /chat/completions 端点;

前端设计优化skill
前端设计优化skill

前端设计与 UI/UX 全方位优化专家。覆盖视觉层次、排版系统、色彩理论、响应式布局、交互体验、动画动效、无障碍访问、性能优化八大维度,帮助开发者将普通页面升级为高品质产品级界面。前端设计与 UI/UX 全方位优化专家。覆盖视觉层次、排版系统、色彩理论、响应式布局、交互体验、动画动效、无障碍访问、性能优化八大维度,帮助开发者将普通页面升级为高品质产品级界面。

下载

2、在 ChatGPT-Next-Web 中,「接口地址」应填写至根路径,例如:http://127.0.0.1:8000(不含 /v1 或 /api);

3、「模型」字段须与 FastAPI 代码中 model_name 参数值完全一致,如:deepseek-v4-hf;

4、若服务启用 CORS 限制,请在 FastAPI 启动时添加中间件:app.add_middleware(CORSMiddleware, allow_origins=["*"], allow_methods=["*"]);

5、避免在「API 密钥」栏填写任何内容,除非您的 FastAPI 显式校验 Authorization: Bearer xxx 头。

四、绕过跨域限制:反向代理配置(Nginx)

当直接访问本地服务触发浏览器 CORS 错误(如 “No 'Access-Control-Allow-Origin' header”),可在本机部署 Nginx 作为代理层,统一暴露为同源请求。

1、创建 Nginx 配置片段(如 /usr/local/etc/nginx/servers/deepseek.conf):

2、在 location / 块中添加:proxy_pass http://127.0.0.1:11434/;;

3、强制添加响应头:add_header 'Access-Control-Allow-Origin' '*';;

4、重载 Nginx:sudo nginx -s reload;

5、将 ChatGPT-Next-Web 的「接口地址」改为:http://127.0.0.1:8888(即 Nginx 监听端口)。

五、验证本地服务可达性与路径兼容性

ChatGPT-Next-Web 依赖标准 OpenAI v1 接口结构,若服务返回 404 或格式错误,需确认后端是否完整实现 /chat/completions 及必要字段(如 choices[0].message.content)。

1、在终端执行测试命令:curl -X POST http://127.0.0.1:11434/api/chat -H "Content-Type: application/json" -d '{"model":"deepseek-v4:7b","messages":[{"role":"user","content":"Hello"}]}';

2、观察响应是否含 message.content 字段及非空字符串;

3、若返回 404,说明服务未挂载到 /api/chat,需调整为 /v1/chat/completions 路径或修改前端适配逻辑;

4、若返回 500 或空 content,请检查模型是否加载完成、显存是否溢出、context length 是否超限。

前端入门到VUE实战笔记:立即使用
在学习笔记中,你将探索 前端 的入门与实战技巧!

相关专题

更多
python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2563

5

前端如何实现即时通讯
前端如何实现即时通讯

实现即时通讯的方法有WebSocket、Long Polling、Server-Sent Events、WebRTC等等。详细介绍:1、WebSocket,它可以在客户端和服务器之间建立持久连接,实现实时的双向通信,前端可以使用 WebSocket API来创建WebSocket连接,并通过发送和接收消息来实现即时通讯;2、Long Polling,是一种模拟实时通信的技术等等。

2023.10.09

5563

6

前端和后端的区别
前端和后端的区别

前端关注的是用户界面的设计和交互,而后端则注重数据处理和逻辑控制。想了解更多前端后端的相关内容,可以阅读本专题下面的文章。

2024.03.19

6570

13

php和前端的关联介绍
php和前端的关联介绍

php既可以作为前端语言,也可以作为后端语言。想了解更多php和前端的相关内容,可以阅读本专题下面的文章。

2024.03.22

6218

10

前端外包工作内容有哪些
前端外包工作内容有哪些

前端外包工作内容包括:1. 网站和应用程序开发;2. 用户界面和交互设计;3. 用户体验优化;4. 设计和视觉开发;5. 跨浏览器兼容性;6. 性能优化;7. 维护和更新;8. 项目管理和沟通。想了解更多前端的相关内容,可以阅读本专题下面的文章。

2024.05.22

883

5

C语言变量命名
C语言变量命名

c语言变量名规则是:1、变量名以英文字母开头;2、变量名中的字母是区分大小写的;3、变量名不能是关键字;4、变量名中不能包含空格、标点符号和类型说明符。php中文网还提供c语言变量的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

3289

3

c语言入门自学零基础
c语言入门自学零基础

C语言是当代人学习及生活中的必备基础知识,应用十分广泛,本专题为大家c语言入门自学零基础的相关文章,以及相关课程,感兴趣的朋友千万不要错过了。

2023.07.25

2348

9

c语言运算符的优先级顺序
c语言运算符的优先级顺序

c语言运算符的优先级顺序是括号运算符 > 一元运算符 > 算术运算符 > 移位运算符 > 关系运算符 > 位运算符 > 逻辑运算符 > 赋值运算符 > 逗号运算符。本专题为大家提供c语言运算符相关的各种文章、以及下载和课程。

2023.08.02

1280

5

c语言数据结构
c语言数据结构

数据结构是指将数据按照一定的方式组织和存储的方法。它是计算机科学中的重要概念,用来描述和解决实际问题中的数据组织和处理问题。数据结构可以分为线性结构和非线性结构。线性结构包括数组、链表、堆栈和队列等,而非线性结构包括树和图等。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.09

1238

4

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程