腾讯混元怎么接入Open WebUI-人工智能-PHP中文网

必须通过适配层将混元api转换为openai兼容格式才能在open webui中稳定调用，直接填入混元地址会返回404或空响应；需部署代理层（如llama-server或fastapi轻量代理），并正确配置host.docker.internal、端口及模型映射。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

腾讯混元怎么接入open webui

要在Open WebUI中接入腾讯混元大模型，必须绕过其原生不支持混元API格式的限制，通过适配层将混元的请求/响应结构转换为OpenAI兼容格式——这是唯一能稳定调用混元的路径，直接填入混元API地址会返回404或空响应。

确认混元API服务已就绪

打开浏览器访问 http://localhost:8000/docs（若混元OCR或混元翻译等WebUI服务运行在本地默认端口），看到Swagger文档页面即表示API服务已启动。注意：混元各产品线（如HY-MT1.5、Hunyuan-OCR-WEBUI）默认监听端口不同，不是所有混元服务都默认开放8000端口，需根据你实际部署的服务确认端口（例如混元翻译HY-MT1.5常用8080，混元OCR常用8000）。

若页面打不开，回到终端检查服务进程是否存活，重点确认是否启用了--api参数或对应API脚本（如2-API接口-pt.sh）。

部署OpenAI兼容代理层

方法一：使用官方推荐的llama.cpp + openai-compatible-server桥接（适用于混元文本模型）

第一步：从GitHub下载已编译好的llama-server（支持混元Qwen系列权重的版本），解压后进入目录。

第二步：执行命令加载混元模型并启用OpenAI兼容API：

./llama-server -m ./models/hunyuan-7b.Q4_K_M.gguf --host 0.0.0.0 --port 8081 --ctx-size 4096 --parallel 4 --no-mmap

这一步必须指定--host 0.0.0.0，否则Open WebUI容器内无法访问宿主机服务；若省略此参数，默认只监听127.0.0.1，导致连接被拒绝。

方法二：用Python轻量代理（适用于混元OCR、混元翻译等已有HTTP API的服务）

Qwen Logo Designer

商业LOGO设计技能：依据用户描述，使用阿里云百炼千问图像模型(qwen‑image‑2.0‑pro)生成专业商业LOGO图片。适用场景：设计公司/品牌LOGO、生成商业标识图标、创建品牌视觉符号、按描述生成logo图片。支持自定义尺寸、风格、负面提示词等。

下载

新建proxy.py，写入以下内容：

from fastapi import FastAPI, Request, Response
import httpx
app = FastAPI()
@app.post("/v1/chat/completions")
async def proxy_chat(request: Request):
  body = await request.json()
  # 将OpenAI格式body转为混元所需格式（如把messages转为prompt+system）
  hy_body = {"prompt": body["messages"][-1]["content"], "system": "你是一个专业助手"}
  async with httpx.AsyncClient() as client:
    resp = await client.post("http://localhost:8000/v1/chat", json=hy_body)
    return Response(content=resp.content, status_code=resp.status_code, headers=dict(resp.headers))

运行uvicorn proxy:app --host 0.0.0.0 --port 8082，该代理将把Open WebUI发来的/v1/chat/completions请求，转发给混元真实API并做字段映射。

配置Open WebUI连接混元代理

启动Open WebUI时，通过环境变量注入代理地址：

docker run -d -p 3000:8080 --name openwebui -e OLLAMA_BASE_URL=http://host.docker.internal:8081 -v openwebui:/app/backend/data --restart always ghcr.io/open-webui/open-webui:main

关键点：Windows下必须用host.docker.internal而非localhost，否则容器无法解析宿主机服务；Mac/Linux用户可改用docker.for.mac.host.internal或host.docker.internal（取决于Docker Desktop版本）。

进入Open WebUI网页界面（http://localhost:3000），点击左下角「设置」→「模型」→「添加模型」，填写：

模型名称：hunyuan-7b
基础URL：http://localhost:8081（若代理运行在宿主机）
API密钥：留空（混元原生API通常无需密钥）

保存后，在聊天界面左上角模型选择器中应出现hunyuan-7b，选中即可开始对话。