文心快码离线部署需先确认gpu驱动（nvidia 470+）、pytorch cuda可用性及docker≥24.0，再导入离线包、修正config.yaml路径，构建镜像并运行容器，最后通过curl验证健康状态。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
线下环境更新文心快码需绕过云端依赖，直接在隔离网络中完成模型加载、服务封装与接口暴露，避免因网络不可达导致部署中断或密钥泄露。
确认离线环境基础组件可用性
登录目标服务器，执行 nvidia-smi 查看 GPU 驱动状态；若无输出或报错，说明驱动未就绪，【必须先安装 NVIDIA 470+ 驱动并重启】，否则后续所有 CUDA 相关操作均失败。
运行 python3 -c "import torch; print(torch.cuda.is_available())"，返回 True 才代表 PyTorch 可调用 GPU；若为 False，需检查 CUDA 版本是否匹配（文心快码要求 CUDA 11.8 或 12.0）。
确认 docker --version 输出不低于 24.0，旧版 Docker 不支持文心快码镜像的多阶段构建特性，强行使用会导致容器启动后立即退出。
导入预下载的文心快码离线包
将百度官方发布的 wenxin-kaima-offline-v4.5.2.tar.gz（含模型权重、tokenizer、推理引擎、API 封装层）通过物理介质或内网 FTP 传入服务器任意目录，例如 /opt/wenxin-kaima/。
解压命令：tar -xzf wenxin-kaima-offline-v4.5.2.tar.gz -C /opt/wenxin-kaima/；解压后进入 /opt/wenxin-kaima/docker/ 目录，该路径下存在 Dockerfile.offline 和 config.yaml。
【注意：config.yaml 中 model_path 必须指向解压后的绝对路径，如 /opt/wenxin-kaima/models/ernie-4.5-turbo，路径错误将导致容器内模型加载失败且无明确报错】
构建并启动离线服务容器
第一步：切换至 /opt/wenxin-kaima/docker/ 目录，执行 docker build -f Dockerfile.offline -t wenxin-kaima:offline .；构建过程不联网，全部依赖本地文件，耗时约 8–12 分钟（RTX 4090×2 环境实测）。
第二步：构建成功后，运行 docker run -d --gpus all -p 8080:8080 --name kaima-offline -v /opt/wenxin-kaima/config.yaml:/app/config.yaml wenxin-kaima:offline；容器启动后自动加载模型并监听 8080 端口。
第三步：验证服务是否就绪——执行 curl http://localhost:8080/health，返回 {"status":"healthy","model":"ernie-4.5-turbo"} 即表示部署完成。
