ubuntu ai开发运维核心是“稳、快、可管”:选22.04 lts最小化安装并加固,配docker官方源与镜像加速,用ollama+open webui容器化部署模型服务,辅以日志监控、自动备份和ssl安全加固,构建可验证、可回滚、可文档化的端到端流水线。

Ubuntu 服务器上做AI开发运维,核心是“稳、快、可管”——系统要稳定支撑GPU和模型服务,部署要快速可复现,运维要能监控、调优、备份。不是堆工具,而是搭一条从代码到服务的可靠流水线。
基础环境:精简+加固+就绪
选Ubuntu 22.04 LTS(长期支持,驱动和CUDA兼容性成熟),最小化安装,不装图形界面。装完立刻执行:
- 更新并升级:
sudo apt update && sudo apt upgrade -y - 装基础工具:
sudo apt install -y curl wget git vim net-tools htop tmux - 配国内源(阿里云):
sudo sed -i 's/archive.ubuntu.com/mirrors.aliyun.com/g' /etc/apt/sources.list - 关掉不用的服务(如snapd、bluetooth):
sudo systemctl disable --now snapd bluetooth - 设时区、同步时间:
sudo timedatectl set-timezone Asia/Shanghai && sudo timedatectl set-ntp on
Docker + Compose:统一运行时底座
AI服务大多容器化交付,Docker是事实标准。别用apt install docker.io(版本旧),走官方源:
- 加GPG密钥和仓库源(按官方步骤)
sudo apt install -y docker-ce docker-ce-cli containerd.io docker-compose-plugin- 把当前用户加进docker组:
sudo usermod -aG docker $USER,登出重进生效 - 配镜像加速(国内必做):
/etc/docker/daemon.json里写入阿里云等镜像地址,然后sudo systemctl restart docker
AI服务部署:模型+WebUI+可观测性
以Ollama + Open WebUI为例(轻量、易上手、支持主流模型):
Ubuntu 26.04 LTS(代号“Resolute Raccoon”)是Canonical于2026年4月23日发布的下一代长期支持版操作系统,提供长达10年的技术支持。它搭载Linux 7.0内核与GNOME 50桌面环境,全面转向Wayland协议,并引入Rust重写的核心工具以增强安全性。官方提供适用于AMD64和ARM64架构的桌面及服务器ISO镜像,是追求前沿技术与极致稳定的开发者
- 装Ollama:
curl -fsSL https://ollama.com/install.sh | sh - 拉模型(比如Qwen2.5或DeepSeek-R1):
ollama pull qwen2.5:7b - 改Ollama服务配置,允许远程访问(编辑
/etc/systemd/system/ollama.service,在[Service]下加Environment="OLLAMA_HOST=0.0.0.0:11434") - 用Docker Compose起Open WebUI:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v ~/.ollama:/root/.ollama -e OLLAMA_BASE_URL=http://host.docker.internal:11434 --name webui --restart always ghcr.io/open-webui/open-webui:main
这样就能通过http://服务器IP:3000访问对话界面,模型跑在本地,数据不出内网。
运维保障:日志、监控、备份、续期
光跑起来不够,得看得见、控得住、丢不了:
-
日志集中:用
journalctl -u ollama -f查服务日志;WebUI日志挂载卷后可定期归档 -
基础监控:写个简单脚本用
nvidia-smi、free -h、df -h定时采集,推到Telegram或存本地CSV -
自动备份:每天凌晨压缩
~/.ollama/models和~/open-webui数据目录,用rsync推到另一台机器或NAS -
证书与安全:若暴露到公网,用Nginx反代+Certbot自动签SSL,加
auth_basic密码保护入口
整套下来,没碰复杂编译,全靠标准化组件拼接,既满足本地AI开发调试,也扛得住小团队日常推理调用。关键是每一步都可验证、可回滚、可文档化。










