旧电脑改AI服务器需先确认CPU支持AVX2、内存≥8GB、PCIe插槽兼容计算卡；安装Ubuntu Server LTS；配置RAID/存储优化；部署NVIDIA驱动与Docker；最后依硬件选llama.cpp（CPU）或Ollama（GPU）部署量化模型。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您手头有一台闲置的旧电脑，希望将其改造成一台可运行AI模型的本地服务器，但又受限于预算和硬件条件，则很可能是遇到了兼容性、驱动支持或系统稳定性问题。以下是完成这一目标的具体操作路径：
一、硬件评估与最低配置确认
在组装前必须明确旧设备是否满足基础运行要求，避免因硬件不达标导致后续部署失败。关键指标包括CPU架构支持、内存容量、存储类型及PCIe插槽可用性。老旧设备虽无法运行全量FP16大模型，但通过量化模型与轻量框架仍可实现推理功能。
1、检查CPU是否为x86_64架构且支持AVX2指令集（可通过终端执行cat /proc/cpuinfo | grep avx2验证）。
2、确认内存不低于8GB，若仅4GB则需预先配置swap分区以防止OOM崩溃。
3、核查主板是否具备PCIe x16插槽，并确认其版本（如PCIe 2.0以上）可兼容Tesla P4、P40或RTX 3060等二手计算卡。
4、使用sudo lshw -short命令列出全部硬件信息，重点关注显卡型号、SATA/M.2接口状态及网卡驱动加载情况。
二、操作系统选型与安装准备
Linux发行版是AI服务器首选，因其内核调度效率高、资源占用低且对Ollama、llama.cpp等主流框架原生支持良好。Ubuntu Server LTS版本提供长期安全更新，适合7×24小时运行场景；若需图形界面管理NAS或WebUI服务，可选用Debian 12或Fedora Server。
1、从官网下载Ubuntu Server 22.04.4 LTS镜像（https://releases.ubuntu.com/22.04.4/ubuntu-22.04.4-live-server-amd64.iso）。
2、使用Ventoy工具制作多启动U盘，将ISO文件直接拷贝至U盘根目录即可启动安装。
3、BIOS中关闭Secure Boot并启用Legacy/CSM模式（部分老主板需此设置才能识别USB启动项）。
4、安装过程中选择“OpenSSH server”与“systemd-resolved”组件，跳过图形桌面安装以节省资源。
三、RAID与存储优化配置
对于多硬盘旧设备，合理组织存储结构可提升数据安全性与I/O吞吐能力。RAID 1提供镜像冗余，适用于重要模型文件存放；若仅单盘则应启用ext4日志功能并禁用atime更新以延长SSD寿命。
1、安装时进入“Storage configuration”选项，选择“Create volume group”并添加所有目标硬盘。
2、创建逻辑卷（LV）分配根分区（/）至少30GB，/home分区挂载模型缓存路径，建议预留100GB以上空间。
用于在用户想通过浏览器自动化与 Google Gemini 或 ChatGPT 交互时。触发短语包括“ask Gemini”“ask ChatGPT”“ask GPT”“让...”。
3、安装完成后执行sudo tune2fs -o journal=writeback /dev/mapper/ubuntu--vg-root启用写回式日志加速。
4、编辑/etc/fstab，在对应挂载行末尾添加noatime,nodiratime参数减少元数据写入频率。
四、驱动与基础工具链部署
旧平台常存在NVIDIA显卡驱动缺失或内核模块冲突问题，需手动适配驱动版本。同时安装必要的编译工具与容器运行时，为后续Ollama或llama.cpp部署铺平道路。
1、执行sudo ubuntu-drivers autoinstall自动匹配兼容驱动，若失败则手动下载对应版本.run文件（如NVIDIA-Linux-x86_64-535.129.03.run）。
2、卸载nouveau驱动：echo "blacklist nouveau" | sudo tee /etc/modprobe.d/blacklist-nouveau.conf，并执行sudo update-initramfs -u。
3、安装Docker CE：curl -fsSL https://get.docker.com | sh，随后加入当前用户组：sudo usermod -aG docker $USER。
4、安装基础开发包：sudo apt install -y build-essential git curl wget htop tmux python3-pip。
五、AI框架部署双路径方案
针对不同硬件能力提供两种部署策略：纯CPU方案适用于无独显的老设备，GPU加速方案面向已加装计算卡的升级机型。两者均基于开源生态，无需付费授权。
1、CPU路径（llama.cpp）：下载预编译二进制包（https://github.com/ggerganov/llama.cpp/releases/download/b8705/llama-b8705-bin-ubuntu-x64.zip），解压后运行./llama-server --model ./gemma-4-E4B-it-Q3_K_S.gguf --port 8080启动HTTP API服务。
2、GPU路径（Ollama）：从https://ollama.com/download获取deb包，安装后执行ollama run gemma:4b-instruct-q4_K_M拉取并运行量化模型。
3、验证服务可用性：使用curl http://localhost:11434/api/tags检查Ollama服务状态，或访问http://localhost:8080/docs查看llama.cpp Swagger UI界面。
4、设置开机自启：对llama-server创建systemd服务单元文件，指定WorkingDirectory与ExecStart路径，启用sudo systemctl enable llama-server。
