必须在虚拟机中启用gpu直通、分配≥10gb内存、创建python隔离环境并确保模型路径可写,缺一不可;若使用vmware workstation需手动配置.mvx文件,virtualbox则完全不支持cuda加速。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

要在虚拟机里跑通 CodeGeeX 模型并能本地调用,必须同时满足 GPU 加速支持、内存资源充足、Python 环境隔离和模型加载路径可写这四个硬性条件,缺一不可。
确认虚拟机是否具备 GPU 加速能力
先打开终端执行 nvidia-smi —— 如果报错“NVIDIA-SMI has failed”,说明当前虚拟机未启用 GPU 直通或未安装对应驱动,CodeGeeX 的推理速度将极慢甚至无法启动。
VMware Workstation Pro 默认不支持 GPU 直通,仅 ESXi 或 VMware Fusion(macOS)可配置;VirtualBox 完全不支持 CUDA 加速,【若需 GPU 推理,请直接放弃 VirtualBox,改用 VMware ESXi 或物理机部署】。
如使用 VMware Workstation 17+,需在 .vmx 配置文件末尾手动添加三行:
mks.enableGL = "TRUE"mks.gl.allowBlacklistedDrivers = "TRUE"svga.vramSize = "2048"
添加后必须关闭虚拟机再重启,否则设置不生效。
分配足够内存与交换空间
CodeGeeX-4(7B 参数量)最低需 12GB RAM 才能完成加载,若宿主机总内存 ≤16GB,建议为虚拟机分配 ≥10GB 内存,并额外配置 4GB 交换分区。
执行以下命令创建 swap 文件(以 CentOS/RHEL 为例):
CodeGeeX 2.21.0是智谱AI推出的AI编程助手版本,对Inline Chat功能进行了重大优化,包括UI设计升级、支持流式输出以提升响应速度,并新增“查看思路”按钮以便理解代码原理。同时,该版本在编辑器中新增CodeLens控件,支持一键“解释”代码或“添加注释”。目前该工具对个人开发者免费开放。
sudo dd if=/dev/zero of=/swapfile bs=1G count=4sudo chmod 600 /swapfilesudo mkswap /swapfilesudo swapon /swapfile
为防止重启失效,还需追加到 /etc/fstab:/swapfile none swap sw 0 0
配置 Python 环境与依赖
方法一:使用 conda 创建独立环境(推荐)
下载 Miniconda3(Linux x86_64):wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.shbash Miniconda3-latest-Linux-x86_64.sh -b -p $HOME/miniconda3$HOME/miniconda3/bin/conda init bash
关闭终端重开,执行:conda create -n codegeex python=3.10conda activate codegeex
方法二:纯 pip + venv(适用于 Ubuntu/Debian)
先确保系统级依赖已装:sudo apt update && sudo apt install -y build-essential libssl-dev libffi-dev python3-dev
然后创建环境:python3 -m venv ~/codegeex-envsource ~/codegeex-env/bin/activate
注意:Ubuntu 22.04 及以后版本默认 Python 3.10+,但部分 wheel 包仍需手动编译,【务必在 activate 后再 pip install,否则依赖会装进系统 Python】。
下载并加载 CodeGeeX 模型权重
第一步:从智谱 AI 官方 GitHub 获取模型加载脚本git clone https://github.com/THUDM/CodeGeeX.gitcd CodeGeeX
第二步:下载模型权重(需登录 Hugging Face 并同意许可)
访问 https://www.php.cn/link/48e2b7285e724a6f18786510a46ecea7 → 点击 “Files and versions” → 下载 pytorch_model.bin 和 config.json 到本地 ./models/codegeex-4/ 目录。
第三步:验证模型可加载python -c "from codegeex.model import load_model; load_model('models/codegeex-4')"
若无报错且输出 “Model loaded successfully”,说明路径、格式、权限全部正确。
第四步:运行 Web UI(默认监听 127.0.0.1:8000)python web_server.py --model-path models/codegeex-4 --port 8000
第五步:从宿主机访问虚拟机 Web UI
确保虚拟机网络设为 NAT 模式,并在 VMware/VirtualBox 设置中开启端口转发:
主机端口 8000 → 虚拟机 IP:8000
然后在宿主机浏览器打开 http://localhost:8000 即可交互。










