要在华为欧拉系统（openeuler）上成功运行codegeex，需确保x86_64架构、openeuler 24.03 lts及以上版本，安装开发工具与python依赖，升级pip至24.0+，配置cuda 12.4及pytorch 2.3+，下载模型权重并启动服务。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
要在华为欧拉系统（openEuler）上成功运行 CodeGeex——这个由智谱AI开源的代码大模型推理服务，必须先确保底层环境兼容、依赖链完整、模型权重可加载，且服务能稳定监听指定端口。
确认系统架构与版本适配性
打开终端，执行：uname -m 和 cat /etc/os-release | grep VERSION_ID。
CodeGeex 官方仅提供 x86_64 架构下的 Python 轮子包（wheel）和预编译二进制依赖，【aarch64 或 RISC-V 架构无法直接运行官方 pip 包】；当前 openEuler 24.03 LTS 及以上版本已通过 PyTorch 2.3+ CUDA 12.4 兼容验证，若显示 VERSION_ID 为 22.03 或更早，请先升级系统或改用源码编译方式。
安装基础依赖与 Python 环境
执行：sudo dnf groupinstall "Development Tools" -y → sudo dnf install python3-pip python3-devel gcc-c++ git wget -y。
这一步必须完成，否则后续 pip 编译 torch 或 transformers 时会因缺失 python3-config 或 c++17 标准支持 直接报错退出。
运行 python3 -m pip install --upgrade pip setuptools wheel，将 pip 升级至 24.0 以上版本——旧版 pip 在解析 CodeGeex 所依赖的 flash-attn==2.6.3 时会跳过 CUDA 构建逻辑，导致 GPU 加速失效。
配置 CUDA 与 PyTorch
方法一（推荐，适用于 NVIDIA GPU 服务器）：
访问 NVIDIA CUDA Toolkit Archive，下载与 openEuler 内核匹配的 runfile 安装包（如 cuda_12.4.1_550.54.15_linux.run），执行：sudo sh cuda_12.4.1_550.54.15_linux.run --silent --override --no-opengl-libs。
随后运行：echo 'export PATH=/usr/local/cuda/bin:$PATH' | sudo tee -a /etc/profile.d/cuda.sh → source /etc/profile.d/cuda.sh。
CodeGeeX 2.21.0是智谱AI推出的AI编程助手版本，对Inline Chat功能进行了重大优化，包括UI设计升级、支持流式输出以提升响应速度，并新增“查看思路”按钮以便理解代码原理。同时，该版本在编辑器中新增CodeLens控件，支持一键“解释”代码或“添加注释”。目前该工具对个人开发者免费开放。
最后安装 PyTorch：pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124。
方法二（无 GPU 或仅测试 CPU 推理）：
跳过 CUDA 安装，直接执行：pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu。注意：CPU 模式下加载 codegeex2-6b 模型需至少 16GB 内存，低于此值将触发 OOM Killer 杀死进程。
下载并部署 CodeGeex 模型服务
第一步：创建专用目录并克隆仓库：mkdir -p ~/codegeex && cd ~/codegeex && git clone https://github.com/THUDM/CodeGeeX.git。
第二步：进入服务目录：cd CodeGeeX/codegeex/server。
第三步：安装服务依赖：pip3 install -r requirements.txt。其中 vllm==0.4.2 会自动编译 CUDA kernel，若此前未正确配置 nvcc 路径，此处会卡在 building 'vllm._C' extension 并报错 nvcc not found。
第四步：下载模型权重（以 codegeex2-6b 为例）：huggingface-cli download --resume-download THUDM/codegeex2-6b --local-dir ./models/codegeex2-6b。该命令需提前配置 Hugging Face Token（huggingface-cli login），否则会因限速导致下载中断超时。
第五步：启动服务：python3 app.py --model-path ./models/codegeex2-6b --host 0.0.0.0 --port 8000 --trust-remote-code。
