可通过配置hf镜像源、使用huggingface-cli下载、python离线保存、hfd多线程下载及重定向缓存路径五种方法解决本地运行gpt类模型时的网络、存储与费用问题。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您希望在本地运行GPT类模型，但受限于网络访问、存储路径或费用问题，则可能是由于Hugging Face官方源下载缓慢、缓存默认写入系统盘、或未配置镜像加速机制。以下是解决此问题的步骤：
一、配置HF镜像源与环境变量
通过替换Hugging Face默认请求端点为国内镜像站，可绕过网络限制并显著提升下载速度。该方法无需修改代码，仅需设置全局环境变量即可生效。
1、在Linux或macOS终端中执行以下命令，并将该行追加至~/.bashrc或~/.zshrc中以永久生效：
export HF_ENDPOINT=https://hf-mirror.com
2、在Windows PowerShell中执行：
$env:HF_ENDPOINT="https://hf-mirror.com"
3、验证是否生效：运行echo $HF_ENDPOINT（Linux/macOS）或$env:HF_ENDPOINT（PowerShell），输出应为https://hf-mirror.com。
二、使用huggingface-cli工具下载模型
该命令行工具支持断点续传、指定目录、排除软链接等高级功能，适合批量下载和生产部署场景。
1、安装最新版huggingface_hub：
pip install -U huggingface_hub
2、创建专用模型存储目录（避免占用C盘）：
mkdir -p /data/models/gpt2
3、执行下载（以gpt2为例）：
huggingface-cli download gpt2 --local-dir /data/models/gpt2 --local-dir-use-symlinks False
4、如需下载私有模型，先执行huggingface-cli login并粘贴具备Read权限的Access Token。
三、通过Python脚本离线加载并保存模型
适用于需要预处理、量化或适配特定推理框架的场景。该方式可完全控制模型文件结构，且支持无网络环境下的二次分发。
1、安装必要依赖：
pip install transformers torch accelerate
用于在用户想通过浏览器自动化与 Google Gemini 或 ChatGPT 交互时。触发短语包括“ask Gemini”“ask ChatGPT”“ask GPT”“让...”。
2、运行Python脚本加载并保存模型到自定义路径：
from transformers import AutoTokenizer, AutoModelForCausalLM; tokenizer = AutoTokenizer.from_pretrained("gpt2"); model = AutoModelForCausalLM.from_pretrained("gpt2"); tokenizer.save_pretrained("./offline_gpt2"); model.save_pretrained("./offline_gpt2")
3、确认目录下生成config.json、pytorch_model.bin、tokenizer.json等完整文件。
四、使用hfd工具实现高速稳定下载
hfd是专为Hugging Face设计的增强型下载器，底层基于aria2c多线程引擎，支持自动重试、并发连接与带宽控制，特别适合大模型（如gpt-oss-20b）下载。
1、下载并赋予执行权限：
wget https://hf-mirror.com/hfd/hfd.sh && chmod a+x hfd.sh
2、设置镜像环境变量（同方法一）：
export HF_ENDPOINT=https://hf-mirror.com
3、启动下载（启用4线程，跳过已存在文件）：
./hfd.sh gpt-oss-20b --tool aria2c -x 4
4、下载完成后，模型将解压至当前目录下的gpt-oss-20b子目录，结构清晰，无需额外解包。
五、重定向Hugging Face缓存路径
默认缓存位于用户主目录下的.cache/huggingface/hub，极易导致C盘或根分区爆满。通过修改缓存根目录，可将所有自动下载内容导向大容量磁盘。
1、创建新缓存目录（例如挂载盘）：
mkdir -p /mnt/data/hf_cache
2、设置环境变量覆盖默认路径：
export HF_HOME=/mnt/data/hf_cache
3、验证生效：运行python -c "from huggingface_hub import hf_home; print(hf_home())"，输出应为/mnt/data/hf_cache。
4、此后所有from_pretrained()调用、pipeline初始化、datasets加载均将使用该路径缓存模型与分词器。
