translategemma可本地运行，保障敏感文档安全；需python 3.10/3.11、cuda 12.1+ pytorch及量化模型；支持纯文本、markdown代码块保留、多文件批量三种处理方式。
你需要把英文技术文档快速转成准确、术语统一的中文，同时保留代码块和格式结构，TranslateGemma能直接在本地运行，不上传原文，适合处理含敏感API密钥或内部架构说明的文档。
准备运行环境
安装支持CUDA 12.1+的PyTorch，并确认nvidia-smi能识别GPU。CPU模式虽可运行，但翻译一篇2000词的Markdown文档需17分钟以上，GPU下仅需92秒。【必须使用Python 3.10或3.11，3.12因tokenizers库兼容问题会报错】
执行命令：pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
接着安装核心依赖：pip install transformers accelerate sentencepiece protobuf
下载并加载模型
从Hugging Face Hub获取量化版模型，节省显存占用：git lfs install → git clone https://huggingface.co/google/translate-gemma-2b-it-q4_k_m
这一步不能跳过模型校验——若sha256校验失败，后续解码会随机崩在第37行或第158行，表现为输出中文夹杂乱码符号“”。
加载时指定device_map="auto"，让accelerate自动分配显存：from transformers import AutoModelForSeq2SeqLM, AutoTokenizer; model = AutoModelForSeq2SeqLM.from_pretrained("./translate-gemma-2b-it-q4_k_m", device_map="auto"); tokenizer = AutoTokenizer.from_pretrained("./translate-gemma-2b-it-q4_k_m")
处理技术文档文本
方法一：纯文本直译（适合无格式的API参数说明）
将原文按句号、换行、分号切分为独立语句，每句单独送入模型。避免整段输入——模型上下文窗口仅2048 token，长段落会导致前半句丢失主语。
方法二：保留代码块的Markdown处理（推荐用于含代码示例的文档）
第一步：用正则提取```lang```包裹的代码块，替换成唯一占位符如
第二步：对剩余纯文本调用model.generate()，设置max_new_tokens=512、do_sample=False、temperature=0.001；
第三步：把占位符逐个替换回原始代码块——【千万不能用字符串全局替换，否则注释里的类似标记会被误替换】；
第四步：对生成结果做后处理，把“function（）”修正为“function()”，删除多余空格。
方法三：批量处理多文件
写个循环遍历docs/目录下所有.md文件，每篇生成同名zh-CN.md。注意：中文路径名会导致tokenizer.decode()返回None，文件名必须全英文。
