Fitten Code在Mac系统下的部署:适配M系列芯片的注意事项

老婷姑娘_9841

老婷姑娘_9841

2026-06-28

628人浏览

原创

必须确认arm64架构、启用mps后端、使用miniforge arm64版conda、指定device="mps"并设max_memory_mb匹配实际内存,否则将触发设备不匹配、加载失败或推理卡死。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

fitten code在mac系统下的部署:适配m系列芯片的注意事项

在Mac系统上部署Fitten Code代码助手时,必须针对M系列芯片的ARM64架构、统一内存(UMA)和Metal加速特性做专项适配,否则会触发PyTorch设备不匹配、模型加载失败或推理卡死等典型错误。

确认基础环境是否兼容

打开终端,依次执行以下命令验证关键组件:

python3 --version → 确保输出 Python 3.10 或 3.11(【Python 3.12暂不支持部分Fitten Code依赖】);

conda --version → 若未安装Conda,【切勿使用Anaconda官方x86包】,改用Miniforge ARM64版;

python3 -c "import torch; print(torch.backends.mps.is_available())" → 必须返回 True,否则Metal后端未启用,后续所有推理将退化至CPU,速度下降5倍以上。

创建专用虚拟环境

这一步不能跳过:Fitten Code对依赖版本极其敏感,混用全局包极易导致d2l、transformers或tokenizers冲突。

运行 conda create -n fitcode python=3.10 创建独立环境;

执行 conda activate fitcode 激活;

输入 pip install --upgrade pip setuptools wheel 确保构建工具链最新;

注意:若此前用过pip install -e .方式安装过其他AI项目,需先执行 pip uninstall -y fitcode d2l transformers,避免残留.pth文件干扰。

安装Fitten Code核心依赖

方法一:直接安装官方发布版(推荐新手)

pip install fitten-code==0.4.2 → 该版本已内置M系列芯片适配补丁,包含metal-compatible tokenizer与mps-aware dataloader;

方法二:从源码安装(适合需调试或定制模型结构的用户)

git clone https://github.com/fitten-ai/fitten-code.git;

cd fitten-code;

Fitten Code1.0.3
Fitten Code1.0.3

Fitten Code 1.0.3是一款由清华博士团队打造的AI编程助手,基于国产计图(Jittor)深度学习框架开发。它支持VS Code、JetBrains系列等主流IDE及80多种编程语言。核心功能包括智能代码补全、注释生成、代码解释、Bug检测、单元测试生成等,旨在全方位提升开发效率。该工具对个人用户免费开放。

下载

修改 pyproject.toml 中 [project.dependencies] 区块,将 torch>=2.0.0 替换为 torch==2.3.1+mps;

执行 pip install -e . 安装;

【关键提醒】源码安装前必须先运行 xcode-select --install,否则编译C++扩展会失败且报错信息极不明确。】

配置模型路径与设备参数

第一步:下载Fitten Code官方模型权重(如 fitten-code-7b-q4_k_m),解压后放入 ~/models/fitten-7b/ 目录;

第二步:编辑 ~/.fitten/config.yaml,确保以下字段准确无误:

model_path: "/Users/yourname/models/fitten-7b"

device: "mps" ← 【此处绝不可填 cpu 或 cuda,填错将无法调用GPU加速】

max_memory_mb: 32768 ← 根据你Mac的实际内存设定,M2 Pro(16GB)建议设为24576,M3 Max(64GB)可设为49152;

第三步:运行 python -m fitten.cli --list-models 验证模型能否被识别;若报错 OSError: unable to open file,说明 model_path 路径中存在中文或空格,需改为纯英文路径。

启动本地服务并验证响应

① 执行 python -m fitten.server --host 127.0.0.1 --port 8000 启动API服务;

② 等待终端出现 “Server started at http://127.0.0.1:8000” 提示后,在新终端中运行 curl -X POST http://127.0.0.1:8000/v1/completions \

-H "Content-Type: application/json" \

-d '{"prompt":"def fibonacci(n):","max_tokens":32}';

③ 正常响应应为JSON格式,含 choices 字段且 text 值为有效Python代码;若返回 empty response 或 timeout,检查 config.yaml 中 device 是否拼写为 mps(不是 MPS 或 mps:0);

④ 关闭服务:按 Ctrl+C 停止进程,终端将自动退出。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

fitten code

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

2026.10.16

20

10

OpenJDK怎么配置Java开发环境
OpenJDK怎么配置Java开发环境

怎样用OpenJDK搭建开发环境?本专题介绍版本选择、下载安装、环境变量配置和编译运行验证,帮助你理清JDK的作用及基本配置流程,并通过简单程序检查环境是否可用,为后续项目开发做好准备。

2026.10.16

20

10

OpenJDK怎么部署Java应用
OpenJDK怎么部署Java应用

Java项目开发完成后,怎样部署到目标环境并正常运行?本专题介绍OpenJDK应用部署流程,涵盖运行环境准备、版本兼容检查、应用打包、启动参数配置和日志查看,帮助你理清部署前后的操作顺序,减少环境差异造成的运行问题。

2026.10.16

0

10

Revel框架模板渲染与表单验证
Revel框架模板渲染与表单验证

本专题围绕Revel框架视图层开发,介绍模板语法、变量输出、布局复用、表单提交、参数绑定与验证规则,帮助开发者完成安全规范的页面交互。

2026.10.16

0

15

Revel框架MVC路由与控制器
Revel框架MVC路由与控制器

本专题聚焦Revel框架MVC核心机制,讲解路由定义、控制器Action、参数绑定、请求响应和反向路由,并结合常见场景梳理接口请求处理流程。

2026.10.16

0

15

Revel框架入门与安装配置
Revel框架入门与安装配置

本专题从Revel框架环境搭建讲起,系统介绍命令行工具安装、项目创建、目录结构、配置文件及热代码重载,帮助开发者快速完成首个Go Web应用。

2026.10.16

20

15

Linux 新手先学哪些命令
Linux 新手先学哪些命令

Linux新手命令专题汇集终端基础、文件目录操作、文本查看、软件安装和权限管理等入门文章,帮助按实际任务练习常用命令并建立命令行操作习惯。

2026.10.15

20

20

MySQL 忘记密码怎么办
MySQL 忘记密码怎么办

MySQL忘记密码专题汇集不同版本与系统下的root密码重置方法,覆盖MySQL 5.7、8.0、Mac、Linux及本地集成环境,并提示恢复权限与重新登录的检查步骤。

2026.10.15

20

18

Vue.js 中 ref 和 reactive 的区别
Vue.js 中 ref 和 reactive 的区别

Vue.js中ref和reactive的区别专题汇集两种响应式API的定义、访问方式、对象解构、侦听与性能取舍等文章,帮助结合实际状态类型选择合适写法。

2026.10.15

20

20

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Fitten Code官方手册
Fitten Code官方手册

共0课时 | 0人学习

安装 Xdebug 并配置 phpstorm
安装 Xdebug 并配置 phpstorm

共1课时 | 186人学习

PostgreSQL 教程
PostgreSQL 教程

共48课时 | 20.5万人学习