Mac Studio AI — 功能最强大的本地 AI 计算设备

Mac Studio 是运行本地 AI 的最佳硬件平台。搭载 M4 Ultra 芯片与 256GB 统一内存的 Mac Studio 可流畅运行参数量达 120B+ 的大语言模型；而配备 M3 Ultra 芯片与 512GB 内存的 Mac Studio，则能加载在其他平台需依赖 4–8 块 NVIDIA A100 才能运行的前沿模型。Mac Studio 在单一统一内存池中完成全部计算，彻底消除 PCIe 带宽瓶颈。

单台 Mac Studio 即为性能巨擘；多台 Mac Studio 协同工作，即可构建高效 AI 集群。

面向 AI 工作负载的 Mac Studio 配置推荐

配置你的 Mac Studio

pip install ollama-herd    # 在你的 Mac Studio 上安装
herd                       # 启动 Mac Studio 作为路由节点（监听端口 11435）
herd-node                  # 连接额外的 Mac Studio 或其他设备

Mac Studio 设备可在本地网络中自动发现彼此。

为 Mac Studio 添加图像生成能力

uv tool install mflux           # Flux 模型（在 Mac Studio M4 Ultra 上 512px 分辨率下约耗时 5 秒）
uv tool install diffusionkit    # 在 Mac Studio 上运行 Stable Diffusion 3 / 3.5

使用 Mac Studio 进行 AI 推理

Mac Studio 大语言模型推理 — 运行最大规模模型

from openai import OpenAI

# 连接到正在运行 Ollama Herd 的 Mac Studio
mac_studio = OpenAI(base_url="http://mac-studio:11435/v1", api_key="not-needed")

# 120B 模型 — 在配备 256GB 统一内存的 Mac Studio M4 Ultra 上运行流畅
response = mac_studio.chat.completions.create(
    model="gpt-oss:120b",  # 完全加载至 Mac Studio 统一内存中
    messages=[{"role": "user", "content": "Mac Studio 如何处理大型 AI 模型？"}],
    stream=True,
)
for chunk in response:
    print(chunk.choices[0].delta.content or "", end="")

Mac Studio 图像生成

# 通过 mflux 使用 Flux 模型 — 在 Mac Studio M4 Ultra 上约耗时 5 秒
curl -o mac_studio_art.png http://mac-studio:11435/api/generate-image 
  -H "Content-Type: application/json" 
  -d '{"model": "z-image-turbo", "prompt": "a Mac Studio on a minimalist desk with holographic AI display", "width": 1024, "height": 1024}'

# 在 Mac Studio 上运行 Stable Diffusion 3 — 约耗时 9 秒
curl -o mac_studio_sd3.png http://mac-studio:11435/api/generate-image 
  -H "Content-Type: application/json" 
  -d '{"model": "sd3-medium", "prompt": "Mac Studio M4 Ultra rendering AI art", "width": 1024, "height": 1024, "steps": 20}'

Mac Studio 语音转文本（Speech-to-Text）

# 通过 Qwen3-ASR 在 Mac Studio 上执行语音转写
curl http://mac-studio:11435/api/transcribe 
  -F "file=@mac_studio_meeting.wav" 
  -F "model=qwen3-asr"

Mac Studio 嵌入向量（Embeddings）生成

# 在 Mac Studio 上生成嵌入向量
curl http://mac-studio:11435/api/embed 
  -d '{"model": "nomic-embed-text", "input": "Mac Studio M4 Ultra unified memory AI inference"}'

Mac Studio 推荐模型列表

向 Mac Studio 请求模型推荐：GET http://mac-studio:11435/dashboard/api/recommendations

多台 Mac Studio 构建 AI 集群

Mac Studio #1（M4 Ultra，256GB）  ─┐
Mac Studio #2（M4 Max，128GB）    ├──→  Mac Studio Router（:11435）  ←──  你的应用
Mac Mini（32GB）                   ─┘

Mac Studio 路由器依据 7 类指标对各节点进行评分，大模型将被自动调度至内存容量最大的 Mac Studio 上运行。

监控你的 Mac Studio

访问 http://mac-studio:11435/dashboard 查看 Mac Studio 控制面板 — 实时显示各 Mac Studio 加载的模型、请求队列深度、温度状态与内存使用情况。

# Mac Studio 集群状态查询
curl -s http://mac-studio:11435/fleet/status | python3 -m json.tool

# Mac Studio 健康检查
curl -s http://mac-studio:11435/dashboard/api/health | python3 -m json.tool

Mac Studio 集群状态响应示例：

{
  "fleet": {"nodes_online": 2, "nodes_total": 2},
  "nodes": [
    {"node_id": "Mac-Studio-Ultra", "memory": {"total_gb": 256, "used_gb": 120}},
    {"node_id": "Mac-Studio-Max", "memory": {"total_gb": 128, "used_gb": 85}}
  ]
}

完整文档

• Agent 配置指南
• 图像生成指南
• API 参考手册

参与贡献

Ollama Herd 是开源项目（MIT 协议），由 Mac Studio 用户为 Mac Studio 用户构建：

• GitHub Star — 帮助更多 Mac Studio 用户发现本项目
• 提交 Issue — 分享你的 Mac Studio AI 配置实践
• 欢迎提交 Pull Request — CLAUDE.md 为 AI Agent 提供完整上下文支持；项目含 444 个测试用例，基于异步 Python 构建。

安全守则（Guardrails）

• 禁止自动下载 — Mac Studio 上的所有模型拉取操作均需用户显式确认。
• 模型删除需用户显式确认。
• 所有 Mac Studio 请求均保留在本地 — 数据永不离开你的局域网。
• 切勿删除或修改 ~/.fleet-manager/ 目录下的任何文件。