OpenClawAI能跑Phi-3吗_OpenClawAI部署Phi-3模型的方法【方法】

陌敏酱_2389

陌敏酱_2389

2026-03-26

732人浏览

原创

openclawai需通过外部服务调用phi-3模型,支持四种方式:一、ollama本地运行phi3:mini;二、llama.cpp加载gguf量化模型;三、对接星图平台phi-3-vision api;四、python子进程调用transformers定制推理。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

openclawai能跑phi-3吗_openclawai部署phi-3模型的方法【方法】

如果您希望在本地运行Phi-3系列模型,并借助OpenClawAI实现智能体能力(如文件操作、技能调用、记忆管理等),则需明确OpenClawAI本身不直接内置Phi-3模型权重,而是通过接入外部大模型API或本地推理服务来驱动其智能体逻辑。以下是部署Phi-3模型并使其与OpenClawAI协同工作的多种方法:

一、通过OpenClaw配置本地Ollama服务调用Phi-3-mini

此方法利用Ollama作为本地轻量级模型服务器,OpenClaw通过HTTP请求对接其API,无需CUDA手动配置,适合Windows/macOS/Linux普通用户。

1、确认已安装Ollama:在终端中执行ollama --version,若返回版本号(如0.3.12),说明已就绪。

2、拉取Phi-3-mini模型:ollama pull phi3:mini,该命令将自动下载约2.2GB的模型文件。

3、启动Ollama服务:ollama serve,保持该终端持续运行。

4、进入OpenClaw项目根目录,编辑config/openclaw.json文件,在llm节点下设置:

"provider": "ollama", "base_url": "http://localhost:11434", "model": "phi3:mini"

5、启动OpenClaw:npm start或按其文档方式运行,系统将通过Ollama接口调用Phi-3-mini进行推理。

二、使用OpenClaw对接本地Llama.cpp+Phi-3-GGUF量化模型

此方法适用于显存受限设备(如无独立GPU或仅集成显卡),通过llama.cpp加载GGUF格式的Phi-3模型,以纯CPU或Metal/ Vulkan后端运行,OpenClaw通过自定义LLM适配器通信。

1、从Hugging Face或Phi-3官方渠道获取Phi-3-mini-4k-instruct的GGUF量化版本(如Phi-3-mini-4k-instruct.Q4_K_M.gguf)。

2、下载对应平台的llama.cpp预编译二进制(Windows推荐使用llama.cpp releases中的llama-server.exe)。

3、启动llama-server并绑定端口:llama-server -m path/to/Phi-3-mini-4k-instruct.Q4_K_M.gguf -c 2048 --port 8080。

4、修改OpenClaw的config/openclaw.json,将llm.provider设为llamacpp,并配置base_url: "http://localhost:8080"。

5、确保skills目录中启用llamacpp_adapter插件,重启OpenClaw服务。

Openclaw Auto Recovery
Openclaw Auto Recovery

OpenClaw 基础设施心跳监控与自动恢复:部署/卸载心跳守护进程,配置主机监控(Gateway、磁盘、内存、CPU、进程),设置飞书告警,自动重启故障Gateway。适用关键词:心跳监控、heartbeat daemon、服务器告警、自动重启、健康检查、auto recovery。

下载

三、通过OpenClaw直连星图GPU平台Phi-3-vision API(免本地部署)

此方法跳过本地硬件限制,利用星图平台已预装并优化的Phi-3-vision-128k-instruct实例,OpenClaw仅需配置API密钥与端点即可调用,适合需视觉理解能力的场景。

1、登录星图平台,开通Phi-3-vision镜像服务,获取专属API endpoint(如https://api.xingtu.ai/v1/chat/completions)和API Key。

2、在OpenClaw的config/openclaw.json中,将llm.provider设为openai兼容模式。

3、填写以下字段:

"base_url": "https://api.xingtu.ai/v1", "api_key": "sk-xxx", "model": "phi-3-vision-128k-instruct"

4、检查config/skills/image_analyzer.js是否启用——该技能依赖Phi-3-vision的多模态能力,可自动解析上传图片。

5、保存配置并重启OpenClaw,此时所有对话与图像分析请求将路由至星图云端Phi-3-vision实例。

四、在OpenClaw中嵌入Python子进程调用Transformers+Phi-3(高级定制)

此方法面向开发者,允许完全控制推理参数(如temperature、max_new_tokens)、加载LoRA微调权重,并与OpenClaw的记忆模块深度集成。

1、创建Python脚本phi3_inference.py,使用transformers库加载microsoft/Phi-3-mini-4k-instruct,暴露Flask HTTP接口。

2、在脚本中添加torch.compile()及bnb_4bit_quant_type="nf4"以降低显存占用。

3、启动该服务:python phi3_inference.py --host 0.0.0.0 --port 5001。

4、在OpenClaw配置中新增自定义provider:"provider": "custom", "base_url": "http://localhost:5001/invoke"。

5、确保OpenClaw的memory模块能将上下文摘要注入该Python服务的prompt前缀中,实现长期记忆联动。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

openclaw

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
OpenClaw如何卸载
OpenClaw如何卸载

《OpenClaw如何卸载?OpenClawAI小龙虾安全卸载最新指南》为您提供详尽、安全的卸载步骤,帮助用户彻底移除OpenClaw及其相关组件。本指南针对Windows与macOS系统分别说明操作流程,涵盖停止后台进程、清除配置文件、删除残留数据等关键环节,确保无痕卸载,避免系统冲突或隐私泄露。无论您是因更换工具、解决兼容问题,还是出于安全考虑,本文都将助您高效、安心地完成卸载操作。请务必按照最新版本指引执行,以保障设备稳定与数据安

2026.03.19

140

11

OpenClaw安装部署教程
OpenClaw安装部署教程

本合集涵盖2026最新版OpenClaw(小龙虾)本地部署全流程,适用于Windows系统,包含环境配置、模型接入、Web界面启动及飞书/Telegram/QQ等多平台对接。无论你是小白还是开发者,10分钟内即可完成安装,快速体验AI智能体“长手干活”的强大能力!

2026.03.19

201

11

OpenClaw初学者教程:如何使用和设置
OpenClaw初学者教程:如何使用和设置

《OpenClawAI初学者教程:如何使用和设置》是一套面向新手的入门指南,涵盖环境搭建、基础配置、模型加载及简单推理操作。通过本教程,你将快速掌握OpenClawAI的核心功能,轻松开启AI开发之旅。

2026.03.19

181

13

OpenClawAI技能系统基础介绍:OpenClawAISkills是什么
OpenClawAI技能系统基础介绍:OpenClawAISkills是什么

OpenClawAI Skills 是 OpenClaw 智能体的核心功能模块,用于定义和管理 AI 可执行的具体能力,如查询天气、发送消息、操作文件等。通过技能系统,用户可灵活扩展智能体功能,实现高度定制化的自动化任务。

2026.03.20

1018

20

龙虾OpenClaw安全使用指南
龙虾OpenClaw安全使用指南

围绕龙虾OpenClawAI使用中的安全风险,本合集系统梳理常见漏洞与隐患,提供实用防护方法与最新安全指南,帮助用户在稳定运行的同时规避风险,提升整体使用安全性与体验。

2026.03.20

149

11

openclaw养虾硬件指南最新版
openclaw养虾硬件指南最新版

《OpenClawAI硬件指南最新版》合集聚焦AI硬件入门与进阶,从核心组件解析到实战搭建,系统讲解算力配置、设备选型与优化方案。内容通俗易懂,适合开发者与科技爱好者快速掌握AI硬件要点,构建高效稳定的智能计算环境。

2026.03.20

468

28

OpenClaw从新手到中级完整教程
OpenClaw从新手到中级完整教程

本专题专为零基础用户设计,带你从环境搭建到实战应用,系统掌握开源AI Agent OpenClaw。内容涵盖Node.js/Docker安装、API配置、Skills技能扩展及多平台集成,通过整理文件、自动化办公等真实案例,助你快速上手。无论你是想提升效率的职场人还是技术爱好者,都能在此找到从入门到精通的完整路径,打造专属的本地化AI助手。

2026.05.06

1142

32

OpenClaw免费大模型调用指南
OpenClaw免费大模型调用指南

PHP中文网特设OpenClaw免费大模型专区,提供详尽调用指南。涵盖免费API申请、模型配置及本地部署教程,助您零成本畅享AI智能体验。无论是新手入门还是进阶应用,这里都有实用干货,轻松跨越创作门槛,开启高效智能办公新方式。

2026.06.29

159

10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程