怎么在 PHP 项目对接本地安装的 Jev 模型-人工智能-PHP中文网

php对接本地jev模型推荐三种方式：①直接调用官方jev-infer二进制（最轻稳，无需python）；②启flask/fastapi http服务（适合多请求复用）；③通过redis/rabbitmq消息队列解耦（高可靠可扩展）。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

怎么在 php 项目对接本地安装的 jev 模型

PHP 项目对接本地部署的 Jev 模型，核心思路是：不直接在 PHP 中加载 PyTorch 或运行 Python 模型，而是用轻量、隔离、可复用的进程通信方式调用 Jev 推理服务。Jev 本身不是为 PHP 设计的，它原生依赖 Python/Torch 或提供独立二进制 runtime，因此 PHP 应作为客户端，通过标准协议与其交互。

以下是最实用、低侵入、适合生产环境的三种落地方式，按推荐顺序排列：

直接调用官方 Jev 二进制 runtime（最轻、最稳）

Jev 官方提供预编译的单文件可执行程序（jev-infer），纯 CPU 运行、无需 Python 环境、无依赖，i3-4130 老本也能跑（实测单次 38ms）。PHP 只需 exec() 或 proc_open() 启动它并传参。

下载对应系统版本：
Windows → jev-runtime-win-x64.zip
Linux → jev-runtime-linux-x64.tar.gz（注意不是 arm64，除非你用树莓派）
解压后得到 jev-infer（Linux）或 jev-infer.exe（Windows），放到 PHP 项目某目录下（如 vendor/jev/bin/）

PHP 调用示例（严格按 Jev 输入格式）：

$state = json_encode(["hp" => 85, "enemy_x" => 12, "coin_y" => 3]);
$query = "玩家这句话在叫谁?";
$cmd = escapeshellarg(__DIR__ . '/vendor/jev/bin/jev-infer') 
       . ' --state ' . escapeshellarg($state) 
       . ' --query ' . escapeshellarg($query);

$output = shell_exec($cmd);
$result = json_decode($output, true);
// 返回结构如：{"choice":"player","probabilities":{"player":0.71,"enemy":0.22},"confidence":0.83}

⚠️ 注意：

state 必须是扁平 JSON 字符串（不能嵌套对象或数组），否则返回空；
--query 是字符串，不是 JSON；
Windows 下确保 jev-infer.exe 有执行权限，且 PHP 运行用户能访问该路径。

启一个最小化 Python HTTP 服务（适合多请求、需复用）

如果你已有 Python 环境，或需要并发处理多个问题（如一次分类多个字段），建议用 Flask/FastAPI 封装 Jev 为本地 HTTP API，PHP 用 curl 调用。

新建 jev_server.py（不依赖 transformers，只用 torch.jit）：

import torch
from flask import Flask, request, jsonify

model = torch.jit.load("jev-v1.3-quantized.pt")  # 官网下载的 8-bit 模型
app = Flask(__name__)

@app.route("/infer", methods=["POST"])
def infer():
    data = request.get_json()
    # Jev 要求输入含 state 和 query 键，且 state 是扁平字典字符串
    if not isinstance(data.get("state"), str):
        return jsonify({"error": "state must be a JSON string"}), 400
    try:
        state_dict = json.loads(data["state"])
    except:
        return jsonify({"error": "invalid state JSON"}), 400
    # 构造符合 Jev 的输入：{"state": {...}, "query": "..."}
    inp = {"state": state_dict, "query": data.get("query", "")}
    with torch.no_grad():
        out = model(inp)  # 单次前向，输出为 dict
    return jsonify(out)

启动服务：python jev_server.py（监听 http://127.0.0.1:5000）

btpanel phpsite 宝塔面板PHP网站
宝塔面板 PHP 网站管理：站点创建、删除、启停、PHP 版本切换、域名管理、SSL证书管理、伪静态管理、数据库管理

下载

PHP 中调用：

$ch = curl_init('http://127.0.0.1:5000/infer');
curl_setopt($ch, CURLOPT_POST, true);
curl_setopt($ch, CURLOPT_POSTFIELDS, json_encode([
    "state" => json_encode(["hp" => 85, "enemy_x" => 12]),
    "query" => "该操作是否危险？"
]));
curl_setopt($ch, CURLOPT_HTTPHEADER, ['Content-Type: application/json']);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
$resp = curl_exec($ch);
curl_close($ch);
$result = json_decode($resp, true);

✅ 优势：支持批量、异步、加日志、加限流；PHP 完全无 Python 依赖。

用消息队列解耦（高可靠、可扩展场景）

若你的 PHP 项目已用 Redis 或 RabbitMQ，可将推理任务发到队列，由独立 Python worker 消费并回写结果。适合：

请求量大但允许几十毫秒延迟（如后台内容审核）
需失败重试、结果持久化、与现有任务系统集成

PHP 发送任务：

$job = [
    "id" => uniqid(),
    "state" => ["user_role" => "vip", "action" => "delete"],
    "query" => "该用户是否有删除权限？"
];
Redis::lPush('jev_queue', json_encode($job));