需在企业内网部署java版jev模型服务,要求离线运行、http接入、结构化输出;确认形态为可执行jar/源码/spring boot/仅模型文件,第三类须java重写;环境须jdk 17、≥2gb磁盘;推荐直接运行jar并配置nginx反向代理。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

你需要在企业内网环境中部署一个可被内部系统调用的Jev模型服务,要求不依赖公有云API、支持HTTP请求接入、能稳定返回结构化预测结果。
确认Jev模型服务的可用形态
先验证你手头的Jev模型是否已封装为可执行服务。主流形态有三类:① 已编译的Java可执行JAR(含内嵌Jetty/Undertow);② 提供RESTful接口的Spring Boot工程源码;③ 仅含模型文件(.bin/.onnx)和Python推理脚本。若属于第③种,【必须先用Java重写或封装推理逻辑,否则无法纳入Java私有化部署体系】。Jev不是标准开源模型,其Java SDK通常由提供方交付,检查压缩包中是否存在jev-sdk-x.x.jar及demo-server目录。
准备基础运行环境
登录目标服务器,执行以下命令:
sudo yum install -y java-17-openjdk-devel unzip wget && java -version
输出必须显示openjdk 17.x.x。若为Ubuntu系统,则改用apt install openjdk-17-jdk。注意:【严禁使用JDK 8或JDK 21+,Jev官方SDK仅兼容JDK 11/17】。检查磁盘空间:df -h /opt,确保剩余空间≥2GB——模型权重文件通常在300MB~1.2GB之间。
部署Jev服务包
方法一:直接运行可执行JAR(推荐,适用于已交付完整服务包)
将jev-service-2.4.0.jar上传至/opt/jev/,执行:nohup java -Xms1g -Xmx2g -Djev.config.path=/opt/jev/config.yml -jar jev-service-2.4.0.jar > /opt/jev/logs/stdout.log 2>&1 &
这一步会以后台方式启动服务,-Xms/-Xmx参数不可省略,内存不足会导致模型加载失败并静默退出。启动后等待45秒,执行curl http://127.0.0.1:8080/actuator/health,返回{"status":"UP"}即成功。
方法二:从源码构建(适用于仅有Spring Boot工程的情况)
进入项目根目录,执行mvn clean package -DskipTests,确认target/目录下生成jev-api-*.jar。编辑src/main/resources/application-prod.yml,将server.port设为8080,spring.profiles.active设为prod。然后按方法一方式启动该JAR。
配置反向代理与外网访问
第一步:安装Nginx
sudo yum install -y nginx && sudo systemctl enable nginx
第二步:创建代理配置
sudo tee /etc/nginx/conf.d/jev-api.conf upstream jev_backend {
server 127.0.0.1:8080;
}
server {
listen 80;
server_name jev.internal.company.com;
location /api/ {
proxy_pass http://jev_backend/;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
}
}
EOF
第三步:启用并测试
sudo nginx -t && sudo systemctl restart nginx
此时,内网任意机器访问http://jev.internal.company.com/api/predict即可调用服务。注意:该域名需在企业DNS中解析到本机IP,或在调用方hosts文件中手动映射。
验证接口连通性与基础功能
在部署服务器上执行:
curl -X POST http://jev.internal.company.com/api/predict \
-H "Content-Type: application/json" \
-d '{"text":"这个产品体验很差","model_version":"v2.3"}'
预期返回JSON格式结果,包含score、label、reason字段。若返回502错误,检查Nginx错误日志:sudo tail -20 /var/log/nginx/error.log;若返回404,确认Jev服务JAR中的@RestController路径是否为/api/predict(常见错误是路径写成/v1/predict但Nginx未同步调整)。











