Linux服务器部署大模型_后台常驻运行脚本分享

风杰姑娘_5065

风杰姑娘_5065

2026-05-02

408人浏览

原创

应使用nohup、systemd或docker后台方案实现大模型服务常驻:nohup适用于临时运行,systemd支持开机自启与崩溃恢复,docker适合容器化部署并提供gpu与自动重启能力。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

linux服务器部署大模型_后台常驻运行脚本分享

如果您已在Linux服务器上完成大模型(如Qwen2.5-7B、MiniCPM-o-4.5、Cosmos-Reason1-7B等)的本地部署,但每次关闭SSH终端服务即中断,则说明当前仍处于前台交互式运行模式。以下是多种可靠、可复用的后台常驻运行脚本方案,覆盖轻量级到生产级场景。

一、nohup + 重定向启动脚本

该方式无需额外安装组件,适用于快速验证或临时长期运行,通过忽略挂断信号并持久化日志实现基础后台化。

1、创建启动脚本文件:touch run_model_nohup.sh

2、赋予执行权限:chmod +x run_model_nohup.sh

3、写入以下内容(以Qwen2.5-7B-Instruct为例,端口设为8000):
#!/bin/bash
cd /root/qwen2.5-7b-instruct
source qwen_env/bin/activate
nohup python qwen_service.py --port 8000 > /var/log/qwen_service.log 2>&1 &

4、执行脚本:./run_model_nohup.sh

5、验证进程是否存活:ps aux | grep qwen_service.py

二、systemd服务单元脚本

systemd是Linux标准服务管理器,支持开机自启、崩溃自动重启、资源限制与集中日志,适合生产环境长期部署。

1、创建服务定义文件:sudo nano /etc/systemd/system/qwen-model.service

2、填入标准化配置(路径、用户、环境依实际调整):
[Unit]
Description=Qwen2.5-7B-Instruct API Service
After=network.target

[Service]
Type=simple
User=root
WorkingDirectory=/root/qwen2.5-7b-instruct
Environment="PATH=/root/qwen_env/bin:/usr/local/bin:/usr/bin:/bin"
ExecStart=/root/qwen_env/bin/python qwen_service.py --port 8000
Restart=always
RestartSec=10
StandardOutput=journal
StandardError=journal
MemoryLimit=24G

[Install]
WantedBy=multi-user.target

3、重载配置并启用服务:sudo systemctl daemon-reload && sudo systemctl enable --now qwen-model.service

飞书群聊机器人接入大模型
飞书群聊机器人接入大模型

从零搭建飞书机器人。支持 MiniMax/MiMo 等模型、工具调用(搜索/天气/百科/记忆)、Skill 架构。一站式交付可上线运行的飞书群聊 bot。基础版本,后续可自行升级能力

下载

4、查看实时日志:sudo journalctl -u qwen-model.service -f

三、docker容器化后台脚本(适用已容器化模型)

对已封装为Docker镜像的大模型(如Qwen-Image-2512、Hunyuan-MT-7B-vllm),使用docker run -d配合健康检查与自动重启策略,实现零依赖后台托管。

1、编写可复用的启动脚本:touch start_model_docker.sh

2、填入以下内容(示例映射至宿主机8080端口,启用GPU,自动重启):
#!/bin/bash
docker run -d \
--gpus all \
--restart unless-stopped \
--name qwen-image-prod \--volume /data/qwen-output:/app/output \
registry.cn-hangzhou.aliyuncs.com/csdn_ai/qwen-image-2512:latest

3、执行并验证:chmod +x start_model_docker.sh && ./start_model_docker.sh && docker ps | grep qwen-image-prod

四、setsid脱离会话脚本(高隔离性场景)

setsid将进程直接置于init(PID 1)之下,彻底切断与终端会话的关联,避免任何SIGHUP或shell退出影响,适用于安全敏感或嵌套终端环境。

1、新建独立守护脚本:touch run_with_setsid.sh

2、写入命令(以Leather Dress Collection为例):
#!/bin/bash
cd /root/Leather-Dress-Collection
source leather-env/bin/activate
setsid python app.py --server-port 7861 > /var/log/leather-app.log 2>&1

3、后台执行且不阻塞当前终端:./run_with_setsid.sh &

4、确认父进程为1:ps -o pid,ppid,comm -C python | grep app.py

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
服务器是什么
服务器是什么

服务器是一种计算机硬件设备或软件程序,它具有强大的计算和存储能力,用请求、存储数据和提供服务。它在互联网中着关重要的作用,为用户提供各种服务和资源。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.15

417

5

连接apple id服务器时出错
连接apple id服务器时出错

连接apple id服务器时出错的原因包括网络连接问题、服务器问题、Apple ID账户问题、设备问题、防火墙或安全软件问题、时间和日期设置问题、Apple服务器维护等。本专题为大家提供apple id相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.08

820

5

搭建互联网服务器
搭建互联网服务器

搭建互联网服务器需要:1、选择合适的硬件和操作系统,第一步是选择合适的硬件和操作系统;2、安装和配置操作系统,是搭建互联网服务器的关键步骤;3、安装和配置服务器软件,是搭建互联网服务器的下一步,常见的服务器软件包括Apache、Nginx、Tomcat等;4、配置防火墙和安全性,是搭建互联网服务器的重要步骤;5、域名解析和配置,是搭建互联网服务器的最后一步。

2023.09.19

2372

5

如何查看服务器状态
如何查看服务器状态

查看服务器状态的方法有使用命令行工具、图形界面工具、监控工具、日志文件和远程管理工具等。本专题为大家提供服务器状态相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.09

816

5

服务器域名转接慢怎么解决
服务器域名转接慢怎么解决

服务器域名转接慢的解决办法有DNS优化、服务器优化、CDN加速、前端优化和网络优化等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.17

689

5

服务器评测软件
服务器评测软件

服务器评测软件有PassMark Software、CPU-Z、GPU-Z、CrystalDiskMark、IOmeter、JMeter、LoadRunner、Apache Bench等等。详细介绍:1、PassMark Software是一款综合性的服务器性能测试软件,可以评估服务器在各种负载条件下的性能;2、CPU-Z是一款可以提供服务器CPU详细信息的软件等等。

2023.10.17

374

3

如何开启TFTP服务器
如何开启TFTP服务器

开启TFTP服务器的步骤包括选择TFTP服务器软件、下载和安装软件、配置TFTP服务器以及启动和测试服务器等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.18

2136

4

服务器负载不兼容怎么解决
服务器负载不兼容怎么解决

解决方法:1、增加服务器资源;2、负载均衡;3、优化应用程序;4、增加缓存机制;5、分布式架构;6、限流和熔断;7、自动化扩容。想知道更详细服务器负载不兼容的解决方法,可以访问本专题下面的文章。

2023.10.20

3912

4

宽带如何接入服务器
宽带如何接入服务器

宽带接入服务器的方法有ADSL宽带接入服务器、光纤接入服务器、无线接入服务器和以太网接入服务器等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.20

627

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习