若llama 3的vllm服务启动时提示端口8000被占用,需先用lsof或netstat查pid,再用kill -9终止进程;若不可终止,则修改vllm启动参数为--port 8001并同步更新前端配置。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您尝试启动Llama 3的vLLM服务,但提示端口8000已被占用,则无法正常建立API监听。以下是免费排查并释放该端口的具体操作步骤:
一、检查8000端口当前占用进程
该步骤用于确认哪个进程正在使用8000端口,是后续释放操作的前提。需在终端中执行命令获取进程ID(PID)及对应程序名称。
1、执行命令查看端口占用详情:
sudo lsof -i :8000
2、若系统未安装lsof,改用netstat命令:
netstat -tulpn | grep :8000
3、观察输出结果中PID与COMMAND两列内容,记下占用端口的进程号和进程名。
二、终止占用8000端口的进程
在明确占用进程后,可直接通过PID强制结束该进程,从而释放端口。此操作无需额外工具,完全依赖系统内置命令。
1、使用kill命令终止进程:
kill -9 PID数值
2、若提示“Operation not permitted”,说明当前用户权限不足,需加sudo执行:
sudo kill -9 PID数值
3、执行后再次运行lsof或netstat命令验证,确认无任何输出即表示端口已空闲。
三、修改vLLM启动配置以规避端口冲突
当无法终止占用进程(如该进程为关键服务),或需多实例并行运行时,可通过变更vLLM监听端口实现绕行。此方法不释放8000端口,但使服务仍可启动。
1、编辑vLLM启动脚本或命令行参数,将--port 8000替换为其他未被占用端口,例如:
--port 8001
2、启动前验证新端口是否空闲:
lsof -i :8001
3、确保前端(如Open WebUI)同步更新其后端地址配置,将http://localhost:8000改为http://localhost:8001。











