Linux下部署Ray分布式计算引擎

酷雪大大_1210

酷雪大大_1210

2026-06-18

591人浏览

原创

Ray集群启动失败主因是节点环境不一致:必须统一Python路径(如/opt/anaconda3)和虚拟环境名(ray_env);head节点需显式指定--node-ip-address(禁用localhost/0.0.0.0);worker必须用head输出的动态--address和--redis-password启动;最终须用ray.get()验证跨节点任务执行。

linux下部署ray分布式计算引擎

所有节点必须用完全相同的Python路径和虚拟环境名

Ray集群启动失败最常见的原因是节点间环境不一致。不是“差不多一样”,而是/opt/anaconda3必须是所有机器上conda安装的绝对路径,ray_env必须是所有节点上conda activate激活的环境名。

常见错误现象:

  • ray start --head成功,但worker节点报ConnectionRefusedError: [Errno 111] Connection refused
  • Dashboard能打开,但ray.nodes()只返回本机节点
  • 任务提交后卡住,ray.get()永不返回

实操建议:

  • 统一用bash Anaconda3-2023.07-2-Linux-x86_64.sh -b -p /opt/anaconda3安装,别改-p参数
  • 所有节点执行conda create -n ray_env python=3.9 -y,不要用python=3.9.18这种带补丁号的写法
  • 激活后运行which python,确认输出是/opt/anaconda3/envs/ray_env/bin/python(不是~/miniconda3/...)

ray start --head必须显式绑定--node-ip-address且禁用localhost

Linux服务器默认可能有多个IP(如127.0.0.1、192.168.x.x、10.x.x.x),Ray若自动选错IP,worker节点就找不到头节点。

正确命令示例:

ray start --head \
  --node-ip-address=192.168.1.100 \
  --port=6379 \
  --dashboard-port=8265 \
  --include-dashboard=true

关键点:

  • 绝对不要省略--node-ip-address,哪怕你只有一块网卡
  • 不要用0.0.0.0或localhost——这会让Ray监听在回环地址,外部节点无法连接
  • --port=6379是Redis通信端口,必须和worker节点--address里的端口号一致
  • 防火墙要放行6379(Redis)、8265(Dashboard)、10001-10099(worker间通信端口范围)

worker节点启动时必须用头节点输出的完整--address和--redis-password

头节点启动后终端会输出类似这样的信息:

To connect to this Ray runtime from another node, run
ray start --address='192.168.1.100:6379' --redis-password='5241590000000000'

这个--address和--redis-password是动态生成的,每次ray start --head都会变。不能手敲、不能复制错、不能用旧值。

Obsidian (Linux)
Obsidian (Linux)

操作 Obsidian 库(纯 Markdown 笔记),并通过 notesmd-cli 实现自动化。

下载

实操建议:

  • 直接复制粘贴整行命令,在worker节点shell里执行
  • 如果worker报redis.exceptions.AuthenticationError,说明密码错了,重新看头节点输出
  • 不要尝试用ray.init(address="...")代替ray start——那只是客户端连接,不是注册worker节点
  • worker节点也必须先conda activate ray_env再执行ray start

验证集群是否真正就绪:别只看Dashboard

Dashboard显示“2 nodes”不等于集群可用。很多用户卡在任务分发环节,因为Ray认为节点“在线”,但实际无法执行远程函数。

真正有效的验证方式:

import ray
ray.init(address="auto")  # 连接本地集群
print(len(ray.nodes()))   # 应输出总节点数(含head)
<p>@ray.remote
def f():
import socket
return socket.gethostname()</p><p>print(ray.get([f.remote() for _ in range(4)]))  # 应返回4个不同主机名</p>

容易被忽略的点:

  • ray.init(address="auto")依赖/tmp/ray下的元数据,如果worker节点没成功注册,这里会连错地址
  • 返回主机名列表里如果有重复(比如全是head-node),说明worker没生效,问题出在ray start --address参数或网络连通性
  • 第一次运行ray.get可能慢几秒——这是正常冷启动,但超过30秒没返回,基本就是节点没连上

路径一致性、IP绑定、密码同步、实际任务调度验证——这四步缺一不可。少走任何一步,集群都只是看起来在跑。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

linux

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
什么是分布式
什么是分布式

分布式是一种计算和数据处理的方式,将计算任务或数据分散到多个计算机或节点中进行处理。本专题为大家提供分布式相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2133

5

分布式和微服务的区别
分布式和微服务的区别

分布式和微服务的区别在定义和概念、设计思想、粒度和复杂性、服务边界和自治性、技术栈和部署方式等。本专题为大家提供分布式和微服务相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.07

3474

5

磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

2023.06.21

4370

4

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

2023.06.29

3693

10

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2023.06.30

2953

5

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

2023.07.05

7290

7

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

2023.07.06

6922

7

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.20

3953

8

linux查看ip命令
linux查看ip命令

本专题为大家提供linux查看ip命令相关文章内容,感兴趣的朋友可以免费下载体验试试。

2023.07.20

3445

4

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习