Python分布式机器学习框架_Ray与Dask任务调度与并行计算

云杰小哥_7054

云杰小哥_7054

2026-03-25

760人浏览

原创

ray 的 ray.remote 默认返回 objectref 是因异步设计,需用 ray.get() 获取真实结果;dask delayed 链式调用出错多因依赖图异常;二者 map_partitions 行为差异在于 dask 保留分区结构而 ray 不保证顺序;本地启动失败常因端口冲突或环境问题。

python分布式机器学习框架_ray与dask任务调度与并行计算

Ray 的 ray.remote 函数为什么总返回 object ref 而不是真实结果?

因为 ray.remote 默认异步执行,返回的是一个未来对象(ObjectRef),不是值本身。直接 print 会看到类似 ObjectRef(01000000ffffffffffffffff...) 的东西,不是 bug,是设计使然。

  • 要拿到真实结果,必须显式调用 ray.get() —— 比如 ray.get(future),否则永远拿不到计算值
  • 如果函数返回多个值(如 return a, b),ray.get() 返回的是元组,不是解包后的变量,别漏了括号
  • 在 driver 进程里混用同步逻辑时,容易忘记加 ray.get(),导致后续代码传入 ref 而非数据,报错如 TypeError: unsupported operand type(s) for +: 'ObjectRef' and 'int'
  • 调试时可临时加 print(ray.get(future)),但生产环境避免频繁调用 ray.get() 阻塞调度器

Dask Delayed 为啥链式调用后 .compute() 报 KeyError 或卡住?

常见于依赖图构建错误:比如变量名重复、闭包捕获了不可序列化的对象(如文件句柄、本地线程锁)、或 delayed 套嵌过深没触发实际调度。

  • 确保所有被 @delayed 装饰的函数只依赖明确传入的参数,不读取外部作用域的 mutable 对象(如全局 list、class 实例)
  • 避免在 delayed 函数内部调用 dask.delayed(...).compute() —— 这会在 worker 进程里试图启动新 scheduler,直接死锁
  • 检查 client = Client(...) 是否已启动;没连集群时 .compute() 会 fallback 到单机线程池,但某些 IO 密集任务仍可能因资源争抢卡住
  • 用 task_graph = delayed_func.visualize() 看 DAG 图,能快速发现断开的边或孤立节点

Ray 和 Dask 在处理 Pandas DataFrame 分片时,map_partitions 行为差异在哪?

两者都支持分片处理,但语义和容错机制完全不同:Dask 的 map_partitions 是 lazy 的,且默认保留分区结构;Ray 的 ray.data.map_batches(对应功能)则强制重分区、无状态、不保证顺序。

Li Python Sec Check
Li Python Sec Check

Python 安全规范检查工具:基于 CloudBase 规范、腾讯安全指南,LLM 智能分析(默认禁用,优先本地执行)

下载
  • Dask:df.map_partitions(lambda part: part.assign(x=part.a * 2)) 中,part 是真实 pandas.DataFrame,可任意操作,且输出 shape 必须与输入一致(否则需配 meta=...)
  • Ray:ds.map_batches(lambda batch: batch.assign(x=batch["a"] * 2), batch_format="pandas") 中,batch 是 pandas DataFrame,但整个 pipeline 不维护索引连续性,下游无法做 .loc 精确切片
  • 若原始数据有时间索引并需按时间窗口聚合,Dask 更稳妥;若只是 ETL 清洗+写入对象存储,Ray 吞吐更高但得自己 handle 分区边界
  • 二者都不建议在 map 里打开数据库连接——Dask 会复用 worker 进程,Ray 默认每个 task 新启进程,连接泄漏风险更大

本地开发时 ray.init() 和 Client() 启动失败,常见原因是什么?

不是端口冲突就是环境隔离问题。Ray 默认绑定 localhost:6379(Redis),Dask Client 默认连 localhost:8786,但很多本地工具(如 Docker Desktop、Homebrew Redis)已占用了这些端口。

  • Ray 启动失败常见错误:ConnectionError: Unable to connect to Redis... → 改用 ray.init(ignore_reinit_error=True, log_to_driver=False) 并加 address="auto" 让它选空闲端口
  • Dask Client 连不上:OSError: [Errno 61] Connection refused → 先运行 python -m dask.scheduler 确认 scheduler 起来了,再 Client("tcp://localhost:8786")
  • Mac M1/M2 用户注意:Ray 2.9+ 才原生支持 arm64,旧版本装 pip install "ray[default]" --force-reinstall --no-deps 可能缺 wheel,直接报 ImportError: dlopen(...libraylet.dylib): no suitable image found
  • 虚拟环境里混装 conda/pip 包容易导致 protobuf 版本冲突,表现为 AttributeError: module 'google.protobuf.descriptor' has no attribute 'MakeDescriptor',统一用 pip 重装 protobuf==3.20.* 通常能解

事情说清了就结束。真正麻烦的从来不是怎么启动,而是当任务跑在 50 个 worker 上开始 shuffle 数据时,你才发现某台机器的 ulimit 没调、磁盘快满了、或者某个 lambda 函数悄悄把整个 DataFrame 加载进了闭包。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

python

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1671

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4204

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1669

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

24317

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2967

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3007

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1163

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2323

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程