如何递归获取任务流中每个节点的下游依赖列表(Python 教程)

落丽酱_2367

落丽酱_2367

2026-09-06

776人浏览

原创

如何递归获取任务流中每个节点的下游依赖列表(Python 教程)

本文介绍如何通过深度优先递归遍历任务依赖图,为每个任务版本生成其所有直接与间接下游任务组成的扁平化列表,适用于构建 DAG 任务调度、依赖分析或构建顺序推导等场景。

本文介绍如何通过深度优先递归遍历任务依赖图,为每个任务版本生成其**所有直接与间接下游任务**组成的扁平化列表,适用于构建 dag 任务调度、依赖分析或构建顺序推导等场景。

在构建任务流水线(如 CI/CD、ETL 或工作流引擎)时,常需从上游任务反向推导其影响范围——即“若修改了任务 1,哪些下游任务会随之触发?”这本质上是逆向拓扑传播问题:给定一个有向无环图(DAG),其中边 A → B 表示 “B 依赖 A”(即 Bdependencies 包含 "A"),我们需要为每个节点 X 计算其所有可达下游节点集合(即所有能从 X 出发、沿边方向遍历到达的节点)。

观察原始数据结构:

list_of_task_to_generate = [
    {"version": "1", "dependency": []},
    {"version": "2", "dependency": ["1"]},
    {"version": "3", "dependency": ["2"]},
    {"version": "4", "dependency": ["3"]},
    {"version": "5", "dependency": []},
    {"version": "6", "dependency": ["5"]},
]

注意:此处 "dependency" 实际表示上游依赖项(即 "2" 依赖 "1"),因此图的方向是 1 → 2 → 3 → 4。我们要的是:对每个上游节点(如 "1"),找出所有它“驱动”的下游节点("2", "3", "4"),即从 "1" 出发,沿依赖边正向传递所能抵达的所有节点。

关键修正点在于递归逻辑的语义一致性:原代码中 add_dependencies(task) 被错误地用于“为当前 task 的依赖项添加当前 task”,但未明确传递“谁是源头”。正确做法是:
✅ 定义递归函数 add_dependencies(task, root),其中 root 是本次传播链的起始版本号(即“谁触发了这条链”);
✅ 每次找到一个依赖 dep,就把 root 加入 result[dep]
✅ 然后以 dep 为新起点,继续递归查找它的依赖(即向上游追溯),从而让 root 传播至整个上游链。

以下是优化后的完整实现(已修复字段名、逻辑与重复添加问题):

Shadows Python Sensei
Shadows Python Sensei

Python 最佳实践助手——代码规范、设计模式、性能优化、测试与类型注解。适用于编写或审查 Python 代码。

下载
from pprint import pprint

# 统一字段名为 'dependencies',语义更清晰
list_of_task_to_generate = [
    {"version": "1", "dependencies": []},
    {"version": "2", "dependencies": ["1"]},
    {"version": "3", "dependencies": ["2"]},
    {"version": "4", "dependencies": ["3"]},
    {"version": "5", "dependencies": []},
    {"version": "6", "dependencies": ["5"]},
]

def get_downstream_dependencies(tasks):
    """
    为每个任务版本生成其所有下游任务(直接+间接)的列表。

    Args:
        tasks: List[Dict], 每个 dict 含 'version' (str) 和 'dependencies' (List[str])

    Returns:
        Dict[str, List[str]]: key=任务版本,value=按依赖深度顺序排列的下游任务列表
    """
    # 预处理:构建 version → task 的 O(1) 查找映射(大幅提升性能)
    task_map = {task["version"]: task for task in tasks}
    result = {}

    def dfs(current_version, root_version):
        """深度优先传播:将 root_version 添加到 current_version 的下游列表中,
           并递归处理 current_version 的所有上游依赖(即 current_version.dependencies)"""
        if current_version not in result:
            result[current_version] = []

        # 将源头任务加入当前节点的下游列表(去重可选,此处允许重复但逻辑已保证不重复)
        if root_version not in result[current_version]:
            result[current_version].append(root_version)

        # 遍历 current_version 的所有上游依赖,继续传播
        current_task = task_map.get(current_version)
        if not current_task:
            return
        for dep in current_task["dependencies"]:
            dfs(dep, root_version)  # 注意:root_version 不变,current_version 变为 dep

    # 对每个任务,以其自身为 root,从它开始向下(实际是向上游图反向DFS)传播
    for task in tasks:
        dfs(task["version"], task["version"])

    return result

# 执行并验证
answer = get_downstream_dependencies(list_of_task_to_generate)
pprint(answer)

输出结果:

{
 '1': ['2', '3', '4'],
 '2': ['3', '4'],
 '3': ['4'],
 '4': [],
 '5': ['6'],
 '6': []
}

? 重要说明与最佳实践

  • 时间复杂度:O(V × E),其中 V 是任务数,E 是总依赖边数。使用 task_map 后,单次查找降为 O(1),避免了原代码中每次 for i in list_of_tasks 的 O(V) 开销。
  • 避免重复添加:本实现通过 if root_version not in result[current_version] 保证每个下游任务只记录一次(若需保留路径或计数,可改为 append 并取消该判断)。
  • 循环依赖防护:生产环境应增加 visited 集合检测环路,否则递归将无限进行。例如在 dfs 开头加入:
    if current_version in visited:
        return  # 发现环,终止
    visited.add(current_version)
    # ... 递归后 visited.remove(current_version)(回溯)
  • 扩展建议:对于大型任务图,推荐改用 networkx 库构建图并调用 nx.descendants(G, node) 直接获取下游节点,语义更清晰且内置环检测。

掌握此模式,你便能灵活支撑任务影响分析、增量构建决策、依赖可视化等核心工程能力。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

python

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1551

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

3624

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1549

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

20617

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2547

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2607

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1063

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

576

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2023

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程