如何高效地基于关联列表和全局查找表构建字典列

云丽小哥_2113

云丽小哥_2113

2026-10-02

377人浏览

原创

如何高效地基于关联列表和全局查找表构建字典列

本文介绍如何在 Pandas 中高效创建一个新列,其每个元素为字典:字典的键来自当前行的列表列(如 'Related Items'),值则通过键在 DataFrame 全局 'Item' 列中查找对应 'Quantity' 得到。核心是避免低效的 iterrows() 或重复 df.loc 查询,改用一次构建的哈希查找字典 + apply() 实现高性能映射。

本文介绍如何在 pandas 中高效创建一个新列,其每个元素为字典:字典的键来自当前行的列表列(如 `'related items'`),值则通过键在 dataframe 全局 `'item'` 列中查找对应 `'quantity'` 得到。核心是避免低效的 `iterrows()` 或重复 `df.loc` 查询,改用一次构建的哈希查找字典 + `apply()` 实现高性能映射。

在数据处理中,常需根据某列中的“关联项列表”,从同一 DataFrame 的其他行中提取对应字段值,并组织为字典结构(例如用于后续函数调用)。直接在 apply() 中对每行执行 df.loc[df['Item'] == item] 会导致 O(n²) 时间复杂度——每次查找都扫描全表,严重拖慢性能,尤其在数十万行规模下(如原文中 70 万行实测耗时近 20 秒)。

更优解是分离查找逻辑与遍历逻辑:先用 df.set_index('Item')['Quantity'].to_dict() 构建一个 O(1) 平均时间复杂度的键值映射字典;再在 apply() 中复用该字典完成快速查值。这不仅语义清晰,且实测比逐行 loc 查找快约 1.7 倍(11.4s vs 19.5s / 100 次迭代)。

以下是完整实现:

import pandas as pd

# 示例数据
df = pd.DataFrame({
    'Item': ['Flowers', 'Bushes', 'Cars', 'Trucks', 'Motorcycles'],
    'Quantity': [1, 2, 3, 4, 5],
    'Related Items': [
        ['Bushes'], 
        ['Flowers'], 
        ['Trucks', 'Motorcycles'], 
        ['Cars', 'Motorcycles'], 
        ['Cars', 'Trucks']
    ]
})

# ✅ 步骤1:构建全局查找字典(仅执行一次)
item_to_quantity = df.set_index('Item')['Quantity'].to_dict()

# ✅ 步骤2:定义安全映射函数(自动跳过不存在的项)
def map_related_quantities(row):
    return {
        item: item_to_quantity[item] 
        for item in row['Related Items'] 
        if item in item_to_quantity  # 防止 KeyError,仅保留有效关联项
    }

# ✅ 步骤3:应用到整列(axis=1 表示按行操作)
df['Related Quantities'] = df.apply(map_related_quantities, axis=1)

输出结果完全匹配预期:

          Item  Quantity             Related Items               Related Quantities
0      Flowers         1                ['Bushes']                    {'Bushes': 2}
1       Bushes         2               ['Flowers']                   {'Flowers': 1}
2         Cars         3  ['Trucks', 'Motorcycles']  {'Trucks': 4, 'Motorcycles': 5}
3       Trucks         4  ['Cars', 'Motorcycles']    {'Cars': 3, 'Motorcycles': 5}
4  Motorcycles         5        ['Cars', 'Trucks']         {'Cars': 3, 'Trucks': 4}

关键注意事项:

  • ✅ 永远优先使用 .to_dict() 而非循环构造字典:df.set_index(...).to_dict() 底层由 Cython 优化,比显式 for 循环快 2–3 倍;
  • ⚠️ 务必检查键存在性:使用 if item in item_to_quantity 或 item_to_quantity.get(item),避免因拼写错误或缺失项导致 KeyError;
  • ? 不要在 apply() 内部重建查找字典:它应定义在函数外部,确保只构建一次;
  • ? 若后续还需批量计算(如对 Related Quantities 字典求和、加权等),可考虑直接跳过该中间列,用向量化方式聚合——但本例中字典列本身具有明确业务语义(如作为函数参数),保留它反而提升代码可读性与可维护性。

综上,该方案兼顾性能、健壮性与可读性,是 Pandas 中处理“行内列表 → 全局映射 → 字典构造”类任务的标准实践。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1651

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4024

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1629

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

23237

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2847

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2887

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1143

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2243

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.4万人学习