高效映射SIC代码到行业分类:Pandas向量化方案替代低效循环

雨枫姑娘_6714

雨枫姑娘_6714

2026-05-02

451人浏览

原创

高效映射SIC代码到行业分类:Pandas向量化方案替代低效循环

本文介绍如何使用Pandas的apply()方法结合区间映射函数,安全、高效地将SIC行业代码列(如SicCodes)批量转换为语义化行业类别,避免手动for循环索引错误与标量逻辑陷阱。

本文介绍如何使用pandas的`apply()`方法结合区间映射函数,安全、高效地将sic行业代码列(如`siccodes`)批量转换为语义化行业类别,避免手动for循环索引错误与标量逻辑陷阱。

在数据分析中,常需将原始编码(如美国标准产业分类码SIC)映射为可读性强的行业名称。用户最初尝试用嵌套if语句或for循环逐行处理DataFrame列,但遭遇了典型问题:report['SicCodes'].apply(...)未被正确调用,反而误写为for i in report['SicCodes']: report['SICCode.SicText_1'][i] = ...——这不仅因i是值而非索引导致KeyError,更违背了Pandas向量化设计哲学,性能差且易出错。

推荐方案:Series.apply() + 健壮映射函数

核心思路是定义一个接收单个值、返回对应类别的纯函数,并通过.apply()广播至整列。该方法天然支持缺失值、类型异常和范围外值的统一处理:

import pandas as pd
import numpy as np

# 定义SIC代码区间与行业映射关系(注意:区间为闭区间 [from, to])
mappings = [
    (1000, 9990, 'Agriculture'),
    (10000, 14990, 'Mining'),
    (15000, 17990, 'Construction'),
    (18000, 19990, 'not used'),
    (20000, 39990, 'Manufacturing'),
    (40000, 49990, 'Utility Services'),
    (50000, 51990, 'Wholesale Trade'),
    (52000, 59990, 'Retail Trade'),
    (60000, 69200, 'Financials'),
    (70000, 90040, 'Services'),
    (91000, 97290, 'Public Administration'),
    (98000, 99990, 'Nonclassifiable'),
]

def to_code_range(value):
    """将单个SIC代码映射为行业名称;处理非整数、越界等异常情况"""
    # 类型预检:非整数直接返回NaN(不中断流程)
    if not isinstance(value, (int, np.integer)):
        if pd.isna(value) or str(value).strip() in ['', 'None Supplied', 'nan']:
            return np.nan
        try:
            value = int(float(value))  # 尝试强转(兼容字符串数字如'1000')
        except (ValueError, TypeError):
            return np.nan

    # 区间匹配:遍历所有规则,命中即返,未命中返回NaN
    for code_from, code_to, name in mappings:
        if code_from <p>✅ <strong>关键优势说明:</strong>  </p>
  • 安全性高:函数内含类型容错与空值检查,避免int(None)等崩溃;
  • 逻辑清晰:区间判断使用 code_from
  • 性能优异:.apply()虽非底层向量化,但远优于Python原生for+loc赋值(后者触发多次索引查找);
  • 可扩展性强:新增行业类别只需在mappings中追加元组,无需修改主逻辑。

⚠️ 注意事项:

  • 若数据量极大(>100万行),可进一步升级为pd.cut()(需先将区间转为pd.IntervalIndex)以获得真正向量化加速;
  • 确保SicCodes列中无无法解析的异常字符串(如'ABC'),否则to_code_range会静默返回np.nan——建议配合report['SicCodes'].apply(type).value_counts()做前期探查;
  • 映射表中的区间必须互斥且覆盖完整业务场景,当前示例中19991–19999、90041–90999等缺口将返回NaN,应根据实际SIC规范校验补全。

通过这一模式,你不仅能正确生成SICCode.SicText_1列,更建立起可复用、易维护、抗干扰的数据清洗范式——让代码真正服务于分析,而非成为障碍。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1651

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4124

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1669

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

23857

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2927

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2947

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1143

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2283

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.4万人学习