
本文介绍使用pandas的apply()结合范围匹配函数,将sic行业代码列(如siccodes)准确、可维护地映射为行业类别名称,避免低效循环和索引错误,提升数据清洗效率与代码健壮性。
本文介绍使用pandas的apply()结合范围匹配函数,将sic行业代码列(如siccodes)准确、可维护地映射为行业类别名称,避免低效循环和索引错误,提升数据清洗效率与代码健壮性。
在数据分析中,常需将数值型行业编码(如美国SIC代码)按区间映射为语义化类别(如“Manufacturing”“Services”)。原始实现中采用硬编码的多层if判断或错误的for循环遍历DataFrame索引(如report['SICCode.SicText_1'][i] = ...),不仅性能低下,更易引发KeyError或SettingWithCopyWarning——因为直接用标量值i作为行索引访问,而i实际是单元格值而非位置索引。
推荐做法是:定义清晰的区间映射规则,封装为纯函数,并通过Series.apply()实现向量化映射。该方式逻辑内聚、易于测试、天然支持缺失值与类型异常处理,且完全兼容Pandas链式操作。
以下是完整、可复用的实现方案:
import pandas as pd
import numpy as np
# 定义SIC代码区间与行业类别的映射关系(元组:起始码, 结束码, 类别名)
mappings = [
(1000, 9990, 'Agriculture'),
(10000, 14990, 'Mining'),
(15000, 17990, 'Construction'),
(18000, 19990, 'not used'),
(20000, 39990, 'Manufacturing'),
(40000, 49990, 'Utility Services'),
(50000, 51990, 'Wholesale Trade'),
(52000, 59990, 'Retail Trade'),
(60000, 69200, 'Financials'),
(70000, 90040, 'Services'),
(91000, 97290, 'Public Administration'),
(98000, 99990, 'Nonclassifiable'),
]
def map_sic_to_sector(code):
"""
将单个SIC代码映射为行业类别。
支持int/float输入;非数字或越界值返回np.nan。
"""
# 类型预检:跳过None、NaN、字符串等非数值类型
if pd.isna(code) or not isinstance(code, (int, float)):
return np.nan
# 转换为整数(兼容浮点型SIC码,如1000.0)
try:
code_int = int(code)
except (ValueError, TypeError):
return np.nan
# 区间匹配:遍历映射表,返回首个匹配的类别
for start, end, sector in mappings:
if start <p><strong>关键优化点说明:</strong> </p>
- ✅ 安全类型处理:显式检查pd.isna()和类型,避免int(None)报错;自动转换浮点数(如12345.0)。
- ✅ 逻辑健壮性:return np.nan置于循环外,确保仅当所有区间均不匹配时才返回空值;移除冗余print语句(调试时可用logging替代)。
- ✅ 性能保障:apply()底层仍为Python循环,但已是最简可行方案;若数据量超百万级,可进一步用numba加速或改用pd.cut()(需先将区间转为有序分类)。
- ⚠️ 注意事项:
- 确保SicCodes列无不可解析字符(如"None Supplied")——建议前置清洗:report['SicCodes'] = pd.to_numeric(report['SicCodes'], errors='coerce');
- 映射表mappings应按区间无重叠、无间隙设计(当前存在9990→10000、14990→15000等合理空隙,符合SIC标准);
- 避免在函数内修改全局变量(如原errors.add(code)),改用日志或返回结构化诊断信息。
此方案将数据映射从易错、难维护的手动逻辑,升级为清晰、可测试、工业级可用的数据转换步骤,是金融、商业分析项目中处理行业编码的标准实践。










