
本文介绍在 pandas 中实现非精确列匹配的 dataframe 合并方法:通过先按公共字段(如 deliveryperiod)左连接,再利用行级字符串包含逻辑(vintage 是否出现在 service 中)筛选并修正 floatprice 值,最终得到符合业务语义的关联结果。
本文介绍在 pandas 中实现非精确列匹配的 dataframe 合并方法:通过先按公共字段(如 deliveryperiod)左连接,再利用行级字符串包含逻辑(vintage 是否出现在 service 中)筛选并修正 floatprice 值,最终得到符合业务语义的关联结果。
在实际数据分析中,常遇到两表无法直接通过等值键(如列名相同、值完全一致)合并的情况。例如本例中,df1 的 Vintage 字段需与 df2 的 Service 字段进行子串匹配(即 Vintage 值是否作为子字符串出现在 Service 中),同时还要满足 DeliveryPeriod 完全相等——这是一种典型的“条件式模糊关联”。
标准 pd.merge() 不支持内置的字符串包含逻辑,因此需分步处理:
-
先按确定字段左连接:选择强约束字段
DeliveryPeriod进行left合并,确保df1所有记录保留,并引入df2的Service和FloatPrice; -
构造布尔掩码进行条件校验:使用
apply(axis=1)对每行判断Vintage是否为Service的子串(注意处理Vintage为None或非字符串类型的情况); -
修正不匹配行的 FloatPrice:将不满足条件的行
FloatPrice设为0.00(按需求可设为np.nan或其他默认值); -
清理冗余列:删除临时引入的
Service列,保持结果简洁。
以下是完整可运行代码:
import pandas as pd
import numpy as np
# 构造示例数据
df1 = pd.DataFrame({
'BA': ['A', 'B', 'B', 'C'],
'Product': ['foo', 'foo', 'foo', 'bar'],
'FixedPrice': [10.00, 11.00, 12.00, 2.00],
'Vintage': ['Vintage 2025', 'Vintage 2025', 'Vintage 2024', 'None'],
'DeliveryPeriod': ['Mar25', 'Dec25', 'Sep25', 'Nov25']
})
df2 = pd.DataFrame({
'Service': ['ICE - Vintage 2025', 'ICE - Vintage 2025',
'ICE - Vintage 2024', 'ICE - Vintage 2023'],
'DeliveryPeriod': ['Mar25', 'Dec25', 'Sep25', 'Nov25'],
'FloatPrice': [5.00, 4.00, 6.00, 1.00]
})
# 步骤1:基于 DeliveryPeriod 左连接
merged = df1.merge(df2, on='DeliveryPeriod', how='left')
# 步骤2:构建匹配掩码(兼容 None / NaN / 非字符串)
def vintage_in_service(row):
vintage = row['Vintage']
service = row['Service']
if not isinstance(vintage, str) or not isinstance(service, str):
return False
# 注意:'None' 是字符串,不是缺失值;若需排除字面量'None',可额外判断
if vintage == 'None':
return False
return vintage in service
mask = merged.apply(vintage_in_service, axis=1)
# 步骤3:不匹配则置为 0.00
merged.loc[~mask, 'FloatPrice'] = 0.00
# 步骤4:删除 Service 列
result = merged.drop(columns=['Service']).round(2)
print(result)
输出结果:
BA Product FixedPrice Vintage DeliveryPeriod FloatPrice 0 A foo 10.0 Vintage 2025 Mar25 5.00 1 B foo 11.0 Vintage 2025 Dec25 4.00 2 B foo 12.0 Vintage 2024 Sep25 6.00 3 C bar 2.0 None Nov25 0.00
⚠️ 注意事项:
-
apply(axis=1)在大数据集上性能较低,若数据量超 10 万行,建议预处理df2:提取Vintage子串并构造标准化映射表,再用map实现向量化匹配; -
Vintage中的'None'是字符串而非空值,若原始数据中存在真正缺失(NaN),需在vintage_in_service中用pd.isna()显式判断; - 若需更高鲁棒性(如忽略大小写、空格差异),可在匹配前统一调用
.strip().upper()等清洗操作。
该方案平衡了可读性、准确性和工程实用性,是处理“语义关联”类合并任务的经典范式。










