推荐用 pandas.dataframe.assign 链式生成多列依赖特征,支持 lambda 引用已有列(如 x['a']),避免中间变量;复杂逻辑拆为局部函数;条件分支优先用 np.select;慎用 eval/query;务必添加断言检查 nan。

用 pandas.DataFrame.assign 链式生成多列依赖的新特征
直接用 assign 而不是反复赋值,能避免中间变量污染命名空间,也更易读。它天然支持列间引用——只要右侧表达式里用 df['col_name'] 或 df.col_name 即可访问已有列。
常见错误是写成 df.assign(new_col = df.a + df.b * df.c) 却忘了 df 在 assign 内部不可见;正确写法是传入 lambda 或直接用已计算好的 Series(但后者失去链式优势)。
- 推荐写法:
df.assign(new_feat=lambda x: x['A'] * x['B'] + x['C'].clip(0, 10)) - 若逻辑太长,拆成局部函数再传入:
def calc_risk(x): return (x['income'] / (x['debt'] + 1e-6)) ** 0.5,然后df.assign(risk_score=calc_risk) - 注意:lambda 中的
x是当前 DataFrame 的视图,不能在 lambda 里改原 df,否则可能触发 SettingWithCopyWarning
当逻辑含条件分支时,优先用 numpy.select 而非嵌套 np.where
三个以上 if-elif-else 场景下,np.where 嵌套会让代码难读且易错;np.select 更清晰、性能略优,且天然支持“无匹配时默认值”。
典型场景:按收入分段打标签(low/medium/high),或根据多个布尔列组合生成状态码。
- 条件列表必须是布尔数组列表,顺序即判断顺序:
conditions = [df['age'] 45] - 选择列表长度需与 conditions 一致:
choices = ['young', 'mid', 'senior'] - 务必指定
default,否则遇到全 False 会报ValueError:np.select(conditions, choices, default='unknown') - 别直接对字符串列用
np.select—— 先转成布尔数组,例如df['category'] == 'A'
涉及时间差、滚动窗口或分组内运算时,必须确认索引和排序状态
很多跨列逻辑实际依赖行顺序(如“上一行的销售额 vs 当前行成本”),但 pandas 不保证 DataFrame 默认有序。未显式排序就调用 .shift() 或 .diff(),结果可能完全错乱。
尤其在读取 CSV 后直接操作,或经过 groupby().apply() 返回不保序结果时,问题高发。
- 时间类运算前先做:
df = df.sort_values(['user_id', 'event_time']).reset_index(drop=True) -
.rolling(window=7).mean()对datetime列需配合on=参数,否则按位置滚动而非时间滚动 - 分组内计算(如用户最近三次购买间隔)必须用
groupby(...).apply(lambda g: g.sort_values('ts').diff().iloc[-1]),不能省略sort_values
内存敏感场景下,避免用 eval 或 query 动态构造复杂逻辑
df.eval('A + B * C > D') 看似简洁,但底层会复制数据、编译表达式,且无法调试中间步骤;query 同理,对超大 DataFrame(>10M 行)有明显 GC 开销。
真实业务中,新特征常需复用中间结果(比如先算 log_ratio,再用它参与后续判断),动态字符串拼接会让逻辑散落、难以维护。
- 替代方案:用普通列赋值逐步构建,哪怕多写一两行:
df['log_ratio'] = np.log(df['numerator'] / df['denominator'].replace(0, np.nan)) - 如果真要动态执行,用
getattr+ 字典配置代替字符串:ops = {'ratio': lambda x: x['a']/x['b'], 'flag': lambda x: x['ratio'] > 1},再循环调用 - 特别注意:
eval会忽略 NaN 传播规则,有时返回意外的True,建议始终加engine='python'显式控制行为
跨列逻辑真正麻烦的从来不是语法,而是隐式依赖——某列是否缺失、是否被前面步骤意外修改、分组后索引是否重置。每次加新特征,最好顺手加一行断言:assert df['new_feat'].notna().all(), "new_feat contains NaN"。
Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!











