结论:优先用dropna而非fillna,当缺失值本身是有效信号(如设备离线)、填充会扭曲计算逻辑(如t检验)或导致分布失真(如高缺失率分类变量)时必须dropna。

直接说结论:用 dropna 还是 fillna,不看“缺不缺”,而看“缺的值在业务里有没有意义”——比如用户注册时间为空,删掉可能丢转化漏斗;但传感器某次读数为空,填均值反而污染趋势。
什么时候必须用 dropna 而不是填一个数
核心判断点:缺失本身是有效信号,或填充会扭曲后续计算逻辑。
- 做时间序列建模时,
fillna用前向填充(method="ffill")可能让模型误以为“数据一直没变”,但实际是设备离线——这时宁可删整行,保留“断连”的真实节奏 - 分类变量(如
"gender")缺失率达 40%,填"unknown"会让类别分布失真;而dropna后若剩余样本仍满足最小支持度,就该删 - 调用
scipy.stats.ttest_ind等统计函数前,它们内部不自动处理NaN,强制填 0 或均值会导致 p 值失效——必须先dropna,否则报错ValueError: Input contains NaN
fillna 填什么,取决于列类型和下游任务
填错值比留空更危险。数值型、分类型、时间型,策略完全不同。
让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac,无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启:辅助功能 + 屏幕录制权限
- 数值列(如
"price"):- 预测任务:用中位数(
df["price"].median()),比均值抗异常值干扰 - 回归任务:用随机森林拟合其他特征来预测缺失值(
sklearn.ensemble.RandomForestRegressor),但注意别造成数据穿越
- 预测任务:用中位数(
- 分类型(如
"category"):- 不能填
0或"missing"就完事——如果后续要做pd.get_dummies,得提前确认"missing"是否在训练集出现过,否则测试时报KeyError - 更稳的做法是单独加一列
is_category_missing(布尔型),再对原列用众数填充
- 不能填
- 时间列(如
"order_time"):- 填
pd.NaT是安全的,但某些数据库写入时会转成1970-01-01;如果下游是 ClickHouse,得填"1970-01-01 00:00:00"字符串才兼容
- 填
inplace=True 在 dropna 和 fillna 里到底要不要用
绝大多数情况——别用。它看似省内存,实则埋坑。
- 函数链式调用时失效:
df.dropna().fillna(0)中inplace=True会让第一句返回None,第二句直接报AttributeError: 'NoneType' object has no attribute 'fillna' - Jupyter 里调试时,如果某步用了
inplace=True,再想回退只能重启 kernel,因为原df已被改写 - 唯一可考虑的场景:处理超大 DataFrame(>5GB),且确定后续不再需要原始缺失状态——但更推荐用
dask或polars替代 pandas
真正麻烦的从来不是“怎么填”,而是填完之后没人再检查分布偏移。比如填完中位数,df["age"].describe() 看似正常,但画个直方图会发现 35 岁堆成尖峰——那说明缺失集中在某个用户群,得回头查采集逻辑。
Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!










