如何高效筛选并统计满足多列条件的空值行

小墨君_4354

小墨君_4354

2026-11-18

594人浏览

原创

如何高效筛选并统计满足多列条件的空值行

本文介绍使用 pandas 向量化操作快速定位“某列为空但其他列满足特定条件”的数据行,避免低效循环,支持扩展至十余列的批量条件检查。

本文介绍使用 pandas 向量化操作快速定位“某列为空但其他列满足特定条件”的数据行,避免低效循环,支持扩展至十余列的批量条件检查。

在数据分析中,常需识别结构化缺失模式——例如:“place 为空时,stock 是否仍为正数?”这类问题本质是基于空值定位后对同行其他字段施加逻辑判断。若采用 for 循环 + enumerate(如 df['place'].isnull().tolist())遍历,不仅代码冗长,更会丧失 Pandas 的向量化优势,大幅降低性能,尤其在百万级数据上尤为明显。

正确的做法是充分利用布尔索引(Boolean Indexing)进行一次性向量化过滤。以原始示例为例:

import pandas as pd

df = pd.DataFrame({
    'ID': [1, 2, 3, 4],
    'place': [1, None, None, 1],
    'stock': [4, 2, None, 1]
})

# ✅ 向量化:统计 place 为空且 stock > 0 的行数
count = df[df['place'].isnull() & (df['stock'] > 0)].shape[0]
print(count)  # 输出:1(仅第2行满足)

注意:& 是 Pandas 中的按元素逻辑与(必须用括号包裹每个条件),不可写作 and;isnull() 可安全处理 NaN、None 及 pd.NA。

对于需检查 10+ 列 的通用场景,推荐封装为可复用函数。例如,定义一个函数,接收目标空值列名、待校验列名列表及对应条件函数:

def count_null_correlated(df, null_col, check_specs):
    """
    统计指定列为空时,其余列满足条件的行数

    Parameters:
    - df: DataFrame
    - null_col: 字符串,作为空值判断基准列(如 'place')
    - check_specs: 列表,元素为元组 (col_name, condition_func),如 
                   [('stock', lambda x: x > 0), ('price', lambda x: pd.notna(x))]
    """
    mask = df[null_col].isnull()
    for col, cond in check_specs:
        mask &= cond(df[col])
    return mask.sum()

# 使用示例:检查 place 为空时,stock > 0 且 price 非空
# count = count_null_correlated(df, 'place', [
#     ('stock', lambda x: x > 0),
#     ('price', pd.notna)
# ])

⚠️ 注意事项:

  • 所有比较操作(如 > 0)对 NaN 自动返回 False,无需额外 fillna() 干预;
  • 多条件组合务必用 &(位与)而非 and,且每个子条件须用括号包裹,否则因运算符优先级报错;
  • 若涉及字符串列的空值判断,建议统一使用 df[col].isna()(兼容 None/NaN/pd.NA),而非 == '' 或 is None;
  • 对超大规模数据,可结合 .query() 提升可读性:df.query('place != place and stock > 0').shape[0](利用 NaN != NaN 恒真特性)。

总结:摒弃逐行迭代,拥抱布尔索引与函数式组合,是处理此类“空值关联校验”任务的核心范式——简洁、高效、可扩展。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

2025.12.04

360

15

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

2026.01.31

292

21

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

2026.04.13

1011

25

GoFrame框架零基础入门
GoFrame框架零基础入门

本专题整理GoFrame框架的入门知识,从模块化设计理念、环境准备到跑通第一个Web服务,讲清目录分层、配置加载、日志与中间件的用法,并对比Gin、Go-Zero的差异,帮助Go开发者建立整体认知。

2026.11.17

0

15

SQLAlchemy 一对多关系怎么建立
SQLAlchemy 一对多关系怎么建立

SQLAlchemy 一对多关系怎么建立?本专题整理父子表外键、relationship 双向映射、关联查询、级联删除和加载优化等相关文章,帮助你理解并实现常见的 ORM 关系建模。

2026.11.17

0

10

SQLAlchemy 如何增删改查
SQLAlchemy 如何增删改查

SQLAlchemy 如何增删改查?本专题整理 ORM 新增记录、条件查询、更新和删除、Session 事务提交与批量处理等实用文章,帮助你掌握 Python 数据库操作流程。

2026.11.17

0

11

SQLAlchemy ORM 模型怎么写
SQLAlchemy ORM 模型怎么写

SQLAlchemy ORM 模型怎么写?本专题整理模型类定义、Mapped 字段映射、主键与约束、表结构创建和常见报错的相关文章,帮助你从基础配置到实际建模逐步掌握 SQLAlchemy。

2026.11.17

0

16

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

2026.11.12

160

15

Go-Zero安装与goctl环境配置教程
Go-Zero安装与goctl环境配置教程

本专题围绕Go-Zero的安装与工具链配置展开,讲清Go版本要求、goctl安装方式、代理镜像、protoc依赖与环境变量设置,说明多版本共存、升级回退与CI流水线安装的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.12

120

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.3万人学习