如何用 Pandas 筛选日期后缀大于指定日期的 CSV 文件

浅晨同学_4857

浅晨同学_4857

2026-08-16

268人浏览

原创

如何用 Pandas 筛选日期后缀大于指定日期的 CSV 文件

本文介绍如何使用 Python 和 Pandas 从文件名中提取日期(如 _20240905.csv),并筛选出日期大于指定阈值(如 2024-09-05)的所有 CSV 文件,支持完整路径处理、健壮解析与批量读取。

本文介绍如何使用 python 和 pandas 从文件名中提取日期(如 `_20240905.csv`),并筛选出日期大于指定阈值(如 2024-09-05)的所有 csv 文件,支持完整路径处理、健壮解析与批量读取。

在实际数据处理场景中,常需按时间维度动态加载一批命名含日期的 CSV 文件(例如 file_name_20240901.csv)。原始代码仅通过字符串匹配(如 "20240905" in loc)做精确匹配,无法实现“大于某日期”的逻辑判断。要正确实现日期比较,关键在于:将文件名中的日期字符串解析为真正的 datetime 类型,再进行数值化比较。

以下是一个专业、可复用的解决方案:

✅ 正确做法:用 pd.to_datetime 提取并解析日期

import glob
import pandas as pd
import os

# 指定根路径(注意:Windows 路径建议用 raw string 或正向斜杠)
_path = r'C:\temporary_location'

# 获取所有 CSV 文件的完整路径
all_files = glob.glob(os.path.join(_path, 'file_name_*.csv'))

# 构建 DataFrame 并提取日期部分(假设日期格式为 YYYYMMDD,位于文件名末尾)
df = pd.DataFrame({'filepath': all_files})
# 使用正则提取 8 位数字日期(更鲁棒,避免路径干扰)
df['date_str'] = df['filepath'].str.extract(r'_(\d{8})\.csv$', expand=False)

# 将字符串转为 datetime;format 指定格式,exact=False 允许在字符串中任意位置匹配
df['date'] = pd.to_datetime(df['date_str'], format='%Y%m%d', errors='coerce')

# 过滤:日期严格大于指定阈值(自动处理时区与类型转换)
cutoff_date = pd.Timestamp('2024-09-05')
filtered_files = df[df['date'] > cutoff_date]['filepath'].tolist()

print("✅ 匹配到以下文件(日期 > 2024-09-05):")
for f in sorted(filtered_files):  # 推荐排序以保证时间顺序
    print(f)

✅ 输出示例(按字典序或 sorted() 后):

Knowledge Graph - Csv Graph Loader Generator
Knowledge Graph - Csv Graph Loader Generator

从 CSV 数据集生成图数据库加载器和三元组映射。将表格 CSV 数据转换为图数据库可直接使用的节点、边和三元组。

下载
✅ 匹配到以下文件(日期 > 2024-09-05):
C:\temporary_location\file_name_20240906.csv
C:\temporary_location\file_name_20240907.csv
...
C:\temporary_location\file_name_20240913.csv

⚠️ 注意事项与最佳实践

  • 不要直接字符串比较日期:"20240906" > "20240905" 虽然在此例中成立,但不具通用性(如 "20241001" 字符串比较会错误);必须转为 <code>datetime 才能保证语义正确。
  • 路径安全处理:使用 os.path.join() 或 pathlib.Path 替代手动拼接 \,避免跨平台问题。
  • 容错性增强:errors='coerce' 可将无法解析的日期转为 NaT(Not a Time),避免程序中断;后续可用 df.dropna(subset=['date']) 清洗。
  • 性能提示:若文件极多,可改用 pathlib + re 预筛选再解析,减少 DataFrame 构建开销;但对百级文件,上述方法简洁高效。
  • 扩展建议:若需批量读取并合并,可在循环中追加 pd.read_csv(f) 到列表,最后 pd.concat(..., ignore_index=True)。

该方法兼顾可读性、健壮性与工程实践,是处理时间序列命名文件的标准范式。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

csv

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

2025.12.04

320

15

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

2026.01.31

252

21

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

2026.04.13

671

25

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

2026.10.22

100

11

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

2026.10.22

60

10

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

2026.10.22

60

15

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

2026.10.22

20

10

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

2026.10.22

60

25

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

2026.10.22

20

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习