如何正确提取网页中成对出现的演出日期与时间数据

秋枫同学_3999

秋枫同学_3999

2026-11-10

127人浏览

原创

如何正确提取网页中成对出现的演出日期与时间数据

本文详解如何解决网络爬虫中因html结构复杂导致的日期时间数据错位问题,通过精准定位dom节点、合理配对相邻元素,实现多场次活动信息的结构化提取。

本文详解如何解决网络爬虫中因html结构复杂导致的日期时间数据错位问题,通过精准定位dom节点、合理配对相邻元素,实现多场次活动信息的结构化提取。

在构建事件信息爬虫时,一个常见却易被忽视的问题是:当同一活动包含多个场次(如“4月4日 20:00”和“4月5日 17:00”)时,若直接按全局顺序拉取所有日期/时间节点,会导致字段错位、冗余内容混入(如“Menu”)、格式污染(如前缀“a”或多余空格),最终破坏数据行的完整性。 您当前的代码正是陷入了这一典型陷阱——使用 findAll('span', class_='elementor-icon-list-text...') 泛化抓取,结果将标题、日期、地点、导航项等不同语义的同名类元素一并捕获,再强行用 zip() 按索引对齐,自然引发错配。

根本原因在于:目标网站实际采用 JetEngine 动态列表组件,其日期与时间严格按

成对交替排列(时间在前,日期在后),而非分散在独立语义容器中。因此,正确的策略是:

✅ 精准定位唯一标识类:放弃模糊的 elementor-* 类,改用语义清晰、专用于动态字段的 jet-listing-dynamic-field__content;
✅ 理解DOM序列规律:观察HTML源码可发现,该类元素严格按 [时间1, 日期1, 时间2, 日期2, ...] 顺序排列;
✅ 成对解析,避免硬索引对齐:用步长为2的循环,每次取连续两项,显式配对时间与日期。

以下是优化后的完整数据提取逻辑(含异常防护与结构化输出):

from bs4 import BeautifulSoup
import pandas as pd

# 正确提取所有动态字段内容(时间+日期交替)
datas = soup.find_all("div", {"class": "jet-listing-dynamic-field__content"})
if not datas:
    raise ValueError("未找到 jet-listing-dynamic-field__content 元素,请检查页面结构或选择器")

# 成对提取:索引0→时间,1→日期;2→时间,3→日期...
horario_pares = []
for i in range(0, len(datas), 2):
    if i + 1 >= len(datas):
        break  # 防止越界(如末尾只剩时间无日期)
    hora_elem = datas[i]
    data_elem = datas[i + 1]

    # 清洗:去除前缀(如"a ")、多余空格,并标准化日期格式(可选)
    hora = hora_elem.text.strip().replace("h", ":00")  # 如 "20h" → "20:00"
    data_raw = data_elem.text.strip()
    # 移除可能的前置字符(如 "a ", "em ")及非日期内容
    data_clean = "".join([c for c in data_raw if c.isdigit() or c in "/."]).strip()

    if hora and data_clean:
        horario_pares.append((data_clean, hora))

# 关联到每个事件(假设已获取标题、地点、链接列表)
eventos_estruturados = []
for idx, (titulo, local, link) in enumerate(zip(titulos, locais, links)):
    # 为每个事件分配其对应的所有场次(此处需确保 titulos/locais/links 与 horario_pares 的分组逻辑一致)
    # 实际项目中建议先按事件URL分组,再聚合其所有场次
    titulo_clean = titulo.text.strip()
    local_clean = local.text.strip()
    link_href = link.get('href', '')

    # 示例:为简化演示,假设每个事件有2个场次(需根据实际HTML动态适配)
    if idx <p>? <strong>关键注意事项</strong>:  </p>
  • 不要依赖全局 zip() 对齐:nome_evento, datas, local_evento, link_evento 四个列表长度很可能不等(尤其当部分事件缺少某字段时),强制 zip() 会截断数据;
  • 优先按事件容器(如 .jet-engine-post)逐个解析:更健壮的做法是先 find_all 事件主区块,再在每个区块内分别提取标题、所有日期时间、地点、链接,确保语义归属正确;
  • 日期清洗需场景化:示例中用正则或字符串过滤提取数字/斜杠,但生产环境建议用 dateutil.parser 或自定义映射(如 "sexta-feira" → "Friday")提升鲁棒性;
  • 始终验证HTML结构:使用浏览器开发者工具确认目标元素的真实class、嵌套关系及重复模式,避免被CSS框架生成的冗余类误导。

通过聚焦语义化选择器、尊重DOM序列逻辑、分层解析而非扁平拉取,您即可稳定产出结构清晰、字段对齐的事件数据,为后续分析或可视化奠定坚实基础。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
免费爬虫工具有哪些
免费爬虫工具有哪些

免费爬虫工具有Scrapy、Beautiful Soup、ParseHub、Octoparse、Webocton Scriptly、RoboBrowser和Goutte。更多关于免费爬虫工具的问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.10

5713

9

Python爬虫获取数据的方法
Python爬虫获取数据的方法

Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据,或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.13

693

12

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

2026.11.06

60

12

Postman请求头Headers怎么设置
Postman请求头Headers怎么设置

围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。

2026.11.06

20

13

Postman接口请求发送教程
Postman接口请求发送教程

详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。

2026.11.06

40

10

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

2026.11.05

60

12

DBeaver安全防护教程大全
DBeaver安全防护教程大全

DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。

2026.11.05

40

12

DBeaver连接创建与配置教程
DBeaver连接创建与配置教程

本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。

2026.11.04

40

16

XORM框架结构体映射与表结构同步
XORM框架结构体映射与表结构同步

本专题围绕XORM框架的结构体映射展开,说明表名与字段的命名策略、xorm标签常用属性、主键自增与时间字段自动填充,并演示Sync2自动建表、增量字段升级、索引声明与反向生成结构体的完整流程。

2026.11.04

60

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.3万人学习