如何使用 Puppeteer 精准提取课表中的每节课详细信息

阿涛酱_4424

阿涛酱_4424

2026-06-15

684人浏览

原创

如何使用 Puppeteer 精准提取课表中的每节课详细信息

本文介绍如何利用 Puppeteer 的 $$eval 方法,从结构化课表 DOM 中批量抓取每节课的课程名、时间、教室、教师、类型等字段,并避免常见选择器陷阱与性能问题。

本文介绍如何利用 puppeteer 的 `$$eval` 方法,从结构化课表 dom 中批量抓取每节课的课程名、时间、教室、教师、类型等字段,并避免常见选择器陷阱与性能问题。

在爬取学校课表(如 Visma Inschool)这类动态渲染的 Web 应用时,关键不在于“获取整个日历区块”,而在于精准定位每一节课的独立容器节点,并结构化提取其多维度属性与文本内容。原始代码中使用 page.$("[class='active Timetable-TimetableDays_day']") 获取顶层 div 后仅调用 textContent,导致所有信息混为一串不可解析的纯文本——这正是结构化数据提取失败的典型原因。

✅ 正确策略:以 .Timetable-TimetableItem 为单位批量解析

观察 HTML 片段可知,每节课均包裹在具有 class="Timetable-TimetableItem" 的

头条号
头条号

头条号是一款AI文本写作工具,字节跳动推出的内容创作平台。

下载
中,且该元素携带丰富语义化属性(如 subjectcode、teachername、starttimeanddateunix)和嵌套结构(如 .Timetable-TimetableItem-hours、.Timetable-TimetableItem-location)。因此,应直接定位所有课表项,再逐个提取:
const data = await page.$$eval(
  ".Timetable-TimetableItem", // ✅ 稳健选择器:类名组合,不依赖顺序或冗余类
  (els) => els.map((el) => {
    const getText = (selector) => {
      const node = el.querySelector(selector);
      return node ? node.textContent.trim() : "";
    };

    return {
      subjectCode: el.getAttribute("subjectcode") || null,
      teacher: el.getAttribute("teachername") || "未知教师",
      hours: getText(".Timetable-TimetableItem-hours"),
      location: getText(".Timetable-TimetableItem-location"),
      name: getText(".Timetable-TimetableItem-subject-name"),
      type: getText(".Timetable-TimetableItem-type"),
      tttype: el.getAttribute("tttype"), // 如 "LESSON" 或 "SUBSTITUTION"
      entityId: el.getAttribute("entityid"),
      startTimeUnix: el.getAttribute("starttimeanddateunix"),
      ariaLabel: el.getAttribute("aria-label"),
      // 可选:从 header 的 sr-only 标题中解析更完整的描述
      fullDescription: el.previousElementSibling?.textContent?.trim() || "",
    };
  })
);

? 为什么用 $$eval 而非 $$ + ElementHandle.getProperty()?
$$eval 在浏览器上下文中执行 JavaScript,一次性完成全部 DOM 查询与数据组装,避免多次跨进程通信,性能更高、代码更简洁,且不会因 ElementHandle 失效(stale element reference)而报错。

⚠️ 关键注意事项

  • 等待元素就绪:课表常为异步加载,务必在提取前等待目标元素出现:
    await page.waitForSelector(".Timetable-TimetableItem", { timeout: 10000 });
  • 选择器要健壮:避免 [class='...'] 这类严格匹配(易因 CSS 类顺序/增删失效),改用 .ClassA.ClassB 多类组合;若 .Timetable-TimetableItem 已唯一,可直接使用。
  • 容错处理:对可能缺失的属性(如 teachername)添加 || null 或默认值,防止 undefined 导致后续逻辑中断。
  • 时间戳转换(进阶):starttimeanddateunix 是秒级 Unix 时间戳,可用 new Date(Number(timestamp) * 1000) 转为可读日期对象。
  • 反爬提示:虽属校内系统且获授权,仍建议添加合理延时、设置 userAgent 并复用 browser 实例,体现良好实践。

? 总结

结构化网页数据抓取的核心是「按数据单元选择,而非按视觉区块选择」。针对课表这类列表型内容,应锚定每一项的原子容器(.Timetable-TimetableItem),再通过 $$eval 高效批量提取属性与子节点文本。此举不仅提升代码可维护性与鲁棒性,也为后续构建信息屏、同步日历或生成 JSON API 奠定清晰的数据基础。

相关专题

更多
html版权符号
html版权符号

html版权符号是“©”,可以在html源文件中直接输入或者从word中复制粘贴过来,php中文网还为大家带来html的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

2023.06.14

5855

7

html在线编辑器
html在线编辑器

html在线编辑器是用于在线编辑的工具,编辑的内容是基于HTML的文档。它经常被应用于留言板留言、论坛发贴、Blog编写日志或等需要用户输入普通HTML的地方,是Web应用的常用模块之一。php中文网为大家带来了html在线编辑器的相关教程、以及相关文章等内容,供大家免费下载使用。

2023.06.21

3312

4

html网页制作
html网页制作

html网页制作是指使用超文本标记语言来设计和创建网页的过程,html是一种标记语言,它使用标记来描述文档结构和语义,并定义了网页中的各种元素和内容的呈现方式。本专题为大家提供html网页制作的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.31

2990

5

html空格
html空格

html空格是一种用于在网页中添加间隔和对齐文本的特殊字符,被用于在网页中插入额外的空间,以改变元素之间的排列和对齐方式。本专题为大家提供html空格的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.01

2999

5

html是什么
html是什么

HTML是一种标准标记语言,用于创建和呈现网页的结构和内容,是互联网发展的基石,为网页开发提供了丰富的功能和灵活性。本专题为大家提供html相关的各种文章、以及下载和课程。

2023.08.11

4799

6

html字体大小怎么设置
html字体大小怎么设置

在网页设计中,字体大小的选择是至关重要的。合理的字体大小不仅可以提升网页的可读性,还能够影响用户对网页整体布局的感知。php中文网将介绍一些常用的方法和技巧,帮助您在HTML中设置合适的字体大小。

2023.08.11

2961

3

html转txt
html转txt

html转txt的方法有使用文本编辑器、使用在线转换工具和使用Python编程。本专题为大家提供html转txt相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.31

2749

3

html文本框代码怎么写
html文本框代码怎么写

html文本框代码:1、单行文本框【<input type="text" style="height:..;width:..;" />】;2、多行文本框【textarea style=";height:;"></textare】。

2023.09.01

2448

6

HTML嵌入CSS样式的方法
HTML嵌入CSS样式的方法

HTML嵌入CSS样式的方法有内联样式、内部样式表和外部样式表。本专题为大家提供CSS样式相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.20

2488

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.4万人学习