如何使用 Playwright 高效爬取漫画全章节列表

碧海醫心

碧海醫心

2026-07-22

1441人浏览

原创

如何使用 Playwright 高效爬取漫画全章节列表

本文介绍如何利用 playwright 的 locator 机制与语义化 css 选择器,稳定、高效地批量提取漫画网站的全部章节标题与链接,避免硬编码脆弱选择器,并通过禁用 js 和资源拦截提升性能与可靠性。

本文介绍如何利用 playwright 的 locator 机制与语义化 css 选择器,稳定、高效地批量提取漫画网站的全部章节标题与链接,避免硬编码脆弱选择器,并通过禁用 js 和资源拦截提升性能与可靠性。

在 Web 爬虫开发中,针对漫画类网站(如 Battwo 或 Anime-Planet)批量抓取章节列表是一项常见需求。但许多初学者容易陷入“逐个元素手动定位”的误区——例如依赖 div:nth-child(3) > astro-island:nth-child(1) 这类由浏览器开发者工具自动生成、极易断裂的嵌套选择器。这类选择器一旦页面结构微调(如新增广告位、重构组件),整个脚本就会失效。

✅ 正确做法是:聚焦语义化、稳定且具有业务含义的选择器。观察目标页面源码可发现,章节容器通常带有明确标识属性,例如

,而每个章节项常使用 Tailwind 类如 space-x-1 组合链接与标题。因此推荐使用:

[name="chapter-list"] [class="space-x-1"]

该选择器具备强语义性与低耦合性,远比深度嵌套的 > 和 nth-child() 更健壮。

以下是优化后的完整实现(兼容 Playwright v1.38+):

Suno
Suno

最强AI音乐生成器,轻松实现文本转歌曲,媲美真实歌手

下载
import { firefox } from "playwright";

(async () => {
  const url = "https://battwo.com/title/75019-blue-lock";
  const userAgent =
    "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36";

  const browser = await firefox.launch();
  const context = await browser.newContext({
    userAgent,
    javaScriptEnabled: false, // ✅ 关键:禁用 JS,加速加载并规避动态渲染干扰
  });

  // ? 拦截非目标请求,仅允许访问目标 URL(减少干扰、提升稳定性)
  await context.route("**/*", (route) =>
    route.request().url() === url ? route.continue() : route.abort()
  );

  const page = await context.newPage();
  await page.goto(url, { waitUntil: "domcontentloaded" });

  // ✅ 使用 locator + evaluateAll —— 推荐范式,比 $$/$$eval 更安全、更可读
  const chapterSelector = '[name="chapter-list"] [class="space-x-1"]';
  const chapters = await page.locator(chapterSelector).evaluateAll((elements) =>
    elements.map((el) => {
      const linkEl = el.querySelector("a");
      const spanEl = el.querySelector("span");
      // 注意:span 内容可能含换行或空格,childNodes[2] 是常见文本节点位置(需根据实际 DOM 调整)
      const nameText = spanEl?.childNodes[2]?.textContent?.trim() || "";
      return {
        chapter: linkEl?.textContent?.trim() || "",
        url: linkEl?.getAttribute("href") || "",
        name: nameText,
      };
    })
  );

  console.log(`共获取 ${chapters.length} 章节:`);
  console.log(chapters.slice(0, 5)); // 打印前 5 条示例

  await context.close();
  await browser.close();
})();

? 关键优化点说明

  • 禁用 JavaScript:javaScriptEnabled: false 可显著加快页面加载(跳过 JS 解析与执行),尤其适用于静态 HTML 渲染的漫画目录页;
  • 精准资源路由拦截:通过 context.route() 阻止所有非目标请求,避免因第三方资源加载失败或超时导致 goto 异常;
  • 优先使用 locator.evaluateAll():相比 $$eval,它更契合 Playwright 的现代 API 设计,支持自动重试、内置等待逻辑,且避免手动管理元素句柄(ElementHandle)带来的内存与生命周期风险;
  • 避免 nth-child 和 > 链式选择器:它们对 DOM 结构变动极度敏感;应转向基于 id、name、class(如 space-x-1)、data-* 属性等语义化标识;
  • 合理处理文本节点:span 中的章节名常位于 childNodes[2](因前后可能有换行符或空格节点),建议结合 textContent.trim() 并做空值防护;若结构复杂,可改用 Array.from(spanEl?.childNodes).find(n => n.nodeType === Node.TEXT_NODE)?.textContent?.trim() 提升鲁棒性。

? 延伸建议

  • 若目标站点存在反爬机制(如验证码、频率限制),应在 context 中配置代理或添加随机延迟(使用 node:timers/promises 的 setTimeout);
  • 对于分页章节列表,可结合 page.locator("button:has-text('Next')") 实现自动翻页;
  • 最终数据建议导出为 JSON 或 CSV,便于后续分析或前端展示。

遵循以上原则,即可构建出高稳定性、易维护的漫画章节爬取脚本——不再被页面微调“牵着鼻子走”,而是真正面向数据语义编程。

相关文章

漫画合集
漫画合集

漫画合集汇集了丰富的热门漫画资源,海内外流量爆款的这里都有,最新最热的漫画资源第一时间奉上,有需要的小伙伴快来保存下载体验吧!

下载

相关标签:

css选择器 playwright

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Qt Creator新建项目使用教程
Qt Creator新建项目使用教程

本专题整理 Qt Creator 新建项目、打开已有工程、项目模板选择、目录结构、源文件管理、构建目录、运行配置和项目迁移方法,重点解决新手不知道选 qmake 还是 CMake、项目打不开、文件不参与编译等常见问题。

2026.08.05

0

10

maven常用插件使用大全
maven常用插件使用大全

PHP中文网精心整理Maven主流插件用法合集,涵盖编译、测试、打包等常用插件使用大全。从基础配置到进阶实战,详细解析各插件功能与适用场景,助你轻松掌握Maven自动化构建,解决Java项目开发痛点,是开发者必备的实用指南。

2026.08.05

0

31

PyCharm快速入门指南
PyCharm快速入门指南

本专题汇总了PyCharm快速入门的全套指南与教程,涵盖从官网下载安装、创建第一个Python项目、配置虚拟环境,到代码编辑、运行调试等基础操作,并整理了版本控制(Git)集成、常用高效快捷键及实用插件等进阶技巧,助你快速上手这款高效的Python IDE。

2026.08.05

2

17

PyCharm运行程序教程大全
PyCharm运行程序教程大全

本专题汇总了PyCharm运行程序的多种方式与详细操作步骤,涵盖通过主菜单Run、点击工具栏绿色三角图标、使用快捷键Shift+F10(或Ctrl+Shift+F10)等基本运行方法,以及配置运行/调试参数、设置PYTHONPATH环境变量、管理多脚本运行与交互式Python控制台调试等进阶技巧,助您全面掌握在PyCharm中高效运行与管理Python程序的方法。

2026.08.05

0

14

Maven零基础入门教程
Maven零基础入门教程

本合集由PHP中文网精心整理,提供Maven零基础入门到完整使用的保姆级教程。内容涵盖环境安装、核心配置、仓库管理及项目构建等核心知识点。通过详细步骤解析与代码示例,助你快速掌握Maven的依赖管理与自动化构建,轻松解决Java项目中的各种痛点,是新手入门与进阶的必备指南。

2026.08.05

2

18

Maven安装及配置教程
Maven安装及配置教程

本合集由PHP中文网精心整理,提供Maven安装配置与环境配置详情指南。内容涵盖Maven下载、解压安装、环境变量配置、阿里云镜像加速及本地仓库修改等全流程。教程通俗易懂,帮助开发者轻松解决依赖管理难题,快速掌握Maven核心构建技能,是Java开发者的必备实战指南。

2026.08.05

2

24

Selenium WebDriver元素定位与页面操作教程
Selenium WebDriver元素定位与页面操作教程

本专题整理Selenium WebDriver元素定位、XPath、CSS Selector、等待机制、窗口切换、Frame处理、Alert弹窗、Cookie操作和文件上传等核心用法。

2026.08.05

8

26

Selenium Grid分布式测试与并行执行教程
Selenium Grid分布式测试与并行执行教程

本专题整理Selenium Grid架构、远程WebDriver、并行测试、Docker部署、Kubernetes动态Grid、浏览器矩阵和测试环境扩展方法,适合进阶自动化测试团队使用。

2026.08.05

4

18

Selenium常见报错排查与自动化测试稳定性
Selenium常见报错排查与自动化测试稳定性

本专题整理Selenium常见报错、驱动版本问题、元素找不到、点击失败、等待超时、浏览器闪退、脚本不稳定和测试用例维护方法。

2026.08.05

0

17

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
CSS 代码实例
CSS 代码实例

共45课时 | 19.7万人学习

Web前端入门基础教程
Web前端入门基础教程

共251课时 | 91.2万人学习

独孤九贱(6)_jQuery视频教程
独孤九贱(6)_jQuery视频教程

共44课时 | 36.2万人学习