Scrapy CSS选择器无效的常见原因及正确用法

云雪大大_5226

云雪大大_5226

2026-10-12

979人浏览

原创

Scrapy CSS选择器无效的常见原因及正确用法

当Scrapy使用CSS选择器无法提取目标文本时,往往因选择器过度冗长、类名拼写错误或未适配实际HTML结构所致;简化为精准、语义化的选择器(如span.elementor-heading-title::text)即可高效获取所需内容。

当scrapy使用css选择器无法提取目标文本时,往往因选择器过度冗长、类名拼写错误或未适配实际html结构所致;简化为精准、语义化的选择器(如span.elementor-heading-title::text)即可高效获取所需内容。

在Scrapy中,CSS选择器失效是初学者高频遇到的问题。本例中,用户试图从 <https:></https:> 页面提取培训标签(如“Accompagnement”“Validation des Acquis de l'Expérience - Livret 2”),但返回空列表 []。根本原因在于原始选择器存在三处典型错误:

  1. 过度限定路径:硬编码了大量无关的父级类名(如 elementor-44463、dce-elementor-rendering-id-1),而这些动态生成的ID/类名极易变化,且页面实际HTML中并不存在该完整结构;
  2. 类名拼接错误:elementor-element-49bd7747elementor-widget__width-auto... 中缺失空格,导致CSS选择器语法非法;
  3. 忽略可复用性与健壮性:未利用Elementor组件的通用样式特征(如统一使用的 elementor-heading-title 类)。

✅ 正确做法是聚焦目标元素本身的关键特征。观察HTML片段:

<span class="elementor-heading-title elementor-size-default">Accompagnement</span>
<span class="elementor-heading-title elementor-size-default">Validation des Acquis de l'Expérience - Livret 2</span>

所有目标文本均位于带有 elementor-heading-title 类的 <span></span> 标签内。因此,最简洁、稳定且可维护的选择器为:

libelles = response.css("span.elementor-heading-title::text").getall()

? getall() 返回字符串列表(推荐用于多结果场景);若仅需首个匹配项,可用 .get()(返回单个字符串或 None)。

CSS婚礼策划服务机构宣传网站模板
CSS婚礼策划服务机构宣传网站模板

CSS婚礼策划服务机构宣传网站模板是一款适合提供婚礼策划和婚庆服务机构宣传网站模板下载。提示:本模板调用到谷歌字体库,可能会出现页面打开比较缓慢。

下载

完整修正后的Spider代码如下:

import scrapy

class MonAvenirProSpider(scrapy.Spider):
    name = "monavenirpro"  # 注意:此处应为字符串赋值,原代码中误用冒号(:)
    start_urls = ["https://monavenirpro-hdf.fr/formations/"]

    def parse(self, response):
        # ✅ 精简、健壮的选择器:直接定位带目标类名的span文本
        libelles = response.css("span.elementor-heading-title::text").getall()

        # 可选:过滤空字符串,提升数据质量
        libelles = [text.strip() for text in libelles if text.strip()]

        yield {
            "listlibelles": libelles
        }

⚠️ 注意事项:

  • 检查选择器语法:CSS类选择器用 . 连接(如 .class1.class2),而非空格(空格表示后代关系);
  • 动态ID(如 elementor-element-49bd7747)不可靠,应避免在生产代码中硬编码;
  • 使用 response.css(...).get() / .getall() 替代已弃用的 .extract() / .extract_first()(Scrapy 2.0+);
  • 开发阶段建议先在Scrapy Shell中验证选择器:
    scrapy shell "https://monavenirpro-hdf.fr/formations/"
    >>> response.css("span.elementor-heading-title::text").getall()

通过回归语义化、去耦合的设计原则,不仅解决了当前问题,更提升了爬虫对前端结构微调的鲁棒性。

前端入门到VUE实战笔记:立即使用
在学习笔记中,你将探索 前端 的入门与实战技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

css css选择器

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
css
css

css是层叠样式表,用来表现HTML或XML等文件样式的计算机语言,不仅可以静态地修饰网页,还可以配合各种脚本语言动态地对网页各元素进行格式化。php中文网还为大家带来html的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

2023.06.15

4536

6

css居中
css居中

css居中:1、通过“margin: 0 auto; text-align: center”实现水平居中;2、通过“display:flex”实现水平居中;3、通过“display:table-cell”和“margin-left”实现居中。本专题为大家提供css居中的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.27

997

5

css如何插入图片
css如何插入图片

cssCSS是层叠样式表(Cascading Style Sheets)的缩写。它是一种用于描述网页或应用程序外观和样式的标记语言。CSS可以控制网页的字体、颜色、布局、大小、背景、边框等方面,使得网页的外观更加美观和易于阅读。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.28

1858

6

css超出显示...
css超出显示...

在CSS中,当文本内容超出容器的宽度或高度时,可以使用省略号来表示被隐藏的文本内容。本专题为大家提供css超出显示...的相关文章,相关教程,供大家免费体验。

2023.08.01

3546

7

css字体颜色
css字体颜色

CSS中,字体颜色可以通过属性color来设置,用于控制文本的前景色,字体颜色在网页设计中起到很重要的作用,具有以下表现作用:1、提升可读性;2、强调重点信息;3、营造氛围和美感;4、用于呈现品牌标识或与品牌形象相符的风格。

2023.08.10

7125

11

什么是css
什么是css

CSS是层叠样式表(Cascading Style Sheets)的缩写,是一种用于描述网页(或其他基于 XML 的文档)样式与布局的标记语言,CSS的作用和意义如下:1、分离样式和内容;2、页面加载速度优化;3、实现响应式设计;4、确保整个网站的风格和样式保持统一。

2023.08.10

6051

7

css三角形怎么写
css三角形怎么写

CSS可以通过多种方式实现三角形形状,本专题为大家提供css三角形怎么写的相关教程,大家可以免费体验。

2023.08.21

2037

9

css设置文字颜色
css设置文字颜色

CSS(层叠样式表)可以用于设置文字颜色,这样做有以下好处和优势:1、增加网页的可视化效果;2、突出显示某些重要的信息或关键字;3、增强品牌识别度;4、提高网页的可访问性;5、引起不同的情感共鸣。

2023.08.22

2871

5

css禁止点击事件
css禁止点击事件

实现css禁止点击事件的方法有使用CSS的pointer-events属性和使用JavaScript禁用点击事件。本专题为大家提供点击事件相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.23

2513

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Sass 教程
Sass 教程

共14课时 | 1.5万人学习

Bootstrap 5教程
Bootstrap 5教程

共46课时 | 5.9万人学习

CSS教程
CSS教程

共754课时 | 96.9万人学习