Scrapy Response对象有哪些常用属性?

云婷酱_7199

云婷酱_7199

2026-08-18

166人浏览

原创

必须准确访问Scrapy Response对象内容:1.用response.body获原始字节,response.text获解码文本;2.检查response.encoding是否正确;3.用response.url和status确认来源与状态;4.通过xpath/css方法提取数据,优先用.get()/.getall();5.用response.urljoin()构造下一页绝对URL。

scrapy response对象有哪些常用属性? - php中文网

要快速提取网页数据,必须准确访问Scrapy Response对象中封装的响应内容,否则xpath或css选择器会因找不到文本而返回空列表。

获取响应原始字节和解码后文本

第一步:用 response.body 获取原始二进制内容,这是未经解码的 bytes 类型数据,直接打印会出现乱码或 b'...' 前缀;

第二步:用 response.text 获取已解码的字符串,它等价于 response.body.decode(response.encoding);

第三步:检查 response.encoding 的值,若为 【None】 或明显错误(如 'utf-8' 但页面实际是 'gbk'),后续所有 .text 和选择器提取都可能出错;

这一步操作起来很简单,直接在 parse 函数里打印 response.encoding 就能验证。

定位响应来源与状态

用 response.url 确认当前处理的是哪个地址的响应——重定向后该值会更新为最终跳转地址,不是你最初 request 的 url;

response.status 返回 int 类型状态码,200 表示成功,404/500 等需在回调中主动判断并跳过解析;

注意:若未显式处理非 200 状态,parse 函数仍会被调用,可能导致 xpath 提取报错或写入脏数据。

Scrapy 2.18.0
Scrapy 2.18.0

Scrapy 2.18.0 官方源码包下载,适合 Python 网页抓取、选择器解析、Item Pipeline 和异步请求调度项目升级。

下载

提取结构化数据的核心入口

方法一:调用 response.selector 获取 Selector 对象,再使用 .xpath() 或 .css() 方法;

方法二:直接在 response 上调用 response.xpath(),Scrapy 会自动代理到 selector;

方法三:用 response.css() 快速按 CSS 选择器提取,例如 response.css('title::text').get() 取标题文本;

【.get() 和 .getall() 替代了旧版 .extract_first() 和 .extract()】,新项目请统一使用前者,避免兼容性问题。

构造下一页绝对 URL

当页面中分页链接是相对路径(如 href="/page/2" 或 href="next.html")时,不能直接拼接域名;

调用 response.urljoin("next.html"),Scrapy 会基于当前 response.url 自动补全协议、域名和路径前缀;

这比手动用 urllib.parse.urljoin 更可靠,因为它已内置对 base 标签、响应 headers 中 Location 字段的兼容逻辑。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
免费爬虫工具有哪些
免费爬虫工具有哪些

免费爬虫工具有Scrapy、Beautiful Soup、ParseHub、Octoparse、Webocton Scriptly、RoboBrowser和Goutte。更多关于免费爬虫工具的问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.10

5473

9

Tailwind CSS 如何制作导航栏和卡片
Tailwind CSS 如何制作导航栏和卡片

用 Tailwind CSS 制作导航栏和卡片,可先搭建语义化结构,再组合 Flex、Grid、间距、圆角与阴影类。这里整理横向导航、移动端菜单、卡片网格及悬停效果的相关文章,帮助你把常见页面组件做得清晰且适配不同屏幕。

2026.11.03

0

17

Tailwind CSS 响应式布局怎么写
Tailwind CSS 响应式布局怎么写

Tailwind CSS 响应式布局通常从移动端样式写起,再用 sm、md、lg 等前缀调整不同屏幕宽度下的网格、间距和导航。本专题整理断点配置、Grid 与 Flex 自适应布局及常见溢出问题,帮助你逐步完成多设备适配。

2026.11.03

0

19

Tailwind CSS 常用类名怎么记
Tailwind CSS 常用类名怎么记

Tailwind CSS 类名很多,先按布局、间距、文字、颜色和状态分组记忆,再通过官方文档检索具体写法。本专题结合类名排序、动态拼接失效、自定义实用类等问题,帮助你建立常用类名的速查方法。

2026.11.03

0

12

码上飞入口地址合集
码上飞入口地址合集

本专题汇总了码上飞(CodeFlying)的官方入口地址合集,涵盖官网主站及网页版在线使用入口,支持注册登录后直接在线体验零代码AI应用生成。同时整理了APP端下载渠道与小程序入口,助你快速访问平台,通过自然语言描述需求即可生成应用、小程序或网站。

2026.11.03

0

10

Uvicorn 报错与问题解决教程
Uvicorn 报错与问题解决教程

本专题汇总了Uvicorn服务器常见问题与报错解决的教程合集,涵盖启动失败、端口占用、模块导入错误、事件循环冲突及热重载失效等典型故障的排查思路。同时整理了多进程与Worker配置、SSL/HTTPS证书报错、跨域与代理配置等实战解决方案,助你快速定位并解决Uvicorn运行中的各类问题。

2026.11.02

20

14

Uvicorn使用教程
Uvicorn使用教程

本专题汇总了Uvicorn使用教程与启动运行指南,涵盖其作为Python ASGI服务器的定位与特点,以及命令行启动(uvicorn main:app --reload)、参数配置(host/port/workers)、程序内嵌运行与Gunicorn结合部署等核心用法。同时整理了热重载调试、日志配置与生产环境部署优化等技巧,助你快速掌握Uvicorn的运行与配置。

2026.11.02

20

17

Uvicorn安装配置教程
Uvicorn安装配置教程

本专题汇总了Uvicorn的安装配置教程与部署指南,涵盖通过pip安装Uvicorn、启动FastAPI/Starlette应用、开发模式热重载(--reload)及多进程工作模式配置等核心操作。同时整理了结合Gunicorn的生产部署方案、HTTPS与反向代理配置及性能调优技巧,助你快速完成Uvicorn服务的安装与上线部署。

2026.11.02

20

17

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

2026.10.28

120

16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Scrapy 官方文档与教程
Scrapy 官方文档与教程

共0课时 | 0人学习