Scrapy POST请求怎么发送?

云婷酱_7199

云婷酱_7199

2026-08-18

616人浏览

原创

scrapy中提交表单或json数据需用formrequest或request/jsonrequest构造post请求,确保编码格式匹配;formdata键值须为str类型,jsonrequest的data须为字典;cookies和headers需按规范传入。

scrapy post请求怎么发送? - php中文网

要在Scrapy中向目标接口准确提交表单或JSON数据并获取响应,必须绕过默认的GET请求机制,手动构造POST请求对象并确保编码格式与服务端预期严格一致,否则服务器将返回400、空响应或跳转到登录页。

用FormRequest发表单类POST(最常用)

适用于登录页、搜索框、筛选条件等HTML表单场景,数据自动按application/x-www-form-urlencoded编码,无需手动处理键值对拼接。

第一步:在爬虫类中注释或删除start_urls,避免父类自动发起GET请求;

第二步:重写start_requests(self)方法,在其中使用yield scrapy.FormRequest()

第三步:传入url(必填)、formdata(字典,键名必须与网页源码中input标签的name属性完全一致)、callback(响应处理函数);

这一步操作起来很简单,直接把文件拖进去就行。但注意:【formdata字典里的所有键和字符串值都必须是str类型,数字如"1"不能写成1,否则会报TypeError】

第四步:在回调函数中用response.textjson.loads(response.body)解析返回内容。

用Request发JSON类POST(API接口专用)

当目标URL是RESTful API、需提交JSON体、或服务端明确要求Content-Type: application/json时,必须用scrapy.Request并手动设置请求体和头。

方法一:手动序列化+设headers

Scrapy 2.18.0
Scrapy 2.18.0

Scrapy 2.18.0 官方源码包下载,适合 Python 网页抓取、选择器解析、Item Pipeline 和异步请求调度项目升级。

下载

start_requests中写:yield scrapy.Request(url=url, method="POST", body=json.dumps(payload), headers={"Content-Type": "application/json"}, callback=self.parse)

方法二:用JsonRequest(Scrapy 2.2+内置,更简洁)

直接yield scrapy.http.JsonRequest(url=url, data=payload, callback=self.parse),它自动序列化data并设置好Content-Type,不用再写json.dumpsheaders

注意:【JsonRequest的data参数接收原生Python字典,不是字符串;若误传字符串会抛出TypeError】

携带Cookies或User-Agent等额外参数

很多POST接口要求带登录态或伪装浏览器,这时需在请求对象中加入cookiesheaders参数。

如果cookies来自外部(比如Selenium登录后导出),必须构造成Python字典格式,例如{"sessionid": "abc123", "csrftoken": "xyz789"}

设置User-Agent推荐使用custom_settings全局配置,避免每个请求重复写;若仅个别请求需要特殊UA,则在headers里单独指定"User-Agent"字段;

这一步容易踩坑:headers里的键名必须用字符串,且Content-Type不能和formdata混用——用了formdata就别再手动设Content-Type,否则FormRequest会冲突报错。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
免费爬虫工具有哪些
免费爬虫工具有哪些

免费爬虫工具有Scrapy、Beautiful Soup、ParseHub、Octoparse、Webocton Scriptly、RoboBrowser和Goutte。更多关于免费爬虫工具的问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.10

3973

9

Vibeknow在线使用入口合集
Vibeknow在线使用入口合集

本专题汇总了Vibeknow在线创作视频的官方入口及网页版使用教程,涵盖PPT、PDF、Word等文档一键转讲解视频的核心操作,并整理了免费版水印规则与手机端浏览器访问指南,助你快速将知识内容视频化。

2026.09.21

0

20

NumPy随机数文件读写与dtype数据类型
NumPy随机数文件读写与dtype数据类型

本专题整理 NumPy 随机数、文件读写与 dtype 数据类型相关教程,覆盖 Generator/random、随机数种子、正态分布采样、npy/npz/CSV/TXT 保存读取、loadtxt/savetxt、memmap、大文件处理、astype 类型转换、结构化 dtype、整数溢出和精度丢失等场景。

2026.09.21

0

24

NumPy矩阵运算与线性代数计算
NumPy矩阵运算与线性代数计算

本专题整理 NumPy 矩阵运算与线性代数计算相关教程,覆盖矩阵乘法、dot 与 @ 运算符、逆矩阵、行列式、特征值与特征向量、SVD、线性方程组、欧氏距离、矩阵分解和大规模矩阵性能优化等内容,帮助读者掌握 np.linalg 与矩阵计算实战。

2026.09.21

0

20

NumPy广播机制数学运算与统计分析
NumPy广播机制数学运算与统计分析

本专题整理 NumPy 广播机制、数组数学运算与统计分析相关教程,覆盖广播规则、维度对齐、矩阵与数组加减除法、向量化计算、均值方差、分位数、中位数、直方图和 unique 频次统计等场景,帮助读者掌握 ndarray 高效计算与统计处理方法。

2026.09.21

0

17

NumPy数组创建索引切片与数据选择
NumPy数组创建索引切片与数据选择

本专题整理 NumPy 数组创建、索引、切片与数据选择相关教程,覆盖 np.array、zeros/ones、多维数组形状、基础切片、花式索引、布尔索引、条件筛选、视图与副本等常用场景,帮助读者系统掌握 ndarray 数据构造与高效提取方法。

2026.09.21

0

12

Aionclaw智能助手介绍
Aionclaw智能助手介绍

本专题汇总了AionClaw(AI龙虾助手)的功能介绍与在线使用入口。AionClaw是杭州趣猿人工智能有限公司推出的桌面级AI智能体,能直接在电脑上读写文件、运行脚本、操作浏览器,自动交付Word、PPT、Excel等成品。

2026.09.20

20

13

AionClaw AI智能体与电脑自动化任务执行功能使用教程
AionClaw AI智能体与电脑自动化任务执行功能使用教程

AionClaw专题整理AI智能体与电脑自动化相关功能使用教程,涵盖安装部署、AI任务执行、Skills技能、文件处理、浏览器控制、电脑操作、持久记忆、聊天工具连接以及办公、编程和内容创作等功能,帮助用户快速掌握AionClaw的实际使用方法。

2026.09.20

0

15

AI视频生成软件推荐
AI视频生成软件推荐

本专题汇总了当前主流的AI视频生成软件推荐与排行榜单,涵盖seko、AniShort、剧云、Lovart、LiblibAI及立刻mv等热门工具。同时整理了各软件在文生视频、图生视频、时长限制、画质表现及免费额度等方面的差异对比,助您快速选对适合创作需求的AI视频生成工具。

2026.09.16

200

9

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Scrapy 官方文档与教程
Scrapy 官方文档与教程

共0课时 | 0人学习

Python Scrapy 网络爬虫实战视频教程
Python Scrapy 网络爬虫实战视频教程

共16课时 | 5.9万人学习