Scrapy项目如何设置编码?

云婷酱_7199

云婷酱_7199

2026-08-18

533人浏览

原创

scrapy导出json中文乱码需设utf-8编码:命令行用-scrapy crawl myspider -o output.json -s feed_export_encoding=utf-8;项目级在settings.py加feed_export_encoding='utf-8';高级用feeds字典或custom_settings按需指定。

scrapy项目如何设置编码? - php中文网

Scrapy项目导出JSON文件时中文显示为\uXXXX格式,需要在项目运行前明确指定编码方式,否则导出的文件无法直接用文本编辑器正常查看中文内容。

命令行临时设置编码(最高优先级)

在执行爬虫时直接添加参数,覆盖所有层级配置:
scrapy crawl myspider -o output.json -s FEED_EXPORT_ENCODING=utf-8

这一步操作起来很简单,直接把命令敲完回车就行。注意必须是小写utf-8,写成UTF-8或Utf-8会导致参数不生效,导出仍为Unicode转义序列。

该方式适用于单次调试或CI/CD流程中临时覆盖,无需修改任何源码文件。

项目级统一配置(推荐长期使用)

打开项目根目录下的 settings.py 文件,在末尾新增一行:

FEED_EXPORT_ENCODING = 'utf-8'

保存后,所有通过 -o 导出的 JSON、CSV、XML 文件都会默认使用 UTF-8 编码写入。此设置会作用于整个项目下所有爬虫,无需重复配置。

不要把这一行写进 scrapy.cfg——该文件只识别部署相关参数,写入 FEED_EXPORT_ENCODING 会被完全忽略,且不会报错,容易误以为配置成功。

Scrapy 2.18.0
Scrapy 2.18.0

Scrapy 2.18.0 官方源码包下载,适合 Python 网页抓取、选择器解析、Item Pipeline 和异步请求调度项目升级。

下载

按导出目标精细控制编码(高级用法)

方法一:使用 FEEDS 字典替代 -o 参数

settings.py 中配置:

FEEDS = {
  'data/results.json': {'format': 'json', 'encoding': 'gb18030'},
  'data/export.csv': {'format': 'csv', 'encoding': 'utf-8-sig'}
}

这样可对不同格式、不同路径的导出文件分别指定编码,比如导出 CSV 给 Excel 打开必须加 utf-8-sig 才能避免乱码。

方法二:在爬虫类内部动态指定

在 Spider 类中定义 custom_settings:

custom_settings = {
  'FEED_EXPORT_ENCODING': 'utf-8'
}

该设置仅对该爬虫生效,适合同一项目中部分爬虫需兼容旧系统(如只认 GBK)的场景。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
免费爬虫工具有哪些
免费爬虫工具有哪些

免费爬虫工具有Scrapy、Beautiful Soup、ParseHub、Octoparse、Webocton Scriptly、RoboBrowser和Goutte。更多关于免费爬虫工具的问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.10

3913

9

AI视频生成软件推荐
AI视频生成软件推荐

本专题汇总了当前主流的AI视频生成软件推荐与排行榜单,涵盖seko、AniShort、剧云、Lovart、LiblibAI及立刻mv等热门工具。同时整理了各软件在文生视频、图生视频、时长限制、画质表现及免费额度等方面的差异对比,助您快速选对适合创作需求的AI视频生成工具。

2026.09.16

140

9

ai生成视频的工具免费版合集
ai生成视频的工具免费版合集

本专题汇总了当前免费AI生成视频工具的排行榜与推荐清单,涵盖seko、讯飞智作、AniShort及剧云、Lovart等多模型集成平台。同时整理了各工具的免费额度、输出时长、水印政策及适用场景差异,助您快速选择合适工具开启AI视频创作。

2026.09.16

60

10

Pandas时间序列分析与可视化报表
Pandas时间序列分析与可视化报表

本专题整理Pandas日期转换、时间索引、重采样、滚动窗口、时区处理、plot绘图、Styler表格样式和报表输出方法。

2026.09.16

60

23

Pandas数据筛选索引与清洗处理
Pandas数据筛选索引与清洗处理

本专题整理Pandas中的loc、iloc、条件筛选、query查询、缺失值处理、重复值删除、类型转换和字符串列清洗方法。

2026.09.16

40

25

Pandas数据读取导入与文件导出处理
Pandas数据读取导入与文件导出处理

本专题整理Pandas读取CSV、Excel、JSON、SQL、Parquet等文件的方法,以及to_csv、to_excel、to_sql和to_parquet等常用数据导出流程。

2026.09.16

40

27

GDB怎么设置断点
GDB怎么设置断点

本专题介绍GDB按照函数名、源代码行号和文件位置设置断点的方法,详细说明run、continue、next、step等命令的配合使用,帮助定位程序崩溃、逻辑异常及代码未按预期执行的问题。

2026.09.11

360

28

GDB怎么查看变量值
GDB怎么查看变量值

本专题介绍GDB调试过程中查看变量值的具体方法,涵盖局部变量、函数参数、数组、结构体和指针内容查询,同时整理变量持续显示、格式化输出及无法读取变量时的排查思路。

2026.09.11

120

22

GDB C++程序怎么调试
GDB C++程序怎么调试

本专题围绕GDB调试C++程序的实际过程,详细说明程序编译、调试器启动、命令行参数传入、断点命中和程序继续运行等步骤,并介绍条件断点、临时断点和观察点的设置方法,方便开发者跟踪复杂代码的执行状态。

2026.09.11

120

20

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Scrapy 官方文档与教程
Scrapy 官方文档与教程

共0课时 | 0人学习

Python Scrapy 网络爬虫实战视频教程
Python Scrapy 网络爬虫实战视频教程

共16课时 | 5.9万人学习