Python爬虫怎么把数据存入MongoDB_使用pymongo实现高效写入

陌枫酱_5261

陌枫酱_5261

2026-04-10

819人浏览

原创

mongodb写入需验证连接、规范批量操作、处理bson类型限制并避免_id冲突;初始化后执行ping检测,用insert_many(..., ordered=false)批量写入,构造确定性_id并建唯一索引,统一datetime等数据类型。

python爬虫怎么把数据存入mongodb_使用pymongo实现高效写入

写入前必须确认MongoDB连接是否真正可用

很多新手调用 pymongo.MongoClient() 后直接写入,却没意识到连接是惰性建立的——直到第一次执行操作(比如 insert_one())才真正尝试连数据库。如果网络不通、认证失败或端口被拒,错误会延迟抛出,且堆栈信息容易误导人以为是写入逻辑的问题。

实操建议:

Li Python Sec Check
Li Python Sec Check

Python 安全规范检查工具:基于 CloudBase 规范、腾讯安全指南,LLM 智能分析(默认禁用,优先本地执行)

下载
  • 初始化客户端后立即执行 client.admin.command('ping'),捕获 pymongo.errors.ConnectionFailure 或 pymongo.errors.OperationFailure
  • 避免把 MongoClient 实例放在循环内创建——它本身是线程安全、可复用的,重复新建会耗尽 socket 资源
  • 生产环境务必设置超时参数:MongoClient(host, serverSelectionTimeoutMS=5000, connectTimeoutMS=5000)

批量插入比单条 insert\_one() 快 10 倍以上,但要注意文档大小和顺序

insert_many() 是爬虫写入 MongoDB 的首选方式,但默认行为可能踩坑:它会按传入列表顺序逐条尝试插入,一旦某条文档因重复键(DuplicateKeyError)或字段类型不符失败,后续文档将全部跳过(除非显式设置 ordered=False)。

实操建议:

  • 始终使用 insert_many(docs, ordered=False),让成功文档继续写入,失败项单独捕获处理
  • 单次传入文档数控制在 100–500 条之间;超过 16MB(MongoDB 单次请求上限)会报 DocumentTooLarge
  • 提前过滤掉空字典、含不可序列化对象(如 datetime.date 而非 datetime.datetime)的文档,否则 insert_many() 会在序列化阶段直接崩溃

避免 _id 冲突的关键是别让 pymongo 自动生成重复值

爬虫数据常含 URL、标题等天然去重字段。如果直接让 MongoDB 自动生成 _id(ObjectId),就无法利用唯一索引去重,后续查重或更新成本极高。但手动设 _id 又容易因类型不一致(比如字符串 vs ObjectId)导致意外覆盖或冲突。

实操建议:

  • 用业务字段构造确定性 _id,例如 {'_id': hashlib.md5(url.encode()).hexdigest()},确保每次运行结果一致
  • 提前在集合上建唯一索引:collection.create_index('_id', unique=True),配合 insert_many(..., ordered=False) 自动跳过重复
  • 切勿用 update_one(..., upsert=True) 替代去重插入——它在高并发写入时可能因竞态条件产生多份副本

中文乱码、时间字段丢失精度、嵌套结构崩塌都是 BSON 序列化惹的祸

pymongo 底层用 BSON 协议通信,它对 Python 类型有严格映射规则。爬虫常见数据如 datetime.date、float('inf')、set、自定义类实例,都无法直接存入,会报 TypeError: <...> is not a valid BSON type</...>。

实操建议:

  • 统一用 datetime.datetime 替代 datetime.date;若只有日期,补上 time.min:datetime.combine(d, time.min)
  • 遇到 NaN、inf,转成 None 或字符串(BSON 不支持 IEEE 754 特殊浮点值)
  • 嵌套字典里若有 list 混了不同结构(如 [{'a':1}, 'str']),BSON 允许但查询会异常;建议预处理为同构结构
  • 中文无需额外编码——只要 Python 字符串是 str 类型(不是 bytes),pymongo 会自动 UTF-8 编码
MongoDB 写入看似简单,真正卡住人的往往不是语法,而是连接状态误判、BSON 类型边界、以及批量操作中“失败是否中断”的隐式行为。这些点不手动验证,跑一晚上爬虫可能只存进去前三页数据。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1671

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4224

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1669

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

24557

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3007

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3027

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1163

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2343

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程