Python爬虫中如何应对图片懒加载导致的Src属性为空问题?

酷墨小哥_5216

酷墨小哥_5216

2026-07-19

354人浏览

原创

懒加载图片的 src 为空是设计使然,真实 url 存于 data-src 等属性中;应优先提取 data-src(fallback 到 data-original、data-lazy),过滤 base64 占位图并补全相对路径,必要时用 playwright 渲染获取动态加载内容。

python爬虫中如何应对图片懒加载导致的src属性为空问题?

懒加载图片的 src 为空,是因为浏览器没触发加载逻辑

懒加载图片通常把真实地址存在 data-src、data-original 或 data-lazy 这类自定义属性里,src 留空或填占位图(如 about:blank 或 /static/placeholder.jpg)。静态解析 HTML 时拿不到真实 URL,不是代码写错了,是设计如此。

解决方向只有两个:要么从备用属性里提链接,要么模拟滚动/渲染让 JS 填充 src。前者快但依赖页面约定,后者准但重。

  • 先检查元素结构:view-source: 或开发者工具里右键“查看元素”,确认真实地址在哪——常见位置有 data-src、data-srcset、data-lazy-src
  • 如果 data-srcset 存在且含逗号分隔多分辨率地址,用 split(",")[0].strip().split()[0] 提取第一个 URL(注意空格和宽度描述)
  • 部分站点用 src 填 base64 占位符(如 data:image/gif;base64,R0lGODlhAQABAAD/ACwAAAAAAQABAAACAkQBADs=),这种可直接跳过,只取 data-src

用 requests + 正则或 BeautifulSoup 提取 data-src 最常用也最稳

90% 的懒加载站点遵循这个模式,不用启动浏览器,速度快、资源省、易部署。关键是要别硬写死属性名,得做 fallback 判断。

python-parallelization
python-parallelization

将顺序 Python 代码转换为并行/并发实现,用于在需要并行化 Python 代码、提升性能时使用。

下载

示例逻辑:

from bs4 import BeautifulSoup

html = requests.get(url).text
soup = BeautifulSoup(html, "html.parser")
imgs = soup.find_all("img")

for img in imgs:
    src = img.get("src", "")
    data_src = img.get("data-src") or img.get("data-original") or img.get("data-lazy")
    real_url = data_src or src
    if real_url and not real_url.startswith("data:image/"):
        print(real_url)
  • data-src 优先级最高,其次是 data-original,再是 data-lazy,按顺序 or 链式取值更鲁棒
  • 务必过滤 base64 占位图:real_url.startswith("data:image/") 是常见误抓点
  • 有些站点把 URL 拼在 data-src 里带相对路径(如 /uploads/abc.jpg),要用 urllib.parse.urljoin(base_url, real_url) 补全

必须执行 JS 渲染时,Playwright 比 Selenium 更轻量可靠

当图片 URL 被 JS 动态计算(比如 AES 解密、时间戳拼接)、或依赖 IntersectionObserver 触发时,静态提取失效,只能走无头浏览器。这时候别选 Selenium —— 启动慢、内存高、容易被反爬识别。

  • Playwright 启动快、API 简洁,支持等待图片真正加载完成:page.wait_for_selector("img[src*='jpg']:not([src='']):not([src^='data:'])", state="visible")
  • 滚动到底部触发懒加载:page.evaluate("window.scrollTo(0, document.body.scrollHeight)"),再等几秒,比盲目 time.sleep() 更可控
  • 注意关闭图片加载加速爬取:page.set_extra_http_headers({"Accept-Encoding": "identity"}) 不影响,但禁用图片可大幅提速:page.route("**/*.{png,jpg,jpeg,gif}", lambda route: route.abort()),只留 HTML 和 JS

srcset 和响应式图片要单独处理,否则只拿到缩略图

很多现代站点用 srcset 提供多尺寸图源,src 只是兜底小图。懒加载后,srcset 里的高分辨率地址才是你要的真实大图。

  • srcset 值形如 "small.jpg 480w, medium.jpg 768w, large.jpg 1200w",按需取最大宽度项:max(srcset.split(","), key=lambda x: int(x.strip().split()[-1][:-1]))
  • 如果 srcset 也有懒加载逻辑,它往往和 data-srcset 并存,优先取 data-srcset,fallback 到 srcset
  • 某些站点用 picture + source 标签实现响应式,此时得遍历 <source></source> 的 data-srcset 或 srcset,再匹配 media 条件——实际中多数可忽略 media,直接取第一个非空 srcset
真实场景里,先跑一遍 data-src 提取,失败再上 Playwright;遇到 srcset 就别只盯着 src。最常被忽略的是 base64 占位图误判和相对路径没补全,这两处一错,整批图片就下空了。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1731

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4364

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1689

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

25577

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3107

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3127

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1183

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2423

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程