懒加载图片的 src 为空是设计使然,真实 url 存于 data-src 等属性中;应优先提取 data-src(fallback 到 data-original、data-lazy),过滤 base64 占位图并补全相对路径,必要时用 playwright 渲染获取动态加载内容。

懒加载图片的 src 为空,是因为浏览器没触发加载逻辑
懒加载图片通常把真实地址存在 data-src、data-original 或 data-lazy 这类自定义属性里,src 留空或填占位图(如 about:blank 或 /static/placeholder.jpg)。静态解析 HTML 时拿不到真实 URL,不是代码写错了,是设计如此。
解决方向只有两个:要么从备用属性里提链接,要么模拟滚动/渲染让 JS 填充 src。前者快但依赖页面约定,后者准但重。
- 先检查元素结构:
view-source:或开发者工具里右键“查看元素”,确认真实地址在哪——常见位置有data-src、data-srcset、data-lazy-src - 如果
data-srcset存在且含逗号分隔多分辨率地址,用split(",")[0].strip().split()[0]提取第一个 URL(注意空格和宽度描述) - 部分站点用
src填 base64 占位符(如data:image/gif;base64,R0lGODlhAQABAAD/ACwAAAAAAQABAAACAkQBADs=),这种可直接跳过,只取data-src
用 requests + 正则或 BeautifulSoup 提取 data-src 最常用也最稳
90% 的懒加载站点遵循这个模式,不用启动浏览器,速度快、资源省、易部署。关键是要别硬写死属性名,得做 fallback 判断。
示例逻辑:
from bs4 import BeautifulSoup
html = requests.get(url).text
soup = BeautifulSoup(html, "html.parser")
imgs = soup.find_all("img")
for img in imgs:
src = img.get("src", "")
data_src = img.get("data-src") or img.get("data-original") or img.get("data-lazy")
real_url = data_src or src
if real_url and not real_url.startswith("data:image/"):
print(real_url)
-
data-src优先级最高,其次是data-original,再是data-lazy,按顺序 or 链式取值更鲁棒 - 务必过滤 base64 占位图:
real_url.startswith("data:image/")是常见误抓点 - 有些站点把 URL 拼在
data-src里带相对路径(如/uploads/abc.jpg),要用urllib.parse.urljoin(base_url, real_url)补全
必须执行 JS 渲染时,Playwright 比 Selenium 更轻量可靠
当图片 URL 被 JS 动态计算(比如 AES 解密、时间戳拼接)、或依赖 IntersectionObserver 触发时,静态提取失效,只能走无头浏览器。这时候别选 Selenium —— 启动慢、内存高、容易被反爬识别。
-
Playwright启动快、API 简洁,支持等待图片真正加载完成:page.wait_for_selector("img[src*='jpg']:not([src='']):not([src^='data:'])", state="visible") - 滚动到底部触发懒加载:
page.evaluate("window.scrollTo(0, document.body.scrollHeight)"),再等几秒,比盲目time.sleep()更可控 - 注意关闭图片加载加速爬取:
page.set_extra_http_headers({"Accept-Encoding": "identity"})不影响,但禁用图片可大幅提速:page.route("**/*.{png,jpg,jpeg,gif}", lambda route: route.abort()),只留 HTML 和 JS
srcset 和响应式图片要单独处理,否则只拿到缩略图
很多现代站点用 srcset 提供多尺寸图源,src 只是兜底小图。懒加载后,srcset 里的高分辨率地址才是你要的真实大图。
-
srcset值形如"small.jpg 480w, medium.jpg 768w, large.jpg 1200w",按需取最大宽度项:max(srcset.split(","), key=lambda x: int(x.strip().split()[-1][:-1])) - 如果
srcset也有懒加载逻辑,它往往和data-srcset并存,优先取data-srcset,fallback 到srcset - 某些站点用
picture+source标签实现响应式,此时得遍历<source></source>的data-srcset或srcset,再匹配media条件——实际中多数可忽略 media,直接取第一个非空srcset
data-src 提取,失败再上 Playwright;遇到 srcset 就别只盯着 src。最常被忽略的是 base64 占位图误判和相对路径没补全,这两处一错,整批图片就下空了。Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!











