HTML结构层面的防爬虫干扰与动态内容混淆底层实战

轻婷吖_2813

轻婷吖_2813

2026-06-15

928人浏览

原创

html结构层面的防爬虫干扰基本无效。只要内容以明文形式出现在或内联中,就等于直接送给爬虫;结构混淆仅能拦住正则硬匹配,对现代解析器毫无意义。

html结构层面的防爬虫干扰与动态内容混淆底层实战

HTML结构层面的防爬虫干扰是否有效?

基本无效。只要内容以明文形式出现在 或内联 <script></script> 中,就等于直接送给爬虫。结构混淆(比如把 <div class="price">99.9</div> 改成 <span id="a1"><em>9</em><i>9</i><u>.9</u></span>)只能拦住正则硬匹配,对现代解析器(如 BeautifulSoup、Cheerio、Playwright 的 DOM API)毫无意义。

常见错误现象:

  • 用随机 class 名 + 多层嵌套 wrapper,以为能“打乱结构”,结果爬虫用 XPath //span[@id="a1"]//text() 一键提取
  • 把关键字段藏在注释里:<!-- price: 99.9 -->,但 BeautifulSoup 默认解析注释,response.text 里直接可见
  • 用 CSS display:none 隐藏敏感字段,但源码仍在,requests.get() 拿到的就是完整 HTML

动态内容混淆必须绕过 JS 执行吗?

不绕过 JS 执行,混淆就形同虚设。很多网站用 JS 把加密字符串拼成真实文本(例如 document.getElementById("p").innerText = atob("OTkuOQ==")),但这只是障眼法——Puppeteer、Playwright、甚至带 JS 渲染能力的 Scrapy-Splash 都能等 DOM 渲染完再取值。

真正起作用的混淆,得让爬虫即使执行了 JS,也拿不到干净数据:

  • 用 Unicode 同形字替换数字/字母:把 99.9 写成全角 99.9,或混入零宽字符(\u200b),OCR 和人工识别都易出错,但需测试字体兼容性
  • 字段拆分 + 伪元素拼接:<span data-val="9"></span><span data-val="9"></span><span data-val="."></span><span data-val="9"></span>,再用 ::before 拼接,getComputedStyle() 可读,但基础 XPath 提取失败
  • 关键字段由服务端返回加密 token,前端 JS 调用 decrypt(token, key),而 key 来自另一接口或计算生成(如时间戳哈希),不硬编码在 JS 中

哪些 HTML 特性容易被误用为“防爬”却实际暴露更多?

<meta name="robots" content="noindex"> 和 robots.txt 是重灾区。它们不阻止请求到达服务器,只影响搜索引擎索引行为。爬虫根本不在乎你写没写这个标签。

Html2md
Html2md

使用 Readability + Turndown 将 HTML 页面转换为干净的、Agent 友好的 Markdown。去除导航栏、广告、页脚、Cookie 横幅、社交按钮等干扰元素。支持 URL...

下载

典型误用场景:

  • 在商品页加 <meta name="robots" content="noindex">,以为价格不会被采集——但爬虫 curl https://site.com/product/123 照样拿到全部 HTML
  • robots.txt 写 Disallow: /api/,结果日志里全是 User-Agent: Mozilla/5.0 (compatible; DataBot/1.0) 在高频调用 /api/price?id=123
  • 用 <picture></picture> + 多个 <source srcset="..."></source> 包裹价格图,指望 OCR 失败——但 Tesseract 对等宽字体识别率超 95%,且 Playwright 可截 canvas 后直传 OCR 服务

真正该投入精力的混淆点在哪?

不是藏在 HTML 结构里,而是控制“谁能在什么时候看到什么”。所有混淆手段若脱离服务端校验,都是纸糊的墙。

实操优先级建议:

  • 敏感字段(如手机号、订单号)**绝不渲染在初始 HTML 中**,改用带鉴权的 fetch("/api/field?token=xxx"),token 有效期 ≤ 60 秒
  • 前端 JS 中禁止出现任何密钥、解密算法常量、API 路径模板(如 const API_BASE = "/v2/")——这些都会被 grep -r 扫出来
  • 对同一用户,不同请求返回的字段混淆方式应动态变化(比如这次用 Unicode 替换,下次用 CSS 伪元素,再下次用 JS 计算偏移),避免模式固化
  • 混淆逻辑本身要轻量:解密函数体积

最易被忽略的一点:混淆后的字段如果还要被用户复制粘贴(比如电话号码),就得考虑全角/零宽字符在 document.execCommand('copy') 或 Clipboard.writeText() 中是否被正确还原——很多混淆方案在这里翻车。

前端入门到VUE实战笔记:立即使用
在学习笔记中,你将探索 前端 的入门与实战技巧!

相关文章

HTML速学教程(入门课程)
HTML速学教程(入门课程)

HTML怎么学习?HTML怎么入门?HTML在哪学?HTML怎么学才快?不用担心,这里为大家提供了HTML速学教程(入门课程),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

html 爬虫

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
html版权符号
html版权符号

html版权符号是“©”,可以在html源文件中直接输入或者从word中复制粘贴过来,php中文网还为大家带来html的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

2023.06.14

6375

7

html在线编辑器
html在线编辑器

html在线编辑器是用于在线编辑的工具,编辑的内容是基于HTML的文档。它经常被应用于留言板留言、论坛发贴、Blog编写日志或等需要用户输入普通HTML的地方,是Web应用的常用模块之一。php中文网为大家带来了html在线编辑器的相关教程、以及相关文章等内容,供大家免费下载使用。

2023.06.21

3572

4

html网页制作
html网页制作

html网页制作是指使用超文本标记语言来设计和创建网页的过程,html是一种标记语言,它使用标记来描述文档结构和语义,并定义了网页中的各种元素和内容的呈现方式。本专题为大家提供html网页制作的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.31

3230

5

html空格
html空格

html空格是一种用于在网页中添加间隔和对齐文本的特殊字符,被用于在网页中插入额外的空间,以改变元素之间的排列和对齐方式。本专题为大家提供html空格的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.01

3259

5

html是什么
html是什么

HTML是一种标准标记语言,用于创建和呈现网页的结构和内容,是互联网发展的基石,为网页开发提供了丰富的功能和灵活性。本专题为大家提供html相关的各种文章、以及下载和课程。

2023.08.11

4959

6

html字体大小怎么设置
html字体大小怎么设置

在网页设计中,字体大小的选择是至关重要的。合理的字体大小不仅可以提升网页的可读性,还能够影响用户对网页整体布局的感知。php中文网将介绍一些常用的方法和技巧,帮助您在HTML中设置合适的字体大小。

2023.08.11

3201

3

html转txt
html转txt

html转txt的方法有使用文本编辑器、使用在线转换工具和使用Python编程。本专题为大家提供html转txt相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.31

3009

3

html文本框代码怎么写
html文本框代码怎么写

html文本框代码:1、单行文本框【<input type="text" style="height:..;width:..;" />】;2、多行文本框【textarea style=";height:;"></textare】。

2023.09.01

2648

6

HTML嵌入CSS样式的方法
HTML嵌入CSS样式的方法

HTML嵌入CSS样式的方法有内联样式、内部样式表和外部样式表。本专题为大家提供CSS样式相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.20

2728

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
GDB 17.2 官方文档集合
GDB 17.2 官方文档集合

共0课时 | 0人学习

Bootstrap 入门安装配置
Bootstrap 入门安装配置

共0课时 | 0人学习

38+ PhpStorm 提示和技巧
38+ PhpStorm 提示和技巧

共1课时 | 224人学习