jsoup如何读取html

轻明小哥_3350

轻明小哥_3350

2026-03-30

554人浏览

原创

jsoup.parse() 默认按html5模式解析,自动补全结构,片段内容需通过doc.body().children()遍历;传入字符串需注意编码匹配,空值会抛异常;远程加载需设置user-agent、超时等参数;读取文件要注意路径基准和真实编码;解析后应验证outerhtml长度、title及body存在性。

jsoup如何读取html

Jsoup.parse() 怎么解析 HTML 字符串

直接用 Jsoup.parse() 就能从字符串生成 Document,但必须注意:它默认按「HTML5 模式」解析,会自动补全缺失的 、 等结构。如果你传入的是纯片段(比如一段 <p>Hello</p> <div>World</div>),它也能工作,但节点层级可能和预期不同。

  • 传入不完整 HTML 片段时,doc.body().children() 才是你真正想遍历的内容,别直接 doc.children() —— 那里可能包着 和自动生成的
  • 如果字符串含中文或特殊符号,且没指定编码,parse(String) 会按 UTF-8 解码;若源内容实际是 GBK,就会乱码,此时应改用 Jsoup.parse(html, "UTF-8") 或先转码
  • 空字符串或 null 传给 parse() 会抛 IllegalArgumentException,务必提前判空

Jsoup.connect() 加载远程 URL 为什么常失败

不是代码写错,而是默认行为太“干净”:它不带 User-Agent、不接受重定向、超时仅 3 秒、遇到 4xx/5xx 直接抛 HttpStatusException。绝大多数网站会拦截无头请求。

  • 必加请求头:.header("User-Agent", "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36")
  • 允许重定向(如跳登录页):.followRedirects(true)
  • 设合理超时:.timeout(10000)(单位毫秒)
  • 忽略 HTTP 错误状态码(比如返回 403 但页面仍有数据):.ignoreHttpErrors(true)
  • 需要登录态?用 .cookie("SESSIONID", "xxx") 或 .cookies(Map) 注入

读取本地 HTML 文件要注意什么编码和路径

Jsoup.parse(File, String charsetName) 是安全的选择,但两个坑很隐蔽:

Html2md
Html2md

使用 Readability + Turndown 将 HTML 页面转换为干净的、Agent 友好的 Markdown。去除导航栏、广告、页脚、Cookie 横幅、社交按钮等干扰元素。支持 URL...

下载
  • 文件路径用相对路径时,基准是 JVM 启动目录,不是项目根目录,也不是 src/main/resources;推荐用 getClass().getResource("/page.html").getFile() 获取绝对路径
  • charsetName 必须和文件真实编码严格一致;记事本保存的 ANSI 文件在 Windows 上其实是 GBK,写 "UTF-8" 就会乱码——建议先用编辑器确认编码,或统一用 UTF-8 保存 HTML
  • 如果文件含 BOM(尤其 UTF-8 with BOM),parse() 可能解析出奇怪的零宽字符,可用 Files.readString(path, StandardCharsets.UTF_8).strip() 预处理

Document 对象拿到后,怎么确认 HTML 真被读进来了

别急着 select(),先做三件事验证解析结果是否符合预期:

  • 打印 doc.outerHtml().length() —— 如果只有几十字节,大概率是空页、跳转页或反爬返回的提示页
  • 检查 doc.title() 是否为空或等于 "Just a moment..."、"Access Denied" 等典型拦截文案
  • 用 doc.select("body").isEmpty() 判断 body 是否存在;若为 true,说明解析失败或内容被 JS 动态注入(Jsoup 不执行 JS)

这些检查花不了两行代码,却能省掉后面所有 selector 写对了却取不到数据的排查时间。

前端入门到VUE实战笔记:立即使用
在学习笔记中,你将探索 前端 的入门与实战技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

html

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
html版权符号
html版权符号

html版权符号是“©”,可以在html源文件中直接输入或者从word中复制粘贴过来,php中文网还为大家带来html的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

2023.06.14

6475

7

html在线编辑器
html在线编辑器

html在线编辑器是用于在线编辑的工具,编辑的内容是基于HTML的文档。它经常被应用于留言板留言、论坛发贴、Blog编写日志或等需要用户输入普通HTML的地方,是Web应用的常用模块之一。php中文网为大家带来了html在线编辑器的相关教程、以及相关文章等内容,供大家免费下载使用。

2023.06.21

3612

4

html网页制作
html网页制作

html网页制作是指使用超文本标记语言来设计和创建网页的过程,html是一种标记语言,它使用标记来描述文档结构和语义,并定义了网页中的各种元素和内容的呈现方式。本专题为大家提供html网页制作的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.31

3290

5

html空格
html空格

html空格是一种用于在网页中添加间隔和对齐文本的特殊字符,被用于在网页中插入额外的空间,以改变元素之间的排列和对齐方式。本专题为大家提供html空格的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.01

3299

5

html是什么
html是什么

HTML是一种标准标记语言,用于创建和呈现网页的结构和内容,是互联网发展的基石,为网页开发提供了丰富的功能和灵活性。本专题为大家提供html相关的各种文章、以及下载和课程。

2023.08.11

4979

6

html字体大小怎么设置
html字体大小怎么设置

在网页设计中,字体大小的选择是至关重要的。合理的字体大小不仅可以提升网页的可读性,还能够影响用户对网页整体布局的感知。php中文网将介绍一些常用的方法和技巧,帮助您在HTML中设置合适的字体大小。

2023.08.11

3241

3

html转txt
html转txt

html转txt的方法有使用文本编辑器、使用在线转换工具和使用Python编程。本专题为大家提供html转txt相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.31

3049

3

html文本框代码怎么写
html文本框代码怎么写

html文本框代码:1、单行文本框【<input type="text" style="height:..;width:..;" />】;2、多行文本框【textarea style=";height:;"></textare】。

2023.09.01

2688

6

HTML嵌入CSS样式的方法
HTML嵌入CSS样式的方法

HTML嵌入CSS样式的方法有内联样式、内部样式表和外部样式表。本专题为大家提供CSS样式相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.20

2768

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
GDB 17.2 官方文档集合
GDB 17.2 官方文档集合

共0课时 | 0人学习

Bootstrap 入门安装配置
Bootstrap 入门安装配置

共0课时 | 0人学习

38+ PhpStorm 提示和技巧
38+ PhpStorm 提示和技巧

共1课时 | 225人学习