如何通过HTML提取文本并统一空白格式

大强小哥_3374

大强小哥_3374

2026-10-27

122人浏览

原创

get_text()默认保留原始换行与空格,不自动清理;需用strip=True和separator=' '组合实现干净文本提取,对pre/code等特殊标签需单独处理。

如何通过html提取文本并统一空白格式

get_text() 默认保留原始换行,不是“提取干净文本”

调用 get_text() 不加参数时,它不会帮你清理空格或换行——而是照搬 HTML 中的文本节点结构。比如两个 <p></p> 标签之间有换行符,get_text() 就会输出 \n\n;<div> 里手动敲了四个空格,也会原样保留。<p>这不是 bug,是设计使然:它只做“提取”,不做“格式化”。想得到统一空白的文本,必须显式控制参数。</p> <ul> <li> <code>strip=False(默认)→ 每段文本首尾的空白、换行全保留

  • separator=''(默认)→ 相邻文本节点直接拼接,可能造成“第一段第二段”这种粘连
  • 嵌套标签越多,换行和空格碎片越杂,比如 <span><em>文字</em></span> 可能带出多个 \n 或 \t
  • 用 separator + strip 组合解决 90% 的空白混乱

    最常用且稳定的组合是:get_text(separator=' ', strip=True)。它做了两件事:把不同标签之间的文本用空格隔开,同时清除每段内部首尾的换行/制表符。

    这个组合适合大多数网页正文提取场景,比如新闻、博客、产品描述。它不会强行抹掉语义换行(如段落之间),但会把因 HTML 缩进、换行导致的多余空白压平。

    • 若原文本是 <p>\n 第一段\n</p> <p> 第二段 \n</p><div class="aritcle_card flexRow artxards"> <div class="artcardd flexRow"> <a class="aritcle_card_img" rel="nofollow" href="/xiazai/skill10246" title="HTML Text Extract"><img src="https://img.php.cn/upload/skill/001/246/273/6adaf20dee630206.jpg" alt="HTML Text Extract" onerror="this.onerror='';this.src='/static/lhimages/moren/morentu.png'" ></a> <div class="aritcle_card_info flexColumn"> <a rel="nofollow" href="/xiazai/skill10246" title="HTML Text Extract" class="overflowclass">HTML Text Extract</a> <p class="overflowclass">从HTML页面(URL、文件或标准输入)中提取主体内容文本,去除导航、页脚、广告和模板文本。可直接传递给readability_check或其他文本工具。</p> </div> <a rel="nofollow" href="/xiazai/skill10246" title="HTML Text Extract" class="aritcle_card_btn flexRow flexcenter"><b></b><span>下载</span> </a> </div> </div>,输出为 "第一段 第二段"
    • 若需要保留段落分隔,改用 separator='\n',再配合 strip=True 防止每行前后多出空格
    • 避免用 separator='' 处理中文——容易把“你好世界”变成“你好世界”,中间缺空格反而难读

    遇到 pre、code、textarea 里的原始缩进怎么办?

    这些标签在 HTML 解析阶段就受浏览器保护,其内部空白不会被折叠。但 get_text() 仍会把它们当普通文本节点提取,导致大量空格、制表符混入最终结果。

    如果你的目标是“统一空白格式”,这类内容通常需要单独处理——要么跳过,要么用正则后置清洗。

    • 先用 soup.find_all(['pre', 'code', 'textarea']) 找出这些块,临时替换为占位符(如 '[CODE_BLOCK]')
    • 再对剩余部分调用 get_text(separator=' ', strip=True)
    • 最后用 re.sub(r'\s+', ' ', text) 全局压缩连续空白(慎用,会破坏 pre 块语义)
    • 注意:white-space: pre 这类 CSS 声明对 get_text() 无效——它不读样式,只读 DOM 结构

    为什么不用正则删标签再处理空白?

    用 re.sub(r']+>', '', html) 看似简单,但实际踩坑率极高:实体字符(如 &)、注释、script/style 内容、不闭合标签都会导致错乱。而 get_text() 是基于解析器的 DOM 遍历,天然兼容 malformed HTML。

    真正要警惕的是“混合方案”:比如先用正则粗筛,再用 get_text() 提取——这会让原本已修复的结构再次暴露在正则风险中。

    • 如果必须用正则,仅限于已知格式极简的字符串(如邮件模板片段),且务必加上 re.DOTALL
    • 所有含 JavaScript 渲染、动态插入内容的页面,正则基本失效,只能靠真实 DOM 解析(如 Selenium)
    • get_text() 的 types 参数可过滤掉注释节点(Comment),比正则更精准

    真正难处理的,是那些既要用 pre 保留格式、又要在同一页面里提取“干净正文”的混合场景——这时候得按语义分区处理,不能指望一个参数通吃。

    前端入门到VUE实战笔记:立即使用
    在学习笔记中,你将探索 前端 的入门与实战技巧!

    相关文章

    HTML速学教程(入门课程)
    HTML速学教程(入门课程)

    HTML怎么学习?HTML怎么入门?HTML在哪学?HTML怎么学才快?不用担心,这里为大家提供了HTML速学教程(入门课程),有需要的小伙伴保存下载就能学习啦!

    下载

    相关标签:

    html提取文本 html

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

    相关专题

    更多
    html版权符号
    html版权符号

    html版权符号是“©”,可以在html源文件中直接输入或者从word中复制粘贴过来,php中文网还为大家带来html的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

    2023.06.14

    6675

    7

    html在线编辑器
    html在线编辑器

    html在线编辑器是用于在线编辑的工具,编辑的内容是基于HTML的文档。它经常被应用于留言板留言、论坛发贴、Blog编写日志或等需要用户输入普通HTML的地方,是Web应用的常用模块之一。php中文网为大家带来了html在线编辑器的相关教程、以及相关文章等内容,供大家免费下载使用。

    2023.06.21

    3712

    4

    html网页制作
    html网页制作

    html网页制作是指使用超文本标记语言来设计和创建网页的过程,html是一种标记语言,它使用标记来描述文档结构和语义,并定义了网页中的各种元素和内容的呈现方式。本专题为大家提供html网页制作的相关的文章、下载、课程内容,供大家免费下载体验。

    2023.07.31

    3390

    5

    html空格
    html空格

    html空格是一种用于在网页中添加间隔和对齐文本的特殊字符,被用于在网页中插入额外的空间,以改变元素之间的排列和对齐方式。本专题为大家提供html空格的相关的文章、下载、课程内容,供大家免费下载体验。

    2023.08.01

    3399

    5

    html是什么
    html是什么

    HTML是一种标准标记语言,用于创建和呈现网页的结构和内容,是互联网发展的基石,为网页开发提供了丰富的功能和灵活性。本专题为大家提供html相关的各种文章、以及下载和课程。

    2023.08.11

    5039

    6

    html字体大小怎么设置
    html字体大小怎么设置

    在网页设计中,字体大小的选择是至关重要的。合理的字体大小不仅可以提升网页的可读性,还能够影响用户对网页整体布局的感知。php中文网将介绍一些常用的方法和技巧,帮助您在HTML中设置合适的字体大小。

    2023.08.11

    3341

    3

    html转txt
    html转txt

    html转txt的方法有使用文本编辑器、使用在线转换工具和使用Python编程。本专题为大家提供html转txt相关的文章、下载、课程内容,供大家免费下载体验。

    2023.08.31

    3149

    3

    html文本框代码怎么写
    html文本框代码怎么写

    html文本框代码:1、单行文本框【<input type="text" style="height:..;width:..;" />】;2、多行文本框【textarea style=";height:;"></textare】。

    2023.09.01

    2748

    6

    HTML嵌入CSS样式的方法
    HTML嵌入CSS样式的方法

    HTML嵌入CSS样式的方法有内联样式、内部样式表和外部样式表。本专题为大家提供CSS样式相关的文章、下载、课程内容,供大家免费下载体验。

    2023.09.20

    2868

    5

    热门下载

    更多
    网站特效
    /
    网站源码
    /
    网站素材
    /
    前端模板

    精品课程

    更多
    相关推荐
    /
    热门推荐
    /
    最新课程
    GDB 17.2 官方文档集合
    GDB 17.2 官方文档集合

    共0课时 | 0人学习

    Bootstrap 入门安装配置
    Bootstrap 入门安装配置

    共0课时 | 0人学习

    38+ PhpStorm 提示和技巧
    38+ PhpStorm 提示和技巧

    共1课时 | 228人学习