get_text()默认保留源码换行导致段落混乱;应优先用separator=' '和strip=true组合清洗,对需替换为\n,对需单独处理,正则仅作最后补救。

get_text() 默认行为导致换行混乱
直接调用 soup.get_text() 会保留 HTML 源码中的原始换行符(\n)、块级元素间的隐式空行,以及标签内手动换行。结果常是段落间多空行、相邻 <p></p> 粘连或断裂,比如 "第一段\n\n第二段" 或 "AB"(本该是 "A B")。这不是 bug,而是它原样拼接文本节点 + 保留源码换行的默认逻辑。
控制 separator 和 strip 参数最常用
90% 的清洗需求靠这两个参数就能解决:
-
separator=' ':用空格连接不同标签的文本,避免段落粘连(如<p>Hi</p><div class="aritcle_card flexRow artxards"> <div class="artcardd flexRow"> <a class="aritcle_card_img" rel="nofollow" href="/xiazai/skill7761" title="Article To Html"><img src="https://img.php.cn/upload/skill/000/000/081/179168408018805.jpg" alt="Article To Html" onerror="this.onerror='';this.src='/static/lhimages/moren/morentu.png'" ></a> <div class="aritcle_card_info flexColumn"> <a rel="nofollow" href="/xiazai/skill7761" title="Article To Html" class="overflowclass">Article To Html</a> <p class="overflowclass">文章转信息图。将文章/笔记转化为手机可读的 HTML 信息图,自动匹配视觉风格。触发场景:文章转图、笔记转图、信息图、转小红书图、做张图、可视化这篇文章、文生图。</p> </div> <a rel="nofollow" href="/xiazai/skill7761" title="Article To Html" class="aritcle_card_btn flexRow flexcenter"><b></b><span>下载</span> </a> </div> </div> <p>Bye</p>→"Hi Bye") -
strip=True:清除每个文本片段首尾的空白(含\n、\t、空格),防止块级标签前后带空行 - 组合使用:
soup.get_text(separator=' ', strip=True)是最安全的起点 - 若需保留段落分隔,改用
separator='\n',但务必配合strip=True,否则每行前后仍有冗余空格
遇到 <br> 或 <pre class="brush:php;toolbar:false;"></pre> 要特殊处理
<br> 标签默认不产生文本节点,get_text() 会忽略它;<pre class="brush:php;toolbar:false;"></pre> 则强制保留所有换行和空格 —— 这两类标签无法靠参数自动适配。
- 想把
<br>当换行符用:先遍历替换br.replace_with('\n'),再调用get_text() - 想统一清理
<pre class="brush:php;toolbar:false;"></pre>内容:提前用soup.find_all('pre')找出并 .decompose() 删除,或对每个<pre class="brush:php;toolbar:false;"></pre>单独调用.get_text(strip=True)后再拼接 - 混合场景(如部分段落含
<br>)建议先标准化 DOM:把<br>替换为\n,再统一走get_text(separator=' ', strip=True)
正则后处理仅用于极端情况
当 HTML 结构极不规范(如大量手写 \n + <div> 嵌套),或需要删除所有空白字符(包括中间空格),才考虑正则补刀。
<ul>
<li>删全部换行和制表符:<code>re.sub(r'[\r\n\t]+', ' ', text)
re.sub(r'\s+', ' ', text)(\s 包含空格、换行、制表等)get_text() 之后执行,不能对原始 HTML 字符串直接用 —— 否则可能误删标签内容里的合法空格真正难处理的不是换行本身,而是你没意识到 <br> 和 <pre class="brush:php;toolbar:false;"></pre> 在 DOM 中的行为根本不同 —— 一个被忽略,一个被过度保留。参数调得再细,也得先做这层语义判断。










