怎么用正则表达式删除重复_正则去重删除重复文本内容

云杰同学_1599

云杰同学_1599

2026-01-21

654人浏览

原创

正则去重需按重复模式选择策略:一、删连续重复行用^(s.+s)$\n^\1$;二、删连续重复字符或单词用(.)+或(w+)+;三、删全局重复行需awk或Python辅助;四、删单行内重复单词用(w+)(?=.*)。

怎么用正则表达式删除重复_正则去重删除重复文本内容

如果您有一段包含重复文本内容的字符串,需要通过正则表达式将其去重并删除冗余项,则需根据重复模式(如连续重复、跨行重复、单词级重复等)选择对应匹配策略。以下是几种可行的正则去重方法:

一、删除连续重复的行

该方法适用于文本中存在完全相同的相邻行,例如日志或列表中连续出现的重复记录。正则通过捕获一行并匹配其后紧邻的相同行来实现删除。

1、在支持PCRE或Perl风格正则的编辑器(如Notepad++、VS Code)中启用“正则表达式”搜索模式。

2、输入匹配模式:^(s*.+s*)$ ^$

3、将替换内容设为空(即不填任何字符)。

4、点击“全部替换”,仅保留首次出现的行,后续连续重复行被清除。

二、删除连续重复的字符或单词

该方法针对同一行内连续出现的相同字符、数字或单词(如“aa”、“hellohello”),利用反向引用匹配并压缩为单次出现。

1、使用正则模式:(w+)+ 匹配连续重复的单词(如“testtest”→“test”)。

2、或使用:(.)+ 匹配连续重复的任意单字符(如“aaabbb”→“ab”)。

3、替换为:$1(即只保留第一个捕获组内容)。

4、执行全局替换,所有连续重复片段被压缩为单例。

python-flask-vue-creator
python-flask-vue-creator

创建 Flask + Vue.js 全栈项目,采用单端口架构、uv 依赖管理、结构化日志和生产级前端设计。当用户要求以下操作时触发:创建新的 Flask+Vue 项目、搭建 Web 应用、构建全栈 Python+Vue 应用、初始化 Flask Web 项目、设置单端口 Flask 前后端项目。触发词:新建项目、创建项目、搭建项目、Flask项目、Vue项目。

下载

三、删除非连续但全局唯一的重复行(需辅助工具)

纯正则无法直接跨多行记忆已出现过的行并删除后续重复,但可在支持扩展功能的环境中结合正则与命令行逻辑实现。此方案依赖sed、awk或Python正则模块的回溯能力。

1、在Linux终端中使用awk命令:awk '!seen[$0]++' input.txt > output.txt

2、若必须用Python正则配合逻辑:读取全文后用re.split(' ')分割,遍历并用集合记录已见行,跳过重复项。

3、正则在此流程中仅用于预处理(如清理首尾空格):^s+|s+$ 替换为空以统一比对基准。

四、基于单词边界的重复词删除(单行内)

当目标是清除同一行中重复出现的独立单词(如“apple banana apple”中的第二个“apple”),需确保匹配完整单词而非子串。

1、启用单词边界符号,使用模式:(w+)(?=.*)

2、该模式正向查找后续仍存在的相同单词,但不消耗字符(零宽断言)。

3、在支持正向先行断言的引擎中(如Python re、Sublime Text),配合替换逻辑逐个移除后续重复项。

4、实际操作中常分两步:先提取唯一词列表,再按序重建行,避免正则一次性替换引发偏移错乱。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
js正则表达式
js正则表达式

php中文网为大家提供各种js正则表达式语法大全以及各种js正则表达式使用的方法,还有更多js正则表达式的相关文章、相关下载、相关课程,供大家免费下载体验。

2023.06.20

4656

8

正则表达式不包含
正则表达式不包含

正则表达式,又称规则表达式,,是一种文本模式,包括普通字符和特殊字符,是计算机科学的一个概念。正则表达式使用单个字符串来描述、匹配一系列匹配某个句法规则的字符串,通常被用来检索、替换那些符合某个模式的文本。php中文网给大家带来了有关正则表达式的相关教程以及文章,希望对大家能有所帮助。

2023.07.05

3161

4

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

2023.07.05

8782

9

java正则表达式匹配字符串
java正则表达式匹配字符串

在Java中,我们可以使用正则表达式来匹配字符串。本专题为大家带来java正则表达式匹配字符串的相关内容,帮助大家解决问题。

2023.08.11

812

5

正则表达式空格
正则表达式空格

正则表达式空格可以用“\s”来表示,它是一个特殊的元字符,用于匹配任意空白字符,包括空格、制表符、换行符等。本专题为大家提供正则表达式相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.31

520

5

Python爬虫获取数据的方法
Python爬虫获取数据的方法

Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据,或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.13

693

12

正则表达式空格如何表示
正则表达式空格如何表示

正则表达式空格可以用“\s”来表示,它是一个特殊的元字符,用于匹配任意空白字符,包括空格、制表符、换行符等。想了解更多正则表达式空格怎么表示的内容,可以访问下面的文章。

2023.11.17

406

3

正则表达式中如何匹配数字
正则表达式中如何匹配数字

正则表达式中可以通过匹配单个数字、匹配多个数字、匹配固定长度的数字、匹配整数和小数、匹配负数和匹配科学计数法表示的数字的方法匹配数字。更多关于正则表达式的相关知识详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.12.06

739

7

php正则表达式有哪些
php正则表达式有哪些

php正则表达式有"/pattern/"、"^"、"$"、"."、"[]"、"[^]"、"[a-z]"、"[A-Z]"、"[0-9]"、"\d"、"\D"、"\w"、"\W"、&a

2024.02.23

312

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习