Sublime删除重复行:Sublime如何快速提取或删除文本中的重复内容?

大杰吖_5294

大杰吖_5294

2026-05-01

666人浏览

原创

Sublime Text 无真正保序去重功能:Remove Duplicate Lines 仅删相邻重复,Sort Lines: Unique 会打乱顺序;需用正则 ^(.*$)\n(?=.*^\1$) 或系统命令(如 awk '!seen[$0]++')实现保序去重。

sublime删除重复行:sublime如何快速提取或删除文本中的重复内容?

Sublime Text 没有真正意义上的“一键全局去重并保序”功能。你看到的 Remove Duplicate Lines 只删相邻重复;Sort Lines: Unique 会彻底打乱原始顺序;想保留第一处出现的位置、只删后面重复的,必须用正则或外部命令。

为什么 Remove Duplicate Lines 总是删不干净?

它底层就是逐行比对上一行是否完全一致,不建哈希表、不缓存历史、不扫描全文。比如这三行:

apple
banana
apple

第二个 apple 不会被删——因为它的上一行是 banana,不是 apple。

  • 对空格、Tab、BOM、零宽字符(\u200B)、混合换行符(\r\n 和 \n 并存)极度敏感:"hello" 和 "hello " 被视为不同行
  • 不支持忽略大小写:Apple 和 apple 不会合并
  • 未全选时,只作用于当前光标所在段落,不是全文
  • 空行也会中断匹配链,导致后续重复漏判

Sort Lines: Unique 为什么不能直接用?

它是 Sublime Text 4.4+ 新增命令,本质是先执行字典序排序,再合并相邻重复行。结果是:顺序必然丢失,且保留的是排序后每组中的首行,不一定是原文中第一次出现的那行。

百川大模型
百川大模型

百川大模型是百川智能推出的面向知识服务和专业场景的中文大模型体系。

下载
  • 若文件含 Apple 和 apple,排序后 Apple 可能排在前面并被保留,apple 被删
  • 混合换行符会导致排序错位,sort -u 级别的语义失效
  • 数字字符串如 log2.txt 和 log10.txt 会按 ASCII 排(log10 在 log2 前),需额外插件补零
  • 快捷键需手动绑定:{"keys": ["ctrl+alt+u"], "command": "sort_lines", "args": {"unique": true}}

怎么真正保序去重?用正则 ^(.*$)\n(?=.*^\1$)

这个正则能精准匹配「后面还有相同行」的所有重复行(除第一个),适合代码、配置项、日志等依赖原始顺序的文本。

  • 必须先统一换行符:菜单 File → Line Endings → Unix,否则 ^ 和 $ 在 \r\n 下会错位
  • 打开查找面板(Ctrl+F),勾选 Regular Expression 和 Whole Line;若文本含多行内容,还要点右下角 .* 启用 . matches newline
  • 输入 ^(.*$)\n(?=.*^\1$),点 Find All,再按 Ctrl+Shift+L 转多光标,最后按 Delete —— 首行自动跳过
  • 如果仍有残留,说明存在尾部空白干扰,先执行 Find → Replace,查找 \s+$,替换为空,再跑正则

大文件或高频处理,别硬扛 Sublime

超过 5 万行时,Sublime 的正则和排序会明显卡顿,内存占用飙升,且不可中断。这时候甩给系统命令更稳:

  • Linux/macOS:sort -u file.txt(排序去重)或 awk '!seen[$0]++' file.txt(保序去重)
  • Windows PowerShell:Get-Content file.txt | Sort-Object -Unique(排序去重),或 Get-Content file.txt | ForEach-Object {$seen{$_.Trim()}++ -eq 1} | Set-Content out.txt(保序)
  • Python 一行脚本(跨平台):python3 -c "import sys; seen=set(); [print(l.strip()) for l in sys.stdin if l.strip() not in seen and not seen.add(l.strip())]"

正则里 ^ 和 $ 的行为、换行符统一、尾部空白、零宽字符——这些细节不处理,^(.*$)\n(?=.*^\1$) 就只是个看起来很美的表达式。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

sublime

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

2026.11.06

40

12

Postman请求头Headers怎么设置
Postman请求头Headers怎么设置

围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。

2026.11.06

20

13

Postman接口请求发送教程
Postman接口请求发送教程

详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。

2026.11.06

20

10

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

2026.11.05

40

12

DBeaver安全防护教程大全
DBeaver安全防护教程大全

DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。

2026.11.05

40

12

DBeaver连接创建与配置教程
DBeaver连接创建与配置教程

本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。

2026.11.04

40

16

XORM框架结构体映射与表结构同步
XORM框架结构体映射与表结构同步

本专题围绕XORM框架的结构体映射展开,说明表名与字段的命名策略、xorm标签常用属性、主键自增与时间字段自动填充,并演示Sync2自动建表、增量字段升级、索引声明与反向生成结构体的完整流程。

2026.11.04

40

15

XORM框架安装配置与数据库连接
XORM框架安装配置与数据库连接

本专题聚焦XORM框架的配置与连接环节,拆解MySQL、PostgreSQL、SQLite、SQL Server的DSN写法与驱动选择,讲清连接池参数、多数据源拆分、读写分离与超时重连的处理方式,并补充容器与兼容数据库的适配经验。

2026.11.04

40

15

XORM框架安装配置与数据库连接
XORM框架安装配置与数据库连接

本专题聚焦XORM框架的配置与连接环节,拆解MySQL、PostgreSQL、SQLite、SQL Server的DSN写法与驱动选择,讲清连接池参数、多数据源拆分、读写分离与超时重连的处理方式,并补充容器与兼容数据库的适配经验。

2026.11.04

0

16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程