JavaScript 中 Set 怎么在前端数据导出 CSV 前快速清理重复的行记录

轻晨酱_5172

轻晨酱_5172

2026-10-18

806人浏览

原创

用set清理csv重复行的关键是先将每行转为唯一字符串标识再哈希去重,推荐json.stringify配合键排序或按业务字段拼接key,导出前需处理csv转义且注意大数据量性能优化。

javascript 中 set 怎么在前端数据导出 csv 前快速清理重复的行记录

用 Set 清理 CSV 导出前的重复行,核心是把每行转成唯一字符串标识,再用 Set 去重,最后还原为数组。关键不在 Set 本身,而在“怎么定义一行是否重复”。

把每行对象转成标准化字符串再塞进 Set

直接对对象用 Set 无效(对象引用不同就视为不同),得先序列化。推荐用 JSON.stringify 配合 Object.keys().sort() 确保键顺序一致,避免因属性顺序不同导致相同数据被误判为不同:

const uniqueRows = Array.from(
  new Set(
    originalData.map(row => 
      JSON.stringify(
        Object.fromEntries(
          Object.entries(row).sort(([a], [b]) => a.localeCompare(b))
        )
      )
    )
  )
).map(JSON.parse);

按业务字段去重(更轻量、更可控)

如果只关心几个关键字段(比如 id、email、手机号),不必全量序列化。拼接这些字段生成唯一 key,效率更高,也避免无关字段变动影响去重结果:

  • 例如按 id 去重:new Set(originalData.map(r => r.id)),再配合 Map 或 filter 提取首条记录
  • 按多字段组合(如 name + phone):r => `${r.name}|${r.phone}`,注意用分隔符防歧义
  • 建议对字段做 trim() 和统一大小写处理,避免空格或大小写导致漏去重

导出前原地去重,不改变原始数据结构

CSV 导出通常依赖二维数组(如 [["name","age"],["Alice",30]])。若原始数据是对象数组,可先映射为字符串数组,再用 Set 去重行字符串:

Java Maven Common
Java Maven Common

Java Maven 项目审查工作流的通用输入处理。当 Java Maven 项目以 ZIP压缩包或 GitLab 仓库 URL 形式提供且需要...时使用。

下载
const headers = ["name", "email", "phone"];
const stringRows = data.map(obj => 
  headers.map(h => String(obj[h] ?? "").replace(/"/g, '""')).join('","')
);
const uniqueStringRows = [...new Set(stringRows)];
const csvContent = [headers.join(","), ...uniqueStringRows].join("\n");

注意:这里对字段值做了双引号转义(CSV 标准要求),并用 Set 直接去重整行字符串,简单可靠。

性能提醒:大数据量时别只靠前端 Set

超过 1 万行建议加节流提示,或后端配合去重。Set 本身很快,但 JSON 序列化和字符串拼接在大量数据下会有明显延迟。可考虑:

  • 用 for 循环 + 对象哈希代替 Set(V8 优化更好)
  • 对 id 类字段用 new Set() 判断是否存在,边遍历边收集,内存更友好
  • 导出前加 loading 状态,避免用户重复点击

不复杂但容易忽略:去重逻辑必须和业务语义对齐——是整行完全相同才算重复?还是某几个字段一样就合并?定好规则再选方法,比堆代码更重要。

Java免费学习笔记:立即使用
解锁 Java 大师之旅:从入门到精通的终极指南

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

javascript java 前端 csv

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2503

5

前端如何实现即时通讯
前端如何实现即时通讯

实现即时通讯的方法有WebSocket、Long Polling、Server-Sent Events、WebRTC等等。详细介绍:1、WebSocket,它可以在客户端和服务器之间建立持久连接,实现实时的双向通信,前端可以使用 WebSocket API来创建WebSocket连接,并通过发送和接收消息来实现即时通讯;2、Long Polling,是一种模拟实时通信的技术等等。

2023.10.09

5423

6

前端和后端的区别
前端和后端的区别

前端关注的是用户界面的设计和交互,而后端则注重数据处理和逻辑控制。想了解更多前端后端的相关内容,可以阅读本专题下面的文章。

2024.03.19

6450

13

php和前端的关联介绍
php和前端的关联介绍

php既可以作为前端语言,也可以作为后端语言。想了解更多php和前端的相关内容,可以阅读本专题下面的文章。

2024.03.22

6078

10

前端外包工作内容有哪些
前端外包工作内容有哪些

前端外包工作内容包括:1. 网站和应用程序开发;2. 用户界面和交互设计;3. 用户体验优化;4. 设计和视觉开发;5. 跨浏览器兼容性;6. 性能优化;7. 维护和更新;8. 项目管理和沟通。想了解更多前端的相关内容,可以阅读本专题下面的文章。

2024.05.22

863

5

js获取数组长度的方法
js获取数组长度的方法

在js中,可以利用array对象的length属性来获取数组长度,该属性可设置或返回数组中元素的数目,只需要使用“array.length”语句即可返回表示数组对象的元素个数的数值,也就是长度值。php中文网还提供JavaScript数组的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

4946

5

js刷新当前页面
js刷新当前页面

js刷新当前页面的方法:1、reload方法,该方法强迫浏览器刷新当前页面,语法为“location.reload([bForceGet]) ”;2、replace方法,该方法通过指定URL替换当前缓存在历史里(客户端)的项目,因此当使用replace方法之后,不能通过“前进”和“后退”来访问已经被替换的URL,语法为“location.replace(URL) ”。php中文网为大家带来了js刷新当前页面的相关知识、以及相关文章等内容

2023.07.04

1229

3

js四舍五入
js四舍五入

js四舍五入的方法:1、tofixed方法,可把 Number 四舍五入为指定小数位数的数字;2、round() 方法,可把一个数字舍入为最接近的整数。php中文网为大家带来了js四舍五入的相关知识、以及相关文章等内容

2023.07.04

4864

6

js删除节点的方法
js删除节点的方法

js删除节点的方法有:1、removeChild()方法,用于从父节点中移除指定的子节点,它需要两个参数,第一个参数是要删除的子节点,第二个参数是父节点;2、parentNode.removeChild()方法,可以直接通过父节点调用来删除子节点;3、remove()方法,可以直接删除节点,而无需指定父节点;4、innerHTML属性,用于删除节点的内容。

2023.09.01

960

4

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WebStorm 官方调试文档
WebStorm 官方调试文档

共0课时 | 0人学习

React 教程
React 教程

共58课时 | 12.2万人学习

TypeScript 教程
TypeScript 教程

共19课时 | 6.7万人学习