SQL如何去重后再进行字符串聚合

落杰姑娘_7746

落杰姑娘_7746

2026-08-10

362人浏览

原创

postgresql 10+ 和 oracle 12cr2+ 支持 string_agg(distinct ...) 和 listagg(distinct ...),mysql 用 group_concat(distinct ...),trino/bigquery 需数组函数中转去重,复杂去重应前置到输入层。

sql如何去重后再进行字符串聚合

直接用 STRING_AGG(DISTINCT ...),PostgreSQL 10+ 和 Oracle LISTAGG 都原生支持;MySQL 要用 GROUP_CONCAT(DISTINCT ...);Trino/BQ 则需绕过 DISTINCT 用数组函数。

PostgreSQL:优先用 STRING_AGG(DISTINCT ...),别写子查询

这是最简、最稳的写法,语法清晰,执行计划干净:
SELECT user_id, STRING_AGG(DISTINCT tag, ',' ORDER BY tag NULLS LAST) FROM user_tags GROUP BY user_id;

  • DISTINCT 必须紧贴在表达式前,写成 STRING_AGG(tag DISTINCT, ',') 是错的,会报语法错误
  • 不加 ORDER BY 时结果顺序不确定——哪怕源表有索引或 ORDER BY 子句,聚合也不保序
  • NULL 默认参与排序且排最前,业务上常要 NULLS LAST 或提前过滤:WHERE tag IS NOT NULL AND TRIM(tag) != ''
  • 空格敏感:'VIP' 和 'VIP ' 被视为不同值,建议统一 TRIM(tag)

MySQL:必须用 GROUP_CONCAT(DISTINCT ...),不能漏掉关键字

MySQL 5.7+ 和 8.0 均支持 DISTINCT 直接写在 GROUP_CONCAT 内部,无需子查询:
SELECT department_id, GROUP_CONCAT(DISTINCT employee_name ORDER BY employee_name SEPARATOR ';') FROM employees GROUP BY department_id;

  • DISTINCT 是可选关键字,但一旦需要去重就必须显式写出,漏掉就全量拼接
  • 分隔符默认是逗号,用 SEPARATOR 指定更安全,避免依赖隐式行为
  • 结果长度受 group_concat_max_len 限制(默认 1024),超长会被截断且无提示,查不到数据时先检查这个变量
  • 大小写默认敏感,'Apple' 和 'apple' 不去重,必要时套 LOWER(employee_name)

Oracle / Trino / BigQuery:DISTINCT 不可用,得走数组中转

Oracle 的 LISTAGG 支持 DISTINCT(12cR2+),但 Trino 和 BigQuery 的 STRING_AGG 不支持,必须用数组函数组合:

度加剪辑
度加剪辑

一款百度旗下的AI视频创作与剪辑工具,结合智能剪辑和数字人等能力,帮助用户快速完成短视频内容制作。

下载

Trino:
SELECT group_id, ARRAY_JOIN(ARRAY_DISTINCT(ARRAY_AGG(name)), ',') FROM t GROUP BY group_id;

BigQuery:
SELECT group_id, ARRAY_TO_STRING(ARRAY(SELECT DISTINCT x FROM UNNEST(arr) AS x), ',')
FROM (SELECT group_id, ARRAY_AGG(name) AS arr FROM t GROUP BY group_id);

  • Trino 中 ARRAY_DISTINCT 会丢弃 NULL,若需保留,得先 FILTER 或改用 ARRAY_AGG(DISTINCT ...) + ARRAY_JOIN
  • BigQuery 的 UNNEST 展开后去重,中间结果可能翻倍,大数据量时注意 shuffle 压力
  • 所有数组方案都要求字段类型一致,INT 和 STRING 混合会报错,提前 CAST

去重逻辑复杂时,别硬套 DISTINCT,先清洗再聚合

当“去重”不是简单字段唯一,而是基于多列组合、优先级或业务规则(比如只留 source = 'system' 的 tag),DISTINCT 就失效了。

正确做法是把去重逻辑上推到输入层:
WITH deduped AS (
  SELECT user_id, tag,
    ROW_NUMBER() OVER (PARTITION BY user_id, tag ORDER BY CASE source WHEN 'system' THEN 1 ELSE 2 END) AS rn
  FROM user_tags
)
SELECT user_id, STRING_AGG(tag, ',') FROM deduped WHERE rn = 1 GROUP BY user_id;

  • 用 ROW_NUMBER() 或 DISTINCT ON(PG)做预过滤,比在聚合里套多层 UNNEST + ARRAY + DISTINCT 快得多,也易读
  • 如果去重要跨表关联(如用户主表 + 标签表 + 权限表),先 JOIN 再 DISTINCT ON,别在聚合函数里 JOIN
  • STRING_AGG 或 GROUP_CONCAT 的输出是字符串,后续无法再取第 2 个元素或算长度;真需要结构化结果,就用 ARRAY_AGG 返回数组,别急着转字符串

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

3763

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

811

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

989

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

5561

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

2543

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

5560

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

7261

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

990

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

872

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.2万人学习