在PostgreSQL 14中怎样使用GROUP BY统计高频访问路径?

浅墨姑娘_2656

浅墨姑娘_2656

2026-10-05

757人浏览

原创

group by前需清洗path字段:去查询参数、尾斜杠、统一大小写;where条件须置于group by前;排除null/空值;建表达式索引;order by需二级排序保结果稳定。

在postgresql 14中怎样使用group by统计高频访问路径?

GROUP BY 路径字段前必须清洗和标准化

原始日志表里 path 字段常含查询参数、尾部斜杠不一致、大小写混用,比如 /api/user、/api/user/?id=123、/api/user/ 会被当成三个不同值。直接 GROUP BY path 会导致频次分散、结果失真。

实操建议:

  • 用 REGEXP_REPLACE(path, '\?.*$', '') 去掉全部查询参数
  • 用 TRIM(TRAILING '/' FROM ...) 统一去除末尾斜杠
  • 必要时加 LOWER() 统一大小写(尤其当 Nginx 或前端路由不规范时)
  • 若字段名是 request_path 或 uri,记得替换,别硬写 path

WHERE 条件必须放在 GROUP BY 内部,不能丢到外层

比如只想统计最近7天、状态码为200的访问路径,如果把 WHERE status = 200 AND created_at >= NOW() - INTERVAL '7 days' 放在外层 SELECT,PostgreSQL 会先对全量数据分组再过滤——既慢又可能因临时表溢出失败。

正确写法是把条件塞进子查询或主查询的 FROM 后、GROUP BY 前:

SELECT 
  TRIM(TRAILING '/' FROM REGEXP_REPLACE(path, '\?.*$', '')) AS clean_path,
  COUNT(*) AS freq
FROM logs 
WHERE status = 200 
  AND created_at >= NOW() - INTERVAL '7 days'
GROUP BY TRIM(TRAILING '/' FROM REGEXP_REPLACE(path, '\?.*$', ''))
ORDER BY freq DESC
LIMIT 10;

注意:SELECT 和 GROUP BY 中的表达式必须完全一致,否则 PostgreSQL 14 会报错 column "xxx" must appear in the GROUP BY clause or be used in an aggregate function。

高频路径统计容易忽略 NULL 和空字符串

日志中常有 path IS NULL 或空字符串 '',它们会被单独分组,且频次可能意外排第一(尤其当采集链路异常时)。这会让真正关心的业务路径被挤到后面。

避免方式:

  • 显式排除:WHERE path IS NOT NULL AND TRIM(path) != ''
  • 在清洗后加 HAVING COUNT(*) > 10 过滤掉低频噪音(比如只看至少被访问10次的路径)
  • 建索引加速:CREATE INDEX idx_logs_clean_path ON logs ((TRIM(TRAILING '/' FROM REGEXP_REPLACE(path, '\?.*$', '')))); —— 注意这是表达式索引,PostgreSQL 14 支持,但需用双括号包裹

想稳定取 Top-N?ORDER BY 必须带二级排序

多个路径频次并列时(比如都访问了 86 次),仅 ORDER BY freq DESC LIMIT 5 的结果不可复现——PostgreSQL 不保证相同频次下的内部顺序。

要每次输出一致,加二级排序:

  • 按路径字典序升序取第一个同频项:ORDER BY freq DESC, clean_path ASC
  • 或按长度优先:ORDER BY freq DESC, LENGTH(clean_path) ASC, clean_path ASC

真正麻烦的不是语法,而是默认行为对 NULL 和无序性的隐性影响;一旦监控告警依赖这个查询,结果波动就很难排查。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4003

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

851

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1029

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

5861

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

2783

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

5840

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

7741

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1050

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

932

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.4万人学习