在Snowflake SQL中如何利用HLL聚合实现近似去重?

夜磊姑娘_3969

夜磊姑娘_3969

2026-09-28

489人浏览

原创

必须配对使用hll_init+hll_merge+hll_estimate三件套,因Snowflake的HLL非标量函数;漏任一环报错或返回NULL;hll_init需非NULL输入;hll_merge为GROUP BY专用聚合函数;hll_estimate仅接受BINARY型输入。

在snowflake sql中如何利用hll聚合实现近似去重?

直接用 HLL 函数就行,但必须配对使用 hll_init + hll_merge(聚合阶段)+ hll_estimate(最终取值),不能只写一个函数就完事。

为什么不能直接写 COUNT(DISTINCT x) 替换成 HLL?

Snowflake 的 HLL 不是开箱即用的标量函数,它是一套三件套:先用 hll_init 把原始值转成 HLL sketch,再用 hll_merge 合并多个 sketch,最后用 hll_estimate 解出近似基数。漏掉任意一环都会报错或返回 NULL。

  • hll_init(x) 必须传非 NULL 值,NULL 会被跳过 —— 所以 hll_init(COALESCE(col, 'null_placeholder')) 比直接 hll_init(col) 更稳
  • hll_merge 是聚合函数,只能在 GROUP BY 中用,不能出现在 WHERE 或 SELECT 非聚合列里
  • hll_estimate 接收的是 hll_merge 的输出,类型为 BINARY,不能直接 CAST 或参与算术运算

HLL 和 APPROX_COUNT_DISTINCT 选哪个?

如果只是单层聚合、不关心中间 sketch 复用,APPROX_COUNT_DISTINCT(col) 更简单,语义和性能接近 HLL 三件套,误差率也都在 ~1.6% 左右。但它不可拆解 —— 你没法把今天和昨天的 sketch 合并,也没法做分组后二次聚合。

  • 要支持增量合并(比如按天计算再合到月)、或需要跨多个查询复用 sketch,必须用 hll_init/hll_merge/hll_estimate
  • APPROX_COUNT_DISTINCT 在小数据集上可能比精确 COUNT(DISTINCT) 还慢,因为要初始化 sketch 结构;数据量 > 1M 行时优势才明显
  • 两者都对高基数字符串友好,但若列含大量重复短字符串(如状态码 '200'、'404'),HLL sketch 占用空间反而比 APPROX_COUNT_DISTINCT 略大

实际写法:带条件的近似去重怎么写?

比如 “统计每个城市中付费用户(is_paying = true)的近似 UV”,不能在 hll_init 外套 FILTER(Snowflake 不支持聚合函数的 FILTER 子句),得用 CASE:

SELECT
  city,
  hll_estimate(hll_merge(hll_init(CASE WHEN is_paying THEN user_id END))) AS approx_uv
FROM users
GROUP BY city;

注意:CASE 分支返回 user_id 或 NULL,hll_init(NULL) 会跳过,等效于过滤;别写成 CASE WHEN is_paying THEN hll_init(user_id) —— 那会导致非付费行传入 NULL 给 hll_init,语法错误。

真正容易被忽略的是 sketch 生命周期:一旦存成表字段(比如用 hll_merge 结果写入物化视图),后续想加新数据就得再调一次 hll_merge,而不是重新跑全量 hll_init。这一步没想清楚,后面就只能重建。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
大数据分析工具有哪四个
大数据分析工具有哪四个

大数据分析的四个工具分别是rapidminer、Hpcc、Hadoop和Pentaho bi。大数据分析用于从各种来源生成的原始数据中提取有价值的数据。这些数据帮助我们获得有意义的见解、隐藏的模式、未知的相关性、市场趋势等等,具体取决于行业。大数据分析的主要动机是提供有价值的见解,以便为未来做出更好的决策。php中文网为大家带来了大数据分析的相关教程、以及相关文章等内容,供大家免费下载使用。

2023.06.21

6516

5

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

2025.12.08

1269

12

大数据专业学习教程
大数据专业学习教程

本专题整合了大数据专业学习相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

243

5

python处理大数据合集
python处理大数据合集

本专题整合了python处理大数据相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

546

22

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

2026.11.12

140

15

Go-Zero安装与goctl环境配置教程
Go-Zero安装与goctl环境配置教程

本专题围绕Go-Zero的安装与工具链配置展开,讲清Go版本要求、goctl安装方式、代理镜像、protoc依赖与环境变量设置,说明多版本共存、升级回退与CI流水线安装的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.12

100

15

Go-Zero零基础入门教程
Go-Zero零基础入门教程

本专题整理Go-Zero的入门知识,从框架定位、环境准备到跑通第一个API服务,讲清目录分层、配置加载、日志与中间件的基本用法,并对比Gin、Kratos的差异,帮助Go开发者建立整体认知,判断它是否适合当前项目。

2026.11.12

60

15

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

2026.11.06

160

12

Postman请求头Headers怎么设置
Postman请求头Headers怎么设置

围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。

2026.11.06

140

13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.3万人学习