怎样在SQL中对加密或脱敏字段进行安全的分组聚合?

星静姑娘_9894

星静姑娘_9894

2026-09-09

866人浏览

原创

加密字段不能直接group by,因密文随机性导致每行唯一;脱敏字段须先生成再分组,避免动态计算;推荐用stored生成列预解密或写入时归一化哈希/掩码字段以保障性能与准确性。

怎样在sql中对加密或脱敏字段进行安全的分组聚合?

加密字段不能直接 GROUP BY,脱敏字段也不能靠“边查边脱敏”来分组——这两类操作若在查询时动态计算,必然不可索引、性能崩盘、结果错乱。

为什么 GROUP BY encrypted_email 总是每行一组?

数据库只做字节比对,不触发解密。AES 加密带随机 IV,相同邮箱每次加密结果都不同;哪怕用固定 IV,Base64 编码差异或填充字节也会让密文不等价。你看到的 COUNT(*) = 1 每行,就是这个原因。MySQL、PostgreSQL、SQL Server 全部如此,没有例外。

常见错误现象包括:

  • GROUP BY AES_DECRYPT(encrypted_email, 'key') 在 MySQL 报 Invalid use of group function,在 PostgreSQL 报 column "xxx" must appear in the GROUP BY clause
  • 写成 SELECT AES_DECRYPT(...), COUNT(*) GROUP BY AES_DECRYPT(...) —— 表达式重复写两遍,且无法走索引
  • 漏掉 WHERE AES_DECRYPT(...) IS NOT NULL,导致 NULL 自成一组,统计多出一堆脏数据

MySQL 8.0+ 推荐用 STORED 生成列预解密

把解密逻辑固化进表结构,后续当普通字段用,可建索引、可 GROUP BY、无运行时开销。

必须注意三点:

  • 用 STORED(不是 VIRTUAL),否则无法建索引:ALTER TABLE users ADD COLUMN email_plain VARCHAR(255) GENERATED ALWAYS AS (CONVERT(AES_DECRYPT(encrypted_email, 'my_key') USING utf8mb4)) STORED;
  • 显式 CONVERT(... USING utf8mb4),避免隐式转换导致索引失效
  • 立刻建索引:CREATE INDEX idx_email_plain ON users(email_plain);

之后分组就和普通字段一样:SELECT email_plain, COUNT(*) FROM users GROUP BY email_plain;

⚠️ 密钥轮换时需 DROP COLUMN + 重建,所有行会重新计算生成列值——上线前务必验证流程。

Mootion
Mootion

Mootion是一款将文本、脚本、图片和想法生成视频与 3D 动画的 AI 创作平台。

下载

脱敏字段分组必须先生成掩码再分组,不能 GROUP BY 原始字段

想统计“138****1234”出现次数,GROUP BY 的对象必须是脱敏后的字符串,而不是原始手机号。

正确做法是:

  • 在 SELECT 和 GROUP BY 中使用**完全一致的表达式**:SELECT CONCAT(LEFT(phone, 3), '****', RIGHT(phone, 4)) AS masked_phone, COUNT(*) FROM users WHERE phone IS NOT NULL GROUP BY CONCAT(LEFT(phone, 3), '****', RIGHT(phone, 4));
  • 用 COALESCE(phone, '') 统一空值语义,否则 NULL 会让整个表达式返回 NULL,导致分组断裂
  • 避免在 WHERE 或 HAVING 中对脱敏后字段做精确匹配(如 WHERE masked_phone = '138****1234'),这等于变相还原明文

如果脱敏逻辑复杂(比如正则替换、多层嵌套),建议封装为数据库函数或用 CTE 提前算好,别堆在 GROUP BY 里重复写。

真正适合分组的不是可逆加密,而是确定性哈希或写入时归一化

业务上要高频统计某类用户,最稳的方案是在写入时就存一个可索引的归一化字段,比如:

  • email_domain_hash BINARY(32):存 HMAC-SHA256(SUBSTRING_INDEX(email, '@', -1), 'salt')
  • phone_prefix CHAR(3):存手机号前三位,直接可索引、可 GROUP BY
  • 用 MyBatis-Plus 等 ORM 在应用层完成脱敏/哈希,数据库只存结果

这类字段不依赖密钥、不触发解密、不拖慢查询,密钥轮换只需重跑一次 ETL,不影响线上服务。而所有试图在 GROUP BY 里塞 AES_DECRYPT、ENCRYPTBYKEY、SUBSTRING(ENCRYPT...) 的写法,本质都是拿性能换便利,数据量一上来就暴露问题。

最容易被忽略的点是:生成列、物化视图、哈希字段,全都要求密钥或 salt 硬编码在定义里——一旦密钥变更,这些结构必须重建,且历史数据不会自动更新。这不是配置问题,是架构约束。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4363

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

911

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1129

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6281

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3103

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6260

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

8501

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1150

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1012

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.8万人学习