为什么PostgreSQL中的Hash Join在内存不足时会写入磁盘?

酷萱大大_7485

酷萱大大_7485

2026-07-07

614人浏览

原创

hash join写磁盘是整桶刷出而非部分落盘,确认work_mem不足需先验证explain(analyze,buffers)中disk usage非零、pg_stat_progress_hash比值超3、排除数据倾斜与类型不一致;work_mem按操作节点独享,中小负载建议32mb起步,须用set local临时调整。

为什么postgresql中的hash join在内存不足时会写入磁盘?

Hash Join 写磁盘不是“缓存不够就慢慢写一点”,而是整桶刷出——一旦 work_mem 不足,PostgreSQL 会把整个哈希桶(bucket)序列落盘,后续每次探查(probe)都得重新读磁盘,性能从纳秒级指针跳转变成毫秒级随机寻道,放大超 10⁵ 倍。

怎么确认真是 work_mem 不够,而不是其他问题?

别看到 Hash Join 就调内存,先排除更常见的假阳性:

  • EXPLAIN (ANALYZE, BUFFERS) 中对应 Hash 节点的 Disk Usage 字段为 0 → 根本没落盘,work_mem 不是瓶颈
  • pg_stat_progress_hash 视图里 hash_probe_total_buckets / hash_buckets_used 比值 > 3 → 桶严重稀疏,说明 work_mem 太小被迫建了大量空桶,内存被浪费而非不足
  • SELECT key, COUNT(*) FROM table GROUP BY key ORDER BY 2 DESC LIMIT 5 → 若 TOP1 频次 > 平均值 × 10,属数据倾斜,加内存无效
  • JOIN 字段类型不一致,比如 CAST(u.id AS TEXT) = o.user_id → 强制转换导致索引失效、优化器误判,硬上 Hash Join

work_mem 设多大才真起作用?

它不是给整个查询用的,而是每个操作节点(一个 Hash Join、一个 Sort、一个 GROUP BY)各自独享的上限:

PostgreSQL 18.4 ubuntu
PostgreSQL 18.4 ubuntu

PostgreSQL 18.4 官方 Ubuntu 安装包现已发布,这是目前最新的稳定版本。推荐通过官方 APT 仓库安装:先执行 sudo apt update 更新索引,再运行 sudo apt install postgresql-18 即可完成部署。新版本引入了异步 I/O 子系统,在顺序扫描与 VACUUM 场景下性能提升显著,同时支持 UUID v7 原生生成函数与虚拟生成列。

下载
  • 估算下限:对驱动表 Join 键粗略计算 —— (行数 × (键长度 + 8)) × 1.5(1.5 是哈希填充因子预留)
  • 中小负载建议从 '32MB' 起步;高分析负载可试 '64MB';超过 '128MB' 必须评估并发压力
  • 临时调优务必用 SET LOCAL work_mem = '64MB',仅当前事务生效;全局改易引发 OOM
  • 注意并行:若 max_parallel_workers_per_gather = 4,单个 Hash Join 最多消耗 4 × work_mem

为什么调了 work_mem 还是写磁盘?

常见静默失败点:

  • 写成 '64M'(缺 B)→ PostgreSQL 静默转为 64 字节,等于没设
  • 连接池如 pgbouncer 拦截 SET 命令 → 确认其 ignore_startup_parameters 未屏蔽运行时参数
  • 同一查询含多个 Hash/Sort/DISTINCT → 总内存消耗是叠加的,但你只给了单个操作额度
  • shared_buffers 或 effective_cache_size 调再高也没用 —— 它们不参与哈希表构建
真正卡住的地方往往不在数值大小,而在“谁在用”和“怎么用”:一个查询里嵌套三个 Hash Join,哪怕每个只吃 32MB,也意味着至少 96MB 实时内存占用;而 pg_stat_progress_hash 只反映主进程状态,worker 落盘了你也看不到。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

postgresql

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
postgresql常用命令
postgresql常用命令

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、\l、\c、\dt、\d table_name、\du、\i file_name、\e和\q等。本专题为大家提供postgresql相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.10

213

5

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4149

19

postgresql常用命令有哪些
postgresql常用命令有哪些

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、\l、\c、\dt、\d table_name、\du、\i file_name、\e和\q等。更详细的postgresql常用命令,大家可以访问下面的文章。

2023.11.16

607

3

postgresql常用命令介绍
postgresql常用命令介绍

postgresql常用命令有\l、\d、\d5、\di、\ds、\dv、\df、\dn、\db、\dg、\dp、\c、\pset、show search_path、ALTER TABLE、INSERT INTO、UPDATE、DELETE FROM、SELECT等。想了解更多postgresql的相关内容,可以阅读本专题下面的文章。

2023.11.20

1356

6

PostgreSQL性能优化与索引调优实战
PostgreSQL性能优化与索引调优实战

本专题面向后端开发与数据库工程师,深入讲解 PostgreSQL 查询优化原理与索引机制。内容包括执行计划分析、常见索引类型对比、慢查询优化策略、事务隔离级别以及高并发场景下的性能调优技巧。通过实战案例解析,帮助开发者提升数据库响应速度与系统稳定性。

2026.02.12

440

19

PostgreSQL 性能优化与查询执行计划实战
PostgreSQL 性能优化与查询执行计划实战

本专题深入解析PostgreSQL性能优化核心,聚焦查询执行计划的实战应用。通过EXPLAIN命令精准定位瓶颈,结合索引策略、SQL改写与参数调优,系统提升查询效率。从执行计划解读到性能调优全流程,助你掌握数据库性能诊断与优化实战能力。

2026.05.08

130

10

PostgreSQL 在 Next.js / Go 全栈架构中的工程化实践
PostgreSQL 在 Next.js / Go 全栈架构中的工程化实践

本文详解如何利用Next.js(搭配Drizzle ORM)与Go后端构建高性能应用,充分发挥PG在JSONB非结构化存储与pgvector向量检索上的优势。从数据建模到Docker容器化部署,打造支持AI时代的“One Database”工程化解决方案。

2026.05.08

881

10

PostgreSQL高级特性、内核机制与现代数据架构
PostgreSQL高级特性、内核机制与现代数据架构

本专题从MVCC并发控制与WAL日志等内核机制出发,详解JSONB、PostGIS及pgvector等高级特性。探讨如何利用单一引擎支撑关系型、向量及图数据等现代数据架构需求,助您掌握构建高并发、智能化应用的核心技术。

2026.05.08

224

10

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

2023.06.29

2325

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 176人学习

PostgreSQL 教程
PostgreSQL 教程

共48课时 | 20.2万人学习

PostgreSQL 手册
PostgreSQL 手册

共0课时 | 1万人学习