如何在PostgreSQL中编写存储过程实现数据的增量同步?

星静姑娘_9894

星静姑娘_9894

2026-06-29

425人浏览

原创

postgresql无法仅靠create function实现可靠增量同步,因其函数无状态、不支持跨会话共享变量,必须结合控制表+外部调度+显式状态管理。

如何在postgresql中编写存储过程实现数据的增量同步?

PostgreSQL 本身不支持传统意义上的“存储过程”(如 Oracle 的 CREATE PROCEDURE)来长期维护同步状态或跨会话持久化变量,直接用 PL/pgSQL 存储过程做可靠增量同步是行不通的。它缺乏会话间共享状态的能力,也无法安全处理 DELETE、并发冲突、断点续传等核心问题。

必须换思路:用函数 + 控制表 + 外部调度(如 pg_cron 或外部脚本)组合实现,否则必然漏数据、丢删除、重复写入。

为什么不能只靠 CREATE FUNCTION 实现增量同步?

PL/pgSQL 函数是无状态的——每次调用都是新会话,v_last_sync_time 这类变量一退出就消失。你无法在函数里“记住上次同步到哪”,除非显式读写控制表。
常见翻车现象:
• 写个 SELECT MAX(updated_at) FROM source 当作本次终点,但中间有延迟或事务未提交,导致下次启动时跳过部分变更
• 用 NOW() - INTERVAL '1 hour' 硬切窗口,任务晚执行 2 小时,那一小时的数据就永远丢了
• 函数里没加 FOR UPDATE 或排他锁,高并发下多个实例同时读同一控制表,写出脏数据

必须建一张控制表并手动维护 last_sync_time

这是唯一能跨次运行、支撑断点续传的方案。控制表结构示例:

PostgreSQL 18.4 ubuntu
PostgreSQL 18.4 ubuntu

PostgreSQL 18.4 官方 Ubuntu 安装包现已发布,这是目前最新的稳定版本。推荐通过官方 APT 仓库安装:先执行 sudo apt update 更新索引,再运行 sudo apt install postgresql-18 即可完成部署。新版本引入了异步 I/O 子系统,在顺序扫描与 VACUUM 场景下性能提升显著,同时支持 UUID v7 原生生成函数与虚拟生成列。

下载
CREATE TABLE sync_control (
  table_name TEXT PRIMARY KEY,
  last_sync_time TIMESTAMP WITH TIME ZONE,
  last_handle_time TIMESTAMP WITH TIME ZONE
);

关键操作规则:
• 每次同步开始前,先 SELECT last_sync_time FROM sync_control WHERE table_name = 'orders'
• 同步完成后,必须用 UPDATE sync_control SET last_sync_time = v_current_max_time WHERE table_name = 'orders',而不是仅靠 SELECT MAX() 临时算
• 失败时要在 EXCEPTION 块里记录日志,并保留旧值,不能清空或覆盖
• 字段类型必须是 TIMESTAMP WITH TIME ZONE,避免时区错位导致漏数据

MERGEINSERT ... ON CONFLICT 处理增/改,但删必须单独写

PostgreSQL 没有标准 MERGE 语法(9.5+ 的 INSERT ... ON CONFLICT 只能覆盖“冲突时更新”,不感知源端已删除的行)。所以完整逻辑必须拆成三步:
• 先同步新增和修改(用 INSERT ... ON CONFLICT DO UPDATE
• 再同步删除(需源端提供删除标记字段,或通过全量主键比对)
• 删除逻辑必须加时间过滤:例如 DELETE FROM target WHERE id IN (SELECT id FROM deleted_log WHERE delete_time > v_last_sync_time),否则会误删刚同步进来的新数据
容易踩的坑:
• 源表主键没建唯一索引 → ON CONFLICT 匹配失败或性能暴跌
updated_at 字段允许 NULL → 查询条件漏写 AND updated_at IS NOT NULL,NULL 行永远不被拉取
• 没对源数据去重 → 同一主键多条变更记录进函数,触发多次 ON CONFLICT,可能违反业务约束

真正可靠的增量同步必须脱离纯 SQL,引入外部协调

哪怕你把函数写得再严谨,只要调度器(如 cron)每次起新进程,就绕不开状态丢失问题。生产环境必须:
• 用 pg_cron 扩展或外部脚本(Python/bash)驱动函数调用,且每次调用都明确传入 table_name 和期望的 sync_window
• 对 WAL 级别同步(如 pglogrepl),根本不用写存储过程,而是起一个长连接监听逻辑复制流
• 若用 Seatunnel 或 DTS 等工具,它们内部已封装控制表、checkpoint、DDL 捕获等机制,此时手写函数反而增加故障面
最常被忽略的一点:业务层是否真实更新 updated_at?ORM 的 save(update_fields=[...]) 可能跳过时间戳字段,导致某次批量更新后,这批记录在后续所有增量同步中都被忽略。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

postgresql

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
postgresql常用命令
postgresql常用命令

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、\l、\c、\dt、\d table_name、\du、\i file_name、\e和\q等。本专题为大家提供postgresql相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.10

193

5

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4069

19

postgresql常用命令有哪些
postgresql常用命令有哪些

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、\l、\c、\dt、\d table_name、\du、\i file_name、\e和\q等。更详细的postgresql常用命令,大家可以访问下面的文章。

2023.11.16

607

3

postgresql常用命令介绍
postgresql常用命令介绍

postgresql常用命令有\l、\d、\d5、\di、\ds、\dv、\df、\dn、\db、\dg、\dp、\c、\pset、show search_path、ALTER TABLE、INSERT INTO、UPDATE、DELETE FROM、SELECT等。想了解更多postgresql的相关内容,可以阅读本专题下面的文章。

2023.11.20

1356

6

PostgreSQL性能优化与索引调优实战
PostgreSQL性能优化与索引调优实战

本专题面向后端开发与数据库工程师,深入讲解 PostgreSQL 查询优化原理与索引机制。内容包括执行计划分析、常见索引类型对比、慢查询优化策略、事务隔离级别以及高并发场景下的性能调优技巧。通过实战案例解析,帮助开发者提升数据库响应速度与系统稳定性。

2026.02.12

440

19

PostgreSQL 性能优化与查询执行计划实战
PostgreSQL 性能优化与查询执行计划实战

本专题深入解析PostgreSQL性能优化核心,聚焦查询执行计划的实战应用。通过EXPLAIN命令精准定位瓶颈,结合索引策略、SQL改写与参数调优,系统提升查询效率。从执行计划解读到性能调优全流程,助你掌握数据库性能诊断与优化实战能力。

2026.05.08

130

10

PostgreSQL 在 Next.js / Go 全栈架构中的工程化实践
PostgreSQL 在 Next.js / Go 全栈架构中的工程化实践

本文详解如何利用Next.js(搭配Drizzle ORM)与Go后端构建高性能应用,充分发挥PG在JSONB非结构化存储与pgvector向量检索上的优势。从数据建模到Docker容器化部署,打造支持AI时代的“One Database”工程化解决方案。

2026.05.08

861

10

PostgreSQL高级特性、内核机制与现代数据架构
PostgreSQL高级特性、内核机制与现代数据架构

本专题从MVCC并发控制与WAL日志等内核机制出发,详解JSONB、PostGIS及pgvector等高级特性。探讨如何利用单一引擎支撑关系型、向量及图数据等现代数据架构需求,助您掌握构建高并发、智能化应用的核心技术。

2026.05.08

224

10

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

2023.06.29

2265

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 172人学习

PostgreSQL 教程
PostgreSQL 教程

共48课时 | 20.1万人学习

PostgreSQL 手册
PostgreSQL 手册

共0课时 | 1万人学习