如何使用Oracle PL/SQL编写高效的增量同步数据处理脚本?

云枫大大_3345

云枫大大_3345

2026-07-04

398人浏览

原创

应使用bulk collect + forall分批处理增量数据,因其避免逐行上下文切换、复用执行计划、降低pga内存压力;错误用loop会导致性能骤降、锁表及ora-04030等异常。

直接用 forall + bulk collect 做增量同步,比逐行 update 快 10–100 倍,但必须配合合理的分批大小和事务控制,否则容易触发 ora-04030 或锁表。

为什么不能用简单 LOOP 处理增量数据

常见错误是写一个 FOR emp IN (SELECT * FROM source WHERE ...) 然后在循环里单条 INSERT/UPDATE。这种写法每行都产生一次上下文切换和 SQL 解析,10 万行可能耗时几分钟,且极易被其他会话阻塞。

  • 每次 UPDATE 都要走完整执行计划,无法复用
  • 未显式控制事务边界,一旦中断,回滚代价高
  • 没有内存限制机制,大结果集直接撑爆 PGA

正确做法:BULK COLLECT 分批 + FORALL 批量提交

核心是把“查”和“写”解耦,并控制每次处理的数据量(推荐 5000–10000 行)。下面是一个典型增量同步模板:

Crypto Sniper Oracle
Crypto Sniper Oracle

机构级量化市场预言机,提供订单簿失衡(OBI)、VWAP分析、自动化报告及Telegram预警。

下载
DECLARE
  TYPE t_row IS TABLE OF target_table%ROWTYPE;
  v_rows t_row;
  CURSOR c_delta IS
    SELECT /*+ CARDINALITY(t 1000) */ t.* 
    FROM source_table@dblink t
    WHERE t.last_modified > (SELECT NVL(MAX(last_modified), DATE '1970-01-01') FROM target_table);
BEGIN
  OPEN c_delta;
  LOOP
    FETCH c_delta BULK COLLECT INTO v_rows LIMIT 5000;
    EXIT WHEN v_rows.COUNT = 0;
<pre class="brush:php;toolbar:false;">FORALL i IN 1..v_rows.COUNT
  INSERT INTO target_table VALUES v_rows(i)
  ON DUPLICATE KEY UPDATE /* Oracle 12c+ 用 MERGE,11g 用 MERGE 或先 DELETE 后 INSERT */
    last_modified = v_rows(i).last_modified,
    col2 = v_rows(i).col2;

COMMIT;

END LOOP; CLOSE c_delta; END;

  • LIMIT 5000 是关键,避免 PGA 内存溢出
  • 游标加 CARDINALITY 提示,帮优化器预估返回行数
  • WHERE 条件必须走索引(如 last_modified 字段建索引),否则全表扫源库
  • Oracle 11g 不支持 ON DUPLICATE KEY UPDATE,得用 MERGE 或拆成 DELETE+INSERT

增量识别字段选错会导致数据丢失

用 ROWID 或 ROWNUM 做增量标记是危险的——源表 UPDATE 后 ROWID 可能变,ROWNUM 每次查询都重排。唯一可靠的是业务时间戳或自增序列(如 id)。

  • 优先选 last_modified,但必须确保应用层严格更新该字段
  • 若无时间字段,可用 ORA_ROWSCN(需开启行级依赖),但精度为块级,可能漏更新
  • 绝对不要用 MAX(id) 做条件:并发插入时可能跳过新 ID
  • 首次同步建议用全量初始化,再切到增量逻辑

真正难的不是写对语法,而是确认源端数据变更是否可精确捕获、目标端冲突如何消解、失败后能否断点续传——这些不在 PL/SQL 范围内,得靠外部日志或变更表兜底。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

oracle

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
oracle清空表数据
oracle清空表数据

当表中的数据不需要时,则应该删除该数据并释放所占用的空间。本专题为大家提供oracle清空表数据的相关文章,帮助大家解决该问题。

2023.08.16

861

5

Oracle中declare的使用
Oracle中declare的使用

Oracle DECLARE语句是PL/SQL编程语言中用于声明变量、常量、游标或异常的关键字。它的主要作用是在程序中定义这些对象,以便在后续的代码中使用。DECLARE语句的语法简单明了,可以根据需要声明多个对象。通过使用这些声明的对象,可以进行各种操作,如计算、查询数据库、处理异常等 。

2023.09.15

2353

5

oracle怎么分页
oracle怎么分页

实现分页的步骤:1、使用ROWNUM进行分页查询;2、在执行查询之前进行设置分页参数;3、使用"COUNT(*)"函数来获取总行数,并使用"CEIL"函数来向上取整计算总页数;4、在外部查询中使用"WHERE"子句来筛选出特定的行号范围,以实现分页查询。想了解更多oracle怎么分页的文章,可以来阅读本专题先的文章。

2023.09.18

2390

5

Oracle查看表操作历史记录
Oracle查看表操作历史记录

查看操作历史记录的方法:1、使用Oracle内置的审计功能,可以记录数据库中发生的各种操作,包括登录、DDL语句、DML语句等;2、使用Oracle日志文件,其中包含了数据库中发生的各种操作,可以通过查看日志文件来获取操作历史记录;3、使用Oracle的Flashback功能,可以查看数据库在某个时间点的操作历史记录;4、使用第三方工具等。本专题还提供其他查看表操作的文章,大家可以免费阅读。

2023.09.19

1389

3

Oracle中RAC的用法
Oracle中RAC的用法

Oracle中RAC的用法:1、通过在多个服务器上运行数据库实例来提供高可用性;2、允许在需要时增加或减少节点数量;3、通过将工作负载分布到多个节点上来实现负载均衡;4、使用共享存储来实现多个节点之间的数据共享;5、允许多个节点同时处理数据库请求,从而实现并行处理;6、提供了透明故障切换功能;7、使用了一些技术来确保数据的一致性;8、提供了管理工具来简化RAC环境的管理和维护。本专题还提供RAC相关的其他文章,大家可以免费阅读。

2023.09.19

1973

7

oracle imp
oracle imp

imp是Oracle数据库中的一个命令行工具,用于将导出的数据和对象从一个数据库实例导入到另一个数据库实例。imp命令的一般语法为“imp username/password@connect_string file=file_name [options]”。

2023.09.19

2549

4

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4169

19

oracle通配符有哪些
oracle通配符有哪些

oracle通配符有“%”、“_”、“[]”和“[^]"。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.11.08

237

5

oracle四舍五入怎么操作
oracle四舍五入怎么操作

oracle四舍五入操作可以使用ROUND函数来实现,其语法为“ROUND(number, decimal_places)”,其中,number是要进行四舍五入的数值,decimal_places是指定的小数位数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.11.14

666

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程