怎么在SQL Server中为大事务构建增量变更数据捕获视图

云雪小哥_3772

云雪小哥_3772

2026-10-21

385人浏览

原创

cdc.fn_cdc_get_allchanges* 不适用于大事务,因其按__$start_lsn+__$seqval返回、不保证事务内变更原子聚合,且存在隐式行数限制与超时截断风险,易导致镜像错位或语义丢失。

怎么在sql server中为大事务构建增量变更数据捕获视图

为什么不能直接用 cdc.fn_cdc_get_all_changes_* 查大事务

大事务(比如单次更新百万行)在事务日志中会生成大量连续 LSN,但 cdc.fn_cdc_get_all_changes_* 函数默认按 __$start_lsn + __$seqval 顺序返回结果,不保证单事务内所有变更原子聚合。更关键的是:该函数有隐式行数限制(尤其在 SQL Server 2016+ 中受内存和查询超时影响),大事务可能被截断、分片到多个调用中,导致下游解析出错或丢失操作语义(例如 UPDATE 的前镜像/后镜像错位)。

必须用 __$start_lsn + __$tran_end_time 聚合事务边界

SQL Server CDC 的 _CT 表本身不存事务结束时间,但可通过关联 sys.fn_cdc_map_lsn_to_time 和 sys.fn_cdc_get_max_lsn 推导出近似事务窗口;更可靠的做法是先查 cdc.lsn_time_mapping(需确保 sys.sp_cdc_add_job 已启用 cleanup job 并运行过),再 JOIN 到 _CT 表:

SELECT 
  t.__$start_lsn,
  t.__$operation,
  t.__$seqval,
  l.tran_end_time,
  COUNT(*) OVER (PARTITION BY t.__$start_lsn, l.tran_end_time) AS tran_row_count
FROM cdc.dbo_sys_order_info_CT t
INNER JOIN cdc.lsn_time_mapping l 
  ON t.__$start_lsn = l.start_lsn
WHERE t.__$start_lsn >= <code>sys.fn_cdc_get_min_lsn('dbo_sys_order_info')</code>
  AND l.tran_end_time IS NOT NULL

注意:lsn_time_mapping 只在 cleanup job 运行后才填充,若为空,说明 job 未执行或失败 —— 此时不能依赖时间字段做聚合。

@supports_net_changes = 1 不适合大事务增量消费

启用 net changes(即建表时设 @supports_net_changes = 1)会生成 cdc.fn_cdc_get_net_changes_* 函数,它把同一事务内的 INSERT+UPDATE+DELETE 合并为最终状态,但代价是:它强制扫描整个事务范围内的所有变更行,对大事务极易触发 tempdb spill 或超时。实际生产中,大事务场景应禁用 net changes,改用 all changes 模式,并自行按 __$start_lsn 分批处理:

  • 每次只取一个 __$start_lsn 对应的所有行(用 WHERE __$start_lsn = @lsn + ORDER BY __$seqval)
  • 用 TOP (5000) 分页避免单次结果集过大
  • 记录已处理的最高 __$start_lsn 和对应最大 __$seqval,作为下一轮起点

大事务下的 LSN 推进必须跳过中间值

很多人误以为调用 sys.fn_cdc_increment_lsn(@last_lsn) 就能安全推进到下一个事务 —— 错。大事务的 LSN 是连续块,increment_lsn 只加 1,大概率落在同一事务内部,导致重复消费。正确做法是:查出当前已处理事务的最大 __$start_lsn,再用 sys.fn_cdc_get_max_lsn() 获取全局最新 LSN,然后用 sys.fn_cdc_get_min_lsn('capture_instance') 确认下一轮起始点是否仍在有效窗口内。中间缺失的 LSN 不代表数据丢失,而是尚未提交或已被 cleanup job 清理 —— 这种情况必须靠重试机制兜底,不能靠 LSN 线性递增假设。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.11

5651

4

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

2023.06.29

2745

3

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2023.08.14

3941

10

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

2023.08.31

3031

3

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.05

967

5

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.09

2667

5

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

2023.10.16

2667

4

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

2023.10.16

2893

3

vb连接数据库的方法
vb连接数据库的方法

vb连接数据库的方法有使用ADO对象库、使用OLEDB数据提供程序、使用ODBC数据源等。详细介绍:1、使用ADO对象库方法,ADO是一种用于访问数据库的COM组件,可以通过ADO连接数据库并执行SQL语句。可以使用ADODB.Connection对象来建立与数据库的连接,然后使用ADODB.Recordset对象来执行查询和操作数据;2、使用OLEDB数据提供程序方法等等。

2023.10.19

2481

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.8万人学习