C++ FFmpeg如何处理音视频同步(PTS和DTS时间戳对齐)

轻敏君_2921

轻敏君_2921

2026-10-20

105人浏览

原创

音视频同步必须在采集、编码、封装三阶段持续对齐pts,且默认以音频pts为基准;因人耳更敏感,丢帧或变速对音频破坏远大于视频,故视频需追赶音频时钟,而非相反。

c++ ffmpeg如何处理音视频同步(pts和dts时间戳对齐)

音视频同步不是“设个时间戳就完事”,而是必须在采集、编码、封装三个阶段持续对齐PTS,且默认应以音频PTS为基准——因为人耳比人眼更敏感,丢帧或变速对音频的破坏远大于视频。

为什么直接用 frame->pts 会出错?

原始帧的 pts 值依赖于输入源的时间基(AVRational time_base),而不同环节使用的时间基完全不同:

  • 摄像头采集的视频帧可能用 {1, 1000}(毫秒级)
  • 麦克风采集的音频帧常用 {1, 44100}(采样率级)
  • H.264 编码器输出的视频流常设为 {1, 30}(对应 30fps)
  • 最终 MP4 封装要求所有流统一到容器时间基,如 {1, 1000} 或 {1, 90000}

不转换就硬塞进 AVPacket,会导致 av_interleaved_write_frame() 写入后播放严重脱节。正确做法是:所有帧进入封装前,必须调用 av_packet_rescale_ts() 对齐到目标流的时间基。

av_packet_rescale_ts() 的调用时机和参数陷阱

这个函数不是“可选优化”,而是封装前的强制步骤。常见错误是只对视频流做、漏掉音频流,或传反了 src_tb 和 dst_tb。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载
  • 视频编码后:用 enc_ctx->time_base 作为 src_tb,MP4 视频流的 st->time_base 作为 dst_tb
  • 音频编码后:用 enc_ctx->time_base 作为 src_tb,MP4 音频流的 st->time_base 作为 dst_tb
  • 绝对不要用 av_q2d() 手动算乘除再赋值 pkt->pts——浮点误差+溢出风险极高
  • 若编码器未设置 time_base(比如某些硬件编码器),需手动初始化:enc_ctx->time_base = av_inv_q(enc_ctx->framerate)(视频)或 enc_ctx->time_base = {1, enc_ctx->sample_rate}(音频)

采集阶段就要预留同步锚点:音频 PTS 必须成为唯一可信基准

同步不能等到封装才开始。从第一帧音频采集起,就得构建单调递增的音频时钟:

  • 采集音频帧时,记录其真实采集时间(如 clock_gettime(CLOCK_MONOTONIC, &ts)),而非依赖设备给的 frame->pts
  • 按采样数推算 PTS:若一帧含 nb_samples 个样本,采样率 sr,则该帧 PTS = 上一帧 PTS + nb_samples(单位:1/sr)
  • 视频采集帧也需打上对应音频时间戳:比如第 N 帧音频 PTS 是 T,那么最近采集的视频帧就设为 frame->pts = av_rescale_q(T, audio_tb, video_tb)
  • 关键:所有后续处理(编码、封装)都以这个音频 PTS 链为唯一时间参考,视频只负责“追赶”它

封装时丢帧/插帧的实操边界在哪里?

同步不是靠“完美对齐”,而是靠可控的动态补偿。FFmpeg 封装器本身不帮你丢帧,你得自己判断:

  • 当视频帧 PTS 比当前音频时钟早 > 100ms,说明已超前,应丢弃该帧(continue)
  • 当视频帧 PTS 比当前音频时钟晚 > 200ms,说明严重滞后,可考虑重复上一帧(复制 AVFrame 数据并更新 pts)或跳过若干帧
  • 音频绝不可丢帧或变速——否则破音;宁可让视频卡顿,也不能让声音撕裂
  • 检查是否启用 B 帧:codec_ctx->max_b_frames > 0 会打乱 DTS/PTS 顺序,编码前务必设 codec_ctx->max_b_frames = 0(H.264)或改用 CBR 模式

最易被忽略的一点:时间基转换函数 av_packet_rescale_ts() 的返回值不报错,但若输入 pkt->pts == AV_NOPTS_VALUE,它会静默失败——务必在调用前断言 pkt->pts != AV_NOPTS_VALUE,否则封装出来的文件必然不同步。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c++和c语言的区别有哪些
c++和c语言的区别有哪些

c++和c语言的区别:1、面向对象编程(OOP)支持不同;2、新增特性不同;3、标准库不同;4、编译方式不同;5、命名空间不同等等。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.14

2248

9

c++和python学习顺序推荐
c++和python学习顺序推荐

一般建议先学习C++,再学习Python,因为这样可以逐步从较为底层的编程语言向更高级的语言过渡。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

1019

6

python和c++学习性价比分析
python和c++学习性价比分析

Python易于学习,广泛应用于Web开发、数据科学和人工智能等领域,但性能较低。C语言性能高,适用于对性能要求较高的场景,如游戏开发和系统编程,但学习曲线陡峭,错误处理复杂。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

427

5

c语言和c++一样吗
c语言和c++一样吗

c语言和c++是两种不同的编程语言,虽然有相似之处,但存在显著差异。c语言专注于过程式编程和系统级开发,以简洁、高效著称。c++作为c语言的超集,引入了面向对象编程,增强了代码组织和管理能力,但学习曲线也更陡峭。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

327

5

c语言和c++先学哪个好
c语言和c++先学哪个好

初学者选择学习c语言还是c++语言,需要根据个人学习目标、背景以及编程兴趣和预期应用方向来决定。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

406

5

c语言和c++的区别和联系
c语言和c++的区别和联系

c语言和c++是计算机科学领域应用广泛的编程语言。虽然它们有着相似的基础,但它们在语言类型、语法功能和内存管理方面存在着显著差异。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

580

5

c++软件中文更改教程
c++软件中文更改教程

对于 ide,可通过打开设置,找到语言设置,选择中文,并保存更改。对于非 ide 应用程序,可查找设置或选项,选择语言设置,更改为中文,并保存更改。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.21

1409

9

python和java和c++学习性价比分析
python和java和c++学习性价比分析

Python以其易学性、丰富的库和活跃的社区而著称,适合数据科学、人工智能和Web开发。Java以其跨平台性、企业级应用开发和Android应用开发而闻名。C++以其底层控制能力、高效性能和游戏开发而著称。选择哪种语言取决于个人兴趣、职业方向和特定需求。想了解更多python和java和c++的相关内容,可以阅读本专题下面的文章。

2024.03.22

1217

7

c++和c语言学习顺序推荐
c++和c语言学习顺序推荐

对于初学者,建议先学习C语言,掌握编程基础后再转入C++,便于理解面向对象编程概念。有编程经验者可直接学习C++,快速接触高级编程技术。想了解更多c++和c语言的相关内容,可以阅读本专题下面的文章。

2024.03.25

1325

9

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习