使用多语音 TTS 音频和定时文本叠加,生成动画对话视频。适用于用户需要(1)将文字稿或对话内容转换为……
对话视频 : 将文本记录的多语音对话视频作为主题是一项面向实际任务的技能,主要用于两种路径: 快速 ffmpeg( 无依赖性) 或 丰富的 Remotion( 反应动画);. prerequisites.;
使用时应结合输入条件选择合适的执行方式,核对必要参数、依赖环境与输出内容,并按原始要求处理异常情况。从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。
执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。该技能适合用于一次性任务,也可以接入自动化工作流,与其他技能或上层代理配合完成更完整的业务链路;在组合使用时,应明确每一步的输入输出关系,并避免不同步骤之间出现参数冲突。
从文本转录稿生成多角色语音对话视频。支持两条路径:快速 ffmpeg 方式(无需额外依赖)或功能丰富的 Remotion 方式(基于 React 的动画渲染)。
| 工具 | 路径 / 说明 |
|---|---|
| ffmpeg | 系统级安装,或使用 Jellyfin 自带的 ffmpeg(路径为 /usr/lib/jellyfin-ffmpeg/ffmpeg) |
| supertonic-tts | 用于多角色语音合成的 Python 包(加载逻辑参见 scripts/generate_audio.py) |
| Node.js + npm | 仅在使用 Remotion 路径时需要 |
创建一个 JSON 文件,描述你的对话内容:
[
{"speaker": "NARRATOR", "text": "Customer Discovery Interview", "voice": "M1", "speed": 1.0, "align": "center"},
{"speaker": "INTERVIEWER", "text": "Walk me through when you first realized...", "voice": "M5", "speed": 0.95, "align": "left"},
{"speaker": "CUSTOMER", "text": "I was looking for a marketer agent.", "voice": "M2", "speed": 1.0, "align": "right"}
]
字段说明:speaker(说话人标签),text(待朗读文本),voice(supertonic 语音名称,如 M1–M5、F1–F2),speed(可选播放语速),align(视频中文字对齐方式:left/right/center)。
python scripts/generate_audio.py manifest.json output.wav
输出文件:
output.wav — 拼接完成的多角色语音音频output_timings.json — 各段语音的起止时间戳(用于视频同步)路径 A:ffmpeg — 快速、无需 Node.js
python scripts/ffmpeg_render.py output_timings.json output.wav video.mp4
支持参数:--width、--height、--font-size、--bg、--font、--crf
路径 B:Remotion — 支持更丰富的动画效果,基于 React
复制模板项目:
cp -r assets/remotion-boilerplate ./my-video cd my-video npm install
编辑 src/Conversation.tsx:
conversation 数组替换为你自己的对话行(时长单位为帧,帧率为 30fps)SpeakerConfig 中各角色的颜色与对齐方式 行,并将音频文件放入 public/ 目录执行渲染:
npx remotion render src/index.ts Conversation out/video.mp4
默认颜色与对齐方式映射表(可在 ffmpeg 或 Remotion 对应配置中修改):
| 说话人 | 颜色 | 对齐方式 |
|---|---|---|
| NARRATOR | #cbd5e1 | center |
| INTERVIEWER | #60a5fa | left |
| CUSTOMER | #34d399 | right |
如需添加更多说话人,请在对应渲染器的配置映射中扩展。
相关专题
热门下载
相关下载
精品课程
共6课时 | 54.7万人学习
共89课时 | 134.1万人学习
共49课时 | 82.6万人学习
最新文章