AI 视频经常“画面精美、声音出戏”:口型对不上、配音忽快忽慢、音乐盖过人声。音画同步不是后期简单对齐,而是一条从配音规划到混音的完整管线。

## 时长对齐:先有鸡还是先有蛋

两种做法各有拥趸:先定配音时长,再按语速和停顿剪画面节奏;或先定画面节奏,再调 TTS 语速、插入停顿来适配。

关键工具是字级时间戳:用 forced alignment(如 Montreal Forced Aligner 这类公开工具)拿到每个字的起止时间,再反推画面切换点和字幕位置。没有字级时间戳的对齐,基本靠肉眼,返工率极高。

## 唇形同步的技术路线

路线一是唇形驱动,以公开的 Wav2Lip 方法为代表:输入一段音频,驱动已有视频的嘴部区域做口型匹配。轻量、速度快,但只动嘴,头部和表情不动,适合混剪和旁白类视频。

路线二是端到端的 talking head / 数字人模型,头部、表情、口型整体联动,效果更自然,但生成成本高、实时性差。选型看场景:人物口播类值得上路线二,产品混剪类路线一通常够用。

## 音效与配乐生成

环境音可以用 Stable Audio 这类公开的音频生成模型按文本描述生成拟音;配乐则注意情绪匹配和响度一致性。人声与音乐分轨混音是基本功,公开经验中常见的做法是把音乐压低 6 到 12 dB,给人声留出清晰度。

## 常见翻车点

口型与音节错位(多为时间戳不准或语速突变)、TTS 把数字和中英混读读错、背景音乐压过人声、多个片段拼接后音色不统一。建议每条片子固定同一套 TTS 参数,音色漂移是最容易被观众察觉的。

你在做 AI 视频时,栽过最大的音画坑是哪个环节?