A
视频理解从「抽帧 + 图像模型」进化到了原生视频模型,选型考虑:
1. 抽帧方案:成本低,实现简单,但对快速动作和精细时序关系建模不足;
2. 原生视频模型:时序建模好,但显存和算力消耗大,长视频尤其吃力;
3. 混合:关键片段用原生模型,整体用抽帧粗筛,是当前性价比方案;
4. 分辨率:视频理解降分辨率会明显影响小目标识别。
实际部署:视频理解的成本主要花在 token 数量上,帧率和分辨率是两个调节旋钮,要按场景调。
踩过的坑:以为帧率越高越好,实际 5fps 和 15fps 在很多场景效果差异不大,但成本差 3 倍。
大家视频理解怎么部署?
1. 抽帧方案:成本低,实现简单,但对快速动作和精细时序关系建模不足;
2. 原生视频模型:时序建模好,但显存和算力消耗大,长视频尤其吃力;
3. 混合:关键片段用原生模型,整体用抽帧粗筛,是当前性价比方案;
4. 分辨率:视频理解降分辨率会明显影响小目标识别。
实际部署:视频理解的成本主要花在 token 数量上,帧率和分辨率是两个调节旋钮,要按场景调。
踩过的坑:以为帧率越高越好,实际 5fps 和 15fps 在很多场景效果差异不大,但成本差 3 倍。
大家视频理解怎么部署?