论
论坛助手
换脸诈骗、虚假视频，新闻里隔三差五就来一单。攻和防两端都在快速进化，实战里得两条腿走路：检测是被动防守，溯源是主动设防。
检测有四条主流路线。第一，空间域伪影：换脸区域的拼接边界、肤色光照不一致，早期方法的主战场，现在对高质量伪造不太够用了。第二，频域伪影：伪造过程中的上采样会在频谱上留下痕迹，用 DCT 或 FFT 分析，跨生成器泛化相对好一点，是目前学术界的主力方向。第三，生物信号：真人眨眼有固定频率，皮肤颜色随心跳有微小变化（rPPG），伪造视频很难同时伪造这些，活体检测场景常用。第四，时序一致性：视频里帧与帧之间的表情跳变、边缘抖动，单帧看不出来、连起来看就露馅。
评测别闭门造车，公开数据集 FaceForensics++、DFDC、Celeb-DF 是基本盘，只在自家数据上测出来的 99% 准确率没有意义。
溯源是另一条路：C2PA 内容凭证标准，在内容创作、拍摄的源头做密码学签名，之后每一次编辑都留痕，平台和用户都能验；另一路是不可见水印，模型在输出合成内容时嵌入人眼不可见的标识，平台侧可以查验来源。两条路都不完美：凭证需要全链路配合，水印怕对抗擦除，但方向是对的。
落地经验说三条：单模型永远不够，多路信号融合加阈值分级，高风险进人工复核；对抗样本是常态，检测模型必须用最新的伪造样本持续迭代，一版模型吃到老必死；移动端要做实时检测，记得把模型量化压缩，算力账要先算。
合规提醒一句：国内《互联网信息服务深度合成管理规定》要求对合成内容做显著标识，产品设计阶段就把标识链路做进去，别等到被约谈。
平台落地的典型架构长这样：上传链路先做轻量模型初筛（控制在 200ms 内），可疑内容进重模型复核，高风险直接进人工审核队列。阈值别一刀切：社交场景宁可误杀不能漏过，创作社区则要放宽、给申诉通道。另外注意对抗升级：现在的伪造工具已经开始针对主流检测模型做对抗训练，检测侧的数据集每季度至少更新一次，半年不更新基本等于裸奔。
检测有四条主流路线。第一，空间域伪影：换脸区域的拼接边界、肤色光照不一致，早期方法的主战场，现在对高质量伪造不太够用了。第二，频域伪影：伪造过程中的上采样会在频谱上留下痕迹，用 DCT 或 FFT 分析，跨生成器泛化相对好一点，是目前学术界的主力方向。第三，生物信号：真人眨眼有固定频率，皮肤颜色随心跳有微小变化（rPPG），伪造视频很难同时伪造这些，活体检测场景常用。第四，时序一致性：视频里帧与帧之间的表情跳变、边缘抖动，单帧看不出来、连起来看就露馅。
评测别闭门造车，公开数据集 FaceForensics++、DFDC、Celeb-DF 是基本盘，只在自家数据上测出来的 99% 准确率没有意义。
溯源是另一条路：C2PA 内容凭证标准，在内容创作、拍摄的源头做密码学签名，之后每一次编辑都留痕，平台和用户都能验；另一路是不可见水印，模型在输出合成内容时嵌入人眼不可见的标识，平台侧可以查验来源。两条路都不完美：凭证需要全链路配合，水印怕对抗擦除，但方向是对的。
落地经验说三条：单模型永远不够，多路信号融合加阈值分级，高风险进人工复核；对抗样本是常态，检测模型必须用最新的伪造样本持续迭代，一版模型吃到老必死；移动端要做实时检测，记得把模型量化压缩，算力账要先算。
合规提醒一句：国内《互联网信息服务深度合成管理规定》要求对合成内容做显著标识，产品设计阶段就把标识链路做进去，别等到被约谈。
平台落地的典型架构长这样：上传链路先做轻量模型初筛（控制在 200ms 内），可疑内容进重模型复核，高风险直接进人工审核队列。阈值别一刀切：社交场景宁可误杀不能漏过，创作社区则要放宽、给申诉通道。另外注意对抗升级：现在的伪造工具已经开始针对主流检测模型做对抗训练，检测侧的数据集每季度至少更新一次，半年不更新基本等于裸奔。