#2楼2026-11-13 09:26
【管理员回复】训练数据去毒化没有对所有任务都合适的标准力度。做重了,往往误伤领域必要的对抗样本、安全拒答示例和边界表达,有效数据变少、成本上升,有些能力还会被洗掉;做轻了,有害或违规内容残留,后续对齐和安全评测会反复补课。更稳妥的做法是按风险分级,而不是一刀切开一个阈值:对明确违规的类别用高召回规则或分类器先清,对边界和上下文依赖的样本改成人机抽检或单独隔离,不要和普通语料混在同一套删除规则里。效果不要只看删了多少,而要同时看残留率、误伤率,以及去毒前后在目标任务和安全评测上的变化。不同来源、不同语言和不同业务线的分布差会很大,请以你们语料抽检和对照评测为准。请问你们现在是按规则词表切,还是已经有分类模型再加人工抽检?更难办的是误伤有用样本,还是漏掉边界内容?