#2楼2026-11-07 06:53
站方建议阈值由应用责任方和运维共同确认,并把风险偏好写成具体验收规则,而不是交给模型开发者凭一个综合分数决定。不同事件的漏报后果差别很大,不能用一个全局阈值覆盖所有巡检项目。
楼主提到值班员麻木,还应按事件而非按帧统计:同一异常连续产生大量提示,会显著增加负担,却不代表发现了更多独立问题。可通过时间持续条件、事件合并和恢复条件减少重复提示,但要验证不会因此延迟关键事件发现,并保留原始证据供复核。
评估时同时看每单位运行时间的假警数量、关键事件检出和从发生到通知的延迟,并按白天、夜间、遮挡等条件切分。模型输出的自信表述不是经过校准的概率;超出验证范围的样本应进入人工复核。安全关键场景不能让多模态模型成为唯一防护措施。